Człowiek w pętli

Definicja

Pojęcie „human-in-the-loop” (HITL) odnosi się do systemów, w których ludzka ocena jest zintegrowana z przepływami pracy sztucznej inteligencji w przypadku zadań takich jak szkolenie, ocena lub podejmowanie decyzji.

Cel

Celem jest połączenie ludzkiej wiedzy i umiejętności z wydajnością sztucznej inteligencji. Zapewnia to jakość, nadzór etyczny i bezpieczeństwo w newralgicznych aplikacjach.

Znaczenie

• Zmniejsza liczbę błędów w obszarach wysokiego ryzyka (np. opieka zdrowotna, obronność).
• Udoskonala szkolenie poprzez informacje zwrotne od człowieka.
• Zapewnia rozliczalność w systemach zautomatyzowanych.
• Wolniejsze i droższe w porównaniu do pełnej automatyzacji.

Jak to działa

1. Określ obszary, w których wymagany jest nadzór człowieka.
2. Zbieraj wyniki i sugestie sztucznej inteligencji.
3. Ludzie weryfikują, poprawiają i udzielają informacji zwrotnych.
4. Informacje zwrotne są uwzględniane w celu ponownego trenowania lub udoskonalania modeli.
5. Monitoruj wydajność systemu poprzez stałą kontrolę przez człowieka.

Przykłady (świat rzeczywisty)

• Moderacja treści: ludzie sprawdzają oznaczone przez sztuczną inteligencję posty.
• Medyczna sztuczna inteligencja: lekarze weryfikują diagnozy stawiane przez sztuczną inteligencję.
• Reinforcement Learning from Human Feedback (RLHF): trenuje modele językowe, takie jak ChatGPT.

Odniesienia / Dalsza lektura

• Amershi i in. „Władza w rękach ludu: rola ludzi w interaktywnym uczeniu maszynowym”. AI Magazine.
• Ramy zarządzania ryzykiem AI NIST.
• Normy IEEE dotyczące systemów z udziałem człowieka.
• Zrozumienie interakcji człowieka z otoczeniem