Czym jest Human-in-the-Loop (HITL)?

Human-in-the-Loop (HITL) to sposób działania systemu AI, w którym człowiek może sprawdzić, nadpisać lub cofnąć jego wynik.

Co oznacza ten termin

System AI przedstawia propozycję, na przykład decyzję lub oznaczenie. Człowiek pozostaje w procesie i może ją zaakceptować, zmienić lub odrzucić. Akt UE o AI opisuje tę zdolność w art. 14 ust. 4. Osoba może zdecydować, że nie korzysta z systemu, albo może zignorować, nadpisać lub cofnąć jego wynik. Akt nazywa to nadzorem ludzkim. Nie używa terminu HITL.

Jak EASA używa tego terminu

EASA wymienia human-in-the-loop, human-on-the-loop i human-in-command jako sposoby nadzorowania systemu opartego na AI. Jej dokument koncepcyjny nie definiuje tych pojęć. Wnioskodawca ma podać definicje, których używa. Źródło, które mówi „HITL oznacza X”, podaje więc własną definicję.

EASA opisuje też poziomy AI. Na poziomie 1 AI wzmacnia możliwości człowieka. Na poziomie 2 AI i człowiek pracują jako zespół, a AI może podejmować decyzje automatycznie pod nadzorem człowieka.

Czego akt wymaga od osoby

Dla systemów AI wysokiego ryzyka art. 14 ust. 4 wymaga, aby system pozwalał osobie:

• Być świadomą błędu automatyzacji, czyli skłonności do nadmiernego polegania na wyniku systemu.
• Zignorować, nadpisać lub cofnąć wynik.
• Przerwać działanie systemu przyciskiem stop lub podobną procedurą. System przechodzi wtedy w stan bezpieczny.

Inspekcja lotniska

ICAO Załącznik 14 wymaga codziennej inspekcji pola ruchu naziemnego. Liczba inspekcji zależy od numeru kodu referencyjnego. EASA AMC1 ADR.OPS.B.015 mówi, że operator powinien mieć program monitorowania i inspekcji. Fragmenty przeczytane przez TarmacView nie wspominają o AI ani o HITL. Nie określają też, kto ma sprawdzać wyniki inspekcji.