Čo je človek v slučke (HITL)?

Človek v slučke (HITL) je spôsob prevádzky systému umelej inteligencie, pri ktorom osoba môže preskúmať, prepísať alebo zrušiť jeho výstup.

Čo pojem znamená

Systém AI vytvorí návrh, napríklad rozhodnutie alebo označenie. Osoba zostáva v procese a môže návrh prijať, zmeniť alebo odmietnuť. Nariadenie EÚ o AI tiež opisuje túto schopnosť v článku 14 ods. 4. Osoba sa môže rozhodnúť systém nepoužiť, alebo môže výstup ignorovať, prepísať alebo zrušiť. Nariadenie to nazýva ľudským dohľadom. Nepoužíva pojem HITL.

Ako pojem používa EASA

EASA uvádza human-in-the-loop, human-on-the-loop a human-in-command ako spôsoby dohľadu nad systémom založeným na AI. Jej koncepčný dokument ich nedefinuje. Vyzýva žiadateľa, aby uviedol definície, ktoré používa. Zdroj, ktorý tvrdí, že „HITL znamená X“, preto uvádza vlastnú definíciu.

EASA tiež opisuje úrovne AI. Na úrovni 1 AI rozširuje ľudské schopnosti. Na úrovni 2 AI a ľudia pracujú ako tím a AI môže rozhodovať automaticky pod ľudským dohľadom.

Čo nariadenie o AI vyžaduje od osoby

Pri systémoch AI s vysokým rizikom článok 14 ods. 4 uvádza, že systém musí osobe umožniť tieto veci:

• Byť si vedomá automatizačného skreslenia, teda sklonu príliš sa spoliehať na výstup systému.
• Ignorovať, prepísať alebo zrušiť výstup.
• Prerušiť systém tlačidlom „stop“ alebo podobným postupom. Systém potom prejde do bezpečného stavu.

Inšpekcia letiska

ICAO Annex 14 vyžaduje, aby sa pohybová plocha kontrolovala každý deň. Počet kontrol závisí od referenčného kódového čísla. EASA AMC1 ADR.OPS.B.015 uvádza, že prevádzkovateľ by mal mať program monitorovania a kontroly. Pasáže, ktoré prečítal TarmacView, nespomínajú AI ani HITL. Neuvádzajú, kto musí preskúmať výsledky inšpekcie.