Co je Human-in-the-Loop (HITL)?

Human-in-the-Loop (HITL) je způsob provozu systému umělé inteligence, při němž člověk může zkontrolovat, přepsat nebo zvrátit jeho výstup.

Co pojem znamená

Systém umělé inteligence navrhne řešení, například rozhodnutí nebo označení. Člověk zůstává v procesu a může návrh přijmout, změnit nebo odmítnout. Nařízení EU o umělé inteligenci tuto schopnost popisuje v článku 14 odst. 4. Člověk se může rozhodnout systém nepoužít, nebo může výstup ignorovat, přepsat nebo zvrátit. Nařízení tomu říká lidský dohled. Termín HITL nepoužívá.

Jak EASA pojem používá

EASA uvádí human-in-the-loop, human-on-the-loop a human-in-command jako způsoby dohledu nad systémem založeným na umělé inteligenci. Její koncept tyto pojmy nedefinuje. Vyzývá žadatele, aby uvedl definice, které používá. Zdroj, který říká „HITL znamená X“, tedy uvádí vlastní definici.

EASA také popisuje úrovně umělé inteligence. Na úrovni 1 umělá inteligence zvyšuje lidské schopnosti. Na úrovni 2 spolupracují umělá inteligence a člověk jako tým a umělá inteligence může rozhodovat automaticky pod lidským dohledem.

Co zákon o umělé inteligenci žádá od člověka

U systémů umělé inteligence s vysokým rizikem článek 14 odst. 4 říká, že systém musí člověku umožnit tyto úkony:

• Být si vědom automatizačního zkreslení, tedy sklonu spoléhat se na výstup systému příliš.
• Ignorovat, přepsat nebo zvrátit výstup.
• Přerušit systém tlačítkem „stop“ nebo podobným postupem. Systém pak přejde do bezpečného stavu.

Inspekce letiště

ICAO Annex 14 vyžaduje denní kontrolu pohybové plochy. Počet kontrol závisí na kódovém čísle. EASA AMC1 ADR.OPS.B.015 uvádí, že provozovatel by měl mít program monitorování a inspekce pohybové plochy. Pasáže, které TarmacView četl, nezmiňují AI ani HITL. Neuvádějí, kdo musí výsledky inspekce kontrolovat.