Was ist Mensch im Regelkreis (HITL)?
Human-in-the-Loop (HITL) ist eine Betriebsweise eines KI-Systems, bei der eine Person dessen Ausgabe prüfen, überstimmen oder rückgängig machen kann.
Was der Begriff bedeutet
Das KI-System macht einen Vorschlag, zum Beispiel eine Entscheidung oder eine Markierung. Eine Person bleibt im Prozess und kann ihn annehmen, ändern oder ablehnen. Der EU AI Act beschreibt diese Fähigkeit in Artikel 14 Absatz 4. Die Person kann entscheiden, das System nicht zu verwenden, oder die Ausgabe ignorieren, überstimmen oder rückgängig machen. Das Gesetz nennt dies menschliche Aufsicht. Den Begriff HITL verwendet es nicht.
Wie EASA den Begriff verwendet
EASA nennt Human-in-the-Loop, Human-on-the-Loop und Human-in-Command als Arten, ein KI-basiertes System zu beaufsichtigen. Das Konzeptpapier definiert sie nicht. Es verlangt vom Antragsteller, die verwendeten Definitionen anzugeben. Eine Quelle, die sagt „HITL bedeutet X“, gibt daher ihre eigene Definition an.
EASA beschreibt außerdem Stufen der KI. Auf Stufe 1 verstärkt KI die menschlichen Fähigkeiten. Auf Stufe 2 arbeiten KI und Mensch im Team zusammen, und die KI kann unter menschlicher Aufsicht Entscheidungen selbst treffen.
Was der AI Act von der Person verlangt
Bei KI-Systemen mit hohem Risiko verlangt Artikel 14 Absatz 4, dass das System der Person Folgendes ermöglicht:
- Sich der Automatisierungsverzerrung bewusst zu sein, also der Neigung, sich zu sehr auf die Ausgabe des Systems zu verlassen.
- Die Ausgabe zu ignorieren, zu überstimmen oder rückgängig zu machen.
- Das System mit einer Stopp-Taste oder einem ähnlichen Verfahren zu unterbrechen. Das System geht dann in einen sicheren Zustand.
Inspektion des Flugplatzes
ICAO Anhang 14 verlangt, dass der Bewegungsbereich täglich inspiziert wird. Die Zahl der Inspektionen richtet sich nach der Code-Zahl. EASA AMC1 ADR.OPS.B.015 besagt, dass der Betreiber ein Überwachungs- und Inspektionsprogramm haben sollte. Die Passagen, die TarmacView gelesen hat, erwähnen KI und HITL nicht. Sie sagen auch nicht, wer Inspektionsergebnisse prüfen muss.
Häufig gestellte Fragen
- Definiert EASA Human-in-the-Loop?
- Nein. EASA nennt Human-in-the-Loop, Human-on-the-Loop und Human-in-Command als Arten, ein KI-basiertes System zu beaufsichtigen. In seinem Konzeptpapier zur KI (vorgeschlagene Ausgabe 02) gibt die EASA keine Definitionen. Sie verlangt vom Antragsteller, die Definitionen anzugeben, die er verwendet.
- Verwendet der EU AI Act den Begriff Human-in-the-Loop?
- Nein. Artikel 14 des EU AI Act verwendet den Begriff menschliche Aufsicht. Er gilt für KI-Systeme mit hohem Risiko. Diese Systeme müssen so konstruiert sein, dass natürliche Personen sie während der Verwendung beaufsichtigen können.
- Verlangen die Flugplatzvorschriften eine menschliche Prüfung der KI-Inspektionsergebnisse?
- In den Quellen, die TarmacView geprüft hat, steht keine solche Vorschrift. ICAO Anhang 14 und die EASA-Vorschriften verlangen Inspektionen des Bewegungsbereichs. Die gelesenen Passagen erwähnen weder KI noch Human-in-the-Loop.
Referenzen
- eu-ai-act-art-14
- Regulation (EU) 2024/1689 (AI Act), Article 14: Human oversight European Union
- easa-ai-concept-paper-2
- EASA Artificial Intelligence Concept Paper: guidance for Level 1 and 2 machine learning applications, Proposed Issue 02 EASA
- easa-ai-concept-paper-2-news
- EASA publishes Artificial Intelligence Concept Paper Issue 2, Guidance for Level 1 and 2 machine learning applications EASA
- icao-annex-14-vol-1
- ICAO Annex 14 Volume I, Aerodrome Design and Operations, 9th edition ICAO
- easa-ear-aerodromes
- Easy Access Rules for Aerodromes (Regulation (EU) No 139/2014), AMC1 ADR.OPS.B.015 EASA
Dies ist ein Referenzeintrag. TarmacView bietet Drohneninspektionsdienste an und verkauft nicht die in diesem Glossar beschriebene Ausrüstung oder Materialien.