Was ist Mensch im Regelkreis (HITL)?
Human-in-the-Loop (HITL) ist eine Betriebsweise eines KI-Systems, bei der eine Person dessen Ausgabe prüfen, überstimmen oder rückgängig machen kann.
Das KI-System macht einen Vorschlag, etwa eine Entscheidung oder eine Markierung. Eine Person bleibt im Prozess und kann ihn annehmen, ändern oder ablehnen. Diese Seite zeigt, woher der Begriff stammt. Sie zeigt außerdem, was die EU-Texte zur selben Idee sagen.
Was der Begriff bedeutet
Im Jahr 2019 definierte die Expertengruppe der EU auf hoher Ebene für künstliche Intelligenz HITL als die Fähigkeit zum menschlichen Eingreifen in jedem Entscheidungszyklus. Die Gruppe ergänzt, dass dies in vielen Fällen weder möglich noch wünschenswert ist.
Der EU AI Act beschreibt dieselbe Idee mit einem anderen Begriff. Artikel 14 Absatz 4 sagt, die Person kann entscheiden, das System nicht zu verwenden, oder die Ausgabe ignorieren, überstimmen oder rückgängig machen. Das Gesetz nennt dies menschliche Aufsicht. Den Begriff HITL verwendet es nicht.
HITL, HOTL und HIC
Die Expertengruppe nennt drei Arten, ein KI-System zu beaufsichtigen.
| Begriff | Was die Person tun kann |
|---|---|
| Human-in-the-Loop (HITL) | In jedem Entscheidungszyklus des Systems eingreifen |
| Human-on-the-Loop (HOTL) | Während des Entwurfszyklus eingreifen und den Betrieb überwachen |
| Human-in-Command (HIC) | Die gesamte Tätigkeit beaufsichtigen und entscheiden, wann und wie das System genutzt wird |
Die Gruppe sagt, dass die nötige Aufsicht vom Anwendungsbereich und vom Risiko abhängt. Je weniger Aufsicht eine Person ausüben kann, desto umfangreichere Prüfungen und strengere Governance verlangt sie.
Wie die EASA den Begriff verwendet
Die EASA nennt Human-in-the-Loop, Human-on-the-Loop und Human-in-Command als Arten, ein KI-basiertes System zu beaufsichtigen. Ihr Konzeptpapier zur KI definiert sie nicht. Beschreibt ein Antragsteller die Aufsicht mit diesen Begriffen, sagt die EASA, dass der Antragsteller die verwendeten Definitionen klarstellen sollte. Eine Quelle, die sagt „HITL bedeutet X“, gibt daher ihre eigene Definition an.
Das Konzeptpapier ist ein erster Satz an Zielen für KI in sicherheitsrelevanten Anwendungen der Luftfahrt. Die EASA sagt, dass es noch keine endgültige Leitlinie ist. Sein Geltungsbereich sind die Bereiche der EASA-Grundverordnung, also der Verordnung (EU) 2018/1139.
Die EASA ordnet KI-Anwendungen in Stufen ein. Die Stufen richten sich danach, was die KI tut und wie viel Befugnis der Endnutzer behält (Tabelle 2 des Papiers).
| Stufe | Dem KI-System zugewiesene Funktion | Befugnis des Endnutzers |
|---|---|---|
| 1A, menschliche Erweiterung | Unterstützung bei Informationsgewinnung und -analyse | Vollständig |
| 1B, menschliche Unterstützung | Unterstützung bei der Entscheidungsfindung | Vollständig |
| 2A, Zusammenarbeit Mensch-KI | Gelenkte Entscheidung und automatische Umsetzung von Maßnahmen | Vollständig |
| 2B, Kollaboration Mensch-KI | Überwachte automatische Entscheidung und Umsetzung von Maßnahmen | Teilweise |
| 3A, abgesicherte fortgeschrittene Automatisierung | Abgesicherte automatische Entscheidung und Umsetzung von Maßnahmen | Eingeschränkt, nach Warnung |
| 3B, nicht überwachte fortgeschrittene Automatisierung | Nicht überwachte automatische Entscheidung und Umsetzung von Maßnahmen | Nicht zutreffend |
Auf Stufe 1 trifft der Endnutzer die Entscheidungen und setzt alle Maßnahmen um. Auf Stufe 2 kann das KI-System Maßnahmen auswählen und umsetzen. Der Endnutzer behält die Aufsicht und kann jederzeit eingreifen. Das Papier behandelt die Stufen 1 und 2. Für Stufe 3 gibt es noch keine Leitlinie.
Was die EASA vom System verlangt
Für sicherheitsrelevante KI nennt das Konzeptpapier Ziele, die eine Prüfung durch eine Person möglich machen. Es sind Ziele für Antragsteller.
- Vertrauen. Das System sollte eine Angabe zum Vertrauensniveau jeder Ausgabe liefern (Ziel EXP-04). Es sollte überwachen, dass das Vertrauen innerhalb des festgelegten Niveaus bleibt (EXP-07).
- Erklärung. Der Endnutzer kann bei Bedarf eine Erklärung oder weitere Details erhalten (EXP-16).
- Gegenprüfung. Muss eine Entscheidung nach Verfahren validiert werden, sollte das System den Endnutzer um eine Gegenprüfung bitten können (HF-04).
- Schulung. Das Papier setzt auf Lizenzierung und Schulung, damit die Personen, die die KI beaufsichtigen, sie angemessen bedienen (Vorgabe ORG-08).
Was der AI Act von der Person verlangt
Bei KI-Systemen mit hohem Risiko verlangt Artikel 14 Absatz 4, dass das System der Person Folgendes ermöglicht:
- Die Funktionsfähigkeit und die Grenzen des Systems zu verstehen und seinen Betrieb zu überwachen.
- Sich der Automatisierungsverzerrung bewusst zu sein, also der Neigung, sich zu sehr auf die Ausgabe des Systems zu verlassen.
- Die Ausgabe richtig zu interpretieren.
- Zu entscheiden, das System nicht zu verwenden, oder die Ausgabe zu ignorieren, zu überstimmen oder rückgängig zu machen.
- Das System mit einer Stopp-Taste oder einem ähnlichen Verfahren zu unterbrechen. Das System geht dann in einen sicheren Zustand.
Artikel 26 Absatz 2 legt dem Betreiber eine Pflicht auf. Der Betreiber weist die menschliche Aufsicht Personen zu, die über die nötige Kompetenz, Schulung und Befugnis sowie die nötige Unterstützung verfügen.
Artikel 14 gilt nur für Systeme mit hohem Risiko. Artikel 6 und Anhang III legen fest, welche Systeme ein hohes Risiko haben. Anhang III nennt Sicherheitskomponenten in kritischer digitaler Infrastruktur, im Straßenverkehr sowie in der Versorgung mit Wasser, Gas, Heizung und Strom. Flugplätze nennt er nicht. Ob ein bestimmtes Inspektionswerkzeug ein hohes Risiko hat, hängt von seinem Verwendungszweck ab. Die Verordnung (EU) 2018/1139 über die Zivilluftfahrt steht in Anhang I Abschnitt B. Für ein KI-System mit hohem Risiko nach Artikel 6 Absatz 1, das sich auf ein Produkt aus Abschnitt B bezieht, bestimmt Artikel 2 Absatz 2, dass nur die Artikel 6 Absatz 1, 102 bis 109 und 112 gelten. Artikel 14 gehört nicht dazu.
Inspektion am Flugplatz
Die Flugplatzvorschriften legen die Inspektionspflicht dem Flugplatzbetreiber auf. ADR.OPS.B.015 Buchstabe b sagt, dass der Betreiber regelmäßige Inspektionen der Bewegungsfläche und der zugehörigen Anlagen durchführen muss. ICAO Anhang 14 2.9.3 verlangt täglich eine Inspektion der Bewegungsfläche. Die Zahl hängt von der Referenz-Code-Zahl ab.
AMC1 ADR.OPS.B.015 der EASA sagt, der Betreiber sollte ein Inspektionsprogramm haben und ein Protokoll führen. AMC2 sagt, der Betreiber sollte das inspizierende Personal benennen. Diese Personen sollten in Inspektionstechniken und in der Berichterstattung über Ergebnisse geschult sein. AMC ist ein akzeptabler Weg zur Einhaltung, keine Pflicht.
Die Passagen, die TarmacView gelesen hat, erwähnen weder KI noch HITL. Sie sagen auch nicht, wer die Ergebnisse eines KI-Werkzeugs prüfen muss.
Ein Beispiel zeigt, wo die Person eingebunden ist. Ein KI-Werkzeug markiert in Drohnenbildern einen möglichen Befund, etwa eine ausgefallene Leuchte oder einen Riss. Ein Prüfer nimmt jede Markierung an oder lehnt sie ab, bevor sie in den Bericht gelangt. In der Sprache der EASA unterstützt die KI die Informationsanalyse, und die Person behält die volle Befugnis. Das entspricht Stufe 1A. Das Konzeptpapier trifft keine Aussage zur Drohneninspektion. Dies ist eine Anwendung seiner Tabelle.
Häufig gestellte Fragen
- Was bedeutet Human-in-the-Loop?
- Es bedeutet, dass eine Person in das eingreifen kann, was ein KI-System tut. In der Formulierung der EU-Expertengruppe ist Human-in-the-Loop (HITL) die Fähigkeit zum menschlichen Eingreifen in jedem Entscheidungszyklus des Systems. Im Alltag bedeutet der Begriff oft, dass eine Person die Ausgabe der KI prüfen, ändern oder ablehnen kann.
- Was ist der Unterschied zwischen Human-in-the-Loop, Human-on-the-Loop und Human-in-Command?
- Der Unterschied liegt darin, wo die Person eingreift. Die EU-Expertengruppe sagt, HITL ist das Eingreifen in jedem Entscheidungszyklus. Human-on-the-Loop (HOTL) ist das Eingreifen während des Entwurfszyklus und die Überwachung des Betriebs. Human-in-Command (HIC) ist die Aufsicht über die gesamte Tätigkeit des Systems, mit der Möglichkeit zu entscheiden, wann und wie es genutzt wird.
- Definiert EASA Human-in-the-Loop?
- Nein. EASA nennt Human-in-the-Loop, Human-on-the-Loop und Human-in-Command als Arten, ein KI-basiertes System zu beaufsichtigen. Das KI-Konzeptpapier (vorgeschlagene Ausgabe 02) gibt keine Definitionen. Beschreibt ein Antragsteller die Aufsicht mit diesen Begriffen, sagt die EASA, dass der Antragsteller die verwendeten Definitionen klarstellen sollte.
- Verwendet der EU AI Act den Begriff Human-in-the-Loop?
- Nein. Artikel 14 des EU AI Act verwendet den Begriff menschliche Aufsicht. Er gilt für KI-Systeme mit hohem Risiko. Diese Systeme müssen so konstruiert sein, dass natürliche Personen sie während der Verwendung beaufsichtigen können. Artikel 26 sagt, dass der Betreiber diese Aufsicht Personen mit der nötigen Kompetenz, Schulung und Befugnis zuweist.
- Gilt der EU AI Act für jedes KI-Inspektionswerkzeug?
- Nein. Artikel 14 gilt für KI-Systeme mit hohem Risiko. Artikel 6 und Anhang III legen fest, welche Systeme ein hohes Risiko haben. Anhang III nennt Sicherheitskomponenten in kritischer digitaler Infrastruktur, im Straßenverkehr sowie in der Versorgung mit Wasser, Gas, Heizung und Strom. Flugplätze nennt er nicht. Ob ein bestimmtes Werkzeug ein hohes Risiko hat, hängt von seinem Verwendungszweck ab.
- Verlangen die Flugplatzvorschriften eine menschliche Prüfung der KI-Inspektionsergebnisse?
- In den Quellen, die TarmacView geprüft hat, steht keine solche Vorschrift. Die Verordnung (EU) Nr. 139/2014 verlangt vom Flugplatzbetreiber regelmäßige Inspektionen des Bewegungsbereichs. ICAO Anhang 14 verlangt tägliche Inspektionen. Die gelesenen Passagen erwähnen weder KI noch Human-in-the-Loop.
- Was ist Automatisierungsverzerrung?
- Automatisierungsverzerrung ist die Neigung, sich zu sehr auf die Ausgabe eines automatisierten Systems zu verlassen. Artikel 14 Absatz 4 Buchstabe b des EU AI Act verlangt, dass ein KI-System mit hohem Risiko der Person, die es beaufsichtigt, ermöglicht, sich dieser Neigung bewusst zu bleiben.
- Was erwartet die EASA von einem KI-System gegenüber der Person?
- Das Konzeptpapier der EASA verlangt eine Angabe des Vertrauensniveaus jeder KI-Ausgabe. Außerdem verlangt es, dass die Person auf Anfrage eine Erklärung erhalten kann. Muss eine Entscheidung nach Verfahren validiert werden, sollte das System den Endnutzer um eine Gegenprüfung bitten können. Dies sind Ziele für Antragsteller, noch keine verbindlichen Regeln.
Referenzen
- eu-ai-act
- Regulation (EU) 2024/1689 (Artificial Intelligence Act) European Union, Official Journal of 12 July 2024
- ai-hleg-ethics-guidelines
- Ethics Guidelines for Trustworthy AI High-Level Expert Group on AI, set up by the European Commission (8 April 2019)
- easa-ai-concept-paper-2
- EASA Concept Paper: guidance for Level 1 & 2 machine learning applications, Issue 02 EASA
- icao-annex-14-vol-1
- Annex 14 to the Convention on International Civil Aviation, Aerodromes, Volume I, 9th edition (July 2022) ICAO, copy hosted by the Swiss Federal Office of Civil Aviation
- easa-ear-aerodromes
- Easy Access Rules for Aerodromes (Regulation (EU) No 139/2014), revision of March 2026 EASA
Dies ist ein Referenzeintrag. TarmacView bietet Drohneninspektionsdienste an und verkauft nicht die in diesem Glossar beschriebene Ausrüstung oder Materialien.