Aviation-Glossar

Was ist Mensch im Regelkreis (HITL)?

AI · Inspection 8 Sprachen
Definition
Human-in-the-Loop (HITL) ist eine Betriebsweise eines KI-Systems, bei der eine Person dessen Ausgabe prüfen, überstimmen oder rückgängig machen kann.

Human-in-the-Loop (HITL) ist eine Betriebsweise eines KI-Systems, bei der eine Person dessen Ausgabe prüfen, überstimmen oder rückgängig machen kann.

Das KI-System macht einen Vorschlag, etwa eine Entscheidung oder eine Markierung. Eine Person bleibt im Prozess und kann ihn annehmen, ändern oder ablehnen. Diese Seite zeigt, woher der Begriff stammt. Sie zeigt außerdem, was die EU-Texte zur selben Idee sagen.

Was der Begriff bedeutet

Im Jahr 2019 definierte die Expertengruppe der EU auf hoher Ebene für künstliche Intelligenz HITL als die Fähigkeit zum menschlichen Eingreifen in jedem Entscheidungszyklus. Die Gruppe ergänzt, dass dies in vielen Fällen weder möglich noch wünschenswert ist.

Der EU AI Act beschreibt dieselbe Idee mit einem anderen Begriff. Artikel 14 Absatz 4 sagt, die Person kann entscheiden, das System nicht zu verwenden, oder die Ausgabe ignorieren, überstimmen oder rückgängig machen. Das Gesetz nennt dies menschliche Aufsicht. Den Begriff HITL verwendet es nicht.

HITL, HOTL und HIC

Die Expertengruppe nennt drei Arten, ein KI-System zu beaufsichtigen.

BegriffWas die Person tun kann
Human-in-the-Loop (HITL)In jedem Entscheidungszyklus des Systems eingreifen
Human-on-the-Loop (HOTL)Während des Entwurfszyklus eingreifen und den Betrieb überwachen
Human-in-Command (HIC)Die gesamte Tätigkeit beaufsichtigen und entscheiden, wann und wie das System genutzt wird

Die Gruppe sagt, dass die nötige Aufsicht vom Anwendungsbereich und vom Risiko abhängt. Je weniger Aufsicht eine Person ausüben kann, desto umfangreichere Prüfungen und strengere Governance verlangt sie.

Wie die EASA den Begriff verwendet

Die EASA nennt Human-in-the-Loop, Human-on-the-Loop und Human-in-Command als Arten, ein KI-basiertes System zu beaufsichtigen. Ihr Konzeptpapier zur KI definiert sie nicht. Beschreibt ein Antragsteller die Aufsicht mit diesen Begriffen, sagt die EASA, dass der Antragsteller die verwendeten Definitionen klarstellen sollte. Eine Quelle, die sagt „HITL bedeutet X“, gibt daher ihre eigene Definition an.

Das Konzeptpapier ist ein erster Satz an Zielen für KI in sicherheitsrelevanten Anwendungen der Luftfahrt. Die EASA sagt, dass es noch keine endgültige Leitlinie ist. Sein Geltungsbereich sind die Bereiche der EASA-Grundverordnung, also der Verordnung (EU) 2018/1139.

Die EASA ordnet KI-Anwendungen in Stufen ein. Die Stufen richten sich danach, was die KI tut und wie viel Befugnis der Endnutzer behält (Tabelle 2 des Papiers).

StufeDem KI-System zugewiesene FunktionBefugnis des Endnutzers
1A, menschliche ErweiterungUnterstützung bei Informationsgewinnung und -analyseVollständig
1B, menschliche UnterstützungUnterstützung bei der EntscheidungsfindungVollständig
2A, Zusammenarbeit Mensch-KIGelenkte Entscheidung und automatische Umsetzung von MaßnahmenVollständig
2B, Kollaboration Mensch-KIÜberwachte automatische Entscheidung und Umsetzung von MaßnahmenTeilweise
3A, abgesicherte fortgeschrittene AutomatisierungAbgesicherte automatische Entscheidung und Umsetzung von MaßnahmenEingeschränkt, nach Warnung
3B, nicht überwachte fortgeschrittene AutomatisierungNicht überwachte automatische Entscheidung und Umsetzung von MaßnahmenNicht zutreffend

Auf Stufe 1 trifft der Endnutzer die Entscheidungen und setzt alle Maßnahmen um. Auf Stufe 2 kann das KI-System Maßnahmen auswählen und umsetzen. Der Endnutzer behält die Aufsicht und kann jederzeit eingreifen. Das Papier behandelt die Stufen 1 und 2. Für Stufe 3 gibt es noch keine Leitlinie.

Was die EASA vom System verlangt

Für sicherheitsrelevante KI nennt das Konzeptpapier Ziele, die eine Prüfung durch eine Person möglich machen. Es sind Ziele für Antragsteller.

  • Vertrauen. Das System sollte eine Angabe zum Vertrauensniveau jeder Ausgabe liefern (Ziel EXP-04). Es sollte überwachen, dass das Vertrauen innerhalb des festgelegten Niveaus bleibt (EXP-07).
  • Erklärung. Der Endnutzer kann bei Bedarf eine Erklärung oder weitere Details erhalten (EXP-16).
  • Gegenprüfung. Muss eine Entscheidung nach Verfahren validiert werden, sollte das System den Endnutzer um eine Gegenprüfung bitten können (HF-04).
  • Schulung. Das Papier setzt auf Lizenzierung und Schulung, damit die Personen, die die KI beaufsichtigen, sie angemessen bedienen (Vorgabe ORG-08).

Was der AI Act von der Person verlangt

Bei KI-Systemen mit hohem Risiko verlangt Artikel 14 Absatz 4, dass das System der Person Folgendes ermöglicht:

  • Die Funktionsfähigkeit und die Grenzen des Systems zu verstehen und seinen Betrieb zu überwachen.
  • Sich der Automatisierungsverzerrung bewusst zu sein, also der Neigung, sich zu sehr auf die Ausgabe des Systems zu verlassen.
  • Die Ausgabe richtig zu interpretieren.
  • Zu entscheiden, das System nicht zu verwenden, oder die Ausgabe zu ignorieren, zu überstimmen oder rückgängig zu machen.
  • Das System mit einer Stopp-Taste oder einem ähnlichen Verfahren zu unterbrechen. Das System geht dann in einen sicheren Zustand.

Artikel 26 Absatz 2 legt dem Betreiber eine Pflicht auf. Der Betreiber weist die menschliche Aufsicht Personen zu, die über die nötige Kompetenz, Schulung und Befugnis sowie die nötige Unterstützung verfügen.

Artikel 14 gilt nur für Systeme mit hohem Risiko. Artikel 6 und Anhang III legen fest, welche Systeme ein hohes Risiko haben. Anhang III nennt Sicherheitskomponenten in kritischer digitaler Infrastruktur, im Straßenverkehr sowie in der Versorgung mit Wasser, Gas, Heizung und Strom. Flugplätze nennt er nicht. Ob ein bestimmtes Inspektionswerkzeug ein hohes Risiko hat, hängt von seinem Verwendungszweck ab. Die Verordnung (EU) 2018/1139 über die Zivilluftfahrt steht in Anhang I Abschnitt B. Für ein KI-System mit hohem Risiko nach Artikel 6 Absatz 1, das sich auf ein Produkt aus Abschnitt B bezieht, bestimmt Artikel 2 Absatz 2, dass nur die Artikel 6 Absatz 1, 102 bis 109 und 112 gelten. Artikel 14 gehört nicht dazu.

Inspektion am Flugplatz

Die Flugplatzvorschriften legen die Inspektionspflicht dem Flugplatzbetreiber auf. ADR.OPS.B.015 Buchstabe b sagt, dass der Betreiber regelmäßige Inspektionen der Bewegungsfläche und der zugehörigen Anlagen durchführen muss. ICAO Anhang 14 2.9.3 verlangt täglich eine Inspektion der Bewegungsfläche. Die Zahl hängt von der Referenz-Code-Zahl ab.

AMC1 ADR.OPS.B.015 der EASA sagt, der Betreiber sollte ein Inspektionsprogramm haben und ein Protokoll führen. AMC2 sagt, der Betreiber sollte das inspizierende Personal benennen. Diese Personen sollten in Inspektionstechniken und in der Berichterstattung über Ergebnisse geschult sein. AMC ist ein akzeptabler Weg zur Einhaltung, keine Pflicht.

Die Passagen, die TarmacView gelesen hat, erwähnen weder KI noch HITL. Sie sagen auch nicht, wer die Ergebnisse eines KI-Werkzeugs prüfen muss.

Ein Beispiel zeigt, wo die Person eingebunden ist. Ein KI-Werkzeug markiert in Drohnenbildern einen möglichen Befund, etwa eine ausgefallene Leuchte oder einen Riss. Ein Prüfer nimmt jede Markierung an oder lehnt sie ab, bevor sie in den Bericht gelangt. In der Sprache der EASA unterstützt die KI die Informationsanalyse, und die Person behält die volle Befugnis. Das entspricht Stufe 1A. Das Konzeptpapier trifft keine Aussage zur Drohneninspektion. Dies ist eine Anwendung seiner Tabelle.

Häufig gestellte Fragen

Was bedeutet Human-in-the-Loop?
Es bedeutet, dass eine Person in das eingreifen kann, was ein KI-System tut. In der Formulierung der EU-Expertengruppe ist Human-in-the-Loop (HITL) die Fähigkeit zum menschlichen Eingreifen in jedem Entscheidungszyklus des Systems. Im Alltag bedeutet der Begriff oft, dass eine Person die Ausgabe der KI prüfen, ändern oder ablehnen kann.
Was ist der Unterschied zwischen Human-in-the-Loop, Human-on-the-Loop und Human-in-Command?
Der Unterschied liegt darin, wo die Person eingreift. Die EU-Expertengruppe sagt, HITL ist das Eingreifen in jedem Entscheidungszyklus. Human-on-the-Loop (HOTL) ist das Eingreifen während des Entwurfszyklus und die Überwachung des Betriebs. Human-in-Command (HIC) ist die Aufsicht über die gesamte Tätigkeit des Systems, mit der Möglichkeit zu entscheiden, wann und wie es genutzt wird.
Definiert EASA Human-in-the-Loop?
Nein. EASA nennt Human-in-the-Loop, Human-on-the-Loop und Human-in-Command als Arten, ein KI-basiertes System zu beaufsichtigen. Das KI-Konzeptpapier (vorgeschlagene Ausgabe 02) gibt keine Definitionen. Beschreibt ein Antragsteller die Aufsicht mit diesen Begriffen, sagt die EASA, dass der Antragsteller die verwendeten Definitionen klarstellen sollte.
Verwendet der EU AI Act den Begriff Human-in-the-Loop?
Nein. Artikel 14 des EU AI Act verwendet den Begriff menschliche Aufsicht. Er gilt für KI-Systeme mit hohem Risiko. Diese Systeme müssen so konstruiert sein, dass natürliche Personen sie während der Verwendung beaufsichtigen können. Artikel 26 sagt, dass der Betreiber diese Aufsicht Personen mit der nötigen Kompetenz, Schulung und Befugnis zuweist.
Gilt der EU AI Act für jedes KI-Inspektionswerkzeug?
Nein. Artikel 14 gilt für KI-Systeme mit hohem Risiko. Artikel 6 und Anhang III legen fest, welche Systeme ein hohes Risiko haben. Anhang III nennt Sicherheitskomponenten in kritischer digitaler Infrastruktur, im Straßenverkehr sowie in der Versorgung mit Wasser, Gas, Heizung und Strom. Flugplätze nennt er nicht. Ob ein bestimmtes Werkzeug ein hohes Risiko hat, hängt von seinem Verwendungszweck ab.
Verlangen die Flugplatzvorschriften eine menschliche Prüfung der KI-Inspektionsergebnisse?
In den Quellen, die TarmacView geprüft hat, steht keine solche Vorschrift. Die Verordnung (EU) Nr. 139/2014 verlangt vom Flugplatzbetreiber regelmäßige Inspektionen des Bewegungsbereichs. ICAO Anhang 14 verlangt tägliche Inspektionen. Die gelesenen Passagen erwähnen weder KI noch Human-in-the-Loop.
Was ist Automatisierungsverzerrung?
Automatisierungsverzerrung ist die Neigung, sich zu sehr auf die Ausgabe eines automatisierten Systems zu verlassen. Artikel 14 Absatz 4 Buchstabe b des EU AI Act verlangt, dass ein KI-System mit hohem Risiko der Person, die es beaufsichtigt, ermöglicht, sich dieser Neigung bewusst zu bleiben.
Was erwartet die EASA von einem KI-System gegenüber der Person?
Das Konzeptpapier der EASA verlangt eine Angabe des Vertrauensniveaus jeder KI-Ausgabe. Außerdem verlangt es, dass die Person auf Anfrage eine Erklärung erhalten kann. Muss eine Entscheidung nach Verfahren validiert werden, sollte das System den Endnutzer um eine Gegenprüfung bitten können. Dies sind Ziele für Antragsteller, noch keine verbindlichen Regeln.

Referenzen

eu-ai-act
Regulation (EU) 2024/1689 (Artificial Intelligence Act) European Union, Official Journal of 12 July 2024
ai-hleg-ethics-guidelines
Ethics Guidelines for Trustworthy AI High-Level Expert Group on AI, set up by the European Commission (8 April 2019)
icao-annex-14-vol-1
Annex 14 to the Convention on International Civil Aviation, Aerodromes, Volume I, 9th edition (July 2022) ICAO, copy hosted by the Swiss Federal Office of Civil Aviation

Dies ist ein Referenzeintrag. TarmacView bietet Drohneninspektionsdienste an und verkauft nicht die in diesem Glossar beschriebene Ausrüstung oder Materialien.

Loslegen Muss Ihre Flugplatzbefeuerung geprüft werden? TarmacView prüft PAPI, Start-/Landebahn- und Anflugbefeuerung per Drohne zwischen Flugbewegungen und erstellt einen Konformitätsbericht, der für Ihre Aufsichtsbehörde ausgelegt ist. Pisten- und Hindernisinspektion sind in Entwicklung.
Weiterlesen

Mehr erfahren

03 SEITEN
Automatisierung
glossary

Automatisierung

Entdecken Sie das umfassende Glossar zur Automatisierung, einschließlich Konzepte wie automatischer Betrieb, automatisierte Systeme, Industrieautomatisierung, RPA, intelligente Automatisierung, SPS, HMIs, Feldbus, KI, ML, Hyperautomatisierung, Sensoren, Aktoren und wichtige Unterscheidungen für Luftfahrt und Industrie.

Hochintensitätsfeuer
glossary

Hochintensitätsfeuer

Ein Hochintensitätsfeuer ist eine Flugplatzbefeuerung der höchsten Intensitätsklasse. Was HIRL, ALSF-2 und Hindernisfeuer Typ A nach den Regeln der FAA, EASA und ICAO bedeuten.

Hochintensive Pistenbefeuerung (HIRL)
glossary

Hochintensive Pistenbefeuerung (HIRL)

Ein System aus hochintensiven Pistenfeuern (HIRL) ist die FAA-Klasse der Pistenrandbefeuerung mit fünf Helligkeitsstufen. HIRL im Vergleich mit MIRL und LIRL, die Leuchten, Farben, Helligkeitsstufen, wer sie einstellt, das EU-Gegenstück und wie man sie prüft.