Qu'est-ce que l'humain dans la boucle (HITL) ?
L’humain dans la boucle (HITL) est une façon de faire fonctionner un système d’IA pour qu’une personne puisse examiner, corriger ou annuler sa sortie.
Ce que le terme signifie
Le système d’IA fait une proposition, par exemple une décision ou un signalement. Une personne reste dans le processus et peut l’accepter, la modifier ou la rejeter. L’AI Act décrit cette capacité au paragraphe 4 de l’article 14. La personne peut décider de ne pas utiliser le système, ou ignorer, corriger ou annuler sa sortie. La loi parle de contrôle humain. Elle n’utilise pas le terme HITL.
Comment l’EASA utilise le terme
L’EASA cite l’humain dans la boucle, l’humain sur la boucle et l’humain aux commandes comme façons de superviser un système fondé sur l’IA. Son document de concept ne les définit pas. Il demande au candidat d’indiquer les définitions qu’il utilise. Une source qui dit « HITL signifie X » donne donc sa propre définition.
L’EASA décrit aussi des niveaux d’IA. Au niveau 1, l’IA améliore les capacités humaines. Au niveau 2, l’IA et l’humain travaillent en équipe, et l’IA peut prendre des décisions automatiquement sous le contrôle humain.
Ce que l’AI Act demande à la personne
Pour les systèmes d’IA à haut risque, le paragraphe 4 de l’article 14 exige que le système permette à la personne de faire ce qui suit :
- Être consciente du biais d’automatisation, c’est-à-dire de la tendance à trop se fier à la sortie du système.
- Ignorer, corriger ou annuler la sortie.
- Interrompre le système au moyen d’un bouton « arrêt » ou d’une procédure similaire. Le système passe alors dans un état sûr.
Inspection d’aérodrome
L’Annexe 14 de l’OACI exige une inspection quotidienne de l’aire de mouvement. Le nombre d’inspections dépend du code de référence. L’AMC1 ADR.OPS.B.015 de l’EASA indique que l’exploitant doit établir un programme de surveillance et d’inspection de l’aire de mouvement. Les passages que TarmacView a lus ne mentionnent ni l’IA ni le HITL. Ils ne disent pas qui doit examiner les résultats d’inspection.
Foire aux questions
- L'EASA définit-elle l'humain dans la boucle ?
- Non. L'EASA cite l'humain dans la boucle, l'humain sur la boucle et l'humain aux commandes comme façons de superviser un système fondé sur l'IA. Dans son document de concept sur l'IA (projet d'édition 02), elle ne donne pas de définitions. Elle demande au candidat d'indiquer les définitions qu'il utilise.
- L'AI Act de l'Union européenne utilise-t-il le terme humain dans la boucle ?
- Non. L'article 14 de l'AI Act parle de contrôle humain. Il s'applique aux systèmes d'IA à haut risque. Ces systèmes doivent être conçus pour que des personnes physiques puissent les superviser pendant leur utilisation.
- Les règles des aérodromes exigent-elles une vérification humaine des résultats d'inspection par IA ?
- Aucune règle de ce type n'apparaît dans les sources que TarmacView a vérifiées. L'Annexe 14 de l'OACI et les règles de l'EASA exigent des inspections de l'aire de mouvement. Les passages lus ne mentionnent ni l'IA ni l'humain dans la boucle.
Références
- eu-ai-act-art-14
- Regulation (EU) 2024/1689 (AI Act), Article 14: Human oversight European Union
- easa-ai-concept-paper-2
- EASA Artificial Intelligence Concept Paper: guidance for Level 1 and 2 machine learning applications, Proposed Issue 02 EASA
- easa-ai-concept-paper-2-news
- EASA publishes Artificial Intelligence Concept Paper Issue 2, Guidance for Level 1 and 2 machine learning applications EASA
- icao-annex-14-vol-1
- ICAO Annex 14 Volume I, Aerodrome Design and Operations, 9th edition ICAO
- easa-ear-aerodromes
- Easy Access Rules for Aerodromes (Regulation (EU) No 139/2014), AMC1 ADR.OPS.B.015 EASA
Ceci est une entrée de référence. TarmacView fournit des services d'inspection par drone et ne vend pas l'équipement ou les matériaux décrits dans ce glossaire.