¿Qué es humano en el ciclo (HITL)?
Humano en el ciclo (HITL) es una forma de operar un sistema de IA para que una persona pueda revisar, anular o revertir su resultado.
Qué significa el término
El sistema de IA hace una propuesta, por ejemplo una decisión o una señal de alerta. Una persona se mantiene en el proceso y puede aceptarla, cambiarla o rechazarla. La Ley de IA de la UE describe esta capacidad en el artículo 14, apartado 4. La persona puede decidir no usar el sistema, o puede desatender, anular o revertir su resultado. La ley llama a esto supervisión humana. No usa el término HITL.
Cómo usa la EASA el término
La EASA enumera el humano en el ciclo, el humano sobre el ciclo y el humano al mando como formas de supervisar un sistema basado en IA. Su documento de concepto no los define. Pide al solicitante que indique las definiciones que utiliza. Por tanto, una fuente que diga “HITL significa X” está dando su propia definición.
La EASA también describe niveles de IA. En el nivel 1, la IA mejora las capacidades humanas. En el nivel 2, la IA y las personas trabajan en equipo, y la IA puede tomar decisiones de forma automática bajo supervisión humana.
Qué exige la Ley de IA a la persona
En los sistemas de IA de alto riesgo, el artículo 14, apartado 4, dice que el sistema debe permitir a la persona hacer lo siguiente:
- Ser consciente del sesgo de automatización, que es la tendencia a confiar en exceso en el resultado del sistema.
- Desatender, anular o revertir el resultado.
- Interrumpir el sistema con un botón de “parada” o un procedimiento similar. El sistema pasa entonces a un estado seguro.
Inspección del aeródromo
El Anexo 14 de la OACI exige que la zona de movimiento se inspeccione todos los días. El número de inspecciones depende del número de clave de referencia. La AMC1 ADR.OPS.B.015 de la EASA dice que el operador debe tener un programa de seguimiento e inspección. Los pasajes que TarmacView leyó no mencionan la IA ni el HITL. Tampoco dicen quién debe revisar los resultados de la inspección.
Preguntas Frecuentes
- ¿Define la EASA el humano en el ciclo?
- No. La EASA nombra el humano en el ciclo, el humano sobre el ciclo y el humano al mando como formas de supervisar un sistema basado en IA. En su documento de concepto sobre IA (propuesta de Edición 02) no da definiciones. Pide al solicitante que indique las definiciones que utiliza.
- ¿Usa la Ley de IA de la UE el término humano en el ciclo?
- No. El artículo 14 de la Ley de IA de la UE usa el término supervisión humana. Se aplica a los sistemas de IA de alto riesgo. Esos sistemas deben diseñarse de forma que las personas físicas puedan supervisarlos mientras están en uso.
- ¿Exigen las normas de aeródromo una revisión humana de los resultados de inspección con IA?
- Ninguna norma de ese tipo aparece en las fuentes que TarmacView ha consultado. El Anexo 14 de la OACI y las normas de la EASA exigen inspecciones de la zona de movimiento. Los pasajes revisados no mencionan la IA ni el humano en el ciclo.
Referencias
- eu-ai-act-art-14
- Regulation (EU) 2024/1689 (AI Act), Article 14: Human oversight European Union
- easa-ai-concept-paper-2
- EASA Artificial Intelligence Concept Paper: guidance for Level 1 and 2 machine learning applications, Proposed Issue 02 EASA
- easa-ai-concept-paper-2-news
- EASA publishes Artificial Intelligence Concept Paper Issue 2, Guidance for Level 1 and 2 machine learning applications EASA
- icao-annex-14-vol-1
- ICAO Annex 14 Volume I, Aerodrome Design and Operations, 9th edition ICAO
- easa-ear-aerodromes
- Easy Access Rules for Aerodromes (Regulation (EU) No 139/2014), AMC1 ADR.OPS.B.015 EASA
Esta es una entrada de referencia. TarmacView proporciona servicios de inspección con drones y no vende los equipos ni materiales descritos en este glosario.