La Agencia de Seguridad Aérea de la Unión Europea (EASA) ha presentado un borrador de normativa que impone límites estrictos al uso de la Inteligencia Artificial (IA) en la aviación, promoviendo un modelo de innovación responsable.
De acuerdo con Aviación Digital, el nuevo marco regulatorio surge como respuesta al Reglamento (UE) 2024/1689 (Ley de IA de la UE) y presenta un enfoque cauto y centrado en el ser humano, con cuatro revelaciones clave:
-
Prohibición de IA de alto riesgo en cabina: La normativa prohíbe de forma explícita los sistemas de IA de mayor riesgo en los sistemas de aviación (sección DS.AI.010). Esto incluye sistemas que puedan causar directamente fatalidades o lesiones graves, y aquellos con capacidad de aprendizaje en línea que podrían cambiar su comportamiento durante un vuelo. Si una IA avanzada tiene potencial de causar el problema de seguridad más mínimo, su uso está fuera de los límites actualmente.
-
Evaluación ética obligatoria: La regulación exige una “evaluación basada en la ética” para verificar el impacto psicológico y social de la IA en el usuario humano, como un piloto o controlador aéreo. Para los sistemas de Nivel 2 (colaboración humano-IA), esta evaluación debe identificar riesgos como la creación de sesgos injustos, el apego emocional o el comportamiento adictivo en el usuario.
-
El humano mantiene la responsabilidad final: El marco regulatorio establece que la IA es una herramienta y la responsabilidad final recae siempre en el usuario humano. Solo se contemplan los niveles de aplicación Nivel 1 (Asistencia) y Nivel 2 (Colaboración). La EASA reserva las decisiones más críticas, aquellas basadas en conocimiento (que requieren experiencia y juicio humano), y no las permite transferir a la IA. Las tareas rutinarias (basadas en habilidades y reglas) sí se pueden delegar.
-
IA confinada a un “sandbox” digital: La normativa introduce un enfoque de contención de múltiples capas, definiendo un “Dominio Operacional” (OD) y un “Dominio Operacional de Diseño” (ODD), un campo de juego más pequeño y específico para cada componente individual de IA. El ODD define con precisión las condiciones exactas bajo las cuales se ha entrenado y verificado que el sistema funciona de forma segura. Se requiere que la IA pueda detectar cuándo se encuentra fuera de su zona de confort.
En resumen, el enfoque europeo busca asegurar la confiabilidad y mantener los altos niveles de seguridad, utilizando la IA solo como una herramienta especializada y predecible, bajo el mando de un profesional humano.
Lee la noticia en la fuente original https://www.aviaciondigital.com/lo-que-no-te-cuentan-sobre-la-ia-en-la-aviacion-4-revelaciones-de-la-nueva-normativa-europea/