La reciente aceleración en el desarrollo de la inteligencia artificial brinda nuevas oportunidades para aprovechar la tecnología para respaldar un sistema de aviación seguro, al tiempo que plantea nuevos riesgos si no se la califica y utiliza de manera adecuada. Frente a estos desafíos y oportunidades, la Federal Aviation Administration ha desarrollado una hoja de ruta que explica su enfoque en el desarrollo de métodos para garantizar la seguridad de la tecnología en función de la seguridad.
El desarrollo de la hoja de ruta se basó en una serie de intercambios técnicos con la industria y otros reguladores de la aviación con el objetivo de establecer una estrategia para promover la seguridad de la IA.
El trabajo considera los parámetros del uso federal de la regulación de la IA conforme a la Orden Ejecutiva 14110 de “Desarrollo y uso seguro, protegido y confiable de la inteligencia artificial 1”.
Según las consideraciones que expone la FAA en la presentación de la “Hoja de Ruta” el desafío que se enfrenta en el siglo XXI es encontrar cómo ofrecer niveles cada vez mayores de servicio mientras mantenemos un sistema aeroespacial que es considerado el más seguro y eficaz del mundo.
Dado que la tecnología y la innovación presentan enormes oportunidades y desafíos para la sostenibilidad del sistema aeroespacial, la FAA espera trabajar con la industria de la aviación, otros reguladores de la aviación y agencias del gobierno de los EE. UU. para ejecutar y refinar la Hoja de Ruta que ha presentado.
Resumen ejecutivo a la Hoja de Ruta
La inteligencia artificial (IA) ha generado un interés significativo en la aviación que van desde las aplicaciones fuera de línea hasta el control de procesos y la autonomía en la aeronave. Antes de su utilización en la aviación, pero según la FAA, esta tecnología debe demostrar su seguridad. Sin embargo, se reconoce que la IA presenta un nuevo desafío para los sistemas que logran rendimiento y capacidad mediante el aprendizaje en lugar del diseño debido a la ausencia de principios de ingeniería que guíen el proceso a la manera de la ingeniería tradicional.
Por eso la FAA explica que el propósito principal de este documento es proporcionar un camino para garantizar la seguridad de la IA en aeronaves y sistemas relacionados para operaciones en vuelo. Al considerar la importancia de la garantía de seguridad de la IA, se hizo evidente que existen oportunidades significativas para usarla para la seguridad, por lo que se amplió el alcance de la Hoja de Ruta para introducir este tema. Los objetivos del documento son establecer los principios rectores para garantizar la seguridad de la inteligencia artificial en la aviación y establecer prioridades y planes para su introducción segura en la aviación.
La Hoja de Ruta presenta un conjunto de principios (conceptos valiosos que son independientes del tiempo, los recursos y la situación) para guiar el desarrollo de métodos para la garantía de seguridad de la IA en las aeronaves y las operaciones de aeronaves, incluidos:
- Trabajar dentro del ecosistema de la aviación: utilizar los requisitos de seguridad de la aviación existentes.
- Introducir la IA dentro de este ecosistema estructurado, disciplinado y con gestión de riesgos.
- Centrarse en la garantía de seguridad y las mejoras de seguridad: centrar el desarrollo de la IA en la aviación en la seguridad de que esa tecnología será para la seguridad, apuntando a mejoras y garantizando que se aborden las consideraciones éticas, en particular las que pueden afectar la seguridad.
- Evitar la personificación: tratar a la IA como una herramienta, no como si fuera un ser humano. Enfatizar la asignación clara de responsabilidades y evitar el lenguaje centrado en el ser humano para mantener una comprensión clara del papel y las limitaciones de la IA en la aviación.
- Diferenciar entre IA aprendida y de aprendizaje: establecer metodologías de garantía de seguridad distintas para la IA aprendida (estática) y la IA de aprendizaje (dinámica), entendiendo la diferencia entre sus respectivas implicaciones operativas y de seguridad.
- Adoptar un enfoque gradual: implementar la IA en la aviación de manera gradual, aprendiendo y adaptando métodos de garantía de seguridad basados en la experiencia y la aplicación en el mundo real.
- Aprovechar el proceso continuo de seguridad: utilizar el proceso continuo de seguridad, comenzando con aplicaciones de menor riesgo para adquirir experiencia e informar sobre aplicaciones y métodos de seguridad más amplios.
- Aprovechar los estándares de consenso de la industria: adoptar estándares de consenso de la industria para garantizar la seguridad de la IA en la aviación, según corresponda, promoviendo la armonización global y adaptándose a los cambios tecnológicos al tiempo que se alinea con los principios de la Hoja de Ruta.
El documento identifica los próximos pasos en cinco áreas para permitir mejoras de seguridad y el uso seguro de la IA
- Colaboración: establecer asociaciones continuas con la industria, el gobierno, la Organización de Aviación Civil Internacional (OACI) y otras partes interesadas nacionales e internacionales apropiadas para compartir conocimientos y desarrollar métodos armonizados globales de garantía de seguridad de la IA, según corresponda.
- Preparación de la fuerza laboral de la FAA: mejorar el conocimiento y la experiencia en la fuerza laboral de la Administración Federal de Aviación (FAA) para supervisar de manera efectiva el diseño y la integración de tecnologías de IA en la aviación.
- Garantizar la seguridad de la IA: adaptar y desarrollar métodos de garantía de seguridad específicamente para la IA, utilizando marcos convencionales y desarrollando nuevos enfoques adaptados a los desafíos únicos de la IA. Garantizar que cualquier sistema de IA que se coloque en una aeronave sea seguro.
- Utilizar la IA para la seguridad: aprovechar la IA para mejorar la fidelidad y la eficacia de los procesos del ciclo de vida de la seguridad, desde el monitoreo hasta el desarrollo y la prueba del sistema.
- Investigación sobre seguridad de la aviación: realizar investigaciones enfocadas en desarrollar y evaluar métodos para garantizar la seguridad de los sistemas de IA y su uso para mejorar la seguridad general de la aviación.
Este es un documento dinámico que la FAA planea actualizar periódicamente para reflejar el progreso en la garantía de seguridad y adaptarse a la tecnología de IA en rápida evolución.
