Aproximadamente 185.000 personas han muerto en accidentes de aviación civil desde la llegada de los vuelos propulsados hace más de un siglo. Sin embargo, en los últimos cinco años, en las aerolíneas estadounidenses, el riesgo de morir ha sido prácticamente nulo.
por James Higgins
De hecho, es mucho más probable ganar la mayoría de las loterías que morir como pasajero de una aerolínea estadounidense.
¿Cómo se volvió tan seguro volar? ¿Podemos aplicar las lecciones de seguridad que tanto nos ha costado aprender de la aviación a la inteligencia artificial?
Cuando la humanidad introduce una nueva tecnología que cambia paradigmas y esta se adopta rápidamente a nivel mundial, las consecuencias futuras son desconocidas y, a menudo, temidas colectivamente. La introducción del vuelo propulsado en 1903 por los hermanos Wright no fue la excepción. Hubo muchas objeciones a esta nueva tecnología, incluyendo preocupaciones religiosas, políticas y técnicas .
Poco después de la introducción del vuelo propulsado , ocurrió el primer accidente aéreo, y con poco, me refiero al mismo día. Ocurrió durante el cuarto vuelo de los hermanos Wright . La primera persona fallecida en un accidente aéreo falleció cinco años después , en 1908. Desde entonces, se han producido más de 89.000 accidentes aéreos en todo el mundo.
Soy un investigador que estudia la seguridad en los viajes aéreos y veo cómo la industria de la IA actual se parece a los primeros años (y decididamente menos seguros) de la industria de la aviación .
Del estudio de los accidentes a su predicción
Aunque trágicos, cada accidente y cada muerte representaron un momento de reflexión y aprendizaje. Los investigadores de accidentes intentaron recrear cada accidente e identificar los precursores y las causas fundamentales. Una vez identificados los factores que llevaron a cada accidente, los fabricantes y operadores de aeronaves implementaron medidas de seguridad con la esperanza de prevenir accidentes adicionales.
Por ejemplo, si un piloto en la era anterior de la aviación olvidaba bajar el tren de aterrizaje antes de aterrizar, el resultado probable era un accidente. Por ello, la industria ideó cómo instalar sistemas de alerta que alertaran a los pilotos sobre el estado inseguro del tren de aterrizaje, una lección que solo se aprendía después de los accidentes. Este proceso reactivo, si bien necesario, implica un alto precio a pagar para aprender a mejorar la seguridad.
A lo largo del siglo XX, el mundo de la aviación organizó y estandarizó sus operaciones, procedimientos y procesos . En 1938, el presidente Franklin Roosevelt firmó la Ley de Aeronáutica Civil, que estableció la Autoridad de Aeronáutica Civil . Esta precursora de la Administración Federal de Aviación incluía una Junta de Seguridad Aérea.
El paradigma de seguridad totalmente reactivo evolucionó con el tiempo hacia uno proactivo y, finalmente, predictivo. En 1997, un grupo de organizaciones de aviación de la industria, el sector laboral y el gobierno formó el Equipo de Seguridad de la Aviación Comercial . Comenzaron a analizar los datos e intentaron identificar tendencias y analizar los informes de los usuarios para identificar riesgos y peligros antes de que se convirtieran en accidentes graves.
El grupo, que incluye a la FAA y la NASA, decidió desde el principio que no habría competencia entre aerolíneas en materia de seguridad. La industria compartiría abiertamente los datos de seguridad. ¿Cuándo fue la última vez que vio una campaña publicitaria de una aerolínea que afirmara «nuestra aerolínea es más segura que la suya»?
Todo depende de los datos
El Equipo de Seguridad de la Aviación Comercial ayudó a la industria a pasar de un enfoque reactivo a uno predictivo mediante la adopción de un enfoque sistémico basado en datos para abordar los problemas de seguridad. Estos datos se generaron a partir de informes de personas y datos de aeronaves.
Diariamente, se realizan millones de vuelos en todo el mundo, y en cada uno de ellos se registran miles de datos. Los profesionales de la seguridad aérea ahora utilizan grabadoras de datos de vuelo —utilizadas desde hace tiempo para investigar accidentes a posteriori— para analizar los datos de cada vuelo. Al examinar minuciosamente todos estos datos, los analistas de seguridad pueden detectar eventos y tendencias emergentes y problemáticos . Por ejemplo, al analizar los datos, un científico de seguridad capacitado puede detectar si ciertas aproximaciones de aeronaves a las pistas se están volviendo más riesgosas debido a factores como la velocidad aerodinámica excesiva y la alineación incorrecta, antes de que ocurra un accidente de aterrizaje.
Para aumentar aún más las capacidades proactivas y predictivas, cualquier persona que opere dentro del sistema de aviación puede enviar informes de seguridad anónimos y no punitivos . Sin garantías de anonimato, las personas podrían dudar en reportar problemas, y la industria de la aviación perdería información crucial relacionada con la seguridad.
Todos estos datos son almacenados, agregados y analizados por científicos de seguridad, quienes examinan el sistema en su conjunto e intentan detectar los factores que pueden provocar accidentes antes de que estos se produzcan. El riesgo de morir como pasajero a bordo de una aerolínea estadounidense es ahora inferior a 1 entre 98 millones . Es más probable morir en el trayecto al aeropuerto que en un accidente aéreo. Ahora, más de 100 años después de la llegada de los vuelos propulsados, la industria de la aviación, tras aprender duras lecciones, se ha vuelto extremadamente segura.
Un modelo para la IA
La IA está permeando rápidamente muchas facetas de la vida, desde los coches autónomos hasta las acciones de la justicia penal y las decisiones sobre contratación y préstamos. Sin embargo, la tecnología dista mucho de ser infalible, y los errores atribuibles a la IA han tenido consecuencias que han alterado la vida, e incluso la vida o la muerte en algunos casos .
Casi todas las empresas de IA intentan implementar medidas de seguridad . Pero parecen estar implementando estos esfuerzos de forma individual, al igual que las primeras empresas del sector de la aviación. Y estos esfuerzos son, en gran medida, reactivos, esperando a que la IA cometa un error para luego actuar.
¿Qué pasaría si existiera un grupo como el Equipo de Seguridad de la Aviación Comercial donde todas las empresas de IA, los reguladores, el mundo académico y otras partes interesadas se reunieran para iniciar los procesos proactivos y predictivos para garantizar que la IA no conduzca a calamidades?
Desde la perspectiva de los informes, imagine que cada interfaz de IA tuviera un botón de informe que el usuario pudiera pulsar no solo para informar a cada empresa sobre resultados potencialmente alucinantes e inseguros, sino también a una organización de IA basada en el Equipo de Seguridad de la Aviación Comercial. Además, los datos generados por los sistemas de IA, al igual que ocurre en la aviación, podrían recopilarse, agregarse y analizarse para detectar amenazas a la seguridad.
Si bien este enfoque puede no ser la solución definitiva para prevenir los daños causados por la IA, si las grandes empresas tecnológicas adoptan las lecciones aprendidas de otras industrias de gran importancia, como la aviación, podrían aprender a regular, controlar y, sí, hacer que la IA sea más segura para todos.Proporcionado por
Este artículo se republica de The Conversation bajo una licencia Creative Commons. Lea el artículo original .
