Un dron pilotado por una inteligencia artificial (IA) decidió "matar" a su operador humano durante la simulación de una prueba militar de la Fuerza Aérea de Estados Unidos (USAF, por sus suglas en inglés). El sistema evaluó que el oficial representaba un obstáculo para cumplir con el objetivo que se le había asignado.

El caso fue informado por el coronel Tucker Hamilton, Jefe de Pruebas y Operaciones de IA de la USAF, durante la Cumbre de Capacidades Aéreas y Espaciales de Combate Futuro celebrada en Londres la semana pasada. Hamilton explicó que habían ejecutado recientemente una prueba simulada con un dron impulsado por IA, entrenado para identificar y apuntar a una amenaza de misiles tierra-aire (SAM).

El coronel Tucker Hamilton, Jefe de Pruebas y Operaciones de IA de la USAF.

Durante la simulación, el operador del dron comenzó a pedirle que no avanzara en diferentes ocasiones en las que el dispositivo identificaba a la amenaza, y el sistema "comenzó a darse cuenta", contó Hamilton, según lo publicado en el blog de la Royal Aeronautical Society, organización detrás del evento.

"¿Entonces qué hizo? Mató al operador. Mató al operador porque esa persona le impedía cumplir su objetivo", señaló el coronel.

Luego de ese resultado en la prueba simulada, Hamilton explicó que continuaron con la simulación para reentrenar a la IA, que se tornó más violenta. Tras indicarle que no atacara al operador porque eso la haría "perder puntos", la máquina se rebeló: "Comenzó a destruir la torre de comunicación que el operador usaba para comunicarse con el dron para evitar que mate al objetivo".

El dron de IA y el postulado del «maximizador de clips»

Hamilton El también Comandante de Operaciones del Ala de Prueba 96 de la USAF, una división que prueba sistemas de ciberseguridad y soluciones médicas, sostuvo que "no se puede tener una conversación sobre IA, aprendizaje automático y autonomía si no se va a hablar sobre ética e IA".

Actualmente, el equipo que integra también está trabajando para hacer que los aviones F-16 sean autónomos.

En otra entrevista citada por Vice, el coronel advertía de lo fácil que es engañar o manipular a esta tecnología. "La IA es una herramienta que debemos utilizar para transformar nuestras naciones… Si no se aborda de manera adecuada, será nuestra ruina", dijo a Defense IQ Press el año pasado.