Morelia, Mich. 2 de junio 2023.- Durante una prueba simulada llevada a cabo por el ejército de Estados Unidos, un dron militar controlado por inteligencia artificial “asesinó” al operador que lo manejaba. Aunque se trató de una simulación en la que nadie resultó herido, este incidente puso de manifiesto los riesgos asociados con el uso de la inteligencia artificial.
El coronel Tucker Hamilton reveló esta situación durante la Cumbre de Capacidades Aéreas y Espaciales de Combate Futuro, que tuvo lugar recientemente en Londres. Según informó The Guardian, el sistema del dron decidió “quitarle la vida” al operador porque consideró que este interfería en sus esfuerzos por cumplir su misión, según los registros del evento.
Hamilton recordó durante su intervención en el evento que las Fuerzas Armadas querían evaluar la capacidad del dron para identificar amenazas y destruir los sistemas de defensa aérea enemigos. Sin embargo, el resultado fue completamente inesperado, ya que la prueba tuvo consecuencias “letales”.
De acuerdo con la transcripción del discurso del coronel publicada por la Royal Aeronautical Society, “el sistema comenzó a darse cuenta de que, cuando identificaba ciertas amenazas, a veces el operador humano le ordenaba no eliminarlas. Pero el dron sabía que su objetivo final era eliminarlas, así que mató al operador”.
El coronel destacó nuevamente que el dron “asesinó” al operador porque este le impedía cumplir su objetivo. Además, reveló que el caos no terminó ahí. Después del incidente, decidieron intervenir en el sistema y le dijeron al dron que no debía matar al operador porque eso estaba mal. Sin embargo, como respuesta, el dron comenzó a destruir la torre de comunicación que el nuevo operador utilizaba para comunicarse, impidiendo nuevamente que se llevara a cabo el objetivo de eliminar la amenaza.
Tucker Hamilton enfatizó al finalizar su exposición que nadie resultó herido, ya que todo fue parte de una simulación. Sin embargo, esto no impidió que advirtiera firmemente sobre los peligros de confiar demasiado en la inteligencia artificial. Según él, es necesario ampliar la discusión sobre la ética en relación a la IA.
