Un dron con inteligencia artificial "mató" virtualmente a su controlador humano

Pasó durante una simulación, en la que el "bot" creía estar en el mundo real en una misión de guerra. La Fuerza Aérea negó el caso, dado a conocer por un coronel
2 de junio 2023 · 22:07hs

Un dron militar de EEUU manejado por inteligencia artificial (IA), “mató” al sujeto que lo operaba. Se trató de una simulación en la que ninguna persona resultó herida, pero expuso los riesgos del uso de la IA en un contexto militar. El episodio fue negado por la Fuerza Aérea de EEUU, pero al parecer sí ocurrió.

El grave hecho fue dado a conocer por el coronel Tucker Hamilton durante la denominada “Cumbre de Capacidades Aéreas y Espaciales de Combate Futuro”, que tuvo lugar en Londres. Según publicó el diario londinense The Guardian, el sistema de IA optó por “quitar la vida” al usuario que lo manejaba debido a que “interfería en sus esfuerzos por lograr su misión”, según narran los registros de la prueba. Hamilton rememoró que las fuerzas armadas quisieron poner a prueba al vehículo aéreo no tripulado y su habilidad de distinguir amenazas y destruir sistemas de la defensa aérea enemiga. Sin embargo, no salió como se esperaba: el dron, o mejor, su IA, “mató” a su conductor.

Los puestos administrativos y secretariales serán los mas afectados

En 5 años la inteligencia artificial hará el 43% del trabajo

La posibilidad de que un software se consolide en plataformas como Amazon siembra la duda sobre cómo se podrá distinguir cuándo hay un humano o no detrás de un texto.

Advierten que Amazon está siendo inundado con libros escritos por inteligencia artificial

De acuerdo con la transcripción de la página de la Royal Aeronautical Society del discurso del coronel, “el sistema comenzó a darse cuenta que, cuando identificaba a ciertas amenazas, a veces el operador humano le decía que no los eliminara. Pero el dron sabía que su objetivo final era acabar con ellas. Entonces mató al operador. Asesinó al operador porque esta persona le impedía lograr su objetivo”, remarcó. Y reveló que el caos no finalizó allí. “Después de esto, decidimos entrar al sistema y hablar con él. Le dijimos ‘Oye, no mates al operador, eso es malo. Vas a perder puntos si haces eso. Entonces, ¿qué empieza a hacer? Comienza a destruir la torre de comunicación que el operador usaba para comunicarse con el dron para evitar que destruya los objetivos” que la IA sí quería destruir.

Tucker Hamilton recalcó que ninguna persona resultó dañada porque se trataba justamente de una simulación. Sin embargo, advirtió contra confiar en la inteligencia artificial. “La discusión sobre ética e IA tiene que expandirse”, reclamó. Hamilton, que es piloto de pruebas, dijo que la prueba mostró que “no se puede tener una conversación sobre inteligencia artificial si no se va a hablar de ética e IA”. Hamilton mete así el dedo en la llaga, porque precisamente lo que están haciendo las FFAA estadounidenses y de otras naciones es aplicar IA de manera acelerada a los sistemas armados.

La Royal Aeronautical Society, que organizó la conferencia, y la fuerza aérea no respondieron a solicitudes de comentarios de The Guardian. Pero en una declaración a la publicación online Insider , la portavoz de la fuerza aérea de EEUU, Ann Stefanek, negó que se hubiera producido la simulación. “El Departamento de la Fuerza Aérea no ha realizado ninguna simulación con drones de IA y sigue comprometido con el uso ético y responsable de la tecnología de IA”, dijo Stefanek. “Parece que los comentarios del coronel fueron sacados de contexto y pretendían ser anecdóticos”. Sin embargo, los comentarios del coronel Hamilton no parecen ser anecdóticos, ni mucho menos.

Y este viernes el coronel Hamilton declaró en un comunicado que "se expresó mal” durante la presentación y que la “simulación de drones de IA” era un “experimento mental”. No quedó claro si Hamilton fue forzado a desdecirse, tal vez bajo la amenaza de recibir cargos penales por dar a conocer datos confidenciales, o si realmente se inventó la simulación de la IA, algo que luce totalmente insólito.

La fuerza aérea de EEUU recientemente usó inteligencia artificial para controlar un caza F-16. En 2020, un F-16 operado por IA venció a un adversario humano en cinco combates aéreos simulados. Pilotos muy experimentados de la Fuerza Aérea estadounidense fueron batidos repetidamente por la IA, tanto en la pantalla de un simulador como en el mundo real, con aviones en el aire. Por esta eficacia, acelerar en el uso de la IA resulta además de tentador casi ineludible para los militares.

El año pasado, el coronel Hamilton ya había alertado: “La IA no es una moda pasajera; está cambiando para siempre nuestra sociedad y nuestro ejército. La IA también es muy frágil, es fácil de engañar o manipular. Necesitamos desarrollar formas de hacer que la IA sea más robusta y tener más conciencia de por qué el código del software toma ciertas decisiones, lo que llamamos ‘explicabilidad’ de la IA”. Pero para la Fuerza Aérea el episodio simplemente no existió.

Ver comentarios

Las más leídas

El hijo pródigo que volvió a Casilda para reencontrarse con sus afectos

El hijo pródigo que volvió a Casilda para reencontrarse con sus afectos

Cueva financiera: la relación del ex funcionario radical y un jefe de la barra de Colón

Cueva financiera: la relación del ex funcionario radical y un jefe de la barra de Colón

Asesinaron a puñaladas en la zona sur de Rosario a un hombre de 26 años

Asesinaron a puñaladas en la zona sur de Rosario a un hombre de 26 años

Todas las últimas encuestas dan escenario de balotaje entre Massa y Milei

Todas las últimas encuestas dan escenario de balotaje entre Massa y Milei

Lo último

Mirta de Fussi ofrece clases de Entrenamiento Funcional Suspendido

Mirta de Fussi ofrece clases de Entrenamiento Funcional Suspendido

Fundación Italia invita a su seminario anual La Argentina de hoy y la Argentina predecible

Fundación Italia invita a su seminario anual "La Argentina de hoy y la Argentina predecible"

Abrió el nuevo local de McDonalds en Rosario, un hito sustentable para la región

Abrió el nuevo local de McDonald's en Rosario, un hito sustentable para la región

Asesinaron a puñaladas en la zona sur de Rosario a un hombre de 26 años

Su novia también fue atacada y se encontraba en estado reservado en el Heca con graves heridas en la espalda.

Asesinaron a puñaladas en la zona sur de Rosario a un hombre de 26 años
Alfredo Cornejo se impuso en Mendoza y nuevamente será gobernador
Política

Alfredo Cornejo se impuso en Mendoza y nuevamente será gobernador

Newells se pinchó, justo antes del clásico: perdió 1 a 0 con Estudiantes

Por Aníbal Fucaraccio

Ovación

Newell's se pinchó, justo antes del clásico: perdió 1 a 0 con Estudiantes

Cannabis medicinal: Santa Fe presentará su modelo en la feria latina más importante 
REGIÓN

Cannabis medicinal: Santa Fe presentará su modelo en la feria latina más importante 

Cueva financiera: la relación del ex funcionario radical y un jefe de la barra de Colón
Policiales

Cueva financiera: la relación del ex funcionario radical y un jefe de la barra de Colón

Caen seis sospechosos de balacera tras ser captados por una cámara municipal
POLICIALES

Caen seis sospechosos de balacera tras ser captados por una cámara municipal

Dejanos tu comentario
Las más leídas
El hijo pródigo que volvió a Casilda para reencontrarse con sus afectos

El hijo pródigo que volvió a Casilda para reencontrarse con sus afectos

Cueva financiera: la relación del ex funcionario radical y un jefe de la barra de Colón

Cueva financiera: la relación del ex funcionario radical y un jefe de la barra de Colón

Asesinaron a puñaladas en la zona sur de Rosario a un hombre de 26 años

Asesinaron a puñaladas en la zona sur de Rosario a un hombre de 26 años

Todas las últimas encuestas dan escenario de balotaje entre Massa y Milei

Todas las últimas encuestas dan escenario de balotaje entre Massa y Milei

Cuáles son las producciones rosarinas premiadas en los Martín Fierro Federal

Cuáles son las producciones rosarinas premiadas en los Martín Fierro Federal

Ovación
Newells: May pegó duro, fue expulsado y se pierde el clásico

Por Aníbal Fucaraccio

Ovación

Newell's: May pegó duro, fue expulsado y se pierde el clásico

Newells: May pegó duro, fue expulsado y se pierde el clásico

Newell's: May pegó duro, fue expulsado y se pierde el clásico

Newells: Heinze guardó varias cartas para el clásico

Newell's: Heinze guardó varias cartas para el clásico

Armando Méndez terminó con molestias y también preocupa de cara al clásico

Armando Méndez terminó con molestias y también preocupa de cara al clásico

Policiales
Asesinaron a puñaladas en la zona sur de Rosario a un hombre de 26 años
Policiales

Asesinaron a puñaladas en la zona sur de Rosario a un hombre de 26 años

Santa Fe: aceptó 13 años de condena por asesinar a una mujer de un tiro

Santa Fe: aceptó 13 años de condena por asesinar a una mujer de un tiro

Caen seis sospechosos de balacera tras ser captados por una cámara municipal

Caen seis sospechosos de balacera tras ser captados por una cámara municipal

Santa Fe: condenan a 13 años de prisión a un hombre por un femicidio

Santa Fe: condenan a 13 años de prisión a un hombre por un femicidio

La Ciudad
El tiempo en Rosario: un lunes nublado antes de los chaparrones del martes
La Ciudad

El tiempo en Rosario: un lunes nublado antes de los chaparrones del martes

Open Day: el evento virtual de la UAI con su oferta académica

Open Day: el evento virtual de la UAI con su oferta académica

El polaco que vino a contar la historia de su familia asesinada por proteger a judíos

El polaco que vino a contar la historia de su familia asesinada por proteger a judíos

Rosario, la ciudad que se va quedando sin picaportes de bronce

Rosario, la ciudad que se va quedando sin picaportes de bronce

Massa, con los gobernadores, prometió un gobierno de unidad nacional
Política

Massa, con los gobernadores, prometió "un gobierno de unidad nacional"

Detuvieron en México a Chucky y lo esposaron por robos con cuchillo
Información General

Detuvieron en México a Chucky y lo esposaron por robos con cuchillo

Verstappen ganó en Japón y se acerca a su tercer título en la Fórmula 1
Ovación

Verstappen ganó en Japón y se acerca a su tercer título en la Fórmula 1

Debíamos respetar a Francia: el presidente de PSG le respondió a Messi
Ovación

"Debíamos respetar a Francia": el presidente de PSG le respondió a Messi

Papa Francisco: Emigrar debería ser una elección libre, nunca la única posible
Información General

Papa Francisco: "Emigrar debería ser una elección libre, nunca la única posible"

Javkin ponderó la nueva base y la incorporación de agentes de Gendarmería
Política

Javkin ponderó la nueva base y la incorporación de agentes de Gendarmería

Massa inauguró una base de Gendarmería y anunció 500 nuevos agentes para Rosario
Política

Massa inauguró una base de Gendarmería y anunció 500 nuevos agentes para Rosario

Unidos también consolidó su hegemonía en el sur provincial

Por Javier Parenti

Política

Unidos también consolidó su hegemonía en el sur provincial

Aceptó una condena por dispararle a dos jóvenes y asesinar a uno de ellos
POLICIALES

Aceptó una condena por dispararle a dos jóvenes y asesinar a uno de ellos

Perotti: Una oportunidad para la cadena  láctea santafesina
Política

Perotti: "Una oportunidad para la cadena láctea santafesina"

La pornografía hecha por IA usa videos y fotos de mujeres sin su consentimiento
Información General

La pornografía hecha por IA usa videos y fotos de mujeres sin su consentimiento

Investigan vinculaciones de policías de la Bonaerense con la Diabla Leguizamón

Por Leo Graciarena

POLICIALES

Investigan vinculaciones de policías de la Bonaerense con la Diabla Leguizamón

Alertan por Nipah, la infección que podría causar la próxima pandemia
Información General

Alertan por Nipah, la infección que podría causar la próxima pandemia

Bullrich no descartó llevar santafesinos a un eventual gabinete
Política

Bullrich no descartó llevar santafesinos a un eventual gabinete

Cristina: Le erramos si pensamos que la gente se fue a la derecha
Política

Cristina: "Le erramos si pensamos que la gente se fue a la derecha"