Un dron con inteligencia artificial "mató" virtualmente a su controlador humano

Pasó durante una simulación, en la que el "bot" creía estar en el mundo real en una misión de guerra. La Fuerza Aérea negó el caso, dado a conocer por un coronel
2 de junio 2023 · 22:07hs

Un dron militar de EEUU manejado por inteligencia artificial (IA), “mató” al sujeto que lo operaba. Se trató de una simulación en la que ninguna persona resultó herida, pero expuso los riesgos del uso de la IA en un contexto militar. El episodio fue negado por la Fuerza Aérea de EEUU, pero al parecer sí ocurrió.

El grave hecho fue dado a conocer por el coronel Tucker Hamilton durante la denominada “Cumbre de Capacidades Aéreas y Espaciales de Combate Futuro”, que tuvo lugar en Londres. Según publicó el diario londinense The Guardian, el sistema de IA optó por “quitar la vida” al usuario que lo manejaba debido a que “interfería en sus esfuerzos por lograr su misión”, según narran los registros de la prueba. Hamilton rememoró que las fuerzas armadas quisieron poner a prueba al vehículo aéreo no tripulado y su habilidad de distinguir amenazas y destruir sistemas de la defensa aérea enemiga. Sin embargo, no salió como se esperaba: el dron, o mejor, su IA, “mató” a su conductor.

Los puestos administrativos y secretariales serán los mas afectados

En 5 años la inteligencia artificial hará el 43% del trabajo

La posibilidad de que un software se consolide en plataformas como Amazon siembra la duda sobre cómo se podrá distinguir cuándo hay un humano o no detrás de un texto.

Advierten que Amazon está siendo inundado con libros escritos por inteligencia artificial

De acuerdo con la transcripción de la página de la Royal Aeronautical Society del discurso del coronel, “el sistema comenzó a darse cuenta que, cuando identificaba a ciertas amenazas, a veces el operador humano le decía que no los eliminara. Pero el dron sabía que su objetivo final era acabar con ellas. Entonces mató al operador. Asesinó al operador porque esta persona le impedía lograr su objetivo”, remarcó. Y reveló que el caos no finalizó allí. “Después de esto, decidimos entrar al sistema y hablar con él. Le dijimos ‘Oye, no mates al operador, eso es malo. Vas a perder puntos si haces eso. Entonces, ¿qué empieza a hacer? Comienza a destruir la torre de comunicación que el operador usaba para comunicarse con el dron para evitar que destruya los objetivos” que la IA sí quería destruir.

Tucker Hamilton recalcó que ninguna persona resultó dañada porque se trataba justamente de una simulación. Sin embargo, advirtió contra confiar en la inteligencia artificial. “La discusión sobre ética e IA tiene que expandirse”, reclamó. Hamilton, que es piloto de pruebas, dijo que la prueba mostró que “no se puede tener una conversación sobre inteligencia artificial si no se va a hablar de ética e IA”. Hamilton mete así el dedo en la llaga, porque precisamente lo que están haciendo las FFAA estadounidenses y de otras naciones es aplicar IA de manera acelerada a los sistemas armados.

La Royal Aeronautical Society, que organizó la conferencia, y la fuerza aérea no respondieron a solicitudes de comentarios de The Guardian. Pero en una declaración a la publicación online Insider , la portavoz de la fuerza aérea de EEUU, Ann Stefanek, negó que se hubiera producido la simulación. “El Departamento de la Fuerza Aérea no ha realizado ninguna simulación con drones de IA y sigue comprometido con el uso ético y responsable de la tecnología de IA”, dijo Stefanek. “Parece que los comentarios del coronel fueron sacados de contexto y pretendían ser anecdóticos”. Sin embargo, los comentarios del coronel Hamilton no parecen ser anecdóticos, ni mucho menos.

Y este viernes el coronel Hamilton declaró en un comunicado que "se expresó mal” durante la presentación y que la “simulación de drones de IA” era un “experimento mental”. No quedó claro si Hamilton fue forzado a desdecirse, tal vez bajo la amenaza de recibir cargos penales por dar a conocer datos confidenciales, o si realmente se inventó la simulación de la IA, algo que luce totalmente insólito.

La fuerza aérea de EEUU recientemente usó inteligencia artificial para controlar un caza F-16. En 2020, un F-16 operado por IA venció a un adversario humano en cinco combates aéreos simulados. Pilotos muy experimentados de la Fuerza Aérea estadounidense fueron batidos repetidamente por la IA, tanto en la pantalla de un simulador como en el mundo real, con aviones en el aire. Por esta eficacia, acelerar en el uso de la IA resulta además de tentador casi ineludible para los militares.

El año pasado, el coronel Hamilton ya había alertado: “La IA no es una moda pasajera; está cambiando para siempre nuestra sociedad y nuestro ejército. La IA también es muy frágil, es fácil de engañar o manipular. Necesitamos desarrollar formas de hacer que la IA sea más robusta y tener más conciencia de por qué el código del software toma ciertas decisiones, lo que llamamos ‘explicabilidad’ de la IA”. Pero para la Fuerza Aérea el episodio simplemente no existió.

Ver comentarios

Las más leídas

El gerente de la empresa que echó al personal con un PowerPoint justificó los despidos

El gerente de la empresa que echó al personal con un PowerPoint justificó los despidos

Ángel Di María volvería a Central para jugar la Copa Libertadores

Ángel Di María volvería a Central para jugar la Copa Libertadores

Medicina: los alumnos podrán suspender los exámenes si se sienten maltratados

Medicina: los alumnos podrán suspender los exámenes si se sienten maltratados

Asesinaron de un disparo a una mujer en zona oeste de Rosario

Asesinaron de un disparo a una mujer en zona oeste de Rosario

Lo último

La ruta del auto usado en el crimen de Trasante: qué les reprochan a los acusados

La ruta del auto usado en el crimen de Trasante: qué les reprochan a los acusados

Central: dónde estaría la duda de Russo de cara al partido con Racing

Central: dónde estaría la duda de Russo de cara al partido con Racing

Diana Mondino puso en duda el ingreso de Argentina a los BRICS: cómo funciona ese bloque

Diana Mondino puso en duda el ingreso de Argentina a los BRICS: cómo funciona ese bloque

La ruta del auto usado en el crimen de Trasante: qué les reprochan a los acusados

Los cuatro imputados en el juicio por el asesinato están ligados a la compra de un Peugeot 308 robado que usaron los sicarios. Según la acusación, actuaron a órdenes de un narco preso en Piñero
La ruta del auto usado en el crimen de Trasante: qué les reprochan a los acusados
Walter Agosto aseguró que se bajó 14% la deuda durante la gestión de Omar Perotti
Economía

Walter Agosto aseguró que se bajó 14% la deuda durante la gestión de Omar Perotti

Motín en la comisaría 24ª de Granadero Baigorria: los presos exigen ser trasladados
Policiales

Motín en la comisaría 24ª de Granadero Baigorria: los presos exigen ser trasladados

Créditos UVA: la Cámara baja santafesina les dio una buena señal a los deudores hipotecarios
Economía

Créditos UVA: la Cámara baja santafesina les dio una buena señal a los deudores hipotecarios

Feria de Librerías de Viejo en Rosario: Es una propuesta que te transporta en el tiempo
La Ciudad

Feria de Librerías de Viejo en Rosario: "Es una propuesta que te transporta en el tiempo"

Alerta naranja por tormentas fuertes para Rosario y la región
La Ciudad

Alerta naranja por tormentas fuertes para Rosario y la región

Dejanos tu comentario
Las más leídas
El gerente de la empresa que echó al personal con un PowerPoint justificó los despidos

El gerente de la empresa que echó al personal con un PowerPoint justificó los despidos

Ángel Di María volvería a Central para jugar la Copa Libertadores

Ángel Di María volvería a Central para jugar la Copa Libertadores

Medicina: los alumnos podrán suspender los exámenes si se sienten maltratados

Medicina: los alumnos podrán suspender los exámenes si se sienten maltratados

Asesinaron de un disparo a una mujer en zona oeste de Rosario

Asesinaron de un disparo a una mujer en zona oeste de Rosario

Quién es María Eleonora Urrutia, designada por Milei para la transición en Educación

Quién es María Eleonora Urrutia, designada por Milei para la transición en Educación

Ovación
Marruecos, España y Portugal firmaron un acuerdo por sus candidaturas para el Mundial 2030
Ovación

Marruecos, España y Portugal firmaron un acuerdo por sus candidaturas para el Mundial 2030

Marruecos, España y Portugal firmaron un acuerdo por sus candidaturas para el Mundial 2030

Marruecos, España y Portugal firmaron un acuerdo por sus candidaturas para el Mundial 2030

Central-Racing: este jueves comienza la venta de entradas

Central-Racing: este jueves comienza la venta de entradas

Continúa el furor por Messi: Inter Miami ya agotó los abonos para la temporada 2024

Continúa el furor por Messi: Inter Miami ya agotó los abonos para la temporada 2024

Policiales
La ruta del auto usado en el crimen de Trasante: qué les reprochan a los acusados
Policiales

La ruta del auto usado en el crimen de Trasante: qué les reprochan a los acusados

Crimen de Virginia Ferreyra: rechazaron pedido de la defensa de El Brujo Ungaro

Crimen de Virginia Ferreyra: rechazaron pedido de la defensa de "El Brujo" Ungaro

Motín en la comisaría 24ª de Granadero Baigorria: los presos exigen ser trasladados

Motín en la comisaría 24ª de Granadero Baigorria: los presos exigen ser trasladados

Desarticulan una banda dedicada al narcomenudeo en San Lorenzo

Desarticulan una banda dedicada al narcomenudeo en San Lorenzo

La Ciudad
Asueto por el Día del Empleado Público: cómo funcionarán este viernes los servicios en Rosario
La Ciudad

Asueto por el Día del Empleado Público: cómo funcionarán este viernes los servicios en Rosario

Feria de Librerías de Viejo en Rosario: Es una propuesta que te transporta en el tiempo

Feria de Librerías de Viejo en Rosario: "Es una propuesta que te transporta en el tiempo"

Alerta naranja por tormentas fuertes para Rosario y la región

Alerta naranja por tormentas fuertes para Rosario y la región

Plan de bacheo: cronograma de cortes de tránsito en el área central

Plan de bacheo: cronograma de cortes de tránsito en el área central

La defensa de Pillín Bracamonte sostiene que ha corregido su pasado
POLICIALES

La defensa de "Pillín" Bracamonte sostiene que "ha corregido su pasado"

Nuevo paro en la salud pública: Amra reclama reapertura de paritarias
LA CIUDAD

Nuevo paro en la salud pública: Amra reclama reapertura de paritarias

Massa garantizó a gobernadores el pago de sueldos y medio aguinaldo

Por Javier Felcaro

Política

Massa garantizó a gobernadores el pago de sueldos y medio aguinaldo

La disputa por la banca 50 de Diputados tendrá la semana próxima su capítulo final

Por Mariano D'Arrigo

Politica

La disputa por la banca 50 de Diputados tendrá la semana próxima su capítulo final

El reelecto intendente de Rufino y su esposa, absueltos en una causa de corrupción

Por Claudio González

La Ciudad

El reelecto intendente de Rufino y su esposa, absueltos en una causa de corrupción

Milei aseguró que ya están todos definidos los integrantes de su gabinete
Política

Milei aseguró que "ya están todos definidos" los integrantes de su gabinete

Milei precisa sus planes: Caputo en Economía, ajuste y estanflación
Economía

Milei precisa sus planes: Caputo en Economía, ajuste y estanflación

Murió a los 100 años el ex secretario de Estado norteamericano Henry Kissinger
El Mundo

Murió a los 100 años el ex secretario de Estado norteamericano Henry Kissinger

Atentado terrorista en Jerusalem: tres muertos y seis heridos
El Mundo

Atentado terrorista en Jerusalem: tres muertos y seis heridos

Qué reveló la autopsia del piloto que estrelló su helicóptero en el río Paraná
La Región

Qué reveló la autopsia del piloto que estrelló su helicóptero en el río Paraná

Operativo verano: reforzarán controles y la seguridad en Roldán
LA REGIÓN

Operativo verano: reforzarán controles y la seguridad en Roldán

Abrieron las piletas del parque Alem: cuánto cuesta la entrada
La Ciudad

Abrieron las piletas del parque Alem: cuánto cuesta la entrada

El economista y periodista Manuel Adorni será el vocero de Javier Milei
Política

El economista y periodista Manuel Adorni será el vocero de Javier Milei

Para Israel, el cerebro del brutal ataque de Hamás es hombre muerto
El Mundo

Para Israel, el cerebro del brutal ataque de Hamás "es hombre muerto"

Según Hamás, el bebé argentino secuestrado murió en un ataque israelí
El Mundo

Según Hamás, el bebé argentino secuestrado murió en un ataque israelí

El peronismo recibió a Villarruel en el Senado, y le dio la bienvenida

Por Rodolfo Montes

Politica

El peronismo recibió a Villarruel en el Senado, y le dio la "bienvenida"

Declaró la viuda de Trasante: Fue terrible ver la sangre y no poder hacer nada por él
Policiales

Declaró la viuda de Trasante: "Fue terrible ver la sangre y no poder hacer nada por él"

¿Es cierto que los mosquitos pican más a algunas personas que a otras?
La Ciudad

¿Es cierto que los mosquitos pican más a algunas personas que a otras?

Erbetta mostró preocupación por el colonialismo financiero
Política

Erbetta mostró preocupación por el "colonialismo financiero"

Amigos del Parque Independencia, preocupados por el partido del viernes
La Ciudad

Amigos del Parque Independencia, preocupados por el partido del viernes