Fotos falsas de Trump creadas con IA inundaron las redes

Aparecieron de golpe y confundieron, luego de las noticias que especularon sobre la detención del ex presidente. Presagios de una nueva realidad
23 de marzo 2023 · 23:55hs

El expresidente Donald Trump es atacado en grupo por agentes de policía de la ciudad de Nueva York vestidos con equipo antidisturbios. El presidente ruso, Vladimir Putin, en prisión gris detrás de los barrotes de una celda de hormigón con poca luz.

Las imágenes sensacionales y altamente detalladas han inundado Twitter y otras plataformas en los últimos días, en medio de noticias de que Trump enfrenta posibles cargos penales y la Corte Penal Internacional ha emitido una orden de arresto contra Putin.

el volcan popocatepetl mantiene en vilo a ciudad de mexico

El volcán Popocatépetl mantiene en vilo a Ciudad de México

una empresa de elon musk fue autorizada a implantar dispositivos en el cerebro

Una empresa de Elon Musk fue autorizada a implantar dispositivos en el cerebro

Pero ninguno de los visuales es remotamente real. Las imágenes, y las decenas de variaciones que ensucian las redes sociales, se produjeron utilizando generadores de imágenes cada vez más sofisticados y accesibles impulsados por inteligencia artificial (IA).

arresto-donald-trump-midjourney.jpeg

Los expertos en desinformación advierten que las imágenes son presagios de una nueva realidad: oleadas de fotos y videos falsos que inundan las redes sociales después de eventos noticiosos y que enturbian aún más la realidad y la ficción en momentos cruciales.

“Agrega ruido durante los eventos de crisis. También aumenta el nivel de cinismo”, dijo Jevin West, profesor de la Universidad de Washington en Seattle que se enfoca en la difusión de información errónea. “Empiezas a perder la confianza en el sistema y en la información que obtienes”.

Si bien la capacidad de manipular fotos y crear imágenes falsas no es nueva, las herramientas de generación de imágenes de IA de Midjourney, Dall-E y otras son más fáciles de usar. Pueden generar rápidamente imágenes realistas, completas con fondos detallados, a gran escala con poco más que un simple mensaje de texto de los usuarios.

fotojet-1_41993991_20230322171024.jpg

Algunas de las imágenes recientes han sido impulsadas por el lanzamiento de este mes de una nueva versión del modelo de síntesis de texto a imagen de Midjourney, que puede, entre otras cosas, producir imágenes convincentes que imitan el estilo de las fotos de las agencias de noticias.

En un hilo de Twitter muy visto, Eliot Higgins, fundador de Bellingcat, un colectivo de periodismo de investigación con sede en los Países Bajos, usó la última versión de la herramienta para evocar decenas de imágenes dramáticas del arresto ficticio de Trump.

Las imágenes, que se han compartido y han gustado decenas de miles de veces, mostraban a una multitud de oficiales uniformados agarrando al multimillonario republicano y tirándolo violentamente al pavimento.

RDRJNICNMNAXDJ7YEC6YEDJPQU.jpg

Higgins, quien también estuvo detrás de un conjunto de imágenes de Putin siendo arrestado, juzgado y luego encarcelado, dice que publicó las imágenes sin malas intenciones. Incluso declaró claramente en su hilo de Twitter que las imágenes fueron generadas por IA.

Aún así, las imágenes fueron suficientes para bloquearlo del servidor Midjourney, según Higgins. El laboratorio de investigación independiente con sede en San Francisco no respondió a los correos electrónicos en busca de comentarios.

“La imagen del arresto de Trump realmente mostraba casualmente lo bueno y lo malo que era Midjourney para representar escenas reales”, escribió Higgins en un correo electrónico. “Las imágenes comenzaron a formar una especie de narración cuando añadí indicaciones a Midjourney, así que las encadené en una narración y decidí terminar la historia”.

HW7AA3BMPVABJJBK3IQDF23FVY.jpg

Señaló que las imágenes están lejos de ser perfectas: en algunas, se ve a Trump, curiosamente, con un cinturón de policía. En otros, los rostros y las manos están claramente distorsionados.

Pero no es suficiente que usuarios como Higgins indiquen claramente en sus publicaciones que las imágenes son generadas por IA y solo para entretenimiento, dice Shirin Anlen, tecnóloga de medios de Witness, una organización de derechos humanos con sede en Nueva York que se enfoca en evidencia visual.

Con demasiada frecuencia, las imágenes se vuelven a compartir rápidamente con otros sin ese contexto crucial, dijo. De hecho, una publicación de Instagram que compartió algunas de las imágenes de Trump de Higgins como si fueran genuinas obtuvo más de 79,000 me gusta.

NBFKOLMVIJEOHMYOTLIGPQTOIQ.jpg

“Solo estás viendo una imagen, y una vez que ves algo, no puedes dejar de verlo”, dijo Anlen.

En otro ejemplo reciente, los usuarios de las redes compartieron una imagen sintética que supuestamente capturaba a Putin arrodillado y besando la mano del líder chino Xi Jinping. La imagen, que circuló cuando el presidente ruso le dio la bienvenida a Xi al Kremlin esta semana, se convirtió rápidamente en un crudo meme.

No está claro quién creó la imagen o qué herramienta usaron, pero algunas pistas revelaron la falsificación. Las cabezas y los zapatos de los dos líderes estaban ligeramente distorsionados, por ejemplo, y el interior de la habitación no coincidía con la habitación donde tuvo lugar la reunión real.

Dado que las imágenes sintéticas son cada vez más difíciles de distinguir de las reales, la mejor manera de combatir la desinformación visual es una mejor concienciación y educación del público, dicen los expertos.

FrwHda_WYAQTMcn.jpg

“Se está volviendo tan fácil y tan barato hacer estas imágenes que deberíamos hacer todo lo posible para que el público sea consciente de lo buena que se ha vuelto esta tecnología”, dijo West.

Higgins sugiere que las empresas de redes sociales podrían centrarse en desarrollar tecnología para detectar imágenes generadas por IA e integrarlas en sus plataformas.

Twitter tiene una política que prohíbe los "medios sintéticos, manipulados o fuera de contexto" con el potencial de engañar o dañar. Se adjuntaron anotaciones de Community Notes, el proyecto de verificación de datos de fuentes colectivas de Twitter, a algunos tuits para incluir el contexto de que las imágenes de Trump fueron generadas por IA.

Cuando se contactó para hacer comentarios el jueves, la compañía envió un correo electrónico solo con una respuesta automática.

Meta, la empresa matriz de Facebook e Instagram, se negó a comentar. Algunas de las imágenes inventadas de Trump fueron etiquetadas como "falsas" o "faltas de contexto" a través de su programa de verificación de hechos de terceros, del cual AP es participante.

Arthur Holland Michel, miembro del Consejo Carnegie para la Ética en Asuntos Internacionales en Nueva York que se centra en las tecnologías emergentes, dijo que le preocupa que el mundo no esté preparado para el diluvio inminente.

Se pregunta cómo se regularán las falsificaciones profundas que involucran a personas comunes, por ejemplo, imágenes falsas dañinas de una ex pareja o un colega.

“Desde una perspectiva política, no estoy seguro de que estemos preparados para lidiar con esta escala de desinformación en todos los niveles de la sociedad”, escribió Michel en un correo electrónico. "Tengo la sensación de que se necesitará un avance técnico aún no imaginado para poner fin a esto definitivamente".

Ver comentarios

Las más de leídas

Un cordobés se descompensó en una fiesta electrónica en Rosario y murió

Un cordobés se descompensó en una fiesta electrónica en Rosario y murió

Asesinaron a un ciclista para robarle la bicicleta

Asesinaron a un ciclista para robarle la bicicleta

Murió un hombre arrastrado por el agua durante la lluvia

Murió un hombre arrastrado por el agua durante la lluvia

La rosarina Alina Moine dejó atrás al Muñeco Gallardo y presentó nuevo novio

La rosarina Alina Moine dejó atrás al Muñeco Gallardo y presentó nuevo novio

Lo último

La Academia de Periodismo premia con la Pluma de Honor al rosarino Germán de los Santos

La Academia de Periodismo premia con la Pluma de Honor al rosarino Germán de los Santos

La escarapela con sánguche de miga, el modelo furor en redes

La escarapela con sánguche de miga, el modelo furor en redes

Jesica Cirio reaccionó con dureza al ver a Martín Insaurralde en el acto de Cristina

Jesica Cirio reaccionó con dureza al ver a Martín Insaurralde en el acto de Cristina

Tormenta en Rosario: tras las intensas lluvias se esperan fuertes vientos del sur

Defensa Civil advirtió que las precipitaciones cederán a partir del mediodía, pero que soplarán ráfagas de viento que llegarían a 40 km/h.

Tormenta en Rosario: tras las intensas lluvias se esperan fuertes vientos del sur
Quieren eliminar el estacionamiento en Oroño para hacer ciclovías

Por Nicolás Maggi

La Ciudad

Quieren eliminar el estacionamiento en Oroño para hacer ciclovías

Energía renovable: unos 200 clubes ya incorporaron paneles solares

Por Carina Bazzoni

La Ciudad

Energía renovable: unos 200 clubes ya incorporaron paneles solares

Capitán Bermúdez: está muy grave un joven baleado frente a un kiosco
Policiales

Capitán Bermúdez: está muy grave un joven baleado frente a un kiosco

Los docentes nucleados en Coad analizan ir al paro por 48 horas
La Ciudad

Los docentes nucleados en Coad analizan ir al paro por 48 horas

Global Teacher Prize: premian con un millón de dólares al mejor docente del mundo

Por Laura Vilche

Educación

Global Teacher Prize: premian con un millón de dólares al mejor docente del mundo

Dejanos tu comentario
Las más leídas
Un cordobés se descompensó en una fiesta electrónica en Rosario y murió

Un cordobés se descompensó en una fiesta electrónica en Rosario y murió

Asesinaron a un ciclista para robarle la bicicleta

Asesinaron a un ciclista para robarle la bicicleta

Murió un hombre arrastrado por el agua durante la lluvia

Murió un hombre arrastrado por el agua durante la lluvia

La rosarina Alina Moine dejó atrás al Muñeco Gallardo y presentó nuevo novio

La rosarina Alina Moine dejó atrás al Muñeco Gallardo y presentó nuevo novio

Crimen de Hugo Villán: Pagaron la extorsión media hora antes de la balacera

Crimen de Hugo Villán: "Pagaron la extorsión media hora antes de la balacera"

Ovación
Cestoball: las mujeres y los varones de Argentina se coronaron campeones del mundo
Ovación

Cestoball: las mujeres y los varones de Argentina se coronaron campeones del mundo

Cestoball: las mujeres y los varones de Argentina se coronaron campeones del mundo

Cestoball: las mujeres y los varones de Argentina se coronaron campeones del mundo

Los tenistas argentinos ya conocen sus rivales en Roland Garrós

Los tenistas argentinos ya conocen sus rivales en Roland Garrós

PSG le ofreció a Sergio Ramos renovar el contrato, pero por la mitad del sueldo

PSG le ofreció a Sergio Ramos renovar el contrato, pero por la mitad del sueldo

Policiales
Capitán Bermúdez: está muy grave un joven baleado frente a un kiosco
Policiales

Capitán Bermúdez: está muy grave un joven baleado frente a un kiosco

Detuvieron en barrio La Cerámica a una pareja con cocaína y dinero

Detuvieron en barrio La Cerámica a una pareja con cocaína y dinero

Fue detenido en Puerto Iguazú el solitario ladrón de la agencia Daminato

Fue detenido en Puerto Iguazú el solitario ladrón de la agencia Daminato

Balaceras y amenazas contra escuelas: una constante con varios hechos en el año

Balaceras y amenazas contra escuelas: una constante con varios hechos en el año

La Ciudad
La Academia de Periodismo premia con la Pluma de Honor al rosarino Germán de los Santos
La ciudad

La Academia de Periodismo premia con la Pluma de Honor al rosarino Germán de los Santos

Global Teacher Prize: premian con un millón de dólares al mejor docente del mundo

Global Teacher Prize: premian con un millón de dólares al mejor docente del mundo

Los docentes nucleados en Coad analizan ir al paro por 48 horas

Los docentes nucleados en Coad analizan ir al paro por 48 horas

Tormenta en Rosario: tras las intensas lluvias se esperan fuertes vientos del sur

Tormenta en Rosario: tras las intensas lluvias se esperan fuertes vientos del sur

Rosario sufre las peores lluvias de los últimos diez años
La Ciudad

Rosario sufre las peores lluvias de los últimos diez años

Balaceras y amenazas contra escuelas: una constante con varios hechos en el año
Policiales

Balaceras y amenazas contra escuelas: una constante con varios hechos en el año

El oficialismo ponderó a CFK por marcar los ejes para ganar las elecciones
Política

El oficialismo ponderó a CFK por marcar los ejes para ganar las elecciones

Crimen de Hugo Villán: Pagaron la extorsión media hora antes de la balacera
POLICIALES

Crimen de Hugo Villán: "Pagaron la extorsión media hora antes de la balacera"

Navegar media hora en el Laguito del parque costará 2.200 pesos

Por Nachi Saieg

LA CIUDAD

Navegar media hora en el Laguito del parque costará 2.200 pesos

Perotti relacionó las últimas amenazas y homicidios con la campaña electoral
Política

Perotti relacionó las últimas amenazas y homicidios con la campaña electoral

Quiso entrar a robar a un comercio pero quedó atrapado en la persiana
La Ciudad

Quiso entrar a robar a un comercio pero quedó atrapado en la persiana

Francisco: La idea es ir a Argentina el año que viene, vamos a ver si se puede
Información general

Francisco: "La idea es ir a Argentina el año que viene, vamos a ver si se puede"

Mendoza goza de un récord de turistas gracias a la nieve y el Mundial Sub 20
Información General

Mendoza goza de un récord de turistas gracias a la nieve y el Mundial Sub 20

Afirman que el cuerpo de un cura de la Patagonia se iluminó al morir
Información General

Afirman que el cuerpo de un cura de la Patagonia "se iluminó" al morir

Una empresa de Elon Musk fue autorizada a implantar dispositivos en el cerebro
Información General

Una empresa de Elon Musk fue autorizada a implantar dispositivos en el cerebro

El volcán Popocatépetl mantiene en vilo a Ciudad de México
Información General

El volcán Popocatépetl mantiene en vilo a Ciudad de México

Dos vacunas contra la gripe aviar resultaron muy eficaces en patos
Información General

Dos vacunas contra la gripe aviar resultaron "muy eficaces" en patos

Twitter estudia abandonar el código de la UE contra las fake news
Información General

Twitter estudia abandonar el código de la UE contra las fake news

Puerto San Martín: incendio en una planta de tratamiento de residuos industriales
La región

Puerto San Martín: incendio en una planta de tratamiento de residuos industriales

Una nena de dos años cayó dentro de un pozo de unos tres metros sin señalizar
La ciudad

Una nena de dos años cayó dentro de un pozo de unos tres metros sin señalizar

Alertan por baja presión de agua potable en varias zonas de Rosario y Villa G. Gálvez
La Ciudad

Alertan por baja presión de agua potable en varias zonas de Rosario y Villa G. Gálvez

Javkin: No podemos permitir que un preso defina si un chico va a la escuela o no
La ciudad

Javkin: "No podemos permitir que un preso defina si un chico va a la escuela o no"