Fotos falsas de Trump creadas con IA inundaron las redes

Aparecieron de golpe y confundieron, luego de las noticias que especularon sobre la detención del ex presidente. Presagios de una nueva realidad
23 de marzo 2023 · 23:55hs

El expresidente Donald Trump es atacado en grupo por agentes de policía de la ciudad de Nueva York vestidos con equipo antidisturbios. El presidente ruso, Vladimir Putin, en prisión gris detrás de los barrotes de una celda de hormigón con poca luz.

Las imágenes sensacionales y altamente detalladas han inundado Twitter y otras plataformas en los últimos días, en medio de noticias de que Trump enfrenta posibles cargos penales y la Corte Penal Internacional ha emitido una orden de arresto contra Putin.

Hay posibilidades de apagar WhatsApp por un rato para que no interrumpan otras actividades.

Qué es el "modo apagar" de WhatsApp y cómo se activa

La Luna llena podrá verse desde cualquier parte del país y sin necesidad de contar con alguna ayuda óptica.

La Luna llena llegará este 29 de septiembre

Pero ninguno de los visuales es remotamente real. Las imágenes, y las decenas de variaciones que ensucian las redes sociales, se produjeron utilizando generadores de imágenes cada vez más sofisticados y accesibles impulsados por inteligencia artificial (IA).

arresto-donald-trump-midjourney.jpeg

Los expertos en desinformación advierten que las imágenes son presagios de una nueva realidad: oleadas de fotos y videos falsos que inundan las redes sociales después de eventos noticiosos y que enturbian aún más la realidad y la ficción en momentos cruciales.

“Agrega ruido durante los eventos de crisis. También aumenta el nivel de cinismo”, dijo Jevin West, profesor de la Universidad de Washington en Seattle que se enfoca en la difusión de información errónea. “Empiezas a perder la confianza en el sistema y en la información que obtienes”.

Si bien la capacidad de manipular fotos y crear imágenes falsas no es nueva, las herramientas de generación de imágenes de IA de Midjourney, Dall-E y otras son más fáciles de usar. Pueden generar rápidamente imágenes realistas, completas con fondos detallados, a gran escala con poco más que un simple mensaje de texto de los usuarios.

fotojet-1_41993991_20230322171024.jpg

Algunas de las imágenes recientes han sido impulsadas por el lanzamiento de este mes de una nueva versión del modelo de síntesis de texto a imagen de Midjourney, que puede, entre otras cosas, producir imágenes convincentes que imitan el estilo de las fotos de las agencias de noticias.

En un hilo de Twitter muy visto, Eliot Higgins, fundador de Bellingcat, un colectivo de periodismo de investigación con sede en los Países Bajos, usó la última versión de la herramienta para evocar decenas de imágenes dramáticas del arresto ficticio de Trump.

Las imágenes, que se han compartido y han gustado decenas de miles de veces, mostraban a una multitud de oficiales uniformados agarrando al multimillonario republicano y tirándolo violentamente al pavimento.

RDRJNICNMNAXDJ7YEC6YEDJPQU.jpg

Higgins, quien también estuvo detrás de un conjunto de imágenes de Putin siendo arrestado, juzgado y luego encarcelado, dice que publicó las imágenes sin malas intenciones. Incluso declaró claramente en su hilo de Twitter que las imágenes fueron generadas por IA.

Aún así, las imágenes fueron suficientes para bloquearlo del servidor Midjourney, según Higgins. El laboratorio de investigación independiente con sede en San Francisco no respondió a los correos electrónicos en busca de comentarios.

“La imagen del arresto de Trump realmente mostraba casualmente lo bueno y lo malo que era Midjourney para representar escenas reales”, escribió Higgins en un correo electrónico. “Las imágenes comenzaron a formar una especie de narración cuando añadí indicaciones a Midjourney, así que las encadené en una narración y decidí terminar la historia”.

HW7AA3BMPVABJJBK3IQDF23FVY.jpg

Señaló que las imágenes están lejos de ser perfectas: en algunas, se ve a Trump, curiosamente, con un cinturón de policía. En otros, los rostros y las manos están claramente distorsionados.

Pero no es suficiente que usuarios como Higgins indiquen claramente en sus publicaciones que las imágenes son generadas por IA y solo para entretenimiento, dice Shirin Anlen, tecnóloga de medios de Witness, una organización de derechos humanos con sede en Nueva York que se enfoca en evidencia visual.

Con demasiada frecuencia, las imágenes se vuelven a compartir rápidamente con otros sin ese contexto crucial, dijo. De hecho, una publicación de Instagram que compartió algunas de las imágenes de Trump de Higgins como si fueran genuinas obtuvo más de 79,000 me gusta.

NBFKOLMVIJEOHMYOTLIGPQTOIQ.jpg

“Solo estás viendo una imagen, y una vez que ves algo, no puedes dejar de verlo”, dijo Anlen.

En otro ejemplo reciente, los usuarios de las redes compartieron una imagen sintética que supuestamente capturaba a Putin arrodillado y besando la mano del líder chino Xi Jinping. La imagen, que circuló cuando el presidente ruso le dio la bienvenida a Xi al Kremlin esta semana, se convirtió rápidamente en un crudo meme.

No está claro quién creó la imagen o qué herramienta usaron, pero algunas pistas revelaron la falsificación. Las cabezas y los zapatos de los dos líderes estaban ligeramente distorsionados, por ejemplo, y el interior de la habitación no coincidía con la habitación donde tuvo lugar la reunión real.

Dado que las imágenes sintéticas son cada vez más difíciles de distinguir de las reales, la mejor manera de combatir la desinformación visual es una mejor concienciación y educación del público, dicen los expertos.

FrwHda_WYAQTMcn.jpg

“Se está volviendo tan fácil y tan barato hacer estas imágenes que deberíamos hacer todo lo posible para que el público sea consciente de lo buena que se ha vuelto esta tecnología”, dijo West.

Higgins sugiere que las empresas de redes sociales podrían centrarse en desarrollar tecnología para detectar imágenes generadas por IA e integrarlas en sus plataformas.

Twitter tiene una política que prohíbe los "medios sintéticos, manipulados o fuera de contexto" con el potencial de engañar o dañar. Se adjuntaron anotaciones de Community Notes, el proyecto de verificación de datos de fuentes colectivas de Twitter, a algunos tuits para incluir el contexto de que las imágenes de Trump fueron generadas por IA.

Cuando se contactó para hacer comentarios el jueves, la compañía envió un correo electrónico solo con una respuesta automática.

Meta, la empresa matriz de Facebook e Instagram, se negó a comentar. Algunas de las imágenes inventadas de Trump fueron etiquetadas como "falsas" o "faltas de contexto" a través de su programa de verificación de hechos de terceros, del cual AP es participante.

Arthur Holland Michel, miembro del Consejo Carnegie para la Ética en Asuntos Internacionales en Nueva York que se centra en las tecnologías emergentes, dijo que le preocupa que el mundo no esté preparado para el diluvio inminente.

Se pregunta cómo se regularán las falsificaciones profundas que involucran a personas comunes, por ejemplo, imágenes falsas dañinas de una ex pareja o un colega.

“Desde una perspectiva política, no estoy seguro de que estemos preparados para lidiar con esta escala de desinformación en todos los niveles de la sociedad”, escribió Michel en un correo electrónico. "Tengo la sensación de que se necesitará un avance técnico aún no imaginado para poner fin a esto definitivamente".

Ver comentarios

Las más leídas

Crimen en la zona sur: los mensajes previos que la víctima ignoró

Crimen en la zona sur: los "mensajes" previos que la víctima ignoró

Barrio Martin: cae un dealer de drogas de diseño en fiestas electrónicas

Barrio Martin: cae un dealer de drogas de diseño en fiestas electrónicas

Una convocatoria por redes atrajo a miles de motos y derivó en un operativo

Una convocatoria por redes atrajo a miles de motos y derivó en un operativo

Dieron marcha atrás con las medida contra las billeteras virtuales

Dieron marcha atrás con las medida contra las billeteras virtuales

Lo último

Rafaela: condenaron a 10 hombres por abuso sexual grupal a una adolescente

Rafaela: condenaron a 10 hombres por abuso sexual grupal a una adolescente

Este domingo comienza la temporada estival en La Florida con entrada libre

Este domingo comienza la temporada estival en La Florida con entrada libre

Qué es el modo apagar de WhatsApp y cómo se activa

Qué es el "modo apagar" de WhatsApp y cómo se activa

Fuerte denuncia del abogado de Mariana Ortigala contra los fiscales Socca y Moreno

Leonel Iesari, letrado de la mujer imputada por extorsiones, apuntó contra los funcionarios por revelar que su defendida era informante de fiscalía.  
Fuerte denuncia del abogado de Mariana Ortigala contra los fiscales Socca y Moreno

Por Martín Stoianovich

Inspección en el Centro de Justicia Penal por la denuncia contra el fiscal Matías Edery
POLICIALES

Inspección en el Centro de Justicia Penal por la denuncia contra el fiscal Matías Edery

Nicki Nicole revolucionó el Alto Rosario: No hay nada mejor que estar en casa
Zoom

Nicki Nicole revolucionó el Alto Rosario: "No hay nada mejor que estar en casa"

El municipio impulsará causa penal contra organizadores de la caravana de motos 
LA CIUDAD

El municipio impulsará causa penal contra organizadores de la caravana de motos 

El Colegio de Médicos de Rosario advierte que las prestadoras les pagan a 60 o 90 días
LA CIUDAD

El Colegio de Médicos de Rosario advierte que las prestadoras les pagan "a 60 o 90 días"

Salud pide que los mayores de 50 se vacunen contra el Covid
La ciudad

Salud pide que los mayores de 50 se vacunen contra el Covid

Dejanos tu comentario
Las más leídas
Crimen en la zona sur: los mensajes previos que la víctima ignoró

Crimen en la zona sur: los "mensajes" previos que la víctima ignoró

Barrio Martin: cae un dealer de drogas de diseño en fiestas electrónicas

Barrio Martin: cae un dealer de drogas de diseño en fiestas electrónicas

Una convocatoria por redes atrajo a miles de motos y derivó en un operativo

Una convocatoria por redes atrajo a miles de motos y derivó en un operativo

Dieron marcha atrás con las medida contra las billeteras virtuales

Dieron marcha atrás con las medida contra las billeteras virtuales

Lo obligaron a vender drogas en un búnker, se salvó de que lo mataran y denunció a un policía

Lo obligaron a vender drogas en un búnker, se salvó de que lo mataran y denunció a un policía

Ovación
Clásico por la Paz, un mensaje de convivencia para la verdadera ciudad sin miedo

Por Matías Petisce

Ovación

Clásico por la Paz, un mensaje de convivencia para "la verdadera ciudad sin miedo"

Clásico por la Paz, un mensaje de convivencia para la verdadera ciudad sin miedo

Clásico por la Paz, un mensaje de convivencia para "la verdadera ciudad sin miedo"

Mascherano: No he hablado con Messi y Di María sobre la chance de los Juegos Olímpicos

Mascherano: "No he hablado con Messi y Di María sobre la chance de los Juegos Olímpicos"

Los Pumas tendrá once cambios para enfrentar a Chile en el Mundial de Francia

Los Pumas tendrá once cambios para enfrentar a Chile en el Mundial de Francia

Policiales
Fuerte denuncia del abogado de Mariana Ortigala contra los fiscales Socca y Moreno

Por Martín Stoianovich

Policiales

Fuerte denuncia del abogado de Mariana Ortigala contra los fiscales Socca y Moreno

Inspección en el Centro de Justicia Penal por la denuncia contra el fiscal Matías Edery

Inspección en el Centro de Justicia Penal por la denuncia contra el fiscal Matías Edery

El chico baleado en República de la Sexta sigue grave: piden cadena de oración

El chico baleado en República de la Sexta sigue grave: piden cadena de oración

Barrio Martin: cae un dealer de drogas de diseño en fiestas electrónicas

Barrio Martin: cae un dealer de drogas de diseño en fiestas electrónicas

La Ciudad
Este domingo comienza la temporada estival en La Florida con entrada libre

Por Claudio González

La Ciudad

Este domingo comienza la temporada estival en La Florida con entrada libre

Salud pide que los mayores de 50 se vacunen contra el Covid

Salud pide que los mayores de 50 se vacunen contra el Covid

El Colegio de Médicos de Rosario advierte que las prestadoras les pagan a 60 o 90 días

El Colegio de Médicos de Rosario advierte que las prestadoras les pagan "a 60 o 90 días"

El municipio impulsará causa penal contra organizadores de la caravana de motos 

El municipio impulsará causa penal contra organizadores de la caravana de motos 

El Senado le abrió la puerta a Mipyme y se viene un super jueves legislativo

Por Rodolfo Montes

Economía

El Senado le abrió la puerta a "Mipyme" y se viene un super jueves legislativo

Una convocatoria por redes atrajo a miles de motos y derivó en un operativo

Por Lucas Ameriso

La Ciudad

Una convocatoria por redes atrajo a miles de motos y derivó en un operativo

Para evitar las picadas ilegales promueven llevarlas al autódromo municipal

Por Lucas Ameriso

La Ciudad

Para evitar las picadas ilegales promueven llevarlas al autódromo municipal

Lo obligaron a vender drogas en un búnker, se salvó de que lo mataran y denunció a un policía

Por María Laura Cicerchia

Policiales

Lo obligaron a vender drogas en un búnker, se salvó de que lo mataran y denunció a un policía

Crimen en la zona sur: los mensajes previos que la víctima ignoró

Por Leo Graciarena

POLICIALES

Crimen en la zona sur: los "mensajes" previos que la víctima ignoró

Imputaron a Batakis por contrataciones de familiares y de una numeróloga
Política

Imputaron a Batakis por contrataciones de familiares y de una numeróloga

Acuerdan una tregua en la batalla por el peaje en la hidrovía
Economía

Acuerdan una tregua en la batalla por el peaje en la hidrovía

Robó a un peatón y huyó en taxi, pero un motociclista lo persiguió y lo redujo
Policiales

Robó a un peatón y huyó en taxi, pero un motociclista lo persiguió y lo redujo

Una joven aceptó 10 años de cárcel por integrar la banda de Los Gorditos
POLICIALES

Una joven aceptó 10 años de cárcel por integrar la banda de Los Gorditos

Estudiantes de Las Petacas enseñarán a fabricar tabletas antimosquitos

Por Luis Emilio Blanco

La Región

Estudiantes de Las Petacas enseñarán a fabricar tabletas antimosquitos

Con más expositores, charlas y artistas, comienza la feria del libro de Roldán
LA REGIÓN

Con más expositores, charlas y artistas, comienza la feria del libro de Roldán

Sindicatos rosarinos movilizan para el acto de la CGT frente al Congreso
Economía

Sindicatos rosarinos movilizan para el acto de la CGT frente al Congreso

La pobreza alcanzó al 33,5 por ciento de la población del Gran Rosario
Economía

La pobreza alcanzó al 33,5 por ciento de la población del Gran Rosario

Dieron marcha atrás con las medida contra las billeteras virtuales
Economía

Dieron marcha atrás con las medida contra las billeteras virtuales

Massa prometió una nueva etapa en la política si resulta electo presidente
politica

Massa prometió una nueva etapa en la política si resulta electo presidente

Mar del Plata: prisión para un conductor alcoholizado que atropelló y mató
Información General

Mar del Plata: prisión para un conductor alcoholizado que atropelló y mató

Sindicato de Prensa destaca el avance en la ley de acceso a la Información Pública
Santa Fe

Sindicato de Prensa destaca el avance en la ley de acceso a la Información Pública

Evo Morales rompe con su sucesor Luis Arce y anuncia que será candidato en 2025
El Mundo

Evo Morales rompe con su sucesor Luis Arce y anuncia que será candidato en 2025

En el primer trimistre del año, la pobreza en el país llegó al 40,1%
Economía

En el primer trimistre del año, la pobreza en el país llegó al 40,1%

Condenaron a diez jóvenes por la violación de una chica en 2018 en un pueblo
Policiales

Condenaron a diez jóvenes por la violación de una chica en 2018 en un pueblo