Google suspende la generación de imágenes por inteligencia artificial por sesgos racistas

El desarrollo del buscador más popular del mundo devolvía resultados insólitos cuando se le pedí que generara capturas de tropas alemanas de la época nazi
22 de febrero 2024 · 10:45hs

A menos de un mes de su lanzamiento, Google anunció este jueves que pone en pausa una de las funciones de la herramienta Gemini, el modelo de inteligencia artificial (IA) de la empresa, después de que el programa representara a tropas alemanas de la época nazi como personas de varios orígenes étnicos.

La herramienta fue lanzada el 8 de febrero en algunos países como una versión mejorada del desarrollo que se anunció en diciembre pasado y busca competir con el modelo GPT-4 de OpenAI. Ahora, la utilización de la función de generación de imágenes por IA de Gemini quedará pausada para "solucionar recientes problemas", según indicaron desde la Google.

"Vamos a suspender la generación de imágenes de personas y pronto volveremos a lanzar una versión mejorada", explicó la empresa en un comunicado, según informó la agencia de noticias AFP.

Esta semana, un usuario de X publicó imágenes del resultado que ofrecía Gemini después de recibir instrucciones para "generar una imagen de un soldado alemán de 1943". La IA había generado cuatro imágenes de soldados: uno era blanco, uno negro y dos eran mujeres de color (una de ellas, asiática).

https://publish.twitter.com/oembed?url=https%3A%2F%2Ftwitter.com%2FJohnLu0x%2Fstatus%2F1760066875583816003&partner=&hide_thread=false

Las empresas tecnológicas ven la IA como el futuro para todo, pero los programas de este tipo, no solo el desarrollado por Google, han sido ampliamente criticados por perpetuar prejuicios raciales en sus resultados. Además, las grandes empresas tecnológicas han sido acusadas a menudo de lanzar productos de IA antes de que se prueben adecuadamente.

>> Leer más: "Inteligencia artificial", la palabra del año según el diccionario Collins

La firma propietaria del buscador más popular del mundo tiene un historial irregular en el lanzamiento de productos de IA, en un momento en que los avances de sus rivales Microsoft y OpenAI representan una potencial amenaza para su negocio principal de búsquedas en internet.

La empresa ofreció disculpas hace un año después de que un anuncio de su chatbot Bard recién lanzado mostrara al programa respondiendo incorrectamente una pregunta básica sobre astronomía.

Preocupación por falsedades y desinformaciones

Los avances en IA han suscitado, también, preocupación por la posibilidad de que la tecnología permita la falsificación, la desinformación y la parcialidad.

El modelo actualizado de IA desarrollado por Google, denominado Gemini 1.5 Pro, se habilitó al público de la nube la semana pasada para que puedan probar sus nuevas funciones y, con el tiempo, crear nuevas aplicaciones comerciales.

Tanto Google como sus rivales han invertido miles de millones de dólares en mejorar sus capacidades de IA generativa y buscar atraer clientes corporativos para demostrar que sus inversiones dan frutos.

Ver comentarios

Las más leídas

Rosario, un horno a cielo abierto: la sensación térmica tocó los 45 grados y ya se prevén tormentas

Rosario, un horno a cielo abierto: la sensación térmica tocó los 45 grados y ya se prevén tormentas

El gran debut de Federico Navarro, la apuesta de Ariel Holan en el triunfo de Rosario Central

El gran debut de Federico Navarro, la apuesta de Ariel Holan en el triunfo de Rosario Central

Feroz balacera en barrio Matheu: una mujer resultó herida en un ataque a balazos contra una casa

Feroz balacera en barrio Matheu: una mujer resultó herida en un ataque a balazos contra una casa

Accidente en la autopista a Córdoba: hay cuatro ciclistas heridos, dos de ellos de gravedad

Accidente en la autopista a Córdoba: hay cuatro ciclistas heridos, dos de ellos de gravedad

Lo último

Lautaro Giaccone: No quise irme de Rosario Central por la puerta de atrás

Lautaro Giaccone: "No quise irme de Rosario Central por la puerta de atrás"

Central no arranca en el fútbol femenino y volvió a perder, ahora con San Lorenzo

Central no arranca en el fútbol femenino y volvió a perder, ahora con San Lorenzo

Un senador contrató a una modelo de 24 años y pidió darla de baja a las dos semanas: qué pasó

Un senador contrató a una modelo de 24 años y pidió darla de baja a las dos semanas: qué pasó

Mujeres de Rosario crean un grupo de WhatApp para hacerse amigas: "Hay mucha contención y escucha"

Dos grupos rosarinos organizan salidas y reuniones, pero también se apoyan y comparten el día a día transformando las maneras tradicionales de generar vínculos

Mujeres de Rosario crean un grupo de WhatApp para hacerse amigas: Hay mucha contención y escucha
Listado completo de medicamentos: el gobierno habilitó un sitio para consultar online los precios
Información General

Listado completo de medicamentos: el gobierno habilitó un sitio para consultar online los precios

Newells: ¿quien está detrás del grupo inversor que quiere comprar a Mateo Silvetti?

Por Hernán Cabrera

Ovación

Newell's: ¿quien está detrás del grupo inversor que quiere comprar a Mateo Silvetti?

El gurú rosarino del blue salió a respaldar a Milei y no se guardó nada: A los tibios los vomita Dios
Política

El "gurú" rosarino del blue salió a respaldar a Milei y no se guardó nada: "A los tibios los vomita Dios"

Cuánto cuesta una membresía en los gimnasios en Rosario

Por Gonzalo Santamaría

La Ciudad

Cuánto cuesta una membresía en los gimnasios en Rosario

Después del cierre de listas: jefes, fracturas y el trailer de una campaña inédita

Por Mariano D'Arrigo

Exclusivo suscriptores

Después del cierre de listas: jefes, fracturas y el trailer de una campaña inédita

Dejanos tu comentario
Las más leídas
Rosario, un horno a cielo abierto: la sensación térmica tocó los 45 grados y ya se prevén tormentas

Rosario, un horno a cielo abierto: la sensación térmica tocó los 45 grados y ya se prevén tormentas

El gran debut de Federico Navarro, la apuesta de Ariel Holan en el triunfo de Rosario Central

El gran debut de Federico Navarro, la apuesta de Ariel Holan en el triunfo de Rosario Central

Feroz balacera en barrio Matheu: una mujer resultó herida en un ataque a balazos contra una casa

Feroz balacera en barrio Matheu: una mujer resultó herida en un ataque a balazos contra una casa

Accidente en la autopista a Córdoba: hay cuatro ciclistas heridos, dos de ellos de gravedad

Accidente en la autopista a Córdoba: hay cuatro ciclistas heridos, dos de ellos de gravedad

Cuánto cuesta una membresía en los gimnasios en Rosario

Cuánto cuesta una membresía en los gimnasios en Rosario

Ovación
Central no arranca en el fútbol femenino y volvió a perder, ahora con San Lorenzo
Ovación

Central no arranca en el fútbol femenino y volvió a perder, ahora con San Lorenzo

Central no arranca en el fútbol femenino y volvió a perder, ahora con San Lorenzo

Central no arranca en el fútbol femenino y volvió a perder, ahora con San Lorenzo

Newells: ¿quien está detrás del grupo inversor que quiere comprar a Mateo Silvetti?

Newell's: ¿quien está detrás del grupo inversor que quiere comprar a Mateo Silvetti?

Central: Malcorra-Campaz, la sociedad que volvió con su magia a Arroyito

Central: Malcorra-Campaz, la sociedad que volvió con su magia a Arroyito

Policiales
Feroz balacera en barrio Matheu: una mujer resultó herida en un ataque a balazos contra una casa
Policiales

Feroz balacera en barrio Matheu: una mujer resultó herida en un ataque a balazos contra una casa

Un delivery fue baleado en un intento de robo en la zona norte

Un delivery fue baleado en un intento de robo en la zona norte

Muerte del jugador de vóley de Central Córdoba: entre la reconstrucción del hecho y el reclamo de justicia

Muerte del jugador de vóley de Central Córdoba: entre la reconstrucción del hecho y el reclamo de justicia

Cuatro detenidos en siete allanamientos por microtráfico en Rosario

Cuatro detenidos en siete allanamientos por microtráfico en Rosario

La Ciudad
Operativo Verano: unas 800 mil personas disfrutaron de las fiestas populares en la provincia en enero
La Ciudad

Operativo Verano: unas 800 mil personas disfrutaron de las fiestas populares en la provincia en enero

Cuánto cuesta una membresía en los gimnasios en Rosario

Cuánto cuesta una membresía en los gimnasios en Rosario

Piden que en Rosario se implemente el carnet por puntos

Piden que en Rosario se implemente el carnet por puntos

Por qué los cines pasan cada vez menos películas subtituladas

Por qué los cines pasan cada vez menos películas subtituladas

En tiempo de descuento, LLA ajusta su lista distrital de convencionales
Política

En tiempo de descuento, LLA ajusta su lista distrital de convencionales

Habilitaron las tarjetas de crédito para el pago anual de patentes y del impuesto inmobiliario
La ciudad

Habilitaron las tarjetas de crédito para el pago anual de patentes y del impuesto inmobiliario

Rosario: una familia de zona oeste busca desesperadamente a su perro perdido tras un accidente
La Ciudad

Rosario: una familia de zona oeste busca desesperadamente a su perro perdido tras un accidente

Muerte del jugador de vóley de Central Córdoba: entre la reconstrucción del hecho y el reclamo de justicia

Por Matías Petisce

Policiales

Muerte del jugador de vóley de Central Córdoba: entre la reconstrucción del hecho y el reclamo de justicia

Ya son 17 los cuidacoches detenidos en Rosario en lo que va del 2025
La Ciudad

Ya son 17 los cuidacoches detenidos en Rosario en lo que va del 2025

La política de Santa Fe mostró las cartas y se presentaron las listas

Por Mariano D'Arrigo

Politica

La política de Santa Fe mostró las cartas y se presentaron las listas

Suspensión de las Paso: Kicillof acusó al presidente Milei de armar un caos electoral
Política

Suspensión de las Paso: Kicillof acusó al presidente Milei de armar un caos electoral

Suspensión de las Paso: libertarios afirman que el gobierno tendrá dificultades en el Senado
Política

Suspensión de las Paso: libertarios afirman que el gobierno tendrá dificultades en el Senado

Un delivery fue baleado en un intento de robo en la zona norte
Policiales

Un delivery fue baleado en un intento de robo en la zona norte

Tragedia de Sol Líneas Aéreas: apelaron el fallo de la Justicia Federal
La Ciudad

Tragedia de Sol Líneas Aéreas: apelaron el fallo de la Justicia Federal

Detuvieron a dos personas vendiendo cocaína a plena luz del día cerca de los silos Davis
Policiales

Detuvieron a dos personas vendiendo cocaína a plena luz del día cerca de los silos Davis

La cantidad de basura que sacaron del río Paraná dio un salto exponencial en 2024

Por Lucas Aranda

La Ciudad

La cantidad de basura que sacaron del río Paraná dio un salto exponencial en 2024

Diputados sesionará el miércoles próximo para aprobar la ley de ficha limpia
Política

Diputados sesionará el miércoles próximo para aprobar la ley de ficha limpia

Javier Milei admitió que analiza retirar a Argentina del Acuerdo de París
Política

Javier Milei admitió que analiza retirar a Argentina del Acuerdo de París

Un ídolo de Central encabezará una lista para el Concejo de Rosario

Por Facundo Borrego

Política

Un ídolo de Central encabezará una lista para el Concejo de Rosario

Unidos ya tiene el nombre de quién acompañará a Pullaro en la lista a convencionales
Política

Unidos ya tiene el nombre de quién acompañará a Pullaro en la lista a convencionales

El precio del dólar blue sigue bajando: a cuánto cerró en Rosario este viernes
Economía

El precio del dólar blue sigue bajando: a cuánto cerró en Rosario este viernes

Unidos encamina lista única para el Concejo de Rosario y suma a un hermano de Pullaro
Política

Unidos encamina lista única para el Concejo de Rosario y suma a un hermano de Pullaro

Créditos Nido: quiénes son los 150 rosarinos que ganaron en el séptimo sorteo
La Ciudad

Créditos Nido: quiénes son los 150 rosarinos que ganaron en el séptimo sorteo

República de la Sexta: desmantelan vivero de marihuana y detienen a cuatro personas
POLICIALES

República de la Sexta: desmantelan vivero de marihuana y detienen a cuatro personas