Google suspende la generación de imágenes por inteligencia artificial por sesgos racistas

El desarrollo del buscador más popular del mundo devolvía resultados insólitos cuando se le pedí que generara capturas de tropas alemanas de la época nazi
22 de febrero 2024 · 10:45hs

A menos de un mes de su lanzamiento, Google anunció este jueves que pone en pausa una de las funciones de la herramienta Gemini, el modelo de inteligencia artificial (IA) de la empresa, después de que el programa representara a tropas alemanas de la época nazi como personas de varios orígenes étnicos.

La herramienta fue lanzada el 8 de febrero en algunos países como una versión mejorada del desarrollo que se anunció en diciembre pasado y busca competir con el modelo GPT-4 de OpenAI. Ahora, la utilización de la función de generación de imágenes por IA de Gemini quedará pausada para "solucionar recientes problemas", según indicaron desde la Google.

"Vamos a suspender la generación de imágenes de personas y pronto volveremos a lanzar una versión mejorada", explicó la empresa en un comunicado, según informó la agencia de noticias AFP.

Esta semana, un usuario de X publicó imágenes del resultado que ofrecía Gemini después de recibir instrucciones para "generar una imagen de un soldado alemán de 1943". La IA había generado cuatro imágenes de soldados: uno era blanco, uno negro y dos eran mujeres de color (una de ellas, asiática).

Las empresas tecnológicas ven la IA como el futuro para todo, pero los programas de este tipo, no solo el desarrollado por Google, han sido ampliamente criticados por perpetuar prejuicios raciales en sus resultados. Además, las grandes empresas tecnológicas han sido acusadas a menudo de lanzar productos de IA antes de que se prueben adecuadamente.

>> Leer más: "Inteligencia artificial", la palabra del año según el diccionario Collins

La firma propietaria del buscador más popular del mundo tiene un historial irregular en el lanzamiento de productos de IA, en un momento en que los avances de sus rivales Microsoft y OpenAI representan una potencial amenaza para su negocio principal de búsquedas en internet.

La empresa ofreció disculpas hace un año después de que un anuncio de su chatbot Bard recién lanzado mostrara al programa respondiendo incorrectamente una pregunta básica sobre astronomía.

Preocupación por falsedades y desinformaciones

Los avances en IA han suscitado, también, preocupación por la posibilidad de que la tecnología permita la falsificación, la desinformación y la parcialidad.

El modelo actualizado de IA desarrollado por Google, denominado Gemini 1.5 Pro, se habilitó al público de la nube la semana pasada para que puedan probar sus nuevas funciones y, con el tiempo, crear nuevas aplicaciones comerciales.

Tanto Google como sus rivales han invertido miles de millones de dólares en mejorar sus capacidades de IA generativa y buscar atraer clientes corporativos para demostrar que sus inversiones dan frutos.

Las más leídas

Conmoción en la farándula argentina: qué le pasa al marido de Mariana Fabbiani

Conmoción en la farándula argentina: qué le pasa al marido de Mariana Fabbiani

Quini 6: un solo apostador acertó en La Segunda y se llevó casi $3.300 millones

Quini 6: un solo apostador acertó en La Segunda y se llevó casi $3.300 millones

El Gigante de Arroyito puede ser escenario de otra gran final de la temporada

El Gigante de Arroyito puede ser escenario de otra gran final de la temporada

Rosario prohibió GTA hace 30 años: la historia detrás de una norma vigente

Rosario prohibió "GTA" hace 30 años: la historia detrás de una norma vigente

Lo último

Dos búnkeres funcionaban en un terreno provincial usurpado en Villa Oculta

Dos búnkeres funcionaban en un terreno provincial usurpado en Villa Oculta

Carbone y su candidatura a juez federal: de los ataques a Messi y Di María a la semana trágica

Carbone y su candidatura a juez federal: de los ataques a Messi y Di María a la semana trágica

El hijo de Marcos Camino rompió el silencio tras la muerte de su padre: Hay cosas que callé

El hijo de Marcos Camino rompió el silencio tras la muerte de su padre: "Hay cosas que callé"

Dos búnkeres funcionaban en un terreno provincial usurpado en Villa Oculta

Las construcciones fueron derribadas este jueves tras una investigación que detectó movimientos durante todo el día. No hay personas detenidas
Dos búnkeres funcionaban en un terreno provincial usurpado en Villa Oculta
La otra cara de la inteligencia artificial: los trabajos que todavía resisten su uso

Por Azul Martínez Lo Re

Negocios

La otra cara de la inteligencia artificial: los trabajos que todavía resisten su uso

Efecto León XIV: entre los nuevos y los que vuelven, esperan un incremento de fieles en Rosario

Por Nachi Saieg

La Ciudad

Efecto León XIV: entre los nuevos y los que vuelven, esperan un incremento de fieles en Rosario

Viuda negra con agua saborizada: la detuvieron por una cita que terminó en un robo
Policiales

Viuda negra con agua saborizada: la detuvieron por una cita que terminó en un robo

Rosario mejoró sus cifras habitacionales y superó el promedio nacional

Por Gonzalo Santamaría

La Ciudad

Rosario mejoró sus cifras habitacionales y superó el promedio nacional

Le fracturó la mano a un policía al resistirse a un operativo y quedó detenido
Policiales

Le fracturó la mano a un policía al resistirse a un operativo y quedó detenido

Las más leídas
Conmoción en la farándula argentina: qué le pasa al marido de Mariana Fabbiani

Conmoción en la farándula argentina: qué le pasa al marido de Mariana Fabbiani

Quini 6: un solo apostador acertó en La Segunda y se llevó casi $3.300 millones

Quini 6: un solo apostador acertó en La Segunda y se llevó casi $3.300 millones

El Gigante de Arroyito puede ser escenario de otra gran final de la temporada

El Gigante de Arroyito puede ser escenario de otra gran final de la temporada

Rosario prohibió GTA hace 30 años: la historia detrás de una norma vigente

Rosario prohibió "GTA" hace 30 años: la historia detrás de una norma vigente

El exarquero de Central que da clases, ataja en torneos de penales y se luce en la Copa Potrero

El exarquero de Central que da clases, ataja en torneos de penales y se luce en la Copa Potrero

Ovación
La expectativa de Colapinto tras probar el Alpine 2027: Tengo muchas ganas de que llegue
Ovación

La expectativa de Colapinto tras probar el Alpine 2027: "Tengo muchas ganas de que llegue"

La expectativa de Colapinto tras probar el Alpine 2027: Tengo muchas ganas de que llegue

La expectativa de Colapinto tras probar el Alpine 2027: "Tengo muchas ganas de que llegue"

Cuándo corre Colapinto: días y horarios de la Fórmula 1 en Las Vegas este fin de semana

Cuándo corre Colapinto: días y horarios de la Fórmula 1 en Las Vegas este fin de semana

Asociación Rosarina de Fútbol: San José copó la parada en las inferiores y logró dos ascensos

Asociación Rosarina de Fútbol: San José copó la parada en las inferiores y logró dos ascensos

Policiales
Dos búnkeres funcionaban en un terreno provincial usurpado en Villa Oculta
Policiales

Dos búnkeres funcionaban en un terreno provincial usurpado en Villa Oculta

Le fracturó la mano a un policía al resistirse a un operativo y quedó detenido

Le fracturó la mano a un policía al resistirse a un operativo y quedó detenido

Viuda negra con agua saborizada: la detuvieron por una cita que terminó en un robo

Viuda negra con agua saborizada: la detuvieron por una cita que terminó en un robo

Zona oeste: denuncian a un policía que disparó contra vecinos en una cancha

Zona oeste: denuncian a un policía que disparó contra vecinos en una cancha

La Ciudad
Repartidores de un correo privado denuncian atraso en pagos de prestaciones
La ciudad

Repartidores de un correo privado denuncian atraso en pagos de prestaciones

Una reportera gráfica de La Capital, distinguida en los Premios Rosarigasinos

Una reportera gráfica de La Capital, distinguida en los Premios Rosarigasinos

Rosario mejoró sus cifras habitacionales y superó el promedio nacional

Rosario mejoró sus cifras habitacionales y superó el promedio nacional

Efecto León XIV: entre los nuevos y los que vuelven, esperan un incremento de fieles en Rosario

Efecto León XIV: entre los nuevos y los que vuelven, esperan un incremento de fieles en Rosario

Gremios del transporte revalidaron su conducción en Rosario
Economía

Gremios del transporte revalidaron su conducción en Rosario

Estiman que en 2035 habrá en el mundo más musulmanes que cristianos
Información General

Estiman que en 2035 habrá en el mundo más musulmanes que cristianos

Un líder religioso de EEUU participó en el magnicidio del presidente haitiano
El Mundo

Un líder religioso de EEUU participó en el magnicidio del presidente haitiano

Zona oeste: denuncian a un policía que disparó contra vecinos en una cancha
Policiales

Zona oeste: denuncian a un policía que disparó contra vecinos en una cancha

Los libertarios apuntaron contra Unidos tras la sesión caída en Diputados
Política

Los libertarios apuntaron contra Unidos tras la sesión caída en Diputados

La Nación aceptó la renuncia de Alurralde, quien asumirá en la Corte de Santa Fe
Política

La Nación aceptó la renuncia de Alurralde, quien asumirá en la Corte de Santa Fe

La ocupación hotelera durante Colectividades creció un 24 por ciento
La Ciudad

La ocupación hotelera durante Colectividades creció un 24 por ciento

Diputados: se cayó la sesión para tratar la ley Malvinas y la reforma del Banco Central
Politica

Diputados: se cayó la sesión para tratar la ley Malvinas y la reforma del Banco Central

Pastelería de Pichincha tuvo que tirar su producción por extenso corte de luz
La ciudad

Pastelería de Pichincha tuvo que tirar su producción por extenso corte de luz

Crimen en la zona sur: le dieron un balazo en la cabeza a un joven de 21 años
Policiales

Crimen en la zona sur: le dieron un balazo en la cabeza a un joven de 21 años

Cómo consultar los aportes registrados en Ansés y qué hacer si faltan datos
Información General

Cómo consultar los aportes registrados en Ansés y qué hacer si faltan datos

Exhibiciones obscenas: lo detuvieron por masturbarse en dos locales del centro
Policiales

Exhibiciones obscenas: lo detuvieron por masturbarse en dos locales del centro

Santa Fe pone en marcha la ley para combatir la venta de celulares robados
La Ciudad

Santa Fe pone en marcha la ley para combatir la venta de celulares robados

Pelea y disparos al aire en una canchita de fútbol en barrio Belgrano
Policiales

Pelea y disparos al aire en una canchita de fútbol en barrio Belgrano

Robo y suspensión de clases en una escuela rosarina: la portera encontró a un ladrón
Policiales

Robo y suspensión de clases en una escuela rosarina: la portera encontró a un ladrón

En un puesto de venta de choripanes encontraron bochas de cocaína
Policiales

En un puesto de venta de choripanes encontraron bochas de cocaína

De medalla olímpica a retiro espiritual: la nueva vida de Facundo Conte
Ovación

De medalla olímpica a retiro espiritual: la nueva vida de Facundo Conte

Un joven resultó herido en el medio de un tiroteo con policías
Policiales

Un joven resultó herido en el medio de un tiroteo con policías

Banco Nación ofrece beneficios y tasas bonificadas a empresas
Economía

Banco Nación ofrece beneficios y tasas bonificadas a empresas

Buscan suspender embargos e iniciar una moratoria para pymes
Política

Buscan suspender embargos e iniciar una moratoria para pymes