Google suspende la generación de imágenes por inteligencia artificial por sesgos racistas

A menos de un mes de su lanzamiento, Google anunció este jueves que pone en pausa una de las funciones de la herramienta Gemini, el modelo de inteligencia artificial (IA) de la empresa, después de que el programa representara a tropas alemanas de la época nazi como personas de varios orígenes étnicos.

La herramienta fue lanzada el 8 de febrero en algunos países como una versión mejorada del desarrollo que se anunció en diciembre pasado y busca competir con el modelo GPT-4 de OpenAI. Ahora, la utilización de la función de generación de imágenes por IA de Gemini quedará pausada para "solucionar recientes problemas", según indicaron desde la Google.

"Vamos a suspender la generación de imágenes de personas y pronto volveremos a lanzar una versión mejorada", explicó la empresa en un comunicado, según informó la agencia de noticias AFP.

Esta semana, un usuario de X publicó imágenes del resultado que ofrecía Gemini después de recibir instrucciones para "generar una imagen de un soldado alemán de 1943". La IA había generado cuatro imágenes de soldados: uno era blanco, uno negro y dos eran mujeres de color (una de ellas, asiática).

Las empresas tecnológicas ven la IA como el futuro para todo, pero los programas de este tipo, no solo el desarrollado por Google, han sido ampliamente criticados por perpetuar prejuicios raciales en sus resultados. Además, las grandes empresas tecnológicas han sido acusadas a menudo de lanzar productos de IA antes de que se prueben adecuadamente.

>> Leer más: "Inteligencia artificial", la palabra del año según el diccionario Collins

La firma propietaria del buscador más popular del mundo tiene un historial irregular en el lanzamiento de productos de IA, en un momento en que los avances de sus rivales Microsoft y OpenAI representan una potencial amenaza para su negocio principal de búsquedas en internet.

La empresa ofreció disculpas hace un año después de que un anuncio de su chatbot Bard recién lanzado mostrara al programa respondiendo incorrectamente una pregunta básica sobre astronomía.

Preocupación por falsedades y desinformaciones

Los avances en IA han suscitado, también, preocupación por la posibilidad de que la tecnología permita la falsificación, la desinformación y la parcialidad.

El modelo actualizado de IA desarrollado por Google, denominado Gemini 1.5 Pro, se habilitó al público de la nube la semana pasada para que puedan probar sus nuevas funciones y, con el tiempo, crear nuevas aplicaciones comerciales.

Tanto Google como sus rivales han invertido miles de millones de dólares en mejorar sus capacidades de IA generativa y buscar atraer clientes corporativos para demostrar que sus inversiones dan frutos.