Grok, el chatbot de X, enfrenta críticas por imágenes sexualizadas generadas por IA

Grok, el chatbot de Elon Musk, enfrenta una reacción negativa de gobiernos de todo el mundo tras un reciente aumento en la generación de imágenes sexualizadas de mujeres y menores, generadas sin consentimiento por la herramienta de inteligencia artificial (IA).

El martes, la principal autoridad de tecnología de Reino Unido exigió que X (ex-Twitter, la red social de Musk) tomara medidas urgentes, mientras que un legislador polaco la mencionó como una de las razones para promulgar leyes de seguridad digital.

>> Leer más: La IA Grok permite manipular fotos sin consentimiento de mujeres y menores: cómo reducir el riesgo

La rama ejecutiva de la Unión Europea denunció al chatbot, mientras que funcionarios y reguladores de Francia, India, Malasia y Brasil condenaron la plataforma y exigieron investigaciones.

La creciente alarma de naciones tan dispares señala el aterrador potencial de las aplicaciones que utilizan inteligencia artificial para generar imágenes sexualmente explícitas y falsas.

Grok en la mira

El problema surgió tras el lanzamiento el año pasado de Grok Imagine, un generador de imágenes de IA que permite que los usuarios creen videos e imágenes escribiendo indicaciones de texto. Incluye un llamado “Modo picante” (Spicy Mode) que puede generar contenido para adultos.

El problema se intensificó a finales del mes pasado, cuando Grok, que se aloja en X, aparentemente comenzó a atender un gran número de solicitudes de usuarios para modificar imágenes publicadas por otros. Los usuarios de Grok pueden generar imágenes de mujeres utilizando solicitudes como “ponerla en un bikini transparente”.

El problema se amplifica porque Musk presenta su chatbot como una alternativa más atrevida a los rivales con más salvaguardias, y porque las imágenes de Grok son públicamente visibles y, por lo tanto, pueden difundirse fácilmente.

xAI, la empresa de inteligencia artificial de Musk, respondió a una solicitud de comentarios con una respuesta automatizada: “Mentiras de los medios tradicionales”. Si bien X no negó la existencia del contenido problemático generado a través de Grok, repitió un comentario de Musk, quien dijo que quien use la plataforma "para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal”.