La IA Grok permite manipular fotos sin consentimiento de mujeres y menores: cómo reducir el riesgo

Durante los últimos días se multiplicaron en la red social X los casos de usuarios que utilizaron herramientas de inteligencia artificial para editar fotos de mujeres, niñas y también varones sin su consentimiento. A través de simples instrucciones de texto, pidieron que se les quite la ropa, se los coloque en contextos sexualizados o se alteren sus cuerpos, una práctica que volvió a poner en discusión los límites del uso de la IA y la responsabilidad de las plataformas digitales.

La tendencia se apoyó en Grok, el sistema de inteligencia artificial integrado a X, y generó preocupación entre especialistas en derechos digitales, género y ciberseguridad, especialmente por la aparición de contenidos que sexualizan a menores de edad.

Un problema que crece y deja huellas

Si bien la manipulación digital de imágenes no es nueva, la facilidad y velocidad con la que hoy pueden generarse estos contenidos amplifica el daño. Las víctimas suelen enterarse cuando las imágenes ya circulan, lo que provoca angustia, exposición pública y, en muchos casos, consecuencias psicológicas y sociales difíciles de revertir.

Con el correr de los días, la propia IA comenzó a rechazar algunos pedidos, aunque especialistas advierten que los filtros siguen siendo insuficientes y que la prevención depende en gran medida de las decisiones de los usuarios.

>>Leer más: Ley Olimpia: promulgan la norma que incorpora la figura de violencia digital

Cómo reducir el riesgo de que editen tus fotos

Especialistas en tecnología recomiendan una serie de medidas básicas para disminuir la exposición:

• Evitar publicar fotos personales, especialmente imágenes íntimas o de menores de edad.

• Configurar las cuentas como privadas. En X se puede hacer desde Configuración y privacidad, Privacidad y seguridad, Audiencia y etiquetado, y activar la opción Proteger tus publicaciones.

• Limitar el uso de datos personales por parte de la inteligencia artificial. En la plataforma se puede desactivar la opción que permite que Grok utilice publicaciones para entrenarse o personalizar respuestas.

• Revisar periódicamente las configuraciones de privacidad y seguridad.

También es clave denunciar los contenidos que vulneran derechos. En cada publicación se puede utilizar la opción Denunciar y seleccionar el motivo correspondiente, lo que ayuda a que la plataforma actúe más rápido.

>>Leer más: Decenas de instituciones se unen para intentar erradicar la "violencia de género digital"

Qué dice la ley en Argentina

En el país no existe aún una figura penal específica que sancione la creación de imágenes falsas con inteligencia artificial. Sin embargo, especialistas señalan que pueden iniciarse acciones civiles por daños y perjuicios o denuncias penales por delitos contra el honor.

En los casos que involucren niñas, niños y adolescentes, algunas fiscalías evalúan aplicar el artículo 128 del Código Penal, que castiga la producción y distribución de material de abuso sexual infantil. Además, la Ley Olimpia incorporó la violencia digital dentro del marco de protección integral contra la violencia de género, lo que habilita medidas judiciales para retirar contenidos.

Qué hacer si una imagen ya circuló

Ante la difusión de una imagen adulterada, se recomienda:

• Conservar pruebas digitales como capturas de pantalla y enlaces.

• Solicitar la constatación de los contenidos mediante un escribano o perito informático.

• Realizar la denuncia correspondiente, aunque no exista una figura penal específica.

• Pedir asesoramiento especializado.

Las víctimas pueden comunicarse con la Línea 144 para recibir orientación, acudir a fiscalías o consultar organizaciones que trabajan en ciberviolencia de género. También está disponible la herramienta Stopncii.org, que permite bloquear la circulación de imágenes íntimas sin consentimiento en distintas plataformas.

El avance de la inteligencia artificial plantea desafíos urgentes. La prevención, la información y la denuncia siguen siendo hoy las principales herramientas para frenar nuevas formas de violencia digital.