Cuerpos generados con inteligencia artificial, daño en la vida real

Una noticia que se ha reiterado en los últimos tiempos volvió a causar un fuerte impacto. Esta vez, la denuncia por la creación y circulación de imágenes sexuales falsas de alumnas del Colegio Modelo Lomas, de Lomas de Zamora, puso nuevamente en discusión el daño que puede producir el mal uso de inteligencia artificial.

Durante las protestas, estudiantes y familias realizaron una sentada frente al establecimiento. Según testimonios de familiares difundidos públicamente, al menos cuatro alumnos de tercer año habrían estado involucrados en la creación y difusión de imágenes que simulaban desnudos de sus compañeras, generadas mediante inteligencia artificial a partir de fotografías existentes. Las estimaciones de familiares y estudiantes situaban la cantidad de adolescentes afectadas entre 30 y 50.

Según el testimonio público, existía una suerte de catálogo que reunía el nombre de cada alumna, una fotografía original obtenida de sus redes sociales y una versión manipulada que mostraba cuerpos desnudos creados con IA. Se denunció, además, que el contenido se vendía, se compartía con estudiantes de otros colegios de la zona y se publicaba en sitios para adultos acompañado por los nombres y apellidos de las adolescentes. La causa quedó radicada en la UFI N.º 6 del Fuero de Responsabilidad Penal Juvenil de Lomas de Zamora, para investigar la presunta producción y distribución de imágenes sexuales de menores de edad.

El caso tiene además una dimensión institucional, ya que las familias sostienen que fueron informadas de la grave situación por sus hijas, y no por el establecimiento escolar, que conocía los hechos desde un mes antes.

Cuando una representación sexual circula con el rostro, el nombre y los datos de la persona afectada, se torna en una situación de alto riesgo, ya que facilita su identificación y localización. El peligro debe analizarse considerando qué datos quedaron expuestos, quiénes accedieron a ellos y si aparecieron contactos, amenazas o intentos de acercamiento. La eventual llegada de ese material a personas o grupos dedicados a la explotación sexual constituye un peligro que merece atención.

>> Leer más: Inteligencia artificial: el desafío de repensar el sentido de la educación en la era de los algoritmos

Cabe aclarar que los cuerpos representados fueron producidos con inteligencia artificial. Esa circunstancia no elimina el daño que las imágenes pueden causar. Aunque el cuerpo sea artificial, la identidad expuesta corresponde a una persona real, que puede sufrir las consecuencias de su circulación.

En cuanto a la eventual responsabilidad penal de los alumnos investigados, el artículo 128 del Código Penal sanciona la producción, comercialización y difusión, por cualquier medio, de representaciones de personas menores de dieciocho años en actividades sexuales explícitas o de sus partes genitales con fines predominantemente sexuales. Por tratarse de adolescentes, también deben considerarse la edad que tenían al momento de cada conducta y el régimen penal juvenil aplicable según la fecha de los hechos.

La Cámara de Apelación y Garantías en lo Penal de Zárate-Campana examinó esa discusión el 19 de mayo de 2025, en la causa P., D. O., número 27.969. La defensa cuestionaba la falta de identificación de las personas representadas y planteaba que las imágenes podían ser ficticias o haber sido generadas mediante herramientas informáticas. El tribunal rechazó el recurso y confirmó la remisión a juicio. Su razonamiento se apoyó en el alcance de la palabra representación y en el Protocolo Facultativo de la Convención sobre los Derechos del Niño relativo a la venta de niños, la prostitución infantil y la utilización de los niños en la pornografía, aprobado por la Ley 25.763, cuya definición contempla actividades sexuales explícitas reales o simuladas.

Queda por examinar la conducta de la institución escolar. El artículo 30 de la Ley 26.061, ley de protección integral de los derechos de niñas, niños y adolescentes, impone a los miembros de los establecimientos educativos, públicos o privados, que tomen conocimiento de la vulneración de derechos de niñas, niños o adolescentes, el deber de comunicarla a la autoridad administrativa de protección de derechos del ámbito local, bajo apercibimiento de incurrir en responsabilidad por esa omisión. El deber nace con el conocimiento del hecho y no admite ser reemplazado por una gestión interna reservada.

Si se acreditara que el colegio conoció los hechos semanas antes y no informó a las familias ni a los organismos de protección, la omisión tendría relevancia jurídica propia, distinta de la conducta de los alumnos señalados. Una familia que ignora lo ocurrido no puede acompañar a su hija, preservar la prueba, pedir la baja del contenido ni formular la denuncia. Cada día de silencio es, además, un día de circulación del material.

>> Leer más: Guillermo Seifert: "La IA puede generar una desigualdad nunca antes vista entre los países"

En el plano civil, el artículo 1710 del Código Civil y Comercial consagra el deber de evitar un daño no justificado y de adoptar las medidas razonables para impedir que se produzca o para disminuir su magnitud. El artículo 1767 establece, por su parte, la responsabilidad objetiva del titular del establecimiento por los daños causados o sufridos por alumnos menores de edad mientras se hallen o deban hallarse bajo el control de la autoridad escolar. La Ley 27.736, ley Olimpia, incorporó la violencia digital entre las modalidades previstas por la Ley 26.485, ley de protección integral a las mujeres.

La responsabilidad por el uso de la inteligencia artificial sigue siendo humana. La tecnología puede fabricar una escena, pero son personas quienes deciden a quién atribuírsela, dónde publicarla y cómo hacerla circular. También son personas quienes, al conocer lo ocurrido, eligen informar o callar. El carácter artificial de una imagen no ofrece una justificación para ignorar a quienes generan el daño.