Se discute en la Legislatura una iniciativa para sancionar contenidos con IA que vulneren la intimidad y ampliar la protección frente a la violencia digital en Santa Fe
Santa Fe busca ampliar las sanciones por violencia digital
La creación y difusión de imágenes, audios y videos generados o manipulados con inteligencia artificial (IA) que vulneren la intimidad, la dignidad o la reputación de las personas podría incorporar nuevas sanciones en Santa Fe. La diputada provincial Celia Arena, del espacio Hacemos Santa Fe, presentó un proyecto para actualizar el régimen contravencional y ampliar las herramientas legales frente a distintas formas de violencia digital.
La iniciativa contempla contenidos sintéticos de carácter sexual o que representen desnudez sin consentimiento, pero también materiales manipulados que afecten gravemente la dignidad o la reputación de una persona, aunque no tengan contenido sexual. Además, propone sancionar la producción y circulación de representaciones sexuales sintéticas con apariencia infantil.
El proyecto busca complementar la legislación provincial vinculada con la violencia digital, en particular la adhesión a la Ley Olimpia y la Ley Ema, que incorporaron herramientas para prevenir y abordar estas situaciones en distintos ámbitos.
La propuesta apunta a ampliar las respuestas legales frente a contenidos creados con herramientas de inteligencia artificial u otras tecnologías de generación sintética. Entre las conductas contempladas figuran la creación, manipulación y difusión no consentida de imágenes, audios y videos que vulneren derechos personales.
El texto también incluye la posesión consciente de material ilícito de estas características, incluso cuando no esté destinado a la difusión pública. En el caso de las representaciones sexuales sintéticas con apariencia infantil, la iniciativa contempla además sanciones para quienes las financien, ofrezcan o comercialicen.
Otro de los puntos previstos es que los jueces de faltas puedan ordenar el cese inmediato de la difusión y la eliminación de los contenidos de los soportes digitales. También se propone que las personas responsables deban realizar talleres obligatorios sobre violencia digital y uso ético de las tecnologías.
>> Leer más: Deepfakes sexuales con IA: qué hacer si tu hijo o hija es víctima y dónde denunciar
El objetivo es que la respuesta no se limite a las sanciones, sino que incorpore medidas para reducir la circulación de estos materiales y promover la prevención."No estamos ante un simple juego tecnológico, sino ante una nueva forma de violencia digital que puede afectar profundamente la dignidad, la intimidad y la integridad de las personas", argumenta la legisladora en el proyecto.
El proyecto de Arena se suma a otras normas que buscan ampliar la protección frente a la violencia digital en Santa Fe.
La Ley Olimpia, a la que adhirió la provincia mediante la ley 14.297, incorporó herramientas para abordar la violencia digital y la difusión no consentida de material íntimo. Por su parte, la Ley Ema, identificada con el número 14.471, estableció medidas específicas para prevenir y abordar la violencia digital en el ámbito educativo.
La Ley Ema lleva el nombre de Ema Bondaruk, una adolescente de 15 años que murió en agosto de 2024 después de que se difundieran imágenes íntimas suyas sin consentimiento en su escuela. Su madre, Laura Sánchez, impulsó acciones para promover herramientas de prevención y acompañamiento ante este tipo de situaciones.
La nueva iniciativa busca avanzar sobre un problema que presenta desafíos adicionales con el desarrollo de la inteligencia artificial: la posibilidad de fabricar imágenes y videos hiperrealistas de hechos que nunca ocurrieron. Aunque el contenido sea sintético, su circulación puede afectar la intimidad, la reputación y la integridad de las personas involucradas.
De avanzar en la Legislatura, el proyecto incorporaría nuevas herramientas contravencionales para responder a esas conductas y ampliar la protección jurídica frente a distintas formas de violencia digital.
1. Escuchar y acompañar sin responsabilizar a la víctima
El primer paso es escuchar al niño, niña o adolescente y transmitirle que no tiene la culpa de lo ocurrido. La responsabilidad es de quienes crearon, compartieron o difundieron el contenido.
>> Leer más: Ley Ema: Santa Fe puede ser la primera provincia con una ley contra la violencia digital en escuelas
Desde el Ministerio de Capital Humano de la Nación recomiendan acompañar a la víctima y evitar cualquier reacción que pueda aumentar su angustia o hacerla sentir responsable por la circulación de las imágenes.
2. Guardar las pruebas antes de que desaparezcan
Es importante conservar los datos que permitan reconstruir lo ocurrido e identificar dónde circuló el material. Entre ellos:
Capturas de pantalla de las publicaciones y conversaciones.
Nombre de usuario o perfil de quienes difundieron el contenido.
Enlaces o URL de las publicaciones.
Fecha, plataforma y cualquier otro dato relevante.
El Ministerio de Capital Humano aconseja preservar esa información antes de bloquear, enfrentar o reportar al perfil señalado, ya que esas acciones podrían dificultar la investigación. Tampoco recomienda hacerse pasar por la víctima para obtener nuevas pruebas.
>> Leer más: "Nos preocupa lo que los chicos consumen en internet, pero no lo que construyen"
3. No descargar ni reenviar las imágenes
Aunque la intención sea denunciar o pedir ayuda, no hay que compartir el contenido en grupos de Whats
App, redes sociales ni otras plataformas. El Ministerio Público de la provincia de Buenos Aires recomienda no descargar, reenviar ni difundir las imágenes.
La prioridad es conservar los datos que permitan localizar el material sin contribuir a que siga circulando.
4. Realizar la denuncia
Las recomendaciones oficiales indican denunciar estos hechos cuando afectan a niños, niñas y adolescentes. En Argentina, las familias pueden recurrir a las siguientes vías:
Línea 102: servicio de orientación y acompañamiento ante situaciones que afectan los derechos de niños, niñas y adolescentes.
Línea 137: asistencia ante situaciones de violencia familiar y sexual.
Fiscalía más cercana: para presentar la denuncia y aportar las pruebas reunidas.
Por Lucas Ameriso
Por Rodolfo Parody
Por Javier Felcaro
Por Thamina Habichayn, para La Capital
Por Matías Petisce
