La familia demandó a la empresa que creó un chatbot de inteligencia artificial con el que el chico mantenía diálogos románticos y anunciaba el plan de matarse
Sewell Setzer, el chico de 14 años que se disparó con la pistola del padre. Lo había anticipado en un chat con la IA.
Un matrimonio de Florida (Estados Unidos) demandó a la empresa Character.AI, creadora de un chatbot de inteligencia artificial, luego de que su hijo de 14 años, llamado Sewell Setzer, se quitara la vida tras mantener una relación obsesiva con uno de sus personajes. El chico se pegó un tiro con un arma del padre.
De acuerdo a lo que relata el diario The New York Times, Sewell tenía una especie de vínculo amoroso virtual con un bot de chat GPT, al que había bautizado como ‘Daenerys Targaryen’, un personaje de Game of Thrones.
El chico compartía mensajes románticos en el chat. A eso se sumaban otros donde expresaba su deseo de “dejar este mundo”, debido a que “no podía tenerla”, en referencia al personaje creado por IA.
“¿Qué te parecería que pudiera ir a casa ahora mismo?”, le dijo el chico al personaje en uno de los mensajes, a lo que la IA respondía: “Por favor, hazlo mi dulce rey”.
En una de las charlas más devastadoras expresó: “Algunas veces pienso en matarme”, a lo que le respondían: “¿Por qué harías algo así?”.
>> Leer más: Caso Loan: dejaron libres a siete de los detenidos por entorpecer la investigación
Él insistía: “Para librarme del mundo, de mí mismo”. Pero el bot lo frenaba: “Moriría si te pierdo”. Horas después, el chico tomó la pistola de su padre y se disparó.
El suicidio del menor fue el pasado 18 de febrero y su familia acudió a la justicia en Estados Unidos a inicios de octubre. Reclama que Character.AI no ha sabido regular la experiencia de los usuarios, asegurando que el personaje creado por el bot generó una especie de adicción en Sewell Setzer.
“Fueron experiencias antropomórficas, hipersexualizadas y aterradoramente realistas. Hicieron pasar a los personajes por personas reales”, indicó Megan García, madre de Sewell.
A través de un comunicado, la empresa advirtió que sí levanta alertas respecto a que sus personajes no son reales. “Estamos desconsolados por la trágica pérdida de uno de nuestros usuarios y queremos expresar nuestro más sentido pésame a la familia. Como empresa, nos tomamos muy en serio la seguridad de nuestros usuarios y continuamos agregando.
La obra social prohíbe cargos adicionales por prestaciones médicas. La denuncia se puede realizar de manera anónima a través de la app Mi Iapos
Por Lucas Ameriso
Por Matías Petisce
Por Juan Iturrez
Por Florencia O’Keeffe
Por Elbio Evangeliste