El Estado de Florida demanda a ChatGPT porque no es seguro para los menores

El estado de Florida inició una demanda contra OpenAI y su CEO, Sam Altman, alegando que saben que ChatGPT no es seguro, especialmente para menores de edad.

“Sam Altman y ChatGPT eligieron la carrera de la IA por encima de la seguridad y la protección de nuestros niños. Eligieron el beneficio por encima de la seguridad pública, y no lo vamos a permitir aquí en Florida”, dijo el fiscal general de Florida, James Uthmeier.

>> Leer más: Adolescente de 15 años ocultó su embarazo, dio a luz usando ChatGPT y entregó a la beba

La demanda, presentada este lunes en el décimo circuito de Florida, acusa a OpenAI de realizar prácticas comerciales engañosas e injustas, negligencia y de violar las leyes de responsabilidad por productos. También busca responsabilizar a Altman “personalmente por el daño que casó a los floridanos”, incluido su presunto “absoluto desprecio por el riesgo para la vida humana causado por la conducta de sus empresas”.

La demanda enumera una larga lista de acusaciones contra ChatGPT, entre ellas ayudar a autores de tiroteos masivos, fomentar el suicidio, causar “humillación pública”, volver adictos a menores a una herramienta “sin supervisión parental” y hacer que los usuarios pierdan “habilidades de pensamiento crítico”.

Uthmeier dijo que, en última instancia, necesitan que OpenAI “cambie su programación” y que podrían ser responsables de “potencialmente miles de millones de dólares”.

La demanda se centra específicamente en las acusaciones de que OpenAI carece de controles parentales eficaces para usuarios jóvenes, señalando que la versión gratuita de ChatGPT no tiene “ningún mecanismo de control de acceso o verificación de edad” y que OpenAI no exige que las cuentas de los niños estén vinculadas a la cuenta de un padre o tutor.

La demanda también dice que, incluso si las cuentas están vinculadas, OpenAI solo notificará a los padres sobre contenido preocupante en “situaciones limitadas” y que “en ningún caso un padre puede solicitar acceso a qué información ha proporcionado un niño a ChatGPT”.

La demanda civil se basa en la primera investigación penal de la historia contra OpenAI que Uthmeier inició en abril, en torno a un tiroteo masivo en la Universidad Estatal de Florida el año pasado. El presunto atacante en ese caso tuvo conversaciones extensas con ChatGPT en los días previos al tiroteo, incluidas conversaciones sobre detalles específicos sobre otros casos de balaceras en la universidad y consejos para usar armas.

OpenAI dijo en ese momento que el tiroteo “fue una tragedia, pero ChatGPT no es responsable de este terrible crimen”.

“En este caso, ChatGPT proporcionó respuestas fácticas a preguntas con información que podría encontrarse ampliamente en fuentes públicas en internet, y no alentó ni promovió actividad ilegal o dañina”, indicaron desde la compañía.