Un investigador cree que "la IA podría matar a todos los humanos" en la próxima década

Un investigador de la empresa de inteligencia artificial (IA) Anthropic sentenció que "la IA podría matar a todos los humanos" en la próxima década.

Evan Hubinger provocó un gran revuelo en redes sociales luego de publicar que en Anthropic creen "con sinceridad que la IA podría matar a todos los humanos", y sostuvo que su opinión personal es que hay más de un diez por ciento de probabilidades de que esto ocurra en la próxima década.

>> Leer más: Inteligencia artificial: el desafío de repensar el sentido de la educación en la era de los algoritmos

"Creo que Anthropic está haciendo lo mejor que puede, pero aún no tenemos un plan para resolver el alineamiento para la superinteligencia y no estamos claramente en camino de lograrlo", indicó.

Hubinger le respondió así a la publicación en la red social X (ex-Twitter) de Jacob Coxon, otro investigador de Anthropic que anunció su renuncia a la empresa por considerar que el desarrollo de estos sistemas no se está realizando con suficiente responsabilidad.

El investigador dejó en claro que la amenaza no son los modelos de IA actuales sino una posible superinteligencia que sea capaz de mejorar sus propias capacidades.

La amenaza no humana

Jacob Coxon anunció su salida de Anthropic con cuestionamientos a la forma en que las empresas de inteligencia artificial están avanzando hacia sistemas cada vez más capaces.

Coxon sostuvo que tanto Anthropic como OpenAI conocen los riesgos asociados con el desarrollo de una IA avanzada, pero consideró que ambas compañías continúan dentro de una carrera por alcanzar primero sistemas cada vez más potentes.

Su advertencia provocó la respuesta de Hubinger, quien coincidió con la preocupación sobre los posibles riesgos para la humanidad, aunque aclaró que considera bajo el peligro que representan los modelos actuales.