Jacob Coxon, un investigador británico de 27 años que trabajó en OpenAI y Anthropic, abandonó la industria de la inteligencia artificial y lanzó una fuerte advertencia sobre el rápido avance de los modelos más sofisticados.
Jacob Coxon renunció y cuestionó a las grandes empresas de IA por acelerar una carrera que, según advirtió, podría tener consecuencias letales
Imagen ilustrativa generada con IA
Jacob Coxon, un investigador británico de 27 años que trabajó en OpenAI y Anthropic, abandonó la industria de la inteligencia artificial y lanzó una fuerte advertencia sobre el rápido avance de los modelos más sofisticados.
El especialista trabajó durante tres años en preentrenamiento, la etapa en la que los modelos incorporan grandes cantidades de datos para desarrollar sus capacidades. Primero lo hizo en OpenAI y luego se incorporó a Anthropic, compañía a la que llegó este año.
Tras su salida, Coxon publicó una serie de mensajes en X en los que cuestionó la carrera entre los principales laboratorios de IA y aseguró que las empresas no cuentan con controles de seguridad suficientes frente a los riesgos que podrían generar sistemas más avanzados.
En una publicación que alcanzó millones de visualizaciones, Coxon sostuvo que las compañías desarrolladoras avanzan hacia sistemas cada vez más autónomos sin contar con mecanismos suficientes para controlar sus riesgos.
"Ninguna de las dos empresas actúa con responsabilidad. Corren derecho hacia una superinteligencia capaz de mejorarse a sí misma y apuestan con nuestras vidas", escribió.
El investigador también aseguró que conocen la posibilidad de escenarios extremos: "Las personas que están desarrollando la IA creen sinceramente que podría matarnos a todos antes de que termine la década. Esto no es una estrategia de marketing".
En este sentido, Coxon advirtió: "Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana, adquirir poder y recursos reales. Ese proceso no desacelerará".
El investigador explicó que decidió trabajar en Anthropic porque consideraba que la compañía tenía una postura más prudente frente a los riesgos de la IA. Sin embargo, después de incorporarse a la empresa cambió su evaluación.
Según Coxon, Anthropic comprende los riesgos asociados con el desarrollo de sistemas más avanzados: "En Anthropic comprenden bien lo que está en juego, pero están atrapados en una carrera por llegar primero (...) a pesar del riesgo".
A partir de esa situación, planteó que ninguna empresa debería desarrollar de manera unilateral una inteligencia artificial con capacidades superiores a las humanas.
Para el investigador, ese proceso debería contar con intervención gubernamental o una desaceleración coordinada entre las compañías y los distintos países.
>> Leer más: La Justicia falló a favor de Chiqui Tapia por un polémico video hecho con Inteligencia Artificial
Las declaraciones de Coxon encontraron eco dentro de la propia industria. Evan Hubinger, responsable de Ciencia de Alineación en Anthropic con experiencia en empresas vinculadas con el desarrollo de inteligencia artificial tales como Google y OpenAI, respaldó parte de sus advertencias y estimó en más de 10% el riesgo de extinción humana provocado por la inteligencia artificial durante la próxima década.
Hubinger también reconoció que Anthropic todavía no cuenta con una solución definitiva: "Creo que Anthropic está haciendo lo mejor que puede, pero aún no tenemos un plan para resolver el alineamiento para la superinteligencia y no estamos claramente en camino de lograrlo".
Las advertencias se producen mientras crece el debate en Estados Unidos sobre la necesidad de establecer mecanismos formales de supervisión y control gubernamental para el desarrollo de inteligencia artificial avanzada.
Miles de trabajadores del sector firmaron un manifiesto para solicitar herramientas de supervisión e intervención internacional frente a los riesgos asociados con estas tecnologías. A finales de julio, los firmantes también reclamaron a Washington la creación de un mecanismo que permita frenar determinados desarrollos ante la aparición de riesgos graves.
La preocupación no quedó limitada a Anthropic. El científico jefe de OpenAI, Jakub Pachocki, sostuvo recientemente que el ritmo actual de desarrollo exige una respuesta coordinada. "El momento actual llama por extrema precaución", escribió.
Después de una jornada de profunda emoción este lunes en Buenos Aires, el Sumo Pontífice tiene agenda este martes en la provincia mediterránea. Hay programado un show de Jairo
