La Unión Europea es el primer continente que regulará los usos de la inteligencia artificial (IA). Se apunta a controlar y limitar la IA generativa y el uso policial del reconocimiento facial, entre otros puntos. El texto final debe ser ratificado antes de entrar en vigor. El texto define las obligaciones y normas por las que deberá regirse una tecnología que está transformando completamente la vida diaria, a veces en sentido negativo. Algunos ejemplos de esto ya se observan, como la pérdida de puestos de trabajo en áreas especializadas. El “boom” que significó la aparición de ChatGPT en noviembre de 2022 puso a la IA generativa a disposición de todos. Casi simultáneamente comenzaron a conocerse casos en los que la IA suplanta a los humanos, como se vio con la huelga de guionistas y actores en Hollywood y sus denuncias contra la IA.

China, EEUU y otras grandes naciones también están en camino de controlar a la nueva tecnología, o al menos intentarlo. Pero China ya es un usuario intensivo de la IA para el control policial y social de la población.

Los negociadores del Parlamento Europeo y de los 27 países que integran el bloque superaron grandes diferencias sobre la IA generativa y el uso policial del reconocimiento facial. “¡Trato hecho!”, tuiteó el comisionado europeo Thierry Breton.

“La UE se convierte en el primer continente en establecer normas claras para el uso de la IA”. Los funcionarios ofrecieron escasos detalles de lo que se incluirá en la futura ley. Pero el texto de la futura normativa ya está disponible online. Sobre actividades que se prohibirán, apunta a “la comercialización de un sistema de IA que implemente técnicas subliminales para distorsionar el comportamiento de una persona de una manera que cause daño físico o psicológico”; asimismo, veta “la comercialización de IA que aproveche vulnerabilidades de un grupo específico de personas por su edad, estado físico o discapacidad mental”.

También se apunta contra la “calificación social” al estilo que ya aplica China. Se prohíbe el “uso de sistemas de IA por las autoridades públicas o en su nombre para la evaluación de la fiabilidad de personas basado en su comportamiento social o características personales”. Se agrega que la llamada “puntuación social” causa “trato perjudicial o desfavorable de determinadas personas físicas o grupos enteros de ellas”. En China, una persona con bajo “puntaje social” puede verse negado un viaje en avión o un servicio médico.

Contra la identificación biométrica

Se prohíbe asimismo “el uso de sistemas de identificación biométrica remota en tiempo real en espacios de acceso público con fines de aplicación de la ley”, a menos que sea estrictamente necesario para “la búsqueda de niños desaparecidos, la prevención de una amenaza específica a la vida o de un ataque terrorista”. Estos métodos, que en China y otras naciones autoritarias se hacen de manera rutinaria, serán muy limitados en el espacio europeo. El fantasma del “Estado orwelliano” comienza a sobrevolar en la era digital. La UE se preocupa por “las consecuencias del uso del sistema para los derechos y libertades de todas las personas”.

Los sistemas de IA generativa como ChatGPT han deslumbrado a los usuarios en el último año, con su habilidad para producir textos, fotos y canciones similares a los de los humanos, pero también causando temores por los riesgos que esta tecnología plantea para el empleo, la privacidad y la protección de los derechos de autor.

Estados Unidos, Reino Unido, China y coaliciones mundiales como el Grupo de los Siete han presentado sus propias propuestas para regular la IA, aunque Europa tomó la delantera. Según Anu Bradford, profesora de la Universidad de Columbia experta en la UE y regulación digital, una normativa sólida y exhaustiva de la UE “puede ser un buen ejemplo para muchos gobiernos que se plantean regularla. Quizá no copien todas las disposiciones, pero probablemente emularán muchos aspectos”.

Las empresas de IA que tendrán que cumplir las normas de la UE probablemente extenderán esas obligaciones a los mercados fuera del continente. “No es eficiente entrenar modelos distintos para mercados diferentes”, dijo.

Pero preocupa que el acuerdo europeo se haya aprobado con apuro y en sesiones maratónicas. “El acuerdo político de hoy marca el inicio de un importante y necesario trabajo técnico sobre detalles cruciales de la Ley de Inteligencia Artificial, que todavía faltan”, señaló Daniel Friedlaender, jefe de la oficina europea de la Computer and Communications Industry Association, un grupo de lobby de la industria tecnológica.

ChatGPT, Bard y Claude, en la mira

Los legisladores presionaron para ampliar la ley a los modelos avanzados de IA como ChatGPT y Bard de Google, o Claude, un chatbot al que se considera el más potente y rápido de todos. Claude puede leer un libro en pocos minutos y luego dar su opinión crítica.

Los negociadores lograron un acuerdo provisional a pesar de la oposición de Francia, que abogaba por la “autorregulación” para ayudar a las empresas europeas de IA generativa a competir con los rivales estadounidenses como Microsoft, patrocinador de OpenAI y Google, entre varias. Estos “modelos lingüísticos de gran tamaño”, se entrenan con enormes cantidades de obras escritas e imágenes extraídas de internet. Proporcionan a los sistemas de IA generativa la capacidad de crear algo nuevo, a diferencia de la IA tradicional, pero violan sistemáticamente el derecho de autor, sea de texto como de imágenes.

En virtud del acuerdo europeo, los modelos más avanzados que planteen “riesgos sistémicos” serán objeto de un escrutinio adicional, que incluirá la obligación de revelar la potencia de cómputo utilizada. Investigadores alertan que estos potentes modelos creados por un puñado de empresas pueden potenciar la desinformación y la manipulación en línea, los ciberataques y la creación de armas biológicas. Pero el tema más espinoso fueron los sistemas de vigilancia por reconocimiento facial. Organizaciones de la sociedad civil se mostraron escépticos. “El texto final seguirá teniendo enormes defectos”, afirmó Daniel Leufer, del grupo de derechos digitales Access Now.