El creador de ChatGPT pidió regular la IA: "Mi peor miedo es que algo salga muy mal"

Sam Altman habló ante el Congreso de EEUU y fue tajante sobre la necesidad urgente de controlar los algoritmos
16 de mayo 2023 · 19:00hs

El Congreso estadounidense tuvo su primera audiencia sobre inteligencia artificial. El invitado fue Sam Altman, fundador de OpenAI, la creadora de ChatGPT, el bot de uso masivo desde que se lanzó en noviembre pasado y que está causando preocupación entre muchos profesionales por su efecto sobre el empleo. Ante miembros del Comité Judicial, Altman fue categórico: pidió una actuación urgente para “regular la inteligencia artificial, y que esas normas garanticen que el público acceda a los muchos beneficios de esta tecnología”. Y agregó una frase inquietante: "Mi peor miedo es que esta tecnología salga mal. Y si sale mal, puede salir muy mal”. Por este temor pidió un mecanismo para detectar cuándo una IA puede autorreplicarse, algo que supondría un peligro existencial para la humanidad.

Altman, a diferencia de otros empresarios del sector, mostró desde el inicio sus preocupaciones por el potencial peligro que tiene la Inteligencia Artificial. Añadió que comprendía que la “gente esté ansiosa por cómo la IA puede cambiar la forma en que vivimos. Pero creemos que podemos y debemos trabajar juntos para identificar y gestionar las posibles desventajas para que todos podamos disfrutar de las tremendas ventajas” que conlleva.

Peligro. El producto estrella de OpenAI. 

Dan una lista de las profesiones que el ChatGPT condena a desaparecer

eric sadin contra chatgpt: se esta redefiniendo el estatuto del ser humano

Éric Sadin contra ChatGPT: "Se está redefiniendo el estatuto del ser humano"

Entre ellas, citó el modo en que la IA podría “ayudar a lograr nuevos descubrimientos y a abordar algunos de los mayores desafíos de la humanidad, como el cambio climático y la cura del cáncer”. También recordó que OpenAI, que ha registrado un meteórico ascenso empresarial en solo unos meses, es una “entidad sin ánimo de lucro” y que él no cobra “más dinero que el suficiente para cubrir la seguridad social”, ni tiene acciones de la compañía. “Es simplemente porque amo lo que hago”. Esto resulta totalmente creíble observando a Altman. Ayer por primera vez se lo vio de saco y corbata para concurrir a la solemne sesión en el Congreso. Suele andar de remera, jeans y zapatillas. Pero mientras él no tiene ambiciones de dinero, otros sí: Microsoft invirtió 10 mil millones de dólares en OpenAI y está explotando abiertamente las habilidades de ChatGPT para potenciar su buscador Bing. Este es el eterno perdedor frente a Chrome, de Google. A su vez, el gigante de los buscadores se quedó atrás en la carrera de los bots de IA "generativa" o "conversacional", como ChatGPT. Se apuró a sacar a la cancha a su propio chatbot, Bard, pero debió retirarlo apresuradamente luego de que cometiera errores groseros durante su presentación pública.

Altman también discutió sobre los mayores desafíos que su revolucionaria herramienta traerá para el futuro del trabajo, en los modos en los que su uso irresponsable puede afectar en la difusión de desinformación, en los resultados de las próximas elecciones presidenciales en Estados Unidos o en el trabajo de las industrias creativas. Los guionistas de Hollywood, actualmente en huelga, señalan el uso de ChatGPT por parte de los estudios para hacer borradores de guiones, por ejemplo, así como para crear ilustraciones basándonos en el robo de originales que no pagan.

“Esta audiencia está siendo histórica”, dijo tras escuchar las primeras conciliadoras respuestas de Altman el veterano senador Dick Durbin (Illinois), presidente de la comisión. “Perdí la cuenta de la cantidad de personas y entidades del sector privado que se presentaron aquí para tratar de hacernos creer que la economía prosperaría si los legisladores nos quitábamos de en medio”. Altman echó por tierra con ese planteo al pedir él mismo regulaciones severas.

Altman fue un poco más allá: “Estados Unidos debe ser el primer país en hacer algo. Pero creo que, por muy quimérico que suene, también opino que esto debería ser también un esfuerzo de alcance global”. Abogó por crear una organización internacional que establezca estándares para la IA, al estilo de cómo se ha hecho con “las armas nucleares”. Nada menos.

A su lado se sentaron la ejecutiva de IBM, Christina Montgomery, que pidió a los legisladores que fueran específicos en su regulación (”no es lo mismo que la tecnología se emplee en ayudar a elegir este o aquel restaurante o que se haga para tomar decisiones sobre empleo o vivienda”, advirtió), y Gary Marcus, de la Universidad de Nueva York, que aportó los puntos de vista más críticos y describió “una tormenta perfecta de irresponsabilidad corporativa, penetración extraordinaria y falta de regulación y de confianza. La humanidad está yendo por detrás esta vez”, alertó.

Los tres coincidieron con los legisladores en la importancia de no cometer “los mismos errores” que con las redes sociales. “Actuamos muy lentamente. Muchas decisiones desafortunadas tuvieron consecuencias duraderas”, dijo Marcus. “Las decisiones que tomemos ahora tendrán efectos durante décadas, tal vez incluso siglos”. Marcus sugirió crear una agencia federal, del tipo de la FDA (que controla los medicamentos) para establecer un examen previo de las nuevas herramientas de IA y otra que haga un seguimiento posterior una vez estén en el mercado, así como la creación de maneras de financiación para intervenir en la investigación.

La primera propuesta de Altman coincidió en la necesidad de crear una agencia que dé y quite licencias a las empresas de IA, y que garantice “el cumplimiento de las normas”. La segunda sería crear “un conjunto de estándares de seguridad”. La tercera, “crear protocolos para descubrir cuándo un modelo es capaz de replicarse a sí mismo”. Este temor, que parece tomado de la ciencia ficción, es según los expertos uno de los mayores desafíos de la IA para el futuro de la humanidad. Podría ser un Armagedón tecnológico.

Algunos senadores subrayaron el hecho de que Chat GPT haya conseguido 100 millones de usuarios en pocos meses. El demócrata Richard Blumenthal (Connecticut) reprodujo un audio que imitaba su voz, creado por la herramienta tecnológica de moda. Marsha Blackburn (Tennessee) explicó que durante el fin de semana había pedido a la máquina que inventara una canción del artista de country Garth Brooks, mientras que Amy Klobuchar (Minnesota) descubrió con gran “agrado” que a la pregunta de cuáles son los tres mejores músicos de la historia, obtuvo de ChatGPT una respuesta que incluía a dos nacidos en su Estado: Prince y Bob Dylan.

Ver comentarios

Las más leídas

Conmoción en el motociclismo: sigue grave el piloto rosarino de 9 años que se accidentó en Brasil

Conmoción en el motociclismo: sigue grave el piloto rosarino de 9 años que se accidentó en Brasil

Dos muertes en un choque en la ruta provincial 92, cerca de Arequito

Dos muertes en un choque en la ruta provincial 92, cerca de Arequito

Sigue grave pero estable el piloto rosarino de 9 años que cayó de su moto en un autódromo de Brasil

Sigue grave pero estable el piloto rosarino de 9 años que cayó de su moto en un autódromo de Brasil

Un auto chocó contra un árbol y terminó dado vuelta en Entre Ríos y Pellegrini

Un auto chocó contra un árbol y terminó dado vuelta en Entre Ríos y Pellegrini

Lo último

Central necesita encender todos sus generadores en el próximo semestre

Central necesita encender todos sus generadores en el próximo semestre

El sueño es que los chicos no tengan que ir más a los comedores

"El sueño es que los chicos no tengan que ir más a los comedores"

Nos alcanza para dar comida y llenar panzas

"Nos alcanza para dar comida y llenar panzas"

Sigue grave pero estable el piloto rosarino de 9 años que cayó de su moto en un autódromo de Brasil

Lorenzo Somaschini tuvo un accidente en un campeonato en San Pablo. "Es un minuto a minuto", dijo su instructor a La Capital en la noche de este domingo.
Sigue grave pero estable el piloto rosarino de 9 años que cayó de su moto en un autódromo de Brasil
Confirmaron que Milei estará en Rosario en el acto del Día de la Bandera
Política

Confirmaron que Milei estará en Rosario en el acto del Día de la Bandera

El Día del Padre dio algo de oxígeno al comercio de Rosario
La Ciudad

El Día del Padre dio algo de oxígeno al comercio de Rosario

Dos muertes en un choque en la ruta provincial 92, cerca de Arequito
La Región

Dos muertes en un choque en la ruta provincial 92, cerca de Arequito

El gobierno apura la ley Bases y quiere mostrar unidad en el frente interno
Politica

El gobierno apura la ley Bases y quiere mostrar unidad en el frente interno

La Libertad Avanza montó una mesa de afiliaciones en la Noche de Peatonales

Por Nachi Saieg

La Ciudad

La Libertad Avanza montó una mesa de afiliaciones en la Noche de Peatonales

Dejanos tu comentario
Las más leídas
Conmoción en el motociclismo: sigue grave el piloto rosarino de 9 años que se accidentó en Brasil

Conmoción en el motociclismo: sigue grave el piloto rosarino de 9 años que se accidentó en Brasil

Dos muertes en un choque en la ruta provincial 92, cerca de Arequito

Dos muertes en un choque en la ruta provincial 92, cerca de Arequito

Sigue grave pero estable el piloto rosarino de 9 años que cayó de su moto en un autódromo de Brasil

Sigue grave pero estable el piloto rosarino de 9 años que cayó de su moto en un autódromo de Brasil

Un auto chocó contra un árbol y terminó dado vuelta en Entre Ríos y Pellegrini

Un auto chocó contra un árbol y terminó dado vuelta en Entre Ríos y Pellegrini

El Quini 6 quedó vacante y el miércoles habrá otro pozo multimillonario

El Quini 6 quedó vacante y el miércoles habrá otro pozo multimillonario

Ovación
Horas decisivas en Newells para definir el nuevo entrenador

Por Aníbal Fucaraccio

Exclusivo suscriptores

Horas decisivas en Newell's para definir el nuevo entrenador

Horas decisivas en Newells para definir el nuevo entrenador

Horas decisivas en Newell's para definir el nuevo entrenador

Prohibieron a la nadadora trans Lia Thomas competir en los Juegos Olímpicos

Prohibieron a la nadadora trans Lia Thomas competir en los Juegos Olímpicos

Sigue grave pero estable el piloto rosarino de 9 años que cayó de su moto en un autódromo de Brasil

Sigue grave pero estable el piloto rosarino de 9 años que cayó de su moto en un autódromo de Brasil

Policiales
En 6 meses, la PDI realizó 2.141 allanamientos y detuvo a más de 2 mil personas
Policiales

En 6 meses, la PDI realizó 2.141 allanamientos y detuvo a más de 2 mil personas

Manudo, el narco salteño que opera una ruta de cocaína de Bolivia a Rosario

"Manudo", el narco salteño que opera una ruta de cocaína de Bolivia a Rosario

Identificaron al hombre que fue asesinado de un tiro en la cabeza en zona oeste

Identificaron al hombre que fue asesinado de un tiro en la cabeza en zona oeste

Crimen en zona oeste: un hombre fue asesinado de un balazo en la cabeza

Crimen en zona oeste: un hombre fue asesinado de un balazo en la cabeza

La Ciudad
Inseguridad alimentaria: en la segunda cuenca lechera del país, los chicos ya no toman dos tazas de leche por día

Por Carina Bazzoni

La Ciudad

Inseguridad alimentaria: en la segunda cuenca lechera del país, los chicos ya no toman dos tazas de leche por día

El sueño es que los chicos no tengan que ir más a los comedores

"El sueño es que los chicos no tengan que ir más a los comedores"

Nos alcanza para dar comida y llenar panzas

"Nos alcanza para dar comida y llenar panzas"

El tiempo en Rosario: un lunes con alguna nubes y 19 grados de máxima

El tiempo en Rosario: un lunes con alguna nubes y 19 grados de máxima

Vuelven los vuelos directos de Rosario a Lima: cuándo salen a la venta

Por Pablo R. Procopio

La Ciudad

Vuelven los vuelos directos de Rosario a Lima: cuándo salen a la venta

La Messi de la Inteligencia Artificial es rosarina y triunfa en Estados Unidos

Por Mariano Bereznicki

EXCLUSIVO SUSCRIPTORES

La Messi de la Inteligencia Artificial es rosarina y triunfa en Estados Unidos

Motociclismo: se accidentó un piloto rosarino de 9 años en Interlagos y está grave
Ovación

Motociclismo: se accidentó un piloto rosarino de 9 años en Interlagos y está grave

La inflación de los alimentos llegó al 1,5% en la segunda semana de junio
Economia

La inflación de los alimentos llegó al 1,5% en la segunda semana de junio

Milei brindó su apoyo al pueblo de Ucrania y al amigo Zelenski
Política

Milei brindó su apoyo "al pueblo de Ucrania y al amigo Zelenski"

Carina Kaplan: La escuela debe ser refugio emocional para las infancias

Por Matías Loja

Educación

Carina Kaplan: "La escuela debe ser refugio emocional para las infancias"

Scaloni confirmó la lista para la Copa América: quiénes quedaron afuera
Ovación

Scaloni confirmó la lista para la Copa América: quiénes quedaron afuera

Identificaron al hombre que fue asesinado de un tiro en la cabeza en zona oeste
Policiales

Identificaron al hombre que fue asesinado de un tiro en la cabeza en zona oeste

Messi: El objetivo en la Copa es seguir logrando cosas importantes
Ovación

Messi: "El objetivo en la Copa es seguir logrando cosas importantes"

Corrientes: buscan a un nene de 5 años que fue al monte a juntar naranjas y no volvió
Información general

Corrientes: buscan a un nene de 5 años que fue al monte a juntar naranjas y no volvió

Nahir Galarza rompió el silencio: un documental recoge su versión del caso
Zoom

Nahir Galarza rompió el silencio: un documental recoge su versión del caso

Kate Middleton se mostró en público por primera vez desde el diagnóstico
Zoom

Kate Middleton se mostró en público por primera vez desde el diagnóstico

Una empresa aérea busca operar vuelos entre Rosario, Uruguay y Bolivia
La Ciudad

Una empresa aérea busca operar vuelos entre Rosario, Uruguay y Bolivia

Chatarrerías truchas: incautaron 400 toneladas de cobre en lo que va de 2024
La Ciudad

Chatarrerías truchas: incautaron 400 toneladas de cobre en lo que va de 2024