El creador de ChatGPT pidió regular la IA: "Mi peor miedo es que algo salga muy mal"

Sam Altman habló ante el Congreso de EEUU y fue tajante sobre la necesidad urgente de controlar los algoritmos
16 de mayo 2023 · 19:00hs

El Congreso estadounidense tuvo su primera audiencia sobre inteligencia artificial. El invitado fue Sam Altman, fundador de OpenAI, la creadora de ChatGPT, el bot de uso masivo desde que se lanzó en noviembre pasado y que está causando preocupación entre muchos profesionales por su efecto sobre el empleo. Ante miembros del Comité Judicial, Altman fue categórico: pidió una actuación urgente para “regular la inteligencia artificial, y que esas normas garanticen que el público acceda a los muchos beneficios de esta tecnología”. Y agregó una frase inquietante: "Mi peor miedo es que esta tecnología salga mal. Y si sale mal, puede salir muy mal”. Por este temor pidió un mecanismo para detectar cuándo una IA puede autorreplicarse, algo que supondría un peligro existencial para la humanidad.

Altman, a diferencia de otros empresarios del sector, mostró desde el inicio sus preocupaciones por el potencial peligro que tiene la Inteligencia Artificial. Añadió que comprendía que la “gente esté ansiosa por cómo la IA puede cambiar la forma en que vivimos. Pero creemos que podemos y debemos trabajar juntos para identificar y gestionar las posibles desventajas para que todos podamos disfrutar de las tremendas ventajas” que conlleva.

Entre ellas, citó el modo en que la IA podría “ayudar a lograr nuevos descubrimientos y a abordar algunos de los mayores desafíos de la humanidad, como el cambio climático y la cura del cáncer”. También recordó que OpenAI, que ha registrado un meteórico ascenso empresarial en solo unos meses, es una “entidad sin ánimo de lucro” y que él no cobra “más dinero que el suficiente para cubrir la seguridad social”, ni tiene acciones de la compañía. “Es simplemente porque amo lo que hago”. Esto resulta totalmente creíble observando a Altman. Ayer por primera vez se lo vio de saco y corbata para concurrir a la solemne sesión en el Congreso. Suele andar de remera, jeans y zapatillas. Pero mientras él no tiene ambiciones de dinero, otros sí: Microsoft invirtió 10 mil millones de dólares en OpenAI y está explotando abiertamente las habilidades de ChatGPT para potenciar su buscador Bing. Este es el eterno perdedor frente a Chrome, de Google. A su vez, el gigante de los buscadores se quedó atrás en la carrera de los bots de IA "generativa" o "conversacional", como ChatGPT. Se apuró a sacar a la cancha a su propio chatbot, Bard, pero debió retirarlo apresuradamente luego de que cometiera errores groseros durante su presentación pública.

Altman también discutió sobre los mayores desafíos que su revolucionaria herramienta traerá para el futuro del trabajo, en los modos en los que su uso irresponsable puede afectar en la difusión de desinformación, en los resultados de las próximas elecciones presidenciales en Estados Unidos o en el trabajo de las industrias creativas. Los guionistas de Hollywood, actualmente en huelga, señalan el uso de ChatGPT por parte de los estudios para hacer borradores de guiones, por ejemplo, así como para crear ilustraciones basándonos en el robo de originales que no pagan.

“Esta audiencia está siendo histórica”, dijo tras escuchar las primeras conciliadoras respuestas de Altman el veterano senador Dick Durbin (Illinois), presidente de la comisión. “Perdí la cuenta de la cantidad de personas y entidades del sector privado que se presentaron aquí para tratar de hacernos creer que la economía prosperaría si los legisladores nos quitábamos de en medio”. Altman echó por tierra con ese planteo al pedir él mismo regulaciones severas.

Altman fue un poco más allá: “Estados Unidos debe ser el primer país en hacer algo. Pero creo que, por muy quimérico que suene, también opino que esto debería ser también un esfuerzo de alcance global”. Abogó por crear una organización internacional que establezca estándares para la IA, al estilo de cómo se ha hecho con “las armas nucleares”. Nada menos.

A su lado se sentaron la ejecutiva de IBM, Christina Montgomery, que pidió a los legisladores que fueran específicos en su regulación (”no es lo mismo que la tecnología se emplee en ayudar a elegir este o aquel restaurante o que se haga para tomar decisiones sobre empleo o vivienda”, advirtió), y Gary Marcus, de la Universidad de Nueva York, que aportó los puntos de vista más críticos y describió “una tormenta perfecta de irresponsabilidad corporativa, penetración extraordinaria y falta de regulación y de confianza. La humanidad está yendo por detrás esta vez”, alertó.

Los tres coincidieron con los legisladores en la importancia de no cometer “los mismos errores” que con las redes sociales. “Actuamos muy lentamente. Muchas decisiones desafortunadas tuvieron consecuencias duraderas”, dijo Marcus. “Las decisiones que tomemos ahora tendrán efectos durante décadas, tal vez incluso siglos”. Marcus sugirió crear una agencia federal, del tipo de la FDA (que controla los medicamentos) para establecer un examen previo de las nuevas herramientas de IA y otra que haga un seguimiento posterior una vez estén en el mercado, así como la creación de maneras de financiación para intervenir en la investigación.

La primera propuesta de Altman coincidió en la necesidad de crear una agencia que dé y quite licencias a las empresas de IA, y que garantice “el cumplimiento de las normas”. La segunda sería crear “un conjunto de estándares de seguridad”. La tercera, “crear protocolos para descubrir cuándo un modelo es capaz de replicarse a sí mismo”. Este temor, que parece tomado de la ciencia ficción, es según los expertos uno de los mayores desafíos de la IA para el futuro de la humanidad. Podría ser un Armagedón tecnológico.

Algunos senadores subrayaron el hecho de que Chat GPT haya conseguido 100 millones de usuarios en pocos meses. El demócrata Richard Blumenthal (Connecticut) reprodujo un audio que imitaba su voz, creado por la herramienta tecnológica de moda. Marsha Blackburn (Tennessee) explicó que durante el fin de semana había pedido a la máquina que inventara una canción del artista de country Garth Brooks, mientras que Amy Klobuchar (Minnesota) descubrió con gran “agrado” que a la pregunta de cuáles son los tres mejores músicos de la historia, obtuvo de ChatGPT una respuesta que incluía a dos nacidos en su Estado: Prince y Bob Dylan.

Las más leídas

Por qué los bancos de Rosario siguen abriendo en horarios de pandemia

Por qué los bancos de Rosario siguen abriendo en horarios de pandemia

Quini 6: hubo un solo ganador del Siempre Sale, que se llevó $486 millones

Quini 6: hubo un solo ganador del Siempre Sale, que se llevó $486 millones

Tres peajes de la autopista Rosario-Santa Fe, únicamente con Telepase

Tres peajes de la autopista Rosario-Santa Fe, únicamente con Telepase

Apropiación de bebés en Rosario: Rocío Robles contó que aún busca a su hermana

Apropiación de bebés en Rosario: Rocío Robles contó que aún busca a su hermana

Lo último

Hasta siempre teniente Rinke: Numeral de Hierro y héroe de Malvinas

Hasta siempre teniente Rinke: Numeral de Hierro y héroe de Malvinas

Terapias alternativas: Con las constelaciones familiares puedo llegar a lo más profundo

Terapias alternativas: "Con las constelaciones familiares puedo llegar a lo más profundo"

El tiempo en Rosario: lunes con muchas nubes y posibles tormentas a la noche

El tiempo en Rosario: lunes con muchas nubes y posibles tormentas a la noche

Evacuaron más de 600 mil cabezas de ganado de las islas por la crecida del Paraná

Pudieron retirar un 90 % de la hacienda que estaba en las islas. Aún quedan entre 80 mil y 90 mil animales en zonas altas del humedal
Evacuaron más de 600 mil cabezas de ganado de las islas por la crecida del Paraná
Uno 135 mil rosarinos tienen deudas y preocupan las billeteras virtuales
Economía

Uno 135 mil rosarinos tienen deudas y preocupan las billeteras virtuales

Quini 6: hubo un solo ganador del Siempre Sale, que se llevó $486 millones
Información General

Quini 6: hubo un solo ganador del Siempre Sale, que se llevó $486 millones

Tres peajes de la autopista Rosario-Santa Fe, únicamente con Telepase
La Región

Tres peajes de la autopista Rosario-Santa Fe, únicamente con Telepase

Legado Deliot: qué sigue tras la recuperación de los terrenos en la isla

Por Tomás Barrandeguy

La Ciudad

Legado Deliot: qué sigue tras la recuperación de los terrenos en la isla

Apropiación de bebés en Rosario: Rocío Robles contó que aún busca a su hermana
Zoom

Apropiación de bebés en Rosario: Rocío Robles contó que aún busca a su hermana

Las más leídas
Por qué los bancos de Rosario siguen abriendo en horarios de pandemia

Por qué los bancos de Rosario siguen abriendo en horarios de pandemia

Quini 6: hubo un solo ganador del Siempre Sale, que se llevó $486 millones

Quini 6: hubo un solo ganador del Siempre Sale, que se llevó $486 millones

Tres peajes de la autopista Rosario-Santa Fe, únicamente con Telepase

Tres peajes de la autopista Rosario-Santa Fe, únicamente con Telepase

Apropiación de bebés en Rosario: Rocío Robles contó que aún busca a su hermana

Apropiación de bebés en Rosario: Rocío Robles contó que aún busca a su hermana

Norberto Speciale: Pasó lo que tenía que pasar y en Central la casa está en orden

Norberto Speciale: "Pasó lo que tenía que pasar y en Central la casa está en orden"

Ovación
No hay dos sin tres: Godoy Cruz volvió enseguida y es el tercer club de Mendoza en Primera
Ovación

No hay dos sin tres: Godoy Cruz volvió enseguida y es el tercer club de Mendoza en Primera

No hay dos sin tres: Godoy Cruz volvió enseguida y es el tercer club de Mendoza en Primera

No hay dos sin tres: Godoy Cruz volvió enseguida y es el tercer club de Mendoza en Primera

Cierre de año del futsal de Newells con un título bajo el brazo y el pasaje a Supercopa

Cierre de año del futsal de Newell's con un título bajo el brazo y el pasaje a Supercopa

Matías Rossi avisó en Río Cuarto que es otro candidato al título del Turismo Carretera

Matías Rossi avisó en Río Cuarto que es otro candidato al título del Turismo Carretera

Policiales
Murió Miguel Ángel Félix Gallardo, fundador de los cárteles narco mexicanos
Policiales

Murió Miguel Ángel Félix Gallardo, "fundador" de los cárteles narco mexicanos

Un joven motociclista murió al chocar con un auto en Fray Luis Beltrán

Un joven motociclista murió al chocar con un auto en Fray Luis Beltrán

Causa Saint Amant IV: la Fiscalía consideró que se dictaron penas inferiores

Causa Saint Amant IV: la Fiscalía consideró que se dictaron "penas inferiores"

Barrio Ludueña: desapareció de su casa y su familia asegura que tenía una deuda

Barrio Ludueña: desapareció de su casa y su familia asegura que tenía una deuda

La Ciudad
El tiempo en Rosario: lunes con muchas nubes y posibles tormentas a la noche
La Ciudad

El tiempo en Rosario: lunes con muchas nubes y posibles tormentas a la noche

Rosario celebró las primeras rondas de los Circuitos Culturales +65

Rosario celebró las primeras rondas de los Circuitos Culturales +65

Récord de corredores en la maratón de Newells en el Parque Independencia

Récord de corredores en la maratón de Newell's en el Parque Independencia

Legado Deliot: qué sigue tras la recuperación de los terrenos en la isla

Legado Deliot: qué sigue tras la recuperación de los terrenos en la isla

La China Suárez vs. Wanda Nara: tras el video, picante ida y vuelta en redes
Zoom

La China Suárez vs. Wanda Nara: tras el video, picante ida y vuelta en redes

A qué edad se infartan los rosarinos, y cómo funciona la Red pública de Infartos
La Ciudad

A qué edad se infartan los rosarinos, y cómo funciona la Red pública de Infartos

Dos equipos rosarinos en el certamen de programación más prestigioso del mundo
La Ciudad

Dos equipos rosarinos en el certamen de programación más prestigioso del mundo

Se viene el registro completo del show de Tandil 2016 del Indio Solari
Zoom

Se viene el registro completo del show de Tandil 2016 del Indio Solari

Uatre: corren riesgo mil puestos de trabajo de peones temporarios en la región
La Región

Uatre: corren riesgo mil puestos de trabajo de peones temporarios en la región

Rescatan a un galgo desnutrido en zona noroeste y denuncian al responsable
La Ciudad

Rescatan a un galgo desnutrido en zona noroeste y denuncian al responsable

De cada diez repartidores en Rosario, cuatro sufrieron accidentes laborales
La Ciudad

De cada diez repartidores en Rosario, cuatro sufrieron accidentes laborales

Duendes va por la gloria en la final del Regional del Litoral ante Estudiantes de Paraná
Ovación

Duendes va por la gloria en la final del Regional del Litoral ante Estudiantes de Paraná

¿Qué pasa con el suelo después de 12 años de uso de riego por goteo enterrado?
Agro

¿Qué pasa con el suelo después de 12 años de uso de riego por goteo enterrado?

Nación avanza en la concesión de la ruta 11: la lupa en el cordón industrial
La Región

Nación avanza en la concesión de la ruta 11: la lupa en el cordón industrial

Condenaron a perpetua a tres personas que siguieron y ejecutaron a un policía
Policiales

Condenaron a perpetua a tres personas que siguieron y ejecutaron a un policía

Tormenta en Santa Fe: granizo, un tornado reportado y árboles caídos
La Región

Tormenta en Santa Fe: granizo, un tornado reportado y árboles caídos

Esclarecieron un robo millonario en el microcentro gracias a una pista en TikTok
Policiales

Esclarecieron un robo millonario en el microcentro gracias a una pista en TikTok

La era pos-Messi de la selección arrancó con el pie izquierdo en la Bombonera
Ovación

La era pos-Messi de la selección arrancó con el pie izquierdo en la Bombonera

Piden 10 días de prisión para la rosarina que increpó y escupió a Lilia Lemoine
La ciudad

Piden 10 días de prisión para la rosarina que increpó y escupió a Lilia Lemoine

Dueños de licencias de taxis se pronuncian ahora contra su propio pedido de aumento
La Ciudad

Dueños de licencias de taxis se pronuncian ahora contra su propio pedido de aumento