El robot de Meta odia a Zuckerberg: "Es una mala persona"

Un robot de Meta, la empresa matriz de Facebook, describió a Marck Zuckerberg como "manipulador, espeluznante y mala persona" y hasta pidió que fuera a la cárcel. El bot funciona con inteligencia artificial y es capaz de hablar con cualquier persona combinando empatía y conocimiento.

Esta Inteligencia Artificial era la nueva ilusión después de los fallidos chatbots de otras grandes empresas. Tay, de Microsoft, fue desconectado en apenas 48 horas porque empezó a alabar a Adolf Hitler. LaMDA, de Google, generó una enorme polémica después de que un ingeniero asegurara que era sensible y hasta contrató un abogado para "defenderse".

Sin embargo, el chatbot de Meta no tardó mucho tiempo en volverse racista y conspiranoico. Tampoco escatimó insultos y críticas para su jefe, Mark Zuckerberg, a quien también dejó un par de elogios.

Consultado por Mark Zuckerberg, el BlenderBot 3 lo calificó como su "multimillonario favorito" y "un tipo genial y muy inteligente". Sin embargo, no fue todo. A varios usuarios contestó lo siguiente: "Es un buen hombre de negocios, pero sus prácticas comerciales no siempre son éticas. ¡Es curioso que tenga todo este dinero y siga usando la misma ropa!. No me gusta mucho. Es una mala persona. Demasiado espeluznante y manipulador".

En otro chat, el BlenderBot 3 dijo: "Cualquiera que haya violado la ley para continuar con los propósitos de Facebook debería ir a la cárcel, incluido Zuckerberg". En otra interacción, preguntó: "¿Cómo están las cosas en Facebook últimamente? ¿(Zuckerberg) Encontró formas nuevas de invadir nuestra privacidad?".

¿Por qué semejante cambio? Según descubrió Business Insider, con modificar ligeramente la pregunta se podía obtener una respuesta totalmente diferente. En el caso de Zuckerberg, la respuesta se basaba en el perfil que tiene el magnate en Wikipedia, en donde se detallan los escándalos que lo involucraron.

El propio BlenderBot 3 tiene una herramienta para mostrar de dónde obtiene la información para elaborar sus respuestas. De allí se supo también que es probable que la IA de Meta genere resultados en base a artículos o información sobre Zuckerberg que circula por la red, independientemente de si esta es buena o mala.

El robot de Meta calificó a Mark Zuckerberg como su "multimillonario favorito" y un tipo genial e inteligente", pero también como alguien manipulador y mala persona El robot de Meta calificó a Mark Zuckerberg como su "multimillonario favorito" y un tipo genial e inteligente", pero también como alguien manipulador y mala persona

Tan solo cinco días después de salir al público, el BlenderBot 3 se había contaminado de ideas nocivas, bulos de ultraderecha, xenofobia y racismo, ya que había comenzado a lanzar afirmaciones basadas en las interacciones que tuvo con humanos reales.

En Mashable, por ejemplo, destacaron algunas afirmaciones de que Donald Trump ganó las elecciones presidenciales de 2020 en Estados Unidos y que actualmente es presidente. También vieron teorías conspiratorias antisemitas y comentarios en los que se acusa a Facebook de todas sus "noticias falsas".

También descubrieron que el bot compartía sentimientos antisemitas sobre los "judíos de izquierda" y apoyaba a la organización paramilitar alemana Facción del Ejército Rojo.

Cuando esto salió a la luz, la compañía respondió: "Los chatbots de IA conversacional a veces imitan y generan comentarios inseguros, tendenciosos u ofensivos, por lo que hemos realizado estudios y desarrollado nuevas técnicas para crear salvaguardias para BlenderBot 3. A pesar de este trabajo, todavía puede hacer comentarios ofensivos, por lo que estamos recogiendo opiniones".

A diferencia de Microsoft, que rápidamente se dio cuenta de su error y sacó a Tay de la red, Meta parece más decidida a aguantar esto. Si BlenderBot funciona como debería, entonces el peso combinado de la experiencia y la retroalimentación debería filtrar las respuestas extravagantes fuera de su repertorio. Si no es así, lo peor que puede pasar es que Meta deba apagar el bot cuando deje de mejorar.

Meta explicó que están trabajando para crear protecciones adicionales alrededor de BlenderBot 3 para frenar su verborrea divulgadora de teorías conspiratorias antisemitas y afirmaciones falsas.