Los sintetizadores de voz pueden imitar una voz con sólo escucharla 30 segundos.
Los sintetizadores de voz basados en programas de Inteligencia Artificial (IA) son cada vez más usados por delincuentes en EEUU para hacer estafas telefónicas, en las que la víctima cree estar hablando con un familiar. Una grabación de 30 segundos alcanza para que este software pueda recrear el timbre de una persona de forma convincente. Los estafadores están aprovechando esta tecnología para hacerse pasar por familiares de personas mayores para pedirles dinero.
Según un reportaje del diario Washington Post, las estafas telefónicas en las que se imita la voz de otras personas causaron pérdidas de 11 millones de dólares el año pasado, convirtiéndose en el segundo tipo de estafa más común en Estados Unidos. Los estafadores han empezado a utilizar programas de inteligencia artificial para simular a familiares en apuros y engañar a las víctimas.
Con un software de síntesis de voz basado en IA como el de ElevenLabs, que cuesta entre 0 y 330 dólares al mes, los estafadores pueden replicar voces a partir de muestras cortas para luego realizar solicitudes urgentes de dinero a familiares vulnerables. En un caso recogido por el diario, los estafadores llamaron dos veces a los padres del abogado Benjamin Perkin. La primera para decirles que los quería, y que necesitaba dinero. La segunda para decirles que necesitaba 15.000 dólares en Bitcoin antes de un juicio, ese mismo día. Los padres transfirieron el dinero y nunca pudieron recuperarlo.
La inteligencia artificial ha añadido una aterradora capa de complejidad a las estafas telefónicas, permitiendo a los estafadores crear réplicas muy convincentes del habla humana con este software barato que es entrenado con enormes bases de datos para recrear patrones fonéticos y adaptar el timbre de voz.
Los expertos añaden que los reguladores, las fuerzas del orden y los tribunales están mal equipados para controlar esta creciente amenaza. Identificar a los autores o seguir el rastro del dinero no siempre es posible por el uso de las criptomonedas y el origen internacional de las llamadas. Tampoco hay precedentes legales para responsabilizar a las empresas que diseñan estas herramientas, de las que los estafadores hacen un uso indebido.
Por ahora, la única manera de evitar estas estafas es verificar cualquier llamada sospechosa antes de enviar dinero. Los padres de Perkin solo se dieron cuenta de que habían sido engañados cuando llamaron a su hijo por la noche y este no tenía ni idea de qué dinero estaban hablando.
En enero, la empresa dueña de ElevenLabs debió prometer que crearía mecanismos de resguardo cuando su producto fue usado para clonar voces de famosos y hacerles proferir insultos racistas, sexistas y discriminatorios. La empresa admitió “un número creciente de casos de uso indebido de clonación de voces”, a pocos días de haber lanzado una versión de demostración de la herramienta de síntesis de voz.
Hace dos años, su hijo y su marido murieron atropellados en avenida del Rosario y Ayacucho por dos hombres que corrían picadas.
Por Nicolás Maggi
Por Lucas Ameriso