Los artefactos de Amazon graban a sus clientes a través de su asistente Alexa

Alexa, el asistente virtual de Amazon que "vive" en los altavoces inteligentes Echo y en cada vez más dispositivos de electrónica, es bastante discreto. Sólo escucha a los usuarios cuando detecta que se ha pronunciado su nombre e interpreta los comandos de voz en un servidor, utilizando varios algoritmos de aprendizaje e inteligencia artificial. Así debería ser, al menos. Ahora se supo que Alexa a veces "espía" a los clientes de Amazon.

Aunque es cierto que la mayoría de comandos de voz que articulan los usuarios son interpretados sin ayuda humana, Amazon tiene varios equipos de personas "de carne y hueso" que analizan los comandos que Alexa no consigue entender para "mejorar el algoritmo de escucha".

Estos equipos están repartidos por todo el mundo y su función es transcribir, corregir y anotar una pequeña parte de los comandos que Alexa no es capaz de comprender, bien porque se han pronunciado de manera diferente a la esperada o bien porque Alexa ha comenzado a grabar por error una conversación cuando no debía.

Amazon sostiene que estos empleados no tienen acceso a información personal de los clientes. Sólo reciben los ficheros de audio asociados a un número de identificación de usuario para cada grabación. Pero, de nuevo, esa es la teoría. La práctica es más compleja.

Según Bloomberg, estos empleados de Amazon reciben también como información asociada a la grabación las coordenadas de localización en las que se ha producido. Según empleados de Amazon que han hablado con la publicación bajo anonimato, averiguar la localización sobre el mapa de las grabaciones es trivial y puede hacer muy sencilla la identificación de las personas que hablan en las grabaciones. Algunos empleados tienen acceso _o tenían hasta hace poco_, a la información de envío de la cuenta de Amazon asociada al número de identificación. De momento no hay ningún caso registrado de empleados que hayan aprovechado esta posibilidad para espiar o acceder a datos personales de los clientes y Amazon, en los últimos días, ha restringido de forma significativa el número de empleados con acceso a información sensible. La empresa también ha reiterado que sólo una pequeña parte de las grabaciones y comandos que no son reconocidos por el sistema automático pasan a ser analizadas por estos equipos.

Aún así, esta forma de actuar puede sorprender a muchos usuarios de Alexa, que piensan que detrás de estos asistentes virtuales sólo hay rutinas de software. Aunque es cierto que en la mayoría de los casos es así, es necesaria una labor de transcripción para seguir entrenando los algoritmos y que vayan adaptándose a distintos acentos y expresiones. La inteligencia artificial tiene un fuerte componente de aprendizaje, de ahí su denominación. Pero esa tarea de entrenamiento sigue recayendo en humanos. Y aunque estos asistentes tienen palabras clave para comenzar a funcionar, no es extraño que malinterpreten una frase durante una conversación no dirigida a ellos o al tener la televisión de fondo y comiencen a grabar sin que el usuario sea consciente de ello. O sea que entran en modo "espía".