Ordenan suspender el uso del reconocimiento facial en Buenos Aires

La Justicia porteña ordenó al gobierno de la Ciudad de Buenos Aires (Caba) suspender el uso de la tecnología de reconocimiento facial que se implementa, principalmente, en estaciones de trenes y subtes. El fin del sistema es reconocer prófugos de la justicia para, a partir de su detección en lugares públicos, poder detenerlos; sin embargo, el juez en lo Contencioso, Administrativo y Tributario de Caba, Roberto Gallardo, indicó que la tecnología se utilizó para acceder a datos biométricos de millones de personas a las que no buscaba la justicia.

Los sistemas de reconocimiento facial cuentan con información de antemano para identificar patrones en los campos que analizan, a través de videocámaras, y determinar si son compatibles con los parámetros que ya tienen aprendidos. La red aprende a identificar, aunque lo relevante es que pueda relacionar un dato nuevo (una cara, en este caso) que le ingresa al sistema a través de la cámara de vigilancia con un dato preexistente. En el reconocimiento facial se implementa un algoritmo para tomar ciertas proporciones de los rostros.

La resolución del juez Gallardo se da luego de que se constatara que entre abril de 2019 y marzo de 2022, las consultas de datos biométricos realizadas desde el Ministerio de Seguridad porteño fueron 9 millones, una cifra que no se corresponde con la población de individuos requeridos por la Justicia o en situación de rebeldía a partir de una medida judicial, alrededor de 40.000 personas, y que por esa razón figuran en los registros de la Consulta Nacional de Rebeldía y Capturas (Conarc). La cartera de Seguridad de Caba sólo tiene permitido hacer consultas a esta última base de datos, según explicaron fuentes judiciales a Télam.

Además del pedido de suspensión del sistema, el juez Gallardo ordenó el secuestro de computadoras y dispositivos por parte de la Policía de Seguridad Aeroportuaria (PSA) en el Centro de Monitoreo Urbano ubicado en Patricios al 1100, del barrio porteño de Barracas.

La suspensión del uso del sistema de reconocimiento facial que ordenó el juez Gallardo se produjo por una causa iniciada a principios de 2020, a partir de que varias entidades y ONG presentaran un amparo colectivo en la Justicia en el que denunciaban falta de control ciudadano, riesgos para la privacidad y la aplicación de patrones discriminatorios para realizar los mapas biométricos.

La Ciudad de Buenos Aires se convirtió en el primer distrito del país en regular el uso de la tecnología de reconocimiento facial en la vía pública con el argumento de detectar y detener prófugos de la justicia. Así como su uso se implementa en otras ciudades del mundo, como Londres o extensivamente en China, el sistema también está prohibido en varios puntos de Estados Unidos, como San Francisco, Boston o Portland.

En Caba hubo casos de falsos positivos y este procedimiento es objetado por todas las asociaciones y organizaciones referentes en la temática ya que los algoritmos no son neutros ni perfectos y sus modelos se entrenan en base a ciertos criterios y sesgos. En diversos países, tanto personas de color como mujeres son, en su mayoría, víctimas de falsos positivos.