Reconocimiento facial en vía pública: sesgos y prohibiciones en otras ciudades del mundo

Se usa desde el año pasado en la Ciudad de Buenos Aires y quedó legalmente reglamentado hace unas semanas. Distintas organizaciones plantean que hay que prohibir su uso en el espacio público y que hay problemas de falsos positivos.
11 de noviembre 2020 · 03:00hs

La Ciudad Autónoma de Buenos Aires (Caba) se convirtió en el primer distrito del país en regular el uso de la tecnología de reconocimiento facial en la vía pública con el argumento de detectar y detener prófugos de la justicia. Así como su uso se implementa en otras ciudades del mundo, como Londres o extensivamente en China, el sistema también está prohibido en varios puntos de Estados Unidos, como San Francisco, Boston o Portland. En Caba hubo casos de falsos positivos (algunos graves) y este procedimiento es objetado por todas las asociaciones y organizaciones referentes en la temática ya que los algoritmos no son neutros ni perfectos y sus modelos se entrenan en base a ciertos criterios y sesgos. En diversos países, tanto personas de color como mujeres son, en su mayoría, víctimas de falsos positivos.

“(La Ciudad de) Buenos Aires adoptó la incorporación de software de reconocimiento facial para las cámaras de vigilancia del espacio público. Generó una serie de problemas porque hubo gente detenida de manera irregular”, explica a La Capital la presidenta de Fundación Vía Libre, Beatriz Busaniche.

Cámaras de vigilancia y radares fijos en la esquina de Francia y Caseros, en la entrada del túnel Celedonio Escalada.

Rosario usará el reconocimiento facial en las cámaras de seguridad para identificar delincuentes

El sistema se iba a vincular con las cámaras de vigilancia que ya hay en la ciudad.

Descartaron la utilización de un sistema de reconocimiento facial en Rosario

Detalla también que al reconocimiento facial “se agrega, también, un sistema basado en inteligencia artificial que lo llaman predictivo, para situaciones anómalas, y un sistema para apoyo a la tarea forense”.

Tanto la Fundación Vía Libre como otras organizaciones (Access Now, Amnistía Internacional, Asociación por los Derechos Civiles, Centro de Estudios Legales y Sociales, DATAS y el Observatorio de Derecho Informático Argentino) se mostraron en contra de la reglamentación del reconocimiento facial por varios aspectos: falsos positivos, la prohibición que se dio en otros países y el alerta que emitieron desde la Organización de las Naciones Unidas (ONU) tras la visita de un relator especial al país.

Falsos positivos y el estado de vigilancia continuo

Entre los principales problemas que se encuentran para el método de reconocimiento facial, Busaniche resalta el hecho de que el sistema no es perfecto, por lo que hay probabilidades de que identifique erróneamente a personas que no sean prófugas ni estén en conflicto con la ley; mientras que sobre el sistema predictivo remarca que puede identificar a personas que no estén cometiendo ningún acto ilícito.

En la Ciudad de Buenos Aires hubo casos al respecto, con distintos tenores. Como ejemplos, así como demoraron a una persona en la estación Callao de la línea B del subte y que perdió varias horas por un error en la carga manual de datos ya que su número de documento se confundió con el de un prófugo), otro hecho conocido fue el de Guillermo Ibarrola: una alerta emitida en una de las cámaras de la terminal de ómnibus de Retiro hizo que lo detuvieran y lo trasladaran a Bahía Blanca casi una semana. Estuvo a punto de ser llevado a un penal por un robo que no cometió.

Embed

Busaniche cuenta: “(Ibarrola) fue detenido y enviado a Bahía Blanca, donde supuestamente se lo estaba buscando, y fue abandonado durante una semana siendo un falso positivo del sistema de reconocimiento facial de la Ciudad de Buenos Aires. Fue detenido arbitrariamente y sometido a lo peor de este tipo de sistemas”.

En San Francisco, Estados Unidos, el sistema de reconocimiento facial está prohibido tanto para utilizarlo como para adquirirlo a futuro. A esa ciudad se sumaron Boston, Portland y San Diego, entre otras.

En enero comenzó a implementarse en Londres, a pesar de que estudios preliminares indicaron un alto porcentaje de falsos positivos en pruebas realizadas por la Policía Metropolitana de esa ciudad (arriba del 80 por ciento de los casos, según indicó el Daily Mail).

”En algunos distritos en Inglaterra se suspendió, por orden judicial, el uso del sistema”, aporta la presidenta de Fundación Vía Libre, para agregar que “en algunos casos, hay un sesgo marcado por parte de los algoritmos de reconocimiento facial. Fallan mucho más con las personas de tez más oscura. Por eso, el problema de este sistema es, también, de clase”.

El tema de los sesgos es otro de los pilares sobre los que se apoya la negativa a este tipo de sistemas alrededor del mundo. Acá entra la opción predictiva que se menciona en la reglamentación en Caba: la identificación de potenciales delitos en base a algoritmos preestablecidos.

“Se implementa un sistema automatizado, basado en el entrenamiento de algoritmos para identificar y levantar alertas sobre situaciones anómalas en la esfera pública. El algoritmo decide qué conductas son anómalas. Eso es una forma muy invasiva de intervención en el espacio público”, remarca la especialista.

Entrenamiento y sesgos

Los sistemas de reconocimiento facial cuentan con información de antemano para identificar patrones en los campos que analiza y determinar si son compatibles con los parámetros que ya tiene aprendidos.

La red aprende a identificar, aunque lo relevante es que pueda relacionar un dato nuevo (una cara, en este caso) que le ingresa al sistema a través de la cámara de vigilancia. En el reconocimiento facial se implementa un algoritmo para tomar ciertas proporciones de los rostros.

Algo a destacar también es el saneamiento de los datos. Es necesario que los conjuntos de datos (en este caso, de prófugos) estén actualizados para no caer, por ejemplo, en demorar a personas que ya tengan su proceso judicial resuelto.

Por su parte, Busaniche destaca que, el año pasado, un relator especial de la Organización de las Naciones Unidas (ONU) sobre el derecho a la privacidad llegó a Buenos Aires para evaluar la implementación del sistema. En su análisis, el enviado de la ONU Joseph Cannataci consideró que el método no podía implementarse sin haberse hecho evaluaciones de impacto en los derechos humanos de los ciudadanos.

En el informe preliminar para la ONU, Cannataci dijo: “El sistema está conectado a la Conarc (Consulta Nacional de Rebeldías y Capturas), la base de datos pública de personas buscadas por la justicia, compuesta por 46.000 archivos. Soy consciente de la necesidad de detener a las personas sospechosas de haber cometido delitos y llevarlas ante la justicia, pero no veo la proporcionalidad de instalar una tecnología con graves implicaciones para la privacidad para buscar en una lista de 46.000 personas que actualmente incluye a menores y delitos no graves y que no se actualice y compruebe cuidadosamente su exactitud”.

Los gigantes tecnólogicos que dan un paso al costado

En junio, en el marco de una ola de protestas en contra de la discriminación racial luego del asesinato de George Floyd y en el inicio del ‘Black Lives Matter’, IBM y Amazon decidieron dejar de trabajar en el reconocimiento facial para la vigilancia masiva.

“No vamos a tolerar el uso de ninguna tecnología para la vigilancia masiva, el perfil racial, las violaciones de los derechos humanos y las libertades básicas”, indicó, por entonces, el CEO de IBM, Arvid Krishna, en una carta enviada al congreso estadounidense.

Amazon, por su parte, puso en stand by por un año la utilización de su herramienta “Reckognition” al servicio de distintos departamentos de policía de Estados Unidos. “Esperamos que esta moratoria dé tiempo al Congreso para aprobar las reglas necesarias”, dijeron desde la empresa luego de tomar la decisión.

A ellos se sumó Microsoft, dando de baja el acceso a sus herramientas de reconocimiento facial hasta que no haya un debate de fondo para una posterior regulación por parte del gobierno estadounidense.

Sobre ello, Busaniche dice: “Cuando tenés a estas empresas que dicen públicamente que, por cuestiones éticas, van a dejar de venderle estas tecnologías a los gobiernos para la vigilancia en la esfera pública, es porque la proporcionalidad del impacto es demasiado grande y, más temprano que tarde, esto le va a traer problemas”.

“Nosotros pensamos que al reconocimiento facial hay que prohibirlo. Este tipo de sistemas no deben ser implementados. Sobre todo, sin haber hecho un análisis claro del impacto. La inseguridad es una preocupación para la sociedad, pero este sistema no trae más seguridad. Si no, pregúntenle a la persona que estuvo encerrada una semana, olvidada y víctima, erróneamente, de un sistema que funciona mal”, concluye Busaniche.

Ver comentarios

Las más de leídas

Matan a balazos a un hombre, una mujer y a una nena de 6 años en un ataque sicario en Tablada

Matan a balazos a un hombre, una mujer y a una nena de 6 años en un ataque sicario en Tablada

Alfredo Casero explotó enojado con Luis Majul y abandonó el estudio a los gritos

Alfredo Casero explotó enojado con Luis Majul y abandonó el estudio a los gritos

Triple crimen en Tablada: Lagna le pidió un mea culpa a la política por el aumento del delito

Triple crimen en Tablada: Lagna le pidió un "mea culpa" a la política por el aumento del delito

Central venció a Estudiantes y la fiesta canalla la desató el gol de Marco Ruben

Central venció a Estudiantes y la fiesta canalla la desató el gol de Marco Ruben

Lo último

El socialismo refuerza la unidad y apuesta a un regreso al gobierno provincial

El socialismo refuerza la unidad y apuesta a un regreso al gobierno provincial

Crece el empleo: la provincia registró 501.862 asalariados en el sector privado

Crece el empleo: la provincia registró 501.862 asalariados en el sector privado

La Habana: un viaje al pasado

La Habana: un viaje al pasado

Vacuna Covid: expertos evalúan si habrá un solo refuerzo anual

Mientras se está aplicando la cuarta dosis, la gran inquietud es si habrá que seguir inoculándose cada cuatro meses. Qué se está desarrollando en los laboratorios

Vacuna Covid: expertos evalúan si habrá un solo refuerzo anual

Por Florencia O’Keeffe

Focos, incendios y chispazos

Por Mariano D'Arrigo

Exclusivo suscriptores

Focos, incendios y chispazos

LA REGIÓN

Gasoductos: avanzan las cuatro obras que cambiarán el perfil del centro sur santafesino

Ludueña: cómo sobrevivir en un barrio sitiado por las balaceras

Por Eugenia Langone

La Ciudad

Ludueña: cómo sobrevivir en un barrio sitiado por las balaceras

El socialismo refuerza la unidad y apuesta a un regreso al gobierno provincial

Por Javier Felcaro

Política

El socialismo refuerza la unidad y apuesta a un regreso al gobierno provincial

Aceleran gestiones para resolver qué hacer con la villa de Puerto Norte

Por Juan Chiummiento

Exclusivo suscriptores

Aceleran gestiones para resolver qué hacer con la villa de Puerto Norte

Dejanos tu comentario
Las más leídas
Matan a balazos a un hombre, una mujer y a una nena de 6 años en un ataque sicario en Tablada

Matan a balazos a un hombre, una mujer y a una nena de 6 años en un ataque sicario en Tablada

Alfredo Casero explotó enojado con Luis Majul y abandonó el estudio a los gritos

Alfredo Casero explotó enojado con Luis Majul y abandonó el estudio a los gritos

Triple crimen en Tablada: Lagna le pidió un mea culpa a la política por el aumento del delito

Triple crimen en Tablada: Lagna le pidió un "mea culpa" a la política por el aumento del delito

Central venció a Estudiantes y la fiesta canalla la desató el gol de Marco Ruben

Central venció a Estudiantes y la fiesta canalla la desató el gol de Marco Ruben

Piden la absolución de un agente del Comando Radioeléctrico condenado por matar a una pareja

Piden la absolución de un agente del Comando Radioeléctrico condenado por matar a una pareja

Ovación
Newells juega por el mejor broche para una campaña meritoria

Por Rodolfo Parody

Ovacion

Newell's juega por el mejor broche para una campaña meritoria

Newells juega por el mejor broche para una campaña meritoria

Newell's juega por el mejor broche para una campaña meritoria

Central: Ruben y un adiós con un estruendo divino

Central: Ruben y un adiós con un estruendo divino

La data: hora, formaciones y dónde ver Gimnasia-Newells en vivo

La data: hora, formaciones y dónde ver Gimnasia-Newell's en vivo

Policiales
Una pareja y uno de sus pequeños hijos fueron masacrados en un pasillo de Tablada

Por Leo Graciarena

POLICIALES

Una pareja y uno de sus pequeños hijos fueron masacrados en un pasillo de Tablada

En tan solo 98 días hubo tres triples crímenes con niños como víctimas

En tan solo 98 días hubo tres triples crímenes con niños como víctimas

Media sanción al proyecto de ley que crea una unidad fiscal para delitos rurales

Media sanción al proyecto de ley que crea una unidad fiscal para delitos rurales

Piden la absolución de un agente del Comando Radioeléctrico condenado por matar a una pareja

Piden la absolución de un agente del Comando Radioeléctrico condenado por matar a una pareja

La Ciudad
Autoridades de la OPS visitaron la provincia y junto a Salud articularán tareas sanitarias
La ciudad

Autoridades de la OPS visitaron la provincia y junto a Salud articularán tareas sanitarias

Avanza la construcción de edificios escolares ecológicos para jardines de infantes

Avanza la construcción de edificios escolares ecológicos para jardines de infantes

Ludueña: cómo sobrevivir en un barrio sitiado por las balaceras

Ludueña: cómo sobrevivir en un barrio sitiado por las balaceras

Vacuna Covid: expertos evalúan si habrá un solo refuerzo anual

Vacuna Covid: expertos evalúan si habrá un solo refuerzo anual

La Intendencia pedirá una excepción para habilitar una mega torre en Arroyito

Por Juan Chiummiento

Exclusivo suscriptores

La Intendencia pedirá una excepción para habilitar una mega torre en Arroyito

Miles de usuarios y usuarias marcharon en Rosario para reclamar la legalización de la marihuana
La ciudad

Miles de usuarios y usuarias marcharon en Rosario para reclamar la legalización de la marihuana

Juegos Suramericanos de la Juventud: las Leoncitas obtuvieron la medalla dorada
Ovación

Juegos Suramericanos de la Juventud: las Leoncitas obtuvieron la medalla dorada

Evalúan como exitoso el primer año de la aplicación de la ordenanza Alcohol Cero
La ciudad

Evalúan como "exitoso" el primer año de la aplicación de la ordenanza Alcohol Cero

El municipio sigue sin resolver la circulación de bicicletas por el cantero bulevar Oroño

Por Claudio González

La Ciudad

El municipio sigue sin resolver la circulación de bicicletas por el cantero bulevar Oroño

Piden la absolución de un agente del Comando Radioeléctrico condenado por matar a una pareja
Policiales

Piden la absolución de un agente del Comando Radioeléctrico condenado por matar a una pareja

Una banda que quería sembrar temor y dominar territorios por la fuerza

Por Leo Graciarena

POLICIALES

Una banda que "quería sembrar temor y dominar territorios por la fuerza"

Violencia de género: la Línea Violeta de WhatsApp, que nació en pandemia, llegó para quedarse

Por Florencia O’Keeffe

La Ciudad

Violencia de género: la Línea Violeta de WhatsApp, que nació en pandemia, llegó para quedarse

Lady Gaga lanzó el video del tema principal de la película Top Gun: Maverick

Lady Gaga lanzó el video del tema principal de la película "Top Gun: Maverick"

 Aparecieron pintadas en contra del presidente de Central Rodolfo Di Pollina
Ovación

 Aparecieron pintadas en contra del presidente de Central Rodolfo Di Pollina

Pullaro dijo que en Santa Fe el candidato de Juntos por el Cambio tiene que ser radical
Política

Pullaro dijo que en Santa Fe el candidato de Juntos por el Cambio tiene que ser radical

Lionel Messi no entrenó con el PSG por un dolor en las costillas y está en duda para jugar con Troyes
Ovación

Lionel Messi no entrenó con el PSG por un dolor en las costillas y está en duda para jugar con Troyes

Hallan muerto a un argentino acusado de asesinar a su ex esposa en Buzios
Información general

Hallan muerto a un argentino acusado de asesinar a su ex esposa en Buzios

Alfredo Casero explotó enojado con Luis Majul y abandonó el estudio a los gritos
Información general

Alfredo Casero explotó enojado con Luis Majul y abandonó el estudio a los gritos

El Estado se niega a aportar para el medicamento que puede detener la enfermedad de Nina

Por Delcia Karamoschon

La Región

El Estado se niega a aportar para el medicamento que puede detener la enfermedad de Nina

Juicio al Viejo Cantero: La jueza fue muy exhaustiva en el análisis de las pruebas presentadas
POLICIALES

Juicio al Viejo Cantero: "La jueza fue muy exhaustiva en el análisis de las pruebas presentadas"

Otra balacera contra una concesionaria de autos, esta vez en la zona sur
POLICIALES

Otra balacera contra una concesionaria de autos, esta vez en la zona sur

Hepatitis infantil: recomendaciones para prevenir la enfermedad
La Ciudad

Hepatitis infantil: recomendaciones para prevenir la enfermedad

La llegada del coordinador de las fuerzas federales generó polémica

Por Eugenia Langone

La Ciudad

La llegada del coordinador de las fuerzas federales generó polémica

Falleció Dante, el nene rosarino que tenía leucemia linfoblástica
La Ciudad

Falleció Dante, el nene rosarino que tenía leucemia linfoblástica