Reconocimiento facial en vía pública: sesgos y prohibiciones en otras ciudades del mundo

Se usa desde el año pasado en la Ciudad de Buenos Aires y quedó legalmente reglamentado hace unas semanas. Distintas organizaciones plantean que hay que prohibir su uso en el espacio público y que hay problemas de falsos positivos.
11 de noviembre 2020 · 03:00hs

La Ciudad Autónoma de Buenos Aires (Caba) se convirtió en el primer distrito del país en regular el uso de la tecnología de reconocimiento facial en la vía pública con el argumento de detectar y detener prófugos de la justicia. Así como su uso se implementa en otras ciudades del mundo, como Londres o extensivamente en China, el sistema también está prohibido en varios puntos de Estados Unidos, como San Francisco, Boston o Portland. En Caba hubo casos de falsos positivos (algunos graves) y este procedimiento es objetado por todas las asociaciones y organizaciones referentes en la temática ya que los algoritmos no son neutros ni perfectos y sus modelos se entrenan en base a ciertos criterios y sesgos. En diversos países, tanto personas de color como mujeres son, en su mayoría, víctimas de falsos positivos.

“(La Ciudad de) Buenos Aires adoptó la incorporación de software de reconocimiento facial para las cámaras de vigilancia del espacio público. Generó una serie de problemas porque hubo gente detenida de manera irregular”, explica a La Capital la presidenta de Fundación Vía Libre, Beatriz Busaniche.

Cámaras de vigilancia y radares fijos en la esquina de Francia y Caseros, en la entrada del túnel Celedonio Escalada.

Rosario usará el reconocimiento facial en las cámaras de seguridad para identificar delincuentes

Mario Feldman es biotecnólogo y su video fue sensación en las redes

La historia del biotecnólogo rosarino que vive en Estados Unidos y se hizo viral por un flan

Detalla también que al reconocimiento facial “se agrega, también, un sistema basado en inteligencia artificial que lo llaman predictivo, para situaciones anómalas, y un sistema para apoyo a la tarea forense”.

Tanto la Fundación Vía Libre como otras organizaciones (Access Now, Amnistía Internacional, Asociación por los Derechos Civiles, Centro de Estudios Legales y Sociales, DATAS y el Observatorio de Derecho Informático Argentino) se mostraron en contra de la reglamentación del reconocimiento facial por varios aspectos: falsos positivos, la prohibición que se dio en otros países y el alerta que emitieron desde la Organización de las Naciones Unidas (ONU) tras la visita de un relator especial al país.

Falsos positivos y el estado de vigilancia continuo

Entre los principales problemas que se encuentran para el método de reconocimiento facial, Busaniche resalta el hecho de que el sistema no es perfecto, por lo que hay probabilidades de que identifique erróneamente a personas que no sean prófugas ni estén en conflicto con la ley; mientras que sobre el sistema predictivo remarca que puede identificar a personas que no estén cometiendo ningún acto ilícito.

En la Ciudad de Buenos Aires hubo casos al respecto, con distintos tenores. Como ejemplos, así como demoraron a una persona en la estación Callao de la línea B del subte y que perdió varias horas por un error en la carga manual de datos ya que su número de documento se confundió con el de un prófugo), otro hecho conocido fue el de Guillermo Ibarrola: una alerta emitida en una de las cámaras de la terminal de ómnibus de Retiro hizo que lo detuvieran y lo trasladaran a Bahía Blanca casi una semana. Estuvo a punto de ser llevado a un penal por un robo que no cometió.

Embed

Busaniche cuenta: “(Ibarrola) fue detenido y enviado a Bahía Blanca, donde supuestamente se lo estaba buscando, y fue abandonado durante una semana siendo un falso positivo del sistema de reconocimiento facial de la Ciudad de Buenos Aires. Fue detenido arbitrariamente y sometido a lo peor de este tipo de sistemas”.

En San Francisco, Estados Unidos, el sistema de reconocimiento facial está prohibido tanto para utilizarlo como para adquirirlo a futuro. A esa ciudad se sumaron Boston, Portland y San Diego, entre otras.

En enero comenzó a implementarse en Londres, a pesar de que estudios preliminares indicaron un alto porcentaje de falsos positivos en pruebas realizadas por la Policía Metropolitana de esa ciudad (arriba del 80 por ciento de los casos, según indicó el Daily Mail).

”En algunos distritos en Inglaterra se suspendió, por orden judicial, el uso del sistema”, aporta la presidenta de Fundación Vía Libre, para agregar que “en algunos casos, hay un sesgo marcado por parte de los algoritmos de reconocimiento facial. Fallan mucho más con las personas de tez más oscura. Por eso, el problema de este sistema es, también, de clase”.

El tema de los sesgos es otro de los pilares sobre los que se apoya la negativa a este tipo de sistemas alrededor del mundo. Acá entra la opción predictiva que se menciona en la reglamentación en Caba: la identificación de potenciales delitos en base a algoritmos preestablecidos.

“Se implementa un sistema automatizado, basado en el entrenamiento de algoritmos para identificar y levantar alertas sobre situaciones anómalas en la esfera pública. El algoritmo decide qué conductas son anómalas. Eso es una forma muy invasiva de intervención en el espacio público”, remarca la especialista.

Entrenamiento y sesgos

Los sistemas de reconocimiento facial cuentan con información de antemano para identificar patrones en los campos que analiza y determinar si son compatibles con los parámetros que ya tiene aprendidos.

La red aprende a identificar, aunque lo relevante es que pueda relacionar un dato nuevo (una cara, en este caso) que le ingresa al sistema a través de la cámara de vigilancia. En el reconocimiento facial se implementa un algoritmo para tomar ciertas proporciones de los rostros.

Algo a destacar también es el saneamiento de los datos. Es necesario que los conjuntos de datos (en este caso, de prófugos) estén actualizados para no caer, por ejemplo, en demorar a personas que ya tengan su proceso judicial resuelto.

Por su parte, Busaniche destaca que, el año pasado, un relator especial de la Organización de las Naciones Unidas (ONU) sobre el derecho a la privacidad llegó a Buenos Aires para evaluar la implementación del sistema. En su análisis, el enviado de la ONU Joseph Cannataci consideró que el método no podía implementarse sin haberse hecho evaluaciones de impacto en los derechos humanos de los ciudadanos.

En el informe preliminar para la ONU, Cannataci dijo: “El sistema está conectado a la Conarc (Consulta Nacional de Rebeldías y Capturas), la base de datos pública de personas buscadas por la justicia, compuesta por 46.000 archivos. Soy consciente de la necesidad de detener a las personas sospechosas de haber cometido delitos y llevarlas ante la justicia, pero no veo la proporcionalidad de instalar una tecnología con graves implicaciones para la privacidad para buscar en una lista de 46.000 personas que actualmente incluye a menores y delitos no graves y que no se actualice y compruebe cuidadosamente su exactitud”.

Los gigantes tecnólogicos que dan un paso al costado

En junio, en el marco de una ola de protestas en contra de la discriminación racial luego del asesinato de George Floyd y en el inicio del ‘Black Lives Matter’, IBM y Amazon decidieron dejar de trabajar en el reconocimiento facial para la vigilancia masiva.

“No vamos a tolerar el uso de ninguna tecnología para la vigilancia masiva, el perfil racial, las violaciones de los derechos humanos y las libertades básicas”, indicó, por entonces, el CEO de IBM, Arvid Krishna, en una carta enviada al congreso estadounidense.

Amazon, por su parte, puso en stand by por un año la utilización de su herramienta “Reckognition” al servicio de distintos departamentos de policía de Estados Unidos. “Esperamos que esta moratoria dé tiempo al Congreso para aprobar las reglas necesarias”, dijeron desde la empresa luego de tomar la decisión.

A ellos se sumó Microsoft, dando de baja el acceso a sus herramientas de reconocimiento facial hasta que no haya un debate de fondo para una posterior regulación por parte del gobierno estadounidense.

Sobre ello, Busaniche dice: “Cuando tenés a estas empresas que dicen públicamente que, por cuestiones éticas, van a dejar de venderle estas tecnologías a los gobiernos para la vigilancia en la esfera pública, es porque la proporcionalidad del impacto es demasiado grande y, más temprano que tarde, esto le va a traer problemas”.

“Nosotros pensamos que al reconocimiento facial hay que prohibirlo. Este tipo de sistemas no deben ser implementados. Sobre todo, sin haber hecho un análisis claro del impacto. La inseguridad es una preocupación para la sociedad, pero este sistema no trae más seguridad. Si no, pregúntenle a la persona que estuvo encerrada una semana, olvidada y víctima, erróneamente, de un sistema que funciona mal”, concluye Busaniche.

Ver comentarios

Las más leídas

Pullaro sobre la fuga en la comisaría 5ª: La policía no está preparada para cuidar presos

Pullaro sobre la fuga en la comisaría 5ª: "La policía no está preparada para cuidar presos"

Central: el sueño de Gaspar Duarte, la figura en el triunfo de la reserva

Central: el sueño de Gaspar Duarte, la figura en el triunfo de la reserva

Central: sigue la pulseada con Peñarol por el viaje de canallas a Montevideo

Central: sigue la pulseada con Peñarol por el viaje de canallas a Montevideo

Newells volvió a tener un funcionamiento flojo y el empuje no le sirvió

Newell's volvió a tener un funcionamiento flojo y el empuje no le sirvió

Lo último

Newells venció 3 a 0 en 9ª a Central y le sacó un clásico de ventaja a falta de dos partidos

Newell's venció 3 a 0 en 9ª a Central y le sacó un clásico de ventaja a falta de dos partidos

Ley Bases: el oficialismo postergó una semana más el dictamen en el Senado

Ley Bases: el oficialismo postergó una semana más el dictamen en el Senado

La historia del biotecnólogo rosarino que vive en Estados Unidos y se hizo viral por un flan

La historia del biotecnólogo rosarino que vive en Estados Unidos y se hizo viral por un flan

Los trabajadores municipales acataron la conciliación obligatoria y levantan el paro

El gremio que nuclea a los empleados de la planta municipal había lanzado un paro de 48 horas durante este miércoles y jueves

Los trabajadores municipales acataron la conciliación obligatoria y levantan el paro
Recesión sin freno: la actividad económica cayó el 8,4% en marzo
Economía

Recesión sin freno: la actividad económica cayó el 8,4% en marzo

Un hombre en situación de calle murió en un banco de la plaza San Martín

Por Nachi Saieg

La Ciudad

Un hombre en situación de calle murió en un banco de la plaza San Martín

Femicidio frente al Portal: imputaron de encubrimiento al vecino que encontró el cuerpo
POLICIALES

Femicidio frente al Portal: imputaron de encubrimiento al vecino que encontró el cuerpo

Cuánto costaría el boleto en Rosario si los fondos no se enviaran a la Nación

Por Matías Petisce

La Ciudad

Cuánto costaría el boleto en Rosario si los fondos no se enviaran a la Nación

ATE y UPCN aceptaron la oferta salarial del  gobierno provincial
LA CIUDAD

ATE y UPCN aceptaron la oferta salarial del  gobierno provincial

Dejanos tu comentario
Las más leídas
Pullaro sobre la fuga en la comisaría 5ª: La policía no está preparada para cuidar presos

Pullaro sobre la fuga en la comisaría 5ª: "La policía no está preparada para cuidar presos"

Central: el sueño de Gaspar Duarte, la figura en el triunfo de la reserva

Central: el sueño de Gaspar Duarte, la figura en el triunfo de la reserva

Central: sigue la pulseada con Peñarol por el viaje de canallas a Montevideo

Central: sigue la pulseada con Peñarol por el viaje de canallas a Montevideo

Newells volvió a tener un funcionamiento flojo y el empuje no le sirvió

Newell's volvió a tener un funcionamiento flojo y el empuje no le sirvió

Quiénes tocarán en la banda que acompañará a Javier Milei en el Luna Park

Quiénes tocarán en la banda que acompañará a Javier Milei en el Luna Park

Ovación
Newells: la reserva empató y está a un paso de la clasificación a los octavos de final

Por Carlos Durhand

Ovación

Newell's: la reserva empató y está a un paso de la clasificación a los octavos de final

Newells: la reserva empató y está a un paso de la clasificación a los octavos de final

Newell's: la reserva empató y está a un paso de la clasificación a los octavos de final

Russo piensa en Riestra mirando de reojo a Peñarol

Russo piensa en Riestra mirando de reojo a Peñarol

Grandes figuras del deporte tendrán su propia Barbie

Grandes figuras del deporte tendrán su propia Barbie

Policiales
Femicidio frente al Portal: imputaron de encubrimiento al vecino que encontró el cuerpo
POLICIALES

Femicidio frente al Portal: imputaron de encubrimiento al vecino que encontró el cuerpo

La Corte Suprema dejó firme las condenas en la causa Narcoarroz

La Corte Suprema dejó firme las condenas en la causa "Narcoarroz"

¿Te robaron el celular? Fiscalía convoca a damnificados a reconocer objetos robados

¿Te robaron el celular? Fiscalía convoca a damnificados a reconocer objetos robados

Detectaron a un intruso arriba un colectivo en el galpón de la empresa Movi

Detectaron a un intruso arriba un colectivo en el galpón de la empresa Movi

La Ciudad
La historia del biotecnólogo rosarino que vive en Estados Unidos y se hizo viral por un flan

Por Gala Décima Kozameh

La Ciudad

La historia del biotecnólogo rosarino que vive en Estados Unidos y se hizo viral por un flan

Un hombre en situación de calle murió en un banco de la plaza San Martín

Un hombre en situación de calle murió en un banco de la plaza San Martín

Los trabajadores municipales acataron la conciliación obligatoria y levantan el paro

Los trabajadores municipales acataron la conciliación obligatoria y levantan el paro

Cuánto costaría el boleto en Rosario si los fondos no se enviaran a la Nación

Cuánto costaría el boleto en Rosario si los fondos no se enviaran a la Nación

Roldán: dos pitbull sueltos mataron a tres perros en Tierra de Sueños 3

Por Miguel Pisano

Funes y Roldán

Roldán: dos pitbull sueltos mataron a tres perros en Tierra de Sueños 3

 Milei en el Luna Park: a qué hora canta y cómo se pueden conseguir entradas
Política

 Milei en el Luna Park: a qué hora canta y cómo se pueden conseguir entradas

Vamos a salir del cepo cuando estemos seguros de que no habrá sobresaltos
Economía

"Vamos a salir del cepo cuando estemos seguros de que no habrá sobresaltos"

Milei volvió a cargar contra el gobierno de España: Ya lo tengo match point a Pedrito
Política

Milei volvió a cargar contra el gobierno de España: "Ya lo tengo match point a Pedrito"

La Intendencia reaccionó contra el paro municipal: Es una medida extrema
La Ciudad

La Intendencia reaccionó contra el paro municipal: "Es una medida extrema"

General Motors vuelve a suspender la producción en la planta de Alvear
Economía

General Motors vuelve a suspender la producción en la planta de Alvear

Robo de metales: en lo que va de 2024 clausuraron 20 chatarrerías y hubo14 detenidos
La Ciudad

Robo de metales: en lo que va de 2024 clausuraron 20 chatarrerías y hubo14 detenidos

Bolsa de agua caliente para combatir el frío: lo que hay que saber sobre su vida útil
Información General

Bolsa de agua caliente para combatir el frío: lo que hay que saber sobre su vida útil

Misiones: hasta la banda de música de la Policía se sumó a la protesta
Información General

Misiones: hasta la banda de música de la Policía se sumó a la protesta

El dólar blue volvió a subir, superó los $1.200 y se acercó al récord
Economía

El dólar blue volvió a subir, superó los $1.200 y se acercó al récord

Se profundizó la corrida alcista de las cotizaciones paralelas del dólar
Economía

Se profundizó la corrida alcista de las cotizaciones paralelas del dólar

Un pasajero de 73 años murió en un vuelo que sufrió turbulencia severa
Información General

Un pasajero de 73 años murió en un vuelo que sufrió turbulencia severa

Un profesor le tiró un borrador a sus alumnos y le abrieron un sumario
La Ciudad

Un profesor le tiró un borrador a sus alumnos y le abrieron un sumario

La provincia valora una baja en torno a la mitad en hechos con armas de fuego
POLICIALES

La provincia valora una baja en torno a la mitad en hechos con armas de fuego

Se derrumbó la actividad del sector textil en la provincia de Santa Fe: cayó 18,6%
Economía

Se derrumbó la actividad del sector textil en la provincia de Santa Fe: cayó 18,6%

Acuerdo en el PRO: victoria de Scaglia, halcones en pie y alivio para Pullaro y Unidos

Por Mariano D'Arrigo

Politica

Acuerdo en el PRO: victoria de Scaglia, halcones en pie y alivio para Pullaro y Unidos

Universidades del interior: el gobierno asegura que llegó a un acuerdo con los rectores
Política

Universidades del interior: el gobierno asegura que llegó a un acuerdo con los rectores

Milei dará un show musical en la presentación de su libro en el Luna Park
Política

Milei dará un "show musical" en la presentación de su libro en el Luna Park

Empleados municipales lanzaron un paro hasta este jueves a la medianoche
La Ciudad

Empleados municipales lanzaron un paro hasta este jueves a la medianoche

Un hombre murió y tres de sus familiares se intoxicaron por monóxido de carbono
LA CIUDAD

Un hombre murió y tres de sus familiares se intoxicaron por monóxido de carbono