Un sistema de detección de disparos de armas de fuego muy común en las ciudades Un Un sistema de detección de disparos de armas de fuego muy común en las ciudades estadounidenses está causando una polémica nacional. Hay unos 200 casos judiciales basados en acusaciones sustentadas en esta tecnología, en uso en al menos 110 ciudades de los EEUU. El sistema, llamado ShotSpotter, consta de una red de sensores y un algoritmo, que determina si hubo un disparo en un punto preciso de una ciudad. Por esto, es muy requerido por las policías locales. Pero su valor probatorio en casos de homicidio es cuestionado por abogados y juristas, y fue rechazado recientemente por un juez, que ordenó liberar a un acusado.
Michael Williams, de 65 años, fue encarcelado en agosto del año pasado, acusado de asesinar a un joven de su barrio de Chicago que le pidió que lo llevara en su auto durante una de las noches de protestas contra la brutalidad policial en mayo de 2020. Pero la evidencia clave contra Williams no provino de testigos o un informante, sino de un video de seguridad y de un fuerte sonido explosivo captado por una red de micrófonos de vigilancia. Es el sistema de detección de disparos ShotSpotter, muy extendido en las grandes ciudades de EEUU con problemas de seguridad, como es el caso de Chicago.
Los fiscales dijeron que la tecnología, que utiliza un algoritmo secreto que analizaba ruidos detectados por los sensores, demostró que Williams le disparó y mató al hombre.
"Nunca pude entender cómo podían usar tecnología como esa en mi contra'', dijo Williams, en sus primeras declaraciones públicas sobre su calvario, al salir de prisión. Williams permaneció tras las rejas durante casi un año antes de que un juez desestimara el caso el mes pasado a petición de los fiscales, quienes finalmente dijeron tener evidencia insuficiente.
La experiencia de Williams subraya los efectos de la creciente dependencia de algoritmos para ayudar a tomar decisiones policiales y penales. La policía recurre cada vez más a empresas de tecnología como la compañía de detección de disparos ShotSpotter para combatir el crimen.
Michael Williams, de 65 años, pasó casi un año en prisión antes de ser declarado inocente. La acusación se basaba exclusivamente en datos del sistema ShotSpotter.
Evidencias de ShotSpotter han sido admitidas cada vez en casos judiciales en Estados Unidos, y actualmente suman unos 200. Se usó para acusar de asesinato a Williams, pero finalmente nunca se admitió porque el caso no llegó a juicio. Pero Wiliams pasó casi un año en prisión. El sitio web de ShotSpotter dice que es "un líder en soluciones de tecnología policial de precisión'' que ayuda a detener la violencia armada mediante el uso de "sensores, algoritmos e inteligencia artificial'' para clasificar 14 millones de sonidos en su base de datos, como disparos de armas.
Sin embargo, una investigación de The Associated Press, con base en la revisión de miles de documentos internos, correos electrónicos, presentaciones y contratos confidenciales, junto con entrevistas a docenas de defensores públicos en comunidades donde se ha desplegado ShotSpotter, ha identificado una serie de fallas graves en el uso de ShotSpotter como apoyo probatorio para los fiscales.
La investigación de la AP encontró que el sistema no necesariamente detecta los disparos en vivo justo bajo sus micrófonos, o clasifica erróneamente como disparos de arma los sonidos de los fuegos artificiales o de los escapes de los autos.
Reportes elaborados por ShotSpotter han sido utilizados en los tribunales para afirmar indebidamente que un acusado disparó a agentes de la policía, o proporcionar detalles inexactos sobre el número de disparos realizados. En varios casos, los jueces han desestimado la evidencia.
El algoritmo patentado de ShotSpotter es el principal activo de la compañía, y con frecuencia promociona esta tecnología como virtualmente infalible. Pero cómo funciona exactamente el sistema de la empresa privada es algo resguardado como secreto comercial, una caja negra inescrutable para el público, los jurados y las juntas de supervisión de las policías municipales. Y también para los abogados defensores.
Sensores del sistema ShotSpotter junto a cámaras de TV de la policía de Nueva York.
El sesgo por intervención humana
Los métodos de la empresa para identificar disparos de armas no siempre son guiados únicamente por la tecnología. Los empleados de ShotSpotter pueden cambiar, y con frecuencia lo hacen, la fuente de los sonidos identificados por sus sensores después de escuchar grabaciones de audio, lo que introduce la posibilidad de sesgo humano en el algoritmo de detección de disparos. Los empleados pueden modificar la ubicación o número de tiros disparados a petición de la policía, según los registros judiciales. Y hasta hace poco los mismos policías podían realizar también algunos de estos cambios.
Algoritmos entronizados como pruebas infalibles
En medio de un debate nacional sobre el sesgo racial en la policía, los defensores de la privacidad y los derechos civiles dicen que el sistema de ShotSpotter y otras tecnologías basadas en algoritmos que son utilizadas para establecer "de todo, desde las sentencias de prisión hasta las reglas de libertad condicional", carecen de transparencia y supervisión, y muestran por qué el sistema de justicia penal no debería delegar algunas de las decisiones más importantes de la sociedad a códigos informáticos.
Cuando se le cuestionó sobre los errores potenciales del algoritmo, Ralph Clark, director ejecutivo de ShotSpotter, declinó discutir los detalles específicos sobre el uso de inteligencia artificial (IA), y dijo que "no es realmente relevante''. "El punto es que cualquier cosa que finalmente se produzca como un disparo de arma tiene que tener ojos y oídos encima'', dijo Clark en una entrevista. "Ojos y oídos humanos".
Tecnología usada en casi todo el país
La tecnología ha sido instalada en alrededor de 110 ciudades de los Estados Unidos, grandes y pequeñas. Es colocado a petición de funcionarios locales en los barrios considerados de más alto riesgo, con frecuencia en comunidades con más población negra y latina. Los funcionarios encargados de la aplicación de la ley dicen que ayuda a que sus efectivos lleguen más rápido a las escenas del crimen, y a desplegar mejor sus recursos. Claro que pasar de esta utilidad práctica inmediata a ser usado como prueba en un juicio por homicidio hay muchísima distancia. Es el mensaje que dio el juez que desestimó el caso contra Williams y lo dejó libre.
"ShotSpotter se ha convertido en uno de los engranajes más importantes en nuestra maquinaria para enfrentar la violencia armada'', dijo George Kral, jefe de la Policía de Toledo, Ohio, durante una conferencia internacional de policías en Chicago.
La policía y los forenses trabajan en la escena de un tiroteo en Chicago, una de las ciudades más violentas de los EEUU y donde ocurrió el caso que cuestionó el sistema ShotSpotter.
Los investigadores que analizaron los efectos de ShotSpotter en las comunidades donde es utilizado llegaron a una conclusión diferente. Un estudio publicado en abril en la Revista de Salud Urbana (Journal of Urban Health) examinó ShotSpotter en 68 condados grandes y metropolitanos de 1999 a 2016, la revisión más grande hasta ahora. Encontraron que la tecnología no reducía la violencia armada ni incrementaba la seguridad de la comunidad.
"La evidencia que hemos producido sugiere que la tecnología no reduce la violencia armada en el largo plazo, y no conduce a un aumento de arrestos relacionados con asesinatos o armas'', dijo Mitch Doucette, el autor principal del estudio.
ShotSpotter instala sus sensores acústicos en edificios y postes telefónicos y de luminarias. Empleados en salas de acceso restringido estudian cientos de miles de alertas de disparos en múltiples pantallas de computadora en la oficina central de la empresa, a 56 km al sur de San Francisco, o en una oficina en Washington D. C.
No es equiparable al examen de ADN ni a una pericia balística
Las herramientas forenses como el ADN y las pruebas de balística utilizadas por los fiscales tienen metodologías que han sido examinadas con minucioso detalle durante décadas, pero ShotSpotter afirma que su programa de cómputo es de propiedad confidencial, por lo que no hace público su algoritmo. La política de privacidad de la empresa dice que las ubicaciones de los sensores no son divulgadas a los departamentos de policía, aunque miembros de la comunidad pueden verlos en los postes de luminarias. La empresa ha protegido los datos y registros que revelan el funcionamiento interno del sistema, lo que deja a los abogados defensores sin manera de cuestionar la tecnología que es la base de la acusación de sus clientes. "Tenemos el derecho constitucional de confrontar a todos los testigos y la evidencia en nuestra contra, pero en este caso, el sistema ShotSpotter es el acusador y no hay manera de determinar si es preciso, monitoreado, calibrado o si alguien manipuló algo'', lamentó Katie Higgins, abogada defensora que ha luchado con éxito contra la evidencia de ShotSpotter. "La consecuencia más seria es ser condenado por un delito que usted no cometió utilizando esto como evidencia''.
La empresa emergente de Silicon Valley fue lanzada hace 25 años con el respaldo del inversor de riesgo Gary Lauder. El multimillonario sigue siendo el principal inversionista de la empresa.
