En enero de 2020, Robert Williams pasó 30 horas en una cárcel de Detroit porque la tecnología de reconocimiento facial sugirió que era un delincuente. La coincidencia era errónea y Williams presentó una demanda.
El viernes, como parte de un acuerdo legal por su arresto injusto, Williams obtuvo el compromiso del Departamento de Policía de Detroit de hacerlo mejor. La ciudad adoptó nuevas reglas para el uso policial de la tecnología de reconocimiento facial que, según la Unión Estadounidense de Libertades Civiles, que representó a Williams, debería ser el nuevo estándar nacional.
“Esperamos que esto haga avanzar la situación en la dirección correcta”, dijo Williams.
El Sr. Williams fue la primera persona que se sabe que fue arrestada injustamente por un reconocimiento facial defectuoso. Pero él no fue el último. La policía de Detroit arrestó al menos a otras dos personas como resultado de búsquedas de reconocimiento facial que salieron mal, incluida una mujer que fue acusada de robo de auto cuando estaba embarazada de ocho meses.
Las fuerzas del orden de todo el país utilizan tecnología de reconocimiento facial para intentar identificar a los delincuentes cuyas fechorías son captadas por una cámara. En Michigan, el software compara un rostro desconocido con los que aparecen en una base de datos de fotografías policiales o de carnets de conducir. En otras jurisdicciones, la policía utiliza herramientas, como Clearview AI, que buscan en fotos extraídas de sitios de redes sociales y de Internet.
Una de las nuevas reglas más importantes adoptadas en Detroit es que las imágenes de personas identificadas mediante tecnología de reconocimiento facial ya no se pueden mostrar a un testigo ocular en una serie de fotografías a menos que haya otra evidencia que los vincule con el crimen.
“El proceso de ‘tomar una fotografía, colocarla en una alineación’ terminará”, dijo Phil Mayor, abogado de la ACLU de Michigan. “Este acuerdo hace que el Departamento de Policía de Detroit pase de ser el usuario indebido mejor documentado de la tecnología de reconocimiento facial a convertirse en un líder nacional en tener barreras de seguridad en su uso”.
La policía dice que la tecnología de reconocimiento facial es una herramienta poderosa para ayudar a resolver delitos, pero algunas ciudades y estados, incluido San Francisco; Austin, Texas; y Portland, Oregon, han prohibido temporalmente su uso debido a preocupaciones sobre la privacidad y los prejuicios raciales. Stephen Lamoreaux, jefe de informática de la unidad de inteligencia criminal de Detroit, dijo que el Departamento de Policía estaba “muy interesado en utilizar la tecnología de manera significativa para la seguridad pública”. Detroit, afirmó, tiene “la política más fuerte del país ahora”.
Cómo sale mal
El Sr. Williams fue arrestado después de un crimen ocurrido en 2018. Un hombre robó cinco relojes de una boutique en el centro de Detroit, mientras era grabado por una cámara de vigilancia. Una empresa de prevención de pérdidas proporcionó las imágenes al Departamento de Policía de Detroit.
Una búsqueda del rostro del hombre en comparación con fotografías de la licencia de conducir y fotografías policiales produjo 243 fotografías, clasificadas en orden de confianza del sistema de que era la misma persona en el video de vigilancia, según documentos revelados como parte de la demanda del Sr. Williams. Una antigua fotografía de la licencia de conducir del Sr. Williams ocupaba el noveno lugar en la lista. La persona que realizó la búsqueda lo consideró la mejor opción y envió un informe a un detective de la policía de Detroit.
El detective incluyó la fotografía de Williams en una “six-pack photo line up” (fotos de seis personas en una cuadrícula) que le mostró al contratista de seguridad que había proporcionado el video de vigilancia de la tienda. Ella estuvo de acuerdo en que Williams era el que más se parecía al hombre de la boutique, y esto condujo a la orden de arresto en su contra. Williams, que estaba en su escritorio en una empresa de suministros para automóviles cuando le robaron los relojes, pasó la noche en la cárcel y le tomaron las huellas dactilares y el ADN. Fue acusado de fraude minorista y tuvo que contratar a un abogado para defenderse. Los fiscales finalmente desestimaron el caso.
En 2021 demandó a Detroit con la esperanza de forzar la prohibición de la tecnología para que otros no sufrieran su suerte. Dijo que el año pasado se sintió molesto cuando se enteró de que la policía de Detroit había acusado a Porcha Woodruff de robo de auto y robo después de una mala coincidencia de reconocimiento facial. La policía arrestó a la Sra. Woodruff mientras preparaba a sus hijos para la escuela. También demandó a la ciudad; la demanda está en curso.
“Es muy peligroso”, dijo Williams, refiriéndose a la tecnología de reconocimiento facial. “No veo ningún beneficio positivo en ello”.
Las nuevas reglas
La policía de Detroit es responsable de tres de los siete casos conocidos en los que el reconocimiento facial ha dado lugar a un arresto injusto. (Los otros estaban en Luisiana, Nueva Jersey, Maryland y Texas). Pero los funcionarios de Detroit dijeron que los nuevos controles evitarían más abusos. Y siguen siendo optimistas sobre el potencial de la tecnología para resolver delitos, que ahora utilizan sólo en casos de delitos graves, incluidos asaltos, asesinatos e allanamientos de viviendas.
James White, jefe de policía de Detroit, ha culpado a un “error humano” de los arrestos injustos. Sus oficiales, dijo, dependían demasiado de las pistas que producía la tecnología. Fue su juicio el que falló, no el de la máquina.
Se supone que la nueva política, que entrará en vigor a partir de este mes, ayudará con eso. Según las nuevas reglas, la policía ya no puede mostrar el rostro de una persona a un testigo basándose únicamente en una coincidencia de reconocimiento facial.
“Tiene que haber algún tipo de evidencia corroborante secundaria que no esté relacionada antes de que haya suficiente justificación para ir a la rueda de reconocimiento”, dijo. El señor Lamoreaux, de la unidad de inteligencia criminal de Detroit, dijo que la policía necesitaría información sobre la ubicación del teléfono de una persona, por ejemplo, o pruebas de ADN, algo más que un parecido físico.
El departamento también está cambiando la forma en que realiza la selección de fotografías. Se trata de adoptar lo que se llama secuencial doble ciego, que se considera una forma más justa de identificar a alguien. En lugar de presentarle un “six-pack” a un testigo, un oficial (uno que no sabe quién es el principal sospechoso) presenta las fotos una por una. Y la alineación incluye una foto de la persona diferente a la que apareció el sistema de reconocimiento facial.
La policía también tendrá que revelar que se realizó una búsqueda facial, así como la calidad de la imagen del rostro que se está buscando (¿Qué tan granulada era la cámara de vigilancia? ¿Qué tan visible es el rostro del sospechoso?), porque una imagen de mala calidad tiene menos probabilidades de producir resultados confiables. También tendrán que revelar la edad de la foto obtenida por el sistema automatizado y si había otras fotos de la persona en la base de datos que no coincidían.
Franklin Hayes, subjefe de policía de Detroit, dijo que confiaba en que las nuevas prácticas evitarían futuras identificaciones erróneas.
“Todavía hay algunas cosas que pueden pasar desapercibidas, por ejemplo, los gemelos idénticos”, dijo Hayes. “Nunca podemos decir nunca, pero creemos que esta es nuestra mejor política hasta el momento”.
Arun Ross, profesor de informática en la Universidad Estatal de Michigan y experto en tecnología de reconocimiento facial, dijo que la política de Detroit era un gran punto de partida y que otras agencias deberían adoptarla.
“No queremos pisotear los derechos y la privacidad de las personas, pero tampoco queremos que la delincuencia se propague”, dijo Ross.
¿Cuánto ayuda?
La identificación de testigos oculares es una tarea complicada, y la policía ha adoptado cámaras y reconocimiento facial como herramientas más confiables que la memoria humana imperfecta.
El jefe White dijo a los legisladores locales el año pasado que la tecnología de reconocimiento facial había ayudado a “sacar a 16 asesinos de la calle”. Cuando se les pidió más información, los funcionarios del Departamento de Policía no brindaron detalles sobre esos casos.
En lugar de eso, para demostrar los éxitos del departamento con la tecnología, los agentes de policía reprodujeron un vídeo de vigilancia en el que se ve a un hombre que roció combustible dentro de una gasolinera y le prendió fuego. Dijeron que lo habían identificado con tecnología de reconocimiento facial y lo habían arrestado esa noche. Más tarde se declaró culpable.
El Departamento de Policía de Detroit es uno de los pocos que lleva un registro de sus búsquedas de reconocimiento facial y envía informes semanales sobre su uso a una junta de supervisión. En los últimos años, ha realizado un promedio de más de 100 búsquedas al año, y aproximadamente la mitad de esas búsquedas revelaron posibles coincidencias.
El departamento sólo lleva un registro de la frecuencia con la que obtiene una pista, no de si la pista tiene éxito. Pero como parte de su acuerdo con Williams, que también recibió 300.000 dólares, según un portavoz de la policía, tiene que realizar una auditoría de sus búsquedas de reconocimiento facial que se remontan a cuando comenzó a utilizar la tecnología en 2017. Si identifica otros En los casos en los que las personas fueron arrestadas con poca o ninguna otra evidencia de respaldo más allá de una coincidencia facial, se supone que el departamento debe alertar al fiscal correspondiente.
Molly Kleinman, directora de un centro de investigación tecnológica de la Universidad de Michigan, dijo que las nuevas protecciones sonaban prometedoras, pero seguía escéptica.
“Detroit es una ciudad extraordinariamente vigilada. Hay cámaras por todas partes”, afirmó. “Si toda esta tecnología de vigilancia realmente hiciera lo que promete, Detroit sería una de las ciudades más seguras del país”.
Willie Burton, miembro de la Junta de Comisionados de Policía, un grupo de supervisión que aprobó las nuevas políticas, las describió como “un paso en la dirección correcta”, aunque todavía se oponía al uso de tecnología de reconocimiento facial por parte de la policía.
“La tecnología todavía no está lista”, dijo Burton. “Un arresto falso ya es demasiado, y el hecho de que haya tres en Detroit debería hacer sonar la alarma para que se descontinúe”.
