Un hombre Negro que fue injustamente detenido cuando la tecnología de reconocimiento facial erróneamente identificado como sospechoso de shoplifter quiere que la policía de Detroit para disculparse y para poner fin a su uso de la controvertida tecnología.
La queja por Robert Williams es un reto raro de alguien que no sólo experimentó una errónea de reconocimiento de rostro golpeado, pero fue capaz de descubrir que era responsable de sus problemas legales.
el miércoles por La queja presentada en Williams’ nombre alega que su licencia de conducir de Michigan de fotos guardados en un estado repositorio de imágenes — fue marcada incorrectamente como un posible partido a un sospechoso de hurto. Los investigadores habían digitalizado granulada de vigilancia de la cámara de material de archivo de una supuesta 2018 robo en el interior de un Shinola reloj tienda en el centro de Detroit, los registros policiales muestran.
Que condujo a lo que Williams describe como una humillante de enero de paro en frente de su esposa y sus hijas en su patio en el suburbio de Detroit Farmington Hills.
«realmente no puedo incluso poner en palabras», dijo Williams en un anuncio de vídeo que describe el día del arresto, que dejó a sus hijas llorando. «Fue una de las más sorprendentes cosas que nunca me había sucedido a mí.»
El hombre de 42 años de automoción trabajador, respaldado por la Unión Americana de Libertades Civiles, está exigiendo una disculpa pública, final despido de su caso y de la policía de Detroit para el desguace de su uso de tecnología de reconocimiento facial. Varios estudios han mostrado la cara actual de los sistemas de reconocimiento más probabilidades de errar a la hora de identificar a las personas con piel más oscura.
La ACLU denuncia, dijo la policía de Detroit «sin pensar invocado defectuoso y racista de la tecnología de reconocimiento facial, sin tomar las medidas razonables para verificar la información suministrada.» Se llamó a la resultante de la investigación «mala e incompleta,» los agentes implicados «grosera y amenazante,» y dijo que el departamento ha arrastrado sus pies responder a información pública las solicitudes de los registros pertinentes.
En una declaración escrita el miércoles, el Condado de Wayne Fiscal Kym Digno disculpó por su oficina de tomar el caso, si bien toma nota de que ella siempre ha expresado sus reservas a la policía de Detroit acerca de la cara de la tecnología de reconocimiento debido a su falta de fiabilidad, «especialmente en lo que se refiere a la gente de color.»
«Este caso no debería haber sido emitidos con base en el DPD de la investigación, y por eso le pedimos disculpas», dijo. «Afortunadamente, fue desestimado en nuestra oficina de su propio movimiento. Esto no afecta en modo de compensar las horas que el Señor Williams pasó en la cárcel».
la policía de Detroit se negó a comentar sobre la denuncia el miércoles, citando a «un litigio pendiente.» Pero el departamento dijo a NPR que desde entonces ha promulgado nuevas normas para limitar el uso de reconocimiento facial a los casos de delitos violentos y sólo con fotos, no la cámara de seguridad del material de archivo.
DataWorks Además, de Carolina del Sur de la empresa que proporciona la tecnología de reconocimiento facial para Detroit y la Policía Estatal de Michigan, no respondió a solicitudes de comentarios.
los registros de la Policía se muestra el caso se inició en octubre de 2018, cuando cinco relojes caros desapareció de la tienda insignia de Detroit fabricante de relojes de lujo Shinola. Una pérdida de prevención trabajador más tarde revisó el material de archivo de vídeo que muestra la sospecha de ser un hombre Negro que llevaba una Cardenales de San Luis gorra de béisbol.
«de Vídeo y de imágenes fijas fueron enviados a la Delincuencia de Intel para el reconocimiento facial», dice un breve informe de la policía. «El Reconocimiento Facial volvió con un golpe» — para Williams.
En la parte superior de reconocimiento facial, informe, elaborado por la Policía Estatal de Michigan, fue una advertencia en negrita, en mayúsculas las letras que el equipo del hallazgo debe ser tratada como una investigación de conducir, no como causa probable para el arresto.
Pero Detroit detectives luego mostró un 6-foto de la alineación que incluía Williams para la prevención contra pérdidas de los trabajadores, que identificó positivamente Williams, según el informe. Me tomó meses por la policía de la emisión de una orden de detención y varios más antes de que se llama Williams en el trabajo y le pedí que viniera al departamento de policía. No está claro por qué.
Williams dijo que él pensó que era una broma telefónica. Pero aparecieron poco después en su casa, se lo llevaron esposado y detenido a él durante la noche. Fue durante su interrogatorio, el día siguiente en que se hizo evidente para él que fue mal identificado por el software de reconocimiento facial.
«El funcionario encargado de la investigación parecía confundido, le dijo el Señor Williams, que el equipo dijo que era de él, pero luego reconoció que «el equipo debe haber tomado mal’,» la ACLU de la queja, dice.
más tarde los Fiscales desestimó el caso, sin perjuicio de — lo que significa que podría reclamar de nuevo. La fiscalía dijo el miércoles que un final de despido no es legalmente posible, a pesar de que Williams podría tener su caso borrados. La ACLU dijo que pone demasiada carga en Williams a gastar tiempo y dinero para el borrado de un registro de antecedentes penales «que él no debe tener en el primer lugar.»
es probable que El caso de combustible de un movimiento en Detroit y en todo el país protestando contra la brutalidad policial, la injusticia racial y la muerte de George Floyd a manos de la policía de Minneapolis. Detroit activistas han presentado reformas del alcalde de la ciudad y el jefe de la policía, que incluyen el retiro de fondos al departamento de policía y poner fin a su uso del reconocimiento facial.
los Proveedores de policía de los sistemas de reconocimiento facial a menudo apuntan a la demostración de la investigación que puede ser precisa cuando se utiliza correctamente bajo condiciones ideales. Una revisión de los líderes de la industria de los algoritmos de reconocimiento facial por el Instituto Nacional de Estándares y Tecnología se encontraron más de un 99% de precisión a la hora de coincidencia de alta calidad disparos en la cabeza a una base de datos de otros frontal plantea.
Pero tratando de identificar a una cara a partir de una fuente de vídeo — especialmente el uso de la montada en el techo de las cámaras que se encuentran comúnmente en las tiendas — puede causar tasas de exactitud para sumergirse. Los estudios también han demostrado que el reconocimiento facial de los sistemas no funcionan igualmente a través de la raza, el género y la edad de trabajar mejor en los hombres blancos y con posibles consecuencias perjudiciales para los demás.
«no fue diseñado para trabajar en los rostros de la gente Negra en esta ciudad Negra», dijo Victoria Burton-Harris, un abogado para Williams, quien es también candidato a desbancar Digno como el Condado de Wayne, el fiscal principal en una de las primarias demócratas en el mes de agosto.
Burton-Harris dijo que lo que comenzó como un error técnico podría haber tenido consecuencias nefastas para Williams tuvo el encuentro con la policía sucedido de manera diferente.
«¿Qué hubiera pasado si él no hubiera sido tan tranquilo?» ella dijo. «Cuando los oficiales de policía encuentro de los hombres Negros, especialmente los grandes hombres Negros, consiguen miedo».
las Preocupaciones sobre el sesgo y un escrutinio cada vez mayor de prácticas de la policía siguientes Floyd de la muerte de led gigantes de la tecnología de IBM, Amazon y Microsoft para anunciar a principios de este mes iban a dejar de vender cara software de reconocimiento a la policía, al menos hasta que el Congreso puede establecer directrices para su uso. Varias ciudades, liderados por San Francisco el año pasado, han prohibido el uso de reconocimiento facial por parte de las agencias municipales. El miércoles, el Consejo Municipal de Boston siguió, por unanimidad, aprobar una prohibición similar.
En Detroit, hay una propuesta para extender el contrato de software, pero el consejo de la ciudad líderes han puesto el plan en espera y le dijo a la policía de Detroit para obtener más la opinión de la comunidad. Los manifestantes en una caravana de autos de pasar las casas de los miembros del consejo la semana pasada.
—
el reportero de Ed Blanco en Detroit contribuyeron a este informe.
