gigante de la Tecnología IBM es dejar de ofrecer el software de reconocimiento facial para la «misa de la vigilancia o de perfil racial».
El anuncio llega como la que NOS enfrenta a las llamadas para la reforma de la policía a raíz de la muerte de un hombre negro, George Floyd.
En una carta al Congreso de los EE.UU., IBM dijo AI sistemas utilizados en la aplicación de la ley necesita pruebas «sesgo».
Un activista dijo que era un «cínico» pasar de una firma que ha sido instrumental en la creación de tecnología para la policía.
En su carta al Congreso, de IBM director ejecutivo Arvind Krishna dijo que «la lucha contra el racismo es más urgente que nunca», que establece tres áreas en las que la empresa quería trabajar con el Congreso: la reforma de la policía, el uso responsable de la tecnología, y la ampliación de capacidades y oportunidades educativas.
«IBM se opone firmemente a y no aprueba el uso de cualquier tecnología, incluida la tecnología de reconocimiento facial ofrecidos por otros proveedores, para la masa de la vigilancia, la discriminación racial, violaciones de derechos humanos y libertades fundamentales,» él escribió.
«creemos que ahora es el momento para comenzar un diálogo nacional sobre si y cómo la tecnología de reconocimiento facial debe ser empleado por la aplicación de la ley interna de las agencias».
en Lugar de confiar en que potencialmente sesgada de reconocimiento facial, la empresa instó al Congreso para usar la tecnología que traería «una mayor transparencia», tales como el cuerpo de las cámaras oficiales de la policía y el análisis de los datos.
el análisis de los Datos es más integral para negocios de IBM de reconocimiento facial de productos. También ha trabajado para desarrollar la tecnología para la predicción de policía, que también ha criticado por potencial de sesgo.
‘no se deje engañar’
Privacidad Internacional del Eva Blum-Dumontet dijo que la empresa había acuñado el término «smart city».
«en Todo el mundo, se impulsó un modelo o urbanización que se basó en CCTV cámaras y sensores procesados por las fuerzas de policía, gracias a la inteligencia policial plataformas IBM fue la venta de ellos», dijo.
«Esta es la razón por la que es muy cínico para IBM hasta ahora y dicen que quieren un diálogo nacional sobre el uso de la tecnología en la policía.»
agregó: «IBM está tratando de redimirse, porque ellos han sido fundamentales en el desarrollo de las capacidades técnicas de la policía a través del desarrollo de los llamados inteligentes técnicas de control. Pero no se deje engañar por su último movimiento.
«en Primer lugar, su anuncio fue ambigua. Hablan sobre el fin de propósito general’ de reconocimiento facial, que me hace pensar que no va a ser el final de reconocimiento facial para IBM, que acaba de ser personalizados en el futuro.»
La Algorítmica de la Liga de la Justicia fue uno de los primeros grupos de activistas para indicar que no se racial de los sesgos en los datos de reconocimiento facial conjuntos.
Un 2019 estudio realizado por el Instituto de Tecnología de Massachusetts encontró que ninguno de los de reconocimiento facial de las herramientas de Microsoft, Amazon e IBM fueron del 100% exacto cuando llegó a reconocer que los hombres y las mujeres con piel oscura.
Y un estudio del Instituto Nacional de Estándares y Tecnología sugirió que los algoritmos de reconocimiento facial eran mucho menos precisos en la identificación de los Afro-Americanos y Asiáticos caras en comparación con Caucásicas.
Amazon, cuyo Rekognition software es utilizado por los departamentos de policía en los estados unidos, es uno de los más grandes jugadores en el campo, pero también hay una serie de pequeños jugadores como Facewatch, que opera en el reino unido. Clearview AI, que ha dicho que se deje de usar imágenes de Facebook, Twitter y YouTube, también vende su software para que NOS de las fuerzas de policía.
María Axente, AI experto en ética en la empresa de consultoría de PwC, dijo que el reconocimiento facial ha demostrado «éticos importantes riesgos, principalmente en la mejora de la existente, los prejuicios y la discriminación».
agregó: «a fin De generar confianza y de resolver problemas importantes en la sociedad, el propósito tanto como beneficio debe ser una medida clave de rendimiento».
