El ministerio de interior ha acordado dejar de utilizar un algoritmo de computadora para ayudar a decidir sobre las solicitudes de visa después de las denuncias que contenía «arraigado racismo».
El Consejo Conjunto para el Bienestar de los Inmigrantes (JCWI) y el grupo de derechos digitales Dedalera lanzó un desafío legal contra el sistema.
Dedalera caracteriza como «speedy boarding para la gente blanca».
La Oficina en Casa, sin embargo, dijo que no aceptaba que la descripción.
«Hemos estado revisando la forma la solicitud de visado de streaming herramienta opera y será el rediseño de nuestros procesos para hacerlos aún más ágil y seguro,» dijo en una declaración.
La polémica centrada en más de una nacionalidad del solicitante está siendo utilizado como una parte del sistema automático.
el Uso de la controvertida algoritmo será suspendido el viernes 7 de agosto, con un rediseñado sistema de espera en el otoño.
Dedalera dijo que el sistema «se ha utilizado durante años para que el proceso de solicitud de visa para el reino unido».
¿Qué hizo el algoritmo de hacer?
La Oficina en Casa caracteriza el algoritmo como una «racionalización» del sistema.
El sistema tomó algo de la información proporcionada por los solicitantes de la visa y se procesan automáticamente, dando a cada persona un código de colores basado en un «semáforo» del sistema – verde, ámbar o rojo.
Una métrica utilizada fue de la nacionalidad y de la Dedalera alega que el ministerio del interior mantiene una «lista secreta de sospechosos nacionalidades», que será automáticamente dado un rojo de la clasificación.
Aquellas personas que eran susceptibles de ser negado una visa, señaló el grupo.
Cara de escaneo ‘penal predictor’ chispas sesgo de la fila de los Algoritmos de cara escrutinio sobre los posibles sesgos Sexistas y sesgada? Cómo de crédito a las empresas tomar decisiones
«La visa algoritmo discriminado sobre la base de la nacionalidad por el diseño», agregó JCWI.
la Gente del rojo con la bandera de los países, dijo, «recibió intensivo de escrutinio por parte de la Oficina de la Casa de los funcionarios, fueron abordados con más escepticismo, tomó más tiempo a determinar, y eran mucho más propensos a ser rechazado».
El grupo afirmó este proceso asciende a la discriminación racial, poniendo en violación de la Ley de Igualdad.
hubo otro factor en juego, que el JCWI y Dedalera llamado «circuito de retroalimentación».
Visa decisión tarifas serían utilizados para decidir qué países estaban en el «sospechoso nacionalidades de lista», dijeron.
Pero el algoritmo utilizado esa lista, y rojo de la bandera de las aplicaciones eran menos propensos a tener éxito. Los resultados fueron utilizados para reforzar la lista.
El JCWI dijo que era «un círculo vicioso».
‘Institucionalmente racista’
«estamos encantados de que el ministerio de interior ha visto, sentido y desechó la transmisión de la herramienta. Racista de los bucles de retroalimentación significaba que lo que debería haber sido un justo proceso de migración fue, en la práctica, sólo speedy boarding para la gente blanca», dijo Cori Crider, fundador de Dedalera.
Chai Patel, de la política jurídica director de JCWI, dijo el Windrush escándalo había demostrado la Oficina en Casa era «ajeno a los racistas de los supuestos y de los sistemas de opera».
«Este tipo de transmisión de la herramienta tomó décadas de institucionalmente racista prácticas, tales como la orientación particular nacionalidades por redadas de inmigración, y los ha convertido en el software», dijo.
La Oficina de la Casa dijo que no podía hacer más comentarios mientras que el litigio todavía estaba en curso.
Hasta que el nuevo sistema está en su lugar, la transmisión de las solicitudes de visado se basa en la información acerca de la persona, tales como su anterior viaje y la nacionalidad no será tomado en cuenta.
