La ACLU (Unión Americana de Libertades Civiles) ha obligado a la policía a reconocer un arresto injusto debido a un algoritmo erróneo.

Si bien se sospecha que el sesgo racial documentado con algoritmos de reconocimiento facial ha llevado a arrestos falsos, ha sido difícil de probar.

El miércoles, la ACLU presentó una queja contra la policía de Detroit después de que el hombre negro Robert Williams fue arrestado en su jardín delantero "mientras su esposa Melissa observaba y sus hijas lloraban por el trauma". Williams fue retenido en una celda "atestada y sucia" durante la noche sin que se le diera ninguna razón.

La policía de Detroit arrestó a Williams por presuntamente robar cinco relojes valorados en $ 3800 de una tienda en octubre de 2018. Una imagen borrosa de CCTV fue emparejada por un algoritmo de reconocimiento facial con la foto de la licencia de conducir de Williams.

Durante un interrogatorio el día después de su arresto, la policía admitió que "la computadora debe haberlo entendido mal". Williams permaneció encarcelado hasta después del anochecer “en ese momento fue liberado por la puerta principal, en una noche fría y lluviosa de enero, donde se vio obligado a esperar afuera en la acera durante aproximadamente una hora mientras su esposa se apresuraba a buscar cuidado infantil los niños para que ella pueda venir a buscarlo ".

En declaraciones al NY Times, un portavoz de la policía de Detroit dijo que el departamento "no realiza arrestos basados ​​únicamente en el reconocimiento facial", y afirma que se utilizaron entrevistas con testigos y una lista de fotos.

Sin embargo, una respuesta de la oficina del fiscal del condado de Wayne confirma que el departamento utilizó el reconocimiento facial para identificar a Williams usando las imágenes de seguridad y un testigo ocular del crimen no mostró la presunta alineación de fotos.

En su queja, la ACLU exige que la policía de Detroit termine el uso del reconocimiento facial "ya que los hechos del caso del Sr. Williams prueban que la tecnología es defectuosa y que los investigadores del DPD no son competentes para hacer uso de dicha tecnología".

Esta semana, Boston se convirtió en la última ciudad en prohibir la tecnología de reconocimiento facial para uso municipal. Boston sigue a un número cada vez mayor de ciudades como San Francisco, Oakland y California que han prohibido la tecnología por cuestiones de derechos humanos.

“El reconocimiento facial es inherentemente peligroso e inherentemente opresivo. No puede ser reformado o regulado. Debe ser abolido ", dijo Evan Greer, subdirector del grupo de derechos digitales Fight for the Future.

“Boston se convirtió en la última ciudad importante en detener el uso de esta tecnología de vigilancia extraordinaria y tóxica. Cualquier otra ciudad debería hacer lo mismo.

Casos como el de Williams están fortaleciendo tales llamadas. Más de 1,000 expertos firmaron una carta abierta esta semana contra el uso de IA para el próximo paso escalofriante, la predicción del crimen.

(Foto de ev en Unsplash)

¿Interesado en escuchar a líderes de la industria discutir temas como este? Asista a la 5G Expo, IoT Tech Expo, Blockchain Expo, AI & Big Data Expo y Cyber ​​Security & Cloud Expo World Series con eventos próximos en Silicon Valley, Londres y Amsterdam.

Etiquetas: aclu, ai, arresto, inteligencia artificial, detroit, reconocimiento facial, reconocimiento facial, Destacado, aplicación de la ley, policía, policía, privacidad, vigilancia

Dejar respuesta

Please enter your comment!
Please enter your name here