Un grupo de expertos en inteligencia artificial han firmado una carta abierta a Amazon exigiendo que la compañía deje de vender el reconocimiento facial a la policía después de los hallazgos del sesgo.

En enero, AI News informó sobre los hallazgos de Joy Buolamwini, fundadora de Algorithmic Justice League, quien investigó algunos de los algoritmos de reconocimiento facial más populares del mundo.

Buolamwini descubrió que la mayoría de los algoritmos eran sujetos sesgados e identificados erróneamente con colores de piel más oscuros y / o hembras con mayor frecuencia.

Aquí fueron los resultados en orden descendente de precisión:

Microsoft

  • Hombres más ligeros (100 por ciento)
  • Hembras más ligeras (98.3 por ciento)
  • Machos más oscuros (94 por ciento)
  • Hembras más oscuras (79.2 por ciento)

Cara ++

  • Machos más oscuros (99.3 por ciento)
  • Hombres más ligeros (99.2 por ciento)
  • Hembras más ligeras (94 por ciento)
  • Hembras más oscuras (65.5 por ciento)

IBM

  • Hombres más ligeros (99.7 por ciento)
  • Hembras más ligeras (92.9 por ciento)
  • Hombres más oscuros (88 por ciento)
  • Hembras más oscuras (65.3 por ciento)

Los ejecutivos de Amazon reprendieron los hallazgos y afirmaron que se utilizó un nivel de precisión inferior al que recomiendan para el uso de la ley.

"La respuesta a las inquietudes sobre la nueva tecnología no es ejecutar 'pruebas' inconsistentes con la forma en que el servicio está diseñado para ser utilizado, y para amplificar las conclusiones falsas y engañosas de la prueba a través de los medios de comunicación", Matt Wood, gerente general de AI para la nube de Amazon División de informática, escribió en un blog de enero.

Los firmantes de la carta abierta llegaron a la defensa de Buolamwini, incluido el pionero de la IA, Yoshua Bengio, quien recientemente ganó el Premio Turing.

"En contraste con las afirmaciones del Dr. Wood, el sesgo encontrado en un sistema es motivo de preocupación en el otro, particularmente en casos de uso que podrían afectar gravemente la vida de las personas, como las aplicaciones de aplicación de la ley", escribieron.

A pesar de tener el reconocimiento facial más preciso, Microsoft no se ha contentado con eso y ha mejorado aún más su precisión desde el trabajo de Buolamwini. La firma respalda una política que requiere que los letreros sean visibles donde se use el reconocimiento facial.

IBM también ha logrado grandes avances en la nivelación de la precisión de sus algoritmos para representar a todas las partes de la sociedad. A principios de este año, la compañía presentó un nuevo conjunto de datos de un millón de imágenes más representativo de la diversidad en la sociedad.

Cuando Buolamwini reevaluó el algoritmo de IBM, la precisión al evaluar a los machos más oscuros aumentó del 88 por ciento al 99.4 por ciento, para las hembras más oscuras del 65.3 por ciento al 83.5 por ciento, para las hembras más claras del 92.9 por ciento al 97.6 por ciento, y para los machos más ligeros se mantuvo igual a 97 por ciento.

Buolamwini comentó: "Entonces, para todos los que vieron mi TED Talk y dijeron:" ¿No es la razón por la que no te detectaron porque, ya sabes, la física? La reflectancia de tu piel, el contraste, etc. ”, las leyes de la física no cambiaron entre diciembre de 2017, cuando hice el estudio, y 2018, cuando lanzaron los nuevos resultados".

"Lo que cambió es que lo hicieron una prioridad".

Aparte de la posibilidad de automatizar problemas sociales como el perfil racial, el reconocimiento facial inexacto podría ser la diferencia entre la vida y la muerte. Por ejemplo, un estudio reciente (PDF) descubrió que los autos sin conductor que observan el camino para peatones tienen más dificultades para detectar personas con colores de piel más oscuros.

Todos, no solo los expertos en inteligencia artificial, deberían presionar a las empresas para garantizar que los sesgos se mantengan alejados de los algoritmos.

¿Interesado en escuchar a los líderes de la industria discutir temas como este y sus casos de uso? Asista a los eventos coubicados de AI y Big Data Expo con los próximos espectáculos en Silicon Valley, Londres y Amsterdam para obtener más información. Coubicado con IoT Tech Expo, Blockchain Expo y Cyber ​​Security & Cloud Expo.





LEAVE A REPLY

Please enter your comment!
Please enter your name here