Amazon ha puesto su peso detrás del creciente número de llamadas de compañías, individuos y grupos de derechos para establecer estándares de reconocimiento facial.

Michael Punke, vicepresidente de política pública global en Amazon Web Services, dijo.

“Durante los últimos meses, hemos hablado con clientes, investigadores, académicos, responsables de políticas y otros para comprender cómo equilibrar mejor los beneficios del reconocimiento facial con los riesgos potenciales.

Es fundamental que cualquier legislación proteja los derechos civiles y al mismo tiempo permita la innovación continua y la aplicación práctica de la tecnología ".

En una publicación de blog de hoy, Amazon destacó cinco pautas para garantizar que el reconocimiento facial se desarrolle y se use de manera ética.

El primero de los cinco exige que el reconocimiento facial cumpla con las leyes existentes que protegen las libertades civiles. Para garantizar la rendición de cuentas, la segunda guía quiere que los humanos revisen todo el reconocimiento facial antes de tomar una decisión.

Otras pautas incluyen un llamado a la transparencia en la forma en que las agencias utilizan la tecnología de reconocimiento facial y los avisos visuales colocados en lugares públicos o comerciales.

Preocupaciones de reconocimiento facial

La compañía ha enfrentado críticas a su sistema de "Reconocimiento" que es utilizado por las fuerzas policiales y se ha dirigido a agencias como la Oficina de Inmigración y Control de Aduanas de los Estados Unidos (ICE).

En una carta dirigida al CEO de Amazon, Jeff Bezos, los empleados escribieron:

“Nos negamos a construir la plataforma que impulsa a ICE, y nos negamos a contribuir con herramientas que violan los derechos humanos.

"Como personas éticas amazónicas, exigimos una elección en lo que construimos y una opinión sobre cómo se utiliza".

La carta fue enviada luego de la separación de ICE de niños inmigrantes de sus familias en la frontera de los EE. UU. Y su posterior detención. No hay evidencia de que ICE haya comprado o usado la tecnología de Amazon.

En julio del año pasado, la American Civil Liberties Union probó la tecnología de reconocimiento facial de Amazon en los miembros del Congreso para ver si coinciden con una base de datos de disparos criminales.

Rekognition comparó las imágenes de todos los miembros de la Cámara de Representantes y el Senado con las 25,000 fotos de arrestos. Las coincidencias falsas afectaron de manera desproporcionada a los miembros del Caucus Negro del Congreso.

El Dr. Matt Wood, Gerente General de AI en Amazon Web Services, comentó los hallazgos de la ACLU más tarde ese mes. Dijo que la ACLU dejó la configuración de confianza predeterminada de Rekognition del 80 por ciento en cuando sugiere que el 95 por ciento o más para la policía.

Wood, sin embargo, continuó diciendo que mostraba cómo se necesitan los estándares para garantizar que los sistemas de reconocimiento facial se usen correctamente. Pidió que "el gobierno pese y especifique a qué temperatura (o nivel de confianza) quiere que se reúnan los organismos encargados de hacer cumplir la ley para ayudarles en su trabajo de seguridad pública".

El llamado a los estándares de reconocimiento facial se extiende más allá de los Estados Unidos. En China, el CEO de SenseTime, la empresa de AI más financiada del mundo, también dijo que quiere que se establezcan estándares de reconocimiento facial para una industria "más saludable".

En el Reino Unido, la comisionada de información Elizabeth Denham anunció que su oficina identificó la tecnología de reconocimiento facial como una prioridad para establecer qué protecciones son necesarias para el público.

SenseTime está tan bien financiado no solo por su potente tecnología de reconocimiento facial, sino también por la adopción por parte del gobierno chino. La firma apunta a procesar y analizar más de 100,000 transmisiones simultáneas en tiempo real desde cámaras de tráfico, cajeros automáticos y más como parte de su sistema "Viper".

Si un sistema de este tipo se implementó con algoritmos sesgados, exacerbará los problemas sociales actuales. La fundadora de la Liga de Justicia algorítmica, Joy Buolamwini, hizo una presentación fantástica durante el Foro Económico Mundial el mes pasado sobre la necesidad de combatir el sesgo de AI.

Como diría el tío Ben de Spider-Man: "Con gran poder, viene una gran responsabilidad".

¿Interesado en escuchar a los líderes de la industria discutir temas como este? Asista a la IoT Tech Expo, Blockchain Expo, AI y Big Data Expo, y Cyber ​​Security & Cloud Expo World Series con los próximos eventos en Silicon Valley, Londres y Amsterdam.





Dejar respuesta

Please enter your comment!
Please enter your name here