El gobierno del Reino Unido está iniciando una investigación para determinar los niveles de sesgo en los algoritmos que podrían afectar la vida de las personas.

Un vistazo a nuestra categoría de "ética" aquí en AI News resaltará el grave problema del sesgo en los algoritmos de hoy. Dado que las IA se utilizan cada vez más para la toma de decisiones, partes de la sociedad podrían quedarse atrás.

Dirigida por el Centro para la Ética e Innovación de los Datos (CDEI), la investigación se centrará en las áreas donde la IA tiene un potencial tremendo, como la vigilancia policial, el reclutamiento y los servicios financieros, pero tendría un impacto negativo grave en la vida si no se implementa correctamente.

El secretario digital Jeremy Wright dijo:

“La tecnología es una fuerza para el bien que ha mejorado la vida de las personas, pero debemos asegurarnos de que se desarrolle de manera segura.

Nuestro Centro de Ética e Innovación de Datos se creó para ayudarnos a lograr este objetivo y mantener a Gran Bretaña a la vanguardia del desarrollo tecnológico.

Me complace que su equipo de expertos esté llevando a cabo una investigación sobre el potencial de sesgo en la toma de decisiones algorítmica en áreas que incluyen delincuencia, justicia y servicios financieros. Espero ver las recomendaciones del Centro al Gobierno sobre cualquier acción que debamos tomar para asegurarnos de maximizar los beneficios de estas poderosas tecnologías para la sociedad ".

La policía de Durham está utilizando actualmente AI para una herramienta que llama "Riesgo de evaluación de daños". Como puede adivinar, la IA determina si es probable que una persona cause más daño. La herramienta ayuda con las decisiones sobre si una persona es elegible para un proceso diferido.

Si un algoritmo es más o menos efectivo en individuos con diferentes características sobre otro, surgirán problemas serios.

Se espera que Roger Taylor, presidente del CDEI, diga durante un evento de Downing Street:

“El Centro está enfocado en abordar los mayores desafíos y oportunidades planteados por la tecnología basada en datos. Estos son problemas complejos y tendremos que aprovechar la experiencia que existe en todo el Reino Unido y más allá. Si lo hacemos bien, el Reino Unido puede ser el líder mundial en innovación responsable.

Queremos trabajar con las organizaciones para que puedan maximizar los beneficios de la tecnología basada en datos y usarla para garantizar que las decisiones que tomen sean justas. Como primer paso, exploraremos el potencial de sesgo en sectores clave donde las decisiones tomadas por los algoritmos pueden tener un gran impacto en la vida de las personas.

Estoy encantado de que el Centro publique hoy su estrategia que establece nuestras prioridades.. ”

En un estudio de 2010, los investigadores del NIST y la Universidad de Texas en Dallas encontraron (PDF) que los algoritmos diseñados y probados en el este de Asia son mejores para reconocer a los asiáticos del este, mientras que los desarrollados en los países occidentales son más precisos cuando detectan a los caucásicos.

Discrepancias preocupantes similares fueron destacadas por la fundadora de la Liga de Justicia Algorítmica, Joy Buolamwini, durante una presentación en el Foro Económico Mundial en enero. Para su investigación, analizó los algoritmos populares de reconocimiento facial.

Estos problemas con sesgo en los algoritmos deben abordarse ahora antes de que se utilicen para la toma de decisiones críticas. El público actualmente no está convencido de que AI beneficie a la humanidad, y las propias compañías de AI se están preparando para el "daño a la reputación" en el camino.

Los informes provisionales del CDEI se publicarán en el verano y los informes finales se publicarán a principios del próximo año.

¿Interesado en escuchar a los líderes de la industria discutir temas como este y sus casos de uso? Asista a los eventos coubicados de AI y Big Data Expo con los próximos espectáculos en Silicon Valley, Londres y Amsterdam para obtener más información. Coubicado con IoT Tech Expo, Blockchain Expo y Cyber ​​Security & Cloud Expo.





Dejar respuesta

Please enter your comment!
Please enter your name here