Fri. Jul 1st, 2022

Los demócratas han reintroducido su Ley de responsabilidad algorítmica que busca responsabilizar a las empresas tecnológicas por el sesgo en sus algoritmos.

El proyecto de ley es una versión actualizada de uno presentado por primera vez por el senador Ron Wyden (D-OR) en 2019, pero nunca fue aprobado por la Cámara o el Senado. El proyecto de ley actualizado fue presentado esta semana por Wyden junto con el senador Cory Booker (D-NJ) y la representante Yvette Clarke (D-NY)

La preocupación por el sesgo en los algoritmos aumenta a medida que se utilizan para decisiones cada vez más críticas. El sesgo conduciría a la automatización de las desigualdades, dando a algunas personas más oportunidades que a otras.

“A medida que los algoritmos y otros sistemas de decisión automatizados asumen roles cada vez más prominentes en nuestras vidas, tenemos la responsabilidad de garantizar que se evalúen adecuadamente en busca de sesgos que puedan perjudicar a las comunidades minoritarias o marginadas”, dijo Booker.

Siempre se puede responsabilizar a un ser humano por la decisión de, por ejemplo, rechazar una solicitud de hipoteca/préstamo. Actualmente hay poca o ninguna responsabilidad por las decisiones algorítmicas.

La representante Yvette Clarke explicó:

“Cuando los algoritmos determinan quién va a la universidad, quién recibe atención médica, quién consigue un hogar e incluso quién va a prisión, la discriminación algorítmica debe tratarse como el problema más importante que es.

Estas decisiones grandes e impactantes, que se han vuelto cada vez más desprovistas de participación humana, están formando la base de nuestra sociedad estadounidense sobre la que se construirán las generaciones venideras. Y, sin embargo, están sujetos a una amplia gama de fallas, desde sesgos de programación hasta conjuntos de datos defectuosos que pueden reforzar una discriminación social más amplia, particularmente contra las mujeres y las personas de color.

Ya es hora de que el Congreso actúe para responsabilizar a las empresas y los desarrolladores de software por su discriminación por parte de la automatización.

Con nuestra renovada Ley de Responsabilidad Algorítmica, las grandes empresas ya no podrán hacer la vista gorda ante el impacto nocivo de sus sistemas automatizados, intencionados o no. Debemos asegurarnos de que nuestras tecnologías del siglo XXI se conviertan en herramientas de empoderamiento, en lugar de marginación y reclusión”.

El proyecto de ley obligaría a realizar auditorías de los sistemas de IA; con hallazgos informados a la Comisión Federal de Comercio. Se crearía una base de datos pública para que las decisiones puedan ser revisadas para dar confianza a los consumidores.

“Si alguien decide no alquilarte una casa por el color de tu piel, eso es discriminación ilegal de plano. Usar un algoritmo o software defectuoso que resulte en discriminación y sesgo es igual de malo”, comentó Wyden.

“Nuestro proyecto de ley abrirá el telón de los algoritmos secretos que pueden decidir si los estadounidenses pueden ver a un médico, alquilar una casa o ingresar a una escuela. La transparencia y la rendición de cuentas son esenciales para dar opciones a los consumidores y brindarles a los formuladores de políticas la información necesaria para establecer las reglas del camino para los sistemas de decisiones críticas”.

En nuestras predicciones para la industria de la IA en 2022, predijimos un mayor enfoque en la IA explicable (XAI). XAI es inteligencia artificial en la que los humanos pueden entender los resultados de la solución y se ve como una solución parcial al sesgo algorítmico.

“Con demasiada frecuencia, los algoritmos de Big Tech anteponen las ganancias a las personas, desde impactar negativamente en la salud mental de los jóvenes hasta discriminar a las personas por motivos de raza, etnia o género, y todo lo demás”, dijo la Senadora Tammy Baldwin (D-Wis), quien está copatrocinando el proyecto de ley.

“Ya es hora de que el público estadounidense y los formuladores de políticas echen un vistazo bajo el capó y vean cómo se utilizan estos algoritmos y qué próximos pasos deben tomarse para proteger a los consumidores”.

Los senadores Brian Schatz (D-Hawaii), Mazie Hirono (D-Hawaii), Ben Ray Luján (D-NM), Bob Casey (D-Pa) y Martin Heinrich (D -NUEVO MÉJICO).

Una copia de la factura completa está disponible. aquí (PDF)

(Foto de Darren Halstead en Unsplash)

¿Quiere aprender más sobre IA y big data de los líderes de la industria? Echa un vistazo a AI & Big Data Expo. Los próximos eventos de la serie se llevarán a cabo en Santa Clara los días 11 y 12 de mayo de 2022, Ámsterdam los días 20 y 21 de septiembre de 2022 y Londres los días 1 y 2 de diciembre de 2022.

Explore otros próximos eventos y seminarios web de tecnología empresarial impulsados ​​por TechForge aquí.

El impulso posterior de los demócratas a la ‘responsabilidad algorítmica’ apareció primero en AI News.

By Erica Flores

Enamorada de la tecnología. Apasionada de la velocidad que la información puede adquirir en este mundo cambiante. Actualmente residiendo en Barcelona.