Twitter estaba investigando por qué la red neuronal que utiliza para generar vistas previas de fotos aparentemente elige mostrar las caras de las personas blancas con más frecuencia que las caras de los negros.
Varios usuarios de Twitter demostraron el problema durante el fin de semana, publicando ejemplos de publicaciones que tenían la cara de una persona negra y la cara de una persona blanca. La vista previa de Twitter mostró las caras blancas con más frecuencia.

La prueba informal comenzó después de que un usuario de Twitter intentó publicar sobre un problema que notó en el reconocimiento facial de Zoom, que no mostraba el rostro de un colega negro en las llamadas. Cuando publicó en Twitter, notó que también favorecía su cara blanca sobre la cara de su colega negro.

Los usuarios descubrieron que el algoritmo de vista previa también eligió personajes de dibujos animados que no eran negros.

Cuando Twitter comenzó a usar la red neuronal para recortar automáticamente las vistas previas de las fotos, los investigadores de aprendizaje automático explicado en una publicación de blog cómo empezaron con el reconocimiento facial para recortar imágenes, pero encontraron que faltaba, principalmente porque no todas las imágenes tienen caras:

Anteriormente, usamos la detección de rostros para enfocar la vista en el rostro más prominente que pudimos encontrar. Si bien esta no es una heurística irrazonable, el enfoque tiene limitaciones obvias ya que no todas las imágenes contienen rostros. Además, nuestro detector facial a menudo pasaba por alto los rostros y, a veces, detectaba rostros por error cuando no había ninguno. Si no se encontraran rostros, enfocaríamos la vista en el centro de la imagen. Esto podría dar lugar a imágenes de vista previa recortadas de forma incómoda.

El director de diseño de Twitter, Dantley Davis, tuiteó que la compañía estaba investigando la red neuronal, mientras realizaba algunos experimentos no científicos con imágenes:

Liz Kelley, del equipo de comunicaciones de Twitter, tuiteó el domingo que la compañía había realizado pruebas de prejuicio, pero no había encontrado evidencia de prejuicio racial o de género en sus pruebas. "Está claro que tenemos más análisis que hacer", Kelley tuiteó. "Abriremos nuestro trabajo para que otros puedan revisar y replicar".
El director de tecnología de Twitter, Parag Agrawal, tuiteó que el modelo necesitaba una “mejora continua” y agregó que estaba “ansioso por aprender” de los experimentos.

Dejar respuesta

Please enter your comment!
Please enter your name here