Google está volviendo a usar humanos para la moderación de YouTube después de repetidos errores con su sistema de inteligencia artificial.

Moderar una red grande como YouTube no es una tarea fácil. Aparte del gran volumen de contenido que se carga todos los días, los moderadores están sujetos a lo peor de la humanidad y, a menudo, terminan necesitando terapia. Son los héroes olvidados.

La IA ha sido aclamada por ayudar a lidiar con algunos de los problemas antes mencionados. O automatizando completamente el proceso de moderación o ofreciendo una mano amiga a los humanos.

A Google no le quedó otra opción que dar más poder a sus moderadores de inteligencia artificial cuando la pandemia de COVID-19 se apoderó de ella … pero no ha sido fácil.

A fines de agosto, YouTube dijo que había eliminado 11,4 millones de videos durante los tres meses anteriores, la mayor cantidad desde el lanzamiento del sitio en 2005.

Esa figura por sí sola debería levantar algunas cejas. Si un equipo de humanos eliminara tantos videos, probablemente se merecen un aumento salarial considerable.

Por supuesto, la mayoría de las eliminaciones de videos no fueron realizadas por humanos. Muchos de los videos ni siquiera violaron las pautas.

Neal Mohan, director de productos de YouTube, le dijo al Financial Times:

“Una de las decisiones que tomamos (al comienzo de la pandemia de COVID-19) cuando se trataba de máquinas que no podían ser tan precisas como los humanos, íbamos a errar por el lado de asegurarnos de que nuestros usuarios estuvieran protegidos, aunque eso podría haber dado lugar a (a) un número ligeramente mayor de videos que se redujeron ".

Algunas de las eliminaciones dejaron a los creadores de contenido desconcertados, enojados y desembolsados ​​en algunos casos.

Aproximadamente 320.000 de los videos eliminados fueron apelados y la mitad de los videos apelados se restablecieron.

Decidir qué contenido eliminar finalmente se siente como una de las muchas tareas que requieren la participación humana. Los seres humanos son mucho mejores detectando matices y cosas como el sarcasmo.

Sin embargo, la gran escala de contenido que debe moderarse también requiere una IA para ayudar a automatizar parte de ese proceso.

“Más del 50 por ciento de esos 11 millones de videos fueron eliminados sin una sola vista por un usuario real de YouTube y más del 80 por ciento fueron eliminados con menos de 10 vistas”, dijo Mohan. "Ese es el poder de las máquinas".

Las IA también pueden ayudar a proteger a los humanos de lo peor del contenido. Se están construyendo sistemas de detección de contenido para difuminar automáticamente cosas como el abuso infantil lo suficiente como para que los moderadores humanos sepan qué es eliminarlo, pero para limitar su impacto psicológico.

Algunos creen que las IA son mejores para ayudar a determinar qué contenido debe eliminarse simplemente usando la lógica en lugar de los prejuicios naturales de un ser humano como su inclinación política, pero sabemos que los prejuicios humanos se filtran en los algoritmos.

En mayo, YouTube admitió haber eliminado mensajes críticos del Partido Comunista Chino (PCCh). Más tarde, YouTube culpó a un "error con nuestros sistemas de aplicación" por los errores. El senador Josh Hawley incluso escribió (PDF) al director ejecutivo de Google, Sundar Pichai, en busca de respuestas a "informes preocupantes de que su empresa ha reanudado su largo patrón de censura a instancias del Partido Comunista Chino".

Google parece haberse dado cuenta rápidamente de que reemplazar a los humanos por completo con IA rara vez es una buena idea. La compañía dice que muchos de los moderadores humanos que fueron "desconectados" durante la pandemia ahora están regresando.

(Foto de Rachit Tank en Unsplash)

¿Está interesado en escuchar a los líderes de la industria discutir temas como este? Asista a la 5G Expo, IoT Tech Expo, Blockchain Expo, AI & Big Data Expo, y Cyber ​​Security & Cloud Expo World Series, ubicadas en el mismo lugar, con los próximos eventos en Silicon Valley, Londres y Ámsterdam.

Etiquetas: ai, ética, Destacados, Google, moderación, Sociedad, videos, youtube

Dejar respuesta

Please enter your comment!
Please enter your name here