F-Secure: los motores de recomendación basados ​​en IA son fáciles de manipular

El gigante de la ciberseguridad F-Secure advirtió que los sistemas de recomendación basados ​​en inteligencia artificial son fáciles de manipular.

Las recomendaciones a menudo se someten a un mayor escrutinio en torno a las elecciones importantes debido a la preocupación de que el sesgo, en casos extremos, pueda conducir a la manipulación electoral. Sin embargo, las recomendaciones que se entregan a las personas en el día a día importan tanto, si no más.

Matti Aksela, Vicepresidente de Inteligencia Artificial de F-Secure, comentó:

“A medida que dependamos cada vez más de la inteligencia artificial en el futuro, debemos comprender qué debemos hacer para protegerla de posibles abusos.

Tener IA y el poder del aprendizaje automático cada vez más de los servicios de los que dependemos requiere que entendamos sus fortalezas y debilidades de seguridad, además de los beneficios que podemos obtener, para poder confiar en los resultados.

La IA segura es la base de una IA fiable ".

Los sofisticados esfuerzos de desinformación, como los organizados por las infames "granjas de trolls" de Rusia, han difundido mentiras peligrosas sobre las vacunas COVID-19, la inmigración y figuras de alto perfil.

Andy Patel, investigador del Centro de excelencia de inteligencia artificial de F-Secure, dijo:

“Twitter y otras redes se han convertido en campos de batalla donde diferentes personas y grupos empujan diferentes narrativas. Estos incluyen conversaciones y anuncios orgánicos, pero también mensajes destinados a socavar y erosionar la confianza en la información legítima.

Examinar cómo estos 'combatientes' pueden manipular la IA ayuda a exponer los límites de lo que la IA puede hacer de manera realista e, idealmente, cómo se puede mejorar ".

La información legítima y confiable se necesita más que nunca. El escepticismo es saludable, pero la gente está empezando a no confiar en nada o creer en todo. Ambos son problemáticos.

Según una encuesta del PEW Research Center de fines de 2020, el 53 por ciento de los estadounidenses obtienen sus noticias de las redes sociales. Los encuestados más jóvenes, de entre 18 y 29 años, informaron que las redes sociales son su principal fuente de noticias.

Ninguna persona o medio de comunicación hace todo bien, pero se debe tener en cuenta un historial de credibilidad, con qué herramientas como NewsGuard ayudan. Sin embargo, casi todos los principales medios de comunicación tienen al menos más credibilidad que un usuario aleatorio de las redes sociales que puede o no ser quien dice ser.

En 2018, una investigación encontró que las publicaciones de Twitter que contienen falsedades tienen un 70 por ciento más de probabilidades de ser compartidas. El efecto dominó creado por esta nueva compartición sin verificación de hechos es la razón por la que la desinformación puede extenderse tan lejos en minutos. Para algunos temas, como las vacunas COVID-19, Facebook al menos ha comenzado a preguntar a los usuarios si han considerado si la información es precisa antes de compartirla.

Patel entrenó modelos de filtrado colaborativo (un tipo de aprendizaje automático que se utiliza para codificar similitudes entre usuarios y contenido basado en interacciones previas) utilizando datos recopilados de Twitter para su uso en sistemas de recomendación. Como parte de sus experimentos, Patel "envenenó" los datos utilizando retuits adicionales para volver a entrenar al modelo y ver cómo cambiaban las recomendaciones.

Los hallazgos mostraron cómo incluso una cantidad muy pequeña de retweets podría manipular el motor de recomendaciones para promover cuentas cuyo contenido se compartió a través de los retweets inyectados.

“Realizamos pruebas con modelos simplificados para aprender más sobre cómo podrían funcionar realmente los ataques reales”, dijo Patel.

"Creo que las plataformas de redes sociales ya están enfrentando ataques similares a los demostrados en esta investigación, pero es difícil para estas organizaciones estar seguras de que esto es lo que está sucediendo porque solo verán el resultado, no cómo funciona".

La investigación de Patel se puede recrear usando el código y los conjuntos de datos alojados en GitHub aquí.

(Foto de Charles Deluvio en Unsplash)

Encuentra mas sobre Semana de la Transformación Digital Norteamérica, que tendrá lugar del 9 al 10 de noviembre de 2021, un evento virtual y una conferencia que explora estrategias avanzadas de DTX para un mundo de "todo digital".

El post F-Secure: los motores de recomendación basados ​​en IA son fáciles de manipular apareció primero en AI News.

Leave a Reply

Your email address will not be published. Required fields are marked *