Aquí hay un ejemplo de cómo la inteligencia artificial todavía puede
Carecen seriamente de algunos atributos humanos: las pruebas han demostrado cuán natural
los sistemas de procesamiento de lenguaje (PNL) pueden ser engañados para que malinterpreten el texto
simplemente intercambiando una palabra por un sinónimo.

Un equipo de investigación del software desarrollado por el MIT, llamado
TextFooler, que buscaba las palabras más cruciales para un clasificador de PNL
y los reemplazó El equipo ofreció un ejemplo:

"Los personajes, lanzados en situaciones imposiblemente inventadas,
están totalmente alejados de la realidad "
y
"Los personajes, emitidos imposiblemente circunstancias de ingeniería, son completamente
alejado de la realidad "

No hay problema para que un humano lo descifre. Sin embargo, los resultados sobre las IA
fueron sorprendentes Por ejemplo, BERT, la red neuronal de Google, fue peor por un factor
de hasta siete para identificar si las reseñas en Yelp fueron positivas o
negativo.

Douglas Heaven, escribiendo un resumen del estudio para
MIT Technology Review
, explicó por qué la investigación fue importante. "Tenemos
visto muchos ejemplos de ataques adversos, la mayoría de las veces con reconocimiento de imágenes
sistemas, donde pequeñas alteraciones en la entrada pueden confundir una IA y hacerla
clasifica mal lo que ve ", escribió Heaven. "TextFooler muestra que este estilo de
el ataque también rompe la PNL, la IA detrás de los asistentes virtuales, como Siri, Alexa
y Google Home, así como otros clasificadores de idiomas como filtros de spam y
detectores de odio y habla.

Esta publicación ha explorado varios métodos en los que las tecnologías de inteligencia artificial están superando los esfuerzos humanos, como la detección del cáncer de seno, jugar a StarCraft y el debate público. En otros campos, la resistencia, por inútil que sea, permanece. En diciembre se informó que los conductores humanos todavía estaban superando a los AI en general en las carreras de drones, aunque el director de tecnología de la Drone Race League predijo que 2023 sería el año en el que la IA se hizo cargo.

El objetivo final para software como TextFooler, los investigadores
La esperanza es hacer que los sistemas de PNL sean más robustos.

Posdata: Para aquellos que leen desde fuera de las Islas Británicas, China y ciertos países de la Commonwealth, 'billar' a alguien, derivado del deporte del mismo nombre, es 'dejar a uno en una posición difícil'. El equivalente estadounidense está 'detrás de los ocho -ball ', aunque eso, por supuesto, habría eliminado el titular.

¿Interesado en escuchar a los líderes de la industria discutir temas como este? Asista a la 5G Expo, IoT Tech Expo, Blockchain Expo, AI & Big Data Expo y Cyber ​​Security & Cloud Expo World Series con eventos próximos en Silicon Valley, Londres y Amsterdam.






Dejar respuesta

Please enter your comment!
Please enter your name here