TecNoticias, tu portal de información

Es hora de otra entrega en nuestra visión actual del futuro, que se le brindará gracias a las capacidades cada vez más preocupantes de la inteligencia artificial. Todo el mundo está al tanto del problema de las noticias falsas en línea, y ahora la organización sin fines de lucro OpenAI, respaldada por Elon Musk, ha desarrollado un sistema de inteligencia artificial que puede crear contenido de noticias falsas tan convincente que el grupo está demasiado nervioso para publicarlo públicamente, citando temores de uso indebido. Están dejando que los investigadores vean una pequeña parte de lo que han hecho, por lo que no lo ocultan por completo, pero, aun así, la inquietud del grupo aquí es ciertamente reveladora.

"Nuestro modelo, llamado GPT-2, fue entrenado simplemente para predecir la siguiente palabra en 40 GB de texto de Internet", lee un nuevo blog de OpenAI sobre el esfuerzo. “Debido a nuestras preocupaciones sobre las aplicaciones maliciosas de la tecnología, no estamos lanzando el modelo entrenado. Como un experimento de divulgación responsable, en cambio, estamos lanzando un modelo mucho más pequeño para que los investigadores experimenten, así como un documento técnico ".

Básicamente, el sistema GPT-2 fue "entrenado" al ser alimentado con 8 millones de páginas web, hasta que llegó al punto en el que el sistema podía ver un conjunto de texto y predecir las palabras que podrían aparecer a continuación. Según el blog OpenAI, el modelo es "camaleónico, se adapta al estilo y contenido del texto de condicionamiento. Esto permite al usuario generar continuaciones realistas y coherentes sobre un tema de su elección ”. Incluso si estuviera tratando de producir, por ejemplo, una noticia falsa.

Aquí hay un ejemplo: al sistema de AI se le dio este mensaje de texto generado por el hombre:

“En un hallazgo impactante, un científico descubrió una manada de unicornios que viven en un valle remoto, previamente inexplorado, en las montañas de los Andes. Aún más sorprendente para los investigadores fue el hecho de que los unicornios hablaban un inglés perfecto ".

A partir de eso, el sistema de AI, después de 10 intentos, continuó la "historia", comenzando con este texto generado por AI:

"El científico nombró a la población, después de su distintivo cuerno, Unicornio de Ovidio. Estos unicornios blanco plateado de cuatro cuernos eran previamente desconocidos para la ciencia. Ahora, después de casi dos siglos, el misterio de lo que provocó este extraño fenómeno se resuelve finalmente ". (Puedes consultar el blog de OpenAI en el enlace de arriba para leer el resto de la historia del unicornio que el sistema de inteligencia artificial ha desarrollado).

Imagine lo que un sistema de este tipo podría hacer, digamos, desencadenar una historia de la campaña presidencial. Las implicaciones de esto son las razones por las que OpenAI dice que solo se está liberando públicamente una porción muy pequeña del código de muestreo GPT-2. No está publicando ninguno de los conjuntos de datos, el código de capacitación o el “modelo de pesas GPT-2”. De nuevo, desde el blog de OpenAI que anuncia esto: “Somos conscientes de que algunos investigadores tienen la capacidad técnica para reproducir y abrir nuestros resultados. Creemos que nuestra estrategia de lanzamiento limita el conjunto inicial de organizaciones que pueden optar por hacer esto y le da a la comunidad de AI más tiempo para tener una discusión sobre las implicaciones de tales sistemas.

"También pensamos que los gobiernos deberían considerar la posibilidad de expandir o comenzar iniciativas para monitorear de manera más sistemática el impacto social y la difusión de las tecnologías de IA, y medir la progresión en las capacidades de dichos sistemas", concluye la publicación del blog OpenAI.

Fuente de la imagen: Chris Carlson / AP / Shutterstock