Una nueva aplicación llamada Doublicat permite a los usuarios superponer su cara en GIF populares usando tecnología de aprendizaje profundo.
En nombre de la investigación, aquí hay uno que hice antes:
Doublicat usa una Red Adversaria Generativa (GAN) para hacer su magia. La GAN se llama RefaceAI y está desarrollada por una compañía del mismo nombre.
RefaceAI se utilizó anteriormente en una aplicación de intercambio de caras llamada Reflect. Elon Musk solía usar Reflect to poner su cara en el cuerpo de Dwayne Johnson.
La aplicación es muy divertida, pero, después de las preocupaciones sobre la aplicación viral rusa FaceApp, muchos se preguntarán cuántos datos se recopilan a cambio.
Los desarrolladores de Doublicat son sinceros al solicitar el consentimiento para almacenar sus fotos al abrir la aplicación por primera vez y esto se confirma en su política de privacidad: "Podemos recopilar las fotos que toma con su cámara mientras usa nuestra aplicación".
Sin embargo, Doublicat dice que las fotos solo se almacenan en su servidor durante 24 horas antes de que se eliminen. "El resto del tiempo, sus fotos utilizadas en la aplicación Doublicat se almacenan localmente en su dispositivo móvil y pueden eliminarse en cualquier momento eliminando estas fotos del sistema de archivos de su dispositivo móvil".
La aplicación también recopila datos sobre las características faciales, pero solo se almacenan las representaciones vectoriales de la cara de cada persona. Doublicat asegura que los datos de reconocimiento facial recopilados "no son datos biométricos" y se eliminan de sus servidores dentro de los 30 días calendario.
"De ninguna manera Doublicat usará su contenido cargado para el reconocimiento facial, ya que Doublicat no introduce las tecnologías de reconocimiento facial u otros medios técnicos para procesar datos biométricos para la identificación o autenticación única de un usuario".
La cantidad de datos que Doublicat puede recopilar es limitada en comparación con algunas alternativas. Las aplicaciones como Zao requieren que los usuarios modelen en 3D su rostro, mientras que Doublicat solo toma una fotografía frontal.
RefaceAI ahora está buscando lanzar una aplicación que pueda hacer videos falsos en lugar de solo GIF. Es probable que la medida sea controvertida debido a las preocupaciones sobre las falsificaciones profundas y cómo estos videos podrían usarse para cosas como la manipulación política.
Un video falso de Nancy Pelosi, presidenta de la Cámara de Representantes de los Estados Unidos, se hizo viral el año pasado después de que supuestamente la mostró arrastrando las palabras como si estuviera intoxicada. El clip muestra cómo incluso un video relativamente poco sofisticado (en este caso no era una farsa real) podría usarse para causar daños a la reputación e incluso cambiar los votos.
Un informe del Centro Stern de NYU para Empresas y Derechos Humanos en septiembre pasado, cubierto por nuestra publicación hermana MarketingTech, destacó las diversas formas en que se podría utilizar la desinformación antes de las elecciones presidenciales de este año. Una de las ocho predicciones es que los videos falsos se utilizarán "para retratar a los candidatos que dicen y hacen cosas que nunca dijeron o hicieron".
A principios de este mes, Facebook anunció nuevas políticas sobre deepfakes. Se prohibirá cualquier video falso que esté diseñado para ser engañoso. El problema con las reglas es que no cubren videos alterados por parodia o aquellos editados "únicamente para omitir o cambiar el orden de las palabras", lo que no sonará alentador para cualquiera que quiera una postura firme contra la manipulación.
Doublicat está disponible para Androide y iOS.
¿Interesado en escuchar a líderes de la industria discutir temas como este? Asista a la 5G Expo, IoT Tech Expo, Blockchain Expo, AI & Big Data Expo y Cyber Security & Cloud Expo World Series con eventos próximos en Silicon Valley, Londres y Amsterdam.