Los videos de Deepfake tienen el potencial de causar daños sin precedentes, por lo que California ha presentado dos proyectos de ley diseñados para limitarlos.

Para aquellos que no lo saben, los deepfakes usan la tecnología de aprendizaje automático para hacer que una persona parezca que está haciendo o diciendo cosas que no son convincentes.

Hay dos preocupaciones principales sobre los videos de deepfake:

  • Difamación personal: se hace que un individuo aparezca en una escena sexual y / o humillante, ya sea para chantajear o para manchar la imagen de esa persona.
  • Manipulación: se hace aparecer a una persona influyente, generalmente un político, que ha dicho algo para influir en la opinión pública y tal vez incluso votar de cierta manera.

Muchas celebridades se han convertido en víctimas del porno falso. Uno de los proyectos de ley firmados por el estado de California la semana pasada permite a las víctimas demandar a cualquiera que ponga su imagen en un video pornográfico sin consentimiento.

A principios de este año, el CEO de Facebook, Mark Zuckerberg, se convirtió en víctima de una falsificación profunda. Zuckerberg fue retratado para decir: "Imagine esto por un segundo: un hombre, con control total de los datos robados de miles de millones de personas, todos sus secretos, sus vidas, su futuro".

Claramente, para la mayoría de nosotros, el video de Zuckerberg es falso. El video fue creado por la startup Canny AI de Isreali como parte de una instalación de arte comisionada llamada Specter que se exhibió en el Sheffield Doc / Fest en el Reino Unido.

Un mes antes del video de Zuckerberg, Facebook se negó a eliminar un video falso de la presidenta de la Cámara de Representantes, Nancy Pelosi, cuyo objetivo era retratarla como intoxicada. Si se permite que los deepfakes se vuelvan virales en grandes plataformas de redes sociales como Facebook, planteará grandes problemas sociales.

Más tarde, Pelosi le dijo al KQED de California: "Creo que han demostrado, al no eliminar algo que saben que es falso, que estaban dispuestos a habilitar la interferencia rusa en nuestras elecciones".

El segundo proyecto de ley de California legisla contra la publicación de cualquier video manipulado de un candidato político, aunque solo dentro de los 60 días de una elección.

El representante de la Asamblea de California, Marc Berman, dijo:

“Los votantes tienen derecho a saber cuándo se muestran videos, audios e imágenes que se muestran, para tratar de influir en su voto en una próxima elección, si han sido manipulados y no representan la realidad.

[That] hace que la tecnología deepfake sea una nueva herramienta poderosa y peligrosa en el arsenal de aquellos que desean realizar campañas de desinformación para confundir a los votantes ".

Si bien muchas personas ahora saben que no confían en todo lo que leen, la mayoría de nosotros todavía estamos acostumbrados a creer lo que vemos con nuestros ojos. Eso es lo que representa la mayor amenaza con los videos falsos.

¿Interesado en escuchar a líderes de la industria discutir temas como este? Asista a la 5G Expo, IoT Tech Expo, Blockchain Expo, AI & Big Data Expo y Cyber ​​Security & Cloud Expo World Series con eventos próximos en Silicon Valley, Londres y Amsterdam.






Dejar respuesta

Please enter your comment!
Please enter your name here