Londres (CNN) – Un video deepfake que sugiere erróneamente que la esposa del presidente de Ucrania, Volodymyr Zelensky, compró un auto de lujo durante la visita de la pareja a París el mes pasado es probablemente parte de una red de desinformación vinculada a Rusia, según el análisis de CNN y expertos en desinformación.
En el video generado por IA aparece un empleado inexistente del concesionario Bugatti de París afirmando que Olena Zelenska compró su nuevo modelo, el Bugatti Tourbillon, por 4,5 millones de euros (unos US$ 4,8 millones) el 7 de junio.
Según Clément Briens, investigador de la empresa de ciberseguridad Recorded Future, el video tiene varias marcas indicativas de ser falso, desde los cortes en el video hasta el extraño acento y los movimientos de labios y boca. A pesar de ello, reunió unos 18 millones de visitas en 24 horas en X, donde fue republicado por influencers prorrusos.
Bugatti dijo en un comunicado el martes que su concesionario en París, operado por Autofficina Parigi, una empresa de Car Lovers Group, fue víctima de varios delitos penales y “denunció firmemente esta campaña de desinformación”.
“Un supuesto vendedor que dice pertenecer al Car Lovers Group y a su marca deportiva Schumacher Group, publicó un video en las redes sociales en el que indicaba que el concesionario Bugatti París vendió un vehículo a la pareja presidencial ucraniana”, dijo, añadiendo que el grupo “niega firmemente tanto la existencia de la transacción como, en consecuencia, la existencia de la factura”.
“Los detalles legales obligatorios no aparecen en la factura, el precio del vehículo también es erróneo, el precio de las opciones y sus descripciones son inexactas e incoherentes, los gráficos están desfasados, y el Car Lovers Group nunca habría permitido que se emitiera un documento así”, añade el comunicado.
El grupo también dijo que emprendió acciones legales “presentando una denuncia penal por falsificación, uso de falsificaciones, usurpación de identidad y difamación”, pero no especificó contra quién se presentó la denuncia.
Clarity, una startup de ciberseguridad de IA que lucha contra las deepfakes, dijo a CNN que su revisión del video indicaba “una alta certeza de manipulaciones de IA, principalmente alrededor del centro del área de la cara”.
El video proviene de un sitio web en francés, Verite Cachee France (sic), cuyo contenido parece ser generado por IA mediante el scraping de medios franceses.
Un análisis de CNN muestra que Verite Cachee se creó recientemente, el 22 de junio de 2024, y algunas de sus páginas todavía tienen prompts con IA para crear artículos falsos en la parte superior de la pieza. CNN no ha podido encontrar ningún medio de contacto para el sitio web.
El título del sitio web tampoco utiliza acentos (la ortografía correcta sería Vérité Cachée) lo que arroja más dudas sobre su autenticidad.
Darren Linvill, profesor del Media Forensics Hub de la Universidad de Clemson, dijo a CNN que los sitios web de Verite Cachee y Deep Fake llevan el sello distintivo de una campaña rusa de “lavado de narrativa” que lleva en marcha desde el pasado agosto, con el objetivo de socavar a Ucrania.
“Normalmente suben a YouTube un video con una historia. Luego cuentan esa historia superponiéndola a las páginas de noticias falsas que han creado y, a menudo, también a una o más páginas web aliadas. A continuación, integran la historia a través de las redes sociales, empezando por personas influyentes prorrusas reales que forman parte de su red”, explica a CNN. “El único cambio menor con esta campaña es que el video no parece estar en YouTube”.
En un informe del pasado diciembre, Linvill y Patrick Warren, también profesor de Clemson, mostraron cómo la campaña de desinformación fue dirigida por DC Weekly, un sitio web que publicó una serie de propaganda rusa generada por IA e historias falsas, como la afirmación desacreditada de que Olena Zelenska compró joyas por US$ 1,1 millones en Cartier en Nueva York el pasado septiembre.
Un informe de Recorded Future, empresa líder en ciberseguridad, también identificó a Veritee Cachee como parte de la misma red de desinformación.
Dado el tamaño y los recursos de la red, es probable que exista algún tipo de apoyo o financiación rusa, según declaró a CNN Clément Briens, analista senior de inteligencia de amenazas de la empresa.
“Recogen artículos automáticamente de varias fuentes, utilizando LLM (modelo masivo de lenguaje) para introducir un sesgo específicamente político para atacar a Zelensky, Biden y la OTAN. Luego suben los artículos para hacer un lavado de narrativa prorrusa”, dijo Briens.
El gran volumen de artículos hace que sea más difícil detectar cuándo se introducen deepfakes porque cuando alguien hace clic en el sitio web, ve una acumulación de artículos que normalmente pasan la comprobación inicial, dijo.
“Luego, cuando alguien sube el video a YouTube o directamente a la web, se activa el sistema de amplificación en las redes sociales”.
El objetivo son los lectores políticos en Europa, con el propósito de erosionar el apoyo político interno a Ucrania y socavar a los líderes europeos que apoyan a Ucrania, como el presidente de Francia, Emmanuel Macron, según el analista.