(CNN) – Es probable que la creación de contenido “deepfake” sexualmente explícito se convierta en un delito penal en Inglaterra y Gales a medida que crece la preocupación por el uso de inteligencia artificial para explotar y acosar a las mujeres.
Según un proyecto de ley, cualquiera que cree una imagen o un video de otro adulto sin su consentimiento (incluso si no tiene la intención de compartirlo) se enfrentaría a ser objeto de un registro penal y a una multa ilimitada, anunció el martes el Departamento de Justicia del Reino Unido. Ya es ilegal en Inglaterra y Gales compartir “deepfakes” explícitos sin el consentimiento del sujeto, y los perpetradores enfrentan penas de cárcel.
Los “deepfakes” son imágenes o videos que han sido manipulados, a menudo utilizando IA, para dar la impresión de que alguien ha hecho o dicho algo que no es cierto.
Laura Farris, ministra de Víctimas y Protección del Reino Unido, dijo a ITV el martes que “hasta donde ella sabe”, los dos países del Reino Unido serían los primeros en el mundo en prohibir la creación de “deepfakes” sexualmente explícitos.
Según el proyecto de ley, dicho contenido incluiría tanto imágenes pornográficas como desnudos falsos, independientemente de que el sujeto tenga o no un comportamiento erótico.
El nuevo delito en Inglaterra y Gales se introducirá mediante una enmienda al proyecto de ley de justicia penal, una ley que actualmente se encuentra en el parlamento. El año pasado, los cambios a la Ley de Seguridad en Línea ya penalizaron el intercambio de imágenes sexuales falsas en Inglaterra y Gales.
El nuevo delito se aplica sólo a los adultos ya que, según las normas inglesas y galesas existentes, la creación de imágenes sexuales falsas de menores ya es un delito.
La creación de “deepfakes” ha incluido la superposición de rostros de mujeres, sin su consentimiento, sobre imágenes sexualmente explícitas. Taylor Swift es quizás la víctima más destacada de esta práctica. En enero, imágenes de este tipo de la cantante circularon en X y recibieron decenas de millones de visitas antes de ser eliminadas.
Ese mes, un grupo bipartidista de legisladores en Estados Unidos presentó un proyecto de ley civil que, de ser aprobado, permitirá a las víctimas de “deepfakes” sexualmente explícitos demandar a las personas que crean y comparten dicho contenido sin su consentimiento.
En la Unión Europea también se ha propuesto una normativa que penaliza la creación de “deepfakes” sexualmente explícitos. Si se aprueba la norma, los 27 estados miembros del bloque tendrán que crear las leyes nacionales correspondientes.
Farris, la ministra del Reino Unido, dijo en un comunicado que los “deepfakes” eran ejemplos de las “formas en que ciertas personas buscan degradar y deshumanizar a otras, especialmente a las mujeres”.
“Este nuevo delito envía un mensaje muy claro de que producir este material es inmoral, a menudo misógino y un delito”, añadió.
Meta, propietaria de Facebook e Instagram, dijo el martes que revisaría cómo maneja la pornografía “deepfake” después de que circularan en sus plataformas dos imágenes explícitas generadas por inteligencia artificial de figuras públicas femeninas en Estados Unidos e India.
“La pornografía ‘deepfake’ es una causa creciente de acoso por motivos de género en línea y se utiliza cada vez más para atacar, silenciar e intimidar a las mujeres, tanto dentro como fuera de línea”, dijo la copresidenta de la Junta de Supervisión de Meta, Helle Thorning-Schmidt, en un comunicado.