Sydney (CNN) – Las autoridades australianas investigan la distribución de imágenes pornográficas deepfake de unas 50 estudiantes, presuntamente creadas por un adolescente mediante inteligencia artificial.
El descubrimiento ocurre mientras el Gobierno federal impulsa nuevas leyes para imponer penas de prisión a los delincuentes que generen y compartan imágenes creadas por herramientas de Inteligencia Artificial (IA) para humillar y denigrar a las víctimas.
Otros países, entre ellos Estados Unidos, están intentando hacer frente al alarmante aumento de la pornografía deepfake, donde se han creado y compartido imitaciones de desnudos de estudiantes, en algunos casos presuntamente por parte de otros estudiantes.
La policía de Victoria confirmó que detuvo y puso en libertad a un adolescente “en relación con imágenes explícitas que circulaban por Internet”, a la espera de nuevas investigaciones.
Al parecer, las imágenes se crearon a partir de fotos publicadas en las redes sociales de 50 alumnas de Bacchus Marsh Grammar, un colegio mixto situado a las afueras de Melbourne (Victoria).
El director de la escuela, Andrew Neal, declaró a la Australian Broadcasting Corporation (ABC) que las víctimas eran chicas de noveno a doceavo grado, lo que indica un posible rango de edad de entre 14 y 18 años.
Se desconoce la edad y la identidad del presunto responsable, pero Neal dijo a ABC que “la lógica sugeriría que el (agresor) es alguien de la escuela”.
En declaraciones a ABC el miércoles, la madre de una estudiante de 16 años de Bacchus Marsh Grammar, cuya imagen no fue utilizada, dijo que su hija vomitó cuando vio las fotos “mutiladas” en línea.
“Fui a recoger a mi hija de una pijamada y estaba muy alterada, vomitaba y era increíblemente gráfico”, dijo la madre a ABC Radio Melbourne, dando solo su nombre de pila, Emily.
En un comunicado, el centro escolar informó que ofrecía asesoramiento a los alumnos y ayudaba a la Policía en su investigación.
“El bienestar de los estudiantes de Bacchus Marsh Grammar y sus familias es de suma importancia para la escuela y se está abordando”, dice el comunicado.
Lucha legal para detener los deepfakes
Las empresas de redes sociales, como X y Meta, afirman que toda la pornografía no consentida está prohibida en sus plataformas, pero las imágenes explícitas generadas por IA siguen difundiéndose rápidamente por Internet.
En noviembre pasado, la estudiante de secundaria Francesca Mani, de 14 años, se puso a la cabeza de las peticiones públicas para que se tomaran medidas federales en Estados Unidos contra la pornografía deepfake generada por IA, afirmando que se habían manipulado imágenes suyas y de decenas de sus compañeros del instituto Westfield.
Entre las víctimas de alto perfil de imágenes explícitas manipuladas se incluyen Taylor Swift y la congresista de Nueva York, Alexandria Ocasio-Cortez.
En marzo, Ocasio-Cortez presentó una legislación federal —la Ley de Desarticulación de Imágenes Explícitas Falsificadas y Ediciones No Consensuadas de 2024 (Ley DEFIANCE)— para dar a las víctimas el poder de demandar a las personas que crean deepfakes no consensuados de ellos.
Sin embargo, la legislación bipartidista, respaldada por republicanos de alto rango, no logró pasar una moción de consenso unánime el miércoles, según una declaración de la Comisión Judicial del Senado.
Victoria es el único estado australiano donde compartir pornografía deepfake es un delito penal.
En 2022, el Gobierno del estado introdujo penas de tres años de cárcel por utilizar la tecnología para generar o compartir material de abuso infantil o material sexualmente explícito sin consentimiento.
Este mes, el Gobierno de Australia presentó una ley para penalizar la distribución de pornografía deepfake en todo el país.
Según la ley propuesta, los infractores podrían enfrentarse a penas de hasta seis años de prisión por compartir material deepfake sexualmente explícito sin consentimiento.
Si el infractor también creó el contenido deepfake que se comparte sin permiso, la pena podría elevarse a siete años de prisión.
La medida forma parte de la respuesta del país a la violencia de género que el primer ministro, Anthony Albanese, ha calificado de “crisis nacional”.
En lo que va de este año, 35 mujeres han sido asesinadas, según el proyecto Counting Dead Women, muchas presuntamente a manos de sus parejas actuales o anteriores.
El mes pasado, el Gobierno estatal nombró por primera vez en Australia a un secretario parlamentario para el Cambio de Comportamiento de los Hombres.
En su nombramiento, el diputado Tim Richardson dijo que se centraría en el impacto de Internet y las redes sociales en las actitudes de los hombres hacia las mujeres.
En una declaración, el miércoles, la primera ministra del estado de Victoria, Jacinta Allan, dijo que las supuestas acciones del adolescente eran “vergonzosas y misóginas”.
“Las mujeres y las niñas merecen respeto en clase, en Internet y en cualquier otro lugar de nuestra comunidad, por eso hemos promulgado leyes contra este comportamiento y estamos enseñando relaciones respetuosas en las escuelas para detener la violencia antes de que empiece”, declaró Allan.