La pornografía deepfake de mujeres famosas como Taylor Swift ha provocado indignación y exige la regulación de la inteligencia artificial. Sin embargo, esta poderosa tecnología no sólo se utiliza para intimidar a las mujeres ante el público: también se está victimizando a menores. Las colegialas se están viendo atacadas por pornografía deepfake generada por IA y creada por sus propios compañeros de clase utilizando nuevas aplicaciones “nudizantes” de fácil acceso. Y no existen leyes federales para detenerlo.
Francesca Mani fue convocada el pasado otoño a la oficina del subdirector de Westfield High School, en los suburbios de Nueva Jersey, donde le dijeron que era una “víctima confirmada de IA”.
Mani, que entonces tenía 14 años, fue informada de que estaba entre un grupo de colegialas a las que les habían hecho imágenes falsas de desnudos utilizando inteligencia artificial. Los chicos de Westfield High compartieron las imágenes falsas a través de Snapchat.
“Estaba en shock”, dijo Francesca. “Comencé a sentirme un poco triste pero salí al pasillo y vi a un grupo de chicos burlándose de un grupo de chicas. Se reían de eso. Y luego me enojé muchísimo”.
Fue en ese momento que Francesca, una estrella de la esgrima olímpica juvenil, decidió contraatacar.
Las imágenes falsas se habían compartido durante las pausas del almuerzo escolar y en el autobús escolar, según informes policiales. Pero lo que los chicos habían hecho no era ilegal: no existen leyes federales contra los deepfakes generados por IA en los Estados Unidos.
Cuando Francesca le contó a su madre, Dorota, lo sucedido, se puso furiosa.
“Desde el principio de los tiempos, las mujeres tenemos que luchar por nuestros derechos y nuestro consentimiento”, dijo Dorota, una inmigrante polaca con cinturón negro en jujitsu. “Es el mayor problema aquí: el consentimiento”.
El niño que realizó las imágenes fue suspendido de la escuela por dos días pero no hubo mayores responsabilidades.
Francesca optó por no mirar las imágenes. Pero se sentía incómoda al saber que el chico que los hizo –y los demás que los habían compartido– estaban en sus clases.
Algunas leyes estatales de EE. UU. prohíben la pornografía deepfake no consensuada, incluso en Texas, Minnesota, Virginia, Nueva York, Hawái y Georgia. Pero eso no ha impedido la proliferación de imágenes de desnudos generadas por IA en escuelas secundarias de Nueva Jersey, California o Florida.
Casos como el de Westfield High subrayan la necesidad de que la ley se ponga al día con esta tecnología acelerada. Francesca y su madre se pusieron en contacto con legisladores locales y se pusieron a trabajar presionando para que la legislación estatal y federal tipificara como delito el intercambio no consensuado de imágenes pornográficas alteradas digitalmente.
Dorota y Francesca han viajado frecuentemente a Washington, DC, durante los últimos tres meses para cabildear a favor de un proyecto de ley bipartidista, llamado el DESAFÍO actuar, eso haría que compartir deepfakes sexualmente explícitos sea un delito y permitiría a las víctimas demandar a quienes los crean y distribuyen.
Un proyecto de ley que establecería sanciones penales está ahora en vigor haciendo su camino a través de la legislatura de Nueva Jersey, en parte gracias a sus esfuerzos.
Ambos lados del espectro político en Estados Unidos parecen estar de acuerdo en que se debe hacer más para proteger a las personas, en particular a los menores, de la proliferación de pornografía ultrafalsa.
Los legisladores también están examinando cómo responsabilizar a las empresas de tecnología que alojan estas aplicaciones y sitios web.
“Este tema va más allá de los adolescentes y las escuelas secundarias”, explicó Dorota en una visita reciente a la Casa Blanca. “Hablamos de depredadores y pedófilos, que lo utilizan para dañar a otros. Creo que las leyes y la legislación son cruciales”.
Otra víctima adolescente de Westfield High School, que desea permanecer en el anonimato, ha emprendido acciones legales directas contra un compañero de clase. Su demanda, presentada en febrero, alega que sufrió una angustia emocional sustancial y daño a su reputación, por lo que exige una compensación financiera.
La demanda nombra la aplicación utilizada para crear las imágenes: Clothoff. La aplicación, de fácil acceso y económica, afirma que puede eliminar ropa de cualquier foto. Se cree que sus secretos fundadores tienen su sede en Bielorrusia.
El porno deepfake está “dirigido exclusivamente a mujeres”
En 2023, el número total de vídeos deepfake en línea fue de 95.820, lo que representa un aumento del 550 % con respecto a 2019. de acuerdo con el reporte por Home Security Heroes, un grupo que investiga la seguridad en línea. La pornografía deepfake representó el 98% de esos videos en línea. El estudio también encontró que el 99% de las personas a las que se dirige la pornografía deepfake son mujeres.
“Es un fenómeno que apunta casi exclusivamente a las mujeres”, dijo la exfuncionaria de la administración de Joe Biden, Nina Jankowicz, en una conferencia en la Universidad de Columbia el 4 de marzo.
Jankowicz es experta en desinformación y acoso online a mujeres. Ella se convirtió en una víctima ella misma de pornografía deepfake y solo se dio cuenta cuando recibió una alerta de Google que vinculaba a videos explícitos en los que aparecía alguien que se parecía a ella. Se habían hecho vídeos deepfake a partir de su retrato oficial, tomados mientras estaba embarazada. La imagen fue recogida por medios de comunicación de derecha, enojados por su papel en la lucha contra la desinformación en la administración Biden, y los trolls en línea la habían convertido en pornografía.
“Se parece un poco a mí, pero en realidad no lo es, porque está enfocado en este retrato muy específico de mí y puedo decir que está enfocado en eso”, dijo Jankowicz, señalando los videos gráficos en su computadora portátil. Pero no, no lo vi todo. Cada uno dura unos siete minutos; eso es mucho a lo que uno se debe someter”.
Dijo que parte de la razón por la que estos deepfakes están proliferando tan rápidamente es que las aplicaciones utilizadas para crearlos ahora están fácilmente disponibles. “Esta tecnología se ha democratizado por completo ahora y se está utilizando no sólo contra celebridades, como Taylor Swift o figuras públicas como yo. Se está utilizando contra personas comunes y corrientes: madres, mujeres jóvenes de secundaria y preparatoria cuyos compañeros de clase están tomando estas imágenes de Todas las aplicaciones nudificadoras deben retirarse de las tiendas de aplicaciones y mercados y cosas así”.
Aumento global del porno deepfake
Las Naciones Unidas han estado investigando cómo combatir el auge global de esta tecnología.
Kathryn Travers, experta en políticas de ONU Mujeres, cree que la educación es clave. “Hay que enseñar a los niños a respetar a las mujeres y a ser responsables en línea del mismo modo que hay que enseñar a las niñas”, afirma.
Estas imágenes de IA pueden existir en el espacio virtual, pero tienen un impacto en el mundo real. Las niñas y las mujeres experimentan niveles desproporcionados de violencia en línea, a veces con consecuencias devastadoras.
“Es posible que se encuentren en una posición en la que tengan menos conocimiento sobre sus derechos y sobre a quién informar. Muchos a menudo se culpan a sí mismos: debido al potencial de la tecnología para acumular, compartir y volver a compartir sus imágenes, el impacto en la salud mental es enorme y ha provocado la muerte por suicidio de varias niñas”.
Los padres de niños de todo el mundo que son objeto de pornografía deepfake se han puesto en contacto con Dorota para pedirle consejo. “He estado hablando con padres y víctimas de todo Estados Unidos: Texas, Wisconsin, California. Recientemente alguien de Grecia se puso en contacto conmigo y antes de Japón, Londres, París, Australia y Canadá. Es un problema global”.