Google’s Nonconsensual Explicit Images Problem Is Getting Worse

A principios de 2022, dos miembros del personal de políticas de Google se reunieron con un trío de mujeres víctimas de una estafa que dio lugar a que circularan en línea videos explícitos de ellas, incluso a través de los resultados de búsqueda de Google. Las mujeres estaban entre los cientos de adultos jóvenes que respondieron a anuncios que buscaban modelos de trajes de baño y fueron obligados a actuar en videos sexuales distribuidos por el sitio web GirlsDoPorn. El sitio Cerrado en 2020y un productor, Un contabley Un camarógrafo después Se declaró culpable de tráfico sexualpero los videos seguían apareciendo en la búsqueda de Google más rápido de lo que las mujeres podían solicitar su eliminación.

Las mujeres, acompañadas por un abogado y un experto en seguridad, presentaron una gran cantidad de ideas sobre cómo Google podría mantener mejor ocultos los clips criminales y degradantes, según cinco personas que asistieron o fueron informadas sobre la reunión virtual. Querían que la búsqueda de Google prohibiera los sitios web dedicados a GirlsDoPorn y los videos con su marca de agua. Sugirieron que Google podría tomar prestado el disco duro de 25 terabytes en el que el consultor de ciberseguridad para mujeres, Charles DeBarber, había guardado todos los episodios de GirlsDoPorn, tomar una huella matemática, o “hash”, de cada clip y bloquearlos para que no reaparecieran en los resultados de búsqueda.

Los dos empleados de Google que asistieron a la reunión esperaban utilizar lo aprendido para conseguir más recursos de los altos mandos. Pero el abogado de la víctima, Brian Holm, se marchó con dudas. El equipo de políticas estaba en “una situación difícil” y “no tenía autoridad para efectuar cambios dentro de Google”, afirma.

Su reacción instintiva fue la correcta. Dos años después, ninguna de las ideas planteadas en la reunión se ha llevado a la práctica y los videos siguen apareciendo en las búsquedas.

WIRED ha hablado con cinco ex empleados de Google y 10 defensores de víctimas que han estado en contacto con la empresa. Todos ellos dicen que aprecian que, debido a los cambios recientes que ha realizado Google, las sobrevivientes de abusos sexuales basados ​​en imágenes, como la estafa GirlsDoPorn, puedan denunciar con mayor facilidad y éxito eliminar resultados de búsqueda no deseados. Pero están frustrados porque la gerencia del gigante de las búsquedas no ha aprobado propuestas, como la idea del disco duro, que creen que restaurará y preservará más completamente la privacidad de millones de víctimas en todo el mundo, la mayoría de ellas mujeres.

Las fuentes describen deliberaciones internas no reportadas previamente, incluyendo la justificación de Google para no usar una herramienta de la industria llamada StopNCII que comparte información sobre imágenes íntimas no consensuales (NCII) y el fracaso de la compañía para exigir que los sitios web pornográficos verifiquen el consentimiento para calificar para el tráfico de búsqueda. El propio equipo de investigación de Google ha publicado medidas que las empresas tecnológicas pueden tomar contra la NCII, incluido el uso de StopNCII.

Las fuentes creen que tales esfuerzos ayudarían a contener mejor un problema que está creciendo, en parte a través de la ampliación del acceso a herramientas de inteligencia artificial que crean deepfakes explícitos, incluidos los de las supervivientes de GirlsDoPorn. Informes generales a la línea directa de pornografía vengativa del Reino Unido más del doble El año pasado, la cifra aumentó a aproximadamente 19.000, al igual que el número de casos relacionados con contenido sintético. La mitad de los más de 2.000 británicos en una encuesta reciente preocupado por ser víctima de deepfakes. La Casa Blanca en mayo Instó a actuar con mayor rapidez por parte de los legisladores y la industria para frenar la NCII en general. En junio, Google se unió a otras siete empresas y nueve organizaciones en anunciando un grupo de trabajo para coordinar las respuestas.

En este momento, las víctimas pueden exigir que se procese a los abusadores o presentar demandas legales contra los sitios web que alojan el contenido, pero ninguna de esas vías está garantizada y ambas pueden resultar costosas debido a los honorarios legales. Hacer que Google elimine los resultados puede ser la táctica más práctica y sirve al objetivo final de mantener el contenido infractor fuera de la vista de amigos, gerentes de contratación, posibles propietarios o citas, quienes probablemente recurran a Google para buscar personas.

Una portavoz de Google, que pidió el anonimato para evitar el acoso de los perpetradores, se negó a hacer comentarios sobre la llamada con las víctimas de GirlsDoPorn. Ella dice que combatir lo que la empresa llama imágenes explícitas no consentidas (NCEI, por sus siglas en inglés) sigue siendo una prioridad y que las acciones de Google van mucho más allá de lo que exige la ley. “A lo largo de los años, hemos invertido mucho en políticas y protecciones líderes en la industria para ayudar a proteger a las personas afectadas por este contenido dañino”, dice. “Los equipos de Google continúan trabajando diligentemente para reforzar nuestras salvaguardas y abordar cuidadosamente los desafíos emergentes para proteger mejor a las personas”.

Fuente