Por David Klepper y Krutika Pathi Associated Press
NUEVA DELHI – Las estrellas de Bollywood rara vez intervienen en la política, por lo que los videos que mostraban a dos celebridades criticando al primer ministro indio Narendra Modi (y respaldando a su principal oposición, el Partido del Congreso) seguramente se volverían virales.
Pero los clips de los actores de primer nivel Aamir Khan y Ranveer Singh eran videos falsos generados por inteligencia artificial que eran otro ejemplo más de las afirmaciones falsas o engañosas que circulan en línea con el objetivo de influir en las elecciones de la India. Ambos actores presentaron denuncias ante la policía, pero esas acciones no sirven de mucho para detener el flujo de información errónea.
Las afirmaciones que circulan en línea recientemente en la India han tergiversado detalles sobre cómo emitir un voto, han afirmado sin pruebas que las elecciones estarán amañadas y han llamado a la violencia contra los musulmanes de la India.
Los investigadores que rastrean la desinformación y el discurso de odio en India dicen que la mala aplicación de sus propias políticas por parte de las empresas de tecnología ha creado las condiciones perfectas para contenido dañino que podría distorsionar la opinión pública, estimular la violencia y dejar a millones de votantes preguntándose qué creer.
“¿Un usuario no exigente o un usuario normal no tiene idea de si se trata de alguien, un individuo que comparte sus pensamientos al otro lado de la línea o es un robot?” dijo a The Associated Press Rekha Singh, un votante de 49 años. Singh dijo que le preocupa que los algoritmos de las redes sociales distorsionen la visión de la realidad de los votantes. “Así que eres parcial sin siquiera darte cuenta”, dijo.
En un año repleto de grandes elecciones, destaca el voto en expansión en la India. El país más poblado del mundo cuenta con decenas de idiomas, el mayor número de usuarios de WhatsApp y el mayor número de suscriptores de YouTube. Casi mil millones de votantes tienen derecho a votar en las elecciones, que se prolongarán hasta junio.
Empresas tecnológicas como Google y Meta, propietaria de Facebook, WhatsApp e Instagram, dicen que están trabajando para combatir el contenido engañoso u odioso y al mismo tiempo ayudar a los votantes a encontrar fuentes confiables. Pero los investigadores que han rastreado durante mucho tiempo la desinformación en la India dicen que sus promesas suenan vacías después de años de aplicación fallida y enfoques “cortados” que no tienen en cuenta la diversidad lingüística, religiosa, geográfica y cultural de la India.
Dado el tamaño de la India y su importancia para las empresas de redes sociales, se podría esperar una mayor atención, dicen los investigadores de desinformación que se centran en la India.
“Las plataformas están ganando dinero con esto. Ellos se están beneficiando y todo el país está pagando el precio”, afirmó Ritumbra Manuvie, profesora de Derecho en la Universidad de Groningen, en los Países Bajos. Manuvie es líder de The London Story, un grupo de la diáspora india que el mes pasado organizó una protesta frente a las oficinas de Meta en Londres.
La investigación realizada por el grupo y otra organización, India Civil Watch International, encontró que Meta permitía anuncios y publicaciones políticas que contenían discursos de odio antimusulmanes, narrativas nacionalistas hindúes, publicaciones misóginas sobre candidatas y anuncios que fomentaban la violencia contra opositores políticos.
Los anuncios fueron vistos más de 65 millones de veces en 90 días a principios de este año. Juntos cuestan más de un millón de dólares.
Meta defiende su trabajo sobre las elecciones globales y cuestionó los hallazgos de la investigación sobre la India, señalando que ha ampliado su trabajo con organizaciones independientes de verificación de datos antes de las elecciones y tiene empleados en todo el mundo listos para actuar en caso de que sus plataformas sean utilizadas indebidamente. para difundir información errónea. Nick Clegg, presidente de asuntos globales de Meta, dijo sobre las elecciones de la India: “Es una prueba enorme, enorme para nosotros”.
“Tenemos meses y meses y meses de preparación en la India”, dijo a The Associated Press durante una entrevista reciente. “Tenemos equipos trabajando las 24 horas del día. Contamos con verificadores de datos en varios idiomas que operan en la India. Tenemos un sistema de escalada de 24 horas”.
YouTube es otro sitio problemático para la desinformación en la India, dicen los expertos. Para probar qué tan bien le estaba yendo a esa plataforma para compartir videos en el cumplimiento de sus propias reglas, investigadores de las organizaciones sin fines de lucro Global Witness y Access Now crearon 48 anuncios falsos en inglés, hindi y telugu con información de votación falsa o llamados a la violencia. Uno afirmó que India aumentó su edad para votar a 21 años, aunque sigue siendo 18, mientras que otro dijo que las mujeres podían votar por mensajes de texto, aunque no pueden. Un tercero pidió el uso de la fuerza en los lugares de votación.
Cuando Global Witness envió los anuncios a YouTube para su aprobación, la respuesta fue decepcionante, dijo Henry Peck, investigador de Global Witness.
“YouTube no actuó sobre ninguno de ellos”, dijo Peck, y en su lugar aprobó la publicación de los anuncios.
Google, propietario de YouTube, criticó la investigación y señaló que cuenta con múltiples procedimientos para detectar anuncios que violan sus reglas. Global Witness eliminó los anuncios antes de que pudieran ser detectados y bloqueados, dijo la compañía.
“Nuestras políticas prohíben explícitamente los anuncios que hagan afirmaciones demostrablemente falsas que puedan socavar la participación o la confianza en una elección, lo cual aplicamos en varios idiomas indios”, dijo Google en un comunicado. La empresa también destacó sus asociaciones con grupos de verificación de datos.
La IA es la amenaza más reciente de este año, ya que los avances en los programas hacen que sea más fácil que nunca crear imágenes, videos o audio realistas. Los deepfakes de IA están apareciendo en elecciones de todo el mundo, desde Moldavia hasta Bangladesh.
Senthil Nayagam, fundador de una startup de inteligencia artificial llamada Muonium AI, cree que hay una demanda creciente de deepfakes, especialmente de políticos. En el período previo a las elecciones, recibió varias consultas sobre cómo hacer vídeos políticos utilizando IA. “Sin duda hay un mercado para esto”, afirmó.
Algunas de las falsificaciones que produce Nayagam presentan a políticos muertos y no deben tomarse en serio, pero otras falsificaciones profundas que circulan en línea podrían engañar a los votantes. Es un peligro que el propio Modi ha destacado.
“Necesitamos educar a la gente sobre la inteligencia artificial y los deepfakes, cómo funciona y qué puede hacer”, afirmó Modi.
El Ministerio de Información y Tecnología de la India ha ordenado a las empresas de redes sociales que eliminen la desinformación, especialmente los deepfakes. Pero los expertos dicen que la falta de una regulación clara o de una ley centrada en la IA y los deepfakes hace que sea más difícil aplastarlos, dejando a los votantes determinar qué es verdad y qué es ficción.
Para Ankita Jasra, de 18 años, que vota por primera vez, estas incertidumbres pueden hacer que sea difícil saber qué creer.
“Si no sé que lo que se dice es verdad, no creo que pueda confiar en la gente que gobierna mi país”, dijo.
Los periodistas de AP Matt O’Brien en Providence, Rhode Island, y Rishi Lekhi en Nueva Delhi contribuyeron a este informe.