Si viste recientemente un anuncio en Facebook u otra plataforma que muestra a Taylor Swift ensalzando las virtudes de los utensilios de cocina y utensilios de cocina de Le Creuset, estabas engañado.
Sí, Swift es fanática de la marca. Pero no, esa no es su voz, por realista que parezca.
Tay-Tay es la última celebridad a la que se le ha falsificado la voz o la imagen con tecnología de inteligencia artificial para engañarlo haciéndole creer que la celebridad respalda un producto u organización.
Tom Hanks, Gayle King y la personalidad de YouTube MrBeast también han sido falsificados con versiones falsas de IA de ellos mismos.
Como dice el New York Times informesalguien combinó una versión sintética de la voz de Swift con imágenes antiguas de ella junto a los hornos holandeses Le Creuset.
“En varios anuncios”, informó el Times, “la Sra. La voz clonada de Swift se dirigió a los ‘Swifties’ (sus fans) y dijo que estaba ‘encantada’ de repartir juegos de utensilios de cocina gratis. Todo lo que la gente tenía que hacer era hacer clic en un botón y responder algunas preguntas antes de que terminara el día”.
Le Creuset dice que no jugó ningún papel en los anuncios muy falsos e instó a los compradores a tener cuidado de no hacer clic en marketing sospechoso.
Este es el último ejemplo de cómo los estafadores pueden utilizar la IA para engañar a las personas haciéndoles creer que una oferta es legítima.
Después de todo, si Swift lo admite, debe ser bueno.
En el pasado, tales estratagemas eran a menudo transparentes para cualquiera que se tomara el tiempo de preguntarse por qué una celebridad de primer nivel se rebajaría a presentar productos.
Pero la IA se ha vuelto tan sofisticada y con tanta rapidez que es más difícil que nunca saber qué es falso y qué no.
Por eso es vital que los legisladores adopten rápidamente regulaciones para esta tecnología.
Tal como están las cosas, actualmente no existen leyes federales que aborden las estafas de IA. Actualmente están pendientes dos proyectos de ley: la Ley de Responsabilidad de Deepfakes en la Cámara y la Ley de No Falsificaciones en el Senado.
Pero se centran más en la divulgación o en pedir permiso para utilizar la voz o la imagen de una celebridad.
Ese es un comienzo. Pero los estafadores no son conocidos por seguir reglas o pedir permiso para engañar a la gente.
Para solucionar este problema de raíz, las plataformas en línea deben rendir cuentas por el contenido que publican, incluidos los anuncios.
No es tan difícil. Cualquier empleado sensato de Facebook debería haberse preguntado si alguien de la talla de Swift realmente estaría vendiendo utensilios o algo así. Si no se puede confirmar la veracidad del anuncio, no debe publicarse.
Período.
La tecnología digital sigue estando a años luz de las leyes y regulaciones existentes. Necesitamos ponernos al día y debemos hacerlo ahora.
Y las redes sociales deben asumir la responsabilidad de garantizar que los usuarios no sean llevados a la tintorería (o a la cocina) mediante falsificaciones profundas.