Empresa de redes sociales Snap dicho Martes que planea agregar marcas de agua a las imágenes generadas por IA en su plataforma.
La plataforma está agregando un logotipo de un pequeño fantasma con un ícono brillante para indicar una imagen generada por IA. La compañía dijo que la marca de agua aparecería cuando la imagen se exporte o se guarde en el carrete de la cámara.
Snap planea mostrar un logotipo de Ghost con brillo en imágenes generadas por IA utilizando sus herramientas. Créditos de imagen: Quebrar
En su página de soporte, la compañía dijo que eliminar la marca de agua Ghost con destellos de Snap viola sus términos. No está claro cómo Snap planea detectar la eliminación de la marca de agua. Le hemos pedido a la compañía más detalles y actualizaremos la historia cuando tengamos noticias.
Otros gigantes tecnológicos como Microsoft, Meta y Google también han tomado medidas para etiquetar o identificar imágenes creadas con herramientas impulsadas por inteligencia artificial.
Actualmente, Snap permite a los usuarios crear o editar imágenes generadas por IA con Snap AI para usuarios pagos y una función centrada en selfies llamada Dreams.
En su entrada en el blog Al describir sus prácticas de seguridad y transparencia en torno a la IA, la compañía explicó que muestra funciones impulsadas por la IA, como lentes, con marcadores visuales como un logotipo brillante.
Snap enumera indicadores para funciones impulsadas por IA generativa. Créditos de imagen: Quebrar
La compañía también agregó tarjetas contextuales con imágenes generadas por IA a partir de herramientas como Dream selfies para informar mejor al usuario.
En febrero, Snap se asoció con hackeruno para enfatizar sus herramientas de generación de imágenes de IA adaptando un programa de recompensas por errores. La compañía dijo que también ha creado un proceso de revisión para eliminar problemas problemáticos cuando se desarrollan lentes con tecnología de inteligencia artificial.
“Queremos que los Snapchatters de todos los ámbitos de la vida tengan acceso y expectativas equitativos al usar todas las funciones de nuestra aplicación, en particular nuestras experiencias impulsadas por IA. Con esto en mente, estamos implementando pruebas adicionales para minimizar resultados de IA potencialmente sesgados”, dijo la compañía en su blog.
Snapchat aterrizó en problemas poco después de presentar el chatbot “My AI” el año pasado. A El Correo de Washington El informe señaló que el bot estaba devolviendo respuestas inapropiadas a los usuarios. Más tarde, la compañía implementó controles en el Centro Familiar para que los padres y tutores monitorearan y restringieran las interacciones de sus adolescentes con la IA.