Bumble anunció hoy que lanzará una nueva función impulsada por IA diseñada para ayudar a identificar spam, estafas y perfiles falsos. La nueva herramienta, llamada Deception Detector, tiene como objetivo tomar medidas sobre el contenido malicioso antes de que los usuarios de Bumble lo encuentren.
En las pruebas, Bumble descubrió que la herramienta podía bloquear automáticamente el 95% de las cuentas identificadas como spam o estafas. En los primeros dos meses de prueba de la herramienta, Bumble vio que los informes de los usuarios sobre spam, estafas y cuentas falsas se redujeron en un 45%. Deception Detector opera junto con el equipo de moderación humana de Bumble.
El lanzamiento de la nueva función se produce cuando una investigación interna de Bumble mostró que los perfiles falsos y el riesgo de estafas son las principales preocupaciones de los usuarios cuando tienen citas en línea, dice la compañía. La investigación también mostró que el 46% de las mujeres expresaron ansiedad sobre la autenticidad de sus coincidencias en línea en aplicaciones de citas.
“Bumble Inc. se fundó con el objetivo de construir relaciones equitativas y empoderar a las mujeres para que den el primer paso, y Deception Detector es nuestra última innovación como parte de nuestro compromiso continuo con nuestra comunidad para ayudar a garantizar que las conexiones realizadas en nuestras aplicaciones sean genuinas. ”, dijo la directora ejecutiva de Bumble, Lidiane Jones, en un comunicado. “Con un enfoque específico en la experiencia de las mujeres en línea, reconocemos que en la era de la IA, la confianza es más primordial que nunca”.
La Comisión Federal de Comercio (FTC) reportado el año pasado que las estafas románticas costaron a las víctimas 1.300 millones de dólares en 2022, mientras que la pérdida mediana reportada fue de 4.400 dólares. El informe indica que, aunque los estafadores románticos suelen utilizar aplicaciones de citas para atacar a las personas, es más común que las personas sean atacadas a través de mensajes directos en las plataformas de redes sociales. Por ejemplo, el 40% de las personas que perdieron dinero en una estafa romántica dijeron que el contacto comenzó en las redes sociales, mientras que el 19% dijo que comenzó en un sitio web o una aplicación.
La nueva herramienta es la última función de inteligencia artificial de Bumble diseñada para hacer que la aplicación sea más segura. En 2019, Bumble introdujo una función de “Detector privado” que automáticamente difumina las imágenes de desnudos y las etiqueta como tales en los chats, lo que permite a los usuarios ver la imagen o denunciar al usuario.
Bumble también está aprovechando la IA dentro Bumble para amigos, la aplicación dedicada de la empresa para encontrar amigos. La aplicación lanzó recientemente sugerencias para romper el hielo impulsadas por IA que ayudan a los usuarios a escribir y enviar un primer mensaje basado en el perfil de la otra persona. Puedes modificar la pregunta o pedir otra sugerencia, pero solo puedes usar un rompehielos generado por IA por chat.
Vale la pena señalar que el Detector privado y el Detector de engaños se utilizan tanto en Bumble como en Bumble for Friends.