Bumble a annoncé aujourd’hui la mise en place d’une nouvelle fonctionnalité basée sur l’intelligence artificielle (IA) visant à aider à détecter le spam, la fraude et les faux profils. Le nouvel outil, appelé le Détecteur de Tromperie, vise à repérer les contenus nuisibles avant que les utilisateurs de Bumble ne rentrent en contact avec eux.
Lors des tests, Bumble a constaté que l’outil bloquait automatiquement 95% des comptes identifiés comme spam ou fraude. Dans les deux premiers mois de test, le Détecteur de Tromperie a entraîné une réduction de 45% des signalements liés au spam, à la fraude et aux faux comptes. L’outil fonctionne en collaboration avec une modération humaine.
La mise en place de cette nouvelle fonctionnalité est basée sur une recherche interne menée par Bumble, qui a révélé que les faux profils et le risque de fraude sont les principales préoccupations des utilisateurs en matière de rencontres en ligne. La recherche a également montré que 46% des femmes se sont montrées préoccupées par l’authenticité de leurs connexions en ligne sur les applications de rencontres.
« La mission de Bumble est de construire des relations équitables et d’autonomiser les femmes à prendre l’initiative, et l’outil Détecteur de Tromperie est notre dernière innovation dans le cadre de notre engagement envers notre communauté, visant à garantir que les connexions faites sur nos applications sont authentiques », a déclaré Lidiane Jones, PDG de Bumble.
La Federal Trade Commission (FTC) a rapporté l’année dernière que les arnaques amoureuses ont coûté aux victimes 1,3 milliard de dollars, avec une perte moyenne signalée de 4 400 dollars. Le rapport indiquait que si les escrocs utilisent souvent des applications de rencontres pour extorquer de l’argent aux gens, le ciblage individuel par le biais de messages privés sur les plateformes de médias sociaux est plus courant. Par exemple, 40% des personnes qui ont perdu de l’argent dans des arnaques amoureuses ont déclaré que le contact avait commencé sur un site de médias sociaux, tandis que 19% ont déclaré qu’il avait commencé sur un site web ou une application.
Le nouvel outil est la dernière fonctionnalité alimentée par l’IA visant à rendre l’application Bumble plus sûre. En 2019, Bumble a introduit la fonctionnalité « Private Detector », qui floute automatiquement les photos explicites et les marque comme telles dans les discussions, permettant aux utilisateurs de choisir s’ils souhaitent les afficher ou signaler l’utilisateur.
Bumble utilise également l’IA dans l’application Bumble for Friends, dédiée à la recherche d’amis. L’application a récemment introduit des suggestions de premiers messages générées par l’IA pour aider les utilisateurs à rédiger et envoyer des messages initiaux en fonction du profil de l’autre personne. Les utilisateurs peuvent personnaliser la question ou demander d’autres suggestions, mais un seul premier message généré par l’IA peut être utilisé par discussion.
Il est à noter que le Détecteur de Tromperie et le Private Detector sont utilisés à la fois dans Bumble et Bumble for Friends.
FAQ
The source of the article is from the blog foodnext.nl