La messagerie instantanée est devenue un terrain fertile pour les cybercriminels. Avec plus de trois milliards d'utilisateurs, WhatsApp est l'un des canaux les plus exploités pour perpétrer toutes sortes d'escroqueries , des fausses offres d'emploi aux systèmes d'investissement complexes. Pour lutter contre cette menace, la plateforme a lancé un nouvel outil basé sur l'intelligence artificielle qui promet de détecter les messages frauduleux sans compromettre la confidentialité des conversations.
Cette fonctionnalité, baptisée Alerte anti-escroquerie, est actuellement en phase de test limitée et est déjà utilisée par certains utilisateurs. Sa principale caractéristique est que toute l'analyse est effectuée directement sur l'appareil, garantissant ainsi que le contenu des conversations ne quitte jamais le téléphone. De cette manière, Meta vise à concilier sécurité et chiffrement de bout en bout, élément essentiel du service.
Comment fonctionne Scam Alert ?
Cet outil télécharge un modèle d'apprentissage automatique léger sur votre appareil mobile. Ce modèle examine les messages reçus de numéros non enregistrés dans vos contacts. Il analyse les structures conversationnelles et les schémas linguistiques fréquemment rencontrés dans les tentatives de fraude, tels que les demandes d'argent urgentes, les liens suspects ou les promesses de gains impossibles.
Si le système détecte des signes manifestes de fraude, il affiche un avertissement directement dans la conversation. Cet avertissement est visible uniquement par le destinataire ; l’expéditeur ignore que son message a été signalé. L’utilisateur dispose alors de plusieurs options : bloquer le contact, signaler la conversation, continuer à discuter avec plus de prudence ou marquer la conversation comme fiable. Marquer la conversation comme fiable empêche l’affichage de futurs avertissements pour cette discussion.
Confidentialité et transparence
L'un des points les plus sensibles concerne la confidentialité. Meta assure à ses utilisateurs que le contenu analysé ne quitte jamais l'appareil. Ni WhatsApp ni Meta n'ont accès aux messages pendant le processus. Aucun rapport automatique n'est généré sur les serveurs. Les informations ne sont transmises que si l'utilisateur décide volontairement de signaler une conversation.
Pour mesurer l'efficacité de la fonctionnalité sans accéder aux conversations, l'entreprise utilise des techniques telles que la confidentialité différentielle et les environnements d'exécution de confiance (TEE). Ces mécanismes permettent d'obtenir des statistiques agrégées sur le nombre d'alertes affichées ou les actions effectuées par les utilisateurs, sans relier ces données à des individus spécifiques. De plus, chaque version du modèle d'IA est publiée dans un registre de transparence avec son hachage SHA-256, signé par un tiers, afin que tout chercheur puisse vérifier son intégrité.
Que faire si vous recevez une alerte
Lorsque l'avertissement apparaît, la meilleure chose à faire est de ne pas répondre au message et de bloquer l'expéditeur. Vous pouvez également signaler la conversation afin que WhatsApp puisse intervenir. Si vous pensez que l'alerte est fausse, vous pouvez la marquer comme fiable et, si vous le souhaitez, partager vos cinq derniers messages avec la plateforme pour contribuer à l'amélioration du système. Ce partage est entièrement volontaire et n'est pas automatique.
L'option permettant de consulter l'activité des alertes anti-fraude sera disponible dans les paramètres de l'application, sous Compte > Demande d'informations > Activité des alertes anti-fraude. Vous pourrez y voir les messages analysés, les résultats du modèle et la version utilisée. Cette fonction d'audit offre un niveau de contrôle supplémentaire à l'utilisateur.
Contexte et étendue des escroqueries
Les arnaques via les applications de messagerie ont connu une croissance alarmante ces dernières années. Des techniques comme l'escroquerie par procuration et les faux virements bancaires sont de plus en plus courantes. Dans ce contexte, la nouvelle fonctionnalité de WhatsApp constitue une protection supplémentaire, notamment pour les utilisateurs recevant des messages d'expéditeurs inconnus.
Cet outil complète les autres mesures de sécurité déjà mises en œuvre par Meta, telles que la vérification en deux étapes et les demandes de liaison d'appareils. Grâce à cette initiative, WhatsApp vise à offrir un environnement plus sécurisé sans compromettre la confidentialité, un équilibre essentiel pour un service utilisant le chiffrement de bout en bout.
En résumé, Scam Alert représente une avancée majeure dans la lutte contre la fraude numérique. En traitant les informations localement et en assurant la transparence de son fonctionnement, la plateforme démontre qu'il est possible de combattre les arnaques sans compromettre la confidentialité des conversations. Cette fonctionnalité, encore en version bêta, ambitionne de devenir une norme de sécurité pour les plus de 3.000 milliards d'utilisateurs de WhatsApp à travers le monde.
