Mise à jour – le 5 mars 2025 

Nous lançons dès aujourd’hui, des mesures pour la première fois au sein du Royaume-Uni, de l’Union Européenne et de la Corée du Sud, après avoir consulté les autorités de régulation. Cette expansion fait suite à des échanges avec les régulateurs et à des tests de ces mesures qui ont été menés dans d’autres pays depuis le mois d’octobre dernier.

Dans les semaines à venir, les personnalités publiques du Royaume-Uni et de l’Union Européenne verront apparaître des notifications in-app leur indiquant qu’elles peuvent désormais activer une protection renforcée contre l’usurpation d’identité (« celeb-bait ») grâce à la technologie de reconnaissance faciale. Dans les pays où cette protection est déjà disponible, nous l’étendons à un plus grand nombre de personnalités publiques.

À partir d’aujourd’hui également, les personnes résidant au Royaume-Uni, dans l’Union Européenne et en Corée du Sud qui tentent de récupérer l’accès à leurs comptes Facebook ou Instagram auront la possibilité de vérifier leur identité à l’aide d’un selfie vidéo. La vérification par selfie vidéo à l’aide de la technologie de reconnaissance faciale est facultative et constitue un moyen plus rapide et plus facile de vérifier son identité.

Nous avons examiné ces mesures dans le cadre de notre processus rigoureux d’évaluation des risques et de la protection de la vie privée, et nous avons mis en place des garanties importantes, telles que la fourniture d’informations sur leur fonctionnement, le caractère facultatif de ces mesures et la suppression des données faciales des personnes dès qu’elles ne sont plus nécessaires.

21 octobre 2024

Tester de nouvelles méthodes pour lutter contre les escroqueries et aider à rétablir l’accès aux comptes compromis 

Monika Bickert, VP Content Policy

• Les escrocs sont implacables et ne cessent d’évoluer dans leurs tactiques pour tenter d’échapper à la détection. C’est pourquoi nous renforçons nos défenses existantes en testant de nouveaux moyens de protéger les utilisateurs et de rendre la tâche plus difficile aux escrocs qui cherchent à tromper autrui.
• Nous étendons l’usage de la technologie de reconnaissance faciale pour détecter et prévenir les publicités trompeuses impliquant des célébrités sur nos plateformes.
• Nous testons également cette technologie pour permettre aux utilisateurs de vérifier leur identité et de retrouver l’accès à leur compte lorsqu’il a été compromis.

 

Nous savons que la sécurité est importante aux yeux de nos utilisateurs, et que cela implique de pouvoir contrôler l’accès à ses propres comptes sur les réseaux sociaux tout en se protégeant contre les escroqueries. C’est pourquoi nous étendons aujourd’hui l’utilisation de la technologie de reconnaissance faciale pour protéger les utilisateurs contre les publicités utilisant les visages des célébrités et permettre une récupération plus rapide de leur compte lorsqu’il a été compromis. Nous espérons qu’en partageant notre approche, nous pourrons aider l’industrie à se défendre contre les arnaques en ligne.

Protéger les utilisateurs contre les publicités frauduleuses impliquant des célébrités et l’usurpation d’identité

Les escrocs tentent souvent d’utiliser les images de personnalités publiques, telles que des créateurs de contenu ou des célébrités, pour inciter les utilisateurs à interagir avec des publicités menant à des sites frauduleux sur lesquels il peut leur être demandé de partager des informations personnelles ou d’envoyer de l’argent. Ce stratagème, communément appelé « celeb-bait », viole nos politiques et nuit à l’expérience de nos utilisateurs.

Bien entendu, les célébrités apparaissent dans de nombreuses publicités légitimes. Cependant, comme les publicités de type « celeb-bait » sont conçues pour paraître authentiques, elles ne sont pas toujours faciles à détecter. Notre système de vérification des publicités repose principalement sur une technologie automatisée pour examiner les millions de publicités diffusées chaque jour sur les plateformes de Meta. Nous utilisons des technologies de machine learning pour analyser chaque publicité et vérifier si elle enfreint nos règles, notamment en matière d’arnaques. Ce processus automatisé inclut l’analyse des différents éléments d’une publicité, tels que le texte, l’image ou la vidéo.

Désormais, nous testons une nouvelle méthode pour détecter les arnaques de type « celeb-bait ». Si nos systèmes soupçonnent qu’une publicité pourrait être une escroquerie contenant l’image d’une personnalité publique, nous tenterons d’utiliser la technologie de reconnaissance faciale pour comparer les visages de la publicité aux photos de profil de la personnalité concernée sur Facebook et Instagram. Si une correspondance est confirmée et que la publicité est jugée frauduleuse, nous la bloquerons. Nous supprimons immédiatement toute donnée faciale générée à partir des publicités utilisées pour cette comparaison unique, que notre système trouve ou non une correspondance, et nous ne les utilisons à aucune autre fin.

Les premiers tests menés avec un groupe restreint de célébrités et de personnalités publiques montrent des résultats prometteurs, améliorant la rapidité et l’efficacité de la détection et de l’application de nos règles contre ce type d’escroquerie. Dans les semaines à venir, nous commencerons à afficher des notifications intégrées aux applications à un plus grand nombre de personnalités publiques concernées par le « celeb-bait », les informant qu’elles bénéficient désormais de cette protection. Les personnalités publiques inscrites à cette protection pourront à tout moment choisir de s’en retirer via l’Espace des comptes.

Nous avons également constaté que des escrocs usurpent l’identité de personnalités publiques en créant de faux comptes dans le but de tromper les utilisateurs et de les inciter à interagir avec du contenu frauduleux ou à envoyer de l’argent. Par exemple, des arnaqueurs peuvent prétendre qu’une célébrité soutient une offre d’investissement spécifique ou demander des informations personnelles sensibles en échange d’un prétendu cadeau gratuit. Nous utilisons, actuellement, des systèmes de détection et des signalements d’utilisateurs pour identifier les usurpateurs potentiels. Nous envisageons d’ajouter une étape supplémentaire pour détecter plus rapidement ces faux comptes. Cette protection supplémentaire consisterait à utiliser la reconnaissance faciale pour comparer les photos de profil des comptes suspects aux photos de profil de la personnalité publique sur Facebook et Instagram. Nous espérons tester cette approche et d’autres nouvelles méthodes prochainement.

Aider les utilisateurs à retrouver l’accès à leurs comptes

Les utilisateurs peuvent perdre l’accès à leur compte Facebook ou Instagram lorsqu’ils oublient leur mot de passe, égarent leur appareil ou sont victimes d’une tentative de phishing. Si nous soupçonnons qu’un compte a été compromis, nous demandons à son propriétaire de vérifier son identité avant de récupérer l’accès, en téléchargeant une pièce d’identité officielle ou un document officiel contenant son nom.

Nous testons actuellement les selfies vidéo comme moyen pour les utilisateurs de vérifier leur identité et de retrouver l’accès à leur compte compromis. L’utilisateur télécharge un selfie vidéo, et nous utilisons la reconnaissance faciale pour comparer son visage à la photo de profil associée au compte qu’il tente de récupérer. Ce processus est similaire aux outils de vérification d’identité que vous pouvez déjà utiliser pour déverrouiller votre téléphone ou accéder à d’autres applications.

Dès qu’un utilisateur télécharge un selfie vidéo, celui-ci est chiffré et stocké en toute sécurité. Il ne sera jamais visible sur son profil, ni par ses amis, ni par d’autres personnes sur Facebook ou Instagram. Nous supprimons immédiatement toute donnée faciale générée après cette comparaison, qu’il y ait correspondance ou non.

La vérification par selfie vidéo élargit les options permettant aux utilisateurs de récupérer l’accès à leur compte. Elle ne prend qu’une minute à effectuer et constitue le moyen le plus simple de vérifier son identité. Nous sommes conscients que les personnes mal intentionnées tenteront toujours d’exploiter les outils de récupération de compte, mais cette méthode de vérification sera au final plus difficile à détourner que la vérification d’identité basée sur des documents officiels.

Une approche responsable

Les escrocs sont persistants et adaptent en permanence leurs tactiques pour échapper à la détection. Nous sommes tout aussi déterminés à les devancer et nous continuerons à développer et tester de nouvelles défenses techniques pour renforcer nos capacités de détection et d’application de nos règles. Ces mesures ont été soigneusement évaluées à travers notre processus rigoureux d’examen des risques et de protection de la vie privée. Nous avons mis en place des garanties essentielles, en nous engageant notamment à fournir des informations explicatives sur leur fonctionnement, la mise en place de contrôles pour les utilisateurs, ainsi que la suppression des données faciales dès qu’elles ne sont plus nécessaires.

Nous voulons aider à protéger les utilisateurs et leurs comptes. Même si la nature évolutive de ces menaces signifie que nous ne réussirons pas toujours à les contrer à 100 %, nous pensons que la reconnaissance faciale peut nous aider à être plus rapides, plus précis et plus efficaces. Nous poursuivrons nos échanges sur ces investissements avec les régulateurs, les décideurs politiques et d’autres experts.