• 詐欺をはたらく悪意ある第三者は検出を回避するための手口を絶え間なく変えています。そのため、弊社は既存の対策に加えて、利用者を守り、彼らが人々を欺くことをより一層難しくするための新たな方法をテストしています。
• 弊社プラットフォームにおける著名人のなりすまし広告の検出や防止を目的に、顔認証技術を活用したテストを開始します。
• また、この技術を活用して利用者の本人確認を行い、アカウントへのアクセスを復旧するテストも行います。

Metaは、利用者にとってセキュリティは重要事項であると理解しています。これには、利用者が自身のSNSアカウントを適切に管理できるようにすること、そして詐欺から身を守れるようにすることが含まれます。そこで、著名人のなりすまし広告から利用者を守り、アクセスできなくなったアカウントを早急に復旧するために顔認証技術を活用するテストを開始します。このような取り組みを共有することで、オンライン詐欺をおこなう第三者に対する業界としての対策を知っていただくことができればと思います。

著名人のなりすましや詐欺広告から利用者を守る

詐欺をはたらく悪意ある第三者は、コンテンツクリエイターや芸能人など著名人の画像を使って人々を欺き、広告を通じて詐欺的なウェブサイトに誘導したあと、個人情報を聞き出したり、送金したりさせる手法をしばしば用います。このような手法は一般的に「celeb-bait（著名人のなりすまし）」と呼ばれ、Metaのポリシーに違反しているだけでなく、弊社が提供するプラットフォームを利用する人たちに害を与えるものです。

著名人が登場する画像や動画はポリシーに違反しない正当な広告の多くに用いられていますが、なりすまし広告の中には、あたかも正当な広告であるかのように見せかけて作られているものもあり、検出することが難しい場合があります。弊社の広告審査システムでは、毎日プラットフォーム上で配信される数百万の広告を審査するために主に自動化テクノロジーを使用し、機械学習モデルを活用することで、プラットフォーム上のすべての広告について詐欺など広告規定の違反がないかを審査しています。自動化されたこのプロセスでは、テキストや画像、動画など広告を構成する様々な要素の分析もおこないます。

弊社は今回、著名人のなりすまし広告を検出するための新たな方法のテストを開始します。ある広告について審査システムがなりすましのリスクがある著名人の画像を含む詐欺広告だと推定すると、顔認証技術を使用し、その広告に含まれる顔と、該当する著名人のFacebookやInstagramのプロフィール写真を比較します。写真が一致して詐欺広告だと判断した場合、その広告はブロックします。システムが顔の一致を見つけるかどうかに関わらず、一回きりの比較のために広告から生成された顔データはすぐに削除し、他の用途では使用しません。

一部の芸能人や著名人を対象に実施した初期のテストでは、なりすましによる詐欺広告を検出し、ポリシーを施行する速度や効果が向上するという前向きな結果が見られました。今後数週間のうちに、これまでなりすましの被害を受けたことがあるより多くの著名人の方々に、このような保護の対象になることを知らせる通知をアプリ内でお送りする予定です。保護を望まれない場合は、アカウントセンターからいつでも設定を変更することが可能です。

また、著名人になりすまして詐欺行為をはたらく第三者は、なりすましアカウントを作成し、人々を騙す目的で詐欺的なコンテンツを投稿したり、送金させたりすることもあります。例えば著名人が特定の投資話を勧めていると主張したり、無料のギフトと引き換えにセンシティブな個人情報を提供させようとしたりするケースです。弊社では、現在は検出システムと利用者からの報告によってなりすましの可能性があるアカウントを特定していますが、このような偽アカウントをより早く発見するため、もう一段階ステップを加えることを検討しています。顔認証技術を活用し、疑わしいアカウントのプロフィール写真と、著名人のFacebookやInstagramのプロフィール写真を比較する仕組みです。この方法は、他の新たなアプローチも含めて近日中にテストしたいと考えています。

アカウントへのアクセスを復旧

利用者の中には、パスワードを忘れる、デバイスを紛失する、あるいは詐欺を目的とする第三者に騙されてパスワードを教えてしまうなどの理由から、FacebookやInstagramのアカウントにアクセスできなくなってしまう人がいます。アカウントが不正アクセスされていると判断すると、弊社はアクセスを復旧する前に、アカウントの持ち主の本人確認のために公的な身分証や氏名が分かる公的な書類のアップロードを求めます。

今後、本人確認を行い、不正アクセスされたアカウントを復旧するための方法として、セルフィー動画を活用するテストを開始します。顔認証技術を使い、利用者がアップロードしたセルフィー動画と、アクセスしようとしているアカウントのプロフィール写真を比較する仕組みです。これはスマートフォンや他のアプリへのアクセスを解除するために既に多くの人が利用している本人確認ツールと似ています。

誰かがセルフィー動画をアップロードするとすぐに暗号化して安全に保管されます。FacebookやInstagramのプロフィールに表示され、友達や他の利用者から見えてしまうことは決してありません。セルフィー動画とプロフィール写真が一致するかどうかに関わらず、比較が完了すると、その顔データはすぐに削除されます。

セルフィー動画はアカウントへのアクセスを取り戻したい利用者の選択肢を増やすだけでなく、1分程度あれば完了できる、本人確認のための最も簡単な方法でもあります。ハッカーはアカウント復旧のためのツールを悪用することが分かっていますが、この方法は書類を使う既存の本人確認よりもハッカーが悪用しづらいと考えられます。

責任あるアプローチ

詐欺をおこなう悪意ある第三者は検出を回避するための手口を絶え間なく変えていますが、Metaはそれに先手を打ち、検出や施行における効果を向上させるために新たな技術を活用した対策を開発およびテストし続けていきます。今回テストを開始する方法についてはプライバシーやリスクについて様々な観点から検討しており、仕組みについて説明するための通知を送る、利用者自身が管理できるようにする、必要が無くなったらすぐに顔データを削除するなど、安全のために重要な措置を構築しました。

利用者やそのアカウントを守ることは弊社にとって重要事項です。現在の状況は敵対的な勢力によるものであり、対処が簡単ではないこともあるかもしれませんが、弊社がポリシーを施行する際の速度や正確性、効果の向上に顔認証技術の活用が役立つと考えています。今後もこの分野に関わる政府当局、関連団体や専門家と連携し、継続的な投資について話し合いを続けていきます。