Facebookでは毎日何百万もの写真や動画がシェアされ、非常に魅力的で創造的な画像や映像がプラットフォーム上で作成されています。それらコンテンツの一部には何らかの手が加えられていますが、それは映像をより鮮明にしたり、音声をよりクリアにするなど、多くは何ら問題がないものです。しかし中には、人を欺く目的で写真や動画に手を加える、すなわち情報操作を行う人もいます。

情報操作にはPhotoshopのようにシンプルなテクノロジーを使用する場合もあれば、人工知能や「ディープラーニング」技術を用いた高度なツールを駆使して、現実を歪曲させる動画(一般的に「ディープフェイク」と呼ばれる)が作成される場合もあります。 このような動画はインターネット上ではまだ少数ですが、その使用が増加すれば、私たちの業界および社会に対する重大な脅威となります。

そこで、ディープフェイクや情報操作に対するFacebookの取り組みを紹介します。私たちのアプローチは複数の要素からなり、その範囲は人工知能 (AI) によって生成されたコンテンツやフェイクアカウント作成など不正行為の調査から、これらの行為の背後にいる人々を明らかにするための研究者、政府、業界との提携など多岐に及びます。

協力体制は重要な鍵となります。私たちのポリシーについて共有し、情報操作の検出技術を改善するために、技術、政策、メディア、法律、市民および学術の分野に属する各国50名以上の専門家と世界中で対話を進めています。

これらのパートナーシップや協議の結果、ディープフェイクと特定されている、人を欺くことを目的として制作された動画に対するポリシーの強化を行います。今後は以下の基準に合致する場合、人を欺くことを目的とした情報操作として削除対象となります:

● 明瞭さや音質の調整にとどまらず、一般の利用者には分からない形で、動画の被写体が実際には発言していない言葉を言ったと誤解させるような編集または合成がされていること。
および
● 人工知能または機械学習によって制作され、特定の動画に他のコンテンツを統合、置換、または重ね合わせて本物のように見せていること。

このポリシーは、パロディや風刺といったコンテンツ、または単語の省略やその順序変更のためだけに編集された動画には適用されません。

また、音声、写真、または動画がヌード、過激な描写や暴力行為、投票権の抑圧、ヘイトスピーチなどを規制する他のコミュニティ規定のいずれかに違反するものである場合、それがディープフェイクであるかどうかに関わらず、既存のポリシーに従い削除されます。

これらの削除基準を満たさない動画であっても、ファクトチェッカーの独立第三者機関による審査の対象となります。この第三者機関は世界に50以上の提携企業を擁し、40を超える言語でファクトチェックを行います。ファクトチェッカーによって、写真や動画の全部または一部が虚偽と評価された場合、ニュースフィードでの表示は大幅に減らされ、また広告として配信されている場合は取り消されます。そして重要なのは、その投稿を見る人、シェアしようとする人、または既にシェアしている人には、それが虚偽であるとの警告が表示されることです。

この手法は当社の戦略に重要なものであり、専門家との対話を通じて具体的に指摘されたものです。ファクトチェッカーによって虚偽と評価された、情報操作が行われた動画を単に削除するだけでは、その動画はインターネットまたはソーシャルメディアのエコシステム内のどこかで誰かの目に触れる状態のままとなります。それらをあえて削除せずに「虚偽」のラベルを付けて残すことにより、私たちは重要な情報と背景を利用者の皆様に提供できるのです。
人を欺くことを目的とした情報操作に対する私たちの戦略は、これら悪質行為の背後にある人々を根絶する努力によって報われています。つい先月には、AIが生成した写真を使用してフェイクアカウントを隠蔽するネットワークを特定し、排除しました。私たちのチームは、フェイクアカウントやその他の不正行為を積極的に捜索し続けています。
また、情報操作されたコンテンツの特定にも取り組んでおり、その中で最も困難なのがディープフェイクの検出です。そのため昨年9月、私たちはディープフェイク検出チャレンジを開始しました。これにより、世界中の人々によるディープフェイク検出のための研究とオープンソースツール開発が促進されました。このプロジェクトは、1,000万ドルの助成金により支援されており、AI、コーネル大学、バークレー大学、MIT、WITNESS、Microsoft、BBC、AWSなど、市民社会やテクノロジー、メディア、学術団体におけるパートナーシップからなる分野横断的な組織の連携が内包されています 。

別の取り組みとしては、世界最大のマルチメディアニュースプロバイダーであるロイターと提携し、無料のオンライントレーニングコースを通じて、世界中の報道機関がディープフェイクや不正操作されたメディアを特定できるよう支援しています。報道機関は、大量の画像や動画の供給源として第三者のサービスを活用することが多く、改ざんされた画像の識別は重要な課題となっています。このプログラムは、それに取り組む報道機関を支援することを目的としています。

これらパートナーシップとFacebookの検出能力の進化に伴い、情報操作に対する私たちのポリシーも進化します。効果的な解決法を見つけ出すためにも、今後もこの分野における投資や関係機関との協力を続けて参りたいと思います。