テクノロジー企業が複雑な問題に対して取り組む姿勢は、厳しく精査されていますが、多くの場合、重要なコンテクストが省かれています。この議論の中で見落とされていることは、私たちが一企業として成し遂げた重要な進展や、多くの主要な分野へ及ぼしているポジティブな影響です。
Facebook社は、現在行っている調査や私たちの与える影響についての忌憚のない意見交換が、新たな問題を発見し、その問題に対して先手を打つための最も効果的な方法だと確信しています。全ての問題をすぐに発見し解決できるわけではありませんが、これまでこのような取り組みや改善により、プライバシーや安全、セキュリティなどの多くの重要な分野において著しい成果をあげてきました。世界が大きく変化したように、Facebook社も大きく変化してきました。
これまでは製品開発の早い段階で安全性とセキュリティの課題に取り組むのではなく、特定の不正行為に対して事後対応的に改善を行っていました。しかし、Facebook社はこのアプローチを根本的に変え、現在では製品開発チームに安全性とセキュリティの問題に特化したチームを直接組み込むことで、開発後ではなく、製品開発の過程でこれらの問題に対処することが可能になりました。また、製品もプライバシーレビュープロセス（英文のみ）に類似したインテグリティレビュープロセスを経ることとし、これにより潜在的な不正使用の可能性を予測し、それを軽減する方法を構築できるようになりました。以下に取り組みの事例を紹介します。
安全性とセキュリティ
近年、Facebook社が取り組んだ最も重要な変更は、安全・セキュリティを優先することでした。以下がその結果です。
- 現在Facebook社では4万人が安全・セキュリティに取り組んでおり、Facebook社は2016年以降、この分野のチームと技術に130億ドル以上を投資してきました。
- 2017年以降、Facebook社のセキュリティチームは、国内外で150件以上の秘密裏の影響工作を阻止・除去し、類似の不正使用を未然に防いでいます。
- 最先端のAI（人工知能）により、今年の上半期に30億件の偽アカウントをブロックしました。
- Facebook社のAIシステムにより、私たちのプラットフォーム上での利用者の安全をより確実に担保することができるようになりました。例えば、ヘイトスピーチに関する規定に違反したコンテンツの削除を行っていますが、FacebookとInstagram上から削除した違反コンテンツの数は、初めてレポートを開始した2017年と比べ、現在では15倍以上にも上っています（英文のみ）。
- 2019年以降、Facebook社は同じ概念を複数の言語で理解する技術（英文のみ）の使用を開始し、ある1つの言語で得た学習結果を適用して、他の言語のパフォーマンスを向上させるという取り組みを行っています。
また、Facebook社として、「プライバシー設定の確認」への投資や機能拡張を含む、利用者のプライバシーを保護する取り組みも変更しました。現在では毎月1000万人もの利用者がFacebook上の設定や機能の管理に「プライバシー設定の確認」を活用しており、「Facebook外のアクティビティ」や「この投稿・広告が表示される理由」のようなツールを使うことで、自分の情報がどのように活用されているかを利用者自身が確認し、より簡単に設定の管理ができるようになっています。
誤情報への対策
誤情報は、オンラインやオフラインで何十年にもわたり課題となっています。今後のインターネット技術において誤情報がどのように対処されるのか、当然のことながら懸念されています。Facebook社では、一つの問題に対して一つの解決策で対処するのではなく、包括的に取り組むことで、このような複雑な課題に対してより優れた対応ができるようになりました。特に、誤情報を削減し信頼できる情報を促進するシステムの開発及び拡張を行ってきました。以下がその結果です。
- 新型コロナウイルス感染症およびワクチンに関する2000万以上の虚偽コンテンツなどの、Facebook社のコミュニティ規定に違反する有害な誤情報を削除しました。
- Facebook社が提供するアプリ全体を通して60以上の言語で投稿の正確性評価を行う80以上の独立したファクトチェックパートナーと、グローバルなネットワークを構築してきました。
- ファクトチェックパートナーが「虚偽」、「一部虚偽」、「改変」、「背景の説明不足」と評価した、新型コロナウイルス感染症に関連する1億9000万以上のFacebook上のコンテンツに対して警告ラベルを表示しました。
- 新型コロナウイルス感染症情報センターとニュースフィード上のポップアップ表示を通じて、20億人以上の利用者に対して新型コロナウイルス感染症に関する信頼性の高い情報を提供しました。また、1億4000万人以上の利用者が2020年米国大統領投票情報センターのサイトを訪れました。
責任のあるイノベーション
今回の取り組みの中で最も重要なことは、私たちが何を開発するかだけではなく、どのように開発するかを変更したことです。これにより、私たちが新しく発表する製品には、より効果的なプライバシー、セキュリティ、安全性の保護が事前に組み込まれています。以下がその事例です。
- 今年発表したライブオーディオルームは、安全性と正当性を考慮して構築されています。
- コミュニティ規定に違反した利用者は、ライブオーディオルーム内での発言やルーム作成を禁止されます。
- ルームのホストは、スピーカーをリスナーに降格させたり、ルームへの入室をブロックすることができます。
- スピーカーとリスナーは、ホストが違反行為をした場合、報告することができます。
- また昨年には、ベータ版のFacebook Horizonを発表し、VR内での体験を操作できるような多くの新しい機能（英文のみ）を実装しました。
- 「セーフゾーン」を導入し、周囲の環境から抜けてブロック、ミュート、報告することができるようになりました。
- 痛ましい事故が発生した際、事故の最中に記録をとることは難しいという認識から、より簡単に報告を送信できる新しい機能をHorizonに導入しました。
Facebook社 プロダクトデザイン兼レスポンシブルイノベーション担当副社長であるマーガレット・スチュアートが責任あるイノベーションの取り組みに関する詳細（英文のみ）ついて説明していますので、ぜひご覧ください。
Facebook社は確かに課題解決に向けて進展してきました。しかし、完璧ということはなく、見落としや間違いが常に生じることも理解しています。専門家や政策立案者およびその他の関係者と連携することで、より良い成果を得られるようになりました。そしてこの継続的な連携が、Facebook社の進展を確実にするための鍵となります。それがFacebook社の目指すものです。
Facebook社の新しいページ（英文のみ）では、最新の情報やデータを公表し、改善された点や、まだ解決に取り組むべき課題について説明しています。透明性センターではFacebook社の信頼性と透明性への取り組みの総合的な情報を提供しています。また、Facebook社のインテグリティへの取り組み（英文のみ）もご確認いただけます。
詳しくはabout.facebook.com/progress（英文のみ）をご覧ください。