Meta

コミュニティ規定違反を判断する社内ガイドラインの公表と申し立てプロセスの拡充

Facebookに寄せられる質問の中で最も多いものの1つが、Facebookへの掲載を許可する基準についてです。これは、Facebookが安全で、かつ様々な考えについて自由に議論できる場所でありつづけるために特に重要なものです。Facebookは、数年前から、何を表示して何を表示しないかの基準を示したコミュニティ規定を公開しています。今回、さらに一歩踏み込み、この規定を実行する際のガイドラインを公表します。4月24日(米国時間)から、公開されているコミュニティ規定は、Facebookの社内ガイドラインとほぼ同じ内容を反映しています。また、利用者の皆様がFacebookの判断が間違っていると考えた場合、投稿ごとにFacebookの判断に申し立てを行い、セカンドオピニオンを求めることも初めて可能になります。

社内ガイドラインを公表するのには、2つの理由があります。まず、このガイドラインにより、人々に判断が難しい曖昧な内容について、どのようにFacebookが判断しているのかを理解していただくためです。次に、詳細を明らかにすることで、様々な分野での専門家も含むすべての人々からのフィードバックを受けることが可能になり、ガイドラインを改善し、より良い判断をすることに繋がると考えました。

ポリシー策定プロセス

Facebookのコンテンツポリシーチームは、コミュニティ規定の策定を担当しています。ヘイトスピーチ、子どもの安全、テロリズムなど各分野の専門家を含め、世界11ヵ所のオフィスにスタッフを配置しています。チームメンバーの多くは、Facebookに従事する以前にも、表現の自由や安全性に関する問題に取り組んできた者です。子どもの安全からテロ対策まであらゆる問題に取り組んできた者や、性的暴行を受けた被害者のカウンセリングをしていた者、差別団体を研究してきた学者、人権問題専門の弁護士、教師などが含まれています。また、毎週外部の専門家や団体からの意見や情報を提供していただくことで、安全や表現の自由の問題だけでなく、Facebookのポリシーが世界各地のコミュニティに及ぼす影響について、より深く理解できることに繋がっています。

こうしたフィードバック、また社会規範や言語における変化に基づいて、Facebookのコミュニティ規定は進化しています。ただ、これらの規定の基盤となる安全性、意見、公平性に関する基本原則は、変わっておらず、これからも変わることはありません。他者との対話を始め、関係を築くためには、まず利用者の皆様自身が安全であると認識する必要があります。一方で、Facebookは、一部の人にとっては好ましくない内容だとしても、誰もが自由に考えを表現できる場でなければなりません。Facebookが世界中で利用されているため、こういった環境を整えることは非常に難しい課題ではありますが、だからこそ、公平性がとても重要な原則になります。Facebookは、このような規定を一貫して、すべてのコミュニティや文化に公平に適用することを目指しています。規定の前文では、こうした原則を明確に説明し、それぞれのポリシーの背景となる理論的根拠を示しています。

ポリシーの運用

Facebookのポリシーは正確かつ確実に実行されてはじめて効果があるものですが、完璧なものではありません。

精査するために、規定違反になりえるコンテンツの検出が課題になっています。課題解決のために、Facebookはテクノロジーの力を借りています。コミュニティ規定に違反している可能性のある投稿、写真、その他のコンテンツを特定するために、利用者の皆様からの報告と人工知能(AI)を活用しています。これらの報告は、40以上の言語に対応しているコミュニティオペレーションチームが24時間365日体制で精査します。現在、前年同期比40%以上増の7,500人が精査しています。

もう1つの課題は、報告されたコンテンツに対し、いかにして、正確に、ポリシーを適用するかということです。ポリシーが十分に明確でないために、判断を間違うこともあり、その場合はポリシーを補う必要があります。しかし、判断を間違う大抵の理由は、判断の過程には人が関わっており、そして人は時に誤った判断をする可能性があるからです。

申し立て

Facebookはさらに取り組む必要があると考えています。そのため、今後1年間で、利用者の皆様がFacebookの判断に異議申し立てをすることができるプロセスを作る予定です。まず、ヌード、性行為、ヘイトスピーチ、暴力描写を含むと判断されて削除された投稿についての申し立てが可能になります。

申し立ては以下の手順で行われます。

※これは、ヌードと誤って削除された可能性があり、申し立てを行うことができる投稿の例です。

Facebookは、申し立てを利用できる場面を増やし、利用者の皆様に投稿の背景について説明する機会を提供することなどを通して、このプロセスを今後も拡充していきます。また、削除されたものだけではなく、報告後、規定違反ではないと判断されたコンテンツについても、申し立てを可能にしていきます。公平なシステムを築くために、判断の過程において、利用者の意見を取りいれることは必要なことだと考えています。

参加とフィードバック

Facebookのコミュニティ規定を改良するための取り組みには、取り組みに参加してくださる利用者の皆様からの意見が不可欠です。5月には「フェイスブックフォーラム:コミュニティ規定」として、ドイツ、フランス、イギリス、インド、シンガポール、アメリカなどの国々でイベントを開催し、利用者の皆様からフィードバックを直接いただきます。詳細については、最終決定後、お伝えします。

CEOのマーク・ザッカーバーグは今年の初めに「すべての間違いや不正利用を防ぐことはできません。しかし、ポリシーの実行や、ツールの不正利用を防ごうとする際に、現在多すぎると言っても過言ではない間違いをおかしているのが現状です。」と発言しました。社内ガイドラインの公表、利用者の皆様からの申し立てが可能になることにより、改善への明確な道筋ができると考えています。難しい問題ではありますが、今後も前進し、改善していきます。


Q&A

今回の更新でポリシーへの変更点もありますか?

4月24日(米国時間)に発表した内容は新しいものではなく、すでに導入されている規定を反映したものです。ただし、今回初めて、Facebookへの投稿を許可する判断基準として専任チームが使用している社内ガイドラインを公開します。

我々の規定には日々、改善が重ねられています。たとえば、外部のステークホルダーからの意見で変更される場合もありますし、ある言語に合わせて変更する場合もあります。また、既存のポリシーに不足があるため、変更が必要になる場合もあります。このプロセスは今後も継続し、規定を更新していきます。

更新情報は随時発表し、変更点をわかりやすくするために、検索可能なアーカイブも公開する予定です。

このガイドラインは専任チームが使用しているものと同じものですか?

4月24日(米国時間)から、公開されているコミュニティ規定は、Facebookの社内ガイドラインとほぼ同じ内容を反映しています。ポリシーが分かりにくいというご意見をいただいた場合、明確にすることはFacebookの責任だと考えています。これは、Facebookがコンテンツに対して、何を表示して、何を表示しないのかを、どのように判断しているのかを説明するための取り組みの一つです。これにより、フィードバックが活発になり、ポリシーをさらに改善、そしてより高い精度のものにしていくことを目指しています。

協力している専門家はどういった人々ですか?

学者、民間公益団体、研究者、弁護士を含め、世界中の専門家と協力しています。このような個人および団体は、多様な考え、経験、そしてバックグラウンドを反映しています。ポリシーの改訂を考える際、専門家からの貴重な意見を聞くことができる上、ポリシーの影響をより詳細に理解することができます。

たとえば、ヘイトスピーチを例に挙げると、Facebookはオックスフォード大学のティモシー・ガートン・アッシュ教授の協力を受け、多文化の原理に基づいて、この問題に取り組んでいます。同様に、性的搾取から人々を守るポリシーの策定のために、アメリカ、ケニア、インド、アイルランド、スペイン、トルコ、スウェーデン、オランダなど、世界中から150以上の団体や専門家たちに集まっていただきました。

どのようにして、専任チーム全体の一貫性を維持し、偏見や間違いを防いでいますか?

Facebookのコミュニティ規定は全世界共通のもので、判断基準として、すべての担当者が4月24日(米国時間)に公表したガイドラインを使っています。担当者は全員、新人研修の一環として広範囲なトレーニングを受講しており、その後も定期的に研修や試験を受けています。

ポリシーを策定する際、担当者の判断プロセスができるだけ客観的になるように心がけました。つまり、コンテンツが違反しているかどうかを明確に判断できるよう、説明を多くし、実行可能なポリシーになるよう努力を重ねました。また、担当者が常に助言を求めることができるような環境を整えています。週ごとに担当者の判断の精度を確認し、ミスが発生した場合も、チームとしてフォローを行い、再発を防ぎます。

いくら判断の精度が高くても、ミスが発生することがあります。だからこそ、プロフィール、ページ、グループの削除を行った際には、申し立てが行えるようにしてきました。今後1年間で、この申し立てのシステムを拡大していきます。まず、ヌード、性行為、ヘイトスピーチ、暴力描写を含むとして削除された投稿についての申し立てが可能になり、利用者はFacebookの判断が間違っていると思った場合は、申し立てを行うことができます。

これまでも、「フェイスブックフォーラム:コミュニティ規定」のような取り組みを実施してきましたか?

Facebookは、様々な方法で外部からの意見を取り入れています。「フェイスブックフォーラム:コミュニティ規定」はこれまで挑戦したことのない形式であり、コミュニティの皆様のご意見を聞き、新たな学びを得ることを楽しみにしています。イベントの構成は都市によって異なりますが、詳細は近日中にお知らせする予定です。