困難な問題(Hard Questions)は、Facebookのサービス・製品が社会にもたらす影響について説明するものです。
Facebookは、ヘイトスピーチの投稿、ヌード写真のシェア、他者への嫌がらせにあたる動画のアップロードを禁止する厳格な規定を定めています。この規定は、Facebookのコンテンツポリシーチームが、テロ対策から子どもたちを標的とした性的搾取まで、様々な専門知識を活かしながら、世界中の専門家と緊密な協議を重ね、作成したものです。規定違反があった場合には、専任チームが適切に対応します。また、こうした不適切なコンテンツを削除するために必要不可欠である人工知能（AI）や機械学習ツールも開発されています。こうしたツールによって、不適切なコンテンツのほとんどは削除されており、中には、他の利用者の皆様に閲覧される前に、削除されるケースもあります。しかし、ヘイトスピーチやいじめなどのように文脈が判断基準となる場合は、テクノロジーによってすべての不適切なコンテンツを検出することはできません。そのため、世界中で、コンテンツが規定に違反していないかどうか精査する数千人ものコンテンツレビュアーの力が必要になります。
コンテンツレビュアーの業務は簡単ではありません。なぜなら、不快なコンテンツや暴力的なコンテンツを見なければならないだけでなく、文化的な背景やFacebookのポリシーの軸であるコミュニティ規定に留意しながら、これらに関する適切な措置を判断しなければならないからです。この規定やAIを用いた規定順守については、これまで積極的に情報を公表してきましたが、レビュアーの詳細については、公表を控えてきました。その理由の一部は、安全面での懸念です。今年4月に起きたYouTube本社での銃撃事件で、コンテンツレビュアーは深刻な危険にさらされていることが明らかになり、コンテンツレビュアーの勤務地や身元などの詳細を公表することについては慎重になりました。コンテンツレビュアーは、日々課題に直面しており、業務内容もあまり知られていません。そのため、実際にどんな業務を行っているのか、または、業務を行う上での安全は保障されているのかについて、混乱を招くことがあります。ここ数週間は、Facebookでの表示が許されるコンテンツの判断基準についてや、どのようにコンテンツレビュアーが、公平かつ世界中で一貫した方法でこの規定を運用できているのかについて、たくさんのお問い合わせをいただきました。今回、こうしたお問い合わせにお答えするために、判断の過程、レビュアーへの研修方法、そして、どのように一貫して規定を運用しているかお伝えします。
Facebookは、かつてない規模でコンテンツの精査に取り組んでいます。Facebookは、たくさんの人々が、国や文化の違いを超えて、あらゆる言語で交流する、史上最大のプラットフォームです。その影響力の大きさと、適切な対応を取らなければならない責任を理解しています。
コンテンツレビュアーについて
Facebookで、安全・セキュリティ分野に従事するチームの規模は、今年、2倍になり、2万人に達しています。これには、正社員、契約社員、提携先の社員からなる7500人のコンテンツレビュアーも含まれます。今後も世界中で増員し、すべてのタイムゾーンと50以上の言語に対応できる体制を整える予定です。Facebookのコミュニティが持つ多様性を反映し、レビュアーは、退役軍人から元公務員まで、さまざまな経歴を持ち、豊富な専門的経験を活かしています。
24時間体制での精査を行うために、言語能力は必須です。例えば、フィリピンの真夜中にタガログ語による投稿が、規定に違反しているとして報告された場合でも、現地、もしくは、時間帯が異なる別の地域に、タガログ語を話すことができるレビュアーが対応のために控えており、すぐに精査が行われます。一方で、ヌードなど、判断をする上で、言語能力を必要としない報告も相当数存在するため、それらは、言語に関係なく、世界中で待機しているレビュアーが精査を行います。24時間体制での対応が整っていない言語での投稿が報告された場合は、翻訳会社や専門家の力を借り、地域独特の文脈や言語も理解し、精査を行うようにしています。
言語能力に加え、レビュアーには文化を理解していることが求められます。例えば、メキシコからの報告を精査するレビュアーには、スペイン出身ではなく、メキシコ出身のスペイン語を話す人材を採用するようにしています。なぜならば、メキシコでの投稿を精査するためには、現地の人々にしか理解できないような特有の意味を持つ言葉や政治情勢を理解する必要があるからです。
さらに、レビュアーには、業務を行う上で直面することが予想される課題に対応できることが重要です。よって、言語能力や文化を理解しているだけでなく、レジリエンス（復元力、回復力）も求められます。例えば、暴力的な画像にも対処する能力があるかどうかということです。当然のことながら、コンテンツレビュアーは各国の雇用法規に基づき雇用されています。
数週間の集中研修
業務を遂行するためには、良質な研修が必要です。コンテンツレビュアーには、Facebookの規定、その背景にある論理的根拠、どのように規定を適用するかを、しっかりと理解することが求められます。そのため、Facebookは、正社員、契約社員、提携先の社員を含むすべてのコンテンツレビュアーを対象に、以下の3つの研修を実施しています。
-
- 事前研修…業務内容に加え、健康維持に役立つ各種リソースの利用や、精神科医への相談方法などについて説明します。
- 実務研修…インストラクターによる最低80時間の研修に続き、複製したシステムを使った実際の職場環境に近い環境で研修を行います。実務研修後には、一貫性を持って、正確に規定をできた部分、さらなる改善が必要とされる部分などについて示すフィードバックを受けます。
- 継続的指導…レビュアーは、定期研修のほか、再教育のための研修を受けたり、規定の最新情報を得たりすることもできます。
実際の業務について
規定に違反している可能性のあるコンテンツを報告することは、どなたでも行うことができます。報告が行われると、自動的に、言語や違反のタイプに応じて、専門チームによる精査が行われます。これにより、まず、特別な研修を受けたチームが精査を行い、必要な場合には、特定の領域の専門家や規定を作成しているコンテンツポリシーチームと協力することも可能になります。
レビュアーは、報告された投稿を1つずつ、順番に精査を行っていきます。ヌードを含む画像などは、表示を許可するか判断するために、投稿のみを考察します。しかし、判断をする上で、文脈を理解することが必要となる場合は、投稿だけでなく、報告された投稿に寄せられたコメントなどの追加情報も考慮します。例えば、歴史的に人種的中傷として使われてきた言葉は、ヘイトスピーチになる場合もありますが、自身を強く見せるための表現として使用されることもあります。文脈を理解することは、レビュアーが規定を適用し、削除するべきかどうか判断する上で役に立ちます。
Facebookは、コンテンツレビュアーの判断から個人的な見解や偏見を取り除くことを目指しています。そのため、理論上は、異なるレビュアーが同じ投稿を精査しても、同じ判断を下すことになります。もちろん、規定が十分に規範的でなければ、様々な判断が下されることになります。そのため、規定の明確化と改善のために尽力しており、毎週、レビュアーが判断したケースを一例抽出し、審査することで、誤った判断が下されていた場合でも発見できるようにしています。レビュアーによる判断の審査は定期的にも行われています。さらに、各オフィスに、助言を行う指導員を配置し、週に一度は、規定の専門家に質問することができる環境を整えています。
コンテンツレビュアーにはノルマが課せられており、早まった判断をすることもあるというのは、誤解です。コンテンツレビュアーに、一定数の投稿の精査を行うように求めていないのは、報告される投稿には、ヌードのように数秒で判断できるものもあれば、なりすましのように、判断に時間を要するものもあるためです。常に十分な数のレビュアーで精査を行う態勢を整えるために、報告があったコンテンツの種類に応じて、精査にどのぐらいの時間がかかるかを示す一般的なガイドラインの提供は行っていますが、レビュアーには、精査に必要と思われる時間をかけることを推奨しています。
コンテンツレビュアーのケア
Facebookは、生々しく、不快なコンテンツを精査するすべてのレビュアーを対象に、レジリエンスプログラムの作成・実施・評価を行う４人の臨床心理学者で構成されるチームを、３つの地域にまたがり配置しています。このチームは、業務委託先や委託先の専門チームとも連携しています。
正社員、契約社員、提携先の社員を含むすべてのコンテンツレビュアーは、訓練を受けた専門家によるカンセリングを個人としても、グループとしても、受けることができるなど、精神面のケアに役立つさまざまなリソースを利用することができます。また全員に充実した医療手当が提供されます。
Facebookは、コンテンツレビュアーの勤務環境にも配慮しており、通常のFacebookのオフィスと同様のオフィスを使用しています。これは、精神的に負担が大きい業務を行うレビュアーの健康を、環境面からサポートするためです。
勤務中のコンテンツレビュアー（ドイツ・エッセン市）
勤務中のコンテンツレビュアー（ドイツ・エッセン市）
このような規模でコンテンツの精査を行うことは、未知の領域であり、手探りの状態です。Facebookは、コンテンツの精査に取り組むレビュアーへの配慮を重視しています。コンテンツレビュアーは、すべての利用者の皆さまのためにFacebookの安全性を確保している、影のヒーローであり、Facebookにはレビュアーの安全を保障する義務があります。