Monika Bickert グローバルポリシー統括責任者
化学兵器による攻撃を受けたシリアの子どもたちを撮影した悲惨な動画が、先月、Facebook上でシェアされました。同様の動画はインターネット上のあらゆるところに投稿され、体を震わせ、呼吸障害を起こし、やがて息を引き取っていく子どもたちの姿が映し出されていました。
極めて衝撃的な映像だったため、動画を再生する前に警告画面を設定しました。この動画は、世界中で怒りを駆り立て、シリアの窮状が改めて注目されることになりました。
世界中でアップロードされる投稿をチェックすることは、非常に困難でありますが、同時に不可欠な作業です。私はFacebookでこの業務を担当する者として、どこでどのように投稿をチェックしているかについて説明したいと思います。
Facebookは1日当たり10億人以上に利用されています。ユーザーは、様々な言語で、写真からライブ映像まで様々な投稿をシェアしています。調査の対象として報告される投稿は、その中のごく一部です。いじめやヘイトスピーチ、テロ行為まで、問題の範囲は幅広く、複雑です。ユーザーの安全を守る一方で、自由に投稿できるようなポリシーを作るには、新しい社会問題と、それがオンライン上にどのような形で現れるかということを把握し、週に数百万単位で寄せられる世界中からの報告に素早く対応できなければなりません。
また、Facebookの検査員には、内容を理解しなければならないという別のハードルもあります。テロリストの攻撃を撮影した生々しい動画が投稿されたら、その動画を見て、人々は暴力をマネしたいと思うのか、それとも怒りの声を上げるのでしょうか。自殺に関するジョークを投稿した人がいるとします。その投稿は、その人にとって普通の行動なのか、あるいは助けを求めているのでしょうか。投稿の裏にある意図、投稿に潜むリスクを判断するのは、容易なことではありません。
イギリスでは、君主制への批判は容認されていますが、国によっては罪に問われる場合もあります。法律は指針にはなりますが、何が容認されるかは、その社会の基準によって異なります。ストーリーを伝え、画像や映像を共有できる新しい方法が登場したことで、これまでにないスピードで、こうした緊張感が表面化することになったのです。
私たちは、サイトを安全に守らなければなりません。そのための社内ポリシーの内容は、抜け道を見つけるために悪用される恐れもあるため、通常は公表しておりません。しかし私たちは、Facebookで許されていること、禁止されていること、そしてその理由を規定した「コミュニティ基準（Community Standards）」を公開することにしました。
Facebookの基準は、時間を経て変化してきました。私たちは、子どもの安全からテロリズム、人権に至るまでのあらゆる問題について、専門家や地域組織と話し合っています。これは、Facebookのポリシーが、直観的に分かりづらい部分があることを意味しております。英紙ガーディアンが報道したように、ユーザーによる自傷行為のライブ配信は、そのままにしておくべきとの助言を専門家から受けました。自傷行為を真似るユーザーが出ることを防ぐため、映像は後ほど削除しますが、ライブ配信を見た人が助けることができるよう、ライブ配信はしばらくそのままにしておくべきとの指示を受けました。実際に、米ジョージア州の少女が、Facebookのライブ配信上で自殺を図りましたが、それを見た友人が警察に通報し、救出することができたという例があります。
私たちは客観的であるよう努めています。私たちが審査する案件は、分かりやすいものばかりではありません。グレーゾーンで、賛否が分かれるものも少なくありません。芸術とポルノは線引きが難しいです。しかし私たちは、デジタル合成された裸の画像は手書きの画像よりポルノ性が高いという結論に達し、ポリシーに反映させています。
一般的な怒りの表現と特定の個人を誹謗中傷することには、大きな違いがあります。私たちは、前者は容認しますが、後者は禁止しています。
暴力に対する認識を喚起することと暴力を煽ること、何かを目撃することとぼんやり眺めていること。こうした違いは分かりづらく、明確に定義する世界共通の法的基準はありません。可能な限り客観的であることが、一貫性を保つことのできる唯一の方法なのです。それでも、時に判断を誤ってしまうこともあります。
レビューの質を向上するため、私たちは仮定の状況下で検査員がどう対処すべきかのトレーニングを行いますが、その設定は意図的に極端にしています。検査員が、実際の難易度の高い案件にも対処できるよう考慮して作られています。およそ10年前、初めてコンテンツの基準を作った時は、検査員の個人の裁量に一任される部分が多かったのですが、ヘイトスピーチやいじめなど様々な問題について、複数の検査員が異なる見解を持つこともあるため、現在は明確な基準を設けています 。
私たちはいま、検査を厳しくしてほしいというユーザーと検査を緩めてほしいというユーザーの双方から批判を受けています。これは、私たちがどちらか一方に偏りすぎていないことを示すものと考えております。
これを読んでいる皆さんには、私たちが心より真剣に取り組んでいることをご理解いただきたいと思います。検査を担当するチームに所属する私たちにとって、安全性を確保することは、最も情熱を傾けるべきことの一つです。私自身は、過去に10年間、検察官として勤務し、児童の性的搾取からテロリズムまで、あらゆる事件を捜査しました。チームには、過激派対策の専門家、テロ対策センターの研究担当者、強姦救援センターのスタッフ、教師なども在籍しています。
私たちにできることはたくさんあるはずです。Facebookは先月、さらに3,000人の検査員を採用することを発表しました。これは、非常に責務の重い仕事です。難しい判断を速やかに上層部に委ねられるようなシステムを整えたり、精神的なサポートを提供したりすることで、検査員が適正なサポートを受けられるように、今後も取り組みを続けていきます。
テクノロジーの進化によって、人々のコミュニケーションの範囲はかつてないほど大きく広がっています。情報をシェアすることで得られるメリットは、リスクよりも大きいと信じております。一方で、何が容認でき、何が有害かについて、社会は模索している段階であることを認識しています。私たち、Facebookは、この議論において重要な役割を果たすことができると考えています。