本日、Facebookはコミュニティ規定施行レポートの第5版を公開し、2019年10月から2020年3月までのポリシーの施行状況に関する指標を提供します。私たちは過去数年間、選挙に対する介入や、誤情報の拡散を防ぎ、有害なコンテンツから人々を安全に保つためのツール、チーム、テクノロジーを構築してきました。そのため、新型コロナウイルスの感染拡大においても、迅速に行動するためのツールとプロセスを整えており、ポリシーに違反するコンテンツを継続して見つけ、削除することができました。コンテンツレビューチームを一時的に自宅待機とした際、この期間中も引き続きアプリを安全に保つため、自動検知システムへの比重を高め、レビューにおいて重要度の高いコンテンツを優先しました。
このレポートには2020年3月までのデータのみが含まれているため、新型コロナウイルスの感染拡大期間中に行った変更の影響全体を反映しているわけではありません。これらの変更による影響は、次回のレポートで、場合によっては次回以降もみられると予想しており、透明性高くお伝えしていく予定です。例えば、過去7週間、コンテンツへの判断の決定やアカウントの削除に対して必ずしも異議申し立てを行うオプションを提供できるとは限らなかったため、次回のレポートでは異議申し立ての数が大幅に少なくなると予想しています。また、有害なコンテンツを削除することを取り組みの測定よりも優先したため、この期間中の違反コンテンツの表示頻度を計算できない可能性があります。今回のレポートは、違反コンテンツを自動的に検知して削除するためのテクノロジーにおける進歩の影響を示しています。
第5版で新たに追加された項目
Facebookの12のポリシーに関連する指標とInstagramの10のポリシーに関連する指標を追加しました。このレポートでは、ヘイトスピーチ、成人のヌードと性的行為、暴力や過激な描写を含むコンテンツ、いじめと嫌がらせの4つの領域についてInstagramのデータを紹介しています。また、Instagram上で措置を講じたコンテンツに対する利用者の異議申し立ての数、およびそれらの異議申し立てに基づいて、または自主的に復元されたコンテンツの数に関するデータも初めて共有します。FacebookとInstagramでの組織的なヘイト行為に対する取り組みに関するデータも追加しました。これらの取り組みと進捗状況について、詳しくはこちらをご覧ください。
違反コンテンツの検知と削除の進捗状況
違反コンテンツを事前に検知するテクノロジーを改善しました。これにより、違反コンテンツをより多く削除し、これらのコンテンツの表示を減らすことができるようになりました。
- Facebookでは、ヘイトスピーチのための事前検知技術をより多くの言語に拡大し、既存の検知システムを改善しました。ヘイトスピーチの事前対応率は過去第2四半期で8ポイント以上向上し、1年でほぼ20ポイント上昇しました。その結果、さらに多くのコンテンツを見つけることができ、削除されたコンテンツのほぼ90％を外部からの報告を受ける前に検知できるようになりました。さらに、検知技術に加えたその他の改善のおかげで、2019年第4四半期に削除した薬物コンテンツの数を2倍に増やし、880万個のコンテンツを削除しました。
- Instagramでは、テキストと画像のマッチング技術を改善し、自殺や自傷行為のコンテンツを見つけやすくしました。その結果、前回のレポート以降、対策を講じたコンテンツの量が40％増加し、自動検知率が12ポイント以上増加しました。また、私たちはこれまで、人々が自身の経験を管理し、望ましくないやりとりを制限するのに役立ついくつかの機能を導入することで、オンライン上のいじめに関する対応を改善させてきました。そして本日、Instagram上での新しい管理機能を発表しました。このレポートでは、Instagramでのいじめに関するデータを初めて公開します。これには、2019年の第4四半期と2020年の第1四半期の両方で150万のコンテンツに対する措置を講じたことが含まれます。
- 最後に、データベース内の既存の違反に類似したコンテンツを見つけたり削除したりするためのテクノロジーの改善により、FacebookやInstagramで子供のヌードや性的搾取コンテンツをより多く削除することができました。
過去6か月間、拡散のしやすさや深刻度などの要因に基づきチームがレビューするコンテンツの優先順位を付ける上で、テクノロジーのさらなる活用を始めました。 今後は、テクノロジーを駆使してコンテンツに対するアクションも実行する予定です。 これにより、コンテンツレビューチームが、意思決定においてより多くのニュアンスとコンテキストの理解が必要なコンテンツに集中できるようになります。
コミュニティ規定施行レポートは、年2回のFacebook透明性レポートと併せて公開発行され、政府によるユーザーデータ要請、地方法に基づくコンテンツの制限、知的財産の削除、インターネットの遮断混乱に関する政府の要求に関する数値を共有しています。
今後もコミュニティ規定施行レポートは四半期ごとに公開され、次のレポートは8月に発表される予定です。