コミュニティ規定違反への対応状況のご報告

5 years ago

Facebookはこのたび、2018年第4四半期および2019年第1四半期を対象にしたコミュニティ規定施行レポート第3版を公開します。このレポートには次のような新しい項目が追加されています。

第3版に新たに追加された項目

異議申し立て中のデータおよび復元済みコンテンツ: 利用者が異議申し立てを行ったコンテンツの数と、Facebookが当初の措置を講じた後に復元されたコンテンツの数を今回初めて追加しました。
規制品に関するデータ: 第2版のレポート(2018年11月)で取り上げた8つのポリシー分野に加え、今回は規制品、特に銃火器および薬物の不法な販売の試みを排除する取り組みについて、詳細を報告します。

現在、コミュニティ規定では9つのポリシーに関連する指標を示しています。9つのポリシーとは、「成人のヌードと性的行為」、「いじめと嫌がらせ」、「児童のヌードと性的搾取」、「偽アカウント」、「ヘイトスピーチ」、「規制品」、「スパム」、「テロリストによるプロパガンダ」、「暴力や過激な描写を含むコンテンツ」です。

数字の解釈

本レポートの主要な指標は以下の通りです。これらの指標を使ってコミュニティ規定違反への対応状況を記録しています。

表示頻度(プレヴァレンス): Facebookコミュニティ規定に違反するコンテンツの表示頻度です。Facebookのポリシーに違反するコンテンツを利用者が実際に閲覧した頻度を最も重要視しています。措置を講じたコンテンツはFacebookが削除したコンテンツ数を表します。一方、表示頻度は検出などで特定される前に利用者に表示された可能性がある違反コンテンツの頻度です。測定方法は、Facebookで利用者が閲覧したコンテンツを定期的にサンプリングし、そのうちの弊社の規定に違反するコンテンツの割合から算出します。
- この指標は現在、「成人のヌードと性的行為」、「暴力や過激な描写を含むコンテンツ」、「偽アカウント」に関して測定済みであり、詳細は次のとおりです。
  - Facebook利用者によるコンテンツの閲覧10,000回のうち11～14回、「成人のヌードと性的行為」に関するポリシーに違反したコンテンツが含まれると推定されます。

- - Facebook利用者によるコンテンツの閲覧10,000回のうち25回、「暴力や過激な描写を含むコンテンツ」に関するポリシーに違反したコンテンツが含まれると推定されます。
  - 「偽アカウント」については、月間アクティブアカウントの5%が偽アカウントであると推定されます。
- 今回のレポートでは初めて、「テロリズム」、および「児童のヌードと性的搾取」に関する表示頻度指標も公開しています。この両分野における表示頻度は非常に低く、弊社の標準的な手法では測定できませんでしたが、2019年第1四半期においては、Facebook利用者によるコンテンツの閲覧数10,000回のうちこれらのポリシーに違反したコンテンツはそれぞれ3回未満であったとの推定を得られました。
- Facebookでは、このレポートに含まれる各ポリシー分野に対する表示頻度指標の算出を進めてまいります。表示頻度の測定方法の詳細については、こちらからご覧いただけます。
措置を講じたコンテンツ: コミュニティ規定違反を理由にFacebookが措置を講じたコンテンツの量です。こうした措置には、コンテンツの削除、コンテンツに対する警告画面の適用、アカウントの停止などがあります。このデータは、利用者が投稿したポリシーに違反するコンテンツの量と、Facebookがそれをどの程度特定できているかを表しています。
- 偽アカウントに関しては、一度に大量のアカウント作成を行う自動化された悪質な攻撃が要因となり、措置を講じた対象アカウント数が増加しました。無効化したアカウント数は、2018年第4四半期に12億、2019年第1四半期に21億9,000万でした。これらのアカウントの多くは、作成後数分以内に無効化されたためアクティブアカウントと見なされず、悪質行為を行うこともありませんでした。FacebookアナリティクスVPのAlex Schultzも偽アカウント対策について「困難な問題」ブログで詳しく説明していますが、今後もこれらのポリシー違反への対策を強化してまいります。
事前対応率: 措置を講じたコンテンツのうち、外部からの報告を受ける前にFacebookのシステムが検出したコンテンツの量です。この指標では、特定のポリシー分野におけるAIの検出効率が反映されます。
- このレポートで取り上げる6つのポリシー分野のうち、措置の対象となるコンテンツの95%以上は外部から報告される前に検出されました。
- ヘイトスピーチに関しては現在、削除されたコンテンツのうち65%をFacebookが検出しており、1年前にこの取り組みを初めて公表したときの24%から上昇しています。2019年第1四半期に削除したヘイトスピーチに該当する投稿は400万件でした。私たちはこの技術への投資を続け、様々な言語および地域においてこのようなコンテンツを検出する能力を高めていきます。

新項目：異議申し立てと誤判断の修正

あるコンテンツに措置を講じる場合は投稿者に通知します。一部のケースを除いて、Facebook側に判断の誤りがあると思われる場合は投稿者が申し立てできる機会を設けています。このレポートの第3版では、利用者が異議申し立てを行ったコンテンツ数、および私たちが措置を講じた後に復元されたコンテンツ数に関するデータを公開しています。

私たちの措置に誤りが判明した場合は、直ちにそれを修正するための対応を取ります。異議申し立ての後に復元されたコンテンツ数や、直接の異議申し立てがなかった場合でもFacebookが自主的に復元したコンテンツ数を公開します。次のような場合、Facebookは異議申し立てがなくてもコンテンツを復元します。

共通した内容のコンテンツに関連した複数の投稿の削除に誤りがあった場合、1人からの異議申し立てに基づいてすべての投稿を復元することがあります。
レビュー時の誤判断が判明した場合、投稿者が異議申し立てを行う前にコンテンツを復元することがあります。
特にスパムなど、弊社が不正と判断したリンクを含む投稿を削除した後にリンクが無害であると判明した場合、投稿を復元することがあります。

2019年第1四半期に関しては、偽アカウントを除く各ポリシー分野についてこの項目をレポートに盛り込んでいます。

2018年第4四半期に異議申し立てが行われたコンテンツが2019年第1四半期に復元された可能性があるため、「異議申し立てが行われたコンテンツの量」と「復元されたコンテンツの量」を同一四半期内で直接比較することはできません。同様に、2019年第1四半期の「異議申し立てが行われたコンテンツの量」には、2018年第4四半期中に措置の対象となったものが含まれる可能性があります。

*異議申し立て確認後に復元されたコンテンツの量と、異議申し立てがなく復元されたコンテンツの量を合計しても、四捨五入の影響により、復元されたコンテンツの合計量と一致しない場合があります。

異議申し立てプロセスの仕組みの詳細については、こちらからご覧いただけます。

新項目: 規制品に関するデータ

長年にわたり、Facebookでは違法薬物と銃火器の販売に関するポリシーを策定、施行しています。Facebookのポリシー施行のためのさまざまな手法には、削除済みの違反コンテンツに関連するプロフィール、ページ、グループ、ハッシュタグの調査や、薬物販売に関連する数百の用語のブロックとフィルタリングなどがあります。さらに専門家と協力して、薬物の新たな俗称や、悪質行為の隠蔽のために利用される手口について常に最新情報を得ています。

2018年夏、Facebookは規制対象商品ポリシーに違反するコンテンツの特定にAIを利用する試みを始めました。この投資により対処できるコンテンツの数が増加し、大半の違反コンテンツは外部からの報告がなくても措置を講じられるようになりました。2019年第1四半期には約90万の薬物販売関連コンテンツに措置を講じ、そのうち83.3%はFacebookが事前に検出したものでした。また、同時期に約67万の銃火器販売関連コンテンツに措置を講じ、その69.9%はFacebookが事前に検出したものでした。

この技術によってより多くの違反投稿を事前に検出できるため、弊社のチームは悪質行為を隠蔽する手口を分析するなど、利用者の皆様の安全を守る作業に一層注力できます。

透明性に対するFacebookの責任

この1年、Facebookではポリシーの策定方法、そして施行状況の測定について透明性を高めるために、さまざまな努力を重ねてきました。ポリシーに関しては、ポリシーの更新を決定する隔週ミーティングの議事録をシェアすることから始め、現在ではコミュニティ規定のウェブサイトでRecent Updates (最新アップデート)を公開することにより、ポリシー変更の詳細を誰でも確認できるようにしています（4月10日から、英語を対象に取り組みを開始）。また、学術的調査の取り組みの一環として、弊社のコンテンツポリシーやオンラインのコンテンツがオフラインでの行動に与える影響について調査するため、世界中で19の研究計画に対して奨励金を授与しています。

外部からの独立した調査とインプットは、サービス向上のために不可欠な要素です。これを念頭に、私たちはデータの透明性に関するアドバイザリーグループ(DTAG)を設立しました。これは、コミュニティ規定施行レポートで公開している指標が、Facebookの取り組みにとって有意義であり正確なものであるかどうかを自主的かつ公的に評価することを目的としています。この独立組織は、弊社の調査方法を評価するために、測定、統計、犯罪学、ガバナンスの分野における世界的な専門家で構成されています。Facebookは、アドバイザリーグループに対し施行プロセスと測定手法に関する詳細な機密情報を提供しており、この度、アドバイザリーグループによる独立評価の結果が公開されました。アドバイザリーグループはこの評価の中で、コミュニティ規定施行レポートは透明性実現における重要な取り組みであると述べ、弊社のアプローチと調査方法が健全かつ合理的なものであることを明らかにしました。また、弊社のプラットフォームの利用者に対する説明責任と対応力を向上させるために弊社がさらに改善すべき分野も明らかになりました。このような重要なインサイトは、弊社の今後の取り組みに示唆を与えるものです。

Facebookは引き続き、人々が私たちの進歩を認識でき、さらなる行動が求められる場面でFacebookが責任を果たせるよう、取り組みについての透明性を高め、情報をさらに公開してまいります。

Downloads:
画像をダウンロード