人工知能を利用した自殺防止の取り組み拡大について

6 years ago

自殺を考えていることをこぼしている人がいたら、できる限り早く支援を受けることができるようにすることが大切です。
Facebookは友達や家族をつなぐ場所ですが、苦しんでいる人と支援する人をつなぐこともできます。そうすることで、Facebook上に限らず、現実の世界でも安全なコミュニティを築くことが出来ると考え、Facebookは様々な取り組みを続けています。
本日は、自殺を考えている人を助けるために、Facebookが今後さらに注力していく以下のような取り組みについてご紹介します。

AIによるパターン認識技術を利用し、自殺願望の表れと思われる投稿やライブ動画を検出し、対応の迅速化を図る。
警察や救急隊など、連絡するべき初動対応者を特定する方法を改善する。
コミュニティオペレーションチームの中で、自殺や自傷行為に関する報告を精査する専任チームを充実させる。

このような取り組みを行った結果、過去1カ月間で、Facebookは初動対応者と協力し、100件以上の自殺の可能性がある投稿について、投稿者の状況を確認しました。これらは利用者からの報告に加えて、AIによる検出を経て行われた報告に基づくものです。また、パターン認識技術を使い、報告の緊急度を判断し、緊急度が高い報告ほど優先して対応するようにしています。即時の対応が必要であると判断し、優先された報告は、他の報告より倍の速さでの通報につながっています。私たちは今後も、コミュニティにより貢献するために、パターン認識技術への投資を継続していきます。

パターン認識技術を利用したAIによる検出を米国外で展開へ

これまで米国では、人工知能（AI）を使い、自殺願望を示していると投稿を検出していました。今後は、これを米国以外にも導入し、米国の一部でテスト中だったライブ配信のコンテンツに関しても検出の範囲内になります。最終的に、ヨーロッパ連合（EU）を除く世界中で利用できるようになります。日本でも今後利用できるようになります。
AIによるパターン認識技術を利用して、自殺願望が含まれている可能性のある投稿やライブ配信を検出しています。この技術の精度をさらに高め、誤検出を回避できるように引き続き取り組んでいます。
AIは投稿やコメントの内容から、自殺の兆候を探します。例えば、「大丈夫ですか？」「何かお役に立てますか？」といったコメントは、自殺願望の疑いを示す強い指標になります。この検出方法によって、以前なら報告されなかった可能性のある動画が検出されたケースもあります。

初動対応者との連携強化と専任チームの充実

コミュニティオペレーションチームでは、世界中で数千人のスタッフがFacebook上のコンテンツに関する報告に対応しています。その中には、自殺や自傷行為に関する専門的な訓練を受けた専門家からなる専任チームが含まれています。
また、AIが、報告された投稿や動画、ライブ配信の中から、どれを優先すべきかを判断し、専任チームがどの報告から対応すべきかを決めています。これによって、苦しんでいる人々に適切な必要な支援を提供するとともに、必要に応じて初動対応者への通報を迅速に行うことができます。
専任チームが報告について精査する際に、投稿内容の文脈は極めて重要な判断材料になります。そのため、私たちは、できるだけ早く必要な支援を提供できるように、ツールの改良を重ねてきました。例えば、動画内のどの時点で利用者からのコメントや反応、報告の頻度が増えているかを、専任チームが素早く特定することを可能にするツールがあります。このようなツールは、専任チームが苦しんでいる人に、支援を提供するのに役立っています。
また、専任チームが適切な初動対応者の連絡先を迅速に把握できるような体制を整えています。

Facebookは自殺防止に継続的に取り組んでいきます

Facebookは、これまでも、投稿者の安否が心配される投稿を見つけた場合に、利用者が投稿者に直接コンタクトをしたり、その投稿をFacebookに報告することができる方法を提供してきました。世界各地の担当チームが24時間体制で報告を精査し、特に深刻な報告については優先的に対応しています。必要な人には、友達やヘルプラインに連絡することを提案するなど、支援を受けるための様々な方法を紹介しています。

Facebookは10年以上前から自殺防止ツールの開発に取り組んでいます。私達のこうした取り組みは、メンタルヘルス団体と協力しながら、過去に自殺を考えたり自殺未遂をした経験のある人からの意見も取り入れて開発されたものです。世界では80を超えるローカルパートナーがおり、日本では一般社団法人日本いのちの電話連盟、特定非営利活動法人国際ビフレンダーズ東京自殺防止センターと協力を続けています。今後これらのツールは、Facebook上で言語を問わず世界中で利用できるようになります。

今後も私たちのパートナーや、Facebook上でつながっている友達や家族の協力を得て、助けを必要とする方々の支援を続け、より有効的な手段となるよう、機能改善を続けていきます。

Downloads:
画像ダウンロード