Metaは8月13日（米国時間）、Instagramのペアレンタルコントロールを利用している保護者に向けて、10代の子どもが短期間に自殺や自傷行為に関連する用語を繰り返し検索すると通知を送る機能を日本でも提供開始したことを発表しました。子どもをサポートするために保護者が必要とする情報を届けることを目的としており、繊細な会話をするにあたって役立つ専門家のリソースも併せて提供します。
本機能は今年2月に米国を含む一部の国で導入されており、年内には世界中の国と地域に拡大すると発表していたものです。
自殺や自傷行為は非常に繊細なトピックであり、このような通知を受け取ることで動揺する保護者がいる可能性も認識しています。10代の利用者の大多数は、Instagramで自殺や自傷行為についてのコンテンツを検索することはありません。もし検索したとしても、規定に従って検索をブロックし、支援につながるリソースや相談窓口を案内する仕組みになっています。今回、新たに導入する通知機能は、子どもがこの種類のコンテンツを繰り返し検索しようとしている状況を保護者が把握できるようにし、子どもをサポートするために必要なリソースへつなげることを目的としています。
なお、ペアレンタルコントロールは子どもが安全かつ適切にアプリを利用できるよう、保護者と子どもが互いのアカウントを連携して設定するもので、利用時間やプライバシーなどの設定をより細かく管理することができます。ペアレンタルコントロールの詳細や設定方法はこちらのファミリーセンターをご覧ください。
通知の仕組み
Instagramのペアレンタルコントロールを利用している保護者と子どもには、検索結果に基づく通知が送られることについてお知らせが届きます。通知の対象となる行為には、自殺や自傷行為を助長するフレーズ、子どもが自分を傷つけたい意図を示唆するフレーズ、「自殺」「自傷」のような単語などの検索が含まれます。
保護者向けの通知画面
10代の利用者向けの通知画面
保護者への通知は、設定されている連絡先情報に応じてメール、SMS、またはWhatsAppで送信されるほか、アプリ内通知としても届きます。通知をタップすると全画面のメッセージが開き、子どもが短期間に自殺や自傷行為に関連するキーワードを繰り返しInstagramで検索しようとしたことが説明されます。また、子どもとの間で起こり得る繊細な会話に向き合う際に役立つよう設計された、専門家のリソースも併せて確認することができます。
適切なバランスを目指して
このような機能を導入した目的は、子どもがサポートを必要としている兆候があると検索内容が示唆している場合、保護者が介入できるよう後押しすることです。一方で、通知が過剰になると結果として有用性が下がる可能性があるため、不必要に送りすぎることも避けたいと考えています。
適切なバランスを取るため、Instagramの検索行動を分析し、自殺・自傷行為に関するアドバイザリーグループの専門家にも相談しました。短期間に複数回の検索が必要となる閾値を設定しつつ、慎重さを優先しているため、実際には深刻な懸念がない場合にも保護者へ通知が届く可能性がありますが、これが適切な出発点であると判断しました。専門家からも同様の見解が示されています。今後もモニタリングを続け、フィードバックに耳を傾けながら、適切な体験を提供できるよう取り組みを続けていきます。
既存の保護対策を強化
今回のアップデートは、Instagram上で10代の利用者を潜在的に有害なコンテンツから守るために進めてきた既存の取り組みを土台にしています。Instagramを含むMetaのプラットフォームでは、自殺や自傷行為を助長または美化するコンテンツに対して厳格なポリシーを適用しています。こうした問題に関する自身の葛藤を共有することは認めていますが、その場合でも10代の利用者には当該コンテンツを表示しません。これは、彼らがフォローしている利用者がシェアした内容であっても同様です。
また、自殺や自傷行為と明確に関連するキーワードについては、検索自体をブロックするよう取り組んでいます。これには自殺・自傷行為に関するポリシーに違反するキーワードも含まれており、利用者が該当するキーワードを検索しても検索結果は表示せず、代わりにサポートを提供している地域の団体やリソースを紹介しています。さらに、自殺や自傷行為と明確には結びつかないものの、より広い意味でメンタルヘルスに関連する検索をしたときにも、リソースや相談窓口を案内します。なお、Metaでは差し迫った身体的危険がある利用者を把握した場合は警察または消防機関などに通報しています。このような対応が実際に命を救ったケースもあり、今後も同様の取り組みを継続していきます。