昨年10月、Metaは、保護者が10代のAI利用をサポートしやすくするための新たな取り組みを進めていることを発表しました。その一つが、子どもがMeta AIに質問したトピックを保護者が確認できるインサイトです。まずは米国、英国、オーストラリア、カナダ、ブラジルで提供を開始し、今後数週間で対象国を順次拡大します。
Meta AIとの会話についてより多くのインサイトを提供
今回のアップデートで、Facebook、Messenger、Instagramのペアレンタルコントロール機能に新たに「インサイト」タブが表示されるようになります（アプリ内およびウェブ上に表示）。保護者はここから、過去7日間に子どもが各アプリでMeta AIに質問したトピックを確認できます。トピックは「学校」「エンターテインメント」「ライフスタイル」「旅行」「執筆」「健康・ウェルビーイング」など多岐にわたります。
保護者は各トピックをタップすることで、そこに含まれるさまざまなカテゴリーを確認できます。例えば、「ライフスタイル」にはファッション、食事、祝日といったカテゴリーがあり、「健康・ウェルビーイング」にはフィットネス、身体の健康、メンタルヘルスなどが含まれます。
これは第一歩に過ぎず、インサイト機能を世界中の保護者に展開する中で、保護者や専門家の双方からのフィードバックを踏まえ、今後もさらなる改善を検討していく予定です。
AIに関するティーンアカウントの既存の安全対策を強化
これらの新しいインサイト機能は、ティーンアカウント向けのAI体験にすでに組み込まれている安全保護機能を補完するものです。例えばMetaのAI体験は、13歳以上を対象とした映画のレーティング基準や保護者からのフィードバックを参考に開発されており、年齢にそぐわない不適切な回答をしないように設計されています（※日本でも近日中に導入予定）。そのため、Meta AIが特定の質問に回答しない場合や、代わりに相談窓口などのリソースを案内する場合があります。Meta AIが質問に回答しなかった場合でも、子どもが質問したトピックは保護者に表示されます。
インサイトは、子どもがMeta AIに質問しているトピックを保護者が把握しやすくするための機能です。一方で、自殺や自傷行為に関わるような特に重要性の高いテーマについては、さらに踏み込んだ対策も進めています。Metaは今年2月、子どもがMeta AIで自殺・自傷行為に関する会話を試みた場合に保護者へ通知する新たなアラート機能を開発中であることを発表しました。このアラート機能についての詳細は近日中に発表する予定です。
これらのインサイト機能や先回りの通知は、ペアレンタルコントロールをさらに役立つものにする取り組みの一つです。すでに提供している機能として、利用時間の上限設定、休憩のスケジュール設定、過去7日間に子どもがチャットした相手の確認などがあります。米国では、ペアレンタルコントロールを利用する10代の数が昨年から2倍以上に増えており、こうした機能が家族の支えになっていることがうかがえます。
保護者がAIについて子どもと話すためのヒントを提供
AIは急速に進化している新しいテクノロジーであり、保護者にとっては、子どもとどのように話すべきか難しさを感じるトピックでもあります。そのような保護者をサポートするため、MetaはCyberbullying Research Centerと連携し、AIの利用体験について偏見なく話し合うための質問集を含む会話のヒントを作成しました。各質問には、その意図や会話の進め方をまとめた保護者向けガイダンスも付いています。これらはファミリーセンターで公開するほか、新しい「インサイト」タブ内のリンクからも確認できます。
「AIウェルビーイング専門家協議会」を新設
最後に、Metaが新たに立ち上げた「AIウェルビーイング専門家協議会」についてご紹介します。この協議会は、10代向けのAI体験が安全で年齢に適したものであり続けるよう、継続的に助言を行う専門家グループです。Metaはこれまでも、専門家の知見を取り入れながらポリシーやプロダクトを改善してきました。自殺・自傷行為に関するアドバイザー、青少年アドバイザー、ボディイメージの専門家などからも、各分野の問題に対する助言を受けています。
「AIウェルビーイング専門家協議会」は、既存の3つのアドバイザリーグループのメンバーに加え、責任あるAIやAI倫理に専門性を持つ新たなメンバーで構成されています。メンバーは、National Council for Suicide Prevention（NCSP）、ミシガン大学、テキサス大学、南カリフォルニア大学などの機関に所属しています。Metaのチームは協議会と定期的に意見交換を行い、10代の利用者向けに開発中のAI体験のアップデートを共有するとともに、ポリシーとプロダクトへのフィードバックを収集します。この取り組みはすでに始まっており、本日発表した保護者向けインサイト機能の開発にも知見が活かされています。