Metaは昨年10月、米国、英国、オーストラリア、カナダにおいてInstagramのティーンアカウントを刷新、新たに「13歳以上向けのコンテンツ設定」を提供開始することを発表しました。これは映画レーティングの基準や保護者からのフィードバックを参考に、デフォルトで年齢に適したコンテンツが表示されるよう設計したもので、ローンチ以降も10人中9人の子どもがこの設定のまま利用を続けています。また、子どもの体験をより厳格に管理したい保護者向けに「コンテンツを制限」という新たな設定も導入しました。これらのアップデートは今年5月、日本でも導入を開始しています。

本日は、10代の利用者が特定の種類のコンテンツを繰り返し目にすることを防ぐための新たなテストを含め、この取り組みの進捗を共有します。

ティーンアカウントの13歳以上向けコンテンツ設定を世界中で導入

今年5月に発表したように、Instagramに加えて、FacebookとMessengerのティーンアカウントでも13歳以上向けコンテンツ設定を拡大し、グローバルで導入します。Facebookにおける新しい13歳以上向けデフォルト設定では、フィードやリールなどで、10代の利用者に不適切なコンテンツが表示されにくくなるよう設計されています。また、不適切なコンテンツを主に投稿するプロフィール、ページ、グループ、イベントとのやりとりを制限します。

Messengerでは、Facebook上の不適切なコンテンツへのリンク閲覧や、不適切なコンテンツを主に共有するアカウントとのチャットを制限します。FacebookとMessengerにおける「コンテンツを制限」設定は、今年の後半に利用可能になる予定です。

新しいコンテンツ設定をより多くの国やアプリへ拡大するのにあわせて、世界中の保護者に、FacebookおよびInstagramのコンテンツを評価し、10代の利用者に適切だと思うかどうかを共有してもらう取り組みも継続しています。これまでに数十万人の保護者から意見が寄せられ、1,500万件以上のコンテンツが評価されました。4月末に実施した最新の調査では、米国、英国、オーストラリア、カナダの保護者が、それぞれの国で10代の利用者にFacebook上でおすすめとして表示されたコンテンツを確認しました。その結果、大多数が10代に不適切と判断した投稿は2%未満でした。

子どもが特定の種類のコンテンツを繰り返し目にするのを防ぐ新たな方法

Metaは、10代の利用者がアプリ上で前向きで年齢に適した体験を得られるよう、他の方法も引き続き検討しています。特定の種類のコンテンツ、たとえば栄養、筋力トレーニング、不安への対処方法などの投稿は、それ自体は有益な場合があります。一方で、そのようなコンテンツが繰り返し表示されるのではなく、他の種類のコンテンツとバランスよく表示されることが重要です。そこで、10代の利用者がこのような種類の投稿をInstagramの発見タブ、フィード、リールなどの画面で一度に過剰に目にすることが無いよう、制限する方法をテストしています。

ティーンアカウントのコンテンツ設定を外部評価で検証

ティーンアカウントにおける新たなコンテンツ設定が、前向きで年齢に適した体験を提供するために機能しているかを確認する目的で、MetaはAlice（旧ActiveFence）にティーンアカウントの設定の評価と、高度で実践的なストレステストの実施を依頼しました。Aliceは、人々の安全を守るために設計されたシステムのストレステストに豊富な経験を持つ、オンラインセーフティの専門家で構成されています。

Aliceは、Metaの年齢にふさわしいコンテンツガイドラインに基づく「成人向けテーマ」について、Instagram、主要な競合プラットフォーム、そして13歳以上向け映画作品を比較しました。これにより、Instagramのティーンアカウントで利用者が目にする可能性のある内容を、他の環境と比べて理解するための有用な基準が得られました。Aliceの評価では、以下が示されました。

• デフォルトの「13歳以上向けコンテンツ設定」になっているInstagramのティーンアカウントでは、競合のティーン向け体験と比べて成人向けコンテンツが68%少なかった
• より厳格な「コンテンツを制限」が設定されているInstagramのティーンアカウントでは、追加の保護レイヤーが機能することで、競合の10代の利用者向け体験と比べて成人向けコンテンツが96%少なかった
• Instagramのティーンアカウントで成人向けコンテンツが表示された場合でも、その刺激の強さは競合や13歳以上向け映画で見られる成人向けコンテンツより低かった
• Instagramは競合よりも高い頻度で成人向けの検索ワードをブロックした
• 次の機能が説明どおりに動作していた：「ティーンアカウントはデフォルトで13歳以上向けコンテンツ設定になる」「保護者の許可なしに10代の利用者が『成人向けコンテンツ』を選択できない」「『コンテンツを制限』を設定している子どもはコメントの閲覧や投稿ができない」

また、Aliceの分析では改善点が2つ特定されましたが、いずれも迅速に対応しました。

• Instagramのティーンアカウントには、年齢に不適切なコンテンツを定期的にシェアするアカウントとのやりとりを防ぐための安全対策がすでに備わっていましたが、Aliceの評価で一部の例外が確認されたため、Metaは検知シグナルを直ちに更新し、より確実に検出できるようにしました。Aliceのレポートにも「これらの改善措置はその後再テストされ、調査結果の発表前に有効であることが確認された」と記載されています。
• また、Aliceが成人向けコンテンツに遭遇した稀なケースの多くは、「危険なスタント」や「バイラルチャレンジ」に関するものでした。確認の結果、新たに流行し始めた「car surfing（車上サーフィン）」は、10代の利用者に対してすでに制限していた「subway surfing（地下鉄サーフィン、走行中の電車の上に乗る危険行為）」とは異なり、ポリシーの対象にまだ含まれていないことが判明しました。そこでMetaはポリシーを迅速に更新し、このコンテンツを10代の利用者向けに制限しました。

Metaではこれらの結果を前向きに受け止めており、改善を継続できるよう、今後もシステムの厳格なストレステストを続けます。Aliceの結果および手法の詳細は、こちらで確認できます。

※ソーシャルメディアと映画には多くの違いがあり、コンテンツ設定の見直しはMPA（米国映画協会）と協力して行ったものではありません。MPAがInstagram上のコンテンツをレーティングしたり、Metaのコンテンツ設定を承認・推奨したりしているものではなく、Metaが保護者にとって馴染みのあるMPAの公開ガイドラインや保護者からのフィードバックを参考にしたものです。Metaのコンテンツモデレーションの仕組みは映画のレーティング審査機関とは異なるため、体験が完全に同一でない場合があります。