Em março deste ano, anunciamos que as Contas de Adolescente do Instagram no Brasil teriam novas configurações de conteúdo definidas por padrão. Inspiradas em critérios de classificação indicativa de filmes e no feedback de pais, as “configurações de conteúdo 13+” foram desenvolvidas para ajudar os adolescentes a verem conteúdo apropriado para sua faixa etária no Instagram. Além disso, lançamos no país na mesma ocasião uma configuração mais restrita chamada Conteúdo Limitado, para pais que preferem que seus filhos adolescentes tenham uma experiência ainda mais restritiva.
Hoje estamos compartilhando uma atualização sobre esses esforços, incluindo o teste de uma nova forma de ajudar a garantir que os adolescentes não vejam repetidamente certos tipos de conteúdo.
Trabalhamos continuamente para explorar novas formas de ajudar a garantir que os adolescentes tenham experiências positivas e apropriadas para a idade em nossos aplicativos. Reconhecemos que alguns conteúdos — como publicações sobre nutrição, musculação ou como lidar com a ansiedade — podem ser úteis isoladamente, mas devem ser equilibrados com outros tipos de conteúdo em vez de serem mostrados repetidamente. Por isso, estamos testando formas de limitar que adolescentes vejam muitas publicações desse tipo de uma só vez no Instagram, incluindo no Explorar, no Feed e no Reels.
Expandindo nossas novas configurações de conteúdo 13+ para Contas de Adolescente no Instagram, Facebook e Messenger globalmente
As configurações de conteúdo 13+ das Contas de Adolescente, anunciadas em outubro passado para Estados Unidos, Canadá, Reino Unidos e Austrália e disponibilizadas há alguns meses no Instagram no Brasil, estão sendo agora expandidas globalmente, além de estendidas ao Facebook e ao Messenger em todo o mundo. A configuração de Conteúdo Limitado também estará disponível no Facebook e Messenger ainda este ano.
À medida que expandimos as novas configurações de conteúdo para mais países e aplicativos, também continuamos a convidar pais ao redor do mundo a avaliar conteúdos do Facebook e Instagram e nos dizer se os consideram apropriados para adolescentes. Recebemos feedback de centenas de milhares de pais que avaliaram mais de 15 milhões de conteúdos. Em nossa pesquisa mais recente, no fim de abril, na qual pais nos EUA, Reino Unido, Austrália e Canadá avaliaram conteúdos do Facebook que haviam sido recomendados para adolescentes em seus respectivos países, menos de 2% das publicações foram consideradas inadequadas para adolescentes pela maioria dos pais.
Uma avaliação externa para testar rigorosamente nossas configurações de conteúdo para Contas de Adolescente
Para ajudar a garantir que nossas novas configurações de conteúdo estejam funcionando para entregar a experiência positiva e apropriada para a idade que desejamos para as Contas de Adolescente, pedimos à Alice (antiga ActiveFence) que avaliasse nossas configurações e realizasse testes de estresse sofisticados e adversariais. A Alice é composta por especialistas em segurança online com ampla experiência em testes de estresse de sistemas projetados para manter as pessoas seguras.
A Alice criou contas de teste no Instagram e em um concorrente líder, e comparou “temas para usuários mais maduros” encontrados nas configurações de contas de adolescentes de cada plataforma com aqueles encontrados em filmes indicados para pessoas de 13 anos ou mais. Isso trouxe um parâmetro útil para entender o que os adolescentes poderiam ver nas Contas de Adolescente do Instagram em comparação com outros lugares. A avaliação da Alice constatou que:
- As Contas de Adolescente do Instagram na configuração padrão 13+ visualizaram 68% menos “conteúdo para usuários mais maduros” do que na experiência para adolescentes do concorrente;
- As Contas de Adolescente do Instagram na configuração mais restrita de Conteúdo Limitado tiveram uma camada adicional de proteção, vendo 96% menos “conteúdo para usuários mais maduros” do que na experiência para adolescentes do concorrente;
- Quando as Contas de Adolescente do Instagram visualizaram “conteúdo para usuários mais maduros”, ele era menos intenso do que o “conteúdo para usuários mais maduros” visto no concorrente e em filmes classificados para 13+;
- O Instagram bloqueou “termos de busca para usuários mais maduros” com mais frequência do que seu concorrente;
- As seguintes funcionalidades funcionaram conforme descrito: as Contas de Adolescentes do Instagram são configuradas por padrão na configuração de conteúdo 13+; adolescentes não podem selecionar a configuração Mais Conteúdo sem a permissão dos pais, e adolescentes na configuração de Conteúdo Limitado não podem ver ou publicar comentários.
A análise da Alice identificou duas áreas de melhoria, que trabalhamos rapidamente para resolver.
- As Contas de Adolescente do Instagram já possuíam salvaguardas para evitar a interação com contas que compartilham regularmente conteúdo inadequado para a idade. Quando a avaliação da Alice identificou algumas exceções, atualizamos imediatamente nossos sinais de detecção para melhor identificá-las. Como observa o relatório da Alice, “essas medidas de melhoria foram subsequentemente retestadas e consideradas eficazes antes da publicação”.
- Nos raros casos em que a Alice encontrou “conteúdo para usuários mais maduros”, ele envolvia principalmente “acrobacias arriscadas” ou “desafios virais”. Após revisão, descobrimos que “car surfing” — uma tendência recentemente popular — ainda não era coberto por nossas políticas, diferentemente do “subway surfing”, que já era restrito para adolescentes. Agimos rapidamente para atualizar nossas políticas e restringir esse conteúdo para adolescentes.
Estamos encorajados por esses resultados e continuaremos a testar rigorosamente nossos sistemas para nos ajudar a seguir melhorando. Mais detalhes sobre os resultados de Alice e a metodologia estão disponíveis aqui.