Queremos que os adolescentes tenham experiências com Inteligência Artificial adequadas à sua idade, além de manter os pais informados caso tenhamos conhecimento de que seus filhos possam estar passando por situações delicadas. Hoje, estamos anunciando proteções adicionais para ajudar a garantir que, quando se trata de conversas sensíveis relacionadas a suicídio e automutilação, estejamos atuando da maneira certa. Isso significa reconhecer os sentimentos dos adolescentes enquanto os ajudamos a obter o apoio de que precisam — seja dos pais, de uma linha de assistência profissional.
Alertando pais caso seu adolescente fale sobre suicídio ou automutilação com a Meta AI
Quando um adolescente sugere que pode estar pensando em suicídio ou automutilação, a Meta AI já o direciona para linhas de apoio em crise e o encoraja a procurar os pais ou outro adulto de confiança, como um orientador. A partir de agora, também alertaremos proativamente os pais cadastrados na supervisão parental no Instagram caso a conversa de seu adolescente com a Meta AI sugira que ele possa estar em risco, com base em sinais desenvolvidos com especialistas. Também compartilharemos recursos especializados para ajudar os pais a abordar esse tema com seus filhos.
Trabalhamos com pais e especialistas para entender quais conversas com IA justificam um alerta — como aquelas em que o adolescente faz uma referência clara a se machucar, mesmo que essa referência seja sutil. Em seguida, construímos um sistema dedicado de IA para identificar essas conversas.
Entendemos o quanto esses alertas podem ser angustiantes para os pais. Por isso, à medida que continuamos a aprimorar nossa detecção, todas as conversas sinalizadas pela nossa IA serão revisadas manualmente antes do envio de um alerta. Se a intenção do adolescente for ambígua, optaremos pela cautela e alertaremos os pais. Embora isso signifique que, às vezes, possamos notificar os pais quando talvez não haja motivo real para preocupação, acreditamos que este é o ponto de partida correto.
Esses alertas já estarão ativos agora para pais que utilizam a supervisão parental do Instagram nos EUA, Reino Unido, Austrália e Canadá, e serão disponibilizados globalmente até o fim do ano. Eles se somam aos alertas que já enviamos aos pais caso seu adolescente pesquise repetidamente por termos relacionados a suicídio ou automutilação no Instagram em um curto período.
Lançamento da configuração mais restritiva de Conteúdo Limitado para conversas com a Meta AI
As Contas de Adolescente são automaticamente colocadas na configuração de conteúdo 13+, o que também se aplica às conversas com a Meta AI. Nesta configuração padrão, a Meta AI é projetada para dar respostas adequadas à idade e não atender a mensagens sensíveis – por exemplo, a Meta AI é treinada para não participar de conversas sexuais ou românticas com adolescentes nem fornecer receitas de bebidas alcoólicas, direcionando os adolescentes para temas mais seguros.
Em outubro de 2025, anunciamos o “Conteúdo Limitado” como uma configuração de conteúdo ainda mais restritiva do que a 13+ para pais que preferem uma experiência mais controlada para seus adolescentes no Instagram. Agora, essa configuração mais restritiva também se aplicará às experiências com IA. Isso significa que, quando os pais optarem pela configuração de “Conteúdo Limitado” para seus adolescentes no Instagram, ela também limitará ainda mais os tipos de conversas que os adolescentes podem ter com a Meta AI. Na configuração de “Conteúdo Limitado”, a Meta AI se recusará a responder a uma gama mais ampla de mensagens, reduzindo ainda mais a chance de conversas potencialmente inadequadas.
Trabalhando com especialistas para melhorar as respostas da Meta AI sobre suicídio e automutilação
Além da consultoria contínua com nosso Conselho de Especialistas em Bem-Estar com IA, nosso Grupo Consultivo sobre Suicídio e Automutilação e Consultores Jovens, buscamos feedback de mais de 75 profissionais de saúde mental sobre como a Meta AI responde a mensagens de adolescentes envolvendo suicídio e automutilação. Esses profissionais, todos especializados em saúde mental de adolescentes, avaliaram respostas da IA a centenas de mensagens e forneceram feedback sobre se eram apropriadas para adolescentes, o que funcionou bem e como elas poderiam ser aprimoradas.
Estamos utilizando esse feedback para melhorar ainda mais a forma como a Meta AI interage com adolescentes sobre esses temas sensíveis — por exemplo, garantindo que a Meta AI reconheça os sentimentos dos adolescentes ao direcioná-los para recursos de apoio, sem encerrar a conversa de forma abrupta.