Nas próximas semanas, o Instagram começará a notificar os pais se seus filhos adolescentes tentarem repetidamente pesquisar termos relacionados a suicídio ou automutilação em um curto período. Essa é a mais recente funcionalidade da Conta de Adolescente e dos recursos de supervisão parental do Instagram.
Entendemos como essas questões são delicadas e como pode ser angustiante para um pai receber um alerta como esse. A grande maioria dos adolescentes não tenta pesquisar conteúdo relacionado a suicídio e automutilação no Instagram e, quando isso acontece, nossa conduta é bloquear essas pesquisas, direcionando os adolescentes a recursos e linhas de apoio que podem oferecer suporte. Esses alertas foram criados para garantir que os pais saibam se seus filhos estão tentando pesquisar esse conteúdo repetidamente e para fornecer a eles os recursos necessários para apoiá-los.
Como os alertas funcionarão
Na próxima semana, os pais e adolescentes cadastrados na supervisão parental serão notificados de que o Instagram começará a enviar esses novos alertas aos pais, com base na atividade de pesquisa dos seus filhos. As tentativas de pesquisa que acionarão o alerta incluem frases que promovam o suicídio ou a automutilação, frases que sugiram que um adolescente deseja se machucar e termos como “suicídio” ou “automutilação”.
Os alertas serão enviados aos pais por e-mail, mensagem de texto ou WhatsApp, dependendo das informações de contato disponíveis, bem como via notificação no aplicativo. A partir do clique na notificação, será exibida uma mensagem em tela cheia explicando aos pais que seu filho adolescente tentou repetidamente pesquisar, no Instagram, termos associados a suicídio ou automutilação em um curto período. Os pais também terão a opção de acessar recursos especializados, criados para ajudá-los a abordar conversas potencialmente delicadas com seus filhos adolescentes.
Esses alertas serão enviados aos pais que utilizam as ferramentas de supervisão parental do Instagram nos Estados Unidos, Reino Unido, Austrália e Canadá na próxima semana, e estarão disponíveis em outras regiões ainda este ano.
Alcançando o equilíbrio certo
Nosso objetivo é capacitar os pais a intervir se as pesquisas de seus filhos adolescentes sugerirem que eles podem precisar de apoio. Também queremos evitar o envio desnecessário dessas notificações, o que, se feito em excesso, poderia torná-las menos úteis em geral.
“Quando um jovem pesquisa sobre suicídio ou automutilação, dar aos pais o poder de intervir pode ser extremamente importante. O fato de a Meta ter agora incorporado isso é um passo significativo e é o tipo de mudança que especialistas em segurança infantil vêm defendendo.”
– Dr. Sameer Hinduja, codiretor do Cyberbullying Research Center
Para alcançar esse equilíbrio importante, analisamos o comportamento de pesquisa no Instagram e consultamos especialistas do nosso Grupo Consultivo sobre Suicídio e Automutilação. Escolhemos um limite que exige algumas pesquisas em um curto período, mas ainda assim optamos pela cautela. Embora isso signifique que às vezes podemos notificar os pais quando talvez não haja motivo real para preocupação, acreditamos — e os especialistas concordam — que esse é o ponto de partida adequado, e continuaremos monitorando e ouvindo os comentários para garantir que estamos no caminho certo.
“É vital que os pais tenham as informações de que precisam para apoiar seus filhos adolescentes. Este é um passo realmente importante que deve ajudar a dar aos pais uma maior tranquilidade – se o seu filho estiver tentando ativamente procurar por esse tipo de conteúdo prejudicial no Instagram, eles ficarão sabendo.”
– Vicki Shotbolt, CEO da Parent Zone
Aproveitando as proteções existentes
Esses alertas se baseiam em nosso trabalho para ajudar a proteger os adolescentes de conteúdos potencialmente prejudiciais no Instagram. Temos políticas rígidas contra conteúdos que promovam ou glorifiquem o suicídio ou a automutilação e, embora permitamos que as pessoas compartilhem conteúdos sobre suas próprias lutas com essas questões, ocultamos esses conteúdos dos adolescentes, mesmo que sejam compartilhados por alguém que eles seguem.
Trabalhamos para bloquear pesquisas por termos claramente associados ao suicídio e à automutilação, incluindo termos que violam nossas políticas sobre o assunto. Isso significa que não mostramos nenhum resultado e, em vez disso, direcionamos as pessoas a recursos e organizações locais que podem ajudá-las. Também direcionamos as pessoas a recursos e linhas de apoio quando suas pesquisas não estão claramente relacionadas ao suicídio e à automutilação, mas à saúde mental de forma mais ampla. Continuaremos a alertar os serviços de emergência quando tomarmos conhecimento de alguém em risco iminente de dano físico — ações que salvam vidas.
Estamos lançando esses alertas primeiro na pesquisa do Instagram, mas sabemos que os adolescentes estão cada vez mais recorrendo à IA para obter apoio. Embora nossa IA já esteja treinada para responder com segurança aos adolescentes e fornecer recursos sobre esses tópicos, conforme apropriado, agora estamos criando alertas semelhantes para os pais para determinadas experiências de IA. Eles notificarão os pais se um adolescente tentar se envolver em certos tipos de conversas relacionadas ao suicídio ou à automutilação com nossa IA. Esse é um trabalho importante e teremos mais a compartilhar nos próximos meses.