Por Guy Rosen, vice-presidente de Gerenciamento de Produto
Quando alguém está expressando algum pensamento sobre suicídio, é fundamental oferecer ajuda da maneira mais rápida possível.
O Facebook é um lugar onde amigos e familiares já estão conectados, então somos capazes de conectar uma pessoa em situação de dificuldade emocional com outras que podem oferecer apoio. É parte do nosso esforço contínuo ajudar a construir uma comunidade segura dentro e fora do Facebook.
Hoje, compartilhamos novidades sobre o que estamos fazendo para ajudar as pessoas que expressam pensamentos suicidas, incluindo:
- Usar tecnologia para detectar sinais em posts ou transmissões ao vivo que possam ter pensamentos suicidas, e para ajudar a responder a denúncias de conteúdos de suicídio ou automutilação mais rapidamente;
- Melhorar a forma como identificamos as melhores opções de ajuda;
- Dedicar mais revisores de nosso time de especialistas para analisar denúncias de conteúdos de suicídio ou automutilação;
Durante o último mês, trabalhamos com serviços de emergência em mais de 100 ocasiões em que a tecnologia nos ajudou a identificar sinais de comportamento suicida ou de automutilação. Isso se soma às notificações que recebemos de pessoas na nossa comunidade. Também usamos a tecnologia para acelerar o tempo de resposta às denúncias mais sérias que possam envolver risco à vida de pessoas, casos que merecem uma ação prioritária: em situações assim, autoridades locais são notificadas até duas vezes mais rápido do que em outras denúncias. Estamos comprometidos em continuar investindo em tecnologias para identificar padrões que possam indicar risco à integridade física das pessoas.
Expandindo o uso de tecnologia para reconhecer padrões
- Estamos começando a usar inteligência artificial fora dos Estados Unidos para ajudar a identificar situações onde alguém possa estar expressando pensamentos que levem ao suicídio, inclusive no Facebook Live.
- Essa abordagem usa tecnologia de reconhecimento de padrões para ajudar a identificar publicações e transmissões ao vivo como possíveis de expressar pensamentos suicidas. Continuamos a trabalhar nessa tecnologia para aumentar sua precisão e evitar falsos positivos.
- Usamos sinais como o texto usado em posts e comentários (por exemplo, comentários como “você está bem?” ou “posso ajudar?” podem ser sinais de que uma pessoa está enfrentando dificuldade emocional). Em algumas ocasiões, a tecnologia identificou vídeos que poderiam não ter sido reportados por nossa comunidade.
Melhorando a forma como identificamos socorristas e ampliando o número de revisores
- Temos milhares de revisores em todo o mundo que analisam denúncias de conteúdo no Facebook. A equipe inclui um grupo dedicado de especialistas que tem treinamento específico em suicídio e automutilação.
- Também estamos usando inteligência artificial para priorizar as análises feitas por nossas equipes, sejam publicações, vídeos ou transmissões ao vivo. Isso garante uma resposta mais rápida nos casos que envolvam pessoas em perigo e, quando for apropriado, podemos alertar de maneira mais rápida os serviços de emergência.
- Contexto é fundamental para as nossas equipes de revisão de denúncias, e temos aprimorado nossas ferramentas para ajudar as pessoas o mais rápido possível. Nossos revisores podem, por exemplo, identificar rapidamente quais trechos dentro de um vídeo motivaram um aumento nos comentários, reações e denúncias das pessoas. Isso ajuda nossos revisores a entender rapidamente se alguém pode estar em perigo e assim, podemos acionar ajuda.
- Também estamos usando recursos de automação para que nossa equipe entre em contato com serviços de emergência mais rapidamente.
Nosso compromisso com a prevenção ao suicídio
No Facebook, quando alguém publica algo que faz você ficar preocupado com o bem-estar dessa pessoa, você pode entrar em contato com ela diretamente ou denunciar o post para nós. Temos equipes trabalhando em todo o mundo, 24 horas por dia, 7 dias por semana, que analisam as denúncias e dão prioridade aos relatos mais sérios. Nós fornecemos às pessoas uma série de materiais de apoio, como a opção de contatar um amigo e até mesmo sugestões de mensagens que podem ser enviadas em situações delicadas. Também recomendamos entrar em contato com uma linha de ajuda – no Brasil, temos uma parceria com o Centro de Valorização da Vida (CVV) – e oferecemos outras dicas e recursos para que as pessoas se apoiem neste momento.
O Facebook tem trabalhado em ferramentas de prevenção ao suicídio por mais de 10 anos. Nossa abordagem foi desenvolvida em colaboração com organizações de saúde mental como Save.org, National Suicide Prevention Lifeline e Forefront Suicide Prevention, com a contribuição de pessoas que tiveram experiências pessoais pensando a respeito ou até mesmo tentando suicídio. Essas ferramentas também estão disponíveis globalmente – com a ajuda de mais de 80 parceiros locais – em qualquer idioma em que as pessoas usem o Facebook. No Brasil, além do CVV, temos parceria com a SaferNet.
Com a ajuda de nossos parceiros e de amigos e familiares das pessoas no Facebook, esperamos continuar a oferecer apoio para aqueles que precisam.