No decorrer das próximas semanas, fãs de futebol ao redor do mundo usarão nossos aplicativos para se conectar com os acontecimentos da Copa do Mundo da FIFA. Enquanto a maioria estará torcendo por seus times e jogadores, infelizmente haverá algumas pessoas com comportamentos abusivos — assim como vemos offline. Antes das próximas fases da disputa, estamos compartilhando mais detalhes sobre nossas políticas contra abuso e uma série de ferramentas que desenvolvemos para manter jogadores — e todas as outras pessoas — seguros.
Nossas regras contra abusos
Temos regras claras contra bullying, ameaças violentas e discursos de ódio – e não queremos esse tipo de comportamento em nossos apps. Além de responder às denúncias da nossa comunidade, fora do ambiente de mensagens privadas nós usamos tecnologia que detecta proativamente conteúdos que possam violar estas regras. Nos casos em que nossa tecnologia considera que um conteúdo pode estar violando as regras, ela tomará medidas, seja reportando às nossas equipes para revisão ou – se for algo muito claro – removendo automaticamente. Entre abril e junho deste ano nós tomamos medidas em mais de 17 milhões de peças de conteúdo de discurso de ódio no Facebook e no Instagram. 90% destes conteúdos foram detectados antes de qualquer denúncia.
Funcionalidade para manter atletas seguros
Após ouvir nossa comunidade, desenvolvemos novas funcionalidades — e atualizamos as já existentes — para manter jogadores e torcedores seguros e protegê-los de abusos.
As pessoas podem desativar as solicitações de envio de mensagens diretas (DM) no Instagram, e assim não vão receber mensagens de pessoas que não as seguem. É possível também escolher quem pode comentar ou até desabilitar comentários em cada publicação. No entanto, algumas figuras públicas nos relataram que não desejam desativar completamente as solicitações de DMs, porque querem manter o contato com fãs e outros membros de sua comunidade. Por isso, desenvolvemos o Palavras Ocultas.
Quando ativada, a funcionalidade envia solicitações de DM — incluindo respostas aos Stories — com palavras, frases e emojis ofensivos para uma pasta oculta, assim você não tem que vê-las. Essa opção também oculta comentários ofensivos em suas publicações. Desde seu lançamento, no último ano, mais de 1 em cada 5 usuários com mais de 10 mil seguidores ativaram a funcionalidade. Também estamos testando tornar o mecanismo uma configuração padrão para contas de criadores, o que inclui muitos jogadores de futebol da Copa do Mundo.
No último ano lançamos a ferramenta Limites, que quando ativado, oculta comentários e solicitações de DM de pessoas que não seguem você ou que passaram a lhe seguir recentemente. Essa ferramenta é especialmente útil para figuras públicas que podem receber um pico repentino de comentários e DMs — após uma partida de futebol, por exemplo — uma vez que nossos estudos mostram que a maior parte dos comentários negativos partem de não seguidores ou seguidores recentes. Quando detectamos que alguém está recebendo um pico de comentários ou solicitações de DM, sugerimos a ativação da ferramenta.
Bloquear é uma maneira rápida e efetiva de interromper a interação com alguém. Agora, ao bloquear alguém no Instagram, você também pode bloquear outras contas dessa pessoa, inclusive contas criadas posteriormente, dificultando ainda mais o contato.
Incentivando comportamentos mais empáticos no Instagram
Também continuamos explorando formas de impedir a publicação de conteúdos abusivos. Nós já usamos inteligência artificial para detectar quando alguém está tentando publicar um comentário potencialmente ofensivo e alertamos esta pessoa de que ela pode estar descumprindo as regras. Em uma semana, após verem estes avisos, 50% das pessoas editaram ou apagaram seus comentários. Recentemente, nós também introduzimos novos lembretes que encorajam o usuário a parar e repensar antes de responder a um comentário potencialmente ofensivo. Estes lembretes estão disponíveis para pessoas com apps configurados em português, inglês, espanhol, francês, chinês e árabe.
Quando as pessoas enviam solicitação de DM para um criador ou figura pública pela primeira vez, nós as lembramos de serem respeitosas, assim relembramos que há uma pessoa real do outro lado da mensagem.
Educando atletas sobre nossas ferramentas e políticas de segurança
Nós conversamos regularmente com jogadores de futebol, times e associações ao redor do mundo — inclusive com a FIFA — para assegurar que conheçam nossas políticas e recursos mais recentes, além de escutar seus feedbacks cuidadosamente. Nós também trabalhamos de perto com times presentes na Copa do Mundo para ajudar seus jogadores a ativar nossas ferramentas de segurança – Palavras Ocultas, por exemplo – e os lembramos, durante o torneio, com notificações sobre as ferramentas no topo de seus Feeds no Instagram.
Cooperamos com autoridades
Nós cooperamos com autoridades em investigações e respondemos às solicitações legais válidas de informação, de acordo com nossos termos de serviço e a legislação aplicável. Como em qualquer solicitação legal, podemos recusá-las se forem muito amplas, inconsistentes com os direitos humanos ou legalmente inválidas.
Embora saibamos que uma só ação não suprime comportamentos abusivos, estamos comprometidos em continuar desenvolvendo ferramentas para proteger nossas comunidades e trabalhar ativamente com a indústria do futebol para manter nossos apps seguros para atletas e torcedores.