Atualizado em 22 de julho de 2021:
Racismo, abuso e assédio não têm lugar em nossos aplicativos. Recentemente, jogadores negros de futebol enfrentaram abusos racistas e assédio no Instagram. É nossa responsabilidade proteger os atletas – e todos – de abusos em nossos aplicativos. Isso significa agir mais rápido para remover o conteúdo violador e equipar os atletas com ferramentas para mantê-los seguros.
Por isso, antes dos Jogos Olímpicos começarem, estamos compartilhando algumas atualizações sobre como estamos trabalhando para fazer melhorias neste sentido. Estes esforços se baseiam nos produtos e atualizações de políticas que definimos em nosso post inicial abaixo. Eles abordam tanto o racismo que os atletas podem enfrentar, quanto outras formas de ódio, incluindo o sexismo, a homofobia e outros casos. Continuaremos a desenvolver nossa abordagem e em breve compartilharemos mais atualizações.
Prevenindo o abuso racista
Uma grande parte de como evitamos que as pessoas vejam abusos é identificar conteúdos ofensivos com o apoio da tecnologia. Como o contexto é muitas vezes crucial para detectar linguagem abusiva, estamos constantemente treinando e melhorando nossa tecnologia para identificarmos esse conteúdo com mais rapidez. Por isso, fizemos duas atualizações:
- Filtragem automática de comentários: Usamos a inteligência artificial para filtrar automaticamente os comentários de pessoas que você não segue e que podem ser ofensivos ou intimidatórios. Expandimos a lista de palavras potencialmente ofensivas, hashtags e emojis que filtramos automaticamente dos comentários e continuaremos a atualizá-la frequentemente.
- Ferramentas adicionais de filtragem: Estamos começando a dar às pessoas a capacidade de ativar a opção de “Ocultar mais comentários” dentro de suas configurações de privacidade no Instagram, para que elas possam esconder ainda mais comentários que podem ser potencialmente prejudiciais, mesmo quando esses comentários não violam nossas regras.
Ajudando os atletas a usar nossas ferramentas de segurança
Temos lançado novas notificações no Instagram no topo do feed dos atletas para ajudá-los a definirem opções de segurança como palavras ocultas. Continuaremos mostrando esta notificação aos atletas olímpicos e paraolímpicos durante as próximas semanas.
Publicado originalmente em 26 de maio de 2021:
Os atletas estarão no centro das atenções nas próximas semanas, durante os Jogos Olímpicos e Paraolímpicos. Milhões de pessoas em todo o mundo usarão nossas plataformas para celebrar os atletas, países e momentos que tornam esses eventos tão icônicos.
No entanto, plataformas como Facebook e Instagram refletem a sociedade. Tudo o que é bom, ruim e feio em nosso mundo vai encontrar expressão em nossos aplicativos. Portanto, embora esperemos ver toneladas de engajamento positivo, também sabemos que pode haver quem faça mau uso de nossas plataformas para abusar, assediar e atacar os atletas que estão competindo nas próximas semanas.
Não queremos esse comportamento no Facebook e no Instagram e é por isso que introduzimos recentemente novas medidas para proteger os atletas. A seguir, compartilhamos como ajudaremos os atletas a manter o foco nos objetivos e conquistas, não em comentários e mensagens diretas de ódio.
Nossas políticas sobre discurso de ódio, abuso e assédio
Discurso de ódio não é permitido em nossos aplicativos. Mais especificamente, não toleramos ataques a pessoas com base em suas características, incluindo raça ou religião, bem como formas mais implícitas de discurso de ódio. Quando tomamos conhecimento de um discurso de ódio, nós o removemos. Estamos investindo muito em pessoas e tecnologia para encontrar e remover esse conteúdo com mais rapidez. Triplicamos – para mais de 35 mil – as pessoas que trabalham com proteção e segurança no Facebook e somos pioneiros em tecnologia de inteligência artificial para remover conteúdo de ódio em grande escala. Entre janeiro e março deste ano, tomamos medidas em relação a 25,2 milhões de peças de discurso de ódio no Facebook, incluindo em DMs, 96% dos quais encontramos antes que alguém denunciasse. E no Instagram, no mesmo período, agimos em 6,3 milhões de peças de conteúdo de discurso de ódio, 93% antes que alguém denunciasse.
Também introduzimos penalidades mais rígidas para pessoas que enviam mensagens diretas (DMs) abusivas no Instagram. Quando alguém envia mensagens que violam nossas regras, proibimos essa pessoa de enviar mais mensagens por um determinado período de tempo. Se alguém continuar a enviar mensagens violadoras, desativaremos a conta. Também desabilitaremos novas contas criadas para contornar nossas restrições e continuaremos desabilitando contas que achamos que são criadas exclusivamente para enviar mensagens abusivas.
Ferramentas para proteger atletas
Também introduzimos ferramentas para ajudar os atletas a se protegerem de abusos. Esses incluem:
Conta do Instagram dedicada para atletas
Estamos lançando uma conta de Instagram dedicada a atletas que competem em Tóquio este ano. Essa conta privada não apenas compartilhará as melhores práticas do Facebook e Instagram, mas também servirá como um canal para os atletas enviarem perguntas e sinalizarem problemas para nossa equipe.
Controles de mensagem direta do Instagram
Como as DMs são conversas privadas, não procuramos proativamente por conteúdo como discurso de ódio ou bullying da mesma forma que fazemos em outros lugares no Instagram. É por isso que no ano passado implementamos controles de alcance, que permitem às pessoas limitar de quem podem receber uma DM – como apenas das pessoas que os seguem, por exemplo.
Para aqueles que ainda querem interagir com os fãs, mas não querem ver abusos, anunciamos um novo recurso chamado “Palavras ocultas”, que chegará à América Latina nas próximas semanas. Quando ativada, essa ferramenta filtrará automaticamente as solicitações de DM contendo palavras, frases e emojis ofensivos, para que os atletas nunca precisem vê-los. Trabalhamos com organizações líderes de combate à discriminação e intimidação para desenvolver uma lista predefinida de termos ofensivos que serão filtrados das solicitações de DM quando o recurso for ativado. Sabemos que palavras diferentes podem ser ofensivas para pessoas diferentes, então os atletas também terão a opção de criar sua própria lista personalizada de palavras, frases ou emojis que eles não querem ver em seus pedidos de DM. Todas as solicitações de DM que contêm essas palavras, frases ou emojis ofensivas – seja de uma lista personalizada ou de uma lista predefinida – serão filtradas automaticamente e colocadas em uma pasta de solicitações ocultas separada.
Controles de comentários do Instagram e Facebook
Os “controles de comentários” do Instagram e do Facebook permitem que os atletas controlem quem pode comentar suas postagens. Os atletas também têm opções em suas configurações de privacidade de ocultar automaticamente comentários ofensivos no Facebook e Instagram. Com isso ativado, usamos a tecnologia para filtrar proativamente palavras e frases que são comumente denunciadas como assédio. Os atletas também podem adicionar sua própria lista de palavras, frases ou emojis, para que nunca mais tenham que vê-los nos comentários.
Bloqueio
Os atletas podem impedir que as pessoas no Instagram ou no Facebook vejam suas postagens ou enviem mensagens para elas. Também estamos tornando mais difícil que alguém já bloqueado no Instagram entre em contato novamente com a pessoa que o bloqueou por meio de uma nova conta. Com esse recurso, sempre que os atletas decidirem bloquear alguém no Instagram, eles terão a opção de bloquear sua conta e bloquear preventivamente novas contas que essa pessoa possa criar.
Lembrando os atletas de nossas ferramentas de segurança
Vamos lembrar os atletas que competem nesses eventos sobre essas ferramentas por meio de uma notificação do Instagram que será enviada para o topo de seus Feeds. Essa notificação tornará mais fácil para os atletas aprenderem a adotar e usar vários de nossos recursos de segurança, como autenticação de dois fatores e controles de comentários e mensagens.
Estamos empenhados em fazer tudo o que pudermos para combater o ódio e a discriminação em nossas plataformas, mas também sabemos que esses problemas são maiores do que nós. Esperamos trabalhar com outras empresas, organizações esportivas, ONGs, governos e educadores para ajudar a manter os atletas seguros.