Atualizado em 20 de janeiro de 2021:
Seguimos atentos na aplicação de nossa política expandida de Organizações e Indivíduos Perigosos contra movimentos sociais militarizados e redes de conspiração que induzem à violência, como o QAnon. Esse esforço esteve na frente e no centro durante nosso trabalho em torno da eleição presidencial dos EUA no ano passado. De agosto a 30 de novembro de 2020, removemos cerca de 3.200 Páginas, 18.800 Grupos, 100 eventos e 23.300 Perfis do Facebook e 7.400 contas do Instagram por violarem nossa política contra movimentos sociais militarizados. Ao mesmo tempo, também removemos cerca de 3.000 Páginas, 9.800 Grupos, 420 eventos e 16.200 Perfis do Facebook e 25.000 contas do Instagram por violarem nossa política contra QAnon.
Desde então, continuamos a aplicar essa política. Em 12 de janeiro de 2021, identificamos mais de 890 movimentos sociais militarizados até o momento e, no total, removemos cerca de 3.400 Páginas, 19.500 Grupos, 120 eventos e 25.300 Perfis no Facebook e 7.500 contas no Instagram. Também removemos cerca de 3.300 Páginas, 10.500 Grupos, 510 eventos e 18.300 Perfis do Facebook e 27.300 contas do Instagram por violarem nossa política contra QAnon.
Continuamos a fortalecer nossa aplicação de medidas, identificando movimentos sociais militarizados adicionais, novos termos associados ao QAnon e como as pessoas tentam burlar a nossa detecção, incluindo um foco maior nos Perfis do Facebook usados para organizar e promover esses movimentos e grupos em nossa plataforma. Continuaremos consultando especialistas para informar nossa estratégia e seguiremos identificando e removendo conteúdo em conformidade. Esses grupos estão trabalhando constantemente para contornar nossa aplicação de medidas e continuaremos a estudar como eles evoluem para manter as pessoas seguras.
Atualização em 28 de outubro de 2020:
Em agosto, expandimos nossa política de Organizações e Indivíduos Perigosos para endereçar movimentos sociais militarizados e redes de conspiração que induzem a violência, como QAnon. Desde então, identificamos mais de 600 movimentos sociais militarizados, removendo cerca de 2.400 Páginas, 14.200 Grupos e cerca de 1.300 contas do Instagram que eles mantinham. Além disso, removemos cerca de 1.700 Páginas, 5.600 Grupos e cerca de 18.700 contas do Instagram que representam QAnon.
O número de movimentos sociais militarizados identificados reflete uma gama de grupos offline, incluindo organizações de longa data, grupos reposicionados recentemente e organizações menores recém-estabelecidas. E os números de remoções refletem diferenças em como o Facebook e o Instagram são usados. Por exemplo, havia menos Grupos do Facebook vinculados ao QAnon do que contas do Instagram, mas esses Grupos geralmente tinham mais membros em comparação às contas do Instagram, que tinham menos seguidores.
Continuamos a fortalecer a aplicação das nossas políticas, identificando movimentos sociais militarizados adicionais e removendo mais Grupos, Páginas e contas do Instagram vinculadas ao QAnon. Continuaremos consultando especialistas para informar nossa estratégia de aplicação de políticas e identificar e remover conteúdo de acordo com elas. .
Desde o dia 21 de outubro, quando alguém pesquisa termos relacionados à QAnon no Facebook e Instagram, passamos a direcioná-lo para recursos confiáveis da Rede Global sobre Extremismo e Tecnologia (GNET), a rede de pesquisa acadêmica do Fórum Global de Internet de Combate ao Terrorismo. Esta é a mais recente expansão de nossa Iniciativa de Redirecionamento para ajudar a combater o extremismo violento e direciona as pessoas a recursos que podem ajudar a informá-las sobre a realidade da QAnon e seus vínculos com a violência e os danos no mundo real.
À medida que continuamos a estudar o impacto da aplicação das nossas políticas contra QAnon, faremos parceria com a GNET para avaliar o impacto desta Iniciativa de Redirecionamento e continuaremos a reavaliar a lista de termos que, quando pesquisados em nossa plataforma, devem direcionar pessoas a esses recursos.
Atualização em 6 de outubro de 2020:
Em 19 de agosto, anunciamos um conjunto de medidas destinadas a interromper a capacidade de operação e organização do QAnon e movimentos sociais militarizados em nossa plataforma. No primeiro mês, removemos mais de 1.500 Páginas e Grupos do QAnon contendo discussões sobre violência potencial e mais de 6.500 Páginas e Grupos vinculados a mais de 300 movimentos sociais militarizados. No entanto, acreditamos que esses esforços precisam ser reforçados ao abordar o QAnon.
A partir de hoje, removeremos Páginas do Facebook, Grupos e contas do Instagram que representam o QAnon – ainda que não contenham conteúdo de violência. Esta é uma atualização da política inicial de agosto que removeu Páginas, Grupos e contas de Instagram associadas ao QAnon quando identificadas discussões sobre violência potencial ao mesmo tempo em que eram impostas uma série de restrições para limitar o alcance de outras Páginas, Grupos e contas de Instagram associadas ao movimento. Páginas, Grupos e contas do Instagram que representam um movimento social militarizado identificado já são proibidos. E vamos continuar a desabilitar os perfis de administradores que gerenciam Páginas e Grupos removidos por violar esta política, como começamos a fazer em agosto.
Estamos começando a aplicar essa política atualizada hoje e vamos remover conteúdo de acordo, mas esse trabalho leva tempo e precisa continuar nos próximos dias e semanas. Nossa equipe de operações de organizações perigosas continuará a aplicar essa política e detectar proativamente o conteúdo para remoção em vez de depender de denúncias dos usuários. Esses especialistas estudam para responder à evolução do conteúdo violador desse movimento e sua capacidade de detecção nos deu pistas melhores para identificar tais conteúdos do que vasculhar as denúncias dos nossos usuários.
Estivemos atentos à aplicação das nossas políticas e a entender o seu impacto na plataforma, mas observamos várias questões que nos levaram à atualização de hoje. Por exemplo, embora tenhamos removido o conteúdo QAnon que celebra e apoia a violência, vimos outro conteúdo QAnon vinculado a diferentes formas de danos ao mundo real, incluindo alegações recentes de que incêndios florestais na costa oeste dos Estados Unidos foram causados por certos grupos, algo que desviou a atenção das autoridades locais do combate ao incêndio e da proteção do público. Além disso, as mensagens do QAnon mudam rapidamente e vemos redes de apoiadores construir um público com uma mensagem e, em seguida, mudar para outra. Nosso objetivo é combater isso de forma mais eficaz com esta atualização que fortalece e expande a aplicação de nossas políticas contra esse movimento da teoria da conspiração.
Esta não é a primeira atualização desta política – começamos a direcionar as pessoas para recursos confiáveis de segurança infantil quando, na semana passada, elas procuraram por certas hashtags sobre o assunto – e continuamos a trabalhar com especialistas externos para abordar apoiadores do QAnon que usam a questão da segurança infantil para recrutar e organizar. Prevemos que haverão novas tentativas de evitar nossa detecção, tanto no comportamento quanto no conteúdo compartilhado em nossa plataforma. Portanto, vamos continuar a estudar o impacto dos nossos esforços e estaremos prontos para atualizar a nossa política e a sua aplicação conforme for necessário.
Atualizado em 1 de outubro de 2020:
Estamos compartilhando algumas atualizações sobre nossos esforços contra movimentos sociais militarizados e QAnon:
Em 16 de setembro, começamos a rebaixar o conteúdo nas Páginas e nos Grupos que foram restritos, mas não removidos. Agora, as pessoas que são membros de Grupos que foram restritos e seguem Páginas que foram restritas, verão o conteúdo desses Grupos e Páginas mais abaixo em seu feed de notícias.
Desde a última quarta-feira (30), também passamos a proibir qualquer pessoa em nossa plataforma de veicular anúncios que elogiem, apoiem ou representem movimentos sociais militarizados e QAnon.
Estamos tomando medidas para abordar as evidências de que os adeptos do QAnon estão cada vez mais usando a questão da segurança infantil e hashtags como #savethechildren para recrutar pessoas e se organizar. A partir de hoje, direcionaremos as pessoas a recursos confiáveis de segurança infantil quando procurarem por determinadas hashtags sobre isso. Além disso, o conteúdo sobre QAnon e segurança infantil é elegível para checagem de fatos por meio de nosso programa de verificação de fatos. O conteúdo verificado terá sua distribuição reduzida no Feed de notícias e será filtrado na seção Explorar e hashtags no Instagram, além disso, o conteúdo também receberá um rótulo (para dar mais contexto às pessoas que o virem, estejam tentando compartilhar ou já tenham compartilhado) e será rejeitado como um anúncio.
Texto original publicado em 31 de agosto de 2020:
Estamos tomando medidas contra Páginas e Grupos do Facebook e contas do Instagram vinculadas a grupos anarquistas offline que apoiam atos violentos em meio a protestos, organizações de milícias baseadas nos EUA e QAnon.
Já removemos conteúdo que clama por ou defenda a violência e banimos organizações e indivíduos que proclamam uma missão violenta. No entanto, temos visto crescentes movimentos que, embora não organizem diretamente a violência, celebram atos violentos, mostram que possuem armas e sugerem que as usarão ou têm seguidores individuais com padrões de comportamento violento.
Portanto, estamos expandindo nossa política de Organizações e Indivíduos Perigosos para endereçar organizações e movimentos que demonstraram riscos significativos para a segurança pública, mas que não atendem aos critérios rigorosos para serem enquadrados como uma organização perigosa e proibidos de ter qualquer presença em nossa plataforma. Embora permitamos que as pessoas postem conteúdo em apoio a esses movimentos e grupos, desde que não violem nossas políticas de conteúdo, vamos restringir a sua capacidade de organização em nossa plataforma.
Pela expansão desta política, vamos impor restrições para limitar a disseminação de conteúdo de Páginas e Grupos do Facebook e contas do Instagram. Também removeremos Páginas, Grupos do Facebook e contas do Instagram nas quais sejam identificadas discussões de potencial violência, incluindo quando eles fizerem uso de linguagem velada e símbolos específicos do movimento para tanto.
Tomaremos as seguintes medidas — algumas com efeito imediato e outras em breve:
- Remover do Facebook: Páginas, Grupos e contas do Instagram associados a esses movimentos e organizações serão removidos quando eles discutirem sobre potencial violência. Continuaremos estudando terminologia e simbolismo específicos usados por seus apoiadores para identificar a linguagem usada por esses grupos e movimentos que possam indicar violência e tomar as medidas necessárias.
- Limitar recomendações: Páginas, Grupos e contas do Instagram associados a esses movimentos que não forem removidos não serão elegíveis para serem recomendados às pessoas quando sugerirmos Grupos nos quais você pode querer participar ou Páginas e contas do Instagram que você pode querer seguir.
- Reduzir a classificação no Feed de Notícias: Em um futuro próximo, os conteúdos dessas Páginas e Grupos também terão uma classificação reduzida no Feed de Notícias, o que significa que as pessoas que já seguem essas Páginas e são membros desses Grupos terão menos probabilidade de ver esse conteúdo em seu Feed de Notícias.
- Reduzir na Pesquisa: Hashtags e títulos de Páginas, Grupos e contas do Instagram restritas em nossa plataforma e relacionadas a esses movimentos e organizações serão limitados na Pesquisa: eles não serão sugeridos por meio de nossa barra de pesquisas e serão classificados em uma posição inferior nos resultados da Pesquisa.
- Revisão de Hashtags Relacionadas no Instagram: Removemos temporariamente o recurso Hashtags Relacionadas do Instagram, que permite que as pessoas encontrem hashtags semelhantes àquelas com as quais estão interagindo. Estamos trabalhando em proteções mais fortes para as pessoas que usam esse recurso e continuaremos avaliando a melhor forma de reintroduzi-lo.
- Proibir o uso de anúncios, superfícies de comércio e ferramentas de monetização: Páginas do Facebook relacionadas a esses movimentos serão proibidas de veicular anúncios ou vender produtos no Marketplace e na Loja. Em um futuro próximo, estenderemos essa restrição para proibir qualquer pessoa de veicular anúncios que elogiem, apoiem ou representem esses movimentos.
- Proibir arrecadação de fundos: Vamos proibir organizações sem fins lucrativos que identificamos como representantes ou que buscam apoiar esses movimentos, organizações e grupos de usar as nossas ferramentas de campanhas de arrecadação de fundos. Também iremos proibir arrecadadores de fundos pessoais elogiando, apoiando ou representando essas organizações e movimentos.
Como resultado de algumas das ações que já realizamos, removemos do Facebook mais de 790 Grupos, 100 Páginas e 1.500 anúncios vinculados ao QAnon, bloqueamos mais de 300 hashtags no Facebook e Instagram e, adicionalmente, impusemos restrições a mais de 1.950 Grupos e 440 Páginas no Facebook e mais de 10.000 contas no Instagram. Esses números refletem as diferenças em como o Facebook e o Instagram são usados, com menos Grupos no Facebook com taxas de adesão mais altas e um maior número de contas do Instagram com menos seguidores comparativamente. Essas Páginas, Grupos e contas do Instagram que foram restringidas ainda estão sujeitas a remoção, uma vez que nossa equipe continua a revisar seu conteúdo de acordo com atualizações em nossas políticas, assim como outros que identificarmos subsequentemente. Para organizações de milícias e aqueles que encorajam tumultos, incluindo alguns que podem se identificar como Antifa, removemos inicialmente mais de 980 Grupos, 520 Páginas e 160 anúncios do Facebook. Também restringimos mais de 1.400 hashtags relacionadas a esses grupos e organizações no Instagram.
Esta atualização concentra-se em nossa política de Organizações e Indivíduos Perigosos, mas continuaremos a revisar o conteúdo e as contas em relação a todas as nossas políticas de conteúdo em um esforço para manter as pessoas seguras. Removeremos conteúdo desses movimentos que violem qualquer uma de nossas políticas, incluindo aquelas contra contas falsas, assédio, discurso de ódio e/ou incitação à violência. A desinformação que não coloca as pessoas em risco de violência iminente ou dano físico, mas é classificada como falsa por verificadores de fatos terceirizados, terá sua distribuição reduzida no Feed de notícias para que menos pessoas a vejam. E qualquer ator ou grupo não estatal que se qualifique como um indivíduo ou organização perigosa será banido de nossa plataforma. Nossas equipes também vão estudar as tendências em tentativas de contornar nossa aplicação de políticas para que possamos nos adaptar. Esses movimentos e grupos evoluem rapidamente, e nossas equipes vão acompanhá-los de perto e vão consultar especialistas externos para que possamos continuar a aplicar nossas políticas contra eles.