Trabalhamos constantemente para detectar e interromper campanhas coordenadas que buscam manipular o debate público em nossos aplicativos.
O OBJETIVO DESTE RELATÓRIO
Nos últimos três anos e meio, compartilhamos nossas descobertas sobre redes de comportamento inautêntico coordenado (CIB, na sigla em Inglês) que detectamos e removemos das nossas plataformas. Como parte dos nossos relatórios regulares de CIB, estamos compartilhando informações sobre todas as redes que desativamos ao longo de um mês em um só lugar, de forma a facilitar que as pessoas acompanhem o progresso que temos feito.
Resumo das descobertas de julho 2021
Nossas equipes continuam a se concentrar em encontrar e remover campanhas enganosas ao redor do mundo – sejam elas estrangeiras ou domésticas. Em julho, removemos duas redes – uma da Rússia e outra de Mianmar. Compartilhamos informações sobre nossas descobertas com parceiros da indústria, pesquisadores, autoridades policiais e reguladores.
Sabemos que as operações de influência continuarão evoluindo em resposta às nossas ações e novos comportamentos enganosos surgirão. Continuaremos a melhorar nossas medidas de combate e a compartilhar nossas descobertas publicamente. Estamos avançando no enfrentamento a esses abusos, mas, como já dissemos anteriormente, esse é um esforço permanente e estamos comprometidos a seguir melhorando para permanecer à frente de possíveis ameaças. Isso significa desenvolver tecnologia mais avançada, contratar mais pessoas e trabalhar em estreita colaboração com as autoridades, especialistas em segurança e outras empresas.
Aqui estão os números relacionados às redes de comportamento inautêntico coordenado que removemos em julho de 2021:
- Número total de Perfís no Facebook removidos: 144
- Número total de contas no Instagram removidas: 262
- Número total de Páginas removidas: 13
- Número total de Grupos removidos: 8
Redes removidas em julho de 2021:
- Mianmar: Removemos 79 contas do Facebook, 13 páginas, oito grupos e 19 contas do Instagram em Mianmar que tinham como alvo o público doméstico e estavam vinculadas a indivíduos associados ao exército de Mianmar. Encontramos essa atividade depois de revisar informações sobre uma de suas partes compartilhada por um membro da sociedade civil em Mianmar. Nossa investigação revelou algumas ligações entre essa operação e a atividade que removemos em 2018.
- Rússia: Removemos 65 contas do Facebook e 243 contas do Instagram da Rússia que vinculamos à Fazze, uma subsidiária de uma empresa de marketing registrada no Reino Unido cujas operações eram conduzidas principalmente na Rússia. A Fazze foi banida da nossa plataforma. Essa operação, que atuou em diversas plataformas, teve como alvo públicos principalmente na Índia, América Latina e, em uma extensão muito menor, nos Estados Unidos. Encontramos essa rede depois de analisar relatórios públicos sobre uma parte dessa atividade fora da nossa plataforma.
Saiba mais sobre Comportamento Inautêntico Coordenado (CIB)
Entendemos o CIB como esforços coordenados para manipular o debate público para um fim estratégico, onde as contas falsas são centrais para a operação. Existem duas camadas dessas atividades que trabalhamos para interromper:
1) comportamento inautêntico coordenado no contexto de campanhas nacionais não-governamentais e
2) comportamento inautêntico coordenado em nome de um agente estrangeiro ou governamental.
Comportamento inautêntico coordenado (CIB)
Quando encontramos campanhas domésticas não governamentais que incluem grupos de contas e Páginas que procuram enganar as pessoas sobre quem são e o que estão fazendo enquanto contam com contas falsas, removemos contas não autênticas e autênticas, Páginas e Grupos diretamente envolvidos nessa atividade.
Interferência estrangeira ou governamental
Se encontrarmos qualquer instância de comportamento inautêntico coordenado conduzido em nome de uma entidade governamental ou por um ator estrangeiro, aplicamos medidas mais amplas, incluindo a remoção de todas as instâncias na plataforma relacionadas à própria operação e às pessoas e organizações por trás dela.
Aplicação contínua de medidas
Monitoramos eventuais tentativas de voltar ao Facebook das redes que removemos anteriormente. Usando detecção automatizada e manual, removemos continuamente contas e Páginas conectadas às redes que removemos no passado.
Veja o relatório completo abaixo para mais informações.
Relatório detalhado
- Removemos 79 Perfis do Facebook, 13 Páginas, oito grupos e 19 contas do Instagram por violarem nossa política contra comportamento inautêntico coordenado. Essa rede se originou em Mianmar e tinha como alvo o público do país.
As pessoas por trás dessa atividade usaram contas duplicadas e falsas – algumas das quais já haviam sido detectadas e desativadas por nossos sistemas automatizados – para postar, comentar no seu próprio conteúdo e criar Grupos. Alguns dos Perfis fingiram ser membros da oposição, enquanto outros administraram Páginas pró-militares que diziam expor os manifestantes anti-Tatmadaw. Algumas contas usaram fotos provavelmente geradas com técnicas de aprendizado de máquina, como Redes Adversárias Generativas (GAN). Essa rede também amplificou conteúdo postado por Páginas criticando a Liga Nacional pela Democracia. Elas postavam em birmanês sobre notícias e eventos atuais no país, incluindo de ambos os espectros do debate político em Mianmar – apoiando e criticando os protestos anti-militares, oposição e golpe militar.
Encontramos essa atividade depois de revisar informações sobre uma parte dela compartilhada por um membro da sociedade civil em Mianmar. Nossa investigação revelou alguns links entre esta operação e a atividade que removemos em 2018. Embora as pessoas por trás dessa operação tenham tentado ocultar suas identidades e coordenação, nossa investigação encontrou links com indivíduos associados ao exército de Mianmar.
- Presença no Facebook e Instagram: 79 contas de Facebook, 13 Páginas, 8 Grupos e 19 contas de Instagram.
- Seguidores: cerca de 55.500 contas seguiram uma ou mais dessas páginas, cerca de 10.000 pessoas se juntaram a um ou mais desses Grupos e cerca de 1.700 contas seguiram uma ou mais dessas contas Instagram.
- Publicidade: cerca de US $650 em gastos com anúncios no Facebook e Instagram pagos principalmente em dólares americanos.
Abaixo está uma amostra do conteúdo postado por algumas dessas Páginas e contas.
- PESQUISA DETALHADA SOBRE A REDE DE ORIGEM RUSSA
SUMÁRIO EXECUTIVO
Removemos 65 contas do Facebook e 243 contas do Instagram por violarem nossa política contra interferência estrangeira, que é uma forma de comportamento inautêntico coordenado realizado em nome de uma entidade estrangeira. Essa rede operou em mais de uma dúzia de plataformas e fóruns, mas não conseguiu construir uma audiência relevante. Ela se originou na Rússia e teve como público-alvo principalmente a Índia, a América Latina e, em uma extensão muito menor, os Estados Unidos. Nossa investigação encontrou ligações entre esta campanha e a Fazze, uma empresa de marketing registrada no Reino Unido cujas operações foram conduzidas principalmente a partir da Rússia. A Fazze está, agora, banida da nossa plataforma.
Essa campanha foi realizada em duas ondas distintas, separadas por cinco meses de inatividade. Primeiro, em novembro e dezembro de 2020, a rede postou memes e comentários afirmando que a vacina AstraZeneca contra a COVID-19 transformaria as pessoas em chimpanzés. Cinco meses depois, em maio de 2021, ela questionou a segurança da vacina da Pfizer ao postar um suposto documento da AstraZeneca que teria sido hackeado e vazado. Vale ressaltar que ambas as fases coincidiram com períodos em que vários governos, inclusive da América Latina, Índia e Estados Unidos, estavam discutindo as autorizações de emergência para essas respectivas vacinas.
A campanha funcionou como uma fonte de desinformação. Ela criou artigos e petições enganosas em vários fóruns, incluindo Reddit, Medium, Change [.] Org e Medapply [.] Co [.] Uk. Em seguida, usou contas falsas nas redes sociais, incluindo Facebook e Instagram, para plantar e amplificar esse conteúdo de fora das plataformas, usando táticas rudimentares de spam. O ponto crucial da campanha, porém, era engajar influenciadores com públicos já existentes no Instagram, YouTube e TikTok para postar conteúdo e usar hashtags específicas sem revelar a origem das postagens. Esse uso de influenciadores estava em linha com os serviços anunciados pela empresa, que incluíam acesso a “uma grande lista de blogueiros do Youtube, Instagram e Facebook … [onde] contas estão prontas para postar seus anúncios por um preço razoável. Trabalhe com blogueiros diretamente, sem terceiros. ”
Grande parte dessa campanha falhou e não atingiu o público-alvo pretendido, com quase todas as postagens no Instagram recebendo zero curtidas. Sua petição em inglês no Change [.] Org conseguiu apenas cerca de 550 assinaturas e a petição em hindi conseguiu menos de 900 assinaturas. Apenas os posts pagos de influenciadores atraíram uma limitada atenção. Entretanto, a dependência que a campanha teve de influenciadores externos tornou-se a sua ruína: em maio, alguns deles expuseram os esforços anti-Pfizer.
Isso dá continuidade à tendência que destacamos em nosso recente Relatório de Ameaças: as operações de influência cada vez mais buscam usar vozes influentes autênticas para transmitir suas mensagens. Por meio delas, as campanhas enganosas ganham acesso ao público-alvo do influenciador, mas isso vem com um risco significativo de exposição.
Outro aspecto dessa campanha que merece destaque são suas operações em vários serviços de Internet ao mesmo tempo, o que torna mais desafiador para qualquer plataforma ver o cenário completo e agir contra a campanha inteira. É por isso que uma resposta de toda a sociedade a tais campanhas de desinformação é essencial. Os influenciadores que se manifestaram na Alemanha e na França desempenharam um papel fundamental ao exporem as primeiras pistas sobre essa atividade. Pesquisadores e jornalistas de código aberto puderam reportar sobre grande parte da atividade de maio da operação. Nossa investigação própria nos levou a descobrir todo o escopo desta rede em nossa plataforma, incluindo sua atividade em 2020, que compartilhamos com nossos pares da indústria. Nossa análise se beneficiou de pesquisas da CNN, The Daily Beast e do Graphika. Essa colaboração entre diferentes membros da comunidade é vital para expor as operações de influência e entender seu impacto.
Ainda assim, algumas perguntas sobre aspectos desta campanha permanecem – incluindo quem contratou a Fazze para conduzi-la – e merecem pesquisas adicionais pela comunidade. Uma característica dessas operações de influência contratadas é que elas permitem que o beneficiário final ofusque seu envolvimento. Outra questão é como o documento “hackeado e vazado” chegou às mãos da Fazze. Como acontece com qualquer operação de influência, entender o motivo por trás de vazamentos como esses é chave para contextualizar a operação.
Como parte da interrupção desta operação, removemos as contas pertencentes a ela, incluindo ativos autênticos das pessoas por trás desta rede, bloqueamos domínios associados à sua atividade, notificamos pessoas que acreditamos terem sido contatadas por esta rede e compartilhamos nossas descobertas com as autoridades, outras plataformas e com pesquisadores independentes para que eles também possam tomar medidas caso encontrem atividades violadoras.
TAKEDOWN EM NÚMEROS
- Presença no Facebook e Instagram: 65 contas no Facebook e 243 contas no Instagram.
- Seguidores: Cerca de 24.000 contas seguiram uma ou mais dessas contas do Instagram.
- Publicidade: Cerca de US $200 em gastos com anúncios no Facebook e Instagram pagos principalmente em dólares americanos, euros e rublos russos. Isso inclui todo o histórico de anúncios tanto de contas autênticas quanto autênticas removidas como parte dessa rede. Não vimos gastos de anúncios relacionados à campanha anti-vacinas descrita neste relatório.
Novembro – Dezembro de 2020: A fase AstraZeneca
A primeira fase da operação foi centrada em torno da alegação falsa de que a vacina da AstraZeneca era perigosa por usar adenovírus de chimpanzé. Inicialmente focada em públicos na Índia e América Latina, com tentativas esporádicas e mal sucedidas de atingir público nos Estados Unidos. Esta fase da operação dentro das nossas plataformas não foi previamente reportada.
A operação começou com a criação de dois lotes de de contas falsas no Facebook no final de 2020, possivelmente oriundos de “fazendas de contas“ de Bangladesh e do Paquistão. Eles fingiam ser da Índia.
Essas contas inicialmente postaram um pequeno volume de conteúdo não relacionado ao COVID-19, em geral acerca de comida indiana ou atores de Hollywood. No final de novembro, no entanto, a operação começou a usar algumas dessas contas para postar conteúdo em plataformas de blogs e sites de petições online, como Medium e Change.org. Tais blogs e petições, em inglês e hindi, diziam que a AstraZeneca havia manipulado os dados dos testes da sua vacina contra COVID-19 e usado uma tecnologia não-testada para criar a vacina.
Em dezembro, enquanto o governo indiano estava discutindo uma autorização de emergência para a vacina da AstraZeneca, a operação continuou a usar contas falsas no Facebook e no Instagram para promover blogs e petições, em conjunto com um grande estoque de memes. Todos eles sugeriam, ou mesmo alegavam explicitamente, que a vacina da AstraZeneca transformaria as pessoas em chimpanzés. Muitos dos memes mostravam imagens do filme “Planeta dos Macacos” (1968).
As contas falsas no Facebook focaram em postagens de baixo volume e direcionadas: cada uma tipicamente postava três a seis memes, geralmente em hindi, junto com um link para uma das peças de conteúdo em outras plataformas e um breve comentário em hindi ou inglês. Esses posts receberam poucos likes e muitos foram ridicularizados por pessoas reais.
Legenda: “Walter, venha cá, não hesite. A vacina da AstraZeneca é segura. Nós tomamos ontem…”
A atividade no Instagram era rudimentar, tinha caráter de spam, e foi organizada em torno de algumas hashtags. Duas delas eram em inglês: #AstraZenecakills e #AstraZenecalies, além das suas equivalentes em português: #AstraZenecamata e #AstraZenecamente. A última foi #stopAstraZeneca. A operação provavelmente originou essas hashtags: nem #astrazenecakills, #stopastrazeneca nem #astrazenecalies pareciam ter sido usadas no Instagram antes. Entre 14 e 21 de dezembro, foram feitas cerca de 10.000 postagens que incluíam as hashtags da operação, muitas vezes com links para artigos da operação fora da plataforma.
A maioria das contas postou essas hashtags dezenas, centenas de vezes, em sucessão rápida, e podem ter sido automatizadas; algumas delas foram detectadas e desabilitadas por nossos sistemas automatizados.
Embora o volume fosse alto, a campanha teve um sucesso mínimo. Em uma das hashtags usadas pela operação, o post com melhor desempenho recebeu 5 curtidas, enquanto a grande maioria obteve zero. Ao todo, as postagens da operação no Instagram atraíram cerca de 1.000 curtidas combinadas, com a maioria recebendo zero.
Como sinal da natureza desleixada dessa campanha, a maioria dos posts que usaram hashtags em língua espanhola entre os dias 14 e 16 de dezembro foram anexados a memes em hindi. Só a partir do dia 17 de dezembro é que eles começaram a compartilhar memes em espanhol, acompanhados de hashtags em espanhol. (“AstraZeneca mata”, “AstraZeneca kills”, é igual em espanhol e português, enquanto “AstraZeneca lies” é “AstraZeneca mente” em portugues, mas “AstraZeneca miente” em espanhol.) Não é de surpreender que essa amplificação em forma de spam tenha falhado em atrair atenção.
Legenda do post superior: “Agora é a sua vez de ser vacinado com a AstraZeneca”
Texto do post inferior: “A vacina foi baseada em um gene de chimpanzé da companhia AstraZeneca”
Legenda do post inferior: “Ok, é sua vez para a vacina AstraZeneca”
Enquanto essa campanha com perfil de spam ainda estava em andamento, uma série de influenciadores de saúde e bem-estar postaram stories no Instagram que usavam as mesmas hashtags, fazendo referência ao fato de que a vacina da AstraZeneca usa o adenovírus de chimpanzé, e compartilharam links para petições que a operação da Fazze criou.
Embora possível, é altamente improvável que esses influenciadores tenham compartilhado o trabalho da operação de forma orgânica. Considerando reportes públicos do engajamento desta rede com influenciadores em maio, é provável que a operação tenha usado uma tática similar em dezembro de 2020, e pedido que pessoas inadvertidas amplificassem essa campanha contra a AstraZeneca nas plataformas de redes sociais.
A atividade de spam no Instagram terminou em 21 de dezembro. As contas no Facebook continuaram a postar em um nível baixo, mais ou menos um post por semana, até o início de Janeiro. Entre os dias 30 de dezembro e 18 de janeiro, os governos da Argentina, Índia e Brasil concederam autorização para o uso emergencial da vacina AstraZeneca. No dia 6 de janeiro, a operação cessou os posts.
Maio de 2021: A fase Pfizer
Após meses de inatividade, a operação foi retomada em maio de 2021 alegando que a vacina da Pfizer contra COVID-19 teria causado uma “taxa de mortalidade” muito maior que a de outras vacinas. A atividade da operação na plataforma parecia limitada a algumas dezenas de postagens em inglês no Facebook que tinham como alvo primordial Páginas e Grupos nos EUA que recebiam quase nenhuma reação, e um único post feito por um influenciador no Brasil. Reportes de código aberto confirmam que também foram enviados e-mails para influenciadores na França e na Alemanha, que acabaram expondo a operação. Não encontramos em nossas plataformas evidências dessa atividade envolvendo a França e a Alemanha.
Essa fase da operação coincidiu mais ou menos com o período em que a Agência Europeia de Medicamentos e o Brasil estavam discutindo a provação da vacina Pfizer para adolescentes, e aconteceu logo após a US Food and Drug Agency aprová-la em 10 de maio. A Pfizer também estaria em conversas com a agência reguladora indiana no começo de maio sobre “um caminho para rápida aprovação” para sua vacina.
No centro desta segunda fase da operação estava um documento de 12 páginas que comparava a eficácia de diferentes vacinas contra a COVID-19. A operação dizia que o documento havia sido “hackeado e vazado” da AstraZeneca. Ele incluía uma tabela que pretendia mostrar que a vacina Pfizer teria causado uma taxa de mortalidade muito maior que a de outras vacinas; a tabela foi descrita por jornalistas investigativos da BBC como “uma colagem de diferentes fontes e fora de contexto”. Não foi confirmado como o documento chegou às mãos da operação.
A fase da operação focada na Pfizer iniciou-se em 14 de maio com a publicação de três artigos no Medium, Reddit e ethicalhacker[.]org em um intervalo de aproximadamente 90 minutos. Cada um dos artigos alegava que a AstraZeneca teria sido hackeada, e compartilhava uma captura de tela de baixa qualidade da tabela com o “índice de mortalidade”.
Como já havia ocorrido antes, a operação não promoveu esses artigos falsos em nossa plataforma imediatamente. Em vez disso, no dia 18 de maio, um dos perfis de Facebook ligados a ela foi usado para criar uma conta em um fórum médico britânico voltado para estudantes, a partir da qual foi postado o documento “hackeado” na íntegra. No dia seguinte, uma segunda onda de artigos apareceu em websites de terceiros para promover a narrativa da “taxa de mortalidade da Pfizer”, fazendo referência à primeira onda de artigos como fonte. A partir disso, as contas no Facebook foram usadas para postar os links para estes artigos em diferentes Grupos e Páginas ligados a saúde e notícias. Desta vez, todos os posts eram em inglês e focados majoritariamente em audiências americanas, mas o volume de postagens permaneceu muito baixo, normalmente de dois a quatro posts por conta, com pouco ou nenhum engajamento.
De acordo com uma publicação investigativa francesa, a operação enviou a influenciadores com contas no YouTube, Instagram e TikTok um briefing detalhado que incluía os argumentos da campanha, os artigos da operação e instruções para adicionar os links à bio dos influenciadores. Curiosamente, ao contrário de dezembro, a operação instruiu os influenciadores a usarem hashtags muito genéricas, como #corona e #covid19, provavelmente em uma tentativa de incluir seu conteúdo nas principais conversas online relacionadas à pandemia.
A tentativa de alcançar influenciadores foi o que acabou desfazendo a operação. Ao invés de aceitar o pagamento da Fazze (reportado como sendo de 2 mil Euros), um influenciador francês e um alemão expuseram a campanha e os influenciadores que tinham como alvo. Isso desencadeou uma onda de pesquisas de código aberto que identificaram a Fazze como organização controladora. Em resposta, a Fazze parece ter deletado a maior parte de seus artigos falsos no final de maio, e seus funcionários apagaram as referências à Fazze em seus perfis em redes sociais. De acordo com informações públicas, quando influenciadores no Brasil e na Índia foram questionados por jornalistas, eles também apagaram os conteúdos.
