• Adotamos uma abordagem abrangente em países que enfrentam ou estão sob risco de conflito ou violência – agindo rapidamente para remover conteúdo que viola nossas políticas e tomando medidas de proteção.
• Desde 2018, criamos equipes com experiência em questões como direitos humanos, discurso de ódio, desinformação e polarização. Muitos viveram ou trabalharam em países de alto risco e falam idiomas relevantes.
• Temos um processo de referência na indústria para revisar e priorizar os países com maior risco de violência e danos offline a cada seis meses. Quando respondemos a uma crise, implantamos suporte específico de país conforme necessário.
• A complexidade desses temas significa que nunca haverá uma solução única que funcione para todos. Nosso trabalho nunca estará concluído e exige vigilância e investimentos constantes.

Nas últimas duas décadas, o Facebook empoderou pessoas em todo o mundo com uma grande variedade de benefícios sociais e econômicos. Tornou a conexão social e a liberdade de expressão possíveis em uma escala massiva. Isso pode ser especialmente importante para pessoas que estão em locais que estão passando por conflitos e violência.

O Facebook apóia o direito das pessoas de se expressarem livremente, independentemente de onde estejam no mundo. A liberdade de expressão é um direito humano fundamental e possibilita muitos outros direitos. Mas sabemos que as tecnologias para permitir liberdade de expressão, informação e opinião também podem ser abusadas para espalhar o ódio e a desinformação – um desafio que se torna ainda pior em lugares onde existe um risco elevado de conflito e violência. Isso requer o desenvolvimento de soluções de curto prazo que possamos implementar quando surgem crises e ter uma estratégia de longo prazo para manter as pessoas seguras. Aqui está nossa abordagem.

Desde 2018, temos equipes dedicadas que abrangem produtos, engenharia, políticas, pesquisa e operações para melhor compreender e abordar a forma como a mídia social é usada em países em conflito. Muitos desses profissionais têm experiência de trabalho em conflitos, direitos humanos e questões humanitárias, bem como em áreas como desinformação, discurso de ódio e polarização. Muitos viveram ou trabalharam nos países que identificamos como de maior risco e falam idiomas relevantes. Eles fazem parte das mais de 40 mil pessoas que trabalham em segurança e integridade, incluindo equipes globais de revisão de conteúdo em mais de 20 locais em todo o mundo que revisam conteúdo em mais de 70 idiomas.

Nos últimos dois anos, contratamos mais pessoas com experiência em idioma, país e um tema específico. Por exemplo, aumentamos o número de membros da equipe com experiência de trabalho em Mianmar e na Etiópia para incluir ex-trabalhadores de ajuda humanitária, socorristas e especialistas em políticas. E contratamos mais pessoas que podem revisar o conteúdo em Amárico, Oromo, Tigrínia, Somali e Birmanês. Adicionar mais experiência em idiomas tem sido uma área de foco principal para nós. Só neste ano, contratamos moderadores de conteúdo em 12 novos idiomas, incluindo o Crioulo haitiano, Kirundi, Tswana e Kinyarwanda. 

Avaliando o perigo de países em risco

Nossas equipes desenvolveram um processo de referência na indústria para revisar e priorizar quais países têm o maior risco de violência e danos offline a cada seis meses. Tomamos essas decisões de acordo com os Princípios Orientadores das Nações Unidas sobre Empresas e Direitos Humanos e seguindo uma revisão desses fatores:

• Condições de longo prazo e contexto histórico: contamos com especialistas regionais, dados de plataforma e dados de mais de 60 fontes como Varieties of Democracy (V-Dem), Uppsala Conflict Data Program, United States Holocaust Memorial Museum’s Early Warning Project, the Armed Conflict Location & Event Data Project e o Banco Mundial para avaliar as condições de longo prazo nos territórios. Isso pode incluir participação cívica e direitos humanos, tensões sociais e violência e a qualidade dos ecossistemas de informação relevantes.
• Quanto o uso de nossos produtos pode impactar potencialmente um país: priorizamos países com base em uma série de fatores, incluindo onde nossos aplicativos se tornaram mais importantes para a sociedade, como em países onde uma parcela maior de pessoas usa nossos produtos; onde houve um aumento nos danos offline; e onde a adoção de mídia social tem crescido.
• Eventos atuais no território: também damos consideração especial a eventos distintos que podem aumentar os problemas sociais atuais, como risco local ou ocorrência de crimes de atrocidade, eleições, episódios de violência e taxas de vacinação e transmissão de COVID-19.

Estratégias para ajudar as pessoas seguras em países de risco

Usando este processo de priorização, desenvolvemos estratégias de longo prazo para preparar, responder e mitigar os impactos de eventos offline prejudiciais nos países que consideramos de maior risco. Isso nos permite agir rapidamente para remover conteúdo que viola nossas políticas e tomar outras medidas de proteção, ao mesmo tempo protegendo a liberdade de expressão e outros princípios de direitos humanos. Exemplos recentes incluem nossos preparativos para as eleições em Mianmar, Etiópia, Índia e México.

• Compreender e se envolver com os contextos e as comunidades locais: sabemos que trabalhar com as pessoas e organizações no local com informações e experiência em primeira mão é essencial. Ao longo dos últimos anos, expandimos esses relacionamentos com organizações da sociedade civil locais para apoiar programas de educação específicos de cada país e soluções de produtos, e para garantir nossa aplicação de regras levando em consideração o contexto local. Também expandimos nossa rede global de verificadores de fatos independentes. Além disso, investimos recursos significativos em mais de 30 países com conflito ativo ou agitação social. Junto com parceiros da ONU e dezenas de ONGs locais e globais, desenvolvemos uma programação, inclusive por meio de iniciativas globais de alfabetização digital, como We Think Digital, ou programas para tornar o envolvimento online mais seguro, como o programa Search for Common Ground na África central.
• Desenvolvimento e avaliação de políticas para proibir conteúdo e comportamento nocivo: estamos constantemente avaliando e refinando nossas políticas para abordar nuances em evolução de discurso de ódio, identificar grupos com alto risco de violência ou perpetradores de atrocidades e violadores dos direitos humanos, ou potencial para rumores e desinformação para contribuir para danos físicos offline, especialmente em países onde tensões étnicas e religiosas estão presentes.
• Melhorando nossa tecnologia e aplicação de políticas para ajudar a manter nossa comunidade segura: durante os momentos em que o risco de danos é maior, podemos tomar medidas mais assertivas. Por exemplo, antes das eleições e durante os períodos de maior agitação na Índia, Mianmar e Etiópia, reduzimos significativamente a distribuição de conteúdo que provavelmente violava nossas políticas sobre discurso de ódio ou incitamento à violência enquanto nossas equipes investigavam. Uma vez confirmado que o conteúdo viola essas políticas, nós o removemos. Também reduzimos significativamente a distribuição de conteúdo postado de contas que postaram repetidamente conteúdo violador – além de nossa prática padrão de remover contas que frequentemente violam nossos Padrões da Comunidade. Para proteger as pessoas no Afeganistão após o Taleban assumir o país, lançamos um recurso que permite que as pessoas restrinjam seus perfis para ter uma camada extra de privacidade, segurança e proteção para suas informações.

Em uma crise, determinaremos que tipo de suporte e equipes precisamos dedicar a um determinado país ou idioma, e por quanto tempo precisamos mantê-los no lugar. Isso pode incluir a implantação de nosso modelo de Centros de Operações de Produtos de Integridade para monitorar e responder a ameaças em tempo real. Também pode incluir a busca por garantir que nossos sistemas e recursos de integridade sejam robustos e prontos onde possa haver risco contínuo de agitação política, ou construir gatilhos de produto temporários antes de um protesto ou evento culturalmente sensível – tudo ao mesmo tempo garantindo que temos equipes prontas para apoiar eventos não planejados, como responder ao golpe em Mianmar.

Sabemos que enfrentamos vários desafios com esse trabalho e é um espaço complexo em que não existe uma solução que funcione para todos. Muitos desses problemas offline existem há décadas ou mais, e os serviços de mídia têm uma longa história de abusos por aqueles que buscam reafirmar ou manter o poder ou incitar a violência. Mas sabemos que nosso trabalho para manter nossa comunidade global segura nunca estará concluído e requer vigilância e investimentos contínuos. Isso é o que temos feito por muitos anos e continuaremos fazendo isso daqui para frente.