Por Monika Bickert, vice-presidente de Políticas de Conteúdo
Destaques:
- Como resultado do feedback do Comitê de Supervisão, estamos atualizando nosso sistema de penalidades para torná-lo mais justo e eficaz.
- Embora continuemos removendo conteúdo violador como sempre, sob nosso novo sistema vamos focar mais em ajudar as pessoas a entender porque removemos seu conteúdo, a fim de evitar a reincidência, ao invés de restringir prontamente sua capacidade de publicar.
- Estamos fazendo esta mudança também porque sabemos que nem sempre acertamos. Assim, ao invés de potencialmente penalizar em excesso pessoas com um número menor de advertências por violações de baixa gravidade e limitar sua capacidade de se expressar, esta nova abordagem levará a ações mais rápidas e de maior impacto para aqueles que continuamente violam nossas políticas.
Hoje, como resultado do feedback do Comitê de Supervisão para garantir que nosso sistema de penalidades seja mais proporcional, estamos tomando medidas para atualizar o sistema de penalidades do Facebook para torná-lo mais eficaz e justo. Como nada está mudando sobre a remoção do conteúdo subjacente, não prevemos que este refinamento do sistema de penalidades tenha um efeito substancial sobre a prevalência. Com esta atualização, ainda seremos capazes de manter nosso aplicativo seguro e, ao mesmo tempo, permitir que as pessoas se expressem.
Sob o novo sistema, vamos focar em ajudar as pessoas a entender porque removemos seu conteúdo, o que se mostra mais eficaz na prevenção de reincidência, em vez de restringir prontamente sua capacidade de publicar. Ainda aplicaremos restrições de conta aos infratores persistentes, normalmente a partir da sétima violação, depois de termos dado avisos e explicações suficientes para ajudar a pessoa a entender o porquê de termos removido seu conteúdo. Também vamos restringir as pessoas de postar em Grupos, em limitações menores, quando pertinente. Para violações mais graves: publicação de conteúdo que inclua terrorismo, exploração sexual infantil, tráfico de pessoas, promoção de suicídio, exploração sexual, venda de drogas não medicinais ou promoção de organizações e indivíduos perigosos, continuaremos a aplicar consequências imediatas, incluindo a remoção de contas em casos graves.
A grande maioria das pessoas em nossos aplicativos é bem-intencionada. Historicamente, algumas dessas pessoas foram parar na “cadeia do Facebook” sem entender o que fizeram de errado ou se foram impactadas por um erro de aplicação de políticas de conteúdo.
Nossa análise descobriu que quase 80% dos usuários com um baixo número de avisos não voltam a violar nossas políticas nos próximos 60 dias. Isso significa que a maioria das pessoas responde bem a um aviso e explicação, pois não deseja violar nossas políticas. Mas, ao mesmo tempo, algumas pessoas estão determinadas a publicar conteúdo violador independentemente de nossas políticas. Nossa análise sugere que a aplicação de penalidades mais severas na sétima advertência é uma maneira mais eficaz de dar às pessoas bem-intencionadas a orientação de que precisam, enquanto continuamos a remover maus atores.
Além de serem mais eficazes, estas mudanças serão mais justas para aquelas pessoas que podem ter sido desproporcionalmente impactadas por nosso antigo sistema, particularmente quando tomamos uma decisão de moderação incorreta ou quando não temos o contexto. Por exemplo, alguém pode publicar em tom de brincadeira: “Vou te raptar”, sem saber que esta declaração pode violar nossa política de violência e incitação, quando na verdade era uma publicação sobre levar um amigo para jantar fora depois que aquela pessoa teve um dia difícil. Outra pessoa pode publicar o nome e endereço de um amigo como uma forma de compartilhar informações para uma festa e, sem esse contexto, essa publicação pode parecer estar compartilhando informações pessoalmente identificáveis que violam nossas políticas. As implicações do excesso de aplicação de políticas são reais — quando as pessoas são pegas não intencionalmente por esse sistema, elas podem ter dificuldades para administrar seus negócios, se conectar com suas comunidades ou se expressar.
Nosso sistema anterior recorria prontamente a penalidades longas, como o bloqueio de 30 dias sobre a capacidade de uma pessoa de criar conteúdo. Estes longos bloqueios eram frustrantes para pessoas bem-intencionadas que tinham cometido erros, e pouco contribuíram para ajudar essas pessoas a entender nossas políticas. Os bloqueios também nos dificultavam a detecção de tendências de violação e às vezes tinham o efeito de deixar os maus atores permanecerem em nossas plataformas por mais tempo. Nosso novo sistema, que reduz o número de períodos de restrição, permitirá detectar violadores persistentes em menos tempo, conduzindo a ações mais rápidas e de maior impacto.
As mudanças de hoje, embora baseadas em nossa própria análise e no feedback do Comitê de Supervisão, também respondem ao feedback da nossa comunidade – incluindo nossos auditores de direitos civis – que observaram que nosso atual sistema de aplicação de medidas precisa de mais foco na proporcionalidade. Especialistas independentes que ofereceram suas orientações sobre este tópico observaram regularmente que nosso sistema de penalidades deveria ter um melhor equilíbrio entre punir e encorajar a reparação por meio da educação.
…É positivo que a Meta tenha introduzido mais transparência e coerência nessa área como resultado da implementação de recomendações anteriores do Comitê de Supervisão, avançando para uma abordagem mais proporcional e transparente com limites mais altos para a transformação de advertência em penalidade. Os planos da Meta de emitir notificações de penalidades mais abrangentes devem garantir que os usuários entendam melhor os motivos por terem recebido advertências e restrições de recursos no futuro”. – Comitê de Supervisão, em um caso sobre um slogan de protestos no Irã.
A orientação externa é uma parte importante deste processo, e continuaremos trabalhando com especialistas do meio acadêmico, da sociedade civil e da comunidade política para seguir melhorando e evoluindo nossa aplicação de políticas em um ambiente em constante mudança. Forneceremos mais atualizações à medida que este processo avançar.