- Estamos adicionando a prevalência de bullying e assédio ao nosso Relatório de Aplicação dos Padrões da Comunidade pela primeira vez.
- O bullying e o assédio são um desafio único e uma das questões mais complexas de se lidar, porque o contexto é fundamental. Trabalhamos muito para agir contra esse tipo de conteúdo e, ao mesmo tempo, dar as ferramentas necessárias para que nossa comunidade possa se proteger da melhor maneira.
- A prevalência ao longo do tempo nos mostra como estamos nos saindo para reduzir esse problema em nossas plataformas, e nos dá uma referência para agir.
Como uma empresa de tecnologia social, ajudar as pessoas a se sentirem seguras para se conectar e se envolver com outras é fundamental para o que fazemos. Mas uma forma de abuso que infelizmente sempre existiu quando as pessoas interagem umas com as outras é o bullying e o assédio. Embora esse desafio não seja exclusivo às redes sociais, na Meta estamos em posição de usar novas tecnologias para reduzi-lo em nossa própria plataforma, fornecer às pessoas ferramentas para se protegerem e também medir o nosso progresso. É assim que abordamos essas questões.
Como definimos Bullying e Assédio
Quando se trata de bullying e assédio, o contexto e a intenção são importantes. Normalmente, o bullying e o assédio são muito pessoais – aparecem de maneiras distintas para cada pessoa, desde a realização de ameaças e liberação de informações de identificação pessoal, até contatos repetidos e indesejados. Nossa política de bullying e assédio proíbe esse tipo de conteúdo e comportamento. Nossa política também diferencia figuras públicas e particulares, uma vez que queremos permitir discussões livres e abertas sobre figuras públicas. Permitimos mais comentários críticos de figuras públicas do que de indivíduos privados, mas qualquer conteúdo deve permanecer dentro dos limites definidos pelos Padrões da Comunidade.
O que nossa métrica de bullying e assédio significa
Desenvolvemos sistemas de inteligência artificial que podem identificar diversos tipos de bullying e assédio em nossas plataformas. No entanto, o bullying e o assédio são uma área problemática única porque a determinação do dano geralmente requer contexto, incluindo relatos de pessoas que vivenciam esse comportamento. Às vezes, pode ser difícil para os nossos sistemas distinguir entre um comentário de bullying e uma piada, sem conhecer as pessoas envolvidas ou as nuances da situação. Por exemplo, uma amiga postando um termo de cunho sexual no perfil de outra amiga pode não ser percebida como intimidação entre essas amigas íntimas. Mas, por outro lado, alguém postar o mesmo termo na página de outra pessoa quando os dois não são amigos próximos ou várias pessoas postando o termo na página dessa pessoa pode ser prejudicial. Termos depreciativos relacionados à atividade sexual violam nossos Padrões da Comunidade para bullying e assédio, porque queremos garantir uma base de segurança para todos os membros da nossa comunidade, independentemente da intenção.
Como resultado, detectar esse tipo de bullying pode ser mais desafiador do que outros tipos de violação. Embora estejamos sempre trabalhando para melhorar nossa tecnologia, nossas métricas, especialmente aquelas de taxa e prevalência proativas, refletem a realidade de ter que contar com relatórios da nossa comunidade.
No terceiro trimestre deste ano, a prevalência de bullying e assédio foi de 0,14-0,15% no Facebook e 0,05-0,06% no Instagram. Isso significa que o conteúdo de bullying e assédio foi visto entre 14 e 15 vezes a cada 10.000 visualizações de conteúdo no Facebook e entre 5 e 6 vezes a cada 10.000 visualizações de conteúdo no Instagram. Esta métrica contempla apenas bullying e assédioquando não precisamos de informações adicionais, como um relatório da pessoa que está sofrendo, para determinar se isso viola a nossa política. Além disso, removemos 9,2 milhões de conteúdos do Facebook e, do que removemos, encontramos 59,4% de forma proativa. No Instagram, removemos 7,8% de conteúdos, e do que removemos, encontramos 83,2% proativamente.
Como planejamos reduzir o bullying e o assédio
As métricas de prevalência nos permitem rastrear, tanto interna quanto externamente, a quantidade de conteúdo violador que as pessoas estão vendo em nossos aplicativos. A prevalência, por sua vez, nos ajuda a determinar as abordagens certas para reduzir essa métrica, seja por meio da atualização de nossas políticas, produtos ou por meio de ferramentas para nossa comunidade. Quando divulgamos pela primeira vez, a prevalência do discurso de ódio, por exemplo, encontrava-se entre 0,10-0,11%, e hoje em dia este número está em 0,03%. Neste ano, atualizamos nossa tecnologia de IA para nos capacitarmos em três violações diferentes, mas relacionadas: bullying e assédio, discurso de ódio e violência e incitação. Também implementamos diversas abordagens para reduzir a prevalência de conteúdo violador, como: remoção de contas, Páginas, Grupos e eventos por violar nossos Padrões ou Diretrizes da Comunidade; filtragem de Grupos, Páginas e conteúdos problemáticos de recomendações em nossos serviços; ou reduzindo a distribuição de conteúdo provavelmente violador ou limite de conteúdo aos nossos Padrões da Comunidade.
Para reduzir a prevalência de bullying e assédio em nossas plataformas, usamos táticas que são específicas à natureza única desse tipo de violação, e algumas que conectam aprendizados em várias questões políticas. Em um estudo mais aprofundado sobre prevalência, esperamos fazer aprimoramentos contínuos em nossas políticas e ferramentas de bullying e assédio para melhor identificar e aplicar esse conteúdo. Por exemplo, recentemente atualizamos nossas políticas para aumentar a aplicação de medidas contra conteúdos e comportamentos nocivos para indivíduos e personalidades públicas. Essas atualizações vieram depois de anos de consultas com defensores da liberdade de expressão, especialistas em direitos humanos, grupos de segurança feminina, cartunistas e satiristas, políticas e jornalistas mulheres, representantes da comunidade LGBTQ +, criadores de conteúdo, entre outros tipos de figuras públicas.
- Para proteger as pessoas de assédio e intimidação em massa, sem penalizar as pessoas que se envolvem em formas legítimas de comunicação, atualizamos nossa política para remover determinados conteúdos e contas vinculadas a esse comportamento. Para realizar essas mudanças, exigiremos informações adicionais e contexto. Por exemplo, um grupo patrocinado pelo estado em um regime autoritário usando grupos privados para coordenar a postagem em massa em perfis dissidentes agora iria contra esta nova norma.
- Expandimos nossas proteções para figuras públicas para incluir a remoção de ataques degradantes e sexualizados. Por exemplo, desenhos animados pornográficos baseados em mulheres eleitas seriam removidos por violar essa nova política.
- Reconhecendo que nem todas as pessoas que estão sob os olhos do público optam por se tornar uma figura pública, e ainda podem ser alvo de intimidação e assédio, aumentamos as proteções para figuras públicas involuntárias, como defensores dos direitos humanos e jornalistas. Por exemplo, conteúdo que zomba do ciclo menstrual de uma jornalista violaria nossas políticas e seria proibido.
Estamos trabalhando muito para reduzir esse tipo de conteúdo em nossas plataformas, mas também queremos equipar nossa comunidade com ferramentas para se proteger de conteúdos potencialmente ofensivos da maneira que funcione melhor para ela.
- Ferramentas como desfazer amizade, deixar de seguir e bloquear contas podem ajudar a desconectar imediatamente as pessoas que podem estar intimidando-as.
- Recursos como os controles de ignorar e comentar podem limitar a quantidade de conteúdo indesejado visto, enquanto Restringir no Instagram permite que as pessoas evitem que os agressores vejam e interajam com o conteúdo de alguém, sem que o agressor saiba
- As pessoas também podem controlar quem as marca ou menciona no conteúdo.
- Os limites no Instagram também permitem que as pessoas ocultem automaticamente comentários e solicitações de mensagens diretas de pessoas que não seguem você ou que o seguiram recentemente.
- As pessoas também podem relatar facilmente o conteúdo em postagens, comentários e mensagens para que nossas equipes possam revisar e tomar as medidas adequadas.
Uma ferramenta recente que implantamos está adicionando telas de aviso para educar e desencorajar as pessoas de postar ou comentar de maneiras que podem se enquadrar como bullying e assédio. No Instagram, cerca de 50% das vezes o comentário foi editado ou excluído pelo usuário com base nesses avisos. Fizemos investimentos em nossas ferramentas de bullying e assédio no Instagram, trabalhando para reduzir o número de vezes que esse tipo de conteúdo é visto, principalmente por nossa base de usuários mais jovens.
Temos vários recursos com os quais você poderá aprender mais sobre o trabalho de prevenção de bullying e assédio que fazemos em nossa plataforma. Em parceria com o Yale Center for Emotional Intelligence, desenvolvemos a nossa Central de Prevenção ao Bullying na nossa Central de Segurança, um recurso para adolescentes, pais e educadores que buscam suporte e ajuda para questões relacionadas a bullying e outros conflitos.