Meta

Detectando imagens íntimas não-consensuais e apoiando vítimas

Por Antigone Davis, Chefe Global de Segurança do Facebook

Quando imagens íntimas de uma pessoa são compartilhadas sem sua permissão, isso pode ser devastador. Para proteger as vítimas, há muito tempo faz parte de nossas políticas a remoção de imagens íntimas não-consensuais (ato também conhecido como “revenge porn” ou “pornografia de vingança”) quando são denunciadas — e nos últimos anos, passamos a usar a tecnologia de “photo-matching” para impedir o compartilhamento dessas imagens. Para identificar esse tipo de conteúdo mais rapidamente e dar maior suporte às vítimas, anunciamos hoje uma nova tecnologia de detecção e uma central de recursos online para orientar as pessoas sobre como agir quando esses abusos acontecerem.

Encontrar essas imagens vai além de detectar nudez em nossas plataformas. Utilizando machine learning e inteligência artificial, agora podemos detectar proativamente imagens ou vídeos íntimos que são compartilhados sem permissão no Facebook e no Instagram. Isso significa que poderemos encontrar esses conteúdos antes mesmo de qualquer pessoa denunciá-los, o que é importante por dois motivos: um é que muitas vezes as vítimas temem uma possível retaliação, então relutam em reportar o conteúdo; outra razão é a possibilidade de não saberem que o conteúdo foi compartilhado. Um membro especialmente treinado de nosso time de Operações da Comunidade revisará o conteúdo encontrado pela nossa tecnologia. Se a imagem ou vídeo violar nossos Padrões da Comunidade, removeremos e, na maioria dos casos, também desativaremos a conta por compartilhar conteúdo íntimo sem permissão. Nós oferecemos ainda a possibilidade de um recorrer, caso alguém acredite que cometemos um engano.

Essa nova tecnologia de detecção é adicional ao nosso programa piloto em conjunto com organizações de suporte às vítimas. Esse programa dá às pessoas uma opção de emergência para enviar de forma segura e proativa uma foto ao Facebook. Em um primeiro momento, criamos uma impressão digital da imagem e impedimos que ela seja compartilhada em nossa plataforma. Após receber feedbacks positivos das vítimas e organizações de suporte, nós expandiremos esse piloto nos próximos meses para que mais pessoas possam se beneficiar dessa opção, em caso de emergência.

“Estamos entusiasmados em ver o piloto se expandir e incorporar mais organizações de segurança focadas em mulheres em todo o mundo, já que muitas das solicitações que recebemos são de vítimas que residem fora dos EUA.” – Holly Jacobs, fundadora da Cyber Cyber Rights Initiative (CCRI)

Também queremos fazer mais para ajudar as pessoas que foram alvo deste tipo terrível de abuso. Estamos lançando uma área de suporte a vítimas em nossa Central de Segurança chamada “Não sem meu consentimento“, desenvolvida em conjunto com especialistas. Nela as vítimas podem encontrar organizações e recursos para apoiá-las, incluindo medidas que podem ser tomadas para remover o conteúdo da nossa plataforma e impedir que seja compartilhado posteriormente. Também tornaremos mais fácil e intuitivo para as vítimas denunciarem quando suas imagens íntimas forem compartilhadas no Facebook. Além disso, nos próximos meses criaremos ferramentas de suporte a vítimas para fornecer às pessoas em todo o mundo mais informações sobre instituições e locais de apoio que sejam relevantes de acordo com cada localização. Criaremos isso em parceria com a SaferNet (Brasil), Revenge Porn Helpline (Reino Unido), Cyber Civil Rights Initiative (Estados Unidos), Digital Rights Foundation (Paquistão) e o Professor Lee Ji-yeon (Coreia do Sul).

Nosso trabalho de combate a esse tipo de abuso e apoio às vítimas não seria possível sem a ajuda de especialistas internacionais. Hoje, junto com a 63ª Comissão das Nações Unidas sobre o Estatuto da Mulher, realizaremos um evento com Dubravka Šimonović – Relatora Especial da ONU sobre violência contra as mulheres – que reúne defensores de vítimas, representantes da indústria e de organizações sem fins lucrativos. Discutiremos como esse abuso se manifesta em todo o mundo; suas causas e consequências; quais são os próximos desafios que precisam ser abordados; e estratégias de dissuasão. Estamos ansiosos por este evento e agradecidos por essas parcerias nessa importante questão.

Você pode ler mais sobre uma pesquisa relacionada ao nosso anúncio de hoje neste link.