Guy Rosen, VP de Integridade do Facebook
Após os terríveis ataques terroristas na Nova Zelândia, analisamos o que mais podemos fazer para impedir que nossos serviços sejam usados para causar danos ou disseminar o ódio. Como resultado, a partir de hoje, pessoas que violaram determinadas regras do Facebook – incluindo nossas políticas de organizações e indivíduos perigosos – serão impedidas de usar o Facebook Live.
Além disso, está claro que combater essas ameaças exige inovação técnica para ficar à frente do tipo de modificação de mídias que vimos depois de Christchurch, quando alguns usuários alteraram o vídeo para evitar a detecção a fim de republicá-lo depois que ele foi removido. Isso exigirá pesquisas fundacionais conduzidas pela indústria e acadêmicos. Com esse objetivo em mente, também estamos anunciando novas parcerias de pesquisa no valor total de US$ 7,5 milhões com os principais acadêmicos de três universidades, projetadas para promover melhorias adicionais na tecnologia de análise de imagens e vídeos.
Restrições no acesso ao Facebook Live
A grande maioria das pessoas utiliza o Facebook Live para fins positivos, como compartilhar momentos com amigos ou para a conscientização sobre uma causa da qual elas gostam. Ainda assim, algumas pessoas podem usar o Live de forma negativa e queremos tomar medidas para limitar esse abuso.
Até hoje, se alguém postasse conteúdos que violassem nossos Padrões da Comunidade – no Facebook Live ou em outro lugar -, removeríamos a publicação. Se eles continuassem publicando conteúdos que violassem nossos padrões, impediríamos o uso do Facebook por um determinado período de tempo, o que também eliminava a capacidade dessas pessoas de transmitirem pelo Live. Em alguns casos, nós os baniríamos da plataforma, seja por causa de repetidas violações ou em casos raros de uma única violação grave (por exemplo, com propaganda de terror na foto de perfil ou compartilhamento de imagens de exploração infantil).
A partir de hoje estamos reforçando nossas políticas especificamente para o Facebook Live. Agora aplicaremos uma política de “infração única” para o Live, em conjunto com uma gama mais ampla de ofensas. Qualquer pessoa que violar nossas políticas mais sérias será impedida de usar o Live por determinado período de tempo – por exemplo, 30 dias – a partir da primeira violação. Assim, alguém que compartilhe um link para uma declaração de algum grupo terrorista agora será imediatamente impedido de usar o Live por um determinado período de tempo, por exemplo.
Planejamos estender essas restrições para outras áreas nas próximas semanas, começando por evitar que essas mesmas pessoas criem anúncios no Facebook. Reconhecemos a tensão entre as pessoas que preferem o acesso irrestrito aos nossos serviços e as restrições necessárias para manter as pessoas seguras no Facebook. Nosso objetivo é minimizar o risco de abuso no Live, ao mesmo tempo em que permitimos que as pessoas usem o Live de maneira positiva todos os dias.
Investindo em pesquisas sobre mídias modificadas
Um dos desafios que enfrentamos nos dias após o ataque na Nova Zelândia foi a proliferação de versões diferentes do vídeo do atentado. As pessoas – nem sempre intencionalmente – compartilharam versões editadas do vídeo, o que dificultava a detecção por nossos sistemas.
Embora tenhamos implementado diversas técnicas para eventualmente encontrar essas versões alternativas, incluindo tecnologia de correspondência de vídeo e áudio (“video & audio matching”), percebemos que essa é uma área em que precisamos investir com mais pesquisas.
Assim, anunciamos hoje parcerias com três universidades – Universidade de Maryland, Cornell e a Universidade da Califórnia, em Berkeley – focadas em pesquisar novas técnicas para:
- Detectar mídias modificadas, incluíndo imagens, vídeo e áudio;
- Distinguir publicações de indivíduos que intencionalmente modificam vídeos e fotos de pessoas que postam inadvertidamente.
Está claro para nós que lidar com a ascensão de conteúdos modificados exigirá pesquisas e a colaboração entre a indústria e acadêmicos – precisamos que todos trabalhem juntos para enfrentar esse desafio. Essas parcerias são apenas uma parte dos nossos esforços – nos próximos meses, buscaremos colaborações adicionais para que todos possamos avançar o mais rápido possível e ficarmos à frente dessa ameaça.
Este trabalho será essencial em nossos esforços mais amplos contra mídias modificadas, incluindo DeepFakes. Esperamos que isso também nos ajude a combater de forma mais eficaz os grupos de indivíduos organizados que tentam enganar nossos sistemas, como vimos acontecer depois do ataque de Christchurch.
Estas são questões complexas e estamos trabalhando em um ambiente em constante mudança. Sabemos que só poderemos manter as pessoas seguras se permanecermos vigilantes e trabalharmos com especialistas, outras empresas, governos e a sociedade civil ao redor do mundo. Estamos ansiosos para continuar esse trabalho conjunto.