Sabemos que segurança é importante, e isso inclui o controle de suas contas nas redes sociais e a proteção contra fraudes. Para figuras públicas, segurança também significa saber que sua imagem não será usada indevidamente para enganar seus seguidores ou fãs.
É por isso que estamos testando o uso da tecnologia de reconhecimento facial para ajudar a proteger as pessoas contra fraudes que se utilizam da imagem de celebridades e permitir uma recuperação mais rápida de contas. Esperamos que, ao compartilhar nossa abordagem, possamos ajudar a informar como nossa indústria se defende contra golpistas online.
Protegendo Figuras Públicas e Nossos Usuários contra Anúncios Fraudulentos com Celebridades
Golpistas muitas vezes tentam usar imagens de figuras públicas, como criadores de conteúdo ou celebridades, para induzir as pessoas a engajar com anúncios que levam a sites fraudulentos, nos quais elas são solicitadas a compartilhar informações pessoais ou transferir dinheiro. Esse esquema de golpes que se utiliza da imagem de celebridades viola nossas políticas e é ruim para as pessoas que usam nossos produtos.
É claro que as celebridades aparecem em muitos anúncios legítimos. No entanto, como os anúncios fraudulentos envolvendo celebridades são geralmente elaborados para parecerem reais, nem sempre é fácil detectá-los. Nosso sistema de análise de anúncios depende principalmente de tecnologia automatizada para analisar os milhões de anúncios que são veiculados nas plataformas da Meta todos os dias. Utilizamos classificadores com aprendizado de máquina para analisar cada anúncio veiculado em nossas plataformas em busca de violações de nossas políticas de anúncios, inclusive fraudes. Esse processo automatizado analisa os componentes de um anúncio, como o texto, a imagem ou o vídeo.
Agora, estamos testando uma nova maneira de detectar golpes de anúncios fraudulentos envolvendo celebridades. Caso nossos sistemas suspeitem que um anúncio possa ser um golpe que contenha a imagem de uma figura pública em risco de ser vítima de uma fraude, buscaremos usar a tecnologia de reconhecimento facial para comparar os rostos do anúncio com as fotos de perfil da figura pública no Facebook e no Instagram. Se confirmarmos uma correspondência e concluirmos que o anúncio é uma fraude, nós o bloquearemos. Os dados faciais gerados pelos anúncios para essa comparação única são imediatamente excluídos, independentemente de nosso sistema encontrar uma correspondência, e não são usados para nenhuma outra finalidade.
Testes iniciais envolvendo um pequeno grupo de celebridades e figuras públicas mostram resultados promissores para aumentar a velocidade e a eficácia com que podemos detectar e agir contra esse tipo de golpe. Nas próximas semanas, começaremos a exibir notificações no aplicativo para um grupo maior de personalidades públicas que têm sido afetadas por esse tipo de golpe com suas imagens informando-as sobre seu registro nessa camada de proteção. As figuras públicas registradas nessa proteção podem optar por sair dela em sua Central de Contas a qualquer momento.
Também temos visto golpistas criarem contas impostoras para se fazer passar por figuras públicas, com o intuito de enganar as pessoas para que engajem com conteúdo fraudulento ou enviem dinheiro. Por exemplo, golpistas podem alegar que uma figura pública ou celebridade endossou uma oferta de investimento específica ou solicitar informações pessoais confidenciais em troca de aconselhamento sobre a vida ou brindes gratuitos. Atualmente, usamos sistemas de detecção e denúncias de usuários para ajudar a identificar possíveis impostores. Estamos analisando a possibilidade de adicionar mais uma etapa para ajudar a encontrar mais rapidamente contas falsas desse tipo. Essa camada adicional de proteção funcionaria usando a tecnologia de reconhecimento facial para comparar as fotos de perfil da conta suspeita com as fotos de perfil do Facebook e do Instagram de uma figura pública. Esperamos testar essa e outras novas abordagens em breve.
Ajudando as Pessoas a Recuperar o Acesso às Suas Contas
Às vezes as pessoas perdem o acesso às suas contas do Facebook ou do Instagram, por exemplo, quando esquecem a senha e perdem seu celular, ou quando um golpista as engana para que forneçam sua senha. Se acreditarmos que uma conta foi comprometida, exigiremos que o titular da conta verifique sua identidade antes de recuperar o acesso, fazendo o upload de um documento de identidade oficial ou de um certificado oficial que inclua seu nome.
Agora estamos testando selfies em vídeo como um meio para que as pessoas verifiquem sua identidade e recuperem o acesso a contas comprometidas. Quando o usuário faz upload de uma selfie em vídeo, usamos a tecnologia de reconhecimento facial para comparar a selfie com as fotos de perfil da conta que ele está tentando acessar. Isso funciona de forma semelhante às ferramentas de verificação de identidade usadas para desbloquear um telefone ou acessar outros aplicativos.
Assim que alguém fizer o upload de um vídeo selfie, ele será criptografado e armazenado com segurança. Ele nunca ficará visível em seu perfil, para amigos ou para outras pessoas no Facebook ou no Instagram. Excluímos imediatamente todos os dados faciais gerados após essa comparação, independentemente de haver uma correspondência ou não.
A verificação por vídeo selfie amplia as opções para as pessoas recuperarem o acesso à conta, leva apenas um minuto para ser concluída e é a maneira mais fácil de as pessoas confirmarem sua identidade. Embora saibamos que os hackers continuarão tentando se aproveitar das ferramentas de recuperação de conta, esse método de verificação será mais difícil de ser utilizado pelos hackers do que a verificação de identidade tradicional baseada em documentos.
Soluções Responsáveis
Os golpistas são implacáveis e evoluem continuamente suas táticas para tentar burlar a detecção. Estamos determinados a nos manter à frente deles e continuaremos criando e testando novas proteções técnicas para fortalecer nossos recursos de detecção e aplicação. Avaliamos essas medidas por meio de nosso robusto processo de revisão de riscos e privacidade e criamos importantes mecanismos de proteção, como o envio de notificações para instruir as pessoas sobre o funcionamento das ferramentas, oferecendo controles às pessoas, além de garantir a exclusão dos dados faciais das pessoas assim que não forem mais necessários.
Queremos ajudar a proteger as pessoas e suas contas e, embora a natureza adversa desse ambiente signifique que nem sempre acertaremos, acreditamos que a tecnologia de reconhecimento facial pode nos ajudar a ser mais rápidos, mais precisos e mais eficazes. Continuaremos a discutir nossos investimentos contínuos nessa área com reguladores, formuladores de políticas e outros especialistas.