A extorsão sexual financeira é um crime horrível. Passamos anos trabalhando em estreita colaboração com especialistas, incluindo aqueles com experiência no combate a esses crimes, para compreender as táticas utilizadas por criminosos para localizar e extorquir vítimas online, e, com isso, desenvolvemos formas eficazes de ajudar a detê-los.
Hoje, estamos compartilhando uma visão geral e atualizada do nosso trabalho para combater esses crimes. Isso inclui novas ferramentas que estamos testando para ajudar a proteger as pessoas contra a extorsão sexual e outras formas de abuso de imagens íntimas, para tornar o mais difícil possível para que os criminosos localizem alvos em potencial nos aplicativos da Meta e na internet. Também estamos testando novas medidas para apoiar os jovens no reconhecimento e na proteção contra esquemas de extorsão sexual.
Essas atualizações são baseadas no nosso trabalho de longa data para ajudar a proteger os jovens de contatos indesejados ou potencialmente prejudiciais. Incluímos os jovens, de forma padronizada, em nossas configurações de mensagens mais rígidas, para que eles não possam receber mensagens de pessoas com as quais não estejam conectados, mostramos avisos de segurança para adolescentes que já estejam em contato com possíveis contas fraudulentas e oferecemos uma opção dedicada para que as pessoas possam denunciar DMs que estejam ameaçando compartilhar imagens íntimas. Também apoiamos o Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC) no desenvolvimento do Take It Down, uma plataforma que permite que jovens retomem o controle das suas imagens íntimas e ajuda a evitar que elas sejam compartilhadas na internet, enfraquecendo o poder de ação dos criminosos.
Apresentando proteção contra nudez nas DMs
Embora a maior parte das pessoas utilize as DMs para compartilhar o que amam com seus amigos, familiares ou criadores prediletos, os criminosos de extorsão sexual também podem usar mensagens privadas para compartilhar ou solicitar imagens íntimas. Para ajudar a endereçar essa questão, começaremos a testar em breve o nosso novo recurso de proteção contra nudez nas DMs do Instagram, que desfoca imagens detectadas que contenham nudez e incentiva as pessoas a pensarem duas vezes antes de enviar fotos íntimas. Esse recurso foi projetado não apenas para proteger as pessoas de verem nudez indesejada em suas DMs, mas para protegê-las de criminosos que podem enviar imagens íntimas para induzir as pessoas a enviarem as suas próprias fotos em troca.
A proteção contra nudez será ativada, por padrão, para jovens menores de 18 anos globalmente, e mostraremos uma notificação aos adultos incentivando-os a ativá-la.
Quando a proteção contra nudez estiver ativada, as pessoas que enviarem imagens contendo nudez verão uma mensagem lembrando-as de serem cautelosas ao enviar fotos sensíveis e que podem cancelar o envio dessas imagens caso mudem de ideia.
Qualquer pessoa que tentar encaminhar uma imagem recebida e que contenha nudez, verá uma mensagem incentivando-a a reconsiderar.
Quando alguém receber uma imagem que contenha nudez, ela será automaticamente desfocada em uma tela de aviso, apontando que o destinatário não será impactado por uma imagem que contenha nudez e poderá escolher se deseja, ou não, vê-la. Também mostraremos uma mensagem incentivando os usuários a não se sentirem pressionados a responder, com a opção de bloquear o remetente e denunciar a conversa.
Ao enviar ou receber essas imagens, as pessoas serão direcionadas para algumas dicas de segurança, elaboradas com a orientação de especialistas, sobre os potenciais riscos envolvidos. Essas dicas incluem lembretes de que as pessoas podem tirar prints ou encaminhar imagens sem o seu conhecimento, que seu relacionamento com a pessoa pode mudar no futuro e que você deve revisar os perfis com cuidado caso eles não sejam quem dizem ser. Elas também estão vinculadas a uma variedade de recursos, incluindo a Central de Segurança da Meta, recursos de apoio, StopNCII.org, para maiores de 18 anos, e o Take It Down para menores de 18 anos.
A proteção contra a nudez utiliza do aprendizado de máquina no dispositivo para analisar se uma imagem enviada em uma DM no Instagram contém nudez. Como as imagens são analisadas no próprio dispositivo, a proteção contra a nudez funcionará em conversas criptografadas de ponta-a-ponta, onde a Meta não terá acesso a essas imagens – a não ser que alguém opte por denunciá-las para nós.
“As empresas têm a responsabilidade de garantir a proteção dos jovens que utilizam as suas plataformas. As medidas de segurança propostas pela Meta em um ambiente criptografado são encorajadoras. Esperamos que essas novas medidas aumentem as denúncias por parte dos adolescentes e reduzam a circulação de conteúdos que promovam a exploração infantil online.” –John Shehan, vice-presidente sênior, Centro Nacional para Crianças Desaparecidas e Exploradas.
“Como educador, pai e pesquisador do comportamento de adolescentes na internet, aplaudo o novo recurso da Meta que lida com a troca de conteúdos pessoais de nudez de uma forma cuidadosa, diferenciada e apropriada. A ferramenta reduz a exposição indesejada a imagens potencialmente traumáticas, introduz suavemente a dissonância cognitiva para aqueles que podem estar abertos a compartilhar imagens íntimas e educa as pessoas sobre as potenciais desvantagens envolvidas neste processo. Cada um de nós deve ajudar a diminuir a incidência de extorsão sexual e danos relacionados, ajudando a manter os jovens seguros online.” Dr. Sameer Hinduja, Co-Diretor do Centro de Pesquisa de Cyberbullying e docente associado do Berkman Klein Center, da Universidade de Harvard.
Impedindo que potenciais criminosos se conectem com adolescentes
Tomamos medidas severas quando tomamos conhecimento de pessoas envolvidas em extorsão sexual: removemos as suas contas, tomamos medidas para impedir que criem novas e, quando apropriado, denunciamos ao NCMEC e às autoridades. As nossas equipes especialistas também trabalham para investigar e desmantelar as redes de criminosos, desativar as suas contas e denunciá-los ao NCMEC e às autoridades – incluindo diversas delas no ano passado.
Agora, também estamos desenvolvendo uma tecnologia para ajudar a identificar onde as contas podem estar potencialmente envolvidas em golpes de extorsão sexual, com base em uma série de sinais que podem indicar comportamentos desse crime. Embora esses sinais não sejam necessariamente uma prova de que uma conta violou as nossas regras, estamos tomando medidas para ajudar a evitar que essas contas encontrem e interajam com os adolescentes. Nos baseamos no trabalho que já realizamos para evitar que outras contas potencialmente suspeitas encontrem e interajam com os jovens.
Uma maneira de fazer isso é tornando ainda mais difícil para que potenciais contas que promovam extorsão sexual enviem mensagens ou interajam com as pessoas. A partir de agora, qualquer solicitação de mensagem que contas com potenciais de extorsão sexual tentem enviar, serão diretamente direcionadas à pasta de solicitações ocultas do destinatário, significando que eles não serão notificados sobre a mensagem e nunca terão que vê-la. Àqueles que já estejam conversando com possíveis contas fraudulentas ou que promovam extorsão sexual, mostraremos Avisos de Segurança incentivando-os a denunciar quaisquer ameaças de compartilhamento de suas imagens íntimas, lembrando-os de que podem dizer não a qualquer situação que os deixe desconfortáveis.
Para os jovens, vamos ainda mais adiante. Já impedimos que adultos iniciem conversas pelas DMs com adolescentes que não estejam conectados e, em janeiro, anunciamos padrões de mensagens mais rígidos para adolescentes, significando que eles só poderão receber mensagens de pessoas com as quais já estejam conectados – não importando a idade do remetente. A partir de agora, não mostraremos a opção “Mensagem” no perfil de um adolescente para potenciais contas de extorsão sexual, mesmo que já estejam conectadas. Também estamos testando a ocultação dos jovens dessas contas nas listas de seguidores, contas seguidas pelo perfil e curtidas das pessoas, dificultando a localização de contas de adolescentes nos resultados de pesquisas.
[INSERIR MOCKS QUE MOSTRAM UM PERFIL DO IG COM ÍCONE DE MENSAGEM FALTANDO E/OU UMA MENSAGEM NA A PASTA DE PEDIDOS OCULTOS]
Nossos recursos para pessoas que podem ter sido abordadas por criminosos
Estamos testando novas mensagens de pop-up para pessoas que possam ter interagido com uma conta que removemos por extorsão sexual. A mensagem irá direcioná-los para os nossos recursos sustentados por especialistas, incluindo o nosso hub para acabar com a extorsão sexual, recursos de apoio, a opção de entrar em contato com um amigo, o StopNCII.org para maiores de 18 anos e o Take It Down para menores de 18 anos.
[INSERIR QP DE SUPORTE PROATIVO – TBC]
Também estamos adicionando novos recursos de apoio à segurança infantil ao redor do mundo nos nossos fluxos de denúncias nos aplicativos. Isso significa que, quando os jovens denunciarem questões relevantes – como nudez, ameaças de compartilhamento de imagens íntimas, exploração ou incitação sexual – iremos encaminhá-los para os recursos de apoio locais de segurança infantil, quando disponíveis.
Combatendo golpes de extorsão sexual na internet
Em novembro, anunciamos a nossa colaboração na fundação da Coalizão Lanterna, um programa administrado pela Tech Coalition que permite que as empresas de tecnologia compartilhem sinais sobre contas e comportamentos que violem as suas políticas de segurança infantil.
Essa cooperação da indústria é fundamental, pois os predadores não se limitam a uma única plataforma, e o mesmo acontece com os criminosos de extorsão sexual. Esses predadores têm como alvo vítimas nos diferentes aplicativos que utilizam, muitas vezes transferindo suas conversas de um aplicativo para o outro. Por isso, começamos a compartilhar mais sinais específicos de extorsão sexual com a Coalizão Lanterna, para desenvolver essa cooperação tão importante e tentar impedir os golpes de extorsão sexual não apenas em plataformas individuais, mas em toda a Internet.