- Nosso objetivo é fornecer às pessoas os aplicativos de mensagens privadas mais seguros, ajudando a protegê-las de abusos sem deixar a criptografia de lado.
- Estamos compartilhando uma atualização sobre a nossa abordagem de segurança no Messenger e nas DMs do Instagram, que se concentram em prevenir a ocorrência de abusos, dando às pessoas o controle para gerenciar sua experiência e responder a possíveis danos de forma eficaz.
- Proteger as pessoas em nossos aplicativos requer uma interação constante, e, por isso, revisamos nossas políticas com frequência e atualizamos nossos recursos com base em consultas com especialistas.
Nossos aplicativos de mensagens ajudam bilhões de pessoas a se manterem conectadas àqueles que são mais importantes para elas. Como muitos de nós, quando eles se conectam, esperam que suas conversas sejam privadas e seguras.
Queremos que as pessoas tenham um espaço privativo confiável que seja seguro e protegido, e é por isso que estamos dedicando nosso tempo para construir e implementar a criptografia ponta a ponta (E2EE) por padrão nas DMs do Instagram e no Messenger. A E2EE foi projetada para proteger as mensagens privadas das pessoas, de forma que apenas o remetente e o destinatário possam acessar suas mensagens. Portanto, se você estiver compartilhando fotos ou dados bancários com familiares e amigos, a criptografia permitirá que informações confidenciais sejam compartilhadas com segurança. Também precisamos ajudar a proteger as pessoas contra abusos, sem enfraquecer as proteções que acompanham a criptografia. As pessoas devem ter confiança em sua privacidade, enquanto se sentem no controle para evitar interações indesejadas e responder a abusos. Privacidade e segurança andam de mãos dadas, e nosso objetivo é fornecer às pessoas os aplicativos de mensagens privadas mais seguros.
Enquanto a complexa construção do padrão E2EE está em andamento, compartilhamos, hoje, uma atualização sobre a nossa abordagem para ajudar a manter as pessoas seguras ao enviar mensagens pelo Messenger ou pelo Instagram, enquanto:
- Em primeiro lugar, trabalhamos para evitar que o abuso aconteça,
- Damos às pessoas mais controle, para ajudá-las a ficarem seguras, e
- Respondemos a denúncias sobre danos potenciais.
Prevenindo Abusos
Prevenir que abusos aconteçam é a melhor maneira de manter as pessoas seguras. Em um ambiente criptografado de ponta a ponta, usaremos uma inteligência artificial que não é baseada na varredura de mensagens privadas para detectar, proativamente, contas envolvidas em padrões de comportamento malicioso. Nossa tecnologia de machine learning examinará partes não criptografadas de nossas plataformas – como informações de contas e fotos enviadas para espaços públicos – para detectar atividades suspeitas e abusos.
Por exemplo, se um adulto configurar repetidamente novos perfis e tentar se conectar com menores que não conhece, ou enviar mensagens para um grande número de desconhecidos, podemos intervir para tomar medidas, como impedi-lo de interagir com menores. Também podemos tornar privadas as contas de menores de idade ou contas “apenas para amigos”. Começamos a fazer isso no Instagram e no Facebook.
Também educamos os jovens com conselhos no aplicativo sobre como evitar interações indesejadas. Tivemos muito sucesso com nossos avisos de segurança no Messenger, com banners que fornecem dicas sobre como detectar atividades suspeitas e tomar medidas para bloquear, denunciar ou ignorar / restringir alguém quando algo não parece certo. Desenvolvemos essas dicas de segurança usando machine learning, para ajudar as pessoas a evitar golpes, identificar falsificações de identidade e, principalmente, sinalizar adultos suspeitos que tentem se conectar com menores. Só no último mês, mais de 100 milhões de pessoas viram banners de avisos de segurança no Messenger. Esse recurso funciona com criptografia de ponta a ponta.
Dando às pessoas mais opções e controle
Além dos nossos esforços para prevenir danos, estamos dando aos usuários mais controle em sua caixa de entrada de mensagens para corresponder a variedade de experiências que as pessoas desejam. Muitas vezes, os criadores emergentes precisam de um maior alcance, enquanto outras pessoas desejam círculos estreitos. Por exemplo, recentemente anunciamos as palavras ocultas no Instagram, para que as pessoas possam determinar quais palavras, frases e emojis ofensivos desejam filtrar em uma pasta oculta. Isso também faz parte do nosso esforço para adotar uma abordagem mais ampla para a segurança. Filtramos uma lista de palavras potencialmente ofensivas, hashtags e emojis por padrão, mesmo que não violem nossas regras.
Nos últimos anos, melhoramos as opções de revisão de solicitações de conversa, e recentemente construímos controles de entrega que permitem que as pessoas escolham quem pode enviar mensagens para sua lista de conversas, quem vai para a pasta de solicitações e quem não pode contatá-los. Para ajudar as pessoas a analisar essas solicitações da maneira mais segura possível, desfocamos imagens e vídeos, bloqueamos links e permitimos que as pessoas excluam solicitações de bate-papo em massa.
As pessoas já podem bloquear contatos indesejados no Messenger, por isso estamos introduzindo a capacidade de bloquear contatos indesejados facilmente nas DMs do Instagram e no Messenger. Estamos tornando mais fácil bloquear contatos de estranhos, um recurso que é ativado por padrão para qualquer usuário que identificamos como um menor em potencial.
Respondendo a Potenciais Danos
A denúncia é uma ferramenta essencial para as pessoas ficarem seguras, e nos ajudam a responder ao abuso de forma eficaz. Estamos tornando muito mais fácil relatar danos e educar as pessoas sobre como identificar golpistas e falsificadores, redesenhando nosso recurso de relatório para ficar mais proeminente no Messenger. Recentemente, também facilitamos a denúncia de conteúdo que violem nossas políticas de exploração infantil. As pessoas podem selecionar “envolve uma criança” como uma opção ao relatar o caso, o que, além de outros fatores, prioriza o relato para revisão e ação. Nosso objetivo é incentivar significativamente mais denúncias, tornando-as mais acessíveis, especialmente entre os jovens. Como resultado, estamos observando um crescimento de quase 50% ano após ano em relatórios, e estamos tomando medidas para manter as DMs do Messenger e Instagram seguras.
Continuaremos a aplicar nossos Padrões da Comunidade em DMs do Instagram e no Messenger, com criptografia de ponta a ponta. A denúncia descriptografa partes da conversa que estavam criptografadas anteriormente e indisponíveis para nós, para que possamos tomar medidas imediatas se as violações forem detectadas – sejam elas golpes, intimidações, assédios ou crimes violentos. Em casos de exploração infantil, continuaremos reportando essas contas ao NCMEC. Quer a violação seja encontrada por meio de partes não criptografadas de nossa plataforma ou por denúncias de usuários, podemos compartilhar dados como informações da conta, atividade da conta e conteúdo da caixa de entrada de mensagens relatadas pelo usuário para conformidade com nossos Termos de Serviço e Padrões da Comunidade .
Também queremos educar mais pessoas para agirem se virem algo e evitar o compartilhamento de conteúdo prejudicial, mesmo que por indignação. Começamos a enviar alertas informando as pessoas sobre os danos que o compartilhamento de conteúdo de exploração infantil, mesmo que por indignação, pode causar, alertando-as de que isso é contra nossas políticas e que o ato terá consequências legais. Continuaremos a compartilhar esses alertas em um ambiente criptografado, de ponta a ponta, além de relatar esse conteúdo ao NCMEC. Também lançamos uma campanha global “Denuncie, não compartilhe”, lembrando as pessoas sobre os danos causados pelo compartilhamento desse conteúdo e a importância de denunciá-lo.
Mesmo no contexto de sistemas criptografados, existem dados adicionais que podemos fornecer às autoridades para investigar quando solicitados, como com quem os usuários entram em contato, onde estavam quando enviaram uma mensagem e quando a enviaram.
Evoluindo nossa abordagem com novas tecnologias e aprendizados
A prevenção de abusos em nossos aplicativos requer uma interação constante, e, por isso, revisamos regularmente nossas políticas e recursos, ouvimos os comentários de especialistas e pessoas que usam nossos aplicativos para ficar à frente das pessoas que podem não ter as melhores intenções.
Embora a construção de um espaço confiável exija contínua inovação, flexibilidade e criatividade, acreditamos que essa abordagem de prevenção, controle e resposta oferece uma estrutura para dar às pessoas a proteção de que precisam e merecem. Privacidade e segurança andam de mãos dadas, e temos o compromisso de garantir que sejam parte integrante das experiências de mensagens das pessoas.