- Estamos desativando o sistema de reconhecimento facial no Facebook. As pessoas que optaram por utilizá-lo não serão mais reconhecidas automaticamente em fotos e vídeos, e excluiremos o modelo individual de reconhecimento facial de mais de um bilhão de pessoas.
- Essa alteração também impactará no Texto Alternativo Automático (AAT), que cria descrições de imagens para cegos e deficientes visuais. Após essa alteração, as descrições do AAT não incluirão mais os nomes de pessoas reconhecidas nas fotos, mas funcionarão normalmente.
- É preciso pesar os casos nos quais o uso do reconhecimento facial é positivo com as crescentes preocupações da sociedade, especialmente porque os reguladores ainda precisam fornecer regras claras sobre o assunto.
Nas próximas semanas, vamos desativar o sistema de reconhecimento facial no Facebook, como parte de uma mudança implementada em toda a empresa para limitar o uso de reconhecimento facial em nossos produtos. Como parte dessa alteração, as pessoas que optaram por nossa configuração de reconhecimento facial não serão mais reconhecidas automaticamente em fotos e vídeos, e excluiremos o modelo de reconhecimento facial utilizado para identificá-las.
Esse movimento representará uma das maiores mudanças no uso do reconhecimento facial na história da tecnologia. Mais de um terço dos usuários ativos diários do Facebook optaram por nossa configuração de reconhecimento facial – e, por isso, podem ser reconhecidos – e a remoção do sistema resultará na exclusão de mais de um bilhão de modelos individuais de reconhecimento facial.
A realização dessa mudança exigiu uma análise cuidadosa, porque vimos diversos locais em que o reconhecimento facial poderia ser valorizado por pessoas que usam plataformas digitais. Por exemplo, nosso premiado sistema de texto alternativo automático, que usa inteligência artificial avançada para gerar descrições de imagens para cegos e deficientes visuais, usa o sistema de reconhecimento facial para avisar quando um, ou mais, de seus amigos estão em uma imagem.
Por muitos anos, o Facebook também forneceu às pessoas a opção de serem automaticamente notificadas quando aparecessem em fotos ou vídeos postados por outras pessoas, e deu recomendações sobre quem marcar nas fotos. Esses recursos também são alimentados pelo sistema de reconhecimento facial que estamos desativando.
Olhando para o futuro, ainda vemos a tecnologia de reconhecimento facial como uma ferramenta poderosa para pessoas que precisam verificar a sua identidade ou para evitar fraudes e falsidade ideológica, por exemplo. Acreditamos que o reconhecimento facial pode ajudar em produtos como esses com privacidade, transparência e controle, para que você decida se e como seu rosto será usado. Continuaremos trabalhando nessas tecnologias e envolvendo especialistas externos.
No entanto, os muitos casos específicos em que o reconhecimento facial pode ser útil precisam ser avaliados em relação às crescentes preocupações sobre o uso dessa tecnologia como um todo. Existem muitas preocupações sobre a posição da tecnologia do reconhecimento facial na sociedade, e os reguladores ainda estão no processo de fornecer um conjunto claro de regras que definam o seu uso. Em meio a essa incerteza contínua, acreditamos que o apropriado seja limitarmos o uso do reconhecimento facial a um conjunto restrito de casos.
Isso inclui serviços que ajudem as pessoas a obter acesso a uma conta bloqueada, verificar sua identidade em produtos financeiros ou desbloquear um dispositivo pessoal. Essas são as ocasiões em que o reconhecimento facial é amplamente valioso para as pessoas e socialmente aceitável, quando implementado com cautela. Enquanto continuamos trabalhando em casos como esses, vamos garantir que as pessoas tenham transparência e controle caso sejam automaticamente reconhecidas.
Mas, como a maioria dos desafios que envolvem questões sociais complexas, sabemos que essa abordagem envolve algumas escolhas difíceis. Por exemplo, a capacidade de dizer a um usuário cego, ou com deficiência visual, que a pessoa em uma foto em seu Feed de notícias é um amigo do colégio ou ex-colega é um recurso valioso que torna nossas plataformas mais acessíveis. Mas também depende de uma tecnologia subjacente que tenta avaliar os rostos em uma foto para combiná-los com aqueles mantidos em um banco de dados de pessoas que optaram por participar. As mudanças que estamos anunciando hoje envolvem amplas alterações desse tipo de identificação em toda a empresae em direção a formas mais restritas de autenticação pessoal.
O reconhecimento facial pode ser particularmente valioso quando a tecnologia opera de forma privada nos próprios dispositivos de uma pessoa. Este método de reconhecimento facial no dispositivo, que não requer comunicação de dados faciais com um servidor externo, é mais comumente implantado hoje em sistemas usados para desbloquear smartphones.
Acreditamos que essa iniciativa tem o potencial de permitir casos positivos no futuro, que mantenham a privacidade, o controle e a transparência, além de ser uma abordagem que continuaremos a explorar enquanto consideramos como nossas futuras plataformas e dispositivos de computação podem atender melhor às necessidades das pessoas. Para o futuro de tecnologias como esta, continuaremos a ser transparentes sobre o uso pretendido, sobre como as pessoas podem ter controle sobre esses sistemas e seus dados pessoais e como estamos cumprindo com a nossa estrutura de inovação responsável.
Desativar o uso do nosso sistema de reconhecimento facial em vigor significa que os serviços possibilitados por ele serão removidos nas próximas semanas, assim como a configuração que permite que as pessoas optem pelo sistema.
Isso levará a uma série de mudanças:
- Nossa tecnologia não reconhecerá mais automaticamente se os rostos das pessoas aparecerem em memórias, fotos ou vídeos.
- As pessoas não poderão mais ativar o reconhecimento facial para marcações sugeridas ou ver uma marcação sugerida com seus nomes em fotos e vídeos em que possam aparecer. Continuaremos a incentivar as pessoas a marcar manualmente em suas postagens, para facilitar que você e seus amigos saibam quem está em uma foto ou vídeo.
- Essa mudança também afetará o Texto Alternativo Automático (AAT), uma tecnologia usada para criar descrições de imagens para pessoas cegas ou com deficiência visual. O AAT atualmente identifica pessoas em cerca de 4% das fotos. Após a mudança, o AAT será capaz de identificar quantas pessoas estão em uma foto, mas não tentará mais identificar quem é quem usando o reconhecimento facial. AAT continuará a funcionar normalmente, e trabalharemos em conjunto com a comunidade de cegos e deficientes visuais em tecnologias para melhorar continuamente o AAT. Você poderá aprender mais sobre o que essas mudanças significam para as pessoas que usam AAT na página de acessibilidade do Facebook.
- Se você optou pela nossa configuração de reconhecimento facial, excluiremos o modelo usado para identificá-lo. Se a configuração de reconhecimento facial estiver desativada, não haverá nenhum modelo a ser excluído e, portanto, não terão alterações.
Cada nova tecnologia traz consigo um potencial de benefícios e de preocupações, e queremos encontrar o equilíbrio. No caso do reconhecimento facial, seu papel a longo prazo na sociedade precisa ser debatido abertamente e entre aqueles que serão mais afetados por ele. Continuaremos nos envolvendo nessa conversa e trabalhando com os grupos da sociedade civil e reguladores que estão liderando essa discussão.