A inteligência artificial (IA) está presente em vários serviços de back-end, como a personalização, as recomendações e as classificações, que ajudam a oferecer uma experiência integrada e customizável para os usuários de nossos produtos e serviços. Mesmo assim, para os usuários e o público em geral, pode ser difícil entender como ela funciona e por que é usada. Queremos mudar isso.
Na Meta, acreditamos que é importante oferecer ferramentas e recursos que ajudem as pessoas a entenderem como a IA molda sua experiência de produto. Por isso, definimos “Transparência e Controle” como um de nossos cinco pilares do uso responsável da IA. Uma das maneiras de fazer isso é disponibilizando ao público a documentação dos modelos e sistemas. Hoje, estamos apresentando a próxima etapa dessa jornada por meio da publicação do protótipo de uma ferramenta de cartões de sistema de IA [link], desenvolvida para fornecer insights da arquitetura base desse sistema e explicar com mais clareza como a IA funciona.
Esse cartão descreve os modelos de um sistema de IA e pode ajudar as pessoas a entender melhor como o sistema usa o histórico, as preferências e as configurações de um usuário, entre outros elementos, para operar. O cartão de sistema piloto que desenvolvemos, ainda em fase de testes, é destinado à classificação do Feed do Instagram. O processo consiste em identificar as publicações ainda não visualizadas das contas que uma pessoa está seguindo e classificá-las com base na probabilidade de interesse do usuário.
Desenvolvendo novas ferramentas para explicar melhor a IA
Facilitar o entendimento dos mecanismos de IA é uma tarefa interdisciplinar e que envolve diversos setores. Empresas, acadêmicos e órgãos reguladores estão testando formas de explicar melhor como a IA funciona usando diversos tipos de orientações e estruturas para oferecer mais informações para o público em geral.
Como os sistemas de IA são complexos, criar uma documentação que explique de maneira simples e transparente como eles funcionam é uma tarefa importante, mas também desafiadora. Sendo assim, as folhas de dados, os cartões de modelos, os cartões de sistema e as fichas técnicas têm públicos diferentes. Esperamos que os cartões de sistema sejam entendidos tanto pelo público em geral quanto por especialistas e que apresentem uma visão única e aprofundada do mundo complexo dos sistemas de IA para uma interface humana e de modo consistente e dimensionável para a Meta. Oferecer uma estrutura tecnicamente precisa, capaz de capturar as nuances de como os sistemas de IA operam em escala na Meta e que seja compreendida facilmente pelas pessoas que usam nossas tecnologias exige um ajuste fino, principalmente porque estamos na vanguarda do setor.
Com o lançamento desse cartão de sistema de IA e nossas pesquisas constantes, esperamos criar uma base e iterar continuamente quais elementos do sistema de IA devem ser discutidos, em quais pontos de intervenção e com quais públicos, usando ferramentas externas simples e acessíveis.
Cartões de sistema como a etapa inicial
Vários modelos de aprendizado de máquina (ML, na sigla em inglês) geralmente fazem parte de um sistema de IA mais abrangente: um grupo de modelos de ML, tecnologias com e sem IA que operam juntas para executar tarefas específicas. Como os modelos de ML nem sempre trabalham isoladamente para gerar resultados e os modelos podem interagir de maneiras diferentes dependendo dos sistemas de que fazem parte, os cartões de modelos (um padrão amplamente aceito para documentação de modelos) não explicam tudo o que um sistema de IA faz. Por exemplo, embora nossos modelos de classificação de imagem sejam desenvolvidos para prever os elementos em uma determinada imagem, eles podem ser usados de forma diferente em um sistema de integridade que sinaliza conteúdo prejudicial em comparação a um sistema de recomendações que mostra publicações relevantes para um público específico.
Depois de consultar especialistas externos nos Estados Unidos e em outros países, a equipe de IA responsável (RAI) da Meta escolheu os cartões de sistema como a abordagem inicial para analisar holisticamente um sistema de IA em vez de usar modelos individualizados. O feedback que a equipe recebeu dos especialistas ajudou a consolidar essa abordagem porque mostrou a importância de entender como os resultados gerados por um modelo são usados em um produto maior ou enviados para outros modelos, bem como quais ações de políticas são ocasionadas pelo uso deles e o impacto que eles têm nas pessoas que usam um determinado produto ou serviço com IA.
Piloto de classificação do Feed do Instagram
O cartão de sistema do projeto piloto para o Feed do Instagram é baseado em nosso trabalho anterior para criação de cartões de modelo, os quais introduzimos aos nossos times de Instagram para que a criação de todo novo modelo de aprendizado de máquina (ML) mantivesse a equidade em mente. No blog post “Explicando melhor o funcionamento do Instagram“, publicado em junho do ano passado por Adam Mosseri, falamos sobre o conceito de inteligência artificial, e agora trazemos o cartão de sistema de IA para mostrar como a classificação de IA do Feed funciona de forma dinâmica para oferecer uma experiência personalizada.
Limitações e iteração contínua dos cartões de sistema
Embora os cartões de sistema ajudem a explicar de modo simples como um sistema de IA funciona, eles também têm algumas limitações. Listamos algumas limitações que encontramos à medida que avançamos com o trabalho:
Os cartões de sistema não são definitivos porque os sistemas de IA aprendem e evoluem o tempo todo.
Os sistemas de IA são projetados para aprender e mudar constantemente, exigindo atualizações contínuas. Na Meta, muitos dos nossos sistemas não operam apenas com IA, mas também com pessoas. Ainda assim, um único cartão de sistema talvez não tenha a mesma importância para cada pessoa que o vê, pois continuamos testando novas experiências para nossos usuários. Usar registros de data e hora que indicam quando um cartão de sistema foi atualizado pela última vez pode ajudar e é uma opção que vamos avaliar.
Informações técnicas podem ser difíceis de simplificar e o cenário muda em tempo real
Nossos modelos não ficam isolados e, apesar de continuarmos oferecendo mais transparência sobre o funcionamento deles, estão sempre evoluindo. Queremos facilitar a compreensão dos princípios que definem o que nossos sistemas reconhecem e recomendam, e não apenas oferecer um manual de como ter sucesso ou com as regras da plataforma. Apresentar informações extremamente técnicas em termos gerais que podem ser entendidos por qualquer pessoa e com a precisão necessária é um desafio. Incluir ou excluir uma única palavra ou frase pode comprometer ou até invalidar a explicação técnica. Devido à dimensão global da Meta, também precisamos levar em conta as barreiras idiomáticas e a tradução, além das diferenças de significado que um termo técnico ou código pode ter quando é explicado de maneira mais simples.
É necessário considerar consequências imprevistas
A tecnologia dos nossos sistemas ainda é criada por pessoas, e precisamos continuar garantindo que tudo está sendo feito para que os sistemas tenham a maior eficiência possível. No lançamento dos cartões de modelos do Instagram, o objetivo principal era oferecer um conjunto específico de verificações ao longo do processo, garantindo que as equipes ficassem atentas às consequências imprevistas dos lançamentos antes que elas afetassem a comunidade.
Transparência e segurança podem colidir em alguns casos
Revelar todo o funcionamento de determinados sistemas de IA pode comprometer a segurança dos sistemas ou deixar um modelo vulnerável a ataques da concorrência, possivelmente afetando quem usa nossos produtos. Disponibilizar informações demais em alguns de nossos cartões de sistema poderia dar a pessoas mal-intencionadas um conhecimento sobre um sistema ou modelo que permitisse realizar a engenharia reversa dele, mas acreditamos que é importante informar os usuários sobre como nossos sistemas de IA funcionam. Por isso, queremos encontrar a medida certa da transparência.
Qual é o próximo passo? O futuro da transparência da IA na Meta
Os cartões de sistema são um passo importante para ajudar as pessoas a entender como é a transparência da IA em escala na Meta. À medida que o setor se desenvolve e as discussões sobre a documentação e a transparência dos modelos avançam, vamos identificando outros pilotos para testar e iterar com a nossa abordagem. Assim, podemos refletir as mudanças do produto, a evolução dos padrões do setor e as expectativas em relação à transparência da IA.