AI는 맞춤 항목, 추천, 순위 지정과 같은 백엔드 서비스의 원동력으로, Meta의 제품과 서비스를 사용하는 모든 사람들이 원활하고 맞춤화된 경험을 할 수 있도록 지원합니다. 그러나 AI가 어떻게 작동하고 왜 작동하는지는 일반적인 사용자가 이해하기 어렵습니다. 저희는 그 부분에 도움을 드리고자 합니다.
Meta는 AI로 제품 경험이 어떻게 만들어지는지 이해하는 데 도움이 되는 도구와 리소스로 사람들에게 지식을 제공하는 것이 중요하다고 생각합니다. 그래서 책임감 있는 AI를 위한 Meta의 다섯 가지 기준 중 하나로 투명성 및 관리 권한을 선정한 것입니다. Meta에서 더 많은 설명을 제공하는 데 사용하려고 하는 한 가지 방법은 모델과 시스템 문서를 사용하는 것입니다. 오늘 Meta는 프로토타입 AI 시스템 카드 도구를 통해 이 여정의 다음 단계를 공유합니다. 시스템 카드는 AI 시스템의 기반 아키텍처에 대한 인사이트를 제공하고 AI의 작동 방식을 더 효과적으로 설명하기 위해 설계되었습니다.
처음 선보이는 이 AI 시스템 카드에서는 AI 시스템을 구성하는 AI 모델을 소개하며 이런 시스템이 개인의 사용 내역과 기본 설정, 설정 등에 따라 어떻게 작동하는지 더 깊이 이해할 수 있도록 도와줍니다. Meta에서 개발하고 앞으로 계속해서 테스트할 파일럿 시스템 카드는 Instagram 피드 순위 지정을 주제로 합니다. Instagram 피드 순위 지정은 사용자가 팔로우하는 계정의 게시물 중에서 아직 보지 않은 게시물의 순위를 사용자의 관심사에 따라 지정하는 프로세스입니다.
AI를 더 이해하기 쉽게 하는 새로운 도구 개발
AI를 더 이해하기 쉽게 만드는 일은 여러 업계와 분야가 대화를 나눠야 할 일입니다. 기업과 규제기관, 학계에서 모두 평범한 사람들에게 AI 지식을 제공할 수 있는 다양한 형태의 지침과 프레임워크를 통해 AI의 작동 방식을 더 효과적으로 설명하는 방법을 테스트하고 있습니다.
AI 시스템은 복잡하기 때문에 계속해서 사람들의 투명성에 대한 필요와 간단한 설명에 대한 요구를 충족하는 문서를 개발하는 일은 중요하면서도 어려운 일입니다. 따라서 데이터 시트, 모델 카드, 시스템 카드 및 팩트 시트는 각기 다른 사람들을 대상으로 합니다. 시스템 카드를 전문가와 비전문가 모두가 이해할 수 있기를 바라며, Meta에서 AI 시스템의 인간 인터페이스에 대한 매우 복잡한 세계를 반복적이고 확장 가능하며 심층적으로 보여 드릴 수 있기를 바랍니다. 기술적으로 정확하고, Meta의 스케일로 작동하는 AI 시스템의 뉘앙스를 잡아낼 수 있으며, Meta의 기술을 사용하는 평범한 사람이 쉽게 이해할 수 있는 프레임워크를 제공하는 일은 Meta가 속한 분야에서 계속해서 최첨단의 경계를 확장하고 있는 상황에서 세심한 균형이 필요한 일입니다.
이번 AI 시스템 카드 출시와 지속적인 탐구를 바탕으로 Meta는 쉽게 이해할 수 있는 외부 도구를 통해 AI 시스템의 어떤 요소를 논의해야 하는지, 어떤 시점에 개입해야 하는지, 누구와 논의해야 하는지에 대해 초석을 다지고 계속해서 반복할 수 있기를 바랍니다.
시스템 카드, 첫 발걸음
많은 머신 러닝(ML) 모델은 일반적으로 더 큰 AI 시스템, ML 모델의 그룹, 함께 사용하여 특정 과제를 달성하는 AI 및 비AI 기술의 일부입니다. ML 모델이 늘 독립적으로 결과를 만들어내는 것은 아니며 모델이 어떤 시스템에 속해 있는지에 따라 다르게 상호작용할 수 있기 때문에 모델 카드(모델 문서의 일반적으로 수용되는 표준)는 AI 시스템이 무슨 일을 하는지 거시적인 그림을 그리지 못합니다. 예를 들어, Meta의 이미지 분류 모델은 모두 주어진 이미지에 무엇이 있는지 예측하기 위해 설계되었지만 유해한 콘텐츠를 플래그하는 무결성 시스템과 사람들에게 관심 있을 만한 게시물을 보여주는 데 사용되는 추천 시스템에서 각기 다르게 사용될 수 있습니다.
미국과 해외의 외부 전문가와 상의한 끝에 Meta의 책임감 있는 AI(RAI) 팀에서는 시스템 카드를 일회성 모델이 아니라 하나의 AI 시스템을 전체적으로 바라보는 초기 접근법으로 선정했습니다. 팀이 상의한 당사자들의 피드백은 이 접근법을 확고히 하는 데 도움이 되었습니다. 그들이 모델의 출력이 더 광범위한 제품에서 어떻게 사용되는지 또는 다른 모델로 어떻게 다운스트림되는지, 어떤 정책 행동이 그 사용의 결과인지, 특정 AI 기반 제품 또는 서비스를 사용하는 사람들에게 어떤 영향을 미치는지 이해하는 것이 중요하다는 점을 강조했기 때문입니다.
Instagram 피드 순위 지정 파일럿
Instagram의 자산 팀에서 출시한 파일럿 프로젝트 시스템 카드는 이전에 도입하여 시간이 흐르면서 Meta 전반의 수준까지 확장된 모델 카드를 기반으로 합니다. 이 워크스트림의 초기 원동력이 된 Instagram의 모델은 Meta의 시스템이 실제로 어떻게 작동하는지 예시를 들 수 있도록 잘 문서화된 케이스를 제공했습니다. 그 결과 지금 AI 시스템 카드를 출시할 수 있게 되었고 AI 피드 순위 지정 시스템이 동적으로 작동하여 맞춤화된 경험을 제공하는 방법을 이해할 수 있게 해주었습니다.
시스템 카드의 한계와 계속되는 반복
시스템 카드는 AI 시스템이 어떻게 작동하는지 이해하기 쉬운 형식으로 설명하지만 한계가 없는 것은 아닙니다. Meta에서 이 작업을 이어갈 때 한계라고 생각되는 부분은 다음과 같습니다.
AI 시스템은 계속해서 학습하고 진화하므로 시스템 카드는 모든 내용을 포함하지 않습니다.
AI 시스템은 계속해서 학습하고 변화하도록 설계되었으므로 지속적인 업데이트가 필요합니다. Meta의 많은 시스템은 AI만으로 이루어지지 않고 사람도 개입합니다. 그렇지만 Meta에서는 새로운 경험을 계속해서 테스트하기 때문에 하나의 시스템 카드를 보는 사람에 따라 관련성의 정도가 다를 수 있습니다. 이 한계를 해소하는 한 가지 방법으로 시스템 카드가 마지막으로 업데이트된 시점을 알려주는 타임스탬프를 고려할 예정입니다.
기술 정보는 단순화하기가 어려울 수 있으며 상황이 실시간으로 변합니다.
Meta의 모델은 진공 상태에 존재하지 않으며 Meta가 계속해서 시스템의 작동 방식에 대해 더 높은 투명성을 제공함에 따라 모델이 계속해서 진화합니다. Meta의 목표는 성공 방법에 관한 가이드북을 제시하거나 플랫폼의 규칙을 설명하기보다는 시스템이 인식하고 추천하는 원칙을 더 이해하기 쉽게 하는 것입니다. 아주 기술적인 정보의 정확도를 유지하면서 널리 이해할 수 있는 일반적인 용어로 옮기는 일은 쉽지 않습니다. 한 단어 또는 한 문구만 추가하거나 삭제해도 기술적인 설명이 정확하지 않거나 쓸모가 없어집니다. Meta의 전 세계적인 스케일 때문에 언어 장벽과 번역을 고려해야 하며, 단순하게 설명했을 때 기술 용어나 코드의 의미 차이도 고려해야 합니다.
의도치 않은 결과를 고려해야 합니다.
Meta 시스템의 기술은 여전히 사람이 움직입니다. 그리고 시스템을 최대한 공정하게 만들기 위해 계속해서 부지런히 모든 조치를 취해야 합니다. Instagram에서 모델 카드를 소개할 때 주된 목표는 커뮤니티에 영향을 미치기 전에 팀에서 출시하는 제품이나 서비스의 의도치 않은 결과에 대해 생각해 보도록 확인 사항을 제공하는 것이었습니다.
투명성과 보안은 때로 팽팽하게 대립할 수 있습니다.
특정 AI 시스템의 작동 방식을 그대로 보여주면 시스템의 보안이 취약해지거나 악의적인 공격에 노출될 수 있으므로 Meta의 제품을 사용하는 사람에게 피해를 입히는 결과를 낳을 수 있습니다. 일부 시스템 카드의 너무 많은 정보로 인해 악의적인 사용자가 시스템이나 모델을 리버스 엔지니어링하기에 충분한 지식을 얻을 수 있지만 Meta에서는 사용자에게 Meta의 AI 시스템 작동 방식에 관해 교육하는 것이 중요하다고 생각하며 투명성의 적절한 균형을 찾기 위해 노력하고 있습니다.
다음 단계는 무엇일까요? Meta AI 투명성의 미래
시스템 카드는 사람들이 Meta 스케일의 AI 투명성이 무엇인지 이해하도록 돕는 여정에 중요한 단계입니다. 업계가 진화하고 모델 문서와 투명성에 관한 논의가 계속되는 상황에서 Meta는 제품 변경 사항과 진화하는 업계 표준, AI 투명성에 대한 기대치를 반영할 수 있도록 앞으로 계속해서 Meta의 접근법을 수행하고 반복하기 위한 다른 파일럿을 찾아낼 것입니다.
시스템 카드 개발의 기반이 된 해당 연구에 대한 자세한 사항은 기술 문서에서 확인 수 있습니다.