Meta

AI 생성 콘텐츠 및 가공된 미디어를 표시하는 Meta의 접근 방식

모니카 비커트, 콘텐츠 정책 담당 부사장

주요 내용

2024년 9월 12일 오전 7시 30분(태평양 표준시)에 업데이트됨:

Meta가 AI 기술이 콘텐츠에 어느 정도 적용되었는지 더 잘 반영할 수 있도록 플랫폼 내 ‘AI 정보(AI info)’ 라벨 표기 방식을 변경할 예정입니다. Meta는 사람들이 AI로 만들어진 콘텐츠를 볼 때, 해당 콘텐츠가 AI로 생성되었음을 잘 알 수 있기를 바랍니다. 따라서, Meta 플랫폼 내 라벨 표기 방식이 사람들의 기대에 더 부합하도록 기업 및 업계 전반과 지속적으로 협력하며, 라벨링 접근 방식을 개선해왔습니다.

AI 도구로 수정 및 편집됐다고 감지된 콘텐츠의 경우, ‘AI 정보’ 라벨은 게시물 메뉴에서 확인할 수 있습니다. AI 도구로 생성됐다고 감지된 콘텐츠에 대해서는 ‘AI 정보’ 라벨이 기존과 동일하게 표시되며, 그것이 업계 표준 지표에 의한 것인지, 혹은 AI로 생성되었음을 이용자 본인이 공개했기 때문인지에 대한 추가적인 맥락이 제공됩니다. 이러한 변경 사항은 다음 주부터 적용됩니다.



2024년 7월 1일 오전 7시(태평양 표준시)에 업데이트됨:

Meta는 사람들이 AI로 만들어진 게시물을 봤을때 해당 게시물이 AI로 생성되었음을 알 수 있기를 바랍니다. 이에 올해 초, AI 생성 콘텐츠에 라벨을 표시하는 새로운 접근 방식을 발표했습니다. 이는 다른 기업들이 자사 도구를 활용해 생성된 AI 콘텐츠에 적용하는 업계 표준 지표를 바탕으로 하며, 이러한 방식은 AI를 활용해 콘텐츠가 생성되었는지 여부를 식별하는 데 도움이 됩니다.

다만, 다른 기업들과 마찬가지로, Meta는 이러한 표준 지표를 기준으로 추가한 라벨이 사람들의 기대를 매번 충족하지 않을 뿐더러, 충분한 맥락도 제공하지 못하는 경우가 많다는 것을 알게 되었습니다. 일례로, 기존에는 리터칭 도구와 같은 AI 기술을 통해 가볍게 수정된 콘텐츠에도 업계 표준 지표가 적용되어 ‘AI로 제작됨(Made with AI)’ 라벨이 표시되었습니다. Meta는 라벨을 지정하는 방식이 우리 의도와 잘 부합하도록 업계 여러 기업과 협력하고 있습니다. 그 일환으로, 사람들이 AI 관련 콘텐츠에 대한 더 자세한 정보를 확인할 수 있도록 ‘AI로 제작됨(Made with AI)’ 라벨을 ‘AI 정보(AI info)’로 업데이트합니다.


Meta는 Facebook, Instagram 및 Threads에서 가공된 미디어를 처리하는 방식에 변화를 주고 있습니다. 이는 현존하는 폭넓은 콘텐츠를 반영하고, 라벨을 통해 콘텐츠에 대한 추가적인 맥락을 제공해야 한다는 감독위원회의 피드백을 바탕으로 내린 결정입니다. 그리고 이 결정은 여론 조사, 학계, 시민사회단체 및 기타 전문가와의 협의 과정을 포함한 Meta의 정책 검토 과정을 거쳐 이루어졌습니다.

Meta는 기존의 접근 방식이 너무 제한적이라는 감독위원회의 주장에 동의합니다. 기존의 접근 방식은 말하지 않은 것을 AI를 통해 실제로 말한 것처럼 보이게 만들어지거나 변형된 동영상만을 다루고 있습니다. 왜냐하면 정책이 작성된 2020년에는 현실에 가까운 AI 생성 콘텐츠가 드물었고, 여러 콘텐츠 종류 중 비디오에 대한 우려가 컸기 때문입니다. 하지만 지난 4년, 특히 작년 한 해 동안 오디오와 사진 등 다양한 종류의 AI 생성 콘텐츠가 실제와 가깝게 제작되었고, 이 기술은 지금도 빠르게 발전하고 있습니다. 앞서 감독위원회가 언급했듯, 사람이 하지 않은 일을 실제로 하는 것처럼 보이게 만드는 조작에 대응하는 것도 물론 중요한 문제입니다.

또한 감독위원회는 커뮤니티 규정을 위반하지 않는 가공된 미디어를 삭제할 경우, 표현의 자유가 불필요하게 제한될 위험이 있다고 주장하며, 라벨을 추가해 관련 정보를 제공하는 등 가공된 미디어에 대한 ‘덜 제한적인’ 접근 방식을 권장했습니다. 지난 2월, Meta는 업계 파트너들과 함께 비디오, 오디오 등 AI 콘텐츠를 식별하기 위한 공통 기술 표준을 개발 중이라고 발표한 바 있습니다. AI 생성 동영상, 오디오 및 이미지에 나타나는 ‘AI로 제작됨(Made with AI)’ 라벨은 업계에서 공유되는 AI 신호를 감지하거나, 이용자 본인이 AI 생성 콘텐츠를 업로드하고 있다고 밝히는 경우 지정됩니다. Meta는 이미 Meta AI를 활용해 만든 이미지에 ‘AI로 상상(Imagined with AI)’ 라벨을 표시하고 있습니다.

Meta는 투명한 정보와 추가적인 맥락을 제공하는 것이 이러한 콘텐츠를 다루는 더 나은 방법이라는 의견에 동의합니다. 라벨은 감독위원회가 라벨을 붙이도록 권장한 콘텐츠 외, 더 넓은 범위의 가공된 콘텐츠를 포함할 것입니다. 어떤 중요한 사안에 대해 디지털 방식으로 제작되거나 수정된 이미지, 동영상 및 오디오가 대중을 속일 위험이 높다고 판단되는 경우, Meta는 사람들에게 더 많은 정보와 맥락을 제공하기 위해 보다 눈에 잘 띄는 라벨을 추가할 수 있습니다. 이러한 접근 방식은 사람들이 콘텐츠에 대한 상세한 정보를 얻을 수 있도록 하며, 이들이 콘텐츠를 더욱 잘 평가하고, 다른 곳에서 동일한 콘텐츠를 봤을 때 맥락을 잘 이해할 수 있도록 돕습니다.

정책을 위반하지 않는 한, Meta가 정보와 맥락을 파악할 수 있는 라벨을 추가할 수 있도록 해당 콘텐츠는 플랫폼에 유지됩니다. 예를 들어, 유권자 간섭, 사이버불링, 폭력, 선동, 또는 기타 커뮤니티 규정을 명백히 위반하는 콘텐츠는 AI나 사람이 만든 것인지 여부에 관계없이 삭제됩니다. Meta는 100여 명의 독립적인 팩트체커로 구성된 네트워크를 통해 허위 및 오해의 소지가 있는 AI 생성 콘텐츠를 지속적으로 검토하고 있습니다. 팩트 체크 파트너가 특정 콘텐츠를 거짓, 조작됨으로 평가하는 경우, 더 적은 사람에게 노출되도록 Feed상 배포 범위가 줄고, 해당 콘텐츠에는 관련 정보가 포함된 오버레이 라벨이 추가됩니다. 또한, 거짓 정보가 포함된 광고는 거부되며, 1월부터는 정치 및 사회적 이슈와 관련된 광고가 디지털 방식으로 제작 혹은 편집되었을 경우, 광고주는 이 사실을 공개해야 합니다.

Meta는 2024년 5월부터 일반 게시물(organic)의 AI 생성 콘텐츠에 라벨을 지정하기 시작했으며, 7월부터는 가공된 미디어 정책에 기반한 콘텐츠 삭제를 중단할 계획입니다. 이 타임라인은 콘텐츠 삭제 중단 조치를 시행하기 전, 광고주들에게 자체 공개 절차를 이해할 수 있는 충분한 시간을 제공합니다.


글로벌 전문가와 대중 설문조사를 통한 정책 수립

2023년 봄, 저희는 빠르게 발전하고 있는 생성형 AI 기술, 그리고 이를 사용하는 데 새로운 접근 방식이 필요한지 알아보기 위해 관련 정책을 재검토하기 시작했습니다. 그리고 전 세계 34개국 주요 지역 내 120명 이상의 이해관계자와의 협의를 완료했습니다. 전반적으로 AI 생성 콘텐츠에 라벨을 붙이는 것, 특히 허위, 조작 등 위험성이 있는 콘텐츠에는 보다 눈에 띄는 라벨을 붙이는 것을 강력히 지지했습니다. 대부분의 이해관계자들은 이용자 본인이 직접 AI 생성 콘텐츠 여부를 밝히는 것에 대해 수용적이었습니다.

생성형 AI가 창의적인 표현을 위한 도구로 많이 쓰이고 있는 만큼, 대부분의 이해관계자들은 콘텐츠 삭제 조치는 잠재적 유해성이 높은 콘텐츠로 제한되어야 한다는 데 동의했습니다. 이는 이용자들이 자유롭게 자신을 표현하는 동시에 안전하게 서비스를 이용할 수 있어야 한다는 Meta 커뮤니티 규정과도 일치합니다.

또한, Meta와 같은 소셜 미디어 기업이 AI 생성 콘텐츠에 어떻게 접근해야 하는지 13개국 23,000명 이상의 응답자를 대상으로 설문 조사를 실시했습니다. 그 결과, 대다수(82%)가 말하지 않은 사항에 대해 말한 것처럼 묘사하는 AI 생성 콘텐츠에 주의 라벨을 붙이는 것에 찬성했습니다.

한편, 감독위원회는 시민사회단체, 학계, 정부 간 조직 및 기타 전문가와의 협의를 통해 이번 권고안을 마련했다고 밝혔습니다.

Meta는 감독위원회, 전문가 및 대중의 피드백을 바탕으로 플랫폼에 적합하다고 생각되는 조치를 취하고 있습니다. AI를 사용하여 생성되거나 편집된 이미지를 사람들이 보다 쉽게 파악할 수 있도록 Partnership on AI(PAI)와 같은 포럼을 통해 업계 동료들과 지속적으로 협력하고, 정부 및 시민 사회와 대화를 이어갈 것이며, 추후에도 기술 발전의 방향에 따라 우리의 접근 방식을 지속 검토할 것입니다.