Facebook에는 매일같이 수백만 개의 사진과 영상이 공유되며 창의적이고 흥미로운 콘텐츠를 구성합니다. 이들 일부는 화질 개선이나 음질 향상 등의 순수한 목적으로 수정이 된 것이기도 합니다. 그러나 어떤 이들은 사실을 잘못된 방향으로 오도하기 위해 의도적으로 조작을 하기도 합니다.
이러한 조작은 포토샵과 같은 간단한 기술로 이루어지는 경우가 있는 반면, 인공지능(AI)이나 “딥러닝”기술을 활용한 정교한 도구를 거쳐 현실을 왜곡하기도 합니다. 이렇게 조작된 것은 주로 “딥페이크”라고 알려져 있습니다. 아직 인터넷 상에서 이런 영상이 흔한 것은 아니지만, 해당 기술의 사용이 증가함에 따라 관련 산업과 사회 전체에 심각한 과제로 떠오르고 있습니다.
오늘은 저희가 이러한 딥페이크를 포함한 모든 종류의 조작된 미디어를 어떻게 다루고 있는지 설명드리고자 합니다. AI로 제작된 콘텐츠와 가짜 계정과 같이 이용자를 기만하는 행위를 조사하거나, 그러한 행위의 배후에 있는 사람들을 고발하기 위한 정부 각처와 관련 학계 및 업계 와의 협력 등 다양한 접근법으로 구성돼 있습니다.
핵심은 협업입니다. Facebook은 현재 전 세계적으로 기술, 정책, 언론, 법률, 시민 사회, 학술 등 다양한 분야에 종사하는 50명 이상의 글로벌 전문가들과의 대화를 주도하며 Facebook의 정책 개발현황을 알리고, 조작된 미디어를 탐지하는 기술을 향상시키는데 주력하고 있습니다.
저희는 이러한 협력과 논의를 통해 딥페이크로 확인된 허위 조작 영상에 대한 정책을 강화하고 있습니다. 더 나아가, 오해의 소지가 다분한 조작된 미디어가 다음과 같은 기준에 부합하면 삭제 조치할 것입니다:
- 선명도 개선이나 품질향상을 위한 조정을 넘어, 일반인이 알아차리지 못할 방법으로 편집이나 합성이 이뤄져서, 영상의 대상이 실제로 하지 않은 말을 마치 한 것처럼 시청자에게 오해를 불러 일으킬만한 경우.
- AI 기술이나 머신러닝을 통해 영상에 콘텐츠를 병합, 대체 또는 추가하여 실제처럼 보이도록 조작한 결과물일 경우.
이 정책은 패러디나 풍자, 또는 오로지 단어를 생략하거나 그 순서를 변경하기 위해 편집한 영상에는 적용되지 않습니다.
기존의 정책과 일관되게 나체, 폭력적이고 자극적인 콘텐츠, 유권자 억압 및 혐오발언 관리 규정을 포함한 모든 커뮤니티 규정을 위반하는 음성, 이미지 또는 영상은 그것이 딥페이크로 생성되었는지 여부와는 관계없이 삭제됩니다.
삭제 기준에 부합하지 않는 영상이라도, 전 세계 40개 이상의 언어로 사실 확인을 진행하는 50개가 넘는 독립적인 팩트체크 기관 파트너 중 하나에 의해 검토를 받을 수 있습니다. 이러한 기관에 의해 이미지 또는 영상의 전체 혹은 일부가 허위로 판명될 경우, Facebook은 해당 콘텐츠의 뉴스 피드 노출을 줄이고, 광고로 사용되고 있다면 허가를 취소합니다. 무엇보다도, 해당 콘텐츠를 보거나, 공유하려고 하거나 이미 공유한 경우, 콘텐츠가 허위라는 경고 문구가 함께 노출되도록 조치합니다.
이러한 접근법은 Facebook의 전략에 핵심이 되는 조치이며, 전문가와의 논의에서 구체적으로 전해 들은 방식이기도 합니다. 만일 팩트체크 기관에 의해 허위로 판명된 조작 영상을 단순히 Facebook에서 삭제하는 데 그친다면, 해당 영상은 인터넷이나 다른 소셜 미디어 생태계 어딘가에서 여전히 노출될 것입니다. 저희는 영상을 삭제하지 않는 대신, 내용이 거짓임을 명확히 알리는 경고를 함께 게재하여 사람들에게 중요한 정보와 맥락을 제공하고 있습니다.
오해를 불러일으키는 조작된 미디어를 상대로 한 Facebook의 단속 전략은 그 배후에 있는 사람들을 근절하려는 노력과 함께 합니다. 바로 지난달, Facebook은 가짜 계정임을 감추기 위해 AI 기술로 만들어진 이미지를 사용한 일당을 적발해 삭제 조치했습니다. 저희는 지속적으로 가짜 계정과 같은 대규모 조작행위를 적극적으로 단속해 나아갈 것입니다.
Facebook은 또한 조작된 콘텐츠 식별 기술에도 힘쓰고 있습니다. 그 중 가장 탐지하기 까다로운 것은 딥페이크 기술을 사용한 조작 콘텐츠입니다. 그래서 지난 9월, 저희는 딥페이크 탐지 챌린지를 시작해 전세계에서 딥페이크 탐지 연구와 오픈 소스 툴 생산을 촉진하고 있습니다. 1,000만 달러의 보조금이 지원되는 이 프로젝트는 시민 사회와 기술, 언론, 학문 커뮤니티에서 인공지능 파트너십, 코넬, 버클리 대학, MIT, WITNESS, 마이크로소프트, BBC와 아마존 웹 서비스 등 분야를 막론한 여러 기관의 협력을 통해 진행됩니다.
이와는 별개로, 저희는 세계 최대의 멀티미디어 뉴스 제공업체인 로이터와 협력하여 전 세계 뉴스기관이 무료 온라인 교육 과정을 통해 딥페이크와 조작된 미디어를 식별할 수 있도록 돕고 있습니다. 뉴스에 사용하는 많은 양의 이미지와 영상 자료 조달에 대한 언론의 타사 의존도가 점점 더 증가하고 있기 때문에, 조작된 시각 자료를 식별하는 것은 매우 중대한 과제입니다. 이 프로그램은 언론의 이러한 식별 작업을 지원하는 것을 목표로 하고 있습니다.
이러한 파트너십과 Facebook의 통찰력이 진화하면서, 조작된 매체에 대한 Facebook의 정책도 함께 진화할 것입니다. 그동안 Facebook은 관련된 내부투자를 아끼지 않을 것이며, 이 분야의 다른 이해관계자들과 협력하여 실질적인 영향을 미칠 수 있는 해결책을 찾는 데 전념하겠습니다.