Facebook과 앱패밀리에서 허위정보를 관리하는 방법

가이 로젠(Guy Rosen), Integrity 부문 부사장

아래 내용은 Morning Consult를 통해 먼저 공개되었습니다.

이번 주, 미국 하원 에너지 통상 위원회(House Energy and Commerce Committee)는 Facebook을 포함한 기술 플랫폼들이 온라인에서 허위정보를 어떻게 다루고 있는지 검토할 예정입니다. 한 가지 방법으로 다양한 허위정보의 확산을 제재할 수 있다면 좋겠지만, 이는 결코 간단히 처리할 수 있는 문제가 아닙니다. 허위정보 문제를 하나의 해결책으로 접근한다면, 문제를 보다 포괄적으로 다룰 수 없기 때문이죠. 이를 해결하려면, 가짜 계정, 기만적 행동, 이용자를 오도하는 유해콘텐츠 등 여러 가지 문제를 모두 다뤄야 합니다. 제품의 신뢰도와 일관성을 보장하는 ‘무결성’ 부문 담당자로서, 각 문제에 대한 Facebook의 접근방식과 최신 업데이트 내용을 공유 드리겠습니다.

먼저, 가짜 계정과 관련된 현황부터 살펴보겠습니다. Facebook은 가짜 계정에 강경하게 대응하기 위해 매일 수백만 개의 이러한 계정들을 차단하고 있습니다. 대부분의 가짜 계정은 생성된 시점에서 바로 차단됩니다. 2020년 10월부터 12월 사이, 저희는 13억 개 이상의 가짜 계정을 비활성화했습니다. 또한 가짜 계정을 동원해 비밀 리에 이용자에게 영향을 미치려는 국내외 계정 또한 조사 후 삭제조치합니다. 지난 3년 동안 Facebook 플랫폼에서 100여 개의 대규모 조작 행위(CIB) 네트워크를 삭제하고, 월간 CIB 보고서를 통해 이러한 노력을 알려왔습니다.

이용자를 기만하는 행위 또한 단속의 대상이 됩니다. 이에 맞서 싸우는 가장 좋은 방법 중 하나는 금전적 인센티브를 없애는 것입니다. Facebook은 담당 팀과 시스템을 구축해 다수의 클릭베이트(clickbait) 뒤에 숨어 있는 조작 행위 전략을 파악하고, 관련 조치를 취하고 있습니다. 또한, 부정 행위를 감지하고 허위 스팸 계정에 대한 정책을 시행하기 위해 인공 지능도 적극 활용하고 있습니다.

물론 사람들이 의도치 않게 허위정보를 게시하는 경우도 있습니다. 이러한 문제를 해결하기 위해 Facebook은 80여 곳의 독립적인 팩트 체킹 기관들로 구성된 글로벌 네트워크를 구축해 60여 개 언어로 콘텐츠의 사실 여부를 확인하고 있습니다. 팩트 체크 기관이 허위로 판명한 게시물의 경우, 노출을 최소화하기 위해 배포를 감소시키는 한편, 콘텐츠를 본 사람들이 이를 알 수 있도록 자세한 정보를 담은 경고 라벨도 추가하고 있습니다. 게시물에 경고 화면이 표시될 경우, 95%의 사람들이 해당 게시물을 클릭하지 않는 것으로 나타났습니다. 또한 게시물을 올린 사람에게 이러한 사실을 알리고 반복적으로 허위정보를 공유하는 페이지, 그룹 및 도메인의 노출을 감소시킵니다. 특히 코로나19와 백신에 대한 허위 주장, 투표를 억제하기 위한 콘텐츠 등 가장 심각한 유형의 허위정보를 제공하는 콘텐츠는 삭제됩니다.

저희는 지난 몇 년 동안 Facebook 커뮤니티를 보호하기 위해 투자해왔으며, 현재 35,000명이 넘는 인력이 이를 위해 노력하고 있습니다. 인공 지능(AI)을 포함한 기술과 인력에 대한 많은 투자를 바탕으로 해당 과정은 순조롭게 진척되고 있습니다. 코로나19가 시작된 이래, Facebook은 AI 시스템을 사용해 전 세계 보건 전문가들이 허위정보로 규정한 코로나19 관련 자료를 삭제해왔으며, 같은 내용을 공유하려는 행위를 감지하고 있습니다. 그 결과, 코로나19 및 백신에 대해 잘못된 정보를 전달하는 1,200만 개 이상의 콘텐츠가 삭제되었습니다.

그러나 허위정보의 노출을 제한하는 것만으로는 충분하지 않습니다. 이와 더불어, 저희는 여러 권위있는 전문가들의 신뢰할 수 있는 정보를 제공하고 있습니다. 코로나19 정보 센터, 기후 과학 정보 센터, 미국 2020 대선 정보 센터 등 관련 정보를 제공하는 통합 페이지를 활용하고, 전문가 기반의 신뢰할 수 있는 정보가 담긴 게시물에 라벨을 부착하며, Facebook 및 Instagram 이용자 피드에 공지를 띄우는 등 사람들이 올바른 정보를 접할 수 있도록 노력해 오고 있는 것들도 이의 일환입니다. 그럼에도 Facebook이 허위정보가 공유되는 것을 묵인함으로써 금전적 이익을 얻는다고 믿는 일부 이용자도 있습니다. 그러나 이는 전혀 사실이 아니며, 오히려 그 반대입니다. 저희 앱에서 허위정보를 배제시켜야 할 동기는 충분하며, 이용자 수와 이들의 참여도 감소를 무릅쓰고도 이미 많은 조치를 취해 왔습니다.

예를 들어, 2018년에는 사람들이 그들의 친구나 가족이 올린 의미 있는 게시물을 쉽게 볼 수 있도록 뉴스피드 랭킹 시스템을 변경했습니다. 짧은 동영상처럼 인기 있는 콘텐츠 유형과 이용자들이 Facebook에서 보내는 시간 또한 다소 줄어들 수 있다는 사실을 예상했지만, 그럼에도 이러한 변경을 감행했습니다. 결과적으로 해당 변경 사항을 적용한 분기 동안 이용자들이 Facebook에서 보낸 시간이 약 5% 감소한 것을 알 수 있었습니다.

무결성과 관련된 모든 문제가 그렇듯이, 허위정보에 대한 Facebook의 정책 집행 방식은 하나의 완벽한 해결책으로 접근될 수는 없을 것입니다. 그 누구도 인터넷에서 허위정보를 완전히 제거하는 것은 불가능하겠지만, 그럼에도 저희는 지속적으로 연구와 담당팀, 기술을 사용해 가능한 가장 포괄적이고 효과적인 방법으로 노력을 이행할 것입니다.



Facebook은 콘텐츠를 맞춤화하고, 광고를 조정 및 측정하고, 안전한 경험을 제공하기 위해 쿠키를 사용합니다. 사이트를 클릭하거나 탐색하면 Facebook이 쿠키를 통해 Facebook 및 외부 플랫폼에서 정보를 수집하는 것에 동의하는 것입니다. 이용할 수 있는 관리 기능을 비롯한 자세한 내용을 쿠키 정책에서 알아보세요.