아래 내용은 AdAge를 통해 먼저 공개되었습니다.

사회가 대립하고 갈등이 고조되는 상황일수록 이러한 분열의 양상은 소셜 미디어에도 고스란히 투영됩니다. Facebook을 포함한 많은 온라인 플랫폼은 사회를 비추는 거울과 같습니다. 매달 30억 명 이상의 사람들이 Facebook과 패밀리 앱을 사용하고 있는 가운데, 우리 사회의 좋은 부분과 나쁜 부분, 추악한 모습까지, 모든 면면이 플랫폼에 반사되어 드러납니다. 때문에 Facebook과 여타 소셜 미디어 회사들은 어떤 콘텐츠가 허용되어야 하는지 경계를 분명히 할 막중한 책임을 지고 있습니다. 

논란을 야기한 트럼프 대통령의 게시물을 내리지 않기로 결정한 이후, Facebook은 지난 몇 주 간 많은 질타를 받았습니다. 또한, Facebook 플랫폼에 광고를 하는 회사들을 비롯한 수많은 사람들이 혐오 발언에 대한 Facebook의 접근방식에 대해 우려를 표하고 있습니다. 필자는 Facebook이 혐오로부터 어떠한 이익도 얻지 못한다는 점을 분명히 하고자 합니다. 수십억 명의 사람들이 Facebook과 Instagram을 사용하고 있는 이유는 그들이 느낀 플랫폼에서의 즐거운 경험 때문입니다. 이용자들과 광고주들, Facebook 패밀리 앱 중 그 어떤 주체도 사회적으로 혐오를 양산하는 콘텐츠를 원하지 않습니다. 이러한 콘텐츠를 깨끗이 제거하는 것 외에, Facebook이 얻을 수 있는 이득은 없습니다.

사람들은 Facebook 패밀리앱 서비스를 통해 매일 1000억 건 이상의 메시지를 전송합니다. 우리 모두가 그러하듯, 서로 이야기하며 각자의 삶과 의견, 희망과 경험을 나누는 것입니다. 그 수십억 개의 모든 상호작용 중에 아주 작은 부분만이 혐오에 대한 내용을 담고 있습니다. Facebook과 Instagram에서 이러한 게시물이 발견될 경우, 통상 무관용 원칙으로 해당 게시물을 삭제합니다. 하지만 해당 내용이 혐오 발언 또는 위해나 유권자 탄압을 방지하기 위한 정책의 기준에 미치지 못할 때, 우리는 표현의 자유 편에 서게 됩니다. 궁극적으로 상처를 주고, 분열을 야기하고, 모욕을 주는 표현에 대항하는 가장 좋은 방법은 더 다양하고 많은 표현을 허용하는 것이기 때문입니다. 추악함은 그늘에 숨겨지기 보다 햇빛이 드는 곳에 노출되는 편이 더 낫다고 믿습니다.

불행하게도, 무관용 원칙이 곧 혐오 콘텐츠를 완전히 근절하는 방식을 의미하지는 않습니다. 매일 수많은 콘텐츠가 올라오는 상황에서, 증오의 뿌리를 뽑는 것은 건초더미에서 바늘 한 개를 찾는 것과 같습니다. Facebook은 플랫폼을 안전하게 유지하기 위해 매년 수십억 달러를 인력과 기술에 투자합니다. 안전과 보안을 담당하는 직원의 수를 3배 증가시킨 결과, 현재 그 수는 3만 5천 명 이상에 이릅니다. 또한, 대규모의 혐오 콘텐츠를 인공지능 기술을 통해 삭제하는 선구적 발전을 이루었습니다.

실제 성과 또한 고무적입니다. 최근 유럽연합(EU) 집행위원회 보고서에 따르면 Facebook은 24시간 이내에 95.7%의 혐오 발언 신고를 처리했는데, 이는 YouTube와 Twitter 대비 월등히 빠른 속도입니다. 지난 달, Facebook이 삭제한 혐오 발언 중 이용자가 신고하기 전에 먼저 삭제한 콘텐츠의 비율은 90%에 육박합니다. 이는 24%에 불과했던 2년 전에 비해 크게 증가한 수치입니다. 2020년 1분기에 조치를 취한 콘텐츠는 960만 개로, 이전 분기(2019년 4분기)에 처리한 570만 개에 비해 크게 늘었습니다. 또한, Facebook이 삭제한 ISIS 및 알카에다 관련 테러 콘텐츠의 99%는 누군가 신고하기 전에 사전에 제거됩니다.  

그럼에도 저희는 현재의 성과에 안주하고 있지만은 않습니다. Facebook은 최근 모든 사람들이 안전하게 정보를 얻고, 궁극적으로는 가장 중요한 부분이라고 할 수 있는 ‘투표’에 대해 목소리를 낼 수 있도록 하는 새로운 정책과 제품을 발표했습니다. 여기에는 400만 명의 유권자 등록을 목표로 한 미국 역사상 가장 큰 규모의 유권자 정보 캠페인과 유권자 탄압 단속, 그리고 혐오 발언 퇴치를 위해 고안된 정책 업데이트 등이 포함됩니다. 이러한 변화의 많은 부분은 시민의 권리를 위해 힘쓰는 커뮤니티가 제공한 피드백이 직접적으로 반영된 결과입니다. Facebook은 시민권 커뮤니티를 비롯한 여러 전문가들과 함께 일하며, 새로운 위험이 발생할 때를 대비하기 위해 정책을 지속적으로 향상해 나갈 것입니다.

물론 사람들이 소셜미디어에 존재하는 혐오표현과 여러 유해 콘텐츠에 주의를 기울이는 것은 필요한 일이며, 그에 집중하는 것 또한 충분히 이해할 수 있는 현상입니다. 그러나, 수십억 건의 대화 중 거의 대부분이 긍정적인 내용이라는 사실을 잊어서는 안됩니다.

코로나바이러스감염증-19(이하 코로나19)의 세계적 대유행 속, 사람들이 Facebook을 어떻게 이용했는지 살펴보면 이는 더욱 분명해집니다. 실제 같은 공간에서 함께할 수 없었던 수십억 명의 사람들, 조부모와 손자, 형제와 자매, 친구와 이웃들은 Facebook을 통해 관계를 유지했습니다. 무엇보다도, 사람들은 서로를 돕기 위해 Facebook에 모였습니다. 지역 사회에서 위험에 가장 취약한 이들을 지원하기 위해 셀 수 없이 많은 이용자들이 모여 수많은 지역 단체들을 조직화했습니다. 의료 종사자들에게 격려와 응원의 메시지를 보내기 위해 모인 이들도 많았습니다. 그리고 많은 사업이 문을 닫아야 했을 때, Facebook은 그들의 생계를 책임지는 유일한 수단이 되어주기도 했습니다. 1억 6천만 개 이상의 기업이 고객에게 다가가기 위해 Facebook이 제공하는 도구를 무료로 사용하고 있으며, 오프라인에서 고객과 대면할 수 없는 상황에서 다수의 기업은 이러한 Facebook의 도구를 활용해 사업을 유지했습니다. 덕분에 사람들은 그들의 일자리와 생계를 보호할 수 있었습니다. 

중요한 것은, 신뢰할 수 있는 기관으로부터 사람들이 보건 정보를 얻는 일에 Facebook이 일조했다는 사실입니다. Facebook과 Instagram을 사용하는 20억 명 이상의 사람들에게 세계보건기구(WHO)와 그 외 공공보건 당국의 정보를 전달했고, 3억 5천만 명 이상이 그 정보를 확인했습니다.

뿐만 아니라 소셜미디어는 우리 사회가 가장 어두울 때 사람들에게 빛을 비출 수 있는 수단을 제공한다는 사실을 기억해야 합니다. 소셜미디어는 세상에 무슨 일이 일어나고 있는지 알리고, 혐오의 반대편에 모여 함께 맞서며, 전 세계 수백만 명의 사람들에게 연대의 모습을 보여주기 위해 존재합니다. 우리는 전 세계에서 이러한 사례를 수 없이 보아왔습니다. 그리고 오늘날, ‘Black Lives Matter(흑인의 생명도 소중하다)’ 운동을 통해 또 다른 긍정의 연대를 목도하고 있습니다. 

Facebook에서 혐오를 완전히 사라지게 만드는 것은 불가능할지도 모릅니다. 그러나, 이를 막는 일에 보다 능숙해지도록 매일 노력하며, 계속해서 발전해 나가고자 합니다.