커뮤니티 규정 집행 보고서, 2020년 5월

가이 로젠(Guy Rosen), Integrity 부문 부사장

오늘, 2019년 10월부터 2020년 3월까지의 Facebook 커뮤니티 규정 집행 현황 지표를 담은 다섯 번째 커뮤니티 규정 집행 보고서를 발표합니다. Facebook은 지난 몇 년 동안 선거개입과 허위정보의 확산을 방지하고, 유해한 콘텐츠로부터 이용자를 보호하기 위해 관련 팀과 필요한 도구와 기술을 구축하는데 매진해왔습니다. 따라서 코로나바이러스감염증-19(이하 코로나19) 사태에 신속하게 대응할 수 있는 도구와 절차가 이미 마련되어 있었고, 지속적으로 Facebook 규정을 위반하는 콘텐츠를 파악하고, 삭제 조치 할 수 있었습니다. 코로나19 사태로 콘텐츠 리뷰어들이 일시적인 자택격리에 들어감에 따라 Facebook과 패밀리 앱을 안전하게 유지하기 위한 자동화 시스템 사용을 확대했으며, 유해성이 높은 콘텐츠를 팀에서 우선적으로 검토하도록 지시했습니다. 

이번 보고서에는 2020년 3월까지의 데이터만 포함되어 있기 때문에, 코로나19 사태가 가져온 변화에 따른 모든 여파가 반영되어 있지는 않습니다. 추후 발표될 보고서에는 변화로 인한 결과를 확인할 수 있을 것으로 예상하며, Facebook은 앞으로도 모든 내용을 투명하게 공개할 것입니다. 예를 들어, 지난 7주 동안 콘텐츠에 대한 조치와 계정 삭제의 이의제기 옵션을 제공할 수 없었기 때문에 차기 보고서에서는 이의제기 수치가 더 낮게 나타날 것으로 보입니다. 또한, 조치 집행 결과를 측정하는 것 보다 유해한 콘텐츠 제거를 우선시 함에 따라, 해당 기간 동안 규정을 위반한 콘텐츠의 확산 추산이 어려울 수 있습니다. 오늘 공유드리는 보고서에는 규정 위반 콘텐츠를 선제적으로 감지하고, 제거하는 기술의 진보 현황을 담고 있습니다.

이번 보고서에 새롭게 추가된 내용

이제 보고서에는 Facebook의 12개 규정과 Instagram의 10개 규정에 대한 전반적인 지표를 포함합니다. 그리고 Instagram 데이터를 4개 카테고리 즉, 혐오 발언, 성인 나체 이미지 및 성적 행위, 폭력적이고 자극적인 콘텐츠, 따돌림과 괴롭힘으로 나눠 설명합니다. 이번 보고서는 처음으로 규제 조치가 이루어진 Instagram 콘텐츠에 대한 이의제기 횟수, 이의제기 또는 자체 검토를 통해 실수를 파악하여 복구한 콘텐츠 수에 대한 데이터를 담고 있습니다. 또한, Facebook과 Instagram에서 조직적인 혐오를 근절하기 위한 대응 노력에 대한 관련 데이터를 추가했습니다. 이러한 노력과 진척 상황에 대한 자세한 내용은 여기에서 확인하실 수 있습니다. 

규정 위반 콘텐츠 발견 및 삭제 진행 상황

Facebook은 규정을 위반하는 콘텐츠를 선제적으로 파악하는 기술 향상에 힘써왔고, 더 많은 수의 규정 위반 콘텐츠를 삭제할 수 있게 됨에 따라 이용자 노출을 최소화할 수 있게 되었습니다. 

  • Facebook의 경우, 혐오 발언에 대한 선제적 감지 기술을 적용할 수 있는 언어를 지속적으로 확장해나가고 있으며, 기존 감지 시스템도 개선하였습니다. 혐오 발언에 대한 사전 감지율은 지난 2개 분기에 비해 8%p 증가하였습니다. 이는 일년 새에 거의 20%p가 증가한 수치입니다. 저희는 기술의 개선을 통해 더 많은 콘텐츠를 감지할 수 있게 되었으며, 이제 삭제 조치하는 콘텐츠의 약 90%를 이용자 신고 이전에 감지할 수 있습니다. 이외에도, 여러 부분에서 개선이 이루어진 감지 기술 덕분에 2019년 4분기에는 이전 분기에 삭제 조치한 불법 의약품 관련 콘텐츠 양의 두 배에 달하는 880만 건의 콘텐츠를 제거했습니다.
  • Instagram의 경우, 더 많은 수의 자살 및 자해 콘텐츠를 파악할 수 있도록 텍스트와 이미지 매칭 기술을 향상시켰습니다. 이에 규제 조치가 취해진 콘텐츠의 양이 40% 늘었고, 사전 감지율이 지난 보고서와 비교해 12%p 이상 증가했습니다. 또한, 온라인 괴롭힘 방지 노력 측면에서도 이용자가 자신의 온라인 경험을 직접 관리하고, 원치 않는 상호교류를 제한하는데 도움을 주는 여러 새로운 기능들을 도입하는 진전을 이루었고, 오늘 새로운 Instagram 제어 기능들도 발표했습니다. 이번 보고서에는 Instagram에서 괴롭힘과 관련해 조치된 게시물에 대한 데이터가 처음 포함 되었으며, 해당 데이터는 2019년 4분기와 2020년 1분기 동안 조치가 취해진 150만 개의 콘텐츠를 포함한다.
  • 마지막으로, 데이터베이스에 포함된 기존의 규정 위반 콘텐츠와 유사한 콘텐츠를 감지하고 삭제하는 기술이 향상되어, Facebook과 Instagram에서 더 많은 아동 나체 이미지와 아동에 대한 성착취 콘텐츠를 삭제할 수 있게 되었습니다.

**규제 조치가 취해진 콘텐츠의 양이 40% 증가했습니다
**혐오 발언의 89%가 이용자 신고 전에 미리 감지되었습니다

지난 6개월간, 콘텐츠의 확산 정도와 심각성을 중심으로 여러가지 요소를 고려하여 콘텐츠의 우선순위를 정하고 그에 따라 검토를 진행할 수 있도록 기술을 확대 적용하였습니다. 앞으로는 더 나아가 게시물의 자동 삭제 등 콘텐츠에 실제 조치를 취하는 과정에서도 기술을 확대 적용할 계획입니다. 이는 Facebook의 콘텐츠 리뷰어들이 뉘앙스와 문맥에 따라 조치를 취해야 하는 유형의 콘텐츠에 시간을 더 할애할 수 있도록 도움을 제공할 것입니다.

본 커뮤니티 규정 집행 보고서는 매년 두 차례 발표되는 투명성 보고서와 연계해 발표되며, 투명성 보고서는 정부의 이용자 정보 요청, 현지 법규에 따른 콘텐츠 제한, 지적 재산권에 의한 삭제 및 인터넷 장애에 대한 수치를 포함하고 있습니다.  

향후 커뮤니티 규정 집행 보고서는 분기별로 제공될 예정이며, 차기 보고서는 오는 8월에 발표될 예정입니다.



Facebook은 콘텐츠를 맞춤화하고, 광고를 조정 및 측정하고, 안전한 경험을 제공하기 위해 쿠키를 사용합니다. 사이트를 클릭하거나 탐색하면 Facebook이 쿠키를 통해 Facebook 및 외부 플랫폼에서 정보를 수집하는 것에 동의하는 것입니다. 이용할 수 있는 관리 기능을 비롯한 자세한 내용을 쿠키 정책에서 알아보세요.