오늘 Facebook은 2020년 4분기 커뮤니티 규정 집행 보고서를 발표했습니다. 이번 보고서는 10월에서 12월까지 수집된 규정 집행 현황 지표를 기반으로 작성되었으며, Facebook의 12개 정책과 Instagram의 10개 정책에 대한 데이터를 포함하고 있습니다.
주요 집행 조치
지난 3분기 보고서에는 처음으로 혐오 발언의 확산율이 포함되었습니다. 혐오 발언 확산율은 이용자들이 Facebook에서 혐오 발언 콘텐츠에 노출된 횟수의 비율을 보여주는 지표입니다. 4분기에는 이용자에게 노출된 1만 건의 콘텐츠 중 약 7~8건이 혐오 발언 콘텐츠인 것으로 나타났습니다. 이는 0.07~0.08%의 확산율로, 이전 분기의 0.10%~0.11%에 비해 크게 개선된 수치입니다. 폭력적이고 자극적인 콘텐츠의 확산율도 0.07%에서 0.05%로 줄었고, 성인 나체 콘텐츠 역시 0.05~0.06%에서 0.03~0.04%로 감소했습니다.
*4분기 이용자에게 노출된 1만 건의 콘텐츠 중 혐오 발언 콘텐츠는 약 7~8건
이러한 확산율 감소는 문제의 소지가 있는 콘텐츠를 뉴스 피드에서 줄이기 위한 다양한 업데이트 덕분입니다. Facebook은 ‘무결성’과 관련된 다양한 요소를 종합적으로 고려하여 게시물의 순위를 매기는 방법을 꾸준히 개선하고 있습니다. 콘텐츠의 규정 위반 가능성을 비롯하여 설문 조사 혹은 게시물 숨기기, 신고와 같은 플랫폼 내 활동을 통해 이용자로부터 얻을 수 있는 시그널 등이 포함됩니다. 이는 각 개인의 선호도에 맞게 뉴스 피드를 조정하는 것은 물론, 규정 위반의 가능성이 있는 게시물 노출 횟수를 줄이는 데에도 큰 도움이 됩니다.
이용자의 신고 이전에 감지되어 조치가 취해진 콘텐츠의 비율을 의미하는 ‘사전 감지율’의 경우, 4분기에는 따돌림과 괴롭힘 영역에서 괄목할만한 성과를 거둘 수 있었습니다. Facebook은 따돌림과 괴롭힘에 대한 사전 감지율이 3분기 26%에서 4분기 49%로 증가했고, Instagram 또한 3분기 55%에서 4분기 80%로 증가했습니다. 혐오 발언이나 따돌림 및 괴롭힘 같이 뉘앙스와 맥락을 파악하는 것이 매우 중요한 영역에서는 AI 기술의 개선을 통해, 이용자들을 안전을 위한 노력을 효과적으로 확장할 수 있었습니다.
*따돌림과 괴롭힘에 대한 Facebook 사전 감지율은 3분기 26%에서 4분기 49%로 증가. Instagram 또한 3분기 55%에서 4분기 80%로 증가.
전 세계 Facebook의 콘텐츠 검토 인력은 이전 수준으로 조금씩 회복되고 있습니다. 하지만 백신이 널리 보급되기 전까지, 콘텐츠 검토 업무는 코로나19의 영향을 지속적으로 받을 것으로 예상됩니다. 따라서 자살 및 자해 콘텐츠와 같이 가장 유해하다고 판단되는 콘텐츠 검토에 인력을 우선적으로 배치하고 있습니다.
4분기 Facebook은 다음과 같은 조치를 취했습니다:
- 따돌림 및 괴롭힘 관련 콘텐츠 630만 건 삭제: 댓글 감지 기술 업데이트를 비롯한 노력의 성과로, 3분기(350만 건) 보다 증가
- 조직적인 혐오 표현 콘텐츠 640만 건 삭제: 3분기(400만 건) 보다 증가
- 혐오 발언 콘텐츠 2,690만 건 삭제: 아랍어, 스페인어 및 포르투갈어에 대한 기술 업데이트에 힘입어, 3분기(2,210만 건) 보다 증가
- 자살 및 자해 콘텐츠 250만 건 삭제: 검토 인력의 증가로 3분기(130만 건) 보다 증가
4분기 Instagram은 다음과 같은 조치를 취했습니다:
- 따돌림 및 괴롭힘 관련 콘텐츠 500만 건 삭제: 댓글 감지 기술 업데이트를 비롯한 노력의 성과로, 3분기(260만 건) 보다 증가
- 조직적인 혐오 표현 콘텐츠 30만 8천 건 삭제: 3분기(22만 4천 건) 보다 증가
- 혐오 발언 콘텐츠 660만 건 삭제: 3분기(650만 건) 보다 증가
- 자살 및 자해 콘텐츠 340만 건 삭제: 검토 인력의 증가로, 3분기(130만 건) 보다 증가
- 2021년 커뮤니티 규정 집행 계획
올해 Facebook은 새로운 규정 카테고리를 도입하고, Instagram에 대한 추가 지표를 공유할 계획입니다. 또한 이용자들이 관련 데이터를 보다 쉽게 이해할 수 있도록, 해당 집행 보고서를 상호작용이 가능한 형태로 구성하기 위한 방법을 모색하고 있습니다. Facebook은 투명한 방식으로 기술 산업을 선도하고자 합니다. 이러한 목표를 달성하기 위해, 앞으로 더 많은 집행 지표를 공유할 계획입니다. 아울러, Facebook은 기업이 스스로를 평가해서는 안된다는 믿음 하에, 2020년에 자사가 공개한 수치를 검증하는 콘텐츠 중재 시스템에 대한 독립적인 제3자 감사를 실시하기로 결정하였고, 올해부터 그 과정을 시작합니다.
Facebook은 현재까지 이뤄온 진전을 바탕으로, 유해한 콘텐츠를 차단하기 위한 기술 개발과 규정 집행에 대한 노력을 지속적으로 개선해나갈 것입니다.