커뮤니티 규정 집행 보고서, 2020년 11월

가이 로젠(Guy Rosen), Integrity 부문 부사장

오늘 Faceboook은 2020년 3분기 커뮤니티 규정 집행 보고서를 발표했습니다. 이번 보고서는 7월부터 9월까지 수집된 규정 집행 현황 지표를 기반으로, Facebook의 12개 정책과 Instagram의 10개 정책에 대한 데이터를 포함하고 있습니다.

업데이트 사항: 혐오 발언 확산율

이번 보고서에는 처음으로 Facebook에서 발견된 혐오 발언의 전 세계적 확산 데이터가 포함되었습니다. 2020년 3분기 혐오 발언의 확산율은 0.10%~0.11%로, 1만건의 콘텐츠 조회수 당 혐오 발언 콘텐츠가 10에서 11건인 것으로 나타났습니다. 인공지능(AI)에 대한 투자를 통해, 이용자들이 신고하기 전 더 많은 혐오 발언을 사전에 찾아내 제거할 수 있었습니다. 사전 탐지된 혐오 발언 콘텐츠의 양과 이에 대한 조치 등 이번 분기 집행 현황 지표는 유해 콘텐츠를 포착하는 데 많은 진전이 있었음을 보여줍니다. 아울러 확산율을 통해 이용자가 플랫폼에서 규정 위반 콘텐츠에 노출되는 횟수의 비율도 추정할 수 있는데요, 이 링크에서 혐오 발언에 대한 Facebook의 조치에 대해 자세히 확인할 수 있습니다.

집행 관련 주요 내용

코로나바이러스감염증-19(이하 코로나19) 사태로 콘텐츠 검토 인력에 제한이 있었지만, 일부 시행 지표가 코로나19 발생 이전의 수준으로 회복되었습니다. AI의 발전과 콘텐츠 감지 기술을 적용하는 언어가 확대되면서, 대부분의 규정 관련 사전 감지 비율이 2분기에 비해 증가했습니다. 또한 검토 인력이 감소했음에도 불구하고, 자살 및 자해, 아동 나체 등 가장 민감한 콘텐츠 영역을 인력이 우선적으로 검토하도록 조치하고 있습니다.

3분기 Facebook은 다음과 같은 콘텐츠에 조치를 취했습니다:

  • 2,210만 건의 혐오 발언 콘텐츠: 약 95%가 사전 감지됨
  • 1,920만 건의 폭력적이고 선정적인 콘텐츠: 2분기(1,500만 건)보다 증가
  • 아동 나체 및 성착취 콘텐츠 1,240만 건: 2분기(950만 건)보다 증가
  • 따돌림과 괴롭힘 관련 콘텐츠 350만 건: 2분기(240만 건)보다 증가

3분기 Instagram은 다음과 같은 조치를 취했습니다:

  • 650만 건의 혐오 발언 콘텐츠: 2분기(320만 건)보다 증가했으며, 그 중 약 95%가 사전 감지됨(2분기 85%보다 증가)
  • 410만 건의 폭력적이고 선정적인 콘텐츠: 2분기(310만 건)보다 증가
  • 아동 나체 및 성착취 콘텐츠 1백 만 건: 2분기(481,000건)보다 증가
  • 따돌림과 괴롭힘 관련 콘텐츠 260만 건: 2분기(230만 건)보다 증가
  • 자살 및 자해 관련 콘텐츠 130만 건: 2분기(277,400건)보다 증가

Instagram에서 혐오 발언에 대한 사전 감지율이 증가한 것에는 영어, 아랍어, 스페인어에 대한 사전 감지 기술의 개선과 자동화 기술이 확장된 영향도 있습니다. 코로나19로 인한 인력 감소 문제에 지속적으로 대처해 나가면서 관련 수치는 변동이 있을 것으로 예상됩니다.

새로운 정책 추가

오늘 Facebook은 커뮤니티 규정 웹사이트를 업데이트했습니다. 이번 업데이트를 통해 리뷰 과정에 문맥적인 고려가 필요한 경우와 대량으로 처리할 수 없는 경우를 아우르는 새 정책이 추가되었습니다. 이러한 정책을 집행하는 결정을 내리기 위해서는 추가 정보를 수집하는 전문 팀이 필요할 때가 있습니다. 예를 들어, 사망한 이용자의 계정을 삭제하기 전, 보통 가족들에게 추가 정보를 요청하고 있습니다. 또한, 현지 전문 지식을 보유한 신뢰할 수 있는 파트너나 언론사로부터 얻은 추가 정보를 활용해 정책에 대한 까다로운 결정을 내려야할 때도 있습니다.

이번에 업데이트된 정책 중 몇 가지는 이전에 이미 발표된 내용으로, 잘못된 정보를 게재하고, 검증되지 않은 소문을 퍼뜨려 폭력 또는 신체적 상해를 조장하는 것을 금지하는 정책이나, 기아, 대량 학살, 전쟁 범죄 또는 비인도적 범죄와 같은 맥락에서 언론사가 게재한 아동 나체 묘사 이미지 등의 민감한 콘텐츠에 경고 라벨을 붙이는 정책이 이에 해당됩니다. 비록 새로운 정책은 아니지만, 시행 관행에 대한 투명성을 더욱 높일 수 있도록 현재 더 자세한 세부 정보를 공유하고 있습니다. 앞으로도 추가적인 문맥이 필요한 새로운 정책이 도입되면 커뮤니티 규정을 매월 공개적으로 업데이트할 예정입니다.

저희는 Facebook과 앱 패밀리에서 유해 콘텐츠를 제거하고 모든 이용자를 안전하게 보호하기 위해 끊임없이 노력하고, 관련 기술을 개선할 것입니다.

커뮤니티 규정 집행 현황 보고서는 매년 두 차례 발간되는 투명성 보고서와 함께 발표됩니다. 투명성 보고서에는 정부의 이용자 정보 요청 횟수, 현지법에 따른 콘텐츠 제한, 지적 재산 삭제 및 인터넷 장애와 관련한 데이터가 포함됩니다.



Facebook은 콘텐츠를 맞춤화하고, 광고를 조정 및 측정하고, 안전한 경험을 제공하기 위해 쿠키를 사용합니다. 사이트를 클릭하거나 탐색하면 Facebook이 쿠키를 통해 Facebook 및 외부 플랫폼에서 정보를 수집하는 것에 동의하는 것입니다. 이용할 수 있는 관리 기능을 비롯한 자세한 내용을 쿠키 정책에서 알아보세요.