오늘, 2020년 4월부터 2020년 6월까지의 Facebook 커뮤니티 규정 집행 현황을 담은 여섯 번째 커뮤니티 규정 집행 보고서를 발표합니다. 이 보고서는 Facebook의 12개 규정과 Instagram의 10개 규정에 대한 전반적인 지표를 포함합니다.
코로나바이러스감염증-19(이하 코로나19) 사태로 지난 3월 콘텐츠 리뷰어들이 건강과 안전을 위해 일시적인 자택격리에 들어감에 따라 콘텐츠 검토의 더 많은 부분을 기술에 의존할 수 밖에 없었습니다. 이후 많은 리뷰어들이 재택근무를 시작했고, 안전하다고 판단된 일부 지역에서는 소수의 리뷰어가 사무실로 출근하고 있습니다. 하지만, 저희는 앞으로도 기술을 활용해 잠재적 유해성이 가장 큰 콘텐츠를 우선적으로 검토할 것입니다. 이번 보고서는 코로나19가 콘텐츠 검토에 미치는 영향을 보여주고 있습니다. 또한, 비록 규정을 위반한 콘텐츠를 식별하고 제거하는 기술은 개선되고 있지만, 콘텐츠 검토와 관련 기술을 발전시키기 위해서는 실제 사람이 필요한 부분이 늘 남아있을 것이라는 사실을 강조하고 싶습니다.
예를 들어, 자살, 자해 및 아동 성착취 콘텐츠를 검토하는 일은 인력에 크게 의존하고 있습니다. 해당 규정을 위반해 조치를 취한 콘텐츠와 동일하거나 그와 유사한 콘텐츠를 선제적으로 감지해 삭제하는 기술의 개선을 위해서도 실제 사람이 필요합니다. 콘텐츠 리뷰어의 수가 줄어들었기 때문에 Facebook과 Instagram의 자살 및 자해, 아동 나체 및 성착취 관련 콘텐츠에 대해 취해진 조치의 건수도 감소했습니다. 하지만, 해당 카테고리의 가장 유해한 콘텐츠를 우선순위에 두고 조치를 취해왔다는 점을 말씀드립니다. Facebook은 지속적으로 이러한 콘텐츠를 찾아 삭제하고, 최대한 신속하고 안전하게 리뷰 업무를 정상화하는데 주력할 것입니다.
이번 보고서에서는 이의 신청 건수도 훨씬 줄어든 것을 확인할 수 있는데, 이는 인력이 축소된 상황에서 이의 제기 옵션을 온전히 제공할 수 없었기 때문입니다. 저희는 이러한 사실을 이용자들에게 명확히 공지했습니다. 대신 콘텐츠에 취해진 조치에 동의하지 않는 경우, 의견을 전달할 수 있는 옵션을 제안드렸습니다. 의견 검토 후, 콘텐츠를 내린 이유가 타당하지 않았던 경우에는 콘텐츠를 원래대로 복원했습니다. 마지막으로, 이 기간 동안에는 성과를 측정하는 것보다 유해콘텐츠 제거에 우선순위를 두었기 때문에, 폭력적이고 자극적인 콘텐츠, 성인 나체 및 성적 행위 카테고리의 지표를 계산할 수 없었습니다. 다음 보고서에서 이 카테고리에 대한 3분기 지표를 공유할 수 있을 것으로 예상합니다.
코로나19의 영향에도 불구하고, 기술의 개선 덕분에 일부 영역에서는 더 많은 콘텐츠에 대한 조치를 취할 수 있었습니다. 사전 감지율이 향상된 영역도 있었는데, 혐오 발언에 대한 Facebook의 사전 감지율은 89%에서 95%로 6%p가 증가했습니다. 이에 따라, 조치를 취한 콘텐츠 양은 1분기 960만 건에서 2분기에는 2,250만 건으로 증가했습니다. 이는 일부 자동화 기술을 스페인어, 아랍어, 인도네시아어까지 포함할 수 있도록 확대했고, 1분기에 영어로 된 콘텐츠 감지 기술을 개선했기 때문입니다. 2분기에는 자동화 역량이 더욱 향상되어 영어, 스페인어, 버마어로 된 콘텐츠에 더 많은 조치를 취할 수 있었습니다. Instagram에서는 혐오 발언 감지율이 45%에서 84%로 39%p가 증가했으며, 조치를 취한 콘텐츠의 양은 2020년 1분기 808,900건에서 2분기 330만 건으로 증가했습니다. 영어와 스페인어 콘텐츠에서 사전 감지 기술을 확장했기 때문입니다.
테러 관련 콘텐츠 부문 역시 기술로 인해 개선되었습니다. Facebook의 경우 조치를 취한 콘텐츠가 1분기에는 630만 건이었던 것이 2분기에는 870만 건으로 늘었습니다. 또한 기술이 개선되고 일부 콘텐츠 리뷰어가 복귀한 덕분에, Instagram에서 조치를 취한 조직적인 혐오 표현 콘텐츠의 수가 늘었고, Facebook 및 Instagram에서 따돌림과 괴롭힘 관련 내용으로 조치를 취한 콘텐츠의 양도 증가했습니다.
Facebook FOA 앱에서 혐오를 근절하는 일에 진전을 이루었지만, 사람들이 보다 편안한 마음으로 Facebook의 서비스를 이용하기 위해서는 더 많은 노력이 필요하다는 것을 잘 알고 있습니다. 공정하고 포용력있는 제품을 만들 수 있도록 Instagram Equity Team과 Facebook Facebook Inclusive Product Council 등 새로운 포용성 전담 팀과 태스크 포스(TF)를 구성한 것도 바로 이 때문입니다. 아울러, 다양한 주제와 이슈에 대한 풍부한 경험을 바탕으로 자문을 제공해줄 다양성 자문 위원회(Diversity Advisory Council)를 발족합니다. 이외에도 블랙페이스나 유대인이 세계를 지배한다는 잘못된 고정관념을 묘사한 콘텐츠 등 특정 유형의 혐오 발언에 조치를 취할 수 있도록 정책을 업데이트하고 있습니다. Facebook과 Instagram은 계속해서 혐오를 양산하는 단체를 막기 위한 정책에 위배되는 콘텐츠를 우선적으로 제거해나갈 것입니다. 2019년 10월부터, 14건의 전략적 네트워크 중단을 시행해 23개의 금지된 조직을 차단 조치했습니다. 그 중 절반 이상이 백인 우월주의를 지지하는 단체였습니다.
유해콘텐츠에 대한 보고 수치의 정확성을 보장하기 위해, 2021년부터 독립적인 제3자 기관의 감사를 통해 커뮤니티 규정 집행 보고서에 발표된 수치를 검증받을 계획입니다.
코로나19가 계속되는 상황 속에서, 저희는 앞으로도 콘텐츠 검토 프로세스를 조정하고 기술을 개선하며 더 많은 리뷰어가 업무에 복귀할 수 있도록 노력하겠습니다.