오늘 저희는 2021년도 2분기 커뮤니티 규정 집행 보고서(Community Standards Enforcement Report)를 발표합니다. 열 번째로 발간된 이번 보고서는 4월부터 6월까지 수집된 규정 집행 현황 지표를 기반으로 작성되었으며, 장기적 관점에서 본 집행 현황은 다음과 같습니다:
- 보고서를 통해 처음 지표를 제공하기 시작한 이후, 혐오 발언 확산율은 3분기 연속 감소했습니다. 이는 혐오 발언에 대한 사전감지 기능 개선과 뉴스피드 랭킹 시스템 변화 덕분에 가능했습니다.
- 보고서를 통해 처음 지표를 제공하기 시작한 이후, Facebook과 Instagram 상에서 삭제된 혐오 발언 콘텐츠의 양은 15배 이상 증가했습니다.
- Facebook의 사전 감지율(이용자 신고 이전에 자체적으로 발견하여 조치를 취한 콘텐츠의 비율)은 Facebook 13개 정책 중 12개, Instagram 11개 정책 중 9개 지표에서 90%를 상회하였습니다.
- 현재 Facebook과 Instagram에 각각 13개, 11개의 정책에 대한 데이터를 제공하고 있으며, 이의신청, 복구 및 확산율 관련 새로운 지표를 추가하였습니다.
이번 분기, Facebook은 커뮤니티 규정 집행 보고서 외에도 아래의 내용을 공유할 계획입니다.
- 새로 발간된 많이 본 콘텐츠 보고서(Widely Viewed Content Report)
- 신뢰할 수 있는 코로나19 및 백신 정보를 널리 알리고 유해한 허위정보를 줄이기 위한 Facebook의 노력과 이에 대한 지속적인 업데이트
새로운 데이터 공개와 함께 더욱 개선이 필요한 부분도 드러날 수 있겠지만, 저희는 유의미한 데이터를 공유하고, 안전한 플랫폼을 구축하기 위한 과정 전체에 책임을 지는 것이 보다 중요하다고 믿습니다.
오늘 공개할 일련의 보고서 중 첫 번째인 ‘많이 본 콘텐츠 보고서’는 Facebook 뉴스피드 상에서 가장 많이 본 콘텐츠에 대한 전반적인 데이터를 제공합니다. 대표적으로 미국 내 이용자가 가장 많이 본 상위 20개 도메인, 링크, 페이지, 포스트 등이 있습니다. 상기 모든 보고서는 Facebook 투명성센터(Transparency Center)에서 확인할 수 있으며, 향후 매 분기 커뮤니티 규정 집행 보고서와 함께 공개될 예정입니다.
신뢰할 수 있는 코로나19 관련 정보의 홍보 및 유해 허위정보 감소
코로나바이러스감염증-19(이하 코로나19)는 여전히 중대한 공중보건 이슈이며, Facebook은 사람들이 백신을 비롯한 공신력 있는 보건 정보를 확인할 수 있도록 돕고 있습니다. 이를 위해 유해한 코로나19 관련 허위정보를 제거하고 금전적 이익을 위해 팬데믹 상황을 이용하려는 광고를 금지하고 있습니다. 팬데믹이 시작된 이후부터 2021년 6월까지 저희가 취한 조치는 다음과 같습니다.
- 전 세계적으로 당사의 코로나19 허위정보 관련 정책을 위반한 Facebook, Instagram 상의 콘텐츠 2천만 건 이상 제거
- 코로나19 및 백신 허위정보 확산을 막기 위한 Facebook의 규정을 거듭 위반한 계정, 페이지 및 그룹 3천개 이상 제거
- 전 세계 60여개 언어권 내 80개 팩트체크 기관과의 협력을 통해 제3자 팩트체크 파트너사가 허위, 부분적 거짓, 조작 또는 문맥 누락으로 등급을 매긴 Facebook 상의 코로나19 관련 콘텐츠 1억 9천만여 건에 경고. 콘텐츠별로 등급이 정해지면 이용자들이 해당 콘텐츠를 공유하기 전에 눈에 잘 띄는 경고 표시를 추가하고 피드 하단에 노출되도록 조정
저희는 백신에 대한 대중의 인식 개선을 위해 공신력 있는 정보를 제공해왔습니다. Facebook, Instagram의 코로나19 정보센터와 교육용 팝업창을 통해 20억 명에 달하는 사람들이 보건 전문가의 정보를 얻었고, 미국에서만 4백만 명이 백신찾기(vaccine finder) 도구를 활용해 접종을 받을 수 있도록 지원했습니다.
공중보건 연구에 따르면, 지역사회 내 백신 접종율이 높을 수록 개인의 백신 접종 의사도 더 높아지는 것으로 나타났습니다. 국민 대다수가 백신 접종을 받을 수 있는 국가의 경우, 저희는 백신 접종에 대한 지지를 표현할 수 있는 프로필 프레임과 스티커를 제공함으로써 관련 인식 개선을 위한 노력을 확대하고 있습니다.
- 코로나19의 세계적 대유행 이후, 전 세계 1,800여만명이 백신을 지지하는 Facebook 프로필 프레임을 사용함
- 전 세계 Facebook 이용자의 25% 이상은 유니세프 코로나19 백신 프레임이 적용된 프로필을 본 적이 있는 것으로 응답
- 전 세계 Instagram 사용자의 29% 이상이 코로나19 백신 스티커 이용자를 본 적 있음
- Instagram 코로나19 백신 스티커를 사용한 사람들은 전 세계 760만여명에 달함
미국 내 Facebook 이용자의 경우 백신 접종에 대한 거부감이 50% 감소한 것으로 나타났습니다. 전 세계적으로도 백신에 대한 긍정적인 인식은 계속해서 증가하는 추세입니다. Facebook이 카네기 멜론 대학교(Carnegie-Mellon), 메릴랜드주립대학교(University of Maryland)와 공동으로 진행한 코로나19 동향 및 영향 조사(COVID-19 Trends and Impact Survey) 데이터에 따르면, 올해 초 이후 백신 인식 개선율은 프랑스와 인도네시아, 나이지리아에서 각각 35%, 25%, 20%씩 증가했습니다.
커뮤니티 규정 집행 보고서 하이라이트
혐오 발언 관련 성과
Facebook 내 혐오 발언 확산율은 3분기 연속 감소 추세를 보였습니다. 지난 2021년 1분기에 혐오 발언 확산율은 0.05~0.06%로, 이용자에게 노출된 1만건의 콘텐츠 중 약 5-6건이 혐오 발언 콘텐츠였습니다. 하지만 2분기에는 0.05%(1만건의 콘텐츠 중 약 5건이 혐오 발언 콘텐츠)로 감소했습니다.
저희는 Facebook 상에서 3,150만 건(1분기 2,520만 건), Instagram 상에서는 980만 건(1분기 630만 건)의 혐오 발언 콘텐츠를 제거했습니다. 이는 인공지능(AI)에 투자해 사전감지 기능이 지속적으로 발전하면서 더 많은 종류의 혐오 발언을 감지할 수 있게 되었기 때문입니다. AI 기술은 Facebook이 수십억 이용자와 다양한 언어 전반에 걸쳐 정책을 집행할 수 있게 도와주고 있습니다. 강화 무결성 최적화(RIO)를 비롯한 AI 기술을 꾸준히 개선하고 발전시키는 노력은 실사용 데이터를 활용하는 AI 모델이 혐오 발언을 감지하고 시간이 지날수록 더 나은 성과를 낼 수 있게 도와줍니다.
아동 안전 관련 업데이트
아동 안전은 Facebook 앱 패밀리 전반에 걸쳐 최우선시되는 가치 중 하나입니다. 이전에는 아동 나체 및 성착취 콘텐츠라는 한 가지 지표만 보고서에 포함했습니다. 하지만 최신 보고서에는 더 많은 데이터를 추가했고 ‘아동 위해(Child Endangerment)’라는 포괄적인 주제 하에서 두 가지 새로운 범주를 만들었습니다. 하나는 ‘아동 나체 및 신체적 학대’, 다른 하나는 ‘아동 성착취’입니다.
이 같은 변화의 목적은 아동안전 전문가와 학계 및 일반대중을 대상으로 아동안전 분야에서 저희가 기울이고 있는 노력에 대한 정보를 더욱 자세하고 투명하게 제공하는데 있습니다.
- 2분기 조치를 취한 아동 나체 및 신체적 학대 관련 콘텐츠 개수:
- Facebook: 230만 건(사전감지율 97% 이상)
- Instagram: 458,000건(사전감지율 95% 이상)
- 2분기 조치를 취한 아동 성착취 관련 콘텐츠 개수:
- Facebook: 2,570만 건(사전감지율 99% 이상)
- Instagram: 140만 건(사전감지율 96% 이상)
2021년 2분기, 저희는 동영상을 대상으로 한 사전감지 기술을 개선하고 미디어 매칭 기술을 확대했으며, 그 결과 오래 전에 게재된 혐오 발언 콘텐츠도 제거할 수 있게 되었습니다. 두 가지 기술 모두 규정을 위반한 콘텐츠를 더 많이 처리하는데 큰 도움이 되었습니다.
최근 동향
Facebook은 새로운 범주를 추가하고 확산율을 감소시키기 위해 시스템을 개선하는 것 외에도 문제가 되는 다른 여러 분야들에 걸쳐서도 꾸준히 결실을 거두고 있습니다.
- 2분기 Facebook이 조치를 취한 콘텐츠 개수:
- 조직적인 혐오 콘텐츠 620만 건: Facebook의 사진감지 기술 업데이트의 결과로 2021년 1분기(980만 건) 이전 수준으로 회복
- 자살 및 자해 콘텐츠 1,680만 건: 2021년 1분기 510만 건 보다 큰 폭으로 증가. 기술 개선을 통해 이전에 놓쳤던 혐오 발언 콘텐츠를 찾아 조치를 취할 수 있었음
- 폭력적이고 선정적인 콘텐츠 3,410만 건: 2021년 1분기 3,010만 건 보다 증가
- 2분기 Instagram이 조치를 취한 콘텐츠 개수:
- 조직적인 혐오 콘텐츠 367,000건: 2021년 1분기 325,000건 보다 증가
- 자살 및 자해 콘텐츠 3백만 건: 2021년 1분기 260만 건 보다 증가
- 폭력적이고 선정적인 콘텐츠 760만 건: 2021년 1분기 550만 건 보다 증가