가이 로젠(Guy Rosen), 제품 총괄 부사장
오늘, 2018년 4분기부터 2019년 1분기까지의 페이스북 커뮤니티 규정 집행 현황을 담은 세 번째 커뮤티니 규정 집행 보고서를 공유드립니다. 해당 보고서의 내용 중 몇 가지 중요한 내용을 아래와 같이 소개해 드립니다.
세 번째 보고서에는 무슨 내용이 새로 추가 되었나?
- 페이스북의 조치결과에 대한 이용자의 이의신청 및 콘텐츠 복구 관련 데이터: 처음으로 얼마나 많은 이용자들이 페이스북의 조치결과에 대해 이의를 신청했고, 그 중 얼마가 다시 복구되었는지를 공개합니다.
- 규제상품 관련 데이터: 2018년 11월에 발표한 두 번째 보고서에서 다뤘던 여덟 개 카테고리에, 무기와 마약을 중심으로 저희가 규제 상품의 유통을 막이 위해 어떻게 노력하는지를 담은 새로운 분야를 하나 더 추가했습니다.
그래서 총 아홉 개 다음 카테고리에 대한 내용을 여러분께 말씀드리도록 하겠습니다: 성인 나체 이미지 및 성적 행위 / 따돌림과 괴롭힘 / 아동 나체 이미지 및 아동에 대한 성착취 / 가짜 계정 / 혐오발언 / 규제 상품 / 스팸 / 테러리스트 선전 / 폭력적이고 자극적인 콘텐츠
이 숫자들을 어떻게 해석할 것인가?
페이스북이 커뮤니티 규정을 어떻게 집행하고 있는지 확인하기 위해 살펴야 할 주요 지표는 다음과 같습니다.
- 유포된 비율: 커뮤니티 규정을 위반한 콘텐츠가 다른 이용자에게 노출된 정도를 의미합니다. 페이스북은 커뮤니티 규정을 위반한 콘텐츠가 실제로 다른 사람들에게 얼마나 노출됐는지를 중요하게 생각합니다. 조치를 취한 콘텐츠의 수도 중요하지만, 여러 노력에도 불구하고 발견하지 못해 사람들에게 노출되는 위반 콘텐츠의 빈도를 드러내는 것이 ‘유포된 비율’입니다. 이를 도출하기 위해 저희는 페이스북에 도출된 콘텐츠를 정기적으로 샘플링하고 이 중에서 위반 게시물이 몇 퍼센트를 차지하는지를 분석합니다
- 해당 수치는 성인 나체 이미지, 폭력적이고 자극적인 콘텐츠, 가짜 계정 카테고리에 대해 확인할 수 있습니다
- 사람들이 페이스북을 10,000번 정도 확인한다고 가정할 경우, 11~14건의 성인 나체 이미지 및 성적 행위와 관련 위반 콘텐츠를 보게 되는 것으로 나타났습니다.
- 사람들이 페이스북을 10,000번 정도 확인한다고 가정할 경우, 25건의 폭력적이고 자극적인 콘텐츠 관련 위반 콘텐츠를 보게 되는 것으로 나타났습니다.
- 전체 월활동사용자의 약 5퍼센트 가량이 가짜 계정일 것으로 추정하고 있습니다.
- 이번 보고서에는 테러리스트 선전과 아동 나체 이미지 및 아동에 대한 성착취와 관련해 유포된 비율을 처음으로 공개합니다. 두 카테고리와 관련한 수치는 기존에 저희가 사용하는 표준 메커니즘으로는 산출할 수가 없었으나, 2019년 1분기를 기준으로 사람들이 페이스북을 10,000번 정도 확인한다고 가정할 경우, 각 카테고리를 위반한 게시물이 세 건 미만일 것으로 나타났습니다.
- 위에 말씀드린 카테고리의 유포 빈도를 확인할 수 있는 수치는 앞으로도 지속적으로 개발할 예정입니다. 유포된 빈도에 관한 더 자세한 내용은 다음의 영상(영문)을 통해 확인하실 수 있습니다.
- 해당 수치는 성인 나체 이미지, 폭력적이고 자극적인 콘텐츠, 가짜 계정 카테고리에 대해 확인할 수 있습니다
- 조치를 취한 콘텐츠의 수: 커뮤니티 규정위반으로 페이스북이 조치를 취한 게시물의 수를 의미합니다. 콘텐츠를 삭제하거나, 콘텐츠에 경고창을 달거나, 계정을 삭제하는 등을 포함한 페이스북의 조치 횟수를 의미합니다. 이 수치는 사람들이 규정을 위반한 게시물을 얼마나 많이 올리는지, 그리고 페이스북이 그런 게시물들을 얼마나 적발하는 지를 보여줍니다.
- 가짜 계정의 경우, 일부 유해 행위자(Bad actors)가 한 번에 다수의 가짜 계정을 생성하기 위한 자동 공격을 실행한 적이 있어 그 수치가 증가하였습니다. 페이스북은 2018년 4분기에 12억개의 가짜 계정을, 2019년 1분기에는 21억 9천개의 가짜 계정을 삭제하였습니다. 이들 계정의 대부분은 1분 이내에 조치가 취해져 페이스북에서 어떠한 행위도 할 수가 없었으며, 당사의 ‘활동사용자’ 수치에도 전혀 반영되지 않았습니다. 페이스북은 앞으로도 저희 규정을 위반하려는 시도들을 막아낼 수 있도록 더 많은 방법들을 찾아 낼 예정입니다.
- 사전조치율: 누군가가 신고하기 전에 페이스북의 시스템이 먼저 발견한 위반 콘텐츠의 비율입니다. 이 수치는 특정 카테고리에서 AI가 얼마나 효과적인지를 보여줍니다.
- 보고서에 명시된 여섯 개의 카테고리에서, 95% 이상의 위반 콘텐츠가 이용자의 신고 전에 처리되었습니다.
- 혐오발언의 경우, 처음 수치를 공개했던 1년 전에 24%를 적발할 수 있었던 것에 비해, 현재는 65%를 적발할 수 있게 되었습니다. 2019년 1분기의 경우, 페이스북은 400만건의 혐오발언 게시물을 삭제했고, 더 많은 지역과 언어에 걸쳐 해당 콘텐츠를 관리하는 역량을 증대하기 위해 노력하고 있습니다.
새로이 추가된 내용: 이용자들의 이의제기, 그리고 실수를 고치는 일
페이스북은 보통 콘텐츠를 삭제할 때, 그 게시물을 올린 사람에게 이를 알리고, 그 사람이 저희의 결정이 실수라고 생각할 경우 이의를 제기할 수 있도록 하고 있습니다. 이번 세 번째 집행보고서부터, 이용자가 이의를 제기한 수치와, 이를 통해 처음 조치를 취했던 콘텐츠가 복구된 수치를 함께 공개하려고 합니다.
더 나은 콘텐츠관리를 위해 페이스북은 실수를 발견할 경우 바로 이를 시정하려고 합니다. 그것이 저희가 이용자의 이의제기를 통해 복구한 콘텐츠와, 이의제기가 없었더라도 저희가 스스로 실수를 발견하고 이를 복구한 콘텐츠의 수치도 함께 공개하는 이유입니다. 다음과 같은 경우 이의제기가 없더라도 콘텐츠를 복구합니다.
- 동일한 콘텐츠를 포함한 복수의 포스트를 관리하다가 실수가 생긴 경우, 이 중 한 분만 이에 대해 이의제기를 하더라도 동일 콘텐츠 모두를 복구합니다.
- 때때로 콘텐츠 리뷰의 과정에서 실수가 있었을 경우 이의제기와 상관없이 복구합니다.
- 또한, 스팸으로 의심되는 링크를 포함한 게시물을 삭제한 경우, 해당 링크가 스팸이 아닌 것으로 판명되면 관련 게시물을 복구합니다.
이번 리포트에는 가짜 계정을 제외한 2019년 1분기 관련 정보를 함께 공개합니다.
2019년 1분기에 복구된 콘텐츠에 대한 이의제기가 2018년 4분기에 이루어졌다던가, 2019년 1분기에 이의제기가 있었던 콘텐츠가 이미 2018년 4분기에 먼저 복구되었을 가능성도 있기 때문에, 특정 분기에 이의제기가 있었던 콘텐츠의 수와 실제로 복구된 콘텐츠의 수 사이에는 직접적인 연관성을 부여할 수 없습니다.
새로이 추가된 내용: 규제 상품 관련 데이터
페이스북은 무기 및 마약의 불법적인 판매를 막기 위한 규정을 오래전부터 가지고 있었습니다. 수년에 걸쳐, 저희는 다음과 같은 방법을 통해 이를 저지해 왔습니다: 기존에 제거한 콘텐츠와 관련된 프로필, 페이지, 그룹, 해시태그, 계정 등에 대한 조사, 마약판매와 관련된 수백 개의 은어, 비속어 등에 대한 차단과 필터링, 실생활에서 사람들이 마약을 가르킬 때 쓰는 새로운 표현 등을 포함해 나쁜 사람들이 어떤 방식으로 일하는지를 배우기 위한 전문가들과의 협력 등
2018년 여름부터 페이스북은 규제 상품을 판매려는 자들을 찾아내기 위해 AI를 사용하기 시작했습니다. 이러한 투자를 통해 대다수의 경우 사람들이 신고를 하지 않더라도 이러한 행동에 대해 조치할 수 있는 역량이 생겼습니다. 2019년 1분기의 경우, 페이스북은 약 90만건의 마약판매와 관련한 게시물을 처리했으며, 이중 83.3%에 대해 선제적인 조치가 이루어졌습니다. 같은 기간동안, 무기 판매와 관련된 게시물의 경우 약 67만건이 처리 되었으며, 이중 69.9%에 대해 선제적인 조치가 이루어졌습니다.
AI를 통해 이러한 위반행위에 선제적으로 대응할 수 있기 때문에, 페이스북 사람들은 새로운 방법으로 저희의 시스템을 악용하려고 하는 유해행위자들을 막는데 더욱 집중할 수 있습니다.
투명성을 위한 페이스북의 노력
지난 몇 년에 걸쳐, 페이스북은 콘텐츠 관련 정책을 개선하고 그 집행과 관련한 수치를 측정하는데 다양한 노력을 기울였습니다. 당사의 정책 관련해 페이스북은 정책 업데이트를 위한 격주 회의의 회의록을 공개하기 시작했으며, 커뮤니티 규정이 변화될 경우 그 상세 내역도 함께 웹사이트에 올려, 당사 정책에 어떤 변화가 있었는지 모든 사람들이 매달 볼 수 있도록 하고 있습니다. 더불어, 학술적인 연구를 위해, 페이스북의 콘텐츠 정책과 온라인 콘텐츠가 오프라인에 미치는 영향에 대해 살피는 전 세계 19개의 연구 프로젝트를 지원하고 있습니다.
독립적인 외부 전문가들의 눈으로 저희를 살피는 것 역시 페이스북이 더 나아지는데 있어 매우 중요한 요소입니다. 이를 위해 페이스북은 측정, 통계, 범죄학, 거버넌스 등의 국제 전문가들로 구성된 데이터 투명성 자문단(Data Transparency Advisory Group/ DTAG)을 구성하고, 커뮤니티 규정 집행 보고서를 통해 공개하는 수치가 실제 페이스북의 역할을 정확하고 의미 있게 반영하는지에 대한 독립적이고 공공성을 반영한 평가가 이루어 지도록 하고 있습니다. 페이스북은 이들에게 페이스북의 규정 집행 절차와 관련한 기업기밀에 해당하는 내용을 포함하는 구체적인 정보와 측정을 위한 방법론을 모두 공개해 정확한 평가가 이루어 지도록 하고 있으며, 이번 주에 이 독립보고서를 공개합니다. 이 평가서에서 자문단은 페이스북의 커뮤니티 규정 집행 보고서가 투명성 증대를 위한 중요한 역할을 하고 있으며, 당사의 방법론과 접근방식이 건전하고 합리적이라고 밝히고 있습니다. 또한 보고서에는 페이스북 플랫폼을 사용하는 분들에게 더욱 신뢰를 주고 이들을 더 잘 응대할 수 있도록 하기 위해 페이스북이 더 개방적으로 변할 수 있는 다른 영역들에 대한 내용도 포함되어 있습니다. 이 중요한 인사이트들이 페이스북이 앞으로 더 잘 일할 수 있도록 도움을 줄 것입니다.
페이스북은 앞으로 더욱 투명성을 높이고, 저희의 노력을 더 잘 전달해, 여러분이 보기에도 저희가 스스로의 부족함을 잘 알고 이를 개선하기 위해 애쓸 것이라는 믿음을 가질 수 있도록 노력하겠습니다.