Antigone Davis, Facebook 글로벌 안전 책임자

 

Facebook의 가장 중요한 책임 중 하나는 Facebook에서 아동을 안전하게 보호하는 데 있습니다. 저희는 온라인에서 아동을 학대하는 행위나 콘텐츠에 대해서는 무관용 원칙에 따라 단호하게 대처하고 있으며, 400여 개 이상의 기관과 협력하여 개발한 안전 관련 프로그램 및 교육 자료를 통해 어린이들에게 인터넷이 보다 안전한 공간이 될 수 있도록 노력하고 있습니다. 지난 몇 년간 저희는 이미 알려진 아동 학대 이미지의 공유를 막는 사진 매칭 기술을 이용하고 있으며, 위반 사항 발견 시 미국 국립 실종 학대 아동 방지 센터(National Center for Missing and Exploited Children, NCMEC)에 신고하고 있습니다. 또한 저희 서비스를 이용할 수 있는 연령을 만 14세로 제한하고, 십대 청소년 이용자들의 경우 소통할 수 있는 대상을 한정하고 있습니다.

오늘은 아동 학대 퇴치를 위한 노력의 일환으로 개발해 온 새로운 기술에 대해 공유 드리고자 합니다. 사진 매칭 기술에 더불어, Facebook은 아동 노출 콘텐츠 및 알려지지 않은 아동 학대 콘텐츠가 업로드 된 경우 사전에 이를 감지하고자 인공 지능 및 머신 러닝을 이용하고 있습니다. 이외에도 여러 기술을 이용하여 더욱 빠르게 이러한 콘텐츠를 식별하고 NCMEC에 신고합니다. 또한 Facebook에서 아동과 잠재적으로 부적절한 소통을 시도하는 계정을 식별하여 이들을 퇴출하고 추가적인 피해를 막기 위해 노력하고 있습니다.

Facebook의 커뮤니티 규정은 아동 학대를 엄격하게 금지하고 있으며, 잠재적인 학대 행위를 방지하기 위해 성(性)적이지 않은 콘텐츠, 예를 들어 큰 문제가 없어 보이는 아이들의 목욕 장면 등에 대해서도 조치를 취합니다. 이러한 포괄적인 접근을 통해, 지난 분기 동안 아동 노출 또는 아동 성적 학대 규정을 위반한 8백 7십만여 개의 콘텐츠가 Facebook에서 삭제되었으며, 그중 99%는 다른 이용자의 신고가 접수 되기 전에 이루어졌습니다. 또한 이러한 유형의 콘텐츠를 올린 계정들도 삭제되었습니다. 저희는 사법기관, 온라인 안전, 분석, 포렌식(forensic)수사 등의 경력을 가진 특수 팀을 통해 콘텐츠를 검토하고, 발견한 내용을 NCMEC에 신고합니다. NCMEC에서는 접수된 신고에 따라 전 세계 사법기관과의 공조를 거쳐 피해자를 돕습니다. 이와 더불어, 저희는 사법기관에 공유하는 신고 건들의 심각성에 따라 순서대로 조치를 취할 수 있도록 우선 순위를 분류해주는 신규 소프트웨어 개발을 지원하고 있습니다.

또한 다양한 온라인 기술에 걸쳐 아동에 대한 성적 학대를 막고 예방하기 위해 안전 관련 전문가, NGO 및 다른 기업들과 협력하고 있습니다. 아동 학대 근절을 위해 함께하고 있는 기관에는 Tech Coalition, Internet Watch Foundation, WePROTECT Global Alliance to End Child Exploitation Online 등이 있습니다. 다음 달에는 Microsoft 및 업계 파트너들과 함께, 아동에게 의도적으로 접근하여 경계심을 낮추려는 행위(그루밍, Grooming)를 방지하기 위해 소규모 회사들이 이용할 수 있는 도구 개발에 착수할 예정입니다.

자세한 관련 내용은 facebook.com/safety에서 확인해보시기 바랍니다.