10년 전 Facebook에서 콘텐츠를 검토하기 시작했을 당시, 이용자들이 부적절하다고 판단한 콘텐츠를 신고하면 해당 콘텐츠가 Facebook 규정을 위반했는지 전담 팀이 검토하고 삭제하는 방법에 의존했습니다. 그 후 10년 간 많은 변화가 있었습니다. 보다 투명한 기준을 발전시켜 온 것은 물론, 앞으로 콘텐츠 조치와 관련한 보다 까다로운 결정을 내릴 감독위원회를 구성하고 있습니다. 무엇보다 가장 큰 변화는 콘텐츠 조정에 있어 기술의 역할이 확대되었다는 점입니다. Facebook의 커뮤니티 규정 집행 보고서에서 알 수 있듯이, 규정을 위반한 콘텐츠를 감지하는 기술은 끊임없이 개선되고 있으며, 콘텐츠를 검토하는 영역에서도 더 큰 역할을 담당하고 있습니다. 기술이 핵심적으로 기능하는 주요 영역은 다음과 같이 세 가지로 요약해 볼 수 있습니다.
- 사전 감지: AI(인공지능)는 이용자에 의한 Facebook 콘텐츠 신고 방법에 의존하지 않고도 다양한 영역에서 규정 위반 콘텐츠를 탐지할 수 있을 정도로 향상되었습니다. 종종 이용자의 신고보다 훨씬 더 정확한 결과를 보여주고 있기도 하죠. AI는 유해 콘텐츠를 감지하고, 수많은 이용자들이 해당 콘텐츠에 노출되지 않도록 차단하는데 큰 역할을 하고 있습니다.
- 자동화: AI 덕분에 Facebook 콘텐츠 리뷰어들의 업무 범위도 확장되었습니다. Facebook의 AI 시스템은 콘텐츠의 규정 위반 가능성이 높은 특정 영역의 경우 자동으로 조치를 취하게 됩니다. 이러한 방식은 콘텐츠에 대한 조치를 확대함과 동시에 이러한 조치가 정확하게 내려지도록 지원하기 때문에, 리뷰어는 상황의 구체적인 문맥과 뉘앙스에 대한 이해가 필요한 콘텐츠를 리뷰하는데 더욱 집중할 수 있습니다. 또한, 자동화를 통해 동일한 콘텐츠에 대한 신고를 더욱 빠르게 처리할 수 있어 리뷰 시간이 줄어들게 됩니다. 이와 같은 자동화 시스템은 코로나바이러스감염증-19(이하 코로나19) 사태로 인해 다수의 콘텐츠 리뷰어들이 원격으로 근무하게 되면서 그 중요성이 더욱 높아지고 있습니다.
- 우선순위화: Facebook의 AI는 보고된 콘텐츠를 단순히 시간순으로 파악하는 대신, Facebook에 신고되었거나 사전감지 시스템에서 발견한 콘텐츠 모두를 대상으로 검토할 콘텐츠의 우선순위를 정합니다. 이는 확산 정도, 피해의 심각도, 위반 가능성과 같은 여러 요소를 기준으로 이용자에게 가장 유해한 콘텐츠의 우선 순위를 정하는 시스템입니다. Facebook 시스템은 규정 위반이 확실시 되는 콘텐츠를 삭제할 수 있습니다. 위반 여부가 확실하지 않은 경우, 콘텐츠의 우선순위를 정해 전담 팀이 먼저 검토할 수 있도록 합니다.
위와 같은 세 가지 측면에서 기술을 활용한 덕분에 콘텐츠 검토 절차를 혁신하고 대규모 콘텐츠 조정 능력을 크게 강화할 수 있었습니다. 그러나, 여전히 실제 사람에 의한 검토가 필요한 주요 영역이 있습니다. 예를 들어, 누군가가 괴롭힘을 당하고 있는지 판단하는 것은 전후 맥락을 잘 파악할 필요가 있는 조심스러운 문제일 가능성이 높습니다. 아울러, Facebook 담당 팀이 직접 실행한 검토 케이스에서 얻은 대량의 학습데이터는 AI가 유의미한 행동 패턴을 식별하고 규정 위반 가능성이 있는 콘텐츠를 찾기 위해 필수적입니다.
Facebook의 콘텐츠 검토 시스템이 성공적으로 작동하려면 사람과 기술 모두가 필요합니다. 따라서, Facebook은 사람이 직접 검토해야하는 필수 영역에 중점을 두고 기술이 더 큰 효과를 발휘할 수 있는 분야에서 그 역량을 확대하고 있습니다.
기술 활용 확대
Facebook은 스팸과 같은 규정 위반 사항을 검토하기 위해 수년간 자동화 우선 접근 방식을 성공적으로 활용해 왔습니다. 앞으로는 모든 유형의 규정 위반 사항에 걸쳐 자동화 시스템을 우선적으로 이용함으로써 더 많은 콘텐츠를 검토할 계획입니다. 위반 가능성이 매우 높은 경우, Facebook의 시스템을 통해 더 많은 콘텐츠를 사전에 탐지하고 제거하여 그보다 훨씬 중요한 업무를 검토 담당 팀에 배정하고자 합니다. 이러한 변화는 리뷰어들이 플랫폼 내 확산도 및 심각성이 낮은 콘텐츠 신고를 일일이 검토하지 않을 수 있도록 도와줍니다. 결정적으로, 이러한 방식은 이용자가 이의를 제기한 콘텐츠 검토, 자동화 시스템 품질 개선 및 측정에 더 많은 시간을 할애할 수 있도록 할 것입니다. 자동화 시스템 활용을 확대하면, Facebook은 관련 트렌드를 정확히 파악할 수 있을 뿐만 아니라 악의적으로 규정 위반 콘텐츠를 게시하려는 이용자에 효과적으로 대응할 수 있을 것입니다.
앞으로도 저희는 사람과 기술의 장점을 융합하여 규정 위반 콘텐츠를 더 빠르게 찾아 제거하고자 노력하고, 플랫폼의 안전을 유지하기 위해 최선을 다하겠습니다.