Facebook이 악성 콘텐츠를 일반 게시물로 위장하는 이른바 ‘클로킹(Cloaking)’ 수법을 차단하기 위한 시스템 도입이 성공적인 결과를 거뒀다고 밝혔습니다. 이는 사람들을 현혹하는 허위 페이지 및 게시물을 차단하고자 하는 노력의 일환으로 인공지능 시스템을 기반으로 합니다.
클로킹은 금전적인 이익을 목표로 악용되는 방식 중 하나로, 일반 게시물로 위장한 링크를 통해 당국의 승인을 받지 않은 의약품이나 음란물처럼 불쾌감을 주는 사이트로 사람들을 현혹할 때 사용됩니다.
클로킹은 게시물 관리자의 IP를 자동으로 판별합니다. 해당 IP가 게시물을 모니터링할 때는 정상적인 웹사이트로 연결하는 반면, 일반 사용자가 링크를 클릭하면 악성 웹사이트로 연결합니다. 이런 수법을 통해 Facebook 커뮤니티 규정을 위반하는 악성 게시물을 관리하기 위한 모니터링 작업에 혼선을 초래했었습니다.
Facebook은 이러한 클로킹 수법에 대응하기 위해 지난 수 개월 동안 광고, 게시물, 페이지 관련 모니터링을 확대하고 정책을 강화했습니다. 특히, 클로킹과 연관된 게시물 검토를 위해 인공지능을 활용하고 모니터링 전문 인력을 추가로 투입했으며, 그 결과 커뮤니티 규정을 위반한 것으로 판단되는 게시물이나 페이지, 계정 등에 삭제 조치를 내렸습니다. 현재까지 클로킹 관련 사례로 적발된 경우는 수천 건에 달합니다.
Facebook은 향후 다른 기업들과의 협업을 통해 허위 콘텐츠와 광고를 차단하는 노력을 강화할 것 입니다. 또한, 커뮤니티 규정 및 광고 정책 위반 사례를 효과적으로 관리할 수 있는 다양한 방법도 지속적으로 모색해 나갈 예정입니다.