주요 내용:
- 사기범들이 단속을 피하기 위해 끊임없이 수법을 바꾸는 만큼, 저희는 이용자를 보호하고 사기범들이 사람들을 속이기 더 어렵게 만드는 새로운 방안들을 테스트하며 대응 체계를 강화하고 있습니다.
- 저희는 얼굴 인식 기술을 활용해 플랫폼 내 유명인 사칭 광고를 탐지하고 차단하는 작업을 테스트하고 있습니다.
- 또한, 이 기술을 통해 이용자가 신원을 인증하고 계정을 복구할 수 있도록 테스트 중입니다.
2025년 9월 28일 오후 9시 (태평양 시간 기준) 업데이트된 내용:
저희는 공인을 사칭하는 계정을 단속하기 위해 얼굴 인식 기술의 활용 범위를 유럽연합(EU), 영국, 그리고 한국으로 확대합니다. 추후 인스타그램으로도 해당 기술을 점차 확대해 나갈 계획입니다.
또한 한국에서는 얼굴 인식 기술을 활용해 유명인 사칭 사기를 탐지하고 차단할 예정입니다.
유명인 사칭 사기 대응 성과
사기 광고 대응의 진전을 측정하는 방법 중 하나는 이용자들의 사기 광고 신고를 살펴보는 것입니다. 이를 통해 이용자들이 어떤 광고를 문제로 지적하는지 알 수 있고, 새롭게 등장하는 사기 수법에 대한 유의미한 단서도 얻을 수 있습니다. 저희는 지난해부터 얼굴 인식 기술 활용을 포함해 유명인 사칭 사기를 차단하기 위한 다양한 조치를 시행해 왔습니다. 그 결과, 2025년 상반기에는 전 세계적으로 유명인 사칭 광고에 대한 신고가 전체 광고 노출 수 대비 22% 감소했습니다.
저희의 자동화 시스템은 이러한 사기 광고가 사람들에게 도달하기 전에 탐지하는 능력이 계속 향상되고 있습니다. 특히, 얼굴 인식 기술 확대를 통해 테스트 단계에서 탐지 및 차단한 유명인 사칭 광고 규모가 두 배 이상 증가했으며, 현재 전 세계 약 50만 명에 달하는 공인들이 이러한 사기 광고에서 자신의 초상권이 악용되지 않도록 보호받고 있습니다.
2025년 7월 21일 오후 12시 30분(태평양 시간 기준) 업데이트된 내용:
공인이나 유명인이 아닌 일반 이용자에게 얼굴 인식 기술 활용이 어떤 영향을 미치는지에 대한 자세한 내용은 고객센터를 통해 확인하실 수 있습니다.
2025년 3월 4일 오후 10시 (태평양 시간 기준) 업데이트된 내용:
Meta는 사칭 사기 대응과 빠른 계정 복구를 지원하기 위해 얼굴 인식 기술을 활용한 조치를 한국과 영국 및 유럽연합의 국가에 도입합니다. 이는 규제 기관과의 지속적인 협의와 지난해 10월부터 다른 국가에서 진행된 테스트를 기반으로 적용 국가를 확대하는 것입니다.
앞으로 몇 주 안에 영국과 유럽연합 지역의 공인들은 앱 내 알림을 통해 얼굴 인식 기술을 활용한 ‘유명인 사칭 보호’ 기능을 옵트인(opt-in) 형태로 사용할 수 있다는 안내를 받게 됩니다. 이미 해당 기능이 제공되고 있는 국가에서는 보호 대상인 공인의 범위를 한층 더 확대할 예정입니다.
또한 곧 한국, 영국 및 유럽연합의 Facebook이나 Instagram 이용자들은 계정을 복구하려고 할 때, 셀카 동영상을 활용한 본인 인증 옵션을 선택할 수 있습니다. 얼굴 인식 기술을 사용한 셀카 동영상 신원 확인은 선택 사항이며, 보다 빠르고 쉬운 본인 인증 수단입니다.
Meta는 강력한 개인정보 보호 및 리스크 검토 과정을 거쳐 이번 방안의 도입을 면밀히 검토했으며, 주요한 보호 장치를 마련했습니다. 우리는 이용자가 해당 기술의 작동 방식을 이해할 수 있도록 정보를 제공하고, 이를 선택 사항으로 유지하며, 더 이상 필요하지 않은 얼굴 데이터는 즉시 삭제할 것을 보장합니다.
2024년 10월 21일 오후 3시 30분(미국 태평양시간 기준) 게시된 내용:
저희는 보안이 중요하다는 것을 잘 알고 있으며, 여기에는 소셜미디어 계정을 스스로 관리하고 사기로부터 자신을 지키는 것도 포함됩니다. 그렇기 때문에 Meta는 유명인 사칭 광고를 방지하고 더 신속한 계정 복구를 지원하기 위해 얼굴 인식 기술의 활용을 테스트하고 있습니다. 저희의 접근 방식을 공유함으로써 업계 전반의 온라인 사기 대응 역량 강화에 도움이 될 수 있기를 바랍니다.
유명인 사칭 광고 및 사칭으로부터 이용자 보호
사기범들은 주로 크리에이터나 유명인과 같은 공인의 이미지를 미끼로 삼아 사람들이 광고를 클릭하도록 하고, 이를 통해 개인정보 또는 송금을 요구하는 웹사이트로 유도합니다. ‘유명인 사칭 광고(celeb bait)’라고 불리는 이 수법은 Meta의 정책을 위반할 뿐 아니라 이용자들에게도 유해합니다.
물론 유명인이 등장하는 합법적인 광고도 많습니다. 하지만 유명인 사칭 광고는 실제 광고처럼 보이도록 설계되어 있기 때문에 쉽게 구별하기가 어렵습니다. 저희 광고 검토 시스템은 자동화 기술을 기반으로 매일 Meta의 플랫폼 전반에서 집행되는 수백만 건의 광고를 검토합니다. 이 과정에서 머신러닝 분류기를 활용해 모든 광고를 심사하며, 사기를 포함해 Meta의 광고 규정 위반 여부를 검토합니다. 자동화된 검토는 광고의 텍스트, 이미지, 동영상 등 다양한 요소를 종합적으로 분석하는 방식으로 이뤄집니다.
현재 저희는 유명인 사칭 광고를 탐지하기 위한 새로운 방법을 테스트하고 있습니다. 시스템이 특정 광고에 공인의 이미지가 포함되어 있고 사기일 가능성이 있다고 판단하면, 얼굴 인식 기술을 활용해 광고 속 얼굴과 공인의 Facebook 및 Instagram 프로필 사진을 비교합니다. 일치 여부를 확인한 뒤 해당 광고가 사기라고 판단되면 즉시 차단합니다. 이 과정에서 생성된 얼굴 데이터는 일회성 비교가 끝나는 즉시 삭제되며, 다른 목적으로는 일절 사용되지 않습니다.
소수의 유명인과 공인을 대상으로 진행한 초기 테스트에서 이러한 유형의 사기를 탐지하고 차단하는 속도와 효과가 향상되는 유의미한 결과를 확인했습니다. 앞으로 몇 주 안에 저희는 유명인 사칭 광고로 피해를 입은 더 많은 공인들에게 앱 내 알림을 보내, 이 보호 프로그램에 등록되었음을 안내할 예정입니다. 또한, 보호 프로그램에 등록된 공인은 언제든 계정 센터에서 이 기능을 해제(옵트아웃, opt-out)할 수 있습니다.
저희는 사기범들이 공인을 사칭하는 계정을 만들어 사람들을 속이고 사기성 콘텐츠에 참여하게 하거나, 금전을 송금하도록 유도하는 사례도 확인했습니다. 예를 들어, 특정 투자 상품을 유명인이 홍보했다고 속이거나, 무료 증정 이벤트를 미끼로 민감한 개인정보를 요구하는 방식입니다. 현재 Meta는 탐지 시스템과 이용자 신고를 통해 이러한 사칭 계정을 식별하고 있습니다. 또한 이러한 허위 계정을 더 빠르게 찾아내기 위해 추가적인 방법을 모색하는 중입니다. 이 추가적인 보호 방식은 얼굴 인식 기술을 활용해 의심스러운 계정의 프로필 사진과 공인의 Facebook 및 Instagram 프로필 사진을 비교합니다. 저희는 이 같은 방법을 비롯한 새로운 접근 방식을 곧 테스트 해볼 계획입니다.
계정 복구 지원
사람들은 비밀번호를 잊거나, 기기를 분실하거나, 사기범에게 속아 비밀번호를 넘겨주는 경우 Facebook 또는 Instagram 계정에의 접근을 잃을 수 있습니다. 계정이 해킹됐을 경우, 계정을 복구하기 위해 계정 소유자는 공식 신분증이나 본인의 이름이 포함된 공식 문서를 업로드해 신원을 확인하는 절차를 거칩니다.
Meta는 이제 셀카 동영상을 활용한 본인 확인 방식을 추가로 제공하며, 이를 통해 이용자가 계정에 대한 접근을 복구할 수 있도록 지원합니다. 이용자가 셀카 동영상을 업로드하면, 얼굴 인식 기술을 사용해 해당 동영상과 계정의 프로필 사진을 비교합니다. 이는 스마트폰의 잠금 해제나 기타 앱 접근 시 사용하는 본인 확인 방식과 유사합니다.
이용자가 업로드한 셀카 동영상은 즉시 암호화되어 안전하게 저장됩니다. 해당 영상은 이용자의 프로필에 노출되지 않으며, 친구, Facebook 및 Instagram의 다른 이용자에게 절대 공개되지 않습니다. 또한 비교 절차가 완료되면, 신원 일치 여부와 관계없이 모든 얼굴 데이터가 삭제됩니다.
셀카 동영상 인증은 계정 접근을 복구할 수 있는 옵션을 확장해 주며, 완료하는 데 1분밖에 걸리지 않는 가장 간편한 신원 확인 방법입니다. 해커들이 계정 복구 도구들을 악용하려는 시도를 계속하고 있는 가운데, 이 인증 방식은 기존의 문서 기반 신원 확인보다 악용의 위험성이 낮습니다.
책임감 있는 접근
사기범들은 단속을 피하기 위해 끊임없이 수법을 바꿉니다. Meta 역시 이에 맞서 앞서 나가기 위해 노력하며, 탐지와 대응 역량을 강화하기 위한 새로운 기술적 방어책을 계속해서 개발하고 테스트하고 있습니다. Meta는 강력한 개인정보 보호 및 리스크 검토 과정을 거쳐 이러한 방어책의 도입을 면밀히 검토했으며, 주요한 보호 장치를 마련했습니다. 우리는 이용자가 해당 기술의 작동 방식을 이해할 수 있도록 정보를 제공하고, 이를 선택 사항으로 유지하며, 더 이상 필요하지 않은 얼굴 데이터는 즉시 삭제할 것을 보장합니다. Meta는 사용자와 계정을 보호하기 위해 노력하고 있습니다. 이 분야의 특성상 항상 완벽할 수는 없다는 것을 잘 알지만, 얼굴 인식 기술이 보다 빠르고 정확하며 효과적인 보안을 제공할 수 있다고 믿습니다. 앞으로도 규제 기관, 정책 입안자 및 전문가들과 지속적으로 협의하며 발전시켜 나가겠습니다.