사칭 및 사기는 법 집행 기관과 함께 많은 업계가 해결하기 위해 노력하고 있는 사회 전반의 과제입니다. 타인을 사칭하는 악의적인 사기범들은 인터넷, 전화, 문자 및 기타 다양한 수단을 통해 활동하고 있으며, 그들의 수법은 끊임없이 진화하며 정교해지고 있습니다.
Meta는 우리의 플랫폼 상에서도 이러한 사칭 계정들이 존재하며 사기 행위를 행하고 있다는 사실을 인지하고 있습니다. 공인을 사칭하여 다른 사람의 돈이나 개인정보를 갈취하는 광고는 Meta의 커뮤니티 규정과 광고 규정에 위배됩니다. 이러한 유형의 광고에 대응하기 위해 메타는 상당한 기술적, 인적 자원을 투입해왔으며, 정책을 위반하는 계정, 페이지 및 광고를 정지하거나 삭제하는 등 단속을 대폭 강화했습니다. 특히, 교묘해지는 수법에 대응해 유명인 사칭 광고에 대한 추가 탐지 모델을 구축하기도 했습니다. Meta는 커뮤니티의 안전과 보안을 위한 인력과 기술에 2016년부터 200억 달러 이상을 투자해오고 있으며, 현재 4만 명 이상의 인력이 커뮤니티의 안전을 위해 일합니다.
그 결과, 2023년 4분기에만 사칭광고 계정을 포함해 총 6억 9천 1백만개의 가짜계정이 Facebook과 Instagram에서 삭제됐으며, 이들 중 99.2%는 이용자로부터 신고가 접수되기 전 선제적으로 조치가 취해졌습니다. 앞으로도 플랫폼의 안전을 위한 투자를 확대해나갈 방침입니다.
사칭 광고 근절을 포함한 커뮤니티 안전을 위해 Meta가 행하고 있는 노력을 아래에 자세히 소개해드립니다.
Meta 커뮤니티 규정
‘진실성’은 Meta 커뮤니티에서 매우 중요한 부분입니다. Meta는 이용자들의 자유로운 자기표현은 안전하고 신뢰할 수 있는 커뮤니티 환경에서 가능하다고 믿습니다. 이에 커뮤니티 정책에 따라 사칭 및 신원 도용을 금지하고, 커뮤니티의 보안을 위협하거나 유해한 계정을 삭제합니다.
다른 사람을 오도하거나 속이기 위해서, 또는 커뮤니티 규정을 위반하기 위해 고의적으로 신원을 사칭하는 계정을 만들거나 사용하는 경우 Meta 서비스를 이용할 수 없으며, 계정이 삭제 또는 비활성화됩니다.
Meta는 오해의 소지가 있는 신원 사칭을 평가할 때 다음과 같이 여러 요인을 고려합니다.
- 신원 상세 정보(예: 이름, 나이)의 반복적이거나 상당한 변경
- 오해의 소지가 있는 프로필 정보(예: 소개 상세 정보, 프로필 위치)
- 이미지 모음 또는 도난당한 사진의 사용
- 기타 관련 계정 활동
다음과 같은 방법으로 다른 사람을 사칭하는 경우도 엄격히 금지합니다.
- 다른 사람을 속이려는 명백한 목적으로 사진을 사용.
- 다른 사람 또는 행위 주체를 칭하거나 이를 대변하는 것처럼 보이는 계정 생성.
- 사용자가 허용되지 않은 다른 사람 또는 행위 주체인 척하거나 이를 대변하는 것처럼 보이는 페이지 생성.
커뮤니티에 해를 입힐 수 있는 플랫폼 내 사기 및 기만 행위도 단속합니다. 금품이나 재산을 얻기 위해 타인을 의도적으로 속이거나, 고의적으로 다르게 표현하거나, 기타 다른 방식으로 착취하는 콘텐츠는 삭제됩니다. 높은 수익률을 약속하는 투자사기나 이러한 행위를 안내, 홍보, 조장, 촉진 및 관련 참여자를 모집하는 행위도 금지됩니다. 이밖에 보다 자세한 규정을 확인하시려면 여기를 참고하시길 바랍니다.
광고 규정
광고주 역시 Meta 테크놀로지에서 광고를 게재할 때 계정의 실제 신원을 이용해야 합니다. 광고를 게재하는 주체의 책임과 투명성은 Meta 광고 에코시스템의 무결성에 매우 중요하며, Meta는 사람과 비즈니스가 진정성 있는 관계를 맺을 수 있길 바랍니다.
이에, 허위 사용자 계정, 광고 계정, 페이지 또는 비즈니스 계정을 사용하여 광고를 게재한 사실이 발견될 경우 광고주의 광고가 제한됩니다. 또한 허위 사용자 계정을 제한하거나 삭제하고 있습니다.
구체적으로 다음과 같은 행위는 금지됩니다.
- 허위 사용자 계정, 페이지, 광고 계정 또는 비즈니스 계정을 사용하여 Meta 테크놀로지에서 광고를 게재하는 행위
- 인증되지 않은 자산과 관련되거나 이에 연결된 비즈니스 자산(예: 허위 사용자가 설정한 광고 계정이 여러 개 연결되어 있는 비즈니스 계정)을 관리하는 행위
- 스크립트 수단 또는 기타 허위 수단으로 비즈니스 자산을 만들거나 사용하는 행위
또한 허용되지 않는 비즈니스 관행 규정을 통해 이용자를 보호합니다. 광고는 다른 사람의 돈이나 개인정보를 갈취하기 위해 만들어진 제품을 포함하여, 거짓 정보를 제공하거나 오해의 소지가 있는 방식을 사용해 제품, 서비스, 기법 또는 쿠폰을 홍보할 수 없습니다.
위 규정에 따라, 사람들을 유인하기 위해 유명인의 이미지 및 오해의 소지가 있는 전략을 활용하는 행위는 금지됩니다. 구체적인 가이드라인은 다음과 같습니다.
- 사람들이 광고에 참여하도록 유인하기 위해 유명인의 이미지 및 오해의 소지가 있는 전략을 활용하는 행위
- 민감한 정보를 구매하거나 공유하도록 사람들을 호도하기 위해 제품 또는 서비스의 성과에 대한 거짓 정보를 제공하거나 과장된 주장을 이용하는 행위
- 사람들을 호도하거나 민감한 정보를 공유해 달라고 요청하기 위해 주체, 업계 협회 또는 언론 매체를 사실과 다르게 기재하여 재정적 혜택을 약속하는 행위
특히 다음과 관련된 기법에서 이러한 유형의 위반 행위가 많이 발생하므로, 이용자들의 각별한 유의를 권장합니다.
- 투자 또는 뱅킹 기회
- 건강 또는 체중 감량
- 신원 조사
- 비자 또는 비자 추첨
- 자선
- 무료 제품 또는 서비스를 홍보하는 오해의 소지가 있는 기법
- 금전 정산금을 제공하는 완전 무료로 참여 가능한 승자 독식 게임 앱
- Facebook이나 Instagram에서 좋아요 또는 팔로워 수를 늘릴 수 있다고 주장하는 제품 또는 서비스
- 존재하지 않는 기능이 포함된 제품 또는 서비스
지속적인 노력과 투자 확대
Meta는 플랫폼상 사기 행위를 탐지, 예방하고, 이러한 탐지 시스템을 교묘히 피해가려는 계정에 대한 조치에 상당한 자원을 투자하고 있습니다. 또한 방송통신위원회와 같은 유관기관과 적극 협력하며 유명인 사칭 광고 근절을 위해 노력합니다. 저희의 모니터링 시스템을 고의로 우회하는 사기범들의 새로운 범죄 수법을 파악하고자 사법당국과도 긴밀히 소통하고 있습니다. 특히, 점점 더 교묘해지는 수법을 학습해 유명인 사칭 광고에 대한 추가 탐지 모델을 구축했습니다. Meta의 노력은 다음과 같습니다.
광고 사전&사후 검토 시스템
Meta는 주로 자동화된 도구를 사용해 광고나 비즈니스 자산이 우리의 커뮤니티 정책을 준수하는지 확인합니다. 광고가 게재되기 전 필수적으로 진행되며, 만약 정책을 위반할 경우 게재될 수 없습니다. 개별 광고를 검토하는 것을 넘어, 보다 정확한 판단을 위해 광고주의 행태도 면밀히 살펴봅니다. 예를 들어, 과거에 얼마나 많은 광고가 거부되었는지, 위반 수준이 어느 정도인지, 광고 검토 시스템을 통과하기 위해 어떤 시도를 했는지 등을 확인합니다.
또한, Meta의 광고 검토 시스템에 노출되는 콘텐츠와 실제 사람들에게 노출되는 콘텐츠를 다르게 표시하는 ‘클로킹’ 행위로 Meta의 광고 검토 절차를 고의로 피하거나 우회하고, 정책에 위반하는 제품으로 사람들을 유인하는 계정에 대해 법적 조치를 취하고 있습니다.
검색어 차단 및 확산 방지
Facebook과 Instagram은 사기 행위나 가짜 리뷰, 미끼성 표현들과 관련된 특정 검색어들을 차단하고 있습니다. 또한 과거에 커뮤니티 정책을 위반한 적 있는 Facebook 그룹이나 페이지는 피드와 추천 탭에서 덜 노출되도록 조치를 취했습니다. 클릭과 특정 반응을 유도하는 링크를 포함한 미끼성 콘텐츠나 불필요한 이용자 정보를 요구하는 웹사이트 URL을 포함한 콘텐츠는 이용자들에게 덜 보여집니다. 또한 이러한 유형의 콘텐츠는 알고리즘에 의해 추천되지 않습니다.
계정 진위성 확인
Meta는 만약 어떤 계정이 사기 행위에 연루되어 있다고 보이면, 해당 계정이 가짜계정이거나 사칭 계정이 아님을 증명하도록 요구합니다. 계정의 진위성을 입증하기 전까지 해당 계정은 다른 이용자들에게 도달할 수 없습니다. 만약 계정 소유자가 진위성 입증을 실패하거나, Meta의 검토 인력이 커뮤니티 규정을 위반하는 요소가 있다고 판단할 경우, 해당 계정은 삭제됩니다.
커뮤니티 안전과 보안을 위해 4만 명 이상의 전문 인력이 투입됩니다. 이들은 수동과 자동 시스템 두 가지를 모두 활용하며, 계속해서 시스템을 고도화해나가고 있습니다. 이를 통해 회원가입, 친구 맺기, 좋아요, 메시지 보내기 등 Meta의 다양한 서비스에서 행해지는 의심스러운 행동을 모니터링합니다. 또한 비즈니스 계정은 특정 도구나 기능을 사용하기 전에, 해당 비즈니스의 신원과 대표자를 확인하는 인증 절차를 거치도록 요구하고 있습니다.
가짜계정 삭제
사기 행위는 주로 가짜계정을 통해 행해지는 경우가 많기 때문에, Meta는 가짜계정을 감지하고 정지시키는 데 끊임없이 노력하고 있습니다. 가짜계정 근절을 위해 Meta는 가짜계정의 생성 자체를 예방하고, 감지 및 삭제하는 기술을 이용하고 있습니다. 이를 통해 매일 가짜계정을 생성하려는 수백만 번의 시도를 무력화하고 있으며, 계정이 생성된다면 몇 분내에 이를 감지해냅니다.
반복적 규정 위반 계정에 대한 조치
이용자들을 위한 안전한 환경을 유지하기 위해, Meta는 커뮤니티에 유해한 계정이나 단체를 삭제합니다. Meta는 규정 위반의 심각성과 커뮤니티에 대한 유해성에 비례해 패널티를 적용합니다. 반복적인 경고와 제한에도 불구하고 규정 위반이 반복된다면, 해당 계정은 비활성화됩니다. Meta는 지속적으로 커뮤니티 규정을 위반하는 계정을 차단하고 삭제할 수 있는 시스템을 구축했습니다. 이 시스템은 자동화된 기술과 수동 시스템을 함께 활용합니다. 또한 우리의 조치를 피하고 우회하기 위해 만들어지거나 조작된 계정 역시 비활성화됩니다. 그리고 이러한 계정은 앞으로도 광고를 게재할 수 없습니다.
조치 상황 및 결과
이러한 지속적인 투자와 노력의 결과, 지난 2023년 4분기에만 다음과 같은 조치가 취해졌습니다.
- 6억 9천 1백만 개의 가짜계정이 Facebook과 Instagram에서 삭제되었습니다.
- 가짜계정의 99.2%는 이용자가 신고하기 전 발견돼 선제적으로 조치가 취해졌습니다.
- Facebook과 Instagram에 있는 9억 6천 4백만 개의 스팸 콘텐츠에 조치가 취해졌으며, 선제적으로 조치가 취해진 콘텐츠의 비율이 99.1%에 달합니다.
Meta는 여기서 멈추지 않고, 이용자의 돈이나 자산을 갈취하고, 타인을 기만하거나 사칭하는 계정을 단속하고 차단할 수 있는 더 나은 방법을 모색하기 위해 계속해서 노력하겠습니다.
교육 리소스 제공
이용자들 또한 메타의 정책을 위반하는 것으로 보이는 콘텐츠를 신고할 수 있으며, 이용자들이 사기 행위를 발견하고 피해를 예방할 수 있도록 돕는 다양한 교육 캠페인을 글로벌 차원에서 진행하고 있습니다. 그간 진행해온 캠페인과 제공된 교육 리소스는 여기에서 확인하실 수 있습니다. 올해에도 아시아태평양 지역과 국내에서 이용자들의 피해 예방을 위한 캠페인을 진행할 계획입니다. 보다 자세한 내용은 추후 공유드리겠습니다.
Meta는 안전하고 신뢰할 수 있는 플랫폼 환경을 조성하기 위해 관련 기관과의 협력을 지속하며, 이를 위한 노력을 아끼지 않겠습니다.