Meta

오류는 줄이고, 표현의 자유는 넓힌다

조엘 카플란 글로벌 정책 총괄
https://about.fb.com/ko/wp-content/uploads/sites/16/2025/01/V2.Single-Take-CS25_MZ_JanAnnouncement_v09_16x9.mp4?_=1


주요 내용

Meta의 플랫폼은 사람들이 자유롭게 자신을 표현할 수 있는 공간으로 설계되었습니다. 수십억 명의 사람들이 목소리를 낼 수 있는 플랫폼에서는 긍정적인 것, 부정적인 것, 때로는 불쾌한 것까지도 모두 드러날 수 있어 혼란스러워 보일 수도 있습니다. 그러나 이것이 바로 자유로운 표현의 본질입니다.

2019년 조지타운 대학교 연설에서 마크 저커버그는 자유로운 표현이 미국 사회와 전 세계 발전을 이끌어온 원동력이라고 주장하며, 발언을 억제하는 것이 아무리 선한 의도에서 비롯되었다 하더라도 사람들에게 권한을 부여하기보다는 기존의 제도와 권력 구조를 강화하는 결과를 낳을 수 있다고 말했습니다. 그는 “일부 사람들은 더 많은 이들에게 발언권을 부여하는 것이 사람들의 결집보다는 분열을 초래한다고 믿습니다. 자신이 중요하다고 생각하는 정치적 결과를 얻는 것이 모든 이가 발언권을 갖는 것보다 더 중요하다고 여기는 이들도 있습니다. 저는 이것이 매우 위험하다고 생각합니다.”라고 밝혔습니다.

최근 몇 년 동안 저희는 Meta 플랫폼 전반에 걸쳐 콘텐츠를 관리하기 위한 점점 더 복잡한 시스템을 개발해왔습니다. 이는 물론 사회적, 정치적 압력에 대응하기 위한 부분도 있었지만, 결과적으로 저희의 접근 방식은 과도해졌습니다. 선의에서 시작된 노력임에도 불구하고, 시간이 지남에 따라 많은 실수들이 발생하였고 이용자들을 실망시켰으며 처음 목표로 했던 자유로운 표현을 저해하는 결과를 초래했습니다. 무해한 콘텐츠가 과도하게 검열되고, 이용자들이 부당하게 ‘페이스북 감옥’에 갇히는 일이 발생했습니다. 이런 상황에서 저희는 종종 적시에 대응하지 못했습니다.

저희는 이러한 문제를 바로잡고 자유로운 표현에 대한 근본적인 약속으로 돌아가고자 합니다. 그리고 이러한 이상을 더욱 충실히 실현하기 위해 몇 가지 변화를 발표합니다.

제3자 팩트 체크 프로그램 종료 및 커뮤니티 노트로의 전환

2016년에 독립적인 팩트 체크 프로그램을 처음 도입했을 때, 저희는 진실의 중재자가 되고 싶지 않다는 점을 분명히 했습니다. 당시 저희는 가장 합리적이고 최선의 선택이라고 판단해, 이 책임을 독립적인 팩트 체크 기관에 맡기기로 결정했습니다. 해당 프로그램의 목적은 이러한 독립적인 전문가들이 사람들이 온라인에서 접하는 정보, 특히 바이럴 사기에 대한 더 많은 자료를 제공함으로써, 이용자들이 이를 스스로 판단할 수 있도록 돕는 것이었습니다.

그러나 이 프로그램은, 특히 미국에서, 기대와는 다르게 운영되었습니다. 전문가들도 다른 사람들과 마찬가지로 자신만의 편견과 관점을 지니고 있으며, 이는 어떤 내용을 팩트 체크 할지와 그 방법에서 드러났습니다. 시간이 지나면서 정당한 정치적 발언과 토론으로 이해될 수 있는 내용들까지 지나치게 팩트 체크되는 사례가 많아졌습니다. 그 결과 저희 시스템은 거슬리는 라벨을 부착하거나 콘텐츠 노출을 줄이는 방식으로 실질적인 영향을 미쳤습니다. 정보를 제공하기 위해 설계된 프로그램이 너무 자주 검열 도구로 변질되곤 했습니다.

이제 Meta는 이러한 접근 방식을 바꾸려고 합니다. 저희는 현재 미국에서 진행 중인 제3자 팩트 체크 프로그램을 종료하고 이를 커뮤니티 노트(Community Notes) 프로그램으로 전환할 것입니다. 이는 소셜미디어 X에서 이미 효과가 입증된 접근 방식으로, 커뮤니티가 게시물 내용에 오해의 소지가 있는지 판단하고 추가적인 맥락이 필요한 경우 다양한 관점을 가진 이용자들이 이를 결정하여 정보를 제공합니다. 이를 통해, 저희가 원래 의도했던 정보 제공 목적을 편향 없이 달성할 수 있을 것으로 기대합니다.

Meta는 우선 미국에서 커뮤니티 노트를 점진적으로 도입할 계획이며, 올해 내내 이를 개선해 나갈 예정입니다. 이러한 전환을 진행하면서, 저희는 팩트 체크 통제를 폐지하고 팩트 체크된 콘텐츠의 노출을 줄이는 방식을 중단할 것입니다. 또한, 게시물을 보기 전에 클릭해야 하는 전체 화면 경고 대신, 해당 게시물에 대한 추가 정보를 확인할 수 있음을 알리는 덜 방해되는 라벨을 적용할 예정입니다.

더 많은 발언 허용

Meta는 시간이 지나며 플랫폼 내 콘텐츠를 관리하기 위해 복잡한 시스템을 개발해 왔지만, 이러한 복잡한 시스템은 실제 시행하는데 어려움이 많았습니다. 그 결과, 규정을 과도하게 적용하게 되어 정당한 정치적 토론이 제한되고, 사소한 콘텐츠가 검열되며, 많은 사람들이 불필요한 제재를 경험하는 일이 발생했습니다.

예를 들어, Meta는 2024년 12월에 매일 수백만 건의 콘텐츠를 삭제했습니다. 삭제된 콘텐츠는 매일 생성되는 콘텐츠의 1% 미만에 해당하지만, 10건 중 1~2건은 실수(즉, 해당 콘텐츠가 실제로 정책을 위반하지 않았을 수 있음)가 있었을 것으로 판단됩니다. 이는 악의적인 대규모 스팸 공격에 대응하기 위해 취한 조치들은 포함하지 않은 수치입니다. Meta는 투명성 보고 범위를 확대해 실수와 관련된 데이터를 정기적으로 공유함으로써 사람들이 저희의 진행 상황을 추적할 수 있도록 할 계획입니다. 그 일환으로 스팸에 대응하는 과정에서 발생하는 실수에 대한 더 많은 세부 정보를 제공할 예정입니다.

Meta는 규정이 지나치게 제한적이고 과도하게 집행되는 문제를 해결하기 위해 노력하고 있습니다. 종종 정치적 담론과 토론의 대상이 되는 이민, 성 정체성, 성별 등의 주제에 대한 여러 제한을 없애고 있습니다. TV나 의회에서 말할 수 있는 내용이 저희 플랫폼에서는 허용되지 않는 것은 옳지 않습니다. 이러한 정책 변화가 완전히 적용되기까지는 몇 주가 소요될 수 있습니다.

또한, 검열 과정에서 발생하는 대다수의 오류를 줄이기 위해 정책 실행 방식을 변경할 예정입니다. 지금까지는 자동화된 시스템을 사용해 모든 정책 위반 사항을 감지했지만, 이로 인해 너무 많은 실수와 불필요한 콘텐츠 검열이 발생했습니다. 따라서, 저희는 이러한 시스템을 테러, 아동 성 착취, 마약, 사기 및 스캠과 같은 불법적이고 중대한 위반 사항에 집중적으로 적용할 계획입니다. 덜 심각한 정책 위반 사항의 경우, 신고를 기반으로 조치를 취하는 방식을 도입할 예정입니다. 또한, 시스템이 기준 위반 가능성이 있다고 예측되는 콘텐츠를 과도하게 노출 억제시키는 관행을 대폭 줄이고, 나머지 콘텐츠에 대해서는 더 높은 확신이 있을 때만 조치를 취하도록 시스템을 조정하고 있습니다. 이러한 변화의 일환으로, 콘텐츠 정책을 작성하고 검토하는 신뢰 및 안전 팀을 캘리포니아에서 텍사스 및 다른 미국 지역으로 이전할 예정입니다.

사람들은 종종 저희의 집행 결정에 이의를 제기하고 재검토를 요청할 수 있지만, 그 과정은 매우 느리고 항상 만족스러운 결과를 얻지는 못했습니다. 이를 개선하기 위해 추가 인력을 투입하고, 최종 결정까지 더 많은 검토자가 과정에 참여하도록 하고 있습니다. 저희는 계정 복구 작업을 보다 간단하게 만들 방법을 모색하고 있으며, 안면 인식 기술을 테스트하고 있습니다. 또한, 저희는 조치를 취하기 전 일부 콘텐츠에 대해 AI 대규모 언어 모델(LLMs)을 활용해 2차 의견을 제공하는 시스템을 도입하기 시작했습니다.

정치 관련 콘텐츠에 대한 개인화된 접근 방식

Meta는 2021년부터 사용자들의 피드백을 반영하여 선거, 정치, 사회 문제와 관련된 게시물의 노출을 줄여왔습니다. 그러나 이는 다소 단순한 접근 방식에 그쳤습니다.  이제 Meta는 Facebook, Instagram, Threads에서 정치 관련 콘텐츠를 더 보고 싶어 하는 이용자들을 위해 더욱 개인화된 접근 방식을 도입하고, 점진적으로 해당 콘텐츠를 피드에 다시 반영할 예정입니다.

Meta는 개인화된 경험을 제공하기 위해 다양한 방식을 지속적으로 실험하고 있으며, 최근에는 사회 이슈 콘텐츠와 관련된 테스트를 진행했습니다. 그 결과, Facebook은 이용자가 팔로우하는 사람 또는 페이지에서 제공하는 사회 이슈 콘텐츠를 다른 피드 콘텐츠와 동일한 방식으로 다룰 계획입니다. Meta는 콘텐츠에 좋아요를 누르는 명시적 신호와 게시물을 시청하는 암시적 신호를 기반으로 콘텐츠 순위를 매기며, 이를 통해 사용자에게 의미 있는 콘텐츠를 예측해 표시하고자 합니다. 또, 이러한 개인화된 신호를 활용해 정치 관련 콘텐츠 추천을 늘리고, 이용자가 해당 콘텐츠의 노출 정도를 조절할 수 있는 옵션도 확대할 계획입니다.

이러한 변화는 마크 저커버그가 조지타운 연설에서 강조한 표현의 자유에 대한 비전을 실현하려는 노력의 일환입니다. 이는 당사의 정책과 시스템이 사람들이 자신의 목소리를 낼 수 있는 능력에 어떤 영향을 주는지 면밀히 살피고, 잘못된 점이 확인되면 이를 인정하고 수정하는 겸손한 태도를 유지하겠다는 Meta의 의지를 반영한 것입니다.