Community Notes undermoderate polarizing content by design creating risks in electoral processes

이 논문은 X 의 커뮤니티 노트 시스템이 교차적 지지를 기반으로 작동하는 설계 특성상 양극화된 선거 관련 콘텐츠를 체계적으로 과소 규제하여 선거 과정과 시민 담론에 잠재적 위험을 초래할 수 있음을 13 개국 190 만 건의 데이터를 통해 입증했습니다.

Paul Bouchaud, Pedro Ramaciotti

게시일 Thu, 12 Ma
📖 3 분 읽기☕ 가벼운 읽기

Each language version is independently generated for its own context, not a direct translation.

🏛️ 커뮤니티 노트: "모두가 동의하는 사실 확인관"

X 의 커뮤니티 노트는 전문가가 아니라 일반 사용자들이 모여 허위 정보를 지적하는 시스템입니다.

  • 작동 원리: 누군가 "이 글은 거짓말이다"라고 메모 (노트) 를 달면, 다른 사람들이 "도움이 되는가?"라고 평가합니다.
  • 핵심 규칙: 이 메모가 모든 사람에게 보여지려면, 정치적 성향이 완전히 반대인 사람들 (예: 보수파와 진보파) 이 모두 "도움이 된다"고 동의해야만 합니다.

🎯 연구의 핵심 발견: "중립은 좋지만, 극단적인 문제는 놓친다"

연구진 (파울 부슈와 페드로 라마치오티) 은 전 세계 13 개국의 데이터를 분석했습니다. 결과는 다음과 같습니다.

1. 시스템은 정치적 성향을 잘 파악합니다

X 의 알고리즘은 사용자들이 어떤 정치적 성향 (좌파 vs 우파) 을 가지고 있는지, 그리고 메모가 어떤 성향의 글을 공격하는지 수학적으로 매우 정확하게 파악합니다.

  • 비유: 마치 정교한 나침반처럼, 이 시스템은 "이 메모는 진보파가 싫어하고 보수파는 좋아한다"거나 "반대다"를 정확히 구분해냅니다.

2. 하지만 '극단적인 논쟁'은 해결하지 못합니다 (가장 중요한 부분!)

시스템의 설계 목적은 '양쪽이 모두 동의하는 메모'만 보여주는 것입니다. 문제는 **정치적으로 가장 뜨거운 이슈 (예: 선거, 전쟁, 인종 갈등)**는 양쪽이 절대 동의할 수 없다는 점입니다.

  • 비유:
    • 일반적인 사기 (Scam): "이 사이트는 사기다"라고 하면, 진보파도 보수파도 "맞아, 사기야"라고 모두 동의합니다. → 메모가 성공적으로 표시됩니다.
    • 정치적 논쟁: "후보 A 는 부패했다"라고 하면, 지지자들은 "아니야, 거짓말이야"라고 하고 반대편은 "그래, 맞다"라고 합니다. 서로가 서로의 메모를 "도움이 안 된다"고 평가합니다.
    • 결과: 시스템은 "아, 이 메모는 양쪽이 싸우고 있구나. 이건 중립적이지 않아. 숨겨버리자"라고 판단합니다.

3. 선거 기간에는 특히 위험합니다

연구진은 2024 년 미국, 영국, 프랑스 선거와 2025 년 독일 선거 데이터를 분석했습니다.

  • 발견: 선거 관련 메모는 다른 주제 (예: 스포츠, 연예) 에 비해 도움 되는 메모 (Helpful Status) 로 선정될 확률이 훨씬 낮았습니다.
  • 이유: 선거는 사람들이 가장 감정적으로 갈라지는 시기이기 때문입니다. 시스템이 "중립"을 고집하다 보니, 가장 시급하게 사실 확인이 필요한 정치적 허위 정보는 오히려 시스템이 가려버리는 것입니다.

⚠️ 결론: "안전하지만, 맹목적인" 시스템

이 논문은 커뮤니티 노트가 설계상 (by design) 다음과 같은 한계를 가진다고 말합니다.

  1. 안전한 중립: 시스템은 편향되지 않으려 노력합니다. 한쪽만 좋아하는 메모는 절대 띄우지 않습니다.
  2. 위험한 침묵: 하지만 그 결과, 가장 논쟁적이고 위험한 허위 정보는 아무도 지적하지 못하는 '침묵의 구역'에 남게 됩니다.

최종 비유:
이 시스템은 **"모든 사람이 웃을 수 있는 농담"**만 골라 보여주는 TV 쇼 진행자 같습니다.

  • 웃긴 농담 (사기성 광고 등) 은 모두 웃으며 통과시킵니다.
  • 하지만 **정치적으로 민감한 유머 (가짜 뉴스)**는 진보파는 웃고, 보수파는 화를 내거나 그 반대가 됩니다.
  • 진행자는 "아, 이거 양쪽이 다르네? 그럼 방송에 안 내보내야지"라고 생각하며 가장 중요한 메시지를 방송에서 삭제해버립니다.

결론적으로, 커뮤니티 노트는 일상적인 허위 정보는 잘 걸러내지만, 선거나 정치적 위기처럼 사회가 갈라지는 순간에는 오히려 허위 정보가 방치될 위험이 있다는 것이 이 연구의 경고입니다.