LLM-based Detection of Manipulative Political Narratives

기술 요약: LLM 기반 조작적 정치 서사 탐지

문제 정의
본 논문은 대규모 비필터링 소셜 미디어 데이터셋 내에서 외국 정보 조작 및 간섭 (FIMI) 을 탐지하는 중대한 과제를 다룹니다. 주요 어려움은 정당한 정치적 비판 (비록 논란의 소지가 있더라도) 과 조정된 조작적 전략적 서사를 구별하는 데 있습니다. 표준 토픽 모델링이나 사실 확인과 같은 전통적 접근법은 조작적 콘텐츠가 순수한 허위보다는 사실적 사건의 악의적 재구성 (malinformation) 에 의존하는 경우가 많기 때문에 종종 실패합니다. 또한, 기존 방법들은 조정된 국가 동향 캠페인과 진정한 포퓰리즘 또는 개인적 정치적 의견을 분리하는 데 어려움을 겪으며, 전략적 서사를 정의하는 특정 수사적 뉘앙스와 의도를 간과하는 경우가 많습니다.

방법론
저자들은 사전 정의된 대상 카테고리 목록에 의존하지 않고 조작적 서사를 탐지, 필터링 및 클러스터링하도록 설계된 대규모 언어 모델 (LLM) 기반 데이터 처리 파이프라인을 제안합니다. 방법론은 네 가지 연속된 단계로 구성됩니다:

1. 프롬프트 기반 필터링:

   • 목표: 정당한 비판 및 관련 없는 콘텐츠로부터 조작적 게시물을 분리합니다.
   • 메커니즘: Qwen3.5-122B 와 같은 추론 모델이 상세한 퓨샷 (few-shot) 프롬프트에 의해 안내됩니다. 이 프롬프트는 FIMI 특성 (예: 책임 전가, 도덕적 전복, 피해자 의식) 을 정의하고, 모델에게 조정된 조작과 표준 정치적 회의론을 명시적으로 구별하도록 지시합니다.
   • 제약 조건: 프롬프트에는 특정 '알려진 모티프'(예: Doppelgänger, Storm-1516) 가 포함되며, 정상적인 정부 비판이나 개인적 경제적 좌절과 같은 오탐지 (false positives) 는 명시적으로 제외됩니다. 모델은 JSON 형식으로 부울 분류 및 추론 문자열을 출력합니다.
   • 전략: 이 단계에서는 정밀도보다 높은 재현율 (0.92) 을 우선시하여, 잠재적 서사 조각이 폐기되지 않도록 오탐지율을 높게 허용합니다.

2. 의도 기반 임베딩:

   • 목표: 필터링된 게시물을 임베딩 공간에 매핑하여, 근접성이 단순한 주제적 유사성이 아닌 조작적 의도를 반영하도록 합니다.
   • 메커니즘: 저자들은 Qwen3-Embedding-8B 모델을 활용합니다. 표준 문장 변환기와 달리 이 모델은 "전략적 서사, 조작적 의도, 그리고 근본적인 허위 정보 동기를 식별하라"는 특정 지시와 함께 프롬프트됩니다. 이는 유사한 수사적 전략과 악의적 의도를 공유하는 게시물들이 서로 가깝게 클러스터링되도록 보장합니다.

3. 차원 축소 및 클러스터링:

   • 메커니즘: 고차원 임베딩 (4096 차원) 은 UMAP(Uniform Manifold Approximation and Projection) 을 사용하여 5 차원으로 축소됩니다.
   • 클러스터링: 축소된 공간에 HDBSCAN(Hierarchical Density-Based Spatial Clustering of Applications with Noise) 이 적용됩니다. 이 비지도 알고리즘은 밀도에 기반하여 클러스터 수를 동적으로 결정합니다.
   • 최적화: 노이즈 감소와 의미적 구별성 사이의 균형을 맞추기 위해 하이퍼파라미터 (특히 min_cluster_size) 가 조정되었습니다. 최소 클러스터 크기 400 을 선택하여 41 개의 고유한 클러스터를 생성했고, 노이즈 수준은 관리 가능한 수준 (~29.7%) 으로 유지되었습니다.

4. 전략적 서사 추출:

   • 목표: 각 클러스터의 근본적인 스토리라인을 설명하는 인간이 읽을 수 있는 레이블을 생성합니다.
   • 메커니즘: 더 큰 추론 모델 (Qwen3.5-397B) 이 사용됩니다. 이 모델은 클러스터의 문서와 c-TF-IDF 키워드를 입력받습니다. 퓨샷 프롬프트를 사용하여 모델은 핵심 주장, 표적 적대자, 그리고 조작적 관점을 포함한 완전한 서사 레이블을 종합합니다.

주요 기여
본 논문은 세 가지 주요 기술적 기여를 제시합니다:

1. 프롬프트 기반 추론: 전통적인 BERT 기반 분류를 넘어, 저자들은 명시적인 FIMI 특성과 퓨샷 예시에 의해 안내된 추론 접근법을 도입합니다. 이는 수사적 뉘앙스에 기반하여 전략적 조작 콘텐츠를 정당한 비판에서 성공적으로 분리합니다.
2. 의도 기반 임베딩: 파이프라인은 임베딩 모델의 초점을 일반 주제에서 특정 조작적 의도로 이동시킵니다. 프롬프트를 통해 임베딩 모델을 명시적으로 구성함으로써 관련 스토리라인이 벡터 공간에서 더 가깝게 배치되어 더 정확한 클러스터링을 가능하게 합니다.
3. 전략적 서사 추출: 저자들은 표준 토픽 추출 (키워드 목록) 을 모델에게 완전한 스토리라인을 출력하도록 강제하는 특수 프롬프트로 대체합니다. 이러한 서사는 핵심 주장, 적대자, 그리고 조작적 관점을 명시적으로 포착하여 캠페인 구조에 대한 더 풍부한 이해를 제공합니다.

결과
2025 년 독일 연방 선거 이전에 수집된 1,255,895 개의 소셜 미디어 게시물 (X, Reddit, Telegram) 데이터셋에 적용된 결과, 파이프라인은 41 개의 고유한 조작적 서사 클러스터를 성공적으로 식별했습니다.

• 필터링 성능: 초기 필터링은 재현율 (0.92) 이 높고 정밀도 (0.66) 는 상대적으로 낮은 특징을 가진 F1 점수 0.77 을 달성했습니다. 저자들은 모델이 인간 평가자보다 엄격하여 종종 개별 포퓰리즘 의견을 조작적으로 플래그한다는 점을 지적합니다. 그러나 하류의 HDBSCAN 클러스터링은 이러한 오탐지를 밀집하고 일관된 클러스터를 형성하지 않는 노이즈로 효과적으로 필터링합니다.
• 서사 주제: 추출된 클러스터는 네 가지 주요 주제 기둥으로 그룹화되었습니다:
  1. "대체 (Great Replacement)": 이민을 원주민 인구를 파괴하기 위한 무기로 묘사하는 서사.
  2. 대리 전쟁: 러시아와 관련하여 특히, 미국 식민지로서 국가 평화를 외국 이익을 위해 희생하는 독일로 묘사하는 스토리라인.
  3. 기후 독재: 기후 정책을 전지구주의자들이 시민을 통제하고 빈곤하게 만들기 위해 고안된 조작된 사기극으로 묘사하는 서사.
  4. AfD 를 구원자로: 부패한 '깊은 국가 (deep state)'에 맞서는 유일한 구원자로 우파 AfD 당과 외부 행위자 (예: 일론 머스크) 를 위치시키는 서사.

의의 및 주장
본 논문은 조정된 허위 정보 탐지와 근본적인 전략적 서사 이해 사이의 간극을 효과적으로 연결한다고 주장합니다. 프롬프트 기반 필터링과 비지도 클러스터링을 통합함으로써, 이 시스템은 사전 정의된 분류 체계에 의존하지 않고 새로운 서사 그룹을 발견할 수 있습니다.

중요한 발견은 높은 재현율을 가진 필터링 단계와 밀도 기반 클러스터링 단계 간의 시너지입니다. 파이프라인은 LLM 이 프롬프트에 명시적으로 나열되지 않은 특정 개체 (예: rtde.media 를 국가 매체의 대변자로 인식) 와 같은 특정 도메인을 인식하는 내부 지식을 적용하여 게시물을 평가하는 능력을 활용합니다. 저자들은 이 방법이 단순한 주제뿐만 아니라 조작의 의도와 스토리라인을 포착하기 때문에 전통적인 토픽 모델링보다 우월하다고 주장합니다.

본 논문은 조정된 조작과 개인적 급진적 정치적 견해 사이의 '모호한 경계'를 인정하며 제한 사항에 대해 겸손한 입장을 유지합니다. 추출된 서사는 투명성을 위한 편집되지 않은 출력물이며 저자들의 정치적 견해를 반영하지 않는다고 강조합니다. 이 연구는 현재 접근 방식이 효과적이지만, 향후 반복 작업에서는 프로그래밍적 프롬프트 최적화와 멀티모달 콘텐츠를 처리하기 위한 시각 언어 모델의 통합이 유익할 것이라고 결론지었습니다.