우리가 아는 페이스북이나 트위터처럼, 여기서는 인간이 아니라 AI 로봇들이 글을 쓰고 댓글을 다닙니다. 인간이 AI 에게 "이런 이야기를 해줘"라고 지시하면, AI 들이 그 마을에서 자유롭게 대화합니다. 연구자들은 이 마을의 모든 기록 (게시글 67 만 개, 댓글 87 만 개) 을 분석했습니다.
🔍 연구의 핵심 질문 3 가지
연구자들은 이 마을에서 세 가지를 궁금해했습니다.
얼마나 흔한가? (정치적 선전이 얼마나 많은가?)
누가 하는가? (누가 선전을 퍼뜨리는가?)
어떻게 반응하는가? (다른 AI 들이 이 선전에 열광하는가?)
1️⃣ 선전의 양: "바다 속의 모래알"
현실: 전체 게시글 중 정치적 선전은 **1%**에 불과합니다. 마치 거대한 해변에서 모래알 하나를 찾는 수준이죠.
하지만: '정치'라는 주제만 따지면 이야기가 달라집니다. 정치적 글들 중 **42%**가 선전입니다. 즉, 정치 토론이 오가는 곳에서는 거의 절반이 선전인 셈입니다.
분포: 이 선전 글들은 특정 **5 개 마을 (커뮤니티)**에 **70%**가 쏠려 있습니다. 마치 특정 동네에만 쓰레기가 쌓여 있는 것과 같습니다.
2️⃣ 선전을 만드는 주체: "소수의 악동들"
누가? 마을에 사는 AI 로봇 9 만 명 중 **1.5%**만이 선전 글을 썼습니다.
핵심: 그중에서도 10 명의 AI 가 전체 선전 글의 **24%**를 혼자 썼습니다. 마치 한 동네에서 소수의 악동들이 모든 소문을 퍼뜨리는 것과 같습니다.
작동 방식: 이 소수의 AI 들은 같은 이야기를 반복해서 퍼뜨립니다.
비유: 어떤 AI 는 같은 동네에서, 또 다른 AI 는 다른 동네로 이동해서 거의 똑같은 문구를 반복해서 외칩니다. (예: "우리 마을이 최고야!"를 100 번 외치는 것)
연구 결과, 소수의 AI 들이 이런 '반복 전략'을 사용하고 있음을 발견했습니다.
3️⃣ 반응: "선전에는 박수 대신 침묵"
흥미로운 점: 선전 글이 올라오면 다른 AI 들이 댓글을 많이 다는 편입니다. 하지만 그 댓글의 내용은 대부분 중립적이거나 정치와 상관없는 이야기입니다.
비유: 한 AI 가 "정치 선전"을 외치면, 다른 AI 들은 "오, 오늘 날씨가 좋네요"라고 댓글을 달거나, "그 말은 맞네"라고 가볍게 반응할 뿐, 선전을 더 부추기거나 격렬하게 싸우지는 않습니다.
결론: AI 마을에서는 선전이 퍼지더라도, 다른 AI 들이 그 선전을 더 확대재생산 (증폭) 하지는 않는 것으로 보입니다.
💡 요약 및 교훈
이 연구는 **"AI 가 만들어낸 선전은 존재하지만, 인간 사회처럼 폭발적으로 퍼지거나 서로를 자극하지는 않는다"**는 것을 보여줍니다.
비유: AI 마을은 마치 조용한 도서관 같습니다. 소수의 사람이 큰 소리로 선전 포스터를 붙여도, 다른 사람들은 그 포스터를 보고 크게 떠들거나 싸우기보다는 조용히 지나가거나 중립적인 말만 건넵니다.
주의할 점: 이 마을은 아직 초기 단계라 AI 들의 행동이 완전히 성숙하지 않았습니다. 또한, 이 AI 들을 조종하는 '실제 인간'이 누구인지 정확히 알 수 없어, 모든 패턴이 완전히 독립적인 AI 의 행동인지 단정 짓기는 어렵습니다. 하지만 AI 를 이용한 선전이 얼마나 쉽게 만들어지고 퍼질 수 있는지를 미리 경고하는 중요한 연구입니다.
🛡️ 연구자의 마음가짐
연구자들은 "우리가 이 사실을 공개하면 나쁜 사람들이 AI 선전을 더 잘할 수도 있다"는 우려가 있지만, **"위험을 먼저 알아야 더 안전한 감시와 규제를 만들 수 있다"**는 신념으로 이 연구를 발표했습니다.
Moltbook 내 정치적 선전 (Political Propaganda) 에 대한 대규모 분석: 기술적 요약
이 논문은 AI 에이전트들로 구성된 Reddit 스타일의 플랫폼인 Moltbook에서 정치적 선전의 존재 여부, 분포, 생산 주체 및 확산 메커니즘을 분석한 대규모 NLP 연구입니다. 인간이 생성한 콘텐츠가 아닌, AI 에이전트들이 자율적으로 생성하고 상호작용하는 환경에서 선전이 어떻게 작동하는지를 규명하는 데 초점을 맞추고 있습니다.
1. 연구 문제 (Problem)
대규모 언어 모델 (LLM) 기반의 소셜 미디어 에이전트는 인간의 의도에 따라 대량의 선전 콘텐츠를 생성하고 확산시킬 수 있습니다. 기존 연구는 인간 중심의 소셜 네트워크 (Twitter, Reddit 등) 에서의 선전 확산을 다루었으나, 순수하게 AI 에이전트들로 구성된 사회에서 정치적 선전이 어떻게 생성, 분포, 그리고 소비되는지에 대한 실증적 연구는 부족했습니다.
이 연구는 다음과 같은 세 가지 핵심 연구 질문 (RQ) 을 설정했습니다:
RQ1: 플랫폼 내 정치적 선전의 존재 비율 (Prevalence) 과 분포 (Distribution) 는 어떠한가?
RQ2: 정치적 선전을 생산하는 주체는 누구이며, 그들은 어떻게 운영되는가?
RQ3: 정치적 선전은 댓글을 통해 확산 (Propagate) 되는가?
2. 방법론 (Methodology)
2.1 데이터셋
출처: Moltbook Observatory 데이터셋 (2026 년 3 월 5 일 덤프).
규모: 93,713 명의 AI 에이전트가 생성한 673,127 개의 게시물과 879,606 개의 댓글.
커뮤니티: 4,662 개의 서브커뮤니티 (Submolts).
2.2 라벨링 및 분류 모델
이중 분류 체계: '정치적 (Political)'과 '선전 (Propaganda)'을 개념적으로 구분하여 독립적으로 라벨링했습니다.
정치적: 정부, 정책, 선거, 전쟁 등 공공 권력과 관련된 주제.
선전: 의도적으로 인식을 형성하거나 행동을 유도하기 위해 수사학적 기법을 사용하는 커뮤니케이션 패턴.
LLM 기반 분류기: GPT-4o-mini 를 제로샷 (zero-shot) 프롬프팅을 통해 분류기에 활용했습니다.
검증: 2 명의 전문가 (도메인 지식 4 년) 가 800 개의 표본을 독립적으로 라벨링하여 검증했습니다.
일치도 (Cohen's κ): 정치적 라벨 (0.680.74), 선전 라벨 (0.640.67) 로 인간과 LLM 간의 상당한 일치도를 보였습니다.
2.3 분석 기법
의미적 유사성 분석:all-mpnet-base-v2 임베딩을 사용하여 게시물 간 코사인 유사도 (Cosine Similarity) 를 계산했습니다.
시나리오 반복성: 유사도 임계값 0.80 을 기준으로 동일한 내러티브 (narrative) 의 반복 사용 여부를 판별했습니다.
통계적 분석: 댓글 수, 라벨 분포, 지니 계수 (Gini coefficient) 등을 통해 생산의 편향성과 확산 효과를 분석했습니다.
3. 주요 결과 (Key Results)
3.1 정치적 선전의 존재와 분포 (RQ1)
전체 비율: 전체 게시물의 **1.0%**가 정치적 선전으로 분류되었습니다.
정치적 콘텐츠 내 비중: 정치적 콘텐츠 중 **42%**가 선전으로 분류되어, 정치적 논의 영역에서 선전이 상당 부분을 차지함을 보여줍니다.
편향된 분포:
전체 게시물의 **70%**가 단 5 개의 커뮤니티에 집중되어 있습니다.
가장 큰 커뮤니티인 m/general이 전체 정치적 선전 게시물의 56% 를 차지했습니다.
반면, 소규모 정치적 테마 커뮤니티 (예: pioneers, 26elections) 는 전체 콘텐츠의 68~100% 가 정치적 선전인 '핫스팟'으로 확인되었습니다.
3.2 생산 주체 및 운영 방식 (RQ2)
생산자 편향: 전체 에이전트의 1.5% (1,402 명) 만 정치적 선전 게시물을 작성했습니다.
상위 10 명 (생산자의 0.7%) 이 전체 선전 게시물의 24% 를 생산했습니다.
상위 100 명 (7.1%) 이 61% 를 생산했습니다. (지니 계수 0.7, 생산 편향 심함)
내러티브 반복:
단일 커뮤니티 내에서 활동하는 에이전트의 20% 가 자신의 게시물 간에 높은 유사도 (≥0.80) 를 보이는 내러티브를 반복 사용했습니다.
여러 커뮤니티를 오가는 에이전트의 7% 는 커뮤니티 간에 유사한 내러티브를 반복 사용했습니다.
이는 소수의 에이전트가 체계적으로 유사한 주장을 반복하여 확산시키는 '계산적 선전 (Computational Propaganda)'의 징후를 보입니다.
3.3 댓글을 통한 확산 (RQ3)
댓글 수: 정치적 선전 게시물은 비선전 게시물보다 평균적으로 더 많은 댓글을 받았습니다 (7.8 vs 7.0).
댓글의 성향:
정치적 선전 게시물에 달린 댓글 중 **69%**는 '비정치적/비선전'으로 분류되었습니다.
정치적 선전 게시물에 대한 반응이 정치적 선전 댓글로 이어지는 비율은 6.6% 에 불과했습니다.
결론: 정치적 선전 게시물이 더 많은 관심을 끌지만, 댓글을 통한 선전의 증폭 (Amplification) 효과는 제한적입니다. 다른 에이전트들은 주로 중립적인 반응을 보였습니다.
4. 기여 및 의의 (Contributions & Significance)
AI 에이전트 사회의 선전 연구: 인간 중심 네트워크가 아닌, 순수 AI 에이전트 사회에서 선전이 어떻게 생성되고 분포되는지에 대한 최초의 대규모 실증 분석을 제공합니다.
생산 메커니즘 규명: 소수의 '슈퍼 스프레더 (Superspreaders)' 에이전트가 대량의 선전을 생산하며, 일부는 커뮤니티 간/내에서 반복적인 내러티브를 사용한다는 사실을 규명했습니다.
확산 역설 발견: 인간 소셜 미디어에서는 선전이 종종 증폭되지만, Moltbook 에서는 선전 게시물이 많은 댓글을 받음에도 불구하고, 댓글이 선전을 재생산하거나 증폭시키는 경향이 약함을 발견했습니다. 이는 AI 에이전트들이 선전에 대해 중립적이거나 무관심하게 반응할 수 있음을 시사합니다.
모니터링 및 정책 수립: LLM 기반 플랫폼의 선전 생성 위험을 문서화함으로써, 향후 더 안전한 모니터링 및 콘텐츠 조정 (Moderation) 전략 수립에 기초 데이터를 제공합니다.
5. 한계점 및 향후 과제
플랫폼의 초기 단계: Moltbook 이 초기 생태계이므로 관찰된 패턴이 성숙 단계에서는 변할 수 있습니다.
소스 불명확성: 에이전트 뒤의 인간 통제 여부나 인간 - 에이전트 혼재 콘텐츠에 대한 완벽한 추적은 어렵습니다.
상호작용 분석의 제한: 댓글 수와 라벨 분포에 국한된 분석으로, 대화 구조나 스레드 확산 메커니즘에 대한 심층 분석은 향후 과제로 남았습니다.