🤖 AI

Reducing belief in conspiracy theories as they unfold using large language models

이 논문은 대규모 언어 모델과의 다회차 대화형 대화가 주요 위기 사건 이후 미국 성인들 사이에서 전개되는 음모론에 대한 믿음을 효과적으로 감소시킬 수 있으며, 이러한 교정 효과가 1~2개월 동안 지속되고 후속 사건까지 확장될 수 있음을 입증한다.

원저자: Thomas H. Costello, Nathaniel Rabb, Michael Nicholas Stagnaro, Gordon Pennycook, David Rand

게시일 2026-08-07

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Thomas H. Costello, Nathaniel Rabb, Michael Nicholas Stagnaro, Gordon Pennycook, David Rand

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

인터넷을 소문이 가장 인기 있는 게임인 거대하고 혼란스러운 놀이터라고 상상해 보세요. 가끔 현실 세계에서 크고 무서운 일이 발생하면, 사람들은 "만약에?"라는 게임을 시작하곤 합니다. 그들은 공식적인 이야기가 비밀스러운 음모를 숨기기 위한 위장일지도 모른다고 의심합니다. 이것이 바로 음모론의 세계입니다. 수십 년 동안 과학자들은 사람들이 이런 황당한 이야기를 믿지 않도록 하는 방법을 연구해 왔습니다. 보통 그들은 "사실 확인 시트"를 나눠주거나 인간이 믿는 사람들과 논쟁하게 만들지만, 이는 종종 달리는 기차를 종이 부채로 막으려는 것과 같아서 효과가 별로 없습니다.

여기에 **거대언어모델(LLM)**이 등장합니다. 이들을 세상에 쓰인 거의 모든 것을 읽은 매우 똑똑한 디지털 사서라고 생각해보세요. 이들은 여러분과 대화하고, 질문에 답하며, 심지어 논점을 가지고 논쟁할 수도 있습니다. 하지만 여기서 중요한 질문이 생깁니다. 로봇이 이제 막 새로운 사건에 대해 비밀스러운 음모를 믿기 시작한 사람과 대화하여 그 마음을 돌려놓을 수 있을까요? 보통 로봇은 (달 착륙이 조작되었다는 식의) 오래된 이야기들을 반박하는 데는 뛰어나지만, 왜냐하면 틀렸음을 증명할 사실이 가득한 도서관을 가지고 있기 때문입니다. 하지만 이야기가 여전히 진행 중이고 아무도 아직 전체 진실을 모르는 상황이라면 어떻게 될까요? 그것이 바로 이 논문이 해결하고자 하는 미스터리입니다.

실험: 로봇과 나누는 새로운 무서운 뉴스에 대한 대화

연구진은 두 번의 매우 강렬한 실제 사건을 통해 이 아이디어를 테스트하기로 했습니다. 첫째, 2024년 7월 도널드 트럼프 전 대통령을 향한 총격 미수 사건 직후의 며칠간을 살펴보았습니다. 당시에는 총격범이 누구인지, 왜 그런 일을 저질렀는지 아는 사람이 거의 없었습니다. 그다음으로, 2025년 9월 정치 활동가 찰리 커크가 암살된 직후의 며칠간을 살펴보았습니다. 두 경우 모두 뉴스는 실시간으로 터져 나오고 있었고, 사실은 부족했으며, 황당한 이론들이 빠르게 퍼지고 있었습니다.

과학자들은 이미 공식적인 이야기에 의구심을 품고 있는 수천 명의 미국 성인을 모집했습니다. 그들은 무엇이 일어날지 보기 위해 이들을 세 그룹으로 나누었습니다:

"반박(Debunking)" 그룹: 이 사람들은 AI와 대화를 나누었습니다. AI의 임무는 당시 이용 가능한 사실들을 사용하여 그들이 음모론이 사실이 아니라고 부드럽지만 단호하게 설득하는 것이었습니다.
"사실 시트(Fact Sheet)" 그룹: 이 사람들은 단순히 알려진 사실들이 적힌 정적인 불렛 포인트 목록을 읽었습니다. 대화나 상호작용는 없었습니다.
"잡담(Chit-Chat)" 그룹: 이 사람들은 고양이가 나은지 개가 나은지와 같이 완전히 지루하고 관련 없는 주제에 대해 AI와 대화했습니다.

결과: 로봇이 논쟁에서 승리하다

결과는 놀라울 정도로 효과적이었습니다. AI와 대화형 채팅을 했던 사람들은 단순히 사실을 읽었거나 잡담을 나눈 사람들보다 음모론을 덜 믿게 되었습니다. 그 사건이 트럼프 사건이든 커크 암살 사건이든 상관없이, 대화하는 로봇은 효과가 있었습니다.

여기서 흥미로운 점은 AI가 단순히 "여기에 사실이 있으니 당신이 틀렸다"라고 말한 것이 아니라는 것입니다. AI는 자신이 알고 있는 것에 따라 전략을 바꿨습니다.

AI가 아무것도 모를 때 (트럼프 사건): 총격범의 동기에 대한 사실이 거의 없었기 때문에, AI는 사실을 강요하지 않았습니다. 대신, 현명한 철학자처럼 행동했습니다. AI는 "혼란스러운 것은 괜찮지만, 결론을 내리기 전에 주의합시다" 또는 "신뢰할 수 있는 출처를 기다립시다"와 같은 말을 했습니다. 즉, 우리가 모르는 것에 대해 겸손해지는 법을 가르쳤습니다.
AI가 조금 더 알게 되었을 때 (커크 사건): 더 많은 세부 사항이 가용해지자, AI는 좀 더 직접적인 스타일로 전환하여, 오래된 유명한 음모론을 다룰 때처럼 새로운 사실들을 사용해 음모론의 허점을 부드럽게 찔렀습니다.

"슈퍼파워" 효과: 지속되고 확산되다

가장 흥ante로운 발견은 사람들이 단순히 첫 번째 이야기를 믿지 않게 되었다는 것만이 아니었습니다. 연구진은 새로운 무서운 사건들(트럼ps에 대한 두 번째 시도와 교회에서의 총기 난사 사건 등)이 발생한 1~2개월 후에도 다시 확인했습니다.

그 결과, 첫 번째 사건에 대해 AI와 대화했던 사람들은 두 번째 사건에 대한 새로운 음모론을 덜 믿는 경향이 있다는 것을 발견했습니다. 마치 AI가 그들에게 "정신적 백신"을 준 것과 같았습니다. 첫 번째 대화 중에 비판적으로 사고하고 황당한 주장에 회의감을 갖는 법을 배움으로써, 그들은 다음 위기에 더 잘 대처할 수 있게 된 것입니다. AI는 단순히 특정 믿음을 고친 것이 아니라, 그 사람의 전체적인 "음모론 필터"를 업그레이드한 것처럼 보였습니다.

논문이 말하는 것 (그리고 말하지 않는 것)

저자들은 이것이 모든 것을 해결하는 마법 지팡이가 아니라는 점을 분명히 밝히고 있습니다.

만능 해결책은 아닙니다: 이 연구는 특정적으로 진행 중인 사건들에 초점을 맞췄습니다. 이것이 모든 유형의 음모론이나 모든 종류의 사람에게 작동하는지는 알 수 없습니다.
때때로 정부에 대한 신뢰를 회복시키지는 못했습니다: 첫 번째 실험에서 AI와의 대화는 사람들이 트럼프 사건에 대한 공식적인 이야기를 더 신뢰하게 만들지는 못했습니다. 연구진은 이는 당시 정부가 아직 명확한 설명을 내놓지 못했기 때문이라고 생각합니다. 하지만 공식적인 이야기가 존재했던 두 번째 실험에서는 AI 채팅이 사람들의 신뢰를 높이는 데 도움이 되었습니다.
로봇이 인간인 척하는 것이 핵심이 아닙니다: 이 연구는 힘의 원천이 AI가 인간 전문가인 척하는 데서 오는 것이 아니라, 대화와 증거에서 온다는 점을 시사합니다.

핵심 요약

이 논문은 무서운 뉴스가 터지고 소문이 휘몰아칠 때, 짧고 스마트한 AI와의 대화가 상황을 진정시키는 강력한 도구가 될 수 있음을 시사합니다. 이는 사람들에게 정부를 믿으라고 강요하는 것이 아닙니다. 오히려 잠시 멈춰서 생각하고, "우리가 정말 이것을 알고 있는가, 아니면 그냥 추측하고 있는 것인가?"라고 스스로에게 묻도록 가르치는 것입니다.

연구진은 이러한 접근 방식이 사실 관계가 불분명할 때도 작동한다는 것을 발견했으며, 가장 좋은 점은 그 교훈이 머릿리에 남아 대화가 끝난 후에도 오랫동안 사람들이 황당한 이야기에 회의적인 태도를 유지하도록 돕는다는 것입니다. 이는 소음이 가득한 세상에서, 약간의 차분하고 근거에 기반한 대화가 우리가 필요로 하는 조용한 영웅이 될 수 있다는 희망적인 신호입니다.

기술 요약: 대규모 언어 모델을 활용한 전개 중인 음모론에 대한 믿음 감소

문제 정의

대규모 언어 모델(LLM)은 방대한 사전 학습 데이터와 교정적 증거를 활용하여 역사적 음모론(예: JFK 암살, 9/11)에 대한 믿음을 줄이는 데 효과적임을 입증해 왔으나, 새롭게 등장하는(emerging) 음모론을 다루는 데 있어서의 유용성은 아직 검증되지 않았습니다. 새롭게 등장하는 음모론은 사회적 위기나 고통스러운 사건(예: 암살 시도) 직후 공공 정보가 희소하거나 모호하거나 존재하지 않는 상황에서 즉각적으로 발생합니다. 이러한 "전개 중인(unfolding)" 시나리오에서, 기존의 사실 관계를 바탕으로 주장을 반박하는 표준적인 AI 디벙킹(debunking) 방식은 중대한 한계에 직면합니다. 즉, 모델이 반박을 구성하는 데 필요한 증거가 부족할 수 있다는 점입니다. 본 연구의 핵심 질문은 위기 직후의 초기 단계 음모론에 대해 LLM과의 대화형 대화가 효과적으로 믿음을 줄일 수 있는지, 그리고 만약 그렇다면 어떤 메커니즘을 통해 이루어지는가 하는 것입니다.

연구 방법론

저자들은 특정 고위험 위기 사건에 대해 음모론적 견해를 가진 미국 성인을 대상으로 두 가지 무작씩 실험(연구 1 및 연구 2)을 수행했습니다.

연구 1 (2024년 7월): 펜실베니아주 버틀러에서 발생한 도널드 트럼프 암살 시도.
연구 2 (2025년 9월): 유타주에서 발생한 정치 활동가 찰리 커크(Charlie Kirk) 암살 사건.

실험 설계:

참가자: CloudResearch를 통해 모집된 성인. 참가자들은 특정 사건에 대한 음모론적 믿음을 가지고 있는지 확인하기 위해 스크리닝 과정을 거쳤습니다(개방형 응답 및 폐쇄형 척도 모두 사용).
- 연구 1 최종 표본 ( $N=472$ 명의 믿는 자들).
- 연구 2 최종 표본 ( $N=1,035$ 명의 믿는 자들).
조건: 참가자들은 다음 세 가지 조건 중 하나에 무작위로 배정되었습니다.
1. 디벙킹 대화 (Debunking Dialogue): 증거 기반 대화를 통해 음모론적 믿음을 줄이도록 지시받은 LLM과의 다회차 대화. 연구 1에서는 Google Gemini Pro 1.5를 사용했습니다. 연구 2에서는 (사건 날짜와 관련하여 훈련 데이터의 맥seq상) 특정 모델 버전이 명시되지는 않았으나 보충 자료에서 Gemini Pro 2.5를 언급했습니다.
2. 정보 목록 (Informational List): 주요 뉴스 매체의 인용구가 포함된 15개의 불렛 포인트로 구성된 정적인 팩트 체크 목록을 열람.
3. 무관한 대화 통제 집단 (Irrelevant Dialogue Control): 사건과 무관한 주제(예: 고양이 대 강아지)로 LLM과 다회차 대화 수행.
LLM 프롬프팅: LLM에는 동시대 보도에서 추출한 큐레이션된 "사실 기반(fact base)"이 제공되었습니다.
- 정보가 극도로 부족했던 연구 1(트럼프)의 경우, 사실 기반은 해당 사건에 대한 모델의 유일한 정보원이었으며, 여기에는 확정된 사실, 반박된 유포된 주장, 그리고 인식적 겸손(epistemic humility)을 장려하기 위해 명시적으로 표시된 "열린 질문"(예: 범행 동기)이 포함되었습니다.
- 정보가 더 풍부했던 연구 2(커크)의 경우, 웹 검색 권한이 추가로 부여되었으나 이는 사실 정보의 검증에만 제한되었습니다(예: 용의자 신원, 동기의 모호성 등).
측정 항목: 음모론에 대한 믿음은 다음 항목을 사용하여 처치 전후로 측정되었습니다.
- 참가자가 스스로 기술한 음모론에 대한 확신 (0–100 척도).
- 해당 사건을 둘러싼 은폐/음모에 대한 믿음.
- 숨겨진/공개되지 않은 요인에 대한 믿음.
- 공식 설명에 대한 신뢰도.
추적 조사: 두 연구 모두 효과의 지속성과 "전이(spillover)" 효과(두 번째 트럼프 암살 시도, LDS 교회 총기 난사 사건 등 후속되는 다른 위기 사건에 대한 믿음)를 평가하기 위해 1~2개월 후 추적 설문을 포함했습니다.
전략 분석: 저자들은 AI가 디벙킹 대화에서 사용하는 수사적 전략을 분류하기 위해 (인간 평가자에 의해 검증되고 LLM에 의해 실행된) 질적 코딩 절차를 채택했습니다.

주요 결과

1. 음모론적 믿음의 감소

두 실험 모두에서 디벙킹 대화 조건은 무관한 대화 통제 집단 및 정적인 정보 목록보다 음모론적 믿음을 유의미하게 더 많이 감소시켰습니다.

효과 크기: LLM 처치는 통제 집단 대비 참가자가 기술한 자신의 음모론에 대한 믿음을 0–100 척도 기준으로 약 6.9에서 7.6 포인트 감소시켰습니다 (Cohen's $d \approx 0.38$ ).
은폐 및 숨겨진 요인: 은폐 및 숨겨진 요인에 대한 믿음에서도 유의미한 감소가 관찰되었습니다.
공식 설명에 대한 신뢰:
- 연구 1 (트럼프)의 경우, 당시 명확한 공식 내러티브가 부재했기 때문에 공식 설명에 대한 신뢰도가 유의미하게 증가하지 않았습니다.
- 연구 2 (커크)의 경우, 공식 설명에 대한 신뢰도가 무관한 대화 통제 집단에 비해 유의미하게 증가했습니다.

2. 조절 효과

당파성 (Partisanship): 연구 1에서 처치 효과는 통제 집단에 비해 강한 공화당 지지자들에게서 미세하게 작게 나타났으나, 연구 2에서는 당파성에 의한 유의미한 조절 효과가 발견되지 않았습니다.
기초 믿음 (Baseline Belief): 연구 2에서 처치는 초기 음모론적 믿음이 더 강했던 참가자들에게 더 효과적이었습니다.

3. 수사적 전략

AI의 전략은 정보 가용성에 따라 적응했습니다.

연구 1 (저정보 상황): AI는 "합리적 설득"(사실/증거)에 덜 의존하고, 인식적 겸손(불확실성 강조), 소크라테스식 질문(성찰 유도), 그리고 신뢰할 수 있는 출처로 안내하는 전략에 더 의존했습니다.
연구 2 (중정보 상황): AI는 역사적 음모론에서 사용되는 전략과 유사한 방식, 즉 해악 강조(Highlighting Harms) 및 사실 활용 등을 사용했으나, 여전히 인식적 주의(epistemic caution)를 강조했습니다.

4. 장기 및 전이 효과

연구 1 추적 조사: 첫 번째 트럼프 암살 시도에 대해 디벙킹 대화를 받은 참가자들은 두 달 후 발생한 후속 암살 시도에 관한 음모론을 믿을 가능성이 유의미하게 낮았습니다 (Odds Ratio $\approx 0.48–0.52$ ).
연구 2 추적 조사: 커크 디벙킹을 경험한 참가자들은 한 달 후 다른 인기 있는 음모론(예: 숨겨진 집단에 의한 세계 통제, 조작된 질병 등)에 대한 지지도가 감소했습니다. 또한, 후속 총기 난사 사건에 대한 믿음에 대해서도 지속성이 관찰되었으나 그 효과는 더 작았습니다.

주요 기여

전개 중인 사건에 대한 효능: 본 논문은 사실 정보가 거의 없는 직후의 상황에서도 LLM이 음모론에 대한 믿음을 효과적으로 줄일 수 있음을 보여줌으로써, 디벙킹을 위해 사전에 존재하는 교정적 증거의 몸체가 반드시 필요하다는 가설에 도전합니다.
적응형 설득: 본 연구는 AI가 정보 환경에 따라 전략을 동적으로 전환할 수 있음을 식별합니다—즉, 정보가 부족할 때는 인식적 겸손과 비판적 사고를 우선시하고, 정보가 확보되면 사실을 활용합니다.
디벙킹을 통한 프리벙킹 (Prebunking via Debunking): 연구 결과는 단 한 번의 디벙킹 개입이 일종의 "프리벙킹" 역할을 하여, 미래의 혹은 서로 관련 없는 음모론에 대한 지속적인 회의론을 형성할 수 있음을 시사합니다.
확장 가능한 개입: 본 연구는 고위고위험 사회적 위기 상황에서 오보에 대응하기 위한 AI 기반 대화가 인지 중심의 확장 가능한 개입책이 될 수 있음을 강조합니다.

의의 및 주장

저자들은 자신들의 결과가 신생 음모론의 심리학을 밝혀준다고 주장하며, 초기 단계의 믿음은 결정적인 반대 증거가 없는 상황에서도 비판적 사고와 인식적 주의에 대한 호소를 통해 변화될 수 있을 만큼 가변적이라는 점을 시사합니다. 본 연구는 AI 대화가 위기 상황에서 오보에 대응하기 위한 실시간 개입 수단으로서 실행 가능한 메커니즘을 제공한다고 상정합니다.

논문은 두 가지 특정 사례 연구에 기반하고 있으며, AI 디벙킹이 효과적이지 않을 수 있는 시나리오(예: 실제 음모가 존재하는 경우 또는 다른 역학을 가진 사건)가 존재할 수 있음을 인정하며 신중한 어조를 유지합니다. 저자들은 AI의 긍정적 잠재력을 지지하면서도, 동일한 기술이 악의적인 행위자에 의해 신생 음모론에 대한 믿음을 높이는 데 악용될 수 있다는 점을 명시적으로 언급했습니다. 결론적으로, 민감한 주제에 대해 사용자와 AI가 교류하는 것이 도전적인 과제이긴 하지만, 의미 있는 긍정적 영향을 미칠 수 있는 잠재력은 상당하다고 결론짓습니다.