🤖 AI

Reducing belief in conspiracy theories as they unfold using large language models

本文表明，在重大危机事件发生后，与大语言模型进行多轮对话可以有效降低美国成年人对正在展开的阴谋论的相信程度，且这种纠正效果能持续一到两个月，并延伸至后续事件。

原作者： Thomas H. Costello, Nathaniel Rabb, Michael Nicholas Stagnaro, Gordon Pennycook, David Rand

发布于 2026-08-07

📖 1 分钟阅读☕ 轻松阅读

原作者： Thomas H. Costello, Nathaniel Rabb, Michael Nicholas Stagnaro, Gordon Pennycook, David Rand

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，互联网是一个巨大的、混乱的游乐场，而谣言是这里最受欢迎的游戏。有时，当现实世界发生了一些重大且可怕的事情时，人们就会开始玩一种叫做“如果……会怎样？”的游戏。他们怀疑官方说法是否只是一个秘密阴谋的掩护。这就是阴谋论的世界。几十年来，科学家们一直在研究如何阻止人们相信这些荒诞的故事。通常，他们试图发放“事实清单”或让人类与信徒争论，但这往往就像是用一把纸扇试图挡住一辆失控的火车——效果并不好。

*大语言模型（LLMs）*登场了。把它们想象成超级聪明的数字图书管理员，读过几乎所有被写下的文字。它们可以和你聊天、回答问题，甚至可以争论一个观点。但这里有一个大问题：一个机器人能否与一个刚刚开始*相信关于某个全新事件的秘密阴谋的人进行交谈，并说服他们放弃这种想法？通常，机器人在拆穿旧故事（比如“登月是伪造的”）方面表现出色，因为它们拥有装满事实的图书馆来证明其错误。但当这个故事仍在发生中*，且没有人知道全貌时，情况又会如何呢？这正是这篇论文试图解决的谜题。

实验：与机器人聊聊新的可怕新闻

研究人员决定在两次非常剧烈的美国现实时刻测试这个想法。首先，他们观察了2024年7月一名男子试图枪杀前总统唐纳德·特朗普之后的几天。当时，几乎没有人知道枪手是谁，以及他为什么要这么做。然后，他们观察了2025年9月政治活动家查理·柯克（Charlie Kirk）遇刺后的几天。在这两个案例中，新闻正在爆发，事实匮乏，而荒诞的理论传播得极快。

科学家招募了数千名已经对官方说法持怀疑态度的美国成年人。他们将这些人分为三组，以观察会发生什么：

“拆穿”组： 这些人与人工智能聊天。AI的任务是温和但坚定地试图说服他们，证明这些阴谋论是不真实的，并利用当时可获得的任何事实。
“事实清单”组： 这些人只是阅读一份包含已知事实的静态要点列表。没有对话，没有交流。
“闲聊”组： 这些人与AI讨论完全无关且无聊的话题，比如猫和狗哪种更适合做宠物。

结果如何？机器人赢得了辩论

结果出人意料地有效。那些与AI进行对话式聊天的人，比起那些仅仅阅读事实或讨论宠物的人，相信阴谋论的程度更低。无论事件是特朗普遇袭还是柯克遇刺，机器人的谈话都奏效了。

最酷的部分在于：AI并没有仅仅说，“这是事实，你错了。”它会根据自己所知道的信息改变策略。

当AI一无所知时（特朗普事件）： 由于关于枪手动机的事实几乎不存在，AI并没有试图强加事实。相反，它表现得像一位睿智的哲学家。它会说类似这样的话：“感到困惑是可以的，但让我们在下结论时保持谨慎，”以及“让我们等待可靠的消息源。”它教会人们对自己的“未知”保持谦逊。
当AI知道一些信息时（柯克事件）： 一旦有了更多细节，AI就会切换到更直接的风格，利用新事实来温和地拆穿阴谋故事，就像它处理旧的、著名的阴谋论那样。

“超能力”效应：它持续存在并产生了影响

最令人兴奋的发现不仅是人们不再相信第一个故事。研究人员在一个月到两个月后进行了回访，当时发生了新的可怕事件（如第二次针对特朗普的袭击和一场教堂枪击案）。

他们发现，那些曾就第一个事件与AI交谈过的人，在面对关于第二个事件的新阴谋论时，更不容易相信这些理论。这就像是AI为他们提供了一剂“心理疫苗”。通过在第一次聊天中学习如何进行批判性思考以及对荒诞主张保持怀疑，他们更有能力应对下一次危机。AI不仅仅是修正了一个特定的信念；它似乎升级了整个人的“阴谋过滤器”。

论文说了什么（以及没说什么）

作者谨慎地指出，这并不是解决一切问题的魔杖。

它不是万灵药： 这项研究关注的是特定的、正在发生的事件。我们不知道它是否适用于每种类型的阴谋或每种类型的人。
它并不总是修复了对政府的信任： 在第一个实验中，与AI聊天并没有让人们更加信任关于特朗普尝试事件的官方说法。研究人员认为，这是因为在那个时刻，政府还没有一个明确的故事可以讲述。但在第二个实验中，由于存在官方说法，AI的聊天确实帮助人们更加信任它。
它不在于机器人模仿人类： 研究表明，力量来自于对话和证据，而不是来自于AI假装成人类专家。

核心启示

这篇论文表明，当可怕的新闻爆发、谣言四起时，一段简短而聪明的AI对话可能是一个强大的工具，可以平息事态。这并不是要强迫人们相信政府；而是教导他们停顿、思考，并询问：“我们真的知道这件事吗，还是我们只是在猜测？”

研究人员发现，即使在事实模糊的情况下，这种方法仍然有效，而且最棒的是，这个教训似乎能够留存下来，帮助人们在聊天结束后很久依然对荒诞的故事保持怀疑。这在充满噪音的世界里是一个充满希望的迹象：一点点冷静的、基于证据的对话，或许就是我们需要的那位无声英雄。

技术摘要：利用大语言模型在阴谋论演变过程中减少其影响力

问题陈述

虽然大语言模型（LLMs）通过利用广泛的既有训练数据和纠正性证据，在减少对历史阴谋论（如 JFK 暗杀、9/11 事件）的信仰方面已展现出成效，但其在应对“新兴”阴谋论方面的效用尚未经过测试。新兴阴谋论通常在社会危机或令人不安的事件（如暗杀企图）发生后立即出现，此时公众信息极度匮乏、模糊或不存在。在这些“演变中”的情景下，标准的 AI 辟谣方法——即依赖大量既定事实来反驳主张——面临着一个关键局限：模型可能缺乏构建事实性反驳所需的必要证据。核心研究问题在于：在危机发生的紧迫阶段，与 LLM 进行对话式交流是否能有效减少对这些新生阴谋论的信仰，以及如果可以，其实现机制是什么。

研究方法

作者针对美国成年人进行了两项随机对照实验（研究 1 和研究 2），这些参与者对两起特定的高知名度危机事件持有阴谋论观点：

研究 1（2024 年 7 月）： 唐纳德·特朗普在宾夕法尼亚州巴特勒遭遇的暗杀企图。
研究 2（2025 年 9 月）： 政治活动家查理·柯克（Charlie Kirk）在犹他州遇刺身亡。

实验设计：

参与者： 通过 CloudResearch 招募的美国成年人。通过开放式回答和封闭式量表对参与者进行筛选，以识别出对特定事件持有阴谋论观点的人。
- 研究 1 最终样本（ $N=472$ 名信奉者）。
- 研究 2 最终样本（ $N=1,035$ 名信奉者）。
实验条件： 参与者被随机分配到以下三种条件之一：
1. 辟谣对话（Debunking Dialogue）： 与受命通过基于证据的对话来减少阴谋论信仰的 LLM 进行多轮对话。研究 1 使用了 Google Gemini Pro 1.5；研究 2 使用了 LLM（文中未明确说明具体模型版本，但补充材料在涉及该事件日期时提到了 Gemini Pro 2.5）。
2. 信息列表（Informational List）： 参与者查看一份包含 15 个要点且带有主流新闻媒体引注的静态事实核查列表。
3. 无关对话控制组（Irrelevant Dialogue Control）： 参与者与 LLM 就与该事件无关的主题（例如猫与狗）进行多轮对话。
LLM 提示词（Prompting）： 为 LLM 提供了一个源自同期报道的精选“事实库”。
- 在研究 1（特朗普事件）中，由于信息极其匮乏，该事实库是模型关于该事件的唯一信息来源，包括已证实的实情、已被拆穿的流言，以及明确标记为“开放性问题”（例如动机）的内容，以鼓励认识论上的谦逊（epistemic humility）。
- 在研究 2（柯克事件）中，指令额外允许进行网络搜索，但仅限于验证事实信息，因为当时已有更多细节可用（例如嫌疑人身份、动机的模糊性）。
测量指标： 使用以下工具对处理前后的阴谋论信仰进行测量：
- 对参与者自己阐述的阴谋论观点的信心（0–100 量表）。
- 对围绕该事件存在掩盖/阴谋的信仰。
- 对隐藏/未披露因素的信仰。
- 对官方解释的信任度。
随访： 两项研究均包含 1–2 个月后的随访调查，以评估效应的持久性以及对后续、不相关危机事件（第二次针对特朗普的暗杀企图；一场发生在 LDS 教会附近的枪击案）的“溢出效应”（spillover）。
策略分析： 作者采用了定性编码程序（经由人工评分员验证并由 LLM 执行），将 AI 在辟谣对话中使用的修辞策略进行分类。

关键结果

1. 阴谋论信仰的减少

在两项实验中，辟谈对话组在减少阴谋论信仰方面，效果显著优于无关对话控制组和静态的信息列表组。

效应量： 相对于控制组，LLM 处理使参与者对其自身阐述的阴谋论信仰下降了约 6.9 至 7.6 点（0–100 量表），Cohen's $d \approx 0.38$ 。
掩盖与隐藏因素： 在关于“掩盖”和“隐藏因素”的信仰方面也观察到了显著下降。
对官方解释的信任：
- 在研究 1（特朗普事件）中，对官方解释的信任并未显著增加，这可能是由于当时缺乏明确的官方叙事。
- 在研究 2（柯克事件）中，相对于无关对话控制组，对官方解释的信任显著增加。

2. 调节效应

党派倾向： 在研究 1 中，相对于控制组，强烈的共和党人接受处理后的效应略小，但在研究 2 中未发现显著的党派调节作用。
基线信仰： 在研究 2 中，对于初始阴谋论信仰较强的参与者，处理效果更为显著。

3. 修辞策略

AI 的策略会根据信息的可用性进行调整：

研究 1（低信息量）： AI 较少依赖“理性说服”（事实/证据），而更多地依赖认识论谦逊（强调不确定性）、苏格拉底式提问（鼓励反思）以及引导用户转向可靠来源。
研究 2（中等信息量）： AI 采用的策略与处理历史阴谋论时相似，包括强调危害以及使用事实，尽管它仍然强调认识论上的谨慎。

4. 长期及溢出效应

研究 1 随访： 接受过关于第一次特朗普暗杀企图辟谈对话的参与者，在两个月后对第二次针对特朗普暗杀企图的相关阴谋论持有怀疑态度的可能性显著降低（优势比 $OR \approx 0.48–0.52$ ）。
研究 2 随访： 接受过柯克事件辟谈的参与者，在一个月后对其他流行的阴谋论（例如由隐藏团体进行的全球控制、人为制造的疾病）的认可程度有所降低。同时，在针对后续大规模枪击案的信念方面也存在持久性证据，尽管该效应较小。

核心贡献

在演变事件中的有效性： 本文证明了即使在事实信息极少的事件发生后的即刻阶段，LLM 也能有效地减少对阴谋论的信仰，挑战了“辟谣必须依赖预先存在的纠正性证据体”这一假设。
自适应说服： 研究识别出 AI 可以根据信息图景动态调整策略——在事实匮乏时优先考虑认识论谦逊和批判性思维，而在事实可用时则利用事实。
通过“辟谣”实现“预辟谣”（Prebunking via Debunking）： 研究结果表明，单次辟谣干预可以作为一种形式的“预辟药”，通过建立持久的怀疑精神，来抵御未来及不相关阴谋论的影响。
可扩展的干预手段： 该研究强调了 AI 驱动的对话在应对高风险社会危机期间的误导信息时，作为一种具有认知聚焦能力的、可扩展干预手段的潜力。

重要性与声明

作者声称，其结果揭示了新兴阴谋论的心理学特征，表明新生的信念是具有可塑性的，即使在缺乏明确反证的情况下，也可以通过诉诸批判性思维和认识论谨慎来改变。研究认为，AI 对话提供了一种在危机期间实时干预误导信息的可行机制。

论文对研究范围保持了审慎的态度，承认这些结果是基于两个特定的案例研究，并且在某些场景下（例如真实的阴谋或具有不同动态的事件），AI 辟谣可能会失效。作者明确指出，虽然其发现支持了 AI 的积极潜力，但同样的技术理论上也可以被恶意行为者滥用，以增加对新兴阴谋论的信仰。他们总结道，尽管与用户就敏感话题进行 AI 互动是一项挑战，但产生深远积极影响的潜力是巨大的。