🤖 AI

A Cognitively Grounded Bayesian Framework for Misinformation Susceptibility

本文介绍了有界语用听众（BPL），这是一个基于认知科学的贝叶斯框架，它通过引入三个有界理性约束来扩展理性言语行为理论，以建模对虚假信息的易感性，在真实性分类基准测试中展现出具有竞争力的性能，并为深度不匹配悖论提供了实验支持。

原作者： Pranava Madhyastha

发布于 2026-05-12

📖 1 分钟阅读☕ 轻松阅读

原作者： Pranava Madhyastha

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正在试图判断在聚会上听到的一个谣言是否属实。通常，旨在识别假新闻的计算机程序就像一位超级聪明的侦探，会将每一个事实与一本巨大的百科全书进行核对。但本文认为，现实中的人类并非如此运作。人类会感到疲惫、分心，且精神能量有限。

作者 Pranava Madhyastha 及其同事构建了一个名为BPL（有界语用听众）的新计算机模型。请将 BPL 想象成并非一位超级侦探，而是一个模拟普通人类大脑的模型，试图判断一则新闻声明是真是假。

以下是该模型的运作原理，将其分解为三个让我们容易受到错误信息影响的简单“精神限制”：

1. “精神栈”限制（递归深度）

想象你的大脑是一摞盘子。当你听到一个声明时，你只能叠起几个盘子，再多就会倒塌。

第 0 层： 你只是听到了这个事实。“失业率为 2%。”你根据这个数字接受或拒绝它。
第 1 层： 你会想，“谁说的？”你意识到这是一位参议员说的。
第 2 层： 你会想，“这位参议员为什么要这么说？他是在试图欺骗我们吗？他是否知道其他人都知道这是一个谎言？”

本文指出，大多数人的大脑在感到疲惫之前，只能叠起大约两个盘子。如果一条错误信息是一个复杂的“第 2 层”诡计（例如，“大家都知道政府在撒谎，但他们不会说出来”），那么拥有“第 1 层”思维的人可能会感到困惑并相信它。他们看到了归属（“参议员说……"），却错过了更深层的陷阱。

巨大的惊喜： 本文发现了一个奇怪的悖论。那些部分聪明的人（他们注意到了是谁说的，但没有深入挖掘为什么要这么说）实际上比完全忽略说话者的人更容易受骗。这就像一个人看到了“警告”标志，却没有阅读上面的小字，以为标志本身就让危险变得真实，而事实上，这个标志正是为了欺骗他们而放置在那里的。

2. “作弊条”限制（先验压缩）

想象你拥有一座关于世界的庞大事实图书馆。当你疲惫或压力大时，你没有时间阅读整本书。相反，你会抓起一张皱巴巴的、只有几个大类的小小“作弊条”：“可信来源”与“可疑来源”。

BPL 模型表明，当我们的头脑承受压力时，我们会将复杂的信念压缩成这些简单的类别。如果一条声明来自“可疑来源”，我们会立即将信念压缩为“这很可能是假的”。如果它来自“可信来源”，我们就会将其压缩为“这很可能是真的”。模型证明，这种“作弊条”方法实际上是我们是否相信某事的最关键因素。

3. “记忆搜索”限制（可用性采样）

想象你正在试图判断一个声明是否属实，于是你问大脑：“我以前见过这个吗？”

完美的大脑会搜索其全部记忆，找出每一个相似的例子。
疲惫的大脑（即 BPL 模型）只抓取脑海中最先浮现的几个例子。

问题在于，最先浮现的例子通常是那些声音响亮、充满情绪或经常被重复的例子。如果你今天已经看到了五次虚假标题，你的大脑就会抓取这五个例子并说：“我见过很多次了，所以这一定是真的！”这被称为“虚幻真实效应”。该模型通过仅查看一小部分有偏见的记忆样本而非全部真相来模拟这一过程。

他们是如何测试的

研究人员在两个真实世界的新闻声明数据集（称为Liar和MultiFC）上测试了这个“有界人类大脑”模型。

他们将他们的模型与仅查看关键词和元数据的标准计算机程序进行了比较。
他们还加入了一个“大型语言模型”（就像你现在正在与之对话的 AI），作为人类记忆搜索的更智能版本。

结果：

“作弊条”胜出： 模型中最重要的部分是“先验压缩”（即作弊条）。仅仅知道一个来源通常是可信的还是可疑的，就是预测声明是否为假的最大指标。
“部分知识”陷阱： 数据证实了上述悖论：那些注意到声明归因于某人（第 1 层）但不分析其意图（第 2 层）的人，比完全忽略归因的人更容易受骗。
AI 的帮助： 当他们使用 AI 来辅助模拟“记忆搜索”和“来源信任”时，模型识别谎言的能力大大提高，因为 AI 能够理解词语的含义，而不仅仅是表面特征。

核心结论

这篇文章不仅仅是在说“假新闻很糟糕”。它构建了一张数学地图，解释了为什么我们的大脑无法识破它。它表明，错误信息通过利用我们的思维捷径来发挥作用：

它用那些过于复杂、我们疲惫的大脑无法完全拆解的故事来欺骗我们。
它依赖我们使用“作弊条”来判断信任，而不是进行深入调查。
它指望我们记住那些响亮、重复的谎言，而不是安静、真实的事实。

作者总结道，为了对抗错误信息，我们可能需要停止仅仅教导人们去“注意”是谁说了什么，转而教导他们去质疑为什么那个人要这么说，因为如果不理解动机而仅仅注意到归因，实际上可能会让我们更加脆弱。

技术摘要：一种基于认知基础的贝叶斯虚假信息易感性框架

问题陈述

当前自然语言处理（NLP）在虚假信息检测方面的方法，主要将问题视为真实性分类任务：给定一个主张，预测其真假。虽然这种方法在识别虚假内容方面有效，但该范式具有还原论倾向，因为它忽略了读者的认知过程。现有模型缺乏对人类主体的表征，无法预测谁容易受到特定类型信息失序的影响、为何他们相信这些信息，以及不同的认知特征如何导致对同一主张产生分歧的解读。此外，标准做法通常（例如通过多数投票）丢弃标注者的分歧意见，从而丢失了关于主张本身固有的模糊性或认识论不确定性的宝贵信号。

本文认为，虚假信息的易感性不仅仅是事实核查的失败，而是有限理性的后果。人类并非像理想的贝叶斯推理者那样处理语言；他们在受限条件下运作，例如工作记忆有限、依赖心理捷径（启发式），以及受显著或频繁重复信息的影响。

方法论：受限语用听众（BPL）

作者引入了受限语用听众（Bounded Pragmatic Listener, BPL），这是一个形式化的贝叶斯框架，扩展了理性言语行为（Rational Speech Acts, RSA）理论。BPL 模拟了一个主体在给定话语 $u$ （新闻主张）的情况下，更新关于世界状态 $w$ （主张为真/假）的信念，该过程受限于三个认知驱动的资源约束：

递归深度界限（ $k$ ）：
- 概念： 限制“心智理论”（Theory of Mind, ToM）推理的深度。它模拟主体能追踪多少层说话者的意图（例如， $k=0$ ：接受字面内容； $k=1$ ：认识到说话者提出了主张； $k=2$ ：推理说话者操纵社会共识的意图）。
- 认知基础： 基于工作记忆限制（Cowan, 2001）以及实证发现，即主体在策略博弈中很少递归超过深度 2（Camerer et al., 2004）。
- 机制： 有效深度为 $k^* = \min(k, d+1)$ ，其中 $d$ 是主张的认识论深度（信念归因算子的嵌套）。
先验压缩参数（ $\beta$ ）：
- 概念： 模拟主体在认知负荷下如何保留细微的可信度信念，还是将其坍缩为粗略的启发式（例如“可疑来源”）。
- 认知基础： 源于信息瓶颈理论（Tishby et al., 1999）和双过程理论（系统 1 与系统 2）。
- 机制： 主体通过瓶颈变量 $Z$ （可信度图式）维持压缩表示 $\tilde{P}_\beta(w)$ 。当 $\beta \to 0$ 时，主体丢弃先验（启发式处理）；当 $\beta \to \infty$ 时，主体保留完整先验（系统性处理）。来源可信度 $\gamma$ 调节这种压缩。
可得性样本量（ $N$ ）：
- 概念： 模拟主体在评估主张时从记忆中检索到的相似示例数量，通过显著性权重实现重要性采样。
- 认知基础： 基于可得性启发式（Tversky and Kahneman, 1973）和“错觉真实效应”（Hasher et al., 1977）。
- 机制： 主体不计算精确的似然度，而是通过从提议分布 $Q(u)$ 中采样来估计似然度，该分布由心理显著性因素加权：情感效价（ $\nu$ ）、重复次数（ $r$ ）和近期性（ $\rho$ ）。较小的 $N$ 会导致系统性地过度加权生动或重复的示例。

信息失序映射

该框架明确将 Wardle 和 Derakhshan (2017) 的信息失序分类法映射到 BPL 参数：

误信息（Mis-information）： 利用压缩的先验（ $k=0$ ）。
虚假信息（Dis-information）： 利用浅层的心智理论推理（ $k \ge 1$ ）。
恶意信息（Mal-information）： 利用深层递归和元认识论框架（ $k \ge 2$ ）。

这种映射导致了深度失配悖论（Depth-Mismatch Paradox）：具有部分语用意识（ $k=1$ ）的主体可能比完全没有意识（ $k=0$ ）的主体更容易受到虚假信息的影响，因为他们识别出了归因，却未能评估其背后的欺骗意图。

实现与评估

作者使用两个数据集实现了 BPL：LIAR（PolitiFact 主张）和MultiFC（多领域事实核查主张）。

主体群体： 模拟了一个涵盖 $(k, \beta, N)$ 参数空间的九种典型主体类型。
大语言模型（LLM）基础： 开发了一种混合版本，利用大语言模型（LLM，具体为 Gemini 2.5 Pro）推导主张的语义丰富表征，包括：
- 用于先验压缩的言语图式（取代手工制作的表格）。
- 基于情感强度、新颖性、记忆性和可分享性的显著性权重（ $\phi$ ）。
- 用于可得性样本的模拟记忆检索。
指标： 真实性分类（AUC, F1）、预测误差以及组件级校准（模拟召回率与真实值之间的相关性）。

主要结果

1. 真实性分类

LIAR 数据集： “表面基线”（使用说话者历史元数据）实现了完美的 AUC（1.000），但这归因于数据泄露，其中说话者历史直接编码了标签。BPL Full 模型（仅将说话者历史用作压缩先验，而非直接特征）实现了 0.930 的 AUC 和 0.885 的 F1，确立了无数据泄露的强基线。单个 BPL 标量（易感性评分）仅使用主张文本和说话者身份，就实现了 0.811 的 AUC。
MultiFC 数据集： BPL Full 实现了 0.840 的 AUC，而表面基线为 0.879。虽然 BPL 未提高区分度（AUC），但将 BPL 特征与表面特征结合，使 F1 分数从 0.439 提升至 0.517，表明在需要高召回率的事实核查中，精确率 - 召回率权衡得到了改善。

2. 消融研究

先验压缩至关重要： 移除先验压缩界限（ $\beta$ ）导致了最大的性能下降（ $\Delta r = -0.064$ ），这表明对人类如何压缩来源可信度进行建模是该框架成功的最关键因素。
深度界限效应： 在完整的 LIAR 数据集（92% 为深度 0 主张）上，放宽深度界限的影响微乎其微。然而，当以深度 1 主张为条件时，深度界限成为性能的主要驱动因素。

3. 深度失配悖论

实证验证： 在深度 1 主张上， $k=1$ （部分意识）主体的表现显著差于 $k=0$ 主体（错误率 0.510 对比 0.450）。
解释： $k=1$ 主体识别出归因，但无法评估说话者的欺骗意图，导致他们将主张视为微弱的正面证据。 $k=0$ 主体忽略归因并评估字面内容（通常语言上不合逻辑），从而导致信念度较低。 $k=2$ 主体正确推断出欺骗性，实现了最低的错误率（0.340）。

4. LLM 基础与校准

性能提升： 在小样本上，混合 LLM-BPL 实现了 0.868 的 AUC，而匹配的特征基线仅为 0.695。
认识论通道： LLM 和基于特征的模型显示出近乎独立性（ $r=0.184$ ），表明 LLM 访问了一个独特的认识论通道（语义框架连贯性），而非依赖词汇元数据。
可得性校准： LLM 模拟的对虚假主张的召回率与实际主张的虚假性在无监督情况下表现出强相关性（ $r=0.562$ ），验证了可得性机制。该模型自然地检索到更多虚假示例来对应虚假主张，从而有效地抑制了对它们的信念。

意义与主张

本文将 BPL 定位为一项正在进行的工作，它为标准的虚假信息检测提供了一种基于认知基础的替代方案。其主要贡献包括：

理论层面： 将信息失序类型形式化地映射到认知约束，预测了“深度失配悖论”，即部分训练可能会增加脆弱性。
方法层面： 一个概率框架，当约束放宽时可简化为标准 RSA，允许对异质认知特征进行建模，并将标注者分歧预测为后验方差。
实证层面： 证据表明，先验压缩（模拟人类如何简化来源可信度）是真实性分类的主导因素，而LLM 基础通过模拟类人的记忆检索和语义框架显著提升了性能。

作者总结道，虽然 BPL 是一个强大的分类器，但其真正价值在于能够解释为何某些主体容易受影响。他们警告称，当前的架构假设二元真实性，并依赖简单的启发式方法进行深度提取，指出未来的工作应解决分级真实性和更复杂的依存句法分析。该框架表明，仅专注于教导人们注意归因（而不教导意图评估）的干预措施，可能会无意中增加对虚假信息的易感性。