🤖 AI

Abductive Reasoning with Probabilistic Commonsense

本文介绍了概率溯因常识（PACS），这是一种新颖的神经符号框架，它利用大语言模型和形式化求解器，通过概率采样对常识信念中的个体差异进行建模，从而在多个基准测试中超越了现有的推理方法。

原作者： Joseph Cotnareanu, Chiara Roverato, Han Zhou, Didier Chetelat, Yingxue Zhang, Mark Coates

发布于 2026-05-11

📖 1 分钟阅读☕ 轻松阅读

原作者： Joseph Cotnareanu, Chiara Roverato, Han Zhou, Didier Chetelat, Yingxue Zhang, Mark Coates

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是用通俗语言和日常类比对论文《基于概率常识的溯因推理》的解释。

核心难题：“完美逻辑”机器人与真实人类

想象你有一位超级聪明的机器人律师。这位机器人非常擅长形式逻辑：如果你告诉它“所有人都会死”和“苏格拉底是人”，它能立刻得出“苏格拉底会死”的结论。

然而，这位机器人有一个巨大的盲点：它缺乏常识。除非你明确告知，否则它不知道“白色是一种颜色”或“兔子是动物”。如果你问它：“我应该给同事的生日带礼物吗？”它可能会僵住。它只知道你提供的事实，却缺乏人类用来填补空白的未成文社会规则（即常识）。

以往试图解决这一问题的方法，是要求机器人去“猜测”缺失的常识事实。但这篇论文的研究人员意识到一个关键点：人们对常识的看法并不总是一致的。

A 先生可能会想：“带礼物是礼貌的，所以我应该带一个。”
B 女士可能会想：“他没要求带礼物，带礼物会很尴尬。我不应该带。”

这两个人都在运用完美的逻辑；他们只是基于不同的“常识”信念作为起点。旧有的方法假设所有人都认同这些规则，但这在现实世界中并不成立。

解决方案：PACS（“众包陪审团”）

作者提出了一种名为PACS（概率溯因常识）的新系统。PACS 不再要求机器人找出唯一正确的答案，而是问：“大多数人会得出什么结论？”

你可以把 PACS 想象成一场陪审团审判，而不是单个侦探的办案。

侦探（大语言模型）： 系统利用大语言模型（即“侦探”）来生成不同的可能“故事”或信念集合。
法官（逻辑求解器）： 对于每个故事，一位严格的逻辑法官会检查结论是否符合规则。
陪审团（投票）： 系统不会仅仅采纳侦探讲出的第一个故事。它会生成许多不同的故事（有的说“带礼物”，有的说“不带”）。然后进行计票。如果 70% 的逻辑路径指向“带礼物”，系统就会得出结论：这就是答案。

工作原理：“最短路径”类比

棘手之处在于，生成每一个可能的故事需要耗费过多的时间和计算资源。你无法瞬间询问一百万人的意见。

作者想出了一个巧妙的技巧来快速找到正确答案，其类比是穿越迷宫。

目标： 你想尽快走出迷宫（解决问题）。
旧方法： 机器人试图走每一条路径，直到撞墙。这既缓慢又昂贵。
PACS 方法： 机器人使用一个“分数”来猜测哪条路径最短。它会问：“如果我迈出这一步，能否最大程度地缩小可能性范围？”

想象你正在猜测 1 到 100 之间的一个秘密数字。

如果你问：“它是一个数字吗？”你什么也学不到。
如果你问：“它小于 50 吗？”你将可能性减半。这是一个好的步骤。

PACS 试图寻找那些能尽快将迷宫缩减至出口的“好步骤”。它采样不同“人”的信念，检查它们是否能解决谜题，并在拥有足够信息做出决定时立即停止。然后，它汇总所有这些快速决定，以观察大多数人的看法。

为何这比现有方法更好

该论文将 PACS 与其他方法进行了测试，例如“思维链”（机器人只是自言自语）以及其他基于逻辑的系统。

“思维链”的问题： 当机器人自言自语时，它往往过于自信却错误百出。它可能会沿着一条听起来不错但通向死胡同的路径开始，并且因为自信而继续前行。
PACS 的优势： 由于 PACS 采样了许多不同的路径并观察多数票，因此很难被愚弄。即使机器人在某条路径上陷入困惑，其他路径也可能指向正确答案。

结果：

在需要常识的逻辑谜题（如生日礼物问题）上，PACS 比其他方法更频繁地得出正确答案。
即使“思考”过程杂乱无章，它也能找到正确答案，因为它不依赖单一完美的路径。
有趣的是，使用较小、较旧的 AI 模型的 PACS，其表现实际上优于一些试图预先规划一切的庞大、现代的“思考”模型。这表明，拥有一个聪明的搜索策略（陪审团方法）比仅仅拥有一个更大的“大脑”更为重要。

总结

该论文认为，要解决复杂的推理问题，我们不应寻找“唯一的真理”。相反，我们应该模拟一个多样化的人群，让他们运用各自的常识来解决问题，并采纳大多数人一致同意的答案。通过这样做，该系统在推理方面变得更加稳健、准确，也更像人类。

技术摘要：基于概率常识的溯因推理

1. 问题陈述

本文探讨了当前大型语言模型（LLM）中神经符号推理方法的局限性。尽管现有方法成功地将自然语言转化为形式逻辑并利用求解器，但它们往往因形式求解器缺乏必要的常识性世界知识（例如，“白色是一种颜色”）而失败。

此前尝试弥合这一差距的方法（如 LLM-Tres、ARGOS）依赖于溯因推理框架，即由 LLM 生成缺失的前提（ $L$ ），使查询（ $c$ ）在逻辑上被上下文（ $S$ ）所蕴含。然而，这些方法隐含地假设了一种单一的常识：即存在一套单一、普遍公认的事实集合 $L$ ，所有人都将其视为真理。

作者认为这一假设存在缺陷。事实上，常识信念因人而异。两个人对某个查询产生分歧，并非由于推理错误，而是因为他们持有不同但可辩护的常识信念集合（ $L_1$ 与 $L_2$ ），从而得出矛盾的结论。此外，假设存在单一常识会使命题为真的概率难以解释，往往将其简化为不可解释的置信度分数，而非真正的概率。

核心问题： 当必要的常识假设并非普遍公认，而是在推理者群体中各不相同的情况下，如何确定给定前提 $S$ 下查询 $c$ 的真值？

2. 方法论：概率溯因常识（PACS）

作者提出了PACS，这是一个将常识建模为推理者群体上的概率分布，而非单一静态事实集合的框架。

2.1 理论框架

作者将查询 $c$ 为真的溯因概率定义为所有人类（ $R$ ）集合上的期望值：
$AP(S, c) \equiv \mathbb{E}_{R} [ \mathbb{1}[S \land L(R) \vdash c] ]$
其中 $L(R)$ 代表推理者 $R$ 持有的常识信念集合。如果大多数推理者会得出结论认为其为真，则该查询被视为“溯因真”。

由于任何个体的完整信念向量 $L$ 均不可获取，该方法通过顺序采样个体的“思维”（认知陈述）来近似这一期望值。

2.2 采样算法

该算法将证明搜索视为对信念向量 $L = (L_1, L_2, \dots, L_{|D|})$ 中各个元素进行采样的过程。

链式法则采样： 该过程利用链式法则逐个采样信念： $p(L) = p(L_1)p(L_2|L_1)\dots$ 。
早停机制： 采样无需生成完整的信念向量。一旦累积的信念 $\hat{l}$ 与前提 $S$ 结合后在逻辑上蕴含查询（ $S \land \hat{l} \vdash c$ ）或其否定（ $S \land \hat{l} \vdash \neg c$ ），采样即停止。
作为马尔可夫决策过程（MDP）的优化： 寻找最优的信念采样顺序以最小化计算成本（停止时间）被表述为一个马尔可夫决策过程（MDP）。
- 状态： 当前已采样的信念集合。
- 动作： 选择下一个要采样的信念命题。
- 奖励： 最小化达到结论所需的预期未来步数。

2.3 代理分数函数

计算精确的预期奖励需要知道完整分布 $p(L)$ ，这是不可处理的。作者基于模型计数（满足逻辑的可能世界数量）推导出了一个可处理的代理分数。
提出的贪婪最小化分数为：
$\text{Score}(\phi(t)|S) = \#\sigma_{S \land l_{\phi(1:t)}} \times (v_{S \land \hat{l}_t} - b_{S \land \hat{l}_t}) + 1$
其中：

$\#\sigma$ 是可达的完全约束状态的数量。
$v$ 是问题中的变量总数。
$b$ 是已约束的变量数量。
该分数近似于不确定性的减少量，引导搜索朝向信息量最大的常识假设。

2.4 实现

LLM 作为采样器： LLM 充当下一个信念命题 $l_i$ 的条件采样器。
类束搜索（Beam-like Search）： 算法在每一步采样 $n$ 个候选思维，但仅保留得分最高的 $m$ 条路径（一种束搜索变体）。
聚合： 与选择单一最高得分路径的标准束搜索不同，PACS 聚合所有已完成搜索路径的结果。最终答案由这些多样化路径结论的多数投票决定。

3. 主要贡献

概率常识框架： 本文引入了溯因推理的形式化定义，明确建模人类常识信念的异质性，摒弃了单一真理的假设。
PACS 算法： 一种新颖算法，结合 LLM 与形式逻辑求解器以采样多样化的推理路径，利用模型计数引导对最简解释的搜索。
实证验证： 证明了建模信念差异并聚合多样化路径，比假设单一“正确”推理路径或仅依赖 LLM 置信度分数的方法具有更高的准确率。

4. 实验结果

作者在三个数据集上评估了 PACS：FOLIO（逻辑推理）、CosmosQA 和 QUAIL（转换为真/假问题的阅读理解）。

性能： 在 FOLIO 和 QUAIL 上，PACS 的表现优于思维链（COT）、自一致性（SC）以及先前的神经符号方法（LoT、LLM-Tres、ARGOS）。
- 在 FOLIO 上，PACS 实现了 88% 的准确率（使用 Llama 3.3 70B），而次优的神经符号方法（ARGOS）为 78%，COT 为 73%。
- 在 QUAIL 上，PACS 实现了 91% 的准确率，比启发式束搜索基线（If-Beam）高出 6%。
多样性与鲁棒性： PACS 显著降低了未找到任何正确推理路径的问题百分比（例如，FOLIO 上为 3%，而 If-Beam 为 16%）。这表明 PACS 更有效地探索了解决方案空间。
与“思考”模型的比较： 即使使用较小的非“思考”模型（Llama 3 8B），PACS 在 FOLIO 上也优于现代 120B“思考”模型（GPT-OSS-120B）（FOLIO 上 88% 对 82%，QUAIL 上 82% 对 82%），这表明原则性的搜索算法比单纯扩大模型规模更有效。
路径长度： PACS 发现的推理路径更短（FOLIO 上平均长度为 4.6），而 If-Beam 为 6.7，表明其规划更好且更少“过度思考”。

5. 意义与主张

本文声称 PACS 的成功验证了两个核心见解：

异质性是关键： 推理系统不应问“正确答案是什么？”，而应问“大多数人会认为什么是正确的？”这需要汇总多样化的样本推理，而非寻求单一的整体证明。
目标导向搜索： 系统不应问“有哪些真命题？”，而应问“哪些真命题能帮助我解决这个问题？”这需要一种最小化策略（寻找最短、最直接的路径），而非穷举生成。

作者总结道，尽管他们的框架使用了相对天真的假设（例如解的均匀分布），但它证明了设计具体、原则性的搜索算法是提升推理能力比单纯微调 LLM 或依赖其隐含置信度更有效的途径。

6. 局限性

作者承认存在若干局限性：

均匀性假设： 代理分数的推导假设可达状态分布（ $p(\sigma_i|l)$ ）采用均匀模型，这可能不切实际。
翻译错误： 该方法依赖预训练 LLM 将自然语言翻译为逻辑。此翻译步骤中的错误会引入噪声，这一点在 CosmosQA 数据集中尤为明显，其中翻译错误更为频繁。
范围： 本文未探索微调专用的逻辑翻译模型，也未提出更复杂的信念分布模型，认为这些超出了当前范围。