🤖 AI

Reasoning as Pattern Matching: Shared Mechanisms in Human and LLM Everyday Reasoning

本文通过证明人类与大语言模型（LLM）的推理都表现出由模式匹配机制而非抽象世界模型所驱动的相似错误模式，且特定的 LLM 注意力头能够预测由无关细节引起的人类推理失败，从而挑战了人类与 LLM 推理之间的区别。

原作者： Zach Studdiford, Gary Lupyan

发布于 2026-06-12

📖 1 分钟阅读☕ 轻松阅读

原作者： Zach Studdiford, Gary Lupyan

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正在试图弄清楚一个聪明的机器人和人类大脑是如何解决一个简单的谜题的：“如果玻璃杯掉在瓷砖上，它会碎；如果掉在地毯上，它就不会。”

长期以来，科学家们认为人类是通过在脑海中构建一个完美的、抽象的“规则手册”（一个“世界模型”）来解决这个问题的。他们认为我们理解玻璃和重力的物理学原理，因此我们可以将这个规则应用于任何情况，无论细节如何。

相比之下，人们一直认为大型语言模型（LLM）——即聊天机器人背后的 AI——仅仅是“模式匹配器”。人们认为 AI 就像一只只会模仿的鹦鹉，记住了“玻璃”和“破碎”这些词经常一起出现，但并不真正理解为什么。

这篇论文颠覆了这个说法。

研究人员 Zach Studdiford 和 Gary Lupyan 认为，人类和 AI 实际上都在做同样的事情：我们都是“模式匹配器”。 我们都没有在使用一个完美的、抽象的规则手册。相反，我们都依赖于根据情境的具体细节来识别特定的模式。

以下是他们如何证明这一点的，其中用到了一些富有创意的类比：

1. “易碎玻璃”测试

研究人员给人类和 25 种不同的 AI 模型提供了一系列日常逻辑谜题。他们不仅仅是重复问同一个问题，而是玩了一场关于微小、看似无关紧要的变化的“找不同”游戏。

场景： “芝加哥在阿里北边。阿里转身了。芝加哥在阿里的[北/南]边。”
转折： 他们把“芝加哥”换成了“那幅画”。
- 提示 A： “芝加哥在阿里北边……”
- 提示 B： “那幅画在阿里北边……”

结果： 人类和 AI 都被这个变化搞糊涂了。

当物体是一个城市（芝加哥）时，人类和 AI 都非常擅长知道转身并不会改变一个城市的位置。
当物体是一幅画时，人类和 AI 突然出错的概率都变高了。

类比： 想象你有一把钥匙可以打开特定的门（“城市”门）。你知道如何使用它。但如果有人把门换成了“画”门，你会犹豫。你并没有一把“万能钥匙”（抽象规则）；你只有你见过的特定门的钥匙。这篇论文表明，人类和 AI 一样“脆弱”。 我们并不会忽略细节；细节会改变我们的思考方式。

2. “汤与炖菜”之谜

研究人员观察了一个场景：“汤在桌子上。阿里打开了炉灶。汤会变[热/冷]。”

正确答案： 变冷（因为汤在桌子上，不在炉灶上）。

然后他们把“汤”换成了“炖菜”、“肉汤”或“米饭”。

发现： 人类在回答关于“汤”的问题时表现出色，但在回答关于“米饭”或“肉汤”的问题时却表现得很糟糕，尽管逻辑是完全相同的。
AI： AI 也表现出了完全相同的模式。面对“汤”时它很自信，面对“米饭”时则感到困惑。

类比： 想象一位厨师非常清楚如何烹饪“番茄汤”。如果你问他关于“番茄炖菜”的情况，他可能会愣住，即使两者的成分 90% 是一样的。他并不是在思考“番茄液体”，而是在思考“番茄汤”。这篇论文表明我们的脑部运作方式也是如此：我们是特定模式的专家，而不是抽象规则的专家。

3. 透视 AI 的“大脑”

为了证明这并非巧合，研究人员使用了一种特殊的工具来观察 AI 的“大脑”（具体来说是被称为注意力头的部分）。他们想看看 AI 关注的是逻辑（炉灶还是桌子），还是细节（汤还是米饭）。

实验： 他们在 AI 思考的过程中更换了输入中的单词。
发现： 负责给出答案的 AI 部分，对“汤”与“米饭”这类词的敏感度，竟然比对实际逻辑（炉灶）的敏感度还要高。
“机器中的幽灵”： 当他们利用这些特定的“模式匹配”部分来预测人类会如何回答时，其准确率惊人地高。AI 的这种“汤/米饭”检测器，竟然能完美预测人类会在哪些问题上答对，又会在哪些问题上答错。

类比： 想象你有一个预测人类行为的机器人。你发现这个机器人是在通过观察人类的鞋子来进行预测。如果人类穿着运动鞋，机器人预测他们会跑；如果穿着靴子，机器人预测他们会走。研究人员发现，AI 的“鞋子”（模式匹配神经元）实际上是人类大脑运作的完美地图。

核心结论

论文得出结论：推理并不是关于构建一个完美的、抽象的世界地图。 相反，它是关于模式匹配。

对于 AI： 仅仅是匹配模式并不代表它的推理是“虚假”的；这正是这些系统运作的方式。
对于人类： 我们并不是因为拥有抽象逻辑而显得“优越”。我们也都是模式匹配器。我们依赖于具体的语境（是一个城市还是一幅画？是汤还是米饭？）。

总结：
我们经常认为 AI 很“笨”，因为它在改变一个词时就会出错；我们也认为人类很“聪明”，因为我们理应理解规则。但这篇论文说：不，我们是一样的。 我们都会被细节绊倒。我们都依赖于情境的具体“风味”，而不是一套冰冷、生硬的规则手册。

作者们认为这并非缺陷，而是一种特性。在混乱的现实世界中，细节（是画还是城市？）对于预测接下来会发生什么往往确实非常重要。因此，人类和 AI 都在做正确的事——通过关注细节，即便这会让我们在逻辑测试中显得有些“脆弱”。

标题：推理即模式匹配：人类与大语言模型在日常推理中的共享机制

问题陈述
认知科学和人工智能安全领域的流行观点认为，人类推理依赖于抽象、结构化的“世界模型”，这些模型保留了因果结构、组合性以及角色-填充物（role-filler）的独立性。相比之下，大语言模型（LLMs）常因无法泛化或产生随机错误而受到批评，导致人们得出结论：它们仅仅是在进行基于统计关联的浅层“模式匹配”，而非真正的推理。然而，人类推理也以高度的内容敏感性和易犯错性著称，其错误往往违反严格的逻辑组合性（例如，沃森选择任务，或“798比偶数小”现象）。本文研究了 LLMs 中观察到的推理失败是其架构特有的，还是反映了一种人类与模型共有的认知机制。具体而言，作者提出了以下问题：人类与 LLMs 的日常因果推理，究竟更适合用抽象的世界模型来解释，还是更适合用一种上下文相关的模式匹配来解释？

研究方法
本研究采用多维度方法，结合人类与 LLMs 的行为实验，并辅以机械解释性分析。

行为评估：
- 参与者： 142 名人类参与者和 25 个 LLMs（包括 Gemma 和 Llama 等开源模型，以及 GPT-4.1 和 DeepSeek-R1 等闭源模型）。
- 任务： 一个涉及 11 个日常场景类别（如 地心-近端、自我中心-远端、状态跟随、动作-不跟随）的模块化因果推理任务。
- 设计： 提示词以两种框架呈现：目标型（给定原因推断结果）和 上下文型（给定结果推导原因）。至关重要的是，研究包含了“最小差异对”，其中仅在表面上无关的内容词发生变化（例如，“汤在桌子上”与“炖菜在桌子上”），而真实的因果结果保持一致。
- 指标： 人类准确率通过二元选择测量。LLM 准确率通过正确与错误 token 之间的逻辑值（logit）差异（针对开源权重模型）或二元正确性（针对 API 模型）进行测量。
机械解释性：
- 模型： 研究重点关注 gemma-2-27b-it，因为它在人类行为模式上具有较强的对齐性。
- 因果识别： 作者进行了消融实验，以识别对模型输出具有最强因果责任的 top- $k$ 个注意力头（即移除后会导致逻辑值差异最大的注意力头）。
- 激活补丁（Activation Patching）： 为了确定这些注意力头关注的信息，作者将来自“关键”提示词（内容改变了真实因果结果）和“非关键”提示词（内容改变但结果不变）的激活值补丁到基础提示词中。
- 预测： 这些具有因果关键性的注意力头的熵被用作特征，用以预测模型在留存提示词和场景中的人类准确率。

核心结果

共享的失败特征： 人类和 LLMs 都表现出“梯度准确率”，即性能对提示词内容的细微表面变化高度敏感。
- 人类和 LLMs 在涉及远端引用（如城市）的地心关系上，比涉及近端对象（如画作）时更准确；而在涉及近端对象的 自我中心 关系上，比涉及远端对象时更准确。
- 提示词的微小改动（例如，在炉灶开启的情境下将“汤”改为“炖菜”）会在两组中诱发相似的“失效状态”，即使逻辑上的结果并未改变。
- 具有更高整体准确率的 LLMs（如 DeepSeek-R1）并不一定更像人类；在某些情况下，较小的模型（如 Gemma-3-27b-it）反而能更好地对齐人类的错误模式。
LLM 响应的机制：
- 内容敏感性： 激活补丁显示，具有因果重要性的 top- $k$ 个注意力头对 非关键 内容替换（例如，将“画作”改为“雕像”）的敏感度，显著高于对关键结构变化（例如，将“北”改为“南”）的敏感度。这支持了以下假设：这些注意力头实现的是一种基于表面内容的模式匹配，而非基于抽象因果结构的模式匹配。
- 预测人类错误： 这些特定注意力头的熵成功预测了人类的准确率。使用这些注意力头激活值的线性模型解释了人类反应中的显著方差（在留存提示词和场景中 $R^2 \approx 0.65$ ），即使在控制了类别、提示格式和 n-gram 频率后也是如此。
- 最小差异场景： 在一项包含 96 个仅由单个内容词差异构成的后续评估中，这些模式匹配注意力头的激活值能够高保真地预测人类的准确率，解释了高达 76% 的方差。

核心贡献

经验对齐： 本文提供了强有力的证据，证明人类与 LLM 的推理失败并非截然不同的现象，而是共享了内容敏感性和脆弱性的共同特征。
机械解释： 研究超越了行为相关性，识别出了驱动这些行为的 LLM 内部电路（即一组特定的注意力头）。
重构推理： 作者证明了“模式匹配”这一常被视为 LLM 缺陷的机制，实际上正是其能够预测人类错误的原因。这表明，人类推理本身可能也高度依赖于模式匹配，而非纯粹的抽象世界模型。

意义与主张
本文认为，对于日常因果推理而言，“推理”（抽象世界模型）与“模式匹配”（浅层关联）之间的区别可能是一个伪命题。作者主张：

人类推理是上下文相关的： 人类的推理并非完全具备组合性或抽象性；它深受问题具体内容和上下文的影响。“失效状态”在 LLMs 中观察到的现象并非智能缺失的证据，而是反映了人类认知实际运作的方式。
LLMs 作为认知科学的工具： 由于 LLMs 允许对内部机制进行因果操纵（这在人类身上无法实现），它们成为了逆向工程人类认知的独特工具。LLM 注意力头能够预测人类错误这一事实表明，人类推理中的“混乱”是一种特性而非缺陷，这种特性很可能是为了应对现实世界中开放且富含上下文的问题而进化的。
模式匹配是一种有效的机制： 研究指出，模式匹配不仅仅是一种退而求其次的手段或浅层启发式算法，而是神经网络（无论是生物的还是人工的）解决问题的基本方式。追踪“表面上无关”细节的能力在自然环境下可能是具有适应性的，因为在这些环境下，特定的实体（例如某种特定类型的食物或某个特定城市）携带了隐含的上下文信息，而僵化的抽象模型可能会忽略这些信息。

作者总结道，对于人类和 LLMs 而言，对日常因果场景的推理都是一种对提示词全文高度敏感的模式匹配形式，而非仅由抽象的、保持结构的世界模型所驱动的过程。

1. “易碎玻璃”测试

2. “汤与炖菜”之谜

3. 透视 AI 的“大脑”

核心结论

类似论文