💬 NLP

Language Models are Symbolic Learners in Arithmetic

本文认为，语言模型并未学习到算术的真实算法，而是作为贪婪的符号学习者，通过层级化地获取一系列简单的、低标记量的捷径来掌握任务，这一机制通过多位数乘法中呈现出的、与最简输入输出映射质量相吻合的 U 型准确率模式得到了证实。

原作者： Chunyuan Deng, Zhiqi Li, Roy Xie, Ruidi Chang, Hanjie Chen

发布于 2026-01-28

📖 1 分钟阅读☕ 轻松阅读

原作者： Chunyuan Deng, Zhiqi Li, Roy Xie, Ruidi Chang, Hanjie Chen

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

大问题：它们是数学天才还是模式匹配者？

想象一下，你看到一个学生能瞬间告诉你一个巨型乘法题（比如 $12,345 \times 67,890$ ）的最后一位数字，但在处理中间数字时却卡壳了。你可能会问：他们是真的理解乘法的原理，还是仅仅根据以前见过的模式在进行猜测？

这篇论文认为，大语言模型（LLMs）属于后者。它们并没有学习数学的“算法”（即我们在学校里教授的那种循序渐进的规则）。相反，它们表现得像是贪婪的捷径寻求者。它们在寻找最简单、最直接的方法来获得正确答案，通过记忆特定的“符号到符号”的技巧，而不是学习底层的逻辑。

侦探工具：“子群归纳法”（Subgroup Induction）

为了证明这一点，作者创建了一个新的侦探工具，叫做子群归纳法。

把一个乘法问题想象成一个巨大的拼图。要解决它，你通常需要观察其中涉及的所有数字。但这个工具提出了一个更简单的问题：“我们能否仅通过观察输入中一个微小的、特定的部分，就解决答案中的某一个部分？”

类比： 想象你在尝试猜一个蛋糕的味道。
- 算法方式： 你品尝整个蛋糕，分析面粉、糖、鸡蛋和烘焙时间，然后计算出味道。
- 捷径方式： 你只需闻一下香草精的味道。如果你闻到了香草味，你就猜它是“香草蛋糕”。你不需要知道关于鸡蛋或烤箱温度的任何信息；你只是找到了一个快速且可靠的捷径。

论文将这些捷径称为**“子群”（Subgroups）**。一个子群就是一个微小的映射关系，例如：“如果最后两位是 3 和 4，那么答案一定以 2 结尾。”

“U型曲线”的发现

研究人员通过对乘法问题进行训练来测试这一理论。他们发现了一个奇怪且一致的模式，其表现形式在图表上呈现出一种 U型曲线：

两端（高准确度）： 模型在预测答案的第一位和最后一位数字方面表现得非常出色。
中间（低准确度）： 模型在预测中间数字时表现得很糟糕。

为什么会发生这种情况？

两端是简单的捷径： 乘法的最后一位数字仅取决于被乘数和乘数的最后一位数字。这是一个完美的、简单的捷径（就像闻香草味一样）。模型能瞬间学会这一点，因为它只需要观察极少数的数字。
中间很困难： 中间数字取决于所有其他数字以及“进位”值的复杂混合。这里没有简单的、微小的捷径。要得到正确的中间数字，你必须几乎同时观察所有的数字。

论文显示，模型的性能曲线完美地匹配了这些捷径的“质量”。它们首先掌握那些容易的、低成本的捷径。只有当被迫进行更多训练时，它们才会开始学习复杂的、混乱的中间部分。

学习的“树”

作者将学习过程可视化为攀爬一棵树：

树的底部： 使用极少数字的简单捷径（容易学习，对两端数字准确度高）。
树的顶部： 使用大量数字的复杂捷径（难以学习，是完成中间部分所必需的）。

模型从底部开始。它们先抓取容易获得的胜利。只有随着训练的增加，它们才会慢慢向上攀爬，去应对更难、更复杂的模式。它们不会一次性学习“整棵树”，而是通过学习每一个分支，从最简单的开始。

“熵”度量：衡量难度

论文还引入了第二个工具，叫做子群熵（Subgroup Entropy）。你可以把它看作是一个**“困惑度计”**。

如果一个捷径具有低熵，意味着答案是非常可预测的（例如：“3 乘以 4 总是等于 12”）。
如果一个捷径具有高熵，意味着答案是混乱且难以预测的，如果不了解所有细节就无法得出结论。

研究人员发现，当他们分解复杂的推理任务（如思维链，即模型进行逐步思考的过程）时，那些困惑度（熵）最低的路径，正是模型最常做对的路径。这证实了模型偏好“阻力最小的路径”——它们想要最简单、最可预测的步骤来获得答案。

核心结论

论文得出结论：语言模型并不是在以人类的方式进行“计算”。它们是符号学习者（Symbolic Learners），构建了一个由捷径组成的层级结构。

它们并没有学习乘法的“配方”。
它们学习的是一个庞大的“如果-那么”技巧库，从最简单的（如最后一位数字）开始，并随着经验的增加，逐渐加入更复杂的（如中间数字）技巧。

简而言之：LLM 是高明的模式匹配者，它们热爱捷径，而不是算法思考者。 它们通过寻找符号之间最简单的路径来解决数学问题，而不是像我们那样进行数学运算。

技术摘要：语言模型是算术中的符号学习者

问题陈述

关于大型语言模型（LMs）进行算术运算的争论，其核心在于这些模型是在学习真正的计算算法，还是仅仅在掌握表层的模式匹配。虽然前沿模型在 GSM8K 等基准测试上已趋于饱和，但目前尚不清楚它们是否具备真正的数值推理能力，或者其成功是否只是由训练数据中的统计模式编织而成的“精巧幻象”。本文认为属于后者，并指出语言模型充当了“贪婪符号学习者”（greedy symbolic learners），它们优先选择最简单的捷径来拟合数据集统计特性，而非学习乘法的抽象算法。

方法论：子群归纳法 (Subgroup Induction)

为了验证这一假设，作者引入了子群归纳法，这是一个改编自所罗门诺夫归纳法 (Solomonoff Induction, SI) 的实用框架。SI 是一个结合了可计算性与贝叶斯原理的最优预测理论框架，通过柯尔莫哥洛夫复杂度（Kolmogorov complexity）倾向于更简单的假设（奥卡姆剃刀原则）。

作者将 SI 的原则应用于具体的算术学习场景，将子群定义为分析的基本单位。一个子群 $s$ 是从输入数字（ $A, B$ ）的子集到单个输出数字（ $C$ ）的最小映射。该框架通过将算术问题分解为这些子群，来识别语言模型所利用的“捷径”。

文中提出了两个互补的指标来衡量子群复杂度：

子群质量 ( $Q(s)$ )： 通过计算仅使用特定输入标记（将其他标记掩蔽为零）预测输出数字的准确率，来衡量捷径的可行性。高 $Q(s)$ 表示一个可靠且低标记数的捷径。
子群熵 ( $H(s)$ )： 衡量子群标签空间内输出标签的内在歧义性或变异性。它是一个用于误差估计和分析推理路径的高效计算工具。

作者将语言模型对输入标记的选择视为一种假设选择过程。他们假设语言模型遵循“标记预算树”（token-budget tree）搜索，最初学习需要少量标记的高质量捷径，只有在学习目标迫使时，才会逐步整合更复杂的、多标记的模式。

关键结果

1. U 型准确率模式

针对 Gemma-2-2B 和 Llama-3.1-8B 在多位数乘法（3 到 5 位数）上的实验揭示了一个明显的U 型准确率曲线。

观察结果： 模型能迅速掌握第一位（最高有效位）和最后一位（最低有效位）输出数字，准确率超过 95%。相反，中间位置数字的准确率大幅下降（降至约 10%）。
相关性： 这种 U 型结构并非巧合；它完美镜像了最简单子群的子群质量 ( $Q(s)$ )。
- 边缘位： 最低有效位仅依赖于最后几个输入数字（例如 $A_2 \times B_2$ ），而最高有效位受领先数字的大小估算约束。这些位置需要极少的标记数（低 $k$ ）且具有高 $Q(s)$ 。
- 中间位： 中间数字需要整合来自许多输入数字的交叉项和进位操作。对于这些位置，低标记数的子群具有低 $Q(s)$ ，这迫使模型在训练后期才去学习更高标记数、更复杂的映射。

2. 作为树搜索的学习动态

作者将训练动态解释为向“标记预算树”的搜索过程。

阶段 1： 模型通过极少的标记快速拟合树的“易学叶节点”（边缘数字）。
阶段 2-n： 随着中间位置的残差持续存在，梯度驱动模型整合更大的子群（更多标记）以消除歧义。
结论： 语言模型并不学习乘法作为一个整体的算法；它们学习的是一系列符号到符号映射的层级结构，从阻力最小的路径开始。

3. 思维链 (CoT) 与子群熵

论文将该框架扩展到了思维链推理：

误差估计： 子群熵 ( $H(s)$ ) 与模型性能强相关。总熵较低的任务（例如模数较小的模运算）表现出更高的准确率。
CoT 优化： 在 CoT 设置下，将乘法问题分解为不同步骤（例如埃及乘法法 vs 标准乘法法）会影响性能。研究发现，具有最低聚合子群熵的 CoT 路径始终能获得最佳准确率。这表明语言模型偏好由最容易的符号捷径序列组成的推理策略。

核心贡献

子群归纳框架： 一个源自所罗门诺夫归纳法的全新实用框架，通过将问题分解为最小的输入-输出映射，用以分析语言模型在算术中的学习机制。
发现 U 型准确率： 识别出多位数乘法中一致的 U 型准确率模式，为语言模型难以处理复杂的中间位数字、而通过简单捷径掌握边缘数字提供了经验证据。
机制解释： 证明了 U 型结构是“标记预算”层级结构的直接结果，即模型在学习复杂模式之前，会优先考虑低标记、高质量的捷径（奥卡姆剃刀）。
熵作为度量指标： 引入子群熵作为一种高效的计算指标，用于估计误差界限以及评估 CoT 设置下的推理路径复杂度。

意义与主张

论文声称，语言模型通往算术精通之路并非由发现抽象算法铺就，而是由一系列简单的、层级化学习的符号捷径构成的级联过程。

对可靠性的启示： 研究结果表明，语言模型并未发展出真正的数值推理能力，而是一种复杂的模式匹配能力，这种能力在面对无法通过简单捷径解决的分布外场景（例如复杂乘法中的中间位计算）时是非常脆弱的。
理论桥梁： 该工作将理论上的通用预测（所罗门诺夫归纳法）与现代神经架构联系起来，提供了一个理解语言模型是如何学习（而非仅仅是实现了什么）的视角。
实际应用价值： 该框架提供了诊断学习瓶颈和优化训练策略的工具（如子群质量和熵），例如通过策划数据来揭示中间位所需的必要标记，或设计能最小化符号复杂度的 CoT 路径。

作者总结道，将语言模型视为“贪婪符号学习者”对于开发可靠的 AI 推理至关重要，因为这凸显了当前模型在处理那些无法分解为简单、低标记映射的任务时的局限性。