🤖 AI

Arithmetic in the Wild: Llama uses Base-10 Addition to Reason About Cyclic Concepts

本文揭示，Llama-3.1-8B 并非通过执行针对特定概念周期的模运算来推理循环概念，而是利用由傅里叶特征驱动、基于稀疏共享 MLP 神经元构成的任务无关的十进制加法机制来计算和，随后将其映射回循环域。

原作者： Sheridan Feucht, Tal Haklay, Usha Bhalla, Daniel Wurgaft, Can Rager, Raphaël Sarfati, Jack Merullo, Thomas McGrath, Owen Lewis, Ekdeep Singh Lubana, Thomas Fel, Atticus Geiger

发布于 2026-05-06

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Sheridan Feucht, Tal Haklay, Usha Bhalla, Daniel Wurgaft, Can Rager, Raphaël Sarfati, Jack Merullo, Thomas McGrath, Owen Lewis, Ekdeep Singh Lubana, Thomas Fel, Atticus Geiger

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是用简单语言和创造性类比对论文《Arithmetic in the Wild》的解释。

核心问题：AI 如何“思考”时间？

假设你问一个聪明的 AI：“八月之后六个月是哪个月？”
你可能会预期 AI 拥有一个特殊的“日历大脑”，它能将 12 个月想象成一个圆圈，并简单地将指针向前旋转六步。这通常是人类的思维方式。

然而，研究人员发现，Llama-3.1-8B（一个特定的 AI 模型）并非如此。相反，它使用一个通用的“计算器”，即使问题涉及月份、天数或小时，它依然使用十进制（我们正常的数字系统）进行运算。

类比：通用翻译器

把 AI 想象成一个非常擅长数学但极其不擅长地理的翻译员。

输入（问题）： 你问：“八月之后六个月是哪个月？”
- AI 的第一步： 它忽略了“八月”是一个月份的事实。它将“八月”翻译为数字 8，将“六”翻译为 6。
计算（数学）： 它执行标准的加法运算：6 + 8 = 14。
- 它不进行“模运算”（即 14 减去 12 等于 2）。它只得到原始的和，即 14。
输出（答案）： 它将数字 14 翻译回“月份语言”。由于 14 超过了 12（一年的结束）两个位置，它回答二月。

令人惊讶的是： AI 使用完全相同的数学神经元来解决"6 + 8 = ?"和“八月之后六个月”这两个问题。它没有独立的“月份计算器”；它只有一个巨大的“数字计算器”，并将其复用于所有任务。

秘密武器：“傅里叶”节奏

AI 如何追踪这些数字？论文揭示它使用了一种称为傅里叶特征的东西。

类比：鼓圈
想象 AI 的内部大脑是一个摆满了鼓的房间。

有些鼓每 2 秒敲击一次。
有些鼓每 5 秒敲击一次。
有些鼓每 10 秒敲击一次。
有些鼓每 100 秒敲击一次。

当 AI 进行加法运算时，它不仅仅是数"1, 2, 3"。相反，它聆听这些鼓的节奏。

如果和是 14，那么"10 秒鼓”敲击了一次，"2 秒鼓”敲击了两次。
AI 将这些节奏结合起来，从而知道它已经到达了数字 14。

这为什么很奇怪？
如果 AI 是在思考月份（一个 12 的循环），你预期它会使用一个"12 秒鼓”。但它没有。它坚持使用 10 秒鼓（以及 2、5、20、50、100）。它将月份视为直线上的数字，而不是圆圈，直到最后一刻才将其视为圆圈。

“神奇 28"神经元

研究人员深入挖掘了 AI 的代码（具体在第 18 层），发现了一个微小的、专门负责此数学运算的“工人团队”。

团队规模： 在该层数千个神经元中，只有 28 个神经元（微小的处理单元）。
职责： 这 28 个神经元是“加法小组”。它们是聆听鼓节奏并将数字相加的单元。
效率： 这个微小的团队（约占该层的 0.2%）承担了几乎所有关于加法的繁重工作，无论你在询问时间、天数还是实际数字。
专业化： 这 28 个神经元根据其“鼓节奏”分组。有些是“周期 2"小组（检查数字是偶数还是奇数），有些是“周期 5"小组，还有些是“周期 10"小组。它们协同工作以构建最终的和。

“回声”效应

论文还注意到一个有趣的怪癖。当 AI 计算“八月之后六个月”（即 14）时，它有时会混淆数字的大小。

它知道答案是 14。
但由于它太习惯于十进制思维，它有时也会认为答案可能是 114（14 + 100）。
这就像一个知道时间是 2:00 的人，但在瞬间也会觉得时间可能是 102:00。AI 最终会选出正确的那个（二月），但较大数字的“回声”会 lingering（持续存在）。

研究总结

没有特殊的“日历”大脑： AI 不会旋转圆圈来找到下一个月。它将所有内容转换为数字，相加，然后再转换回来。
十进制为王： 即使是像 12 个月或 7 天这样的循环，AI 也使用十进制系统（周期为 2、5、10 等）进行数学运算。
共享机制： 相同的 28 个微小神经元为所有任务进行数学运算。它们是一个通用的加法引擎。
几何与计算： 仅仅因为 AI 以圆圈形式（如钟面）表示月份，并不意味着它使用圆圈进行计算。它使用直线数字进行计算，仅在最后时刻才画出圆圈。

简而言之： AI 是一位才华横溢的会计师，即使当你让它解决一个看起来像时钟的谜题时，它也会使用标准计算器。它不会“旋转”时钟；它只是进行数学运算，然后告诉你指针应该指向哪里。

技术摘要：野外的算术

问题陈述

本文研究了表示几何在大语言模型（LLMs）中的算法作用，具体关注模型如何推理循环概念（例如月份、星期几、小时）。虽然先前的工作已确立 LLM 使用圆形几何来表示这些概念（Engels 等人，2025），且在小规模变换器上训练的模运算模型在周期基上运行（Nanda 等人，2023），但一个关键问题仍然存在：输入表示的圆形结构是否意味着计算也是圆形的？

作者假设 Llama-3.1-8B 可能会通过沿圆形流形旋转来计算诸如“八月之后六个月是哪个月？”之类问题的答案。然而，他们发现该模型并未在概念的具体周期内（例如月份的模 12）执行直接的模运算。相反，该模型利用通用的、与任务无关的十进制加法机制，随后将结果映射回循环空间。

方法论

本研究结合因果分析与几何探测，以剖析 Llama-3.1-8B 的内部机制。

通过分布式对齐搜索（DAS）进行因果抽象：
- 作者使用 DAS（Geiger 等人，2023）定位残差流中编码因果变量的低秩子空间：输入概念、偏移量和输出概念。
- 他们测量交换干预准确率（IIA），以确定这些变量何时何地结合。这涉及将来自反事实提示的隐藏状态修补到原始提示中，以观察模型的输出是否发生可预测的变化。
- 该分析隔离了计算发生的具体层和令牌位置。
跨任务修补：
- 为了检验共享机制的假设，作者在标准算术任务（ $a+b=$ ）和循环任务（例如月份）之间执行“修补”实验。
- 他们在共享的 DAS 子空间内，将来自加法提示的残差流修补到循环提示中（反之亦然），以观察模型是否分别输出和或循环概念。
傅里叶探测与导向：
- 作者训练线性探测以检测具有特定周期 $T \in \{2, 5, 10, 20, 50, 100\}$ 的傅里叶特征（正弦表示），已知这些特征代表十进制数（Kantamneni & Tegmark, 2025）。
- 他们验证这些在标准加法上训练的特征是否存在于循环任务中并具有因果性。
- 他们利用这些探测来导向模型的内部状态，强制“模前和”变为反事实值，以观察输出是否相应地发生偏移。
神经元识别与消融：
- 作者识别出第 18 层的一组稀疏 MLP 神经元，这些神经元写入 DAS 输出子空间。
- 他们分析了这些神经元的激活模式，根据其周期性将其划分为簇。
- 他们执行消融研究（将特定神经元归零），以量化它们对模型性能的因果贡献。

主要结果

1. 共享的十进制加法机制

与圆形计算的假设相反，该模型使用十进制加法机制来计算循环任务。

两步过程： 模型首先在数值空间中计算输入的总和（例如， $6 + 8 = 14$ ），仅在较深层将该总和映射回循环概念空间（例如， $14 \to \text{二月}$ ）。
第 18 层定位： 因果分析揭示，输入概念和偏移量在第 18 层 MLP的最后一个令牌位置结合。关键在于，输出概念的圆形几何（例如“星期几圆”）在第 18 层并不存在；它仅在第 22 至 25 层出现。
跨任务修补： 将来自加法提示（ $6+8=$ ）的修补应用于循环提示，会导致模型输出对应于总和的循环概念（例如二月）。反之，将来自循环提示的修补应用于加法提示，会导致模型输出模前和（例如 14），即使模型在干净运行中未能产生正确的循环答案。

2. 傅里叶特征与任务无关性

该模型使用与任务无关的傅里叶特征来执行加法。

内部表示遵循标准的十进制周期性（ $T \in \{2, 5, 10, 20, 50, 100\}$ ），而不是循环概念的具体周期（例如月份的 12 或星期几的 7）。
在标准加法上训练的傅里叶探测成功导向了循环任务，证实了相同的几何特征驱动跨领域的计算。

3. 稀疏神经元电路

作者识别出第 18 层的一组稀疏的28 个 MLP 神经元（约占该层 MLP 的 0.2%），它们负责此加法运算。

按周期聚类： 这些神经元可被划分为互不相交的簇，其中每个簇计算特定傅里叶周期的和（例如，一个簇对应 $T=2$ ，另一个对应 $T=5$ ，以此类推）。
机制： 神经元以分布式方式运行。一些神经元表现出“分裂”的激活模式（通过门向量读取输入概念，通过上向量读取偏移量），而另一些则是“混合”的。它们的下投影向量之和指向傅里叶平面上的正确角度，编码模 $T$ 的和。
消融影响： 将这 28 个神经元归零会导致准确率急剧下降（例如，加法任务从 95% 降至 24%），而消融第 18 层的所有其他神经元则保留了大部分性能。

意义与主张

本文声称提供了关于大语言模型如何在循环概念上执行算术的机制性理解， bridging 表示几何与因果计算之间的差距。

几何与计算： 这项工作表明，虽然表示可能是圆形的，但底层计算不一定是该圆上的模运算。相反，模型重用了通用的十进制加法电路，仅在计算完成后将结果映射到目标领域。
方法的相互作用： 该研究强调了结合因果抽象（用于定位信息在哪里被处理）与几何分析（用于理解信息如何被表示）的力量。因果分析将计算定位到第 18 层，而几何分析揭示了计算依赖于十进制傅里叶特征，而非特定任务的圆形结构。
稀疏电路： 识别出一组小型、可重用的神经元（28 个神经元），它们在多样化的任务（月份、天数、小时、数字）中执行加法，这表明 LLM 发展出了高度高效、共享的子电路，用于基本算术运算，无论输入语义领域如何。

作者在泛化性方面保持谦逊，指出这些特定机制是在 Llama-3.1-8B 中识别的，可能无法推广到所有模型或所有类型的循环推理（例如，向后偏移或距离查询不在研究范围内）。然而，这些发现提供了一个具体示例，说明了“野外的算术”是如何通过稀疏神经元与傅里叶几何的相互作用来实现的。