🤖 AI

Form Follows Function: Recursive Stem Model

本文提出了递归主干模型（RSM），通过解耦训练时的隐藏状态历史、仅对最终步骤施加损失以及引入随机深度机制，实现了比现有递归模型快 20 倍的训练速度，并支持在推理阶段进行任意次数的迭代“思考”以提升准确率，同时利用收敛行为作为天然的可靠性信号。

原作者： Navid Hakimi

发布于 2026-03-18

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Navid Hakimi

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

这篇文章介绍了一种名为**“递归茎模型”（Recursive Stem Model, RSM）**的新人工智能方法。

为了让你轻松理解，我们可以把解决复杂的逻辑谜题（比如数独或迷宫）想象成**“在迷雾中摸索回家的路”**。

1. 以前的方法：要么“死记硬背”，要么“累垮自己”

在 RSM 出现之前，解决这类难题主要有两种笨办法：

方法 A（像背课文）： 让 AI 一次性把答案背下来。但这就像让一个学生死记硬背所有迷宫的地图，一旦迷宫稍微变一点（比如墙的位置变了），他就完全懵了。
方法 B（像马拉松）： 让 AI 一步一步地想，想错了就回头重想。以前的模型（如 TRM）在训练时，要求 AI 在每一步都要检查自己“对不对”。这就像教练在运动员跑步时，每跑一步就停下来纠正姿势。
- 缺点： 训练太慢（教练太累了），而且 AI 容易变得“短视”，只盯着脚下的路，忘了整体目标，导致走偏。

2. RSM 的核心创意：像“干细胞”一样生长

RSM 的作者 Navid Hakimi 提出了一个非常聪明的新策略，我们可以用**“干细胞分化”和“磨刀不误砍柴工”**来比喻。

核心比喻一：只给“最终答案”打分，不管中间过程

想象你在教一个学徒做木工。

旧方法： 学徒每锯一下，你就冲过去检查：“锯直了吗？角度对吗？”如果不对，马上让他重锯。这导致学徒不敢尝试大胆的想法，只敢做最保守的动作，而且你累得半死。
RSM 方法： 你让学徒自己先锯、再刨、再打磨，中间完全不管他。只有当他最后拿出成品时，你才看一眼：“这椅子做成了吗？”
- 好处： 学徒在中间可以大胆尝试各种“歪路”，只要最后能修正回来就行。这训练出了 AI 一种**“自我修正”**的能力，而不是“死记硬背”每一步。

核心比喻二：两个大脑的协作（快思考 vs 慢思考）

RSM 模型内部有两个“状态”，就像人脑的两个系统：

$Z_L$ （快思考/草稿纸）： 这是一个**“高熵”**（混乱、活跃）的状态。就像你在草稿纸上疯狂涂写、尝试各种可能的路径，哪怕写得很乱也没关系。它在快速探索。
$Z_H$ （慢思考/定稿）： 这是一个**“低熵”**（稳定、有序）的状态。就像你把草稿纸上最好的想法，工整地抄写到正式答卷上。它负责“定心”和“存档”。

RSM 的工作流程是：
在草稿纸上疯狂尝试（ $Z_L$ ） $\rightarrow$ 把最好的结果抄到答卷上（ $Z_H$ ） $\rightarrow$ 再拿着答卷去草稿纸上继续微调（ $Z_L$ ） $\rightarrow$ 再抄写（ $Z_H$ ）。
这个过程可以无限循环，直到答案不再变化（“固定点”）。

核心比喻三：像植物生长一样“慢慢长高”

以前的模型如果突然让它想得更深（步骤更多），它就会“晕倒”（训练崩溃）。
RSM 像一棵植物：

刚开始训练时，它只长几片叶子（步骤很少），这样长得很稳。
随着训练进行，它慢慢长出新的枝干（增加步骤）。
神奇之处： 即使训练时只让它长到 20 厘米高，到了考试（推理）时，你可以让它瞬间长到 20000 厘米高！因为它学会的是“如何生长”的规律，而不是“长到 20 厘米”这个具体结果。

3. 它有多厉害？（实际效果）

速度快得惊人： 训练速度比以前的方法快了 20 倍 以上。以前需要训练 12 小时，现在 1 小时就能搞定。
准确率极高： 在极难的数独（Sudoku-Extreme）上，准确率达到了 97.5%；在复杂的迷宫中达到了 80%。
会“自我反省”： 这是最酷的一点。因为 RSM 是不断循环修正的，如果它发现答案一直在变，说明它还没想通；如果答案**“停下来了”**（不再变化），说明它找到了一个稳定的解。
- 比喻： 就像你解数学题，如果你算出来的答案一直在变，说明你算错了；如果算了几遍结果都一样，那大概率是对的。RSM 能自己感觉到“我算稳了”，从而停止计算，避免胡编乱造（幻觉）。

4. 总结：为什么这很重要？

这就好比我们以前教 AI 解题，是逼着它**“背答案”。
而 RSM 教给 AI 的是一种“思考的习惯”**：

大胆尝试（在草稿纸上乱画）。
慢慢修正（把好的想法固定下来）。
直到想通为止（答案不再变化）。

这种方法让 AI 变得更小、更聪明、更省钱。它不需要庞大的参数，只需要在推理时多花一点时间“思考”（增加循环次数），就能解决以前解决不了的难题。

一句话总结：
RSM 就像给 AI 装了一个**“无限循环的草稿本”**，让它学会在混乱中自我整理，直到找到那个完美的答案，而且训练起来既快又稳。

递归主干模型 (Recursive Stem Model, RSM) 技术总结

1. 研究背景与问题定义

现有的递归推理模型（如 Hierarchical Reasoning Model, HRM 和 Tiny Recursive Model, TRM）证明了小型权重共享网络可以通过迭代细化潜在状态来解决计算密集型及 NP 类难题（如数独、迷宫）。然而，这些模型在训练上存在显著瓶颈：

训练成本高：通常依赖深度监督（Deep Supervision）或长序列展开（Long Unrolls），导致墙钟时间（Wall-clock time）成本高昂。
贪婪行为偏差：深度监督倾向于让模型优化中间步骤的“正确性”，导致模型陷入贪婪的中间行为，而非学习稳定的收敛策略。
推理扩展性差：训练深度与推理深度强耦合，难以在推理阶段通过增加计算量（Test-time compute）来显著提升性能。

RSM 的目标是设计一种递归推理方法，保留 TRM 的轻量级骨干网络，但彻底改变训练契约，使网络学习一个稳定且与深度无关的转换算子，从而实现训练高效、推理可扩展。

2. 核心方法论 (Methodology)

RSM 的核心思想是将递归视为一个迭代求解过程，而非简单的序列生成。其架构和训练策略包含以下关键创新：

2.1 双状态潜在空间架构

RSM 维护两个序列形状的潜在张量，模拟“计算”与“承诺”的分离：

$z_L$ (快状态/内循环)：代表高熵、高灵活性的“工作区”。在此状态下，模型进行快速的并行计算和假设探索（类似“思考”过程）。
$z_H$ (慢状态/外循环)：代表低熵、稳定的“草稿/答案区”。它累积并稳定化 $z_L$ 的发现，作为下一轮迭代的上下文，最终输出解。
共享算子：使用同一个轻量级模块 $F_\theta$ （基于 TRM 风格）反复作用于 $z_L$ 和 $z_H$ ，实现参数的高效共享。

2.2 训练策略：终端损失与历史解耦

这是 RSM 区别于以往模型的最关键设计：

完全解耦历史 (Detached History)：在训练过程中，将早期迭代步骤的隐藏状态梯度断开（stopgrad）。这些步骤仅作为“热身”（Warm-up），用于塑造状态分布，但不参与梯度回传。
仅终端损失 (Terminal Loss)：损失函数仅计算在最终外循环步骤（ $H$ ）的预测结果上。
效果：迫使模型学习一个稳定的状态转换算子，使其在任意次数的迭代后都能收敛到正确解，而不是记忆特定深度的轨迹或优化中间步骤的贪婪行为。

2.3 独立深度增长与随机深度

独立课程学习：外循环深度 $H$ （慢周期）和内循环深度 $L$ （快周期）可以独立增长。训练初期保持浅层以保证稳定性，随着训练进程逐步增加深度。
随机外转换 (Stochastic Outer Transition)：在训练时，随机决定是否将梯度连接到倒数第二个外循环步骤（ $H-1$ ）。这类似于深度学习中的“随机深度”（Stochastic Depth），用于缓解增加深度时带来的分布偏移和不稳定性，防止优化器陷入单一脆弱的深度视界。

2.4 推理时的计算扩展

测试时缩放 (Test-time Scaling)：由于训练时解耦了历史，推理时可以任意增加 $H_{test}$ 和 $L_{test}$ （远超训练时的深度），而无需重新训练。
收敛性诊断：利用迭代过程的收敛行为作为可靠性信号。如果模型状态在多次迭代后不再变化（达到固定点），则视为收敛；若持续震荡，则提示未找到可行解，可作为防止幻觉的护栏。

3. 主要实验结果

RSM 在具有严格验证规则的谜题领域表现出卓越性能：

Sudoku-Extreme (数独)：
- 准确率：达到 97.5% 的精确解率。
- 训练效率：在单张 A100 GPU 上仅需约 1 小时 训练（使用 2.5M-5M 参数）。
- 对比 TRM：相比 TRM，训练速度快 20 倍以上，错误率降低约 5 倍（TRM 需 12 小时训练且准确率约 87%）。
- 推理能力：模型仅在训练时最大深度约 20，但推理时可扩展至 20,000 步，准确率随计算量增加而提升。
Maze-Hard (30x30 迷宫)：
- 准确率：在约 40 分钟 训练后达到 ~80% 的精确解率。
- 策略：模型展现出先寻找任意路径再精细优化的策略，而非贪婪的局部最优。
收敛性验证：实验显示，模型在找到解后会停止状态变化（达到固定点），这一特性可用于构建基于收敛性的自动停止机制和置信度评估。

4. 关键贡献与意义

训练 - 推理解耦的新范式：
RSM 证明了可以通过“浅层训练、深层推理”的策略，将递归深度转化为可控的计算预算。通过断开历史梯度，模型不再受限于训练时的展开长度，实现了真正的测试时计算扩展。
稳定的算子学习：
通过“仅终端损失 + 历史解耦”的训练契约，RSM 避免了深度监督带来的贪婪偏差，学习到了类似固定点求解器 (Fixed-point Solver) 的鲁棒算子。这使得模型在面对复杂任务时，能够像数值求解器一样，通过增加迭代步数来换取精度。
架构即信号 (Architecture-native Reliability)：
RSM 将“收敛性”内化为模型行为。在验证丰富的领域（如数独），未收敛的轨迹直接提示模型尚未找到解，提供了一种无需额外验证器的内在可靠性信号，有助于减少幻觉。
跨学科的理论映射：
论文将 RSM 的双状态设计映射到热力学（退火过程）、生物学（多细胞分化与边界条件）和神经科学（记忆巩固与睡眠 - 觉醒循环），为理解递归推理提供了新的理论视角： $z_L$ 代表高熵的探索， $z_H$ 代表低熵的固化，两者交替推动系统向有序解演化。
极致的效率：
在极小的参数量（百万级）和极低的训练成本（单卡小时级）下，RSM 在算法推理任务上超越了需要更长训练时间和更多参数的现有 SOTA 模型。

5. 局限性与未来方向

收敛性非绝对正确：模型可能收敛到错误的固定点（虚假吸引子），需结合领域验证器使用。
超参数搜索不足：受限于资源，目前的实验多为概念验证，缺乏系统的超参数消融研究。
开放生成挑战：目前主要适用于有明确验证器的封闭问题，扩展到开放生成任务（如文本创作）需要引入偏好信号或约束满足机制。

总结：RSM 通过重新设计递归模型的训练契约，成功解决了递归推理中训练成本高和推理扩展难的问题，为构建高效、可解释且具备自我修正能力的推理模型提供了新的架构范式。