🤖 machine learning

Muon learns balanced solutions in matrix factorization without slow saddle-to-saddle dynamics

本文证明了 Muon 优化器通过避免缓慢的鞍点到鞍点动力学过程来加速矩阵分解，从而在实现高学习率稳定训练的同时，通过独特的守恒量和快速权重对齐来实现平衡解。

原作者： Mark Rhee, Jamie Simon, Dhruva Karkada

发布于 2026-06-30

📖 1 分钟阅读☕ 轻松阅读

原作者： Mark Rhee, Jamie Simon, Dhruva Karkada

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

大局观：一种教导机器的新方式

想象一下，你正试图教一个机器人通过组合两张更简单的透明塑料片（即“权重”）来重现一张复杂的图片（即“目标”）。机器人的任务是滑动这些塑料片，直到它们创造出的图像与“目标”完美匹配。这被称为矩阵分解（Matrix Factorization）。

通常，我们使用一种叫做**梯度下降（Gradient Descent）**的方法来教导机器人。把梯度下降想象成一名在浓雾中试图寻找山谷底部的徒步旅行者。徒步者沿着下坡方向迈出小步。如果山谷中有一个平坦且凹凸不平的高原（即“鞍点”），徒步者就会被困住，在每一个小坑洼之间缓慢地挪动。这非常缓慢，尤其是当山谷又长又窄的时候。

这篇论文介绍了一种新的优化器，叫做 Muon。Muon 不再是那个在雾中蹒跚前行的徒步者，它更像是一列磁悬浮列车。它不在乎路面的颠簸或轨道的狭窄。它能够平滑且快速地滑行至目的地。

Muon 的三大超能力

作者发现，Muon 的行为方式与标准方法相比，在三个关键方面表现得截然不同：

1. 不再“卡在中间”（解决鞍点问题）

旧方法（梯度下降）： 想象机器人的初始状态是两张几乎透明、微小的塑料片。为了学习大图，它必须一层一层地增加塑料片的厚度。它会先学习图片中最宏大、最明显的特征，然后在学习微小细节之前，会在原地卡住很长时间。这就像是用茶匙往浴缸里注水；你先填满底部，再填满第一个英寸，然后是下一个英寸。这个过程极其漫长。
Muon 的方式： Muon 不会等待。它能以同样的速度学习图片中的所有部分。这就像是用软管直接往浴缸里注水；整个浴缸会均匀地填满。微小的细节与宏大的特征一样快地被学习，跳过了那些漫长而枯燥的等待期。

2. “速度限制”不存在了

旧方法： 在旧方法中，如果你告诉机器人移动得太快（即高“学习率”），它会感到眩晕并发生碰撞。速度限制是由问题的“尖锐”程度或复杂程度决定的。如果问题很难，你就必须开得很慢。
Muon 的方式： Muon 就像一辆拥有自适应悬挂系统的汽车。无论路面多么颠簸，Muon 都能让车轮紧贴地面。你可以驾驶它高速行驶而不会发生碰撞。这意味着你可以从极快的速度开始训练，只在最后阶段减速进行精细调整。

3. “完美平衡”之舞

旧方法： 随着机器人不断学习，两张塑料片（权重）会试图保持大小上的完美平衡。如果其中一张变得太大，另一张就必须缩小来补偿。这会产生一条特定的、弯曲的路径（类似于双曲线），机器人必须沿着这条路径移动。
Muon 的方式： Muon 有一套不同的平衡规则。它保持的是尺寸的平方根平衡。这改变了机器人移动的路径，将其从弯曲的滑道变成了笔直、平行的公路。它沿着直线向解的方向移动，效率大大提高。

“对齐”的秘密

在机器人开始高速移动之前，两张塑料片需要与图片正确对齐。论文表明，Muon 能自发且极快地完成这些塑料片的对齐，即使你从随机、混乱的状态开始，它也能几乎瞬间完成。

作者精确计算了这一过程的速度。他们发现，如果塑料片稍微有些错位，Muon 修正对齐的速度快到近乎魔法。事实上，他们发现了一个“作弊码”（一种特殊的学习率计划），让你只需两步就能完美对齐塑料片。

“作弊码”（脉冲式学习率）

论文最后提供了一个实用的技巧。通常情况下，你需要慢慢增加机器人的速度，但 Muon 非常稳定，因此你可以这样做：

第一步： 给它一个微小的推动，使其完美对齐塑料片。
第二步： 给它一个巨大的、爆发式的推力，将塑料片猛烈地推入正确位置，并开始填充细节。
第三步： 逐渐松开油门，完成最后的收尾工作。

这使得机器人能在创纪录的时间内达到近乎完美的解。

总结

简而言之，这篇论文证明了对于某些类型的问题，Muon 是一种更聪明的训练机器的方法。它避开了传统方法那种缓慢、蹒跚的步骤，能够处理高速运动而不崩溃，并且能几乎瞬间对齐其内部组件。它将一场缓慢、枯燥的徒步旅行变成了一次高速、平滑的驰骋。

技术摘要：Muon 在矩阵分解中学习平衡解，规避缓慢的鞍点到鞍点动力学

问题陈述
本文研究了 Muon 优化器在矩阵分解背景下的学习动力学，该问题定义为最小化 $L(P, Q) = \frac{1}{2}\|M^* - PQ^\top\|_F^2$ 。矩阵分解作为研究非线性参数动力学和表示学习的极简模型，展现了与深度学习相关的行为，如低秩偏差和表示对齐。作者专门将 Muon 与标准梯度下降（GD）进行对比，以理解 Muon 独特的更新规则如何改变优化轨迹，特别是在收敛速度、稳定性以及从微小随机初始化出发所寻找的解的性质方面。

方法论
本研究聚焦于 Muon 更新规则，该规则在应用学习率之前对梯度进行正交化。对于权重矩阵 $W$ ，其更新公式为 $\Delta W = -\eta \cdot \widehat{\nabla_W L}$ ，其中 $\widehat{G} = UV^\top$ 是梯度 $G=USV^\top$ 的极分解（正交化）。这确保了所有更新均为（半）正交矩阵，并由 $\eta$ 进行缩放。

作者通过三个维度分析动力学：

标量缩减（Scalar Reduction）： 假设权重是对齐的，问题可以解耦为独立的标量问题，其中残差 $r = m^* - pq$ 决定了更新。
对齐动力学（Alignment Dynamics）： 作者推导了在不同参数机制下（欠参数化、精确参数化和过参数化）， $P$ 和 $Q$ 的奇异向量如何相互对齐（内部对齐）以及如何与目标矩阵 $M^*$ 对齐（目标对齐）的理论速率。
守恒量（Conserved Quantities）： 本文识别了在 Muon 与 GD 的流（flow）过程中保持不变的特定矩阵量。

核心贡献与结果

1. 规避缓慢的鞍点到鞍点动力学
从微小初始化出发的标准梯度下降表现出“鞍点到鞍点”的动力学特征。奇异值呈乘法增长，这意味着较小的模态比较大的模态增长得更慢。优化器会在低秩鞍点附近徘徊，按顺序学习模态（逐步学习）。
相比之下，Muon 表现出加法动力学。一旦对齐发生，权重矩阵的所有奇异值都会以统一的速率（每步 $\eta$ ）增长，无论其当前量级如何。因此，较小的模态会在较大的模态之前收敛，优化器能同时学习 $M^*$ 的所有顶层模态，而不会经过中间鞍点。

2. 超越临界学习率的稳定性
梯度下降受限于由局部损失锐度（具体为 $2/\lambda_{\max}(\nabla^2 L)$ ）决定的临界学习率阈值。超过此阈值会导致发散，且收敛速率受限于问题的条件数。
Muon 即使在学习率超过此临界阈值时仍能保持稳定。由于更新幅度由正交化步骤固定，迭代过程不会发散。相反，在使用大学习率时，优化过程会迅速趋向解流形并在那里振荡。这实现了学习率与条件数的解耦，从而可以通过指数（几何）学习率退火实现快速收敛。

3. 不同的守恒量与平衡解
两者从消失初始化出发都能找到“平衡解”（即 $P^\top P = Q^\top Q$ ），但它们守恒不同的量：

梯度流（Gradient Flow）： 守恒矩阵量 $\Delta_2 = P^\top P - Q^\top Q$ 。参数空间的流线是双曲型的。
Muon 流（Muon Flow）： 守恒矩阵量 $\Delta_1 = \sqrt{P^\top P} - \sqrt{Q^\top Q}$ 。流线是仿射的（平行射线）。
作者推导出 Muon 流是由哈密顿量 $H(P, Q) = \text{Tr}(\Delta_1) = \|P\|_* - \|Q\|_*$ （核范数之差）生成的。这种守恒定律确保了如果权重初始是对齐的，它们将保持平衡，从而得到平衡解。

4. 对齐动力学与速率
本文推导了“隐性对齐”（silent alignment）阶段（即奇异向量在损失函数平坦时进行对齐）的对齐速率：

欠参数化 ( $d < n$ )： 内部对齐是平凡的；目标对齐按 $(t/\alpha_{\text{eff}})^{-2(1-s^{-1})}$ 多项式衰减，其中 $s$ 是相对谱间隙。
过参数化 ( $d > n$ )： 目标对齐是平凡的；内部失配按 $(t/\alpha_{\text{eff}})^{-4}$ 快速衰减。
一般情况： 对齐在较小的初始化规模下发生得更早。作者展示了这些理论速率能够预测一般设置下的经验对齐情况。

5. 脉冲式学习率调度（Spiked Learning Rate Schedule）
利用对对齐动力学的理解，作者构建了一种特定的学习率调度方案，可在恰好两个优化步骤内实现近乎完美的对齐（对于 $d \ge n$ ）：

第 1 步： 设置 $\eta^{(0)} = \alpha$ （初始化规模）以使 $P$ 与 $Q$ 对齐。
第 2 步： 设置一个巨大的脉冲 $\eta^{(1)} \gg \eta^{(0)}$ ，以同时使模型与目标 $M^*$ 对齐，并将权重驱动至解流形。
退火： 进行几何退火以实现线性收敛。
该调度证明了对流的理论见解可以转化为实际的优化策略，尽管作者指出这只是针对特定机制的原理验证（proof-of-concept）。

意义与主张
本文声称，Muon 通过将乘法、充满鞍点的动力学替换为统一的加法增长，从根本上改变了矩阵分解的优化景观。这使得 Muon 能够：

以相同的速率学习目标矩阵的所有模态，避免了 GD 缓慢的顺序学习过程。
在远超约束 GD 的临界阈值的学习率下稳定运行，从而将学习率从问题的条件数中解放出来。
通过独特的守恒定律（ $\sqrt{P^\top P} - \sqrt{Q^\top Q}$ ）达到平衡解，在无需 GD 那种双曲几何的情况下维持权重平衡。

作者强调，虽然其分析局限于未修改的谱梯度下降（忽略了动量、权重衰减和 Newton-Schulz 迭代）及简单的矩阵分解，但对对齐和统一增长的机械性理解，为理解 Muon 在更大、更复杂模型中的成功提供了基础。这项工作为理解 Muon 为何能在病态或异构谱设置下加速训练提供了理论解释。