🤖 machine learning

Muon learns balanced solutions in matrix factorization without slow saddle-to-saddle dynamics

本論文は、Muonオプティマイザが、鞍点から鞍点への緩慢なダイナミクスを回避することで行列分解を加速させ、高い学習率での安定した学習を可能にし、かつ、異なる保存量と迅速な重みの整列を通じて均衡のとれた解を実現することを実証するものである。

原著者： Mark Rhee, Jamie Simon, Dhruva Karkada

公開日 2026-06-30

📖 1 分で読めます☕ さくっと読める

原著者： Mark Rhee, Jamie Simon, Dhruva Karkada

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

大きな全体像：機械への新しい教え方

想像してみてください。あなたはロボットに、2枚の単純で透明なプラスチックシート（「重み」）を組み合わせることで、複雑な絵（「ターゲット」）を再現する方法を教えようとしています。ロボットの仕事は、ターゲットとなる画像が完璧に一致するまで、これらのシートをスライドさせて調整することです。これは**行列分解（Matrix Factorization）**と呼ばれます。

通常、ロボットには**勾配降下法（Gradient Descent）**という方法を使って教えます。勾配降下法は、深い霧の中で谷底を目指そうとするハイカーのようなものです。ハイカーは下り坂に沿って小さな一歩を踏み出します。もし谷に平坦でデコボコした台地（「鞍点（サドルポイント）」）があると、ハイカーはそこで立ち往生し、一つの突起から次の突器へと、もたつきながら進むことになります。これは非常に時間がかかります。特に、谷が細長く長い場合、その速度は極めて遅くなります。

この論文では、Muonという新しいオプティマイザ（最適化アル定）を紹介しています。Muonは、霧の中でもたついているハイカーではありません。それは**磁気浮上式鉄道（リニア）**のようなものです。線路のデコボコや道の狭さなど、周囲の状況を気にすることはありません。目的地まで滑らかに、そして高速に滑走していきます。

Muonの3つの超能力

著者たちは、Muonが標準的な手法とは決定的に異なる3つの挙動を示すことを発見しました。

1. 「中だるみ」からの解放（鞍点の問題）

従来の方法（勾配降下法）： ロボットが、最初はごく小さく、ほとんど目に見えないようなシートを持っていると想像してください。大きな絵を学習するためには、シートを一層ずつ成長させていかなければなりません。まず最も大きく明白な部分を学習し、その後、細かいディテールを学習できるようになるまで、長い間足踏み状態になります。これは、浴槽をティースプーンで満たしていくようなものです。まず底を満たし、次に1インチ、その次にまた1インチ……という具合です。これでは永遠に時間がかかってしまいます。
Muon流： Muonは待ちません。画像のすべての部分を同じスピードで学習します。それはホースから水を注ぐようなものです。浴槽全体が一様に満たされていきます。細かいディテールも大きな部分と同じ速さで学習されるため、長く退屈な待ち時間をスキップできるのです。

2. 「速度制限」の撤廃

従来の方法： 従来の手法では、もしロボットに速すぎる動き（高い「学習率」）を命じると、ロボットは目が回ってクラッシュしてしまいます。速度制限は、問題がいかに「鋭い」か、あるいは「トリッキー」かによって決まります。問題が難しい場合、非常にゆっくりと運転しなければなりません。
Muon流： Muonは適応型サスペンションを備えた車のようです。どんなにデコボコした道であっても、Muonは常にタイヤを地面に接地させています。クラッシュすることなく、高速で走行することができます。つまり、トレーニングの開始時は非常に高速で進め、最後の方で微調整するために減速するという使い方が可能です。

3. 「完璧なバランス」のダンス

従来の方法： ロボットが学習を進めるにつれ、2枚のプラスチックシート（重み）はサイズが完璧にバランスするように保とうとします。片方が大きくなりすぎると、もう片方はそれを補うために縮まなければなりません。これにより、ロボットは特定の曲線を描く経路（双曲線のような形）に従わなければなりません。
Muon流： Muonは異なるバランスのルールを持っています。それはサイズの「平方根」をバランスさせるというルールです。これにより、ロボットが通る経路は曲がったスライドから、直線的で平行なハイウェイへと変わります。解決策に向かって直線的に進むため、非常に効率的です。

「アライメント（整列）」の秘密

ロボットが高速で動き始める前に、2枚のプラスチックシートを画像に対して正しく並べる必要があります。論文では、Muonがたとえランダムでバラバラな状態のシートからスタートしたとしても、自発的に、かつ非常に迅速にこれらのシートを整列させることを示しています。

著者たちは、これがどれほどの速さで起こるかを正確に計算しました。シートがわずかにずれている場合でも、Muonは魔法のように素早く整列を修正します。実際、彼らは「チートコード（特別な学習率スケジュール）」を発見しました。それを使えば、わずか2ステップでシートを完璧に整列させることができます。

「チートコード」（スパイク学習率）

論文の最後では、実用的なテクニックが紹介されています。通常、ロボットの速度は徐々に上げていく必要がありますが、Muonは非常に安定しているため、以下のことが可能です。

ステップ1： シートを完璧に整列させるために、ほんの少しだけ小突く。
ステップ2： シートを正しい位置に叩き込み、詳細を埋め始めるために、巨大で猛烈なブーストを与える。
ステップ3： 仕事を仕上げるために、ゆっくりとアクセルを緩める。

これにより、ロボットは記録的な速さで、ほぼ完璧な解に到達することができます。

まとめ

要約すると、この論文は、特定の種類の問題においてMuonが機械を訓練するためのより賢い方法であることを証明しています。従来のメソッドのような、もたついたり躓いたりするステップを回避し、クラッシュすることなく高速走行を維持し、内部パーツをほぼ瞬時に整列させます。それは、遅くて退屈なハイキングを、高速でスムーズなドライブへと変えるのです。

技術的要約：Muonは行列分解において、遅いサドル・トゥ・サドル（鞍点から鞍点への）ダイナミクスを経ることなく、バランスの取れた解を学習する

問題提起
本論文は、行列分解 $L(P, Q) = \frac{1}{2}\|M^* - PQ^\top\|_F^2$ の文脈におけるMuonオプティマイザの学習ダイナミクスを調査している。行列分解は、非線形なパラメータ・ダイナミクスや表現学習を研究するための最小限のモデルとして機能し、低ランク・バイアスや表現のアライメントといったディープラーニングに関連する挙動を示す。著者らは、Muonの独自の更新則が、最適化の軌跡（特に収束速度、安定性、および小さなランダム初期値からの解の性質）をどのように変化させるかを理解するために、標準的な勾配降下法（GD）と比較を行っている。

手法
本研究は、勾配を学習率の前に直交化するMuonの更新則に焦点を当てている。重み行列 $W$ に対して、更新は $\Delta W = -\eta \cdot \widehat{\nabla_W L}$ となる。ここで、 $\widehat{G} = UV^\top$ は勾配 $G=USV^\top$ の極分解（直交化）である。これにより、すべての更新が $\eta$ によってスケールされた（半）直交行列となることが保証される。

著者らは、以下の3つの観点からダイナミクスを分析している：

スカラー減少： 重みが整列していると仮定すると、この問題は独立したスカラー問題へとデカップル（分離）され、残差 $r = m^* - pq$ が更新を決定する。
アライメント・ダイナミクス： 著者らは、異なるパラメータ・レジーム（アンダーパラメトリゼーション、正確なパラメトリゼーション、およびオーバーパラメトリゼーション）の下で、 $P$ と $Q$ の特異ベクトルが互いにどのように整列するか（内部アライメント）、およびターゲット行列 $M^*$ とどのように整列するか（ターゲット・アライメント）に関する理論的なレートを導出している。
保存量： 本論文は、MuonとGDのフローにおいて保存される特定の行列量を特定している。

主な貢献と結果

1. 遅いサドル・トゥ・サドル（鞍点から鞍点への）ダイナミクスの回避
小さな初期値からの標準的な勾配降下法は、「サドル・トゥ・サドル」ダイナミクスを示す。特異値は乗法的に成長するため、小さなモードは大きなモードよりも成長が遅くなる。オプティマイザは低ランクの鞍点の付近に留まり、モードを逐次的に学習する（段階的学習）。
対照的に、Muonは加法的ダイナミクスを示す。一度アライメントが起こると、重み行列のすべての特異値は、現在の大きさに関わらず、一律のレート（ステップあたり $\eta$ ）で成長する。その結果、小さなモードは大きなモードよりも先に収束し、オプティマイザは中間的な鞍点を経ることなく、 $M^*$ のすべてのトップモードを同時に学習する。

2. 臨界学習率を超えた安定性
勾配降下法は、局所的な損失の鋭さ（具体的には $2/\lambda_{\max}(\nabla^2 L)$ ）によって決定される臨界学習率の閾値に制約される。これを超えると発散が生じ、収束速度は問題の条件数によって制限される。
Muonは、学習率がこの臨界閾値を超えても安定している。更新の大きさが直交化ステップによって固定されているため、イテレート（反復値）が発散することはない。代わりに、大きな学習率を用いると、最適化は解の多様体へと急速に進み、そこで振動する。これにより、学習率を条件数から切り離し、指数的（幾何学的）な学習率アニーリングによる高速な収束が可能になる。

3. 異なる保存量とバランスの取れた解
両方のオプティマイザは、消失初期値から「バランスの取れた解」（ $P^\top P = Q^\top Q$ となる解）を見出すが、それぞれ異なる量を保存する：

勾配フロー： 行列量 $\Delta_2 = P^\top P - Q^\top Q$ を保存する。パラメータ空間におけるフローラインは双曲的である。
Muonフロー： 行量 $\Delta_1 = \sqrt{P^\top P} - \sqrt{Q^\top Q}$ を保存する。フローラインはアフィン（平行な光線）である。
著者らは、Muonのフローがハミルトニアン $H(P, Q) = \text{Tr}(\Delta_1) = \|P\|_* - \|Q\|_*$ （核ノルムの差）によって生成されることを導出している。この保存則により、重みがバランスしている状態で開始されれば、それらはバランスした状態を維持し、バランスの取れた解へと導かれる。

4. アライメント・ダイナミクスとレート
著者らは、「サイレント・アライメント」フェーズ（損失が平坦な間に特異ベクトルが整列するフェーズ）におけるアライメント・レートを導出している：

アンダーパラメトリゼーション ( $d < n$ )： 内部アライメントは自明であり、ターゲット・アライメントは $(t/\alpha_{\text{eff}})^{-2(1-s^{-1})}$ として多項式的に減衰する（ここで $s$ は相対的なスペクトル・ギャップである）。
オーバーパラメトリゼーション ( $d > n$ )： ターゲット・アライメントは自明であり、内部の不整合は $(t/\alpha_{\text{eff}})^{-4}$ として急速に減衰する。
全般： アライメントは、初期化スケールが小さいほど早期に発生する。著者らは、これらの理論的レートが一般的な設定における経験的なアライメントを予測することを示している。

5. スパイク型学習率スケジュール
アライメント・ダイナミクスの理解を活用し、著者らは（ $d \ge n$ の場合）正確に2つの最適化ステップで完全なアライメントを達成する特定の学習率スケジュールを構築している：

ステップ 1： $\eta^{(0)} = \alpha$ （初期化スケール）に設定し、 $P$ を $Q$ に整列させる。
ステップ 2： 大きなスパイク $\eta^{(1)} \gg \eta^{(0)}$ を設定し、モデルを $M^*$ に同時に整列させ、重みを解の多様体へと駆動する。
アニーリング： 線形収束を実現するために、学習率を幾何学的にアニーリングする。
このスケジュールは、フローに関する理論的知見が、実用的な最適化戦略へと翻訳できることを示しているが、著者らはこれが特定のレジームにおける概念実証であることも注記している。

意義と主張
本論文は、Muonが、乗法的な鞍点だらけのダイナミクスを、一様な加法的成長に置き換えることで、行列分解の最適化ランドスケープを根本的に変えるものであると主張している。これにより、Muonは以下を実現する：

ターゲット行列のすべてのモードを同じレートで学習し、GDのような遅い逐次的学習を回避する。
GDを制約する臨界閾値を大幅に超える学習率でも安定して動作し、学習率を問題の条件数から解放する。
特徴的な保存則（ $\sqrt{P^\top P} - \sqrt{Q^\top Q}$ ）を通じてバランスの取れた解に到達し、GDの双曲的な幾何学を必要とせずに重みのバランスを維持する。

著者らは、本解析が（モーメンタム、ウェイト減衰、およびニュートン・シュルツ反復を無視した）修正されていないスペクトル勾配降下法に限定されており、かつ単純な行列分解を対象としていることを強調しているが、アライメントと一様成長に関するメカニズム的な理解は、より大規模で複雑なモデルにおけるMuonの成功を理解するための基礎を提供するものであるとしている。本研究は、なぜMuonが不良条件または不均質なスペクトル設定において訓練を加速させるのかに対する理論的な説明として機能する。