🤖 machine learning

Muon learns balanced solutions in matrix factorization without slow saddle-to-saddle dynamics

Cet article démontre que l'optimiseur Muon accélère la factorisation de matrices en évitant les dynamiques lentes de selle à selle, permettant un entraînement stable avec des taux d'apprentissage élevés, et en atteignant des solutions équilibrées grâce à des quantités conservées distinctes et un alignement rapide des poids.

Auteurs originaux : Mark Rhee, Jamie Simon, Dhruva Karkada

Publié 2026-06-30

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Mark Rhee, Jamie Simon, Dhruva Karkada

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

La vue d'ensemble : Une nouvelle façon d'enseigner à une machine

Imaginez que vous essayiez d'apprendre à un robot à recréer une image complexe (la « Cible ») en combinant deux feuilles de plastique transparentes plus simples (les « Poids »). Le travail du robot est de faire glisser ces feuilles jusqu'à ce que l'image qu'elles créent corresponde parfaitement à la Cible. C'est ce qu'on appelle la Factorisation de Matrice.

Habituellement, nous enseignons aux robots en utilisant une méthode appelée Descente de Gradient. Considérez la Descente de Gradient comme un randonneur tentant de trouver le bas d'une vallée dans un brouillard épais. Le randonneur fait de petits pas en descente. Si la vallée possède un plateau plat et accidenté (une « selle »), le randonnik s'y retrouve coincé, avançant péniblement d'un obstacle à l'autre. C'est lent, surtout si la vallée est longue et étroite.

Ce papier présente un nouvel optimiseur appelé Muon. Au lieu d'un randonneur qui tâtonne dans le brouillard, Muon est comme un train à lévitation magnétique. Il ne se soucie ni des bosses ni de l'étroitesse de la voie. Il glisse de manière fluide et rapide vers sa destination.

Les trois super-pouvoirs de Muon

Les auteurs ont découvert que Muon se comporte très différemment de la méthode standard de trois manières clés :

1. Plus de blocage au milieu (Le problème de la selle)

L'ancienne méthode (Descente de Gradient) : Imaginez que le robot commence avec des feuilles minuscules, presque invisibles. Pour apprendre la grande image, il doit faire grandir les feuilles une couche à la fois. Il apprend d'abord les parties les plus grandes et les plus évidentes de l'image, puis reste bloqué pendant longtemps avant de pouvoir apprendre les détails plus petits. C'est comme essayer de remplir une baignoire avec une cuillère à café ; vous remplissez le fond, puis le pouce suivant, puis le suivant. Cela prend une éternité.
La méthode Muon : Muon n'attend pas. Il apprend toutes les parties de l'image à la même vitesse. C'est comme verser de l'eau avec un tuyau d'arrosage ; toute la baignoire se remplit uniformément. Les détails plus petits sont appris aussi vite que les grands, évitant ainsi les longues périodes d'attente ennuyeuses.

2. La « limite de vitesse » n'existe pas

L'ancienne méthode : Dans l'ancienne méthode, si vous dites au robot d'aller trop vite (un « taux d'apprentissage » élevé), il a le vertige et s'écrase. La limite de vitesse est déterminée par la difficulté ou la complexité du problème. Si le problème est difficile, vous devez conduire très lentement.
La méthode Muon : Muon est comme une voiture dotée d'une suspension adaptative. Peu importe l'état de la route, Muon garde ses roues au sol. Vous pouvez la conduire à des vitesses élevées sans qu'elle ne s'écrase. Cela signifie que vous pouvez commencer l'entraînement très rapidement et ne ralentir qu'à la toute fin pour affiner le résultat.

3. La danse de l'« équilibre parfait »

L'ancienne méthode : À mesure que le robot apprend, les deux feuilles de plastique (les poids) tentent de rester parfaitement équilibrées en taille. Si l'une devient trop grande, l'autre doit rétrécir pour compenser. Cela crée une trajectoire spécifique et courbe (comme une hyperbole) que le robot doit suivre.
La méthode Muon : Muon a une règle d'équilibre différente. Il maintient l'équilibre de la racine carrée de la taille. Cela change la trajectoire du robot, passant d'une glissade courbe à une autoroute droite et parallèle. Il se déplace en ligne droite vers la solution, ce qui est beaucoup plus efficace.

Le secret de l'« Alignement »

Avant que le robot ne puisse commencer à bouger rapidement, les deux feuilles de plastique doivent être correctement alignées avec l'image. Le papier montre que Muon aligne ces feuilles de manière spontanée et très rapide, presque instantanément, même si vous partez de feuilles aléatoires et désordonnées.

Les auteurs ont calculé exactement la vitesse à laquelle cela se produit. Ils ont découvert que si les feuilles sont légèrement désalignées, Muon corrige l'alignement si vite que cela ressemble presque à de la magie. En fait, ils ont découvert un « code de triche » (un programme de taux d'apprentissage spécial) où vous pouvez aligner les feuilles parfaitement en seulement deux étapes.

Le « Code de triche » (Le taux d'apprentissage par pics)

Le papier se termine par une astuce pratique. Habituellement, vous devez augmenter lentement la vitesse du robot. Mais Muon est si stable que vous pouvez faire ceci :

Étape 1 : Donnez-lui une petite impulsion pour aligner parfaitement les feuilles.
Étape 2 : Donnez-lui un énorme boost massif pour projeter les feuilles dans la position correcte et commencer à remplir les détails.
Étape 3 : Relâchez doucement l'accélérateur pour terminer le travail.

Cela permet au robot d'atteindre une solution quasi parfaite en un temps record.

Résumé

En bref, ce papier prouve que Muon est une façon plus intelligente d'entraîner les machines sur certains types de problèmes. Il évite les étapes lentes et hésitantes des méthodes traditionnelles, gère les hautes vitesses sans s'écraser, et aligne ses composants internes presque instantanément. Il transforme une randonnée lente et fastidieuse en une course de vitesse fluide et sans accroc.

Résumé Technique : Muon apprend des solutions équilibrées dans la factorisation de matrices sans la dynamique lente de passage de selle à selle

Énoncé du Problème
L'article étudie la dynamique d'apprentissage de l'optimiseur Muon dans le contexte de la factorisation de matrices, définie par la minimisation de $L(P, Q) = \frac{1}{2}\|M^* - PQ^\top\|_F^2$ . La factorisation de matrices sert de modèle minimal pour étudier les dynamiques de paramètres non linéaires et l'apprentissage de représentations, présentant des comportements pertinents pour l'apprentissage profond tels que le biais de faible rang et l'alignement de représentation. Les auteurs comparent spécifiquement Muon au Gradient Descente (GD) standard pour comprendre comment la règle de mise à jour unique de Muon modifie la trajectoire d'optimisation, particulièrement en ce qui concerne la vitesse de convergence, la stabilité et la nature des solutions trouvées à partir d'une initialisation aléatoire de faible intensité.

Méthodologie
L'étude se concentre sur la règle de mise à jour de Muon, qui orthogonalise le gradient avant d'appliquer le taux d'apprentissage. Pour une matrice de poids $W$ , la mise à jour est $\Delta W = -\eta \cdot \widehat{\nabla_W L}$ , où $\widehat{G} = UV^\top$ est la décomposition polaire (orthogonalisation) du gradient $G=USV^\top$ . Cela garantit que toutes les mises à jour sont des matrices (semi-)orthogonales mises à l'échelle par $\eta$ .

Les auteurs analysent les dynamiques à travers trois prismes :

Réduction Scalaire : En supposant que les poids sont alignés, le problème se décompose en problèmes scalaires indépendants où le résidu $r = m^* - pq$ dicte la mise à jour.
Dynamique d'Alignement : Les auteurs dérivent des taux théoriques pour la manière dont les vecteurs singuliers de $P$ et $Q$ s'alignent l'un avec l'autre (alignement interne) et avec la matrice cible $M^*$ (alignement cible) sous différents régimes de paramètres (sous-paramétré, exactement paramétré et sur-paramétré).
Quantités Conservées : L'article identifie des quantités matricielles spécifiques conservées lors du flux de Muon par rapport au GD.

Contributions Clés et Résultats

1. Évitement de la dynamique lente de passage de selle à selle
Le Gradient Descente standard à partir d'une petite initialisation présente une dynamique de « passage de selle à selle » (saddle-to-saddle). Les valeurs singulières croissent de manière multiplicative, ce qui signifie que les modes plus petits croissent plus lentement que les plus grands. L'optimiseur stagne près des points de selle de faible rang, apprenant les modes séquentiellement (apprentissage par étapes).
En revanche, Muon présente une dynamique additive. Une fois l'alignement effectué, toutes les valeurs singulières des matrices de poids croissent à un taux uniforme ( $\eta$ par étape), quelle que soit leur magnitude actuelle. Par conséquent, les modes plus petits convergent avant les plus grands, et l'optimiseur apprend tous les modes supérieurs de $M^*$ simultanément sans points de selle intermédiaires.

2. Stabilité au-delà des taux d'apprentissage critiques
Le Gradient Descente est contraint par un seuil de taux d'apprentissage critique déterminé par la dureté locale de la perte (spécifiquement $2/\lambda_{\max}(\nabla^2 L)$ ). Dépasser ce seuil provoque une divergence, et le taux de convergence est limité par le conditionnement du problème.
Muon reste stable même lorsque le taux d'apprentissage dépasse ce seuil critique. Parce que l'amplitude de la mise à jour est fixée par l'étape d'orthogonalisation, les itérations ne peuvent pas diverger. Au lieu de cela, avec des taux d'apprentissage élevés, l'optimisation progresse rapidement vers la variété de la solution et oscille autour de celle-ci. Cela découple le taux d'apprentissage du nombre de conditionnement, permettant une convergence rapide via un amortissement (annealing) géométrique du taux d'apprentissage.

3. Quantités conservées distinctes et solutions équilibrées
Les deux optimiseurs trouvent des « solutions équilibrées » (où $P^\top P = Q^\top Q$ ) à partir d'une initialisation nulle, mais ils conservent des quantités différentes :

Flux de Gradient : Conserve la quantité matricielle $\Delta_2 = P^\top P - Q^\top Q$ . Les lignes de flux dans l'espace des paramètres sont hyperboliques.
Flux de Muon : Conserve la quantité matricielle $\Delta_1 = \sqrt{P^\top P} - \sqrt{Q^\top Q}$ . Les lignes de flux sont affines (rayons parallèles).
Les auteurs dérivent que le flux de Muon est généré par un Hamiltonien $H(P, Q) = \text{Tr}(\Delta_1) = \|P\|_* - \|Q\|_*$ (la différence des normes nucléaires). Cette loi de conservation garantit que si les poids commencent équilibrés, ils restent équilibrés, menant à la solution équilibrée.

4. Dynamique d'alignement et taux
L'article dérive des taux d'alignement pour la phase d'« alignement silencieux » (où les vecteurs singuliers s'alignent alors que la perte est plate) :

Sous-paramétré ( $d < n$ ) : L'alignement interne est trivial ; l'alignement cible décroît polynomialement comme $(t/\alpha_{\text{eff}})^{-2(1-s^{-1})}$ , où $s$ est l'écart spectral relatif.
Sur-paramétré ( $d > n$ ) : L'alignement cible est trivial ; le désalignement interne décroît rapidement comme $(t/\alpha_{\text{eff}})^{-4}$ .
Général : L'alignement se produit plus tôt avec des échelles d'initialisation plus petites. Les auteurs montrent que ces taux théoriques prédisent l'alignement empirique dans des contextes généraux.

5. Programme de taux d'apprentissage par pic (Spiked Learning Rate Schedule)
En s'appuyant sur la compréhension de la dynamique d'alignement, les auteurs construisent un programme de taux d'apprentissage spécifique qui atteint un alignement quasi parfait en exactement deux étapes d'optimisation (pour $d \ge n$ ) :

Étape 1 : Fixer $\eta^{(0)} = \alpha$ (échelle d'initialisation) pour aligner $P$ avec $Q$ .
Étape 2 : Appliquer un pic important $\eta^{(1)} \gg \eta^{(0)}$ pour aligner simultanément le modèle avec la cible $M^*$ et conduire les poids vers la variété de la solution.
Amortissement : Amortir géométriquement le taux d'apprentissage pour obtenir une convergence linéaire.
Ce programme démontre que les intuitions théoriques sur le flux peuvent être traduites en stratégies d'optimisation pratiques, bien que les auteurs notent qu'il s'agit d'une preuve de concept pour des régimes spécifiques.

Signification et Revendications
L'article affirme que Muon modifie fondamentalement le paysage d'optimisation de la factorisation de matrices en remplaçant les dynamiques multiplicatives et chargées de points de selle par une croissance additive uniforme. Cela permet à Muon de :

Apprendre tous les modes de la matrice cible au même taux, évitant l'apprentissage séquentiel et lent du GD.
Opérer de manière stable avec des taux d'apprentissage dépassant largement les seuils critiques qui contraignent le GD, libérant ainsi le taux d'apprentissage du nombre de conditionnement du problème.
Atteindre des solutions équilibrées via une loi de conservation distincte ( $\sqrt{P^\top P} - \sqrt{Q^\top Q}$ ) qui maintient l'équilibre des poids sans nécessiter la géométrie hyperbolique du GD.

Les auteurs soulignent que, bien que leur analyse soit limitée à une descente de gradient spectrale non modifiée (ignorant le momentum, le décroissance des poids et les itérations de Newton-Schulz) et à une simple factorisation de matrice, la compréhension mécaniste de l'alignement et de la croissance uniforme fournit une base pour comprendre le succès de Muon dans des modèles plus larges et plus complexes. Ce travail sert d'explication théorique de la raison pour laquelle Muon accélère l'entraînement dans des contextes spectraux mal conditionnés ou hétérogènes.