🔢 mathematics

OptMuon: Closed-Loop Orthogonalized Momentum Methods for Stochastic Optimization with Zero-Noise Optimality

Ce document introduit OptMuon, une famille de méthodes d'orthogonalisation de moment adaptatives en boucle fermée qui combinent des directions de type Muon avec une planification de magnitude dépendante de la trajectoire pour atteindre des taux de convergence adaptatifs au bruit et des performances quasi optimales en présence de bruit nul dans l'optimisation stochastique non convexe, sans nécessiter de réglage manuel des hyperparamètres ni de connaissance des constantes du problème.

Auteurs originaux : Ganzhao Yuan

Publié 2026-06-09

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Ganzhao Yuan

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous essayez de trouver le point le plus bas d'une vaste vallée embrumée (c'est le « problème d'optimisation » en apprentissage automatique). Vous ne pouvez pas voir l'ensemble du paysage, alors vous faites de petits pas basés sur la pente que vous ressentez sous vos pieds à l'instant présent. C'est ainsi que les ordinateurs « apprennent » à résoudre des problèmes complexes.

Cependant, il y a deux problèmes principaux avec ce processus :

Le Brouillard (le Bruit) : Parfois, le sol semble glissant ou irrégulier simplement à cause de bosses aléatoires, et non parce que vous descendez réellement une pente. C'est ce qu'on appelle le « bruit ».
La Boussole (la Direction) : Parfois, votre boussole tourne follement, pointant dans la mauvaise direction à cause de ces bosses aléatoires.

L'Ancienne Méthode : Le Randonneur au « Pas Fixe »

Pendant longtemps, les algorithmes utilisaient une « règle fixe » pour déterminer la taille de leurs pas. Ils disaient : « Fais un pas de taille X ».

Si le pas était trop grand, ils dépassaient le fond.
Si le pas était trop petit, ils mettaient une éternité pour arriver.
Crucialement, ils ne pouvaient pas facilement faire la différence entre une vraie pente et une bosse aléatoire.

La Nouvelle Méthode : La « Boussole Intelligente » (Muon)

Récemment, une méthode appelée Muon a été introduite. Imaginez que votre boussole ne se contente pas de pointer « vers le bas » ; elle s'aligne activement pour se redresser. Elle prend toutes les directions confuses et tourbillonnantes et les force dans une ligne droite et propre (un processus mathématiquement appelé « orthogonalisation »). Cela rend la direction très stable.

Mais il y avait un piège : Même avec une boussole parfaite, la taille du pas était toujours décidée par une règle fixe. Le randonneur avait une excellente boussole, mais un podomètre cassé.

Entrée en scène OptMuon : Le « Randonneur Auto-ajustable »

Ce document présente OptMuon, qui combine la boussole parfaite avec un « podomètre intelligent ».

Voici comment fonctionne OptMuon en utilisant une analogie simple :

1. La Boussole (La Direction)
Tout comme Muon, OptMuon utilise un tour mathématique spécial pour nettoyer la direction. Il ignore les parties désordonnées et tourbillonnantes des données et trouve l'unique véritable chemin direct. Cela empêche le randonneur de s'égarer en cercles.

2. Le Podomètre (La Taille du Pas)
C'est la grande innovation de ce document. Au lieu de deviner la taille du pas, OptMuon observe son propre historique.

L'astuce du « Maximum Glissant » : Imaginez que vous randonnez et que vous trébuchez sur un énorme rocher (un pic soudain de bruit). Un randonneur normal pourrait paniquer et s'arrêter complètement de bouger. OptMuon possède une « mémoire de sécurité ». Il se souvient de la plus grosse chute que vous avez jamais eue. Si vous trébuchez à nouveau, il se dit : « D'accord, c'est une grosse bosse, mais j'en ai vu de plus grandes. Je vais ralentir un peu, mais je ne vais pas m'arrêter. » Cela empêche l'algorithme de se figer à cause d'un seul mauvais moment.
Le contrôle de l'« Énergie » : Il regarde également l'énergie qu'il a dépensée jusqu'à présent. Si le chemin a été très accidenté (bruit élevé), il prend naturellement des pas plus petits et plus prudents. Si le chemin est lisse, il prend des pas plus grands et plus rapides.

Pourquoi est-ce spécial ? (Le Superpouvoir du « Zéro Bruit »)

Le document affirme quelque chose de très cool à propos d'OptMuon : Il fonctionne parfaitement même si le brouillard disparaît.

Dans le Brouillard (Données Bruyantes) : Il s'adapte automatiquement au bruit, ralentissant quand les choses sont chaotiques et accélérant quand les choses sont calmes. Il n'a pas besoin qu'un humain lui dise : « Hé, le niveau de bruit est élevé, change tes réglages. »
Par Temps Clair (Zéro Bruit) : Si le sol est parfaitement lisse et qu'il n'y a pas de brouillard, OptMuum passe automatiquement à la vitesse la plus rapide sans que personne n'ait besoin de le reprogrammer. Il trouve naturellement la vitesse « parfaite » pour un chemin lisse.

Les Résultats

Les auteurs ont prouvé mathématiquement que cette méthode est très efficace :

Elle trouve le fond de la vallée plus rapidement que les méthodes précédentes lorsqu'il y a du bruit.
Elle est aussi rapide que les meilleures méthodes possibles lorsqu'il n'y a pas de bruit.
Elle fait tout cela sans avoir besoin qu'un humain devine les bons réglages (comme la rugosité du sol ou le niveau de bruit).

En bref : OptMuon est comme un randonneur doté d'une boussole qui ne tourne jamais et d'un podomètre qui apprend de ses erreurs. Il sait exactement à quelle vitesse marcher, que le chemin soit une jungle chaotique ou une autoroute lisse, et ce, de manière autonome.

Résumé technique de « OptMuon : Méthodes de momentum orthogonalisées en boucle fermée pour l'optimisation stochastique avec optimalité à bruit nul »

1. Énoncé du problème

Le papier traite du problème de l'optimisation stochastique de premier ordre pour des objectifs non convexes à valeurs matricielles :
$\min_{X \in \mathbb{R}^{m \times n}} f(X) := \mathbb{E}_{\xi \sim \mathcal{D}}[f(X; \xi)]$
L'objectif est de trouver un itéré aléatoire $X_{out}$ tel que la norme de Frobenius attendue du gradient, $\mathbb{E}[\|\nabla f(X_{out})\|_F]$ , soit minimisée en $T$ appels de gradient stochastique.

Bien que les optimiseurs de type Muon aient démontré une stabilité empirique en transformant les matrices de momentum en directions approximativement orthogonales (via la factorisation polaire), les méthodes existantes associent généralement ces directions à des règles en boucle ouverte ou à magnitude constante. Ces règles reposent souvent sur des constantes de lissage ( $L$ ) ou des niveaux de variance ( $\sigma^2$ ) prescrit, ce qui les rend sensibles au réglage des hyperparamètres et incapables de calibrer explicitement les magnitudes de mise à jour en fonction de la trajectoire d'optimisation observée. À l'inverse, les méthodes adaptatives comme STORM et AdaGrad-Norm offrent une adaptation scalaire en boucle fermée et une adaptativité au bruit, mais opèrent généralement sur des gradients bruts plutôt que sur des directions de momentum orthogonalisées.

Le défi central abordé est de savoir si l'adaptation scalaire en boucle fermée peut être combinée avec succès au momentum orthogonalisé de type Muon pour conserver la stabilité géométrique tout en atteignant l'adaptativité au bruit et l'optimalité à bruit nul sans réajustement manuel.

2. Méthodologie : OptMuon

Les auteurs proposent OptMuon, un cadre qui découple la direction de mise à jour de la magnitude de mise à jour.

Direction (Orthogonalisation) : La direction de mise à jour est le facteur polaire de la matrice de momentum $M_t$ , noté $\text{Orth}(M_t) = U W^\top$ (où $M_t = U \Sigma W^\top$ est la SVD). Cela garantit que la direction est normalisée géométriquement et sépare l'orientation de l'échelle des valeurs singulières.
Magnitude (Adaptation en boucle fermée) : Le pas de mise à jour est déterminé par un coefficient scalaire $\gamma_t$ $γ_{t}$ dérivé de la trajectoire observée (historique du gradient et du momentum), plutôt que par des constantes fixes du problème.
- Calendrier du coefficient : Le cœur du contrôle de la magnitude est un calendrier de type AdaGrad-Norm corrigé par maximum glissant qui accumule l'énergie du gradient stochastique dans le dénominateur pour supprimer les pas dans les régimes bruyants, mais inclut un terme au numérateur ( $\max g_i^2$ ) pour éviter que le coefficient ne s'effondre excessivement à cause de pics de gradient isolés.
- Sans Lipschitz : L'algorithme ne nécessite pas la connaissance de la constante de lissage $L$ , de la variance $\sigma^2$ , ou de la constante de gradient borné $\hat{G}$ pour la sélection des paramètres, bien qu'ils apparaissent dans les constantes théoriques.

Deux variantes :

OptMuon-A (Lissage moyen) : Conçu pour l'hypothèse de lissage moyen. Il utilise un seul gradient stochastique par itération et une accumulation de momentum standard ( $M_t = G_t + (1-\alpha_t)M_{t-1}$ ). L'exposant dans le calendrier est $q=1/2$ .
OptMuon-I (Lissage individuel) : Conçu pour l'hypothèse de lissage individuel. Il emploie un estimateur de momentum récursif de type STORM ( $M_t = (1-\alpha_t)(M_{t-1} - \nabla f(X_{t-1}; \xi_t)$ ), utilisant deux évaluations de gradient sur le même échantillon pour réduire la variance. L'exposant est $q=2/3$ .

Les deux variantes mettent à jour les paramètres via :
$X_{t+1} = X_t - \theta \gamma_t \|M_t\|_F \text{Orth}(M_t)$

3. Principales contributions

Le papier revendique les contributions spécifiques suivantes :

Orthogonalisation du momentum en boucle fermée : Un cadre qui sépare proprement la géométrie de la matrice (via le facteur polaire) du calibrage de la magnitude (via un calendrier scalaire auto-normalisé).
Calendrier corrigé par maximum glissant : Une conception de coefficient novatrice qui préserve la suppression auto-normalisée d'AdaGrad-Norm tout en atténuant le risque d'effondrement du coefficient causé par des pics de gradient uniques.
Taux de convergence adaptatifs au bruit : Des garanties théoriques montrant que les termes stochastiques dans les bornes de convergence s'améliorent automatiquement à mesure que la variance $\sigma$ diminue.
Optimalité à bruit nul : La démonstration que lorsque $\sigma = 0$ , les bornes se réduisent automatiquement au taux déterministe quasi optimal $\tilde{O}(T^{-1/2})$ sans aucun réajustement d'hyperparamètre.

4. Résultats théoriques

Sous les hypoth assumptions de bornage inférieur, de gradients stochastiques sans biais avec variance bornée, de lissage (moyen ou individuel), et de gradients stochastiques presque sûrement bornés, le papier prouve :

OptMuon-A (Lissage moyen) : Atteint un taux de convergence de :
$\tilde{O}\left(T^{-1/2} + \sigma^{1/2}T^{-1/4}\right)$
OptMuon-I (Lissage individuel) : Atteint un taux stochastique plus précis de :
$\tilde{O}\left(T^{-1/2} + \sigma^{1/3}T^{-1/3}\right)$

Signification des résultats :

Récupération du cas sans bruit : Dans le régime de bruit nul ( $\sigma = 0$ ), les deux bornes se réduisent à $\tilde{O}(T^{-1/2})$ , correspondant au taux déterministe de premier ordre optimal. Cela contraste avec les analyses Muon existantes qui donnent souvent $\tilde{O}(T^{-1/4})$ ou nécessitent des pas de taille fixes.
Adaptativité au bruit : Les termes stochastiques ( $\sigma^{1/2}T^{-1/4}$ et $\sigma^{1/3}T^{-1/3}$ ) sont adaptatifs ; ils se resserrent à mesure que le niveau de bruit diminue, contrairement aux méthodes avec des pas de taille fixes.
Comparaison : Le papier note qu'OptMuon-A améliore le taux $\tilde{O}(T^{-1/4})$ établi par des variantes récentes de Muon avec réduction de variance (ex: Chang et al., 2025) dans le régime de faible bruit, tout en maintenant l'optimalité de bruit nul.

5. Signification et limites

Signification :
Le papier établit que l'adaptation scalaire en boucle fermée peut être couplée à l'orthogonalisation du momentum de type Muon sans sacrifier la stabilité géométrique. Il étend le concept d'« adaptativité au bruit nul » — précédemment trouvé dans les règles de pas de taille scalaire adaptatives — aux mises à jour de momentum par facteur polaire. Cela permet une optimisation robuste qui s'ajuste automatiquement aux niveaux de bruit et récupère les performances déterministes optimales sans intervention manuelle.

Limites (telles qu'énoncées par les auteurs) :

Orthogonalisation exacte : La théorie suppose le calcul exact du facteur polaire. Bien que les itérations de Newton-Schulz puissent l'approcher, l'analyse actuelle ne quantifie pas l'erreur introduite par une orthogonalisation inexacte.
Gradients bornés : L'analyse repose sur une condition de gradient stochastique presque sûrement borné (Hypothèse 4). Le papier ne prétend pas à une théorie sans gradient borné.
Validation empirique : Le papier se concentre sur les garanties de convergence théoriques et n'inclut pas d'évaluations empiriques à grande échelle ou d'extensions aux objectifs composites/contraints, qui sont notées comme des directions pour des travaux futurs.