🤖 machine learning

Muon learns balanced solutions in matrix factorization without slow saddle-to-saddle dynamics

Este artículo demuestra que el optimizador Muon acelera la factorización de matrices al evitar la lenta dinámica de silla a silla, permitiendo un entrenamiento estable con altas tasas de aprendizaje y logrando soluciones equilibradas mediante cantidades conservadas distintas y una rápida alineación de pesos.

Autores originales: Mark Rhee, Jamie Simon, Dhruva Karkada

Publicado 2026-06-30

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Mark Rhee, Jamie Simon, Dhruva Karkada

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

La visión general: Una nueva forma de enseñar a una máquina

Imagina que estás intentando enseñar a un robot a recrear una imagen compleja (el "Objetivo") combinando dos láminas de plástico transparentes más simples (los "Pesos"). El trabajo del robot es deslizar estas láminas de un lado a otro hasta que la imagen que crean coincida perfectamente con el Objetivo. Esto se llama Factorización de Matrices.

Normalmente, enseñamos a los robots usando un método llamado Descenso de Gradiente. Piensa en el Descenso de Gradiente como un excursionista que intenta encontrar el fondo de un valle en medio de una niebla espesa. El excursionista da pequeños pasos cuesta abajo. Si el valle tiene una meseta plana y accidentada (una "silla de montar"), el excursionista se queda atascado, moviéndose lentamente de un bulto al siguiente. Esto es lento, especialmente si el valle es largo y estrecho.

Este artículo presenta un nuevo optimizador llamado Muon. En lugar de un excursionista que se mueve con dificultad en la niebla, Muon es como un tren de levitación magnética. No le importan los bultos o la estrechez de la vía. Se desliza suave y rápidamente hacia su destino.

Tres superpoderes de Muon

Los autores descubrieron que Muon se comporta de manera muy diferente al método estándar en tres aspectos clave:

1. No más "atascado en el medio" (El problema de la silla de montar)

La forma antigua (Descenso de Gradiente): Imagina que el robot comienza con láminas diminutas, casi invisibles. Para aprender la imagen grande, tiene que hacer crecer las láminas capa por capa. Aprende primero las partes más grandes y obvias de la imagen, y luego se queda atascado durante mucho tiempo antes de poder aprender los detalles más pequeños. Es como intentar llenar una bañera con una cucharadita; llenas el fondo, luego la siguiente pulgada, luego la siguiente. Toma una eternidad.
La forma de Muon: Muon no espera. Aprende todas las partes de la imagen a la misma velocidad. Es como verter agua de una manguera; toda la bañera se llena de manera uniforme. Los detalles más pequeños se aprenden tan rápido como los grandes, saltándose los largos y aburridos periodos de espera.

2. El "límite de velocidad" no existe

La forma antigua: En el método antiguo, si le dices al robot que se mueva demasiado rápido (una "tasa de aprendizaje" alta), se marea y choca. El límite de velocidad está determinado por qué tan "afilado" o complicado es el problema. Si el problema es difícil, debes conducir muy despacio.
La forma de Muon: Muon es como un coche con suspensión adaptativa. No importa lo accidentado que sea el camino, Muon mantiene sus ruedas en el suelo. Puedes conducirlo a altas velocidades sin que choque. Esto significa que puedes empezar el entrenamiento muy rápido y solo reducir la velocidad al final para perfeccionar el resultado.

3. La danza del "equilibrio perfecto"

La forma antigua: A medida que el robot aprende, las dos láminas de plástico (los pesos) intentan mantenerse perfectamente equilibradas en tamaño. Si una se hace demasiado grande, la otra tiene que encogerse para compensar. Esto crea una trayectoria específica y curva (como una hipérbola) que el robot debe seguir.
La forma de Muon: Muon tiene una regla de equilibrio diferente. Mantiene el equilibrio de la raíz cuadrada del tamaño. Esto cambia la trayectoria que toma el robot de un deslizamiento curvo a una autopista recta y paralela. Se mueve en línea recta hacia la solución, lo cual es mucho más eficiente.

El secreto de la "Alineación"

Antes de que el robot pueda empezar a moverse rápido, las dos láminas de plástico deben estar alineadas correctamente con la imagen. El artículo muestra que Muon alinea estas láminas de forma espontánea y muy rápida, casi instantáneamente, incluso si empiezas con láminas aleatorias y desordenadas.

Los autores calcularon exactamente qué tan rápido sucede esto. Descubrieron que si las láminas están ligeramente desalineadas, Muon corrige la alineación tan rápido que es casi como magia. De hecho, descubrieron un "truco" (un esquema especial de tasa de aprendizaje) donde puedes alinear las láminas perfectamente en solo dos pasos.

El "Truco" (La Tasa de Aprendizaje con Pico)

El artículo termina con un trucción práctico. Normalmente, tienes que aumentar la velocidad del robot lentamente. Pero Muon es tan estable que puedes hacer esto:

Paso 1: Dale un pequeño empujón para alinear las láminas perfectamente.
Paso 2: Dale un impulso enorme, masivo, para estampar las láminas en la posición correcta y comenzar a rellenar los detalles.
Paso 3: Suelta el acelerador lentamente para terminar el trabajo.

Esto permite que el robot alcance una solución casi perfecta en un tiempo récord.

Resumen

En resumen, este artículo demuestra que Muon es una forma más inteligente de entrenar máquinas en ciertos tipos de problemas. Evita los pasos lentos y torpes de los métodos tradicionales, maneja altas velocidades sin chocar y alinea sus partes internas casi instantáneamente. Convierte una caminata lenta y tediosa en un viaje suave y de alta velocidad.

Resumen Técnico: Muon Aprende Soluciones Balanceadas en la Factorización de Matrices sin la Lenta Dinámica de Silla-a-Silla

Planteamiento del Problema
El artículo investiga la dinámica de aprendizaje del optimizador Muon en el contexto de la factorización de matrices, definida como la minimización de $L(P, Q) = \frac{1}{2}\|M^* - PQ^\top\|_F^2$ . La factorización de matrices sirve como un modelo mínimo para estudiar la dinámica de parámetros no lineales y el aprendizaje de representaciones, exhibiendo comportores relevantes para el aprendizaje profundo, tales como el sesgo de bajo rango y la alineación de representaciones. Los autores comparan específicamente Muon contra el Descenso de Gradiente (GD) estándar para comprender cómo la regla de actualización única de Muon altera la trayectoria de la optimización, particularmente en lo que respecta a la velocidad de convergencia, la estabilidad y la naturaleza de las soluciones encontradas desde una inicialización aleatoria pequeña.

Metodología
El estudio se centra en la regla de actualización de Muon, la cual ortogonaliza el gradiente antes de aplicar la tasa de aprendizaje. Para una matriz de pesos $W$ , la actualización es $\Delta W = -\eta \cdot \widehat{\nabla_W L}$ , donde $\widehat{G} = UV^\top$ es la descomposición polar (ortogonalización) del gradiente $G=USV^\top$ . Esto asegura que todas las actualizaciones sean matrices (semi-)ortogonales escaladas por $\eta$ .

Los autores analizan la dinámica a través de tres lentes:

Reducción Escalar: Asumiendo que los pesos están alineados, el problema se desacopla en problemas escalares independientes donde el residuo $r = m^* - pq$ dicta la actualización.
Dinámica de Alineación: Los autores derivan tasas teóricas para cómo los vectores singulares de $P$ y $Q$ se alinean entre sí (alineación interna) y con la matriz objetivo $M^*$ (alineación con el objetivo) bajo diferentes regímenes de parámetros (subparametrizado, exactamente parametrizado y sobreparametrizado).
Cantidades Conservadas: El artículo identifica cantidades matriciales específicas que se conservan durante el flujo de Muon frente a GD.

Contribuciones Clave y Resultados

1. Evitación de la Lenta Dinámica de Silla-a-Silla
El Descenso de Gradiente estándar desde una inicialización pequeña exhibe dinámicas de "silla-a-silla". Los valores singulares crecen multiplicativamente, lo que significa que los modos más pequeños crecen más lentamente que los más grandes. El optimizador permanece cerca de sillas de montar de bajo rango, aprendiendo los modos secuencialmente (aprendizaje por pasos).
En contraste, Muon exhibe dinámicas aditivas. Una vez que ocurre la alineación, todos los valores singulares de las matrices de pesos crecen a una tasa uniforme ( $\eta$ por paso), independientemente de su magnitud actual. Consecuentmente, los modos más pequeños convergen antes que los más grandes, y el optimizador aprende todos los modos superiores de $M^*$ simultáneamente sin puntos de silla intermedios.

2. Estabilidad Más Allá de las Tasas de Aprendizaje Críticas
El Descenso de Gradiente está restringido por un umbral de tasa de aprendizaje crítica determinado por la nitidez local de la pérdida (específicamente $2/\lambda_{\max}(\nabla^2 L)$ ). Excederlo causa divergencia, y la tasa de convergencia está limitada por el número de condición del problema.
Muon permanece estable incluso cuando la tasa de aprendizaje excede este umbral crítico. Debido a que la magnitud de la actualización está fijada por el paso de ortogonalización, las iteraciones no pueden divergir. En su lugar, con tasas de aprendizaje grandes, la optimización procede rápidamente hacia la variedad de la solución y oscila allí. Esto desacopla la tasa de aprendizaje del número de condición, permitiendo una convergencia rápida mediante el uso de un desvanecimiento (annealing) de la tasa de aprendizaje exponencial (geométrico).

3. Cantidades Conservadas Distintas y Soluciones Balanceadas
Ambos optimizadores encuentran "soluciones balanceadas" (donde $P^\top P = Q^\top Q$ ) desde una inicialización de valor nulo, pero conservan cantidades distintas:

Flujo de Gradiente: Conserva la cantidad matricial $\Delta_2 = P^\top P - Q^\top Q$ . Las líneas de flujo en el espacio de parámetros son hiperbólicas.
Flujo de Muon: Conserva la cantidad matricial $\Delta_1 = \sqrt{P^\top P} - \sqrt{Q^\top Q}$ . Las líneas de flujo son afines (rayos paralelos).
Los autores derivan que el flujo de Muon es generado por un Hamiltoniano $H(P, Q) = \text{Tr}(\Delta_1) = \|P\|_* - \|Q\|_*$ (la diferencia en las normas nucleares). Esta ley de conservación asegura que si los pesos comienzan balanceados, permanecerán balanceados, conduciendo a la solución balanceada.

4. Dinámica de Alineación y Tasas
El artículo deriva las tasas de alineación para la fase de "alineación silenciosa" (donde los vectores singulares se alinean mientras la pérdida es plana):

Subparametrizado ( $d < n$ ): La alineación interna es trivial; la alineación con el objetivo decae polinómicamente como $(t/\alpha_{\text{eff}})^{-2(1-s^{-1})}$ , donde $s$ es la brecha espectral relativa.
Sobreparametrizado ( $d > n$ ): La alineación con el objetivo es trivial; la desalineación interna decae rápidamente como $(t/\alpha_{\text{eff}})^{-4}$ .
General: La alineación ocurre más temprano con escalas de inicialización más pequeñas. Los autores muestran que estas tasas teóricas predicen la alineación empírica en entornos generales.

5. Programa de Tasa de Aprendizaje de Pico (Spiked Learning Rate Schedule)
Aprovechando la comprensión de la dinámica de alineación, los autores construyen un programa de tasa de aprendizaje específico que logra una alineación casi perfecta en exactamente dos pasos de optimización (para $d \ge n$ ):

Paso 1: Establecer $\eta^{(0)} = \alpha$ (escala de inicialización) para alinear $P$ con $Q$ .
Paso 2: Establecer un pico grande $\eta^{(1)} \gg \eta^{(0)}$ para alinear simultáneamente el modelo con el objetivo $M^*$ y llevar los pesos hacia la variedad de la solución.
Desvanecimiento (Annealing): Aplicar un desvanecimiento geomético a la tasa de aprendizaje para lograr una convergencia lineal.
Este programa demuestra que los conocimientos teóricos sobre el flujo pueden traducirse en estrategias de optimización prácticas, aunque los autores señalan que esto es una prueba de concepto para regímenes específicos.

Significancia y Reivindicaciones
El artículo afirma que Muon altera fundamentalmente el paisaje de optimización de la factorización de matrices al reemplazar la dinámica multiplicativa y llena de puntos de silla con un crecimiento uniforme y aditivo. Esto permite a Muon:

Aprender todos los modos de la matriz objetivo a la misma tasa, evitando el aprendizaje lento y secuencial de GD.
Operar de manera estable con tasas de aprendizaje que exceden ampliamente los umbrales críticos que restringen a GD, liberando la tasa de aprendizaje del número de condición del problema.
Alcanzar soluciones balanceadas a través de una ley de conservación distinta ( $\sqrt{P^\top P} - \sqrt{Q^\top Q}$ ) que mantiene el balance de los pesos sin requerir la geometría hiperbólica de GD.

Los autores enfatizan que, si bien su análisis se limita al descenso de gradiente espectral no modificado (ignorando el momentum, el decaimiento de peso y las iteraciones de Newton-Schulz) y a la simple factorización de matrices, la comprensión mecánica de la alineación y el crecimiento uniforme proporciona una base para entender el éxito de Muon en modelos más grandes y complejos. El trabajo sirve como una explicación teórica de por qué Muon acelera el entrenamiento en entornos espectrales heterogéneos o mal condicionados.