🔢 mathematics

Sign compression for Muon: SignMuon, MuonSign, and the Limits of Error Feedback

Este artículo presenta SignMuon, un método de compresión de un bit para el optimizador Muon que, a pesar de la divergencia teórica y del fallo de la retroalimentación de error al intentar corregirla, supera empíricamente a variantes demostrablemente convergentes en diversos bancos de pruebas, resaltando una brecha significativa entre las garantías teóricas y el rendimiento práctico en la optimización de baja cuantización.

Autores originales: Maria Smirnova, Alexey Kravatskiy

Publicado 2026-08-03

📖 7 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Maria Smirnova, Alexey Kravatskiy

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que estás intentando enseñarle a un robot gigante y superinteligente a reconocer gatos en fotos. Para hacer esto, el robot tiene que aprender de millones de imágenes y, cada vez que hace una suposición, envía un mensaje de vuelta a un cerebro central para decir: "Creo que necesito ajustar mi pensamiento de esta manera". El problema es que estos mensajes son enormes. Son como enviar una enciclopedia completa cada vez que quieres decir "sí" o "no". Si tienes que enviar estas enciclopedias masivas a través de una conexión a internet lenta, todo el proceso de aprendizaje se detiene, esperando a que lleguen los datos.

Para solucionar esto, los científicos inventaron un truco llamado "compresión". En lugar de enviar la enciclopedia completa, solo envías la palabra más importante: la señal. ¿El ajuste es positivo (arriba) o negativo (abajo)? Eso es todo. Un solo bit de información. Es como gritar "¡ARRIBA!" o "¡ABAJO!" en lugar de enviar un mapa detallado. Esto ahorra una tonelada de ancho de banda y permite que el robot aprenda mucho más rápido. Pero hay un inconveniente: a veces, cuando desechas todos los detalles y solo conservas la dirección, accidentalmente arruinas las matemáticas. El robot podría empezar a caminar en círculos o incluso a caminar hacia atrás, pensando que va hacia adelante. Este artículo trata sobre encontrar la forma perfecta de gritar "¡ARRIBA!" o "¡ABAJO!" para que el robot realmente aprenda, sin perderse.

El Gran Experimento de la Compresión de Signos

En el mundo del entrenamiento de la inteligencia artificial, existe un método popular llamado Muon. Piensa en Muon como un GPS muy sofisticado para nuestro robot. A diferencia de los métodos antiguos que tratan cada parte del cerebro del robot como un elemento separado e aislado, Muon mira la imagen completa. Entiende que el cerebro del robot está hecho de cuadrículas de números (matrices) y utiliza una regla geométrica especial para determinar el mejor camino a seguir. Es como un GPS que sabe que el terreno es una cadena montañosa y elige un camino que respete la forma de las colinas, en lugar de simplemente intentar caminar en línea recta.

Sin embargo, Muon es pesado. Envía mapas completos y detallados (32 bits de datos) por cada paso. Cuando intentas usarlo con el truco de "compresión de signos" (el grito de "ARRIBA o ABAJO") para ahorrar ancho de banda, las cosas se vuelven raras. Los autores de este artículo, Maria Smirnova y Alexey Kravatskiy, decidieron probar tres formas diferentes de combinar el GPS inteligente de Muon con el simple grito de "ARRIBA/ABAJO".

Las Tres Formas de Gritar

Configuraron tres estrategias diferentes, como tres equipos distintos intentando navegar por un laberinto:

SignMuon (El equipo de "Gritar Después"): Primero, Muon calcula el camino perfecto y detallado. Luego, observan ese camino y gritan "¡ARRIBA!" o "¡ABAJO!" para cada paso. Esto parece lo más lógico: obtener la dirección inteligente primero, luego simplificarla.
MuonUSign (El equipo de "Gritar Antes"): Primero, gritan "¡ARRIBA!" o "¡ABAJO!" a los datos brutos antes de que Muon haga sus matemáticas inteligentes. Luego, Muon intenta determinar el mejor camino basándose en esos gritos simples.
MuonSign (El equipo de "Gritar de Ambas Formas"): Gritan antes y después. Gritan a los datos brutos, dejan que Muon haga lo suyo y luego gritan de nuevo el resultado. Esta es la compresión más extrema, enviando solo "ARRIBA" o "ABAJO" en ambas direcciones.

El Descubrimiento Impactante: Lógica vs. Realidad

Aquí es donde la historia se vuelve retorcida. Los autores realizaron matemáticas rigurosas (probándolo con teoremas) y descubrieron algo sorprendente: ninguno de estos tres métodos garantiza que funcionará.

De hecho, demostraron que en ciertos problemas simples y lineales, los tres métodos pueden hacer que el robot camine hacia atrás. Imagina a un robot intentando caminar por un pasillo recto. En lugar de caminar hacia adelante, las matemáticas se confunden y el grito de "ARRIBA/ABAJO" hace que dé un paso hacia atrás cada vez. El robot se aleja cada vez más de la meta, sin importar cuán pequeños sean los pasos.

Los autores incluso construyeron ejemplos específicos y diminutos (como una cuadrícula de 4x4 o 5x5) donde pudieron mostrar que esto sucede. Demostraron que si intentas arreglar esto manteniendo una "memoria" de los errores (una técnica llamada retroalimentación de error o error feedback), no ayuda al equipo de "Gritar Después" (SignMuon). El robot sigue atrapado caminando hacia atrás.

El "Truco Mágico" que Funciona (Pero No es el Mejor)

Entonces, si las formas obvias fallan, ¿qué es lo que funciona? Los autores descubrieron que si cambian qué comprimen, pueden salvar el día.

En lugar de comprimir la dirección final, comprimen los datos brutos antes de que Muon haga su magia, y utilizan un sistema especial de "memoria" para corregir los errores. Crearon dos nuevos métodos: EF21-MuonUSign y EF21-MuonSign.

Estos métodos sí funcionan matemáticamente. Los autores demostraron que eventualmente encontrarán la meta, incluso en problemas no lineales difíciles. Son las opciones "seguras" que no harán que el robot camine hacia atrás para siempre.

El Giro en la Trama: Teoría vs. Realidad

Si los métodos "seguros" son los únicos que funcionan matemáticamente, uno esperaría que fueran los campeones en el mundo real, ¿verdad? Error.

Los autores realizaron experimentos masivos en tareas del mundo real:

Enseñar a un robot a reconocer gatos y perros (CIFAR-10).
Entrenar a un robot para escribir como un humano (nanoGPT).

Y los resultados fueron exactamente lo opuesto a las matemáticas. Los métodos "seguros" (los que tienen las garantías) fueron más lentos y menos precisos. El método que las matemáticas decían que estaba roto —el método de "Gritar Después" (SignMuon)— fue en realidad el ganador.

En cada prueba, SignMuon tuvo el mejor desempeño. Aprendió más rápido y obtuvo puntuaciones más altas que los métodos "seguros", a pesar de que los autores habían demostrado que debería fallar en problemas simples.

¿Por qué sucede esto?

El artículo sugiere que las matemáticas "rotas" solo ocurren en situaciones muy específicas y extrañas que no suelen suceder en la vida real. El método de "Gritar Después" (SignMuon) parece tener un superpoder oculto que las pruebas matemáticas no captaron. Resulta que, en el mundo desordenado y complejo de los datos reales, el simple acto de comprimir la dirección final funciona mejor que los complejos sistemas de corrección de errores "seguros".

Los autores concluyen que, si bien podemos demostrar que los métodos "seguros" funcionarán, el método "riesgoso" (SignMuon) es el que realmente hace el trabajo. Es un recordatorio de que en el mundo salvaje de la IA, a veces la heurística (la regla empírica) vence a la garantía. El equipo de "Gritar Después" gana la carrera, a pesar de que el árbitro (las matemáticas) dijo que no deberían tener permitido correr.

La Conclusión

Este artículo es una historia sobre la tensión entre la teoría y la práctica.

La teoría dice: "No uses SignMuon; puede hacer que el robot camine hacia atrás".
La práctica dice: "SignMuon es el más rápido y el mejor".

Los autores no resolvieron el misterio de por qué la teoría falla en la práctica, pero lo documentaron claramente. Nos mostraron que, si bien podemos construir un robot que matemáticamente garantice nunca caerse de un acantilado, el robot que da algunos saltos arriesgados puede llegar primero a la meta. Para cualquiera que construya sistemas de IA, la lección es clara: confía en las matemáticas para mantenerte seguro, pero confía en los experimentos para decirte qué es lo que realmente funciona.

Resumen Técnico: Compresión de Sign para Muon

Planteamiento del Problema
Entrenar redes neuronales profundas a través de clientes distribuidos o bajo restricciones de ancho de banda requiere comprimir las actualizaciones transmitidas entre trabajadores y servidores. Si bien SignSGD ofrece una relación de compresión extrema de un bit por coordenada, aplana las matrices de pesos en vectores, descartando la estructura de matriz que los optimizadores avanzados como Muon explotan. Muon utiliza un Oráculo de Minimización Lineal (LMO) basado en la norma espectral para ortogonalizar las matrices de momentum, lo que produce un rendimiento superior en diversos entornos. Sin embargo, Muon transmite matrices densas de precisión completa (32 bits por parámetro), lo que crea un cuello de botella. El problema central es combinar la geometría consciente de la matriz de Muon con un presupuesto de comunicación de un bit sin perder la propiedad de descenso o las garantías de convergencia.

Metodología
El artículo investiga tres colocaciones naturales del operador de compresión de signo con respecto al LMO de Muon:

SignMuon: Aplica el signo a la salida del LMO ( $\text{sign}(\text{LMO}(\cdot))$ ). Este es el enfoque más directo, emitiendo una matriz de $\pm 1$ .
MuonUSign: Aplica el signo a la entrada del LMO ( $\text{LMO}(\text{sign}(\cdot))$ ).
MuonSign: Aplica el signo tanto a la entrada como a la salida ( $\text{sign}(\text{LMO}(\text{sign}(\cdot)))$ ).

Los autores analizan estos métodos teóricamente en objetivos lineales y problemas no convexos suaves. También introducen variantes de retroalimentación de error (EF21) para abordar el sesgo introducido por la compresión de signo:

EF21-SignMuon: Aplica la retroalimentación de error al resultado del LMO (el factor polar).
EF21-MuonUSign: Aplica la retroalimentación de error al gradiente antes del LMO.
EF21-MuonSign: Aplica la retroalimentación de error tanto al gradiente (enlace ascendente/uplink) como a la actualización del modelo (enlace descendente/downlink).

Un detalle de implementación clave es la "heurística de ganancia unitaria" para los tamaños de paso por capa, que escala la tasa de aprendizaje basándose en las dimensiones de la capa para asegurar una ganancia de raíz cuadrática media (RMS) consistente entre capas de diferentes formas, una necesidad al mezclar pasos basados en LMO (norma $\sqrt{r}$ ) y pasos basados en signo (norma $\sqrt{mn}$ ).

Contribuciones Clave

Divergencia de las Combinaciones Directas: El artículo demuestra que ninguna de las tres colocaciones directas de signo (SignMuon, MuonUSign, MuonSign) garantiza el descenso en general. Específicamente, los autores construyen contraejemplos explícitos de pequeña escala (matrices de 4x4 y 5x5) donde cada método asciende en un objetivo lineal para cualquier tamaño de paso y coeficiente de momentum. Se demuestra que la composición del operador de signo y el LMO de norma espectral no es un LMO para ninguna norma, destruyendo la garantía de descenso.
Fallo de la Retroalimentación de Error en la Salida del Oráculo: Los autores demuestran que aplicar la retroalimentación de error estándar (EF21) a la salida del LMO (EF21-SignMuon) no repara la divergencia. Construyen una función suave y acotada inferior donde EF21-SignMuon diverge para cualquier constante de suavidad, tamaño de paso y configuración de momentum. El factor polar puede moverse una cantidad constante independientemente del tamaño de paso, impidiendo que el estimador de retroalimentación de error lo siga.
Convergencia de la Retroalimentación de Error Basada en el Gradiente: En contraste, aplicar la retroalimentación de error al gradiente (antes del LMO) restaura la convergencia.
- EF21-MuonUSign logra la tasa estándar de $O(T^{-1/2})$ para la norma al cuadrado del gradiente en problemas no convexos suaves con un enlace ascendente de un bit.
- EF21-MuonSign extiende esto a un bit en ambas direcciones (ascendente y descendente) al añadir un segundo bucle de retroalimentación de error en el modelo, manteniendo la misma tasa de convergencia.
Reversión Empírica de la Teoría: A pesar de la divergencia teórica de SignMuon, los resultados experimentales en CIFAR-10 centralizado, CIFAR-10 federado y un "speedrun" de nanoGPT muestran consistentemente que SignMuon (la colocación de signo después) es el método comprimido más fuerte. Supera al método de la variante de error-feedback (EF21-MuonUSign, EF21-MuonSign) y iguala a Muon de precisión completa en muchos casos. Los métodos teóricamente "seguros" quedan por detrás de SignMuon por varios desvíos estándar.

Resultados

Teóricos: El artículo establece que la colocación "signo-después" (SignMuon) es irreparable mediante retroalimentación de error aplicada a la salida del oráculo, mientras que las colocaciones "signo-antes" y "ambos-lados" con retroalimentación de error en el gradiente son demostrablemente convergentes.
Experimentales:
- En CIFAR-10 Centralizado (ResNet-18), SignMuon alcanza un 94.60% de precisión, igualando a Muon de precisión completa (94.35%) y superando significativamente a SignSGD (93.37%). Las variantes de retroalimentación de error (EF21-SignMuon) funcionan ligeramente peor que SignMuon.
- En CIFAR-10 Federado (N=11), SignMuon alcanza un 85.72% de precisión, quedando a menos de una desviación estándar de Muon (85.98%) pero superando a SignSGD por 4.3 puntos. El orden se mantiene: SignMuon > MuonUSign > MuonSign. Las variantes convergentes (EF21-MuonUSign/Sign) se quedan rezagadas.
- En nanoGPT, SignMuon y EF21-SignMuon son indistinguibles y logran pérdidas de validación dentro de 0.01 de Muon de precisión completa, superando a todos los demás métodos comprimidos.
Contraejemplos: Los casos de divergencia construidos son escenarios de peor caso. En problemas cuadráticos aleatorios, la alineación entre el gradiente y el paso sigue siendo positiva para las tres colocaciones, lo que sugiere que los datos ordinarios no activan la divergencia teórica.

Significancia y Reivindicaciones
El artículo documenta una tensión entre las garantías teóricas y el rendimiento práctico en la optimización comprimida. Sostiene que, si bien la colocación "signo-después" (SignMuon) es teóricamente irreparable y puede divergir en instancias lineales específicas, es el heurístico más efectivo en la práctica a través de diversas arquitecturas y escalas. Los autores no pretenden resolver esta tensión, sino caracterizarla: los contraejemplos impiden una garantía que cubra cada problema de la clase, pero no impiden la convergencia bajo condiciones satisfechas por datos ordinarios.

El artículo concluye que, a las escalas actuales, el beneficio heurístico de comprimir después del LMO supera la falta de una garantía teórica. Identifica como principal pregunta abierta la identificación de las condiciones específicas bajo las cuales la colocación "signo-después" converge, junto con la investigación de las tasas de convergencia para enlaces descendentes comprimidos y si algún compresor de un bit contrae en una norma de capa. El trabajo también aclara que una propuesta concurrente para SignMuon (Mishra et al., 2026) proporciona una garantía para un método diferente (oráculo de signo de gradiente) en lugar de la actualización de SignMuon propiamente dicha.