Resumen Técnico: Acondicionadores de Direcciones Muertas (DDC)

1. Planteamiento del Problema

Las pérdidas de las redes neuronales profundas exhiben simetrías continuas (simetrías de calibre o gauge symmetries) en sus espacios de parámetros. Estas incluyen desplazamientos de logits, reescalados de ReLU/SwiGLU, invarianzas de escala de LayerNorm y rotaciones de cabezales de atención. A lo largo de las órbitas de estas simetrías, el paisaje de pérdida es plano (direcciones muertas), lo que significa que la métrica de información de Fisher se anula.

Los optimizadores adaptativos estándar como Adam no respetan estas simetrías. El preacondicionador por coordenada de Adam ($1/\sqrt{\hat{v}}$) solo es equivariante bajo permutaciones de coordenadas. Cuando los grupos arquitectónicos mezclan coordenadas (por ejemplo, al escalar un par de pesos inversamente o rotar un espacio vectorial), la actualización de Adam "se filtra" hacia la órbita de calibre. Esta filtración causa dos problemas primarios:

1. Deriva (Drift): La trayectoria del optimizador deriva a lo largo de la órbita plana en lugar de permanecer en una sección fija del cociente de simetría $\bar{\Theta} = \Theta/G$. Esta deriva mueve al optimizador a un mínimo diferente al que alcanzaría si se respetara la simetría.
2. Lectura de Tasa Borrosa (Blurred Rate Readability): Resultados teóricos (Shirodkar, 2026) establecen que la tasa singular (el decaimiento del menor autovalor de Fisher) es legible desde la trayectoria solo si el optimizador desciende limpiamente sobre el cociente. La filtración de Adam introduce ruido y sesgo, borrando esta tasa y haciendo que la geometría del mínimo sea ilegible.

2. Metodología: Acondicionadores de Direcciones Muertas (DDC)

El artículo introduce DDC, un marco de preacondicionamiento que eleva un optimizador base (por ejemplo, Adam o Muon) a uno $G$-equivariante. El mecanismo central consiste en descomponer el espacio de parámetros y las actualizaciones de gradiente en componentes verticales (tangentes a la órbita) y horizontales (del cociente) utilizando una métrica de Riemann $G$-invariante $\rho$.

La Regla de Actualización

Para un gradiente $g_t$, DDC divide el gradiente en $g_t = \Pi_V g_t + \Pi_H g_t$. Mantiene estimadores de segundo momento separados:

• Componente Vertical ($\hat{v}_V$): El gradiente vertical se colapsa a un único escalar por dimensión de órbita (por ejemplo, mediante la media de fila para desplazamientos de CE). Este escalar se utiliza para normalizar la actualización vertical, tratando efectivamente toda la dimensión de la órbita como una sola unidad.
• Componente Horizontal ($\hat{v}_H$): El gradiente horizontal se preacondiciona por coordenada pero estrictamente dentro de un marco horizontal $G$-equivariante. Crucialmente, tras la división por coordenada, la actualización es reproyectada ($\Pi_H$) para asegurar que la trayectoria permanezca horizontal.

El paso de actualización es:
$$\theta_{t+1} = \theta_t - \eta \left[ \Pi_H \left( \frac{\Pi_H \hat{m}_t}{\sqrt{\hat{v}_H} + \epsilon} \right) + \text{lift}_V \left( \frac{\text{vert-to-scalar}(\Pi_V \hat{m}_t)}{\sqrt{\hat{v}_V} + \epsilon} \right) \right]$$

Calibres Arquitectónicos Manejados

DDC construye proyectores y reducciones específicos para cuatro calibres arquitectónicos:

1. Desplazamiento de Entropía Cruzada (Cross-Entropy Shift): Desplazamientos aditivos en los logits (sesgo o pesos de unembedding).
2. Reescalado de ReLU/SwiGLU: Escalamiento multiplicativo de pares de pesos adyacentes ($W_\ell, W_{\ell+1} \to cW_\ell, c^{-1}W_{\ell+1}$).
3. Escala de LayerNorm/RMSNorm: Escalamiento por canal de los parámetros de normalización y los pesos descendentes.
4. Rotación de Cabezales de Atención: Rotaciones no abelianas $O(d_{head})$ de los pesos QK y VO.

Para el calibre de rotación no abeliano, el $\hat{v}$ estándar por coordenada falla. DDC propone cuatro construcciones conscientes de $O(d_{head})$, siendo la desplegada por defecto body_frame_topk. Esto mantiene la adaptatividad por coordenada en la base de autovectores del determinante de la matriz de Gram $M = W_Q^T W_Q + W_K^T W_K$, pero solo en las direcciones de autovectores "vivas" (aquellas con autovalores por encima de un umbral), mientras trata las direcciones muertas solo con momento.

Composición del Optimizador Base

• DDCAdam: Aplica la construcción completa de DDC a Adam. Maneja los cuatro calibres exactamente (o en orden superior para rotaciones de body-frame).
• DDCMuon: Aplica DDC al optimizador Muon (que ortogonaliza las actualizaciones). La ortogonalización de Muon conmuta exactamente con los calibres de rotación, haciendo que DDCMuon sea exacto para las rotaciones. Sin embargo, la ortogonalización de Muon elimina la libertad de escala por canal, lo que significa que DDCMuon no puede condicionar los calibres de reescalado (ReLU/escala LN) y recurre por defecto a Adam para esos componentes.

3. Contribuciones Clave

1. Preacondicionamiento Equivariante: Una construcción general que eleva los optimizadores adaptativos para respetar las simetrías arquitectónicas continuas, asegurando que la trayectoria permanezca como un flujo de gradiente preacondicionado en el cociente de simetría $\bar{\Theta}$.
2. Legibilidad de la Tasa (Rate Readability): Prueba teórica (Teorema 1) de que DDC restaura la propiedad de "legibilidad de la tasa de la trayectoria". En el cociente, el menor autovalor de Fisher decae como $\bar{t}^{2(k-1)}$, permitiendo que el orden singular $k$ se lea directamente de la trayectoria, una propiedad que Adam oscurece.
3. Contención de Calibre (Gauge Containment): Demostración empírica de que DDC evita la deriva de los modos de calibre (ej. desplazamientos de logit, reescalados de pesos) que afecta a Adam, manteniendo estos modos en sus valores iniciales o puntos fijos.
4. Mejores Resultados de Optimización:
   • Resistencia al Sobreentrenamiento (Over-training Resistance): En modelos de lenguaje entrenados más allá del punto de ajuste, DDCAdam resiste el "colapso por sobreentrenamiento" donde la pérdida de validación diverge de la de entrenamiento.
   • Fiabilidad del Grokking: En transformadores profundos (profundidad 24), DDCMuon permite el "grokking" (generalización súbita) en 10/11 semillas donde el Muon vanilla falla completamente (0/11).
   • Compresión: En Vision Transformers, DDCAdam comprime la capacidad sobrante de feed-forward de forma más agresiva bajo weight decay que AdamW, alcanzando una pérdida de validación más baja.

4. Resultados Experimentales

• Modelos de Lenguaje (Profundidad-12, Sobreentrenamiento):
  • Legibilidad de la Tasa: DDCAdam lee la tasa singular en 32 de 65 celdas observables por capa, mientras que AdamW la lee en solo 7. En AdamW, los autovalores de Fisher aumentan alejándose del mínimo; en DDCAdam, colapsan hacia el suelo.
  • Sobreentrenamiento: DDCAdam mantiene una brecha de pérdida de validación-entrenamiento de 0.67, comparado con 5.88 para AdamW.
• Grokking en Transformadores:
  • Profundidad-24: DDCMuon logra 10/11 semillas de grokking con precisión >0.9, mientras que el Muon vanilla logra 0/11.
  • Profundidad-8 (RoPE): Ajustar el calibre de rotación a la simetría de toro específica de las incrustaciones de posición rotatorias ($SO(2)^{d/2}$) produce una precisión más alta (0.977) y menor varianza que los calibres genéricos $O(d_{head})$ (0.955).
• Vision Transformers (ViT):
  • Entrenado desde cero en ImageNet-100, DDCAdam logra una pérdida de validación más baja (1.71 vs 2.12 nats) y comprime la red (los valores singulares de activación son 4 veces más pequeños) con el mismo weight decay donde AdamW deja la capacidad intacta.
• Contención de Calibre:
  • En tareas sintéticas, DDCAdam reduce la deriva entre semillas de los modos de calibre en 14x (reescalado ReLU) y 65x (escala LayerNorm) en comparación con AdamW, igualando la pérdida final de la tarea.

5. Significado y Reivindicaciones

El artículo sostiene que construir la simetría dentro del optimizador cambia fundamentalmente la geometría de la solución encontrada. Al respetar la simetría de calibre:

• El Mínimo es más Agudo: El optimizador se establece en un mínimo menos degenerado (mayores autovalores de Fisher fuera del suelo singular).
• La Geometría es Medible: La trayectoria se convierte en una señal legible del coeficiente de aprendizaje singular subyacente, permitiendo el diagnóstico de la complejidad del modelo directamente desde la dinámica de entrenamiento.
• La Fiabilidad Aumenta: El optimizador se vuelve robusto ante la "deriva" que causa fallos en regímenes profundos o de sobreentrenamiento, particularmente en tareas que requieren "grokking".

Los autores enfatizan que la construcción es genérica al preacondicionador, elevando a Adam, Muon y Shampoo, y que los beneficios no se deben simplemente al weight decay, sino a la restricción geométrica de permanecer en el cociente. El artículo concluye que la simetría de calibre de una red, cuando es respetada por el optimizador, "agudiza el mínimo que encuentra y convierte la geometría de ese mínimo en algo que la trayectoria puede medir".

Limitaciones Observadas:

• La aceleración de Muon basada en el grokking se atribuye parcialmente al weight decay agrupado inherente a la actualización equivariante, aunque la proyección proporciona fiabilidad y una estructura más limpia.
• La equivariancia exacta para la construcción de rotación de body-frame es aproximada (de orden superior) debido a la ambigüedad de signo de los autovectores, aunque esta deriva es pequeña ($\sim 10^{-3}$ en 20 pasos).
• Leer la estructura singular completa (orden y multiplicidad) a partir del alineamiento canónico requiere maquinaria que no se ha desarrollado completamente en este trabajo.