Resumen Técnico: Lo que la Precisión y el Coseno del Gradiente Omiten

Declaración del Problema

A pesar del éxito del aprendizaje profundo, entrenar redes profundas mediante mecanismos biológicamente plausibles y eficientes en hardware sigue siendo un desafío abierto. Los métodos de Alineación de Retroalimentación (FA, por sus siglas en inglés) abordan las restricciones de la retropropagación (BP) —específicamente la simetría de pesos y las actualizaciones secuenciales— reemplazando los pesos de retroceso con matrices aleatorias fijas. Aunque FA y su variante, la Alineación de Retroalimentación Directa (DFA), han mostrado potencial en el entrenamiento de arquitecturas modernas como los transformers, su evaluación se basa en un par de reporte estándar: la precisión de la tarea y la similitud de coseno agregada entre la señal de crédito del método y el gradiente de BP.

Este artículo sostiene que este par de métricas estándar es insuficiente y puede dar paso silencioso a métodos que no han entrenado realmente las capas profundas de una red. Los autores identifican dos modos de falla independientes donde las métricas estándar proporcionan señales engañosamente positivas a pesar de que la red no ha logrado un aprendizaje útil de la asignación de crédito en las capas profundas.

Metodología y Protocolo de Diagnóstico

Para diagnosticar estas fallas, los autores realizaron una auditoría controlada comparando tres métodos (BP, FA y DFA) en arquitecturas residuales (ResMLP, ViT-Mini, StudentNet) con recetas de entrenamiento idénticas, que difieren únicamente en las reglas de propagación de crédito. Observaron que las métricas estándar no detectaban cuándo los bloques profundos eran efectivamente no utilizados o perjudiciales.

Basándose en estas observaciones, los autores proponen un protocolo de evaluación diagnóstica de tres comprobaciones para reemplazar o complementar el par de reporte estándar:

1. Estabilidad de Escala (Diagnóstico 1): Mide el crecimiento residual máximo por bloque ($\rho = \max_l \|h_{l+1}\|/\|h_l\|$) al final del entrenamiento.
   • Umbral: Marcar si $\rho > 50$.
   • Propósito: Detectar la "explosión del flujo residual", un precursor del colapso del gradiente de referencia.
2. Validez de la Referencia (Diagnóstico 2): Mide la norma del gradiente de referencia de BP más profundo ($\|g_L\|$).
   • Umbral: Marcar si $\|g_L\| < 10 \cdot \epsilon$ (donde $\epsilon$ es el piso del denominador de la implementación del coseno, típicamente $10^{-8}$ para fp32).
   • Propósito: Detectar la Degeneración de la Medición. En arquitecturas con LayerNorm terminal, la explosión residual comprime el gradiente de BP hacia el piso numérico. Cuando esto ocurre, la similitud de coseno se calcula contra el ruido de punto flotante en lugar de una dirección significativa, lo que hace que la métrica sea ininterpretable.
3. Utilidad de la Profundidad (Diagnóstico 3): Calcula la brecha entre la precisión de prueba del modelo entrenado y una línea base de bloques congelados con arquitectura coincidente (donde los bloques residuales se mantienen en su inicialización aleatoria, y solo se entrenan el embedding, el LayerNorm y la cabeza).
   • Umbral: Marcar si la brecha es inferior a 2 puntos porcentuales.
   • Propósito: Detectar si la profundidad entrenada contribuye genuinamente a la predicción. Esta comprobación es necesaria porque incluso las mediciones de coseno válidas no garantizan que las actualizaciones en la dirección del crédito se compongan en un entrenamiento de profundidad útil.

El protocolo también exige el reporte de coseno por capa en lugar del reporte agregado para evitar enmascarar la heterogeneidad por capa.

Hallazgos Clave y Modos de Falla

El artículo identifica dos modos de falla causalmente independientes que las métricas estándar pasan por alto:

• Modo 1: Degeneración de la Medición (Colapso de la Referencia).
  • Mecanismo: En arquitecturas residuales con LayerNorm terminal, el crecimiento no acotado del flujo residual (impulsado por la forma de la pérdida local) hace que el gradiente de referencia de BP se reduzca inversamente. Eventualmente, la norma del gradiente cae por debajo del piso numérico de la implementación del coseno.
  • Resultado: La similitud de coseno reportada se calcula contra un residuo de punto flotante normalizado (ruido) en lugar de la verdadera dirección de BP. Este modo es prevalente en arquitecturas con LayerNorm terminal (ej. ResMLP, ViT-Mini) pero ausente en aquellas sin ella (ej. StudentNet).
• Modo 2: Colapso de Agregación (Heterogeneidad por Capa).
  • Mecanismo: El coseno agregado promedia los cosenos por capa que están concentrados en extremos opuestos de la red. Por ejemplo, FA suele alinearse solo en las capas más profundas, mientras que DFA se alinea solo en las capas más superficiales (embedding).
  • Resultado: El coseno agregado parece positivo, sugiriendo alineación, mientras que las capas profundas (o las capas superficiales, dependiendo del método) aportan cero crédito alineado.
• El Coseno No Predice la Utilidad de la Profundidad.
  • Incluso cuando el Modo 1 se alivia (mediante penalizaciones de escala) y la medición del coseno es válida, un alto alineamiento de coseno no predice si las capas profundas mejoran la precisión. Los autores demostraron esto usando sondas de "Puente de Estado" (State Bridge) y "Puente de Crédito" (Credit Bridge), las cuales mostraron que métodos con menor alineamiento de coseno podían lograr una mayor precisión que aquellos con mayor alineamiento.

Resultados

Los autores validaron el protocolo a través de múltiples arquitecturas y configuraciones:

• Las Métricas Estándar Fallan: En configuraciones representativas (ej. ResMLP en CIFAR-10), FA y DFA reportaron una precisión no trivial y un coseno agregado positivo. Sin embargo, el par estándar no dio ninguna señal de que estos métodos fallaran en superar una línea base de bloques congelados.
• Éxito del Protocolo: El protocolo propuesto identificó correctamente todas las fallas.
  • DFA activó consistentemente el Modo 1 (explosión de escala y colapso de referencia) y la falla de Utilidad de la Profundidad en arquitecturas con LayerNorm terminal.
  • FA a menudo pasó las comprobaciones del Modo 1 (la referencia permaneció válida) pero falló en la comprobación de Utilidad de la Profundidad, indicando que, aunque la referencia era medible, la señal de crédito no entrenaba eficazmente las capas profundas.
• Independencia Causal: Una intervención de penalización (añadir una penalización de escala a la pérdida local) alivió el Modo 1 (restando validez a la referencia) sin arreglar inmediatamente el Modo 2 (el alineamiento de la capa profunda seguía siendo pobre). Esto confirmó que los dos modos de falla son distintos y requieren diagnósticos separados.
• Generalizabilidad: Los patrones de falla se mantuvieron en CIFAR-10 y CIFAR-100, y en las arquitecturas ResMLP y Vi-Mini.

Significado y Reivindicaciones

El artículo afirma que el protocolo de evaluación estándar para la Alineación de Retroalimentación es fundamentalmente defectuoso para arquitecturas residuales profundas. Al depender de la precisión y el coseno agregado, los investigadores corren el riesgo de construir sobre métodos donde las capas profundas son no funcionales o incluso perjudiciales para el rendimiento.

La importancia de este trabajo radica en:

1. Identificar Fallas Silenciosas: Expone dos mecanismos independientes (degeneración de la medición y colapso de agregación) que vuelven informativas las métricas estándar.
2. Proveer un Protocolo de Diagnóstico: Ofrece un conjunto concreto y accionable de comprobaciones (Estabilidad de Escala, Validez de la Referencia, Utilidad de la Profundidad) que los profesionales pueden usar para verificar si un método de FA realmente entrena las capas profundas antes de escalar o desplegar.
3. Clarificar el Rol del Coseno: Establece que el alineamiento de coseno con el gradiente de BP, incluso cuando se mide válidamente, no es un sustituto suficiente de la utilidad funcional del entrenamiento de la profundidad.

Los autores enfatizan que pasar el protocolo no certifica un método como un reemplazo universal para la retropropagación, sino que fallar indica que el método no ha entrenado con éxito las capas profundas de la arquitectura específica probada. El trabajo tiene como objetivo evitar que el campo escale mecanismos de asignación de crédito que no son funcionales.