Scalable Equilibrium Propagation via Intermediate Error Signals for Deep Convolutional CRNNs

Resumen Técnico: Propagación de Equilibrio Escalable mediante Señales de Error Intermedias

Enunciado del Problema
La Propagación de Equilibrio (EP) es una regla de aprendizaje biológicamente plausible para Redes Neuronales Recurrentes Convergentes (CRNN) que estima gradientes utilizando únicamente estados neuronales locales y temporalmente separados, evitando los requisitos no biológicos de la Retropropagación a través del Tiempo (BPTT). Aunque EP ha demostrado ser prometedora como candidata para el entrenamiento en chip neuromórfico, su aplicación se ha restringido históricamente a arquitecturas superficiales. A medida que aumenta la profundidad de la red, las CRNN entrenadas con EP sufren el problema del gradiente que se desvanece. En redes profundas, las señales de error retropropagadas se atenúan a través de las capas durante la simulación, fallando en perturbar suficientemente los estados de equilibrio de las neuronas intermedias. Esto conduce a un colapso en el cálculo del gradiente e impide que la red converja, resultando en un rendimiento deficiente en modelos más profundos (por ejemplo, VGG-11/13) en comparación con los modelos superficiales (por ejemplo, VGG-5).

Metodología
Para abordar las limitaciones de escalabilidad de EP, los autores proponen un nuevo marco que integra señales de aprendizaje intermedias para mejorar el flujo de información y la dinámica neuronal. La metodología central implica modificar la función primitiva escalar $\Phi$ utilizada en el proceso de entrenamiento de EP añadiendo términos de pérdida auxiliares en capas intermedias específicas. El marco introduce dos estrategias de aumento distintas:

1. Señales de Error Local (LE): Este enfoque incorpora pseudoobjetivos $\hat{y}^*_i$ en capas intermedias seleccionadas. Los estados neuronales $\xi^t_i$ se proyectan mediante una matriz $B_i$ inicializada aleatoriamente para generar lecturas intermedias $\hat{\xi}^t_i$. Se calcula una pérdida local $L_{Aug}$ entre estas lecturas y los pseudoobjetivos, proporcionando supervisión directa a las capas intermedias.
2. Distilación de Conocimiento (KD): Este enfoque utiliza un modelo "profesor" preentrenado. Las capas intermedias de la red estudiante (la CRNN entrenada con EP) se alinean con los logits correspondientes del modelo profesor. La pérdida $L_{Aug}$ se calcula entre las salidas intermedias del estudiante y las salidas del profesor, escalada por un parámetro de temperatura $\tau$.

La función de pérdida total para el marco de EP aumentado se define como:
$$L_{Total} = L_{EP}(\xi^t_{out}, \hat{y}) + \kappa \sum_{i \in \Upsilon} L_{Aug}(\xi^t_i, \hat{y}^*_i)$$
donde $\kappa$ es un factor de escala y $\Upsilon$ es el conjunto de capas que reciben señales intermedias. El análisis teórico (Teorema 3.1) demuestra que, bajo condiciones específicas de continuidad de Lipschitz, este marco aumentado conserva las garantías de convergencia a un punto fijo. Además, el Teorema 3.2 establece que la estimación del gradiente permanece como una aproximación no sesgada del gradiente verdadero (con un límite de error de $O(\beta^2)$) a medida que el factor de empuje $\beta \to 0$.

Los autores también exploran la distilación de conocimiento ponderada, introduciendo pesos de mapeo lineal aprendibles para alinear los logits del estudiante y del profesor, aunque los resultados empíricos indicaron que esta variante específica incurrió en mayores costos de memoria con un rendimiento ligeramente inferior al del enfoque KD estándar.

Contribuciones Clave

• Marco EP Escalable: Este trabajo presenta el primer marco EP capaz de entrenar exitosamente CRNNs convolucionales profundas (superando el límite anterior de cinco capas), cerrando efectivamente la brecha de rendimiento entre arquitecturas superficiales y profundas.
• Evidencia Empírica de Gradientes que se Desvanecen: El artículo proporciona evidencia empírica que demuestra que los gradientes que se desvanece en redes EP profundas ocurren tanto durante la minimización de la función primitiva escalar como durante el proceso de cálculo del gradiente, lo que conduce a fallos de convergencia.
• Integración de Señales Intermedias: Hasta donde se sabe a los autores, esta es la primera integración de distilación de conocimiento y señales de error local dentro del marco de EP.
• Convergencia Teórica: El estudio proporciona una prueba teórica (Teorema 3.1) que asegura que la dinámica neuronal aumentada converge a estados estables, preservando la plausibilidad biológica de la regla de actualización de EP.

Resultados
El marco propuesto se evaluó en los conjuntos de datos CIFAR-10 y CIFAR-100 utilizando arquitecturas VGG profundas (VGG-7, VGG-10/11, VGG-12/13).

• Rendimiento: El marco de EP aumentado logró un rendimiento de vanguardia para redes entrenadas con EP en estos conjuntos de datos. Para CIFAR-10, el modelo VGG-7-KD alcanzó una precisión de prueba del 89.67%, y el modelo VGG-7-LE alcanzó el 88.99%, superando a estudios EP anteriores restringidos a VGG-5. En CIFAR-100, el modelo VGG-12-KD alcanzó una precisión de prueba del 64.75%.
• Comportamiento de Convergencia: Las señales de Error Local (LE) demostraron una convergencia más rápida, alcanzando más del 70% de precisión antes de la época 15, mientras que la Distilación de Conocimiento (KD) requirió más de 45 épocas para alcanzar niveles comparables, probablemente debido a la necesidad de una fase de calentamiento.
• Eficiencia: A pesar de la adición de señales intermedias, la sobrecarga computacional y de memoria se mantuvo marginal en comparación con EP estándar. Crucialmente, el consumo de memoria del marco de EP aumentado fue significativamente menor que el de BPTT (por ejemplo, BPTT consumió ~18.1 veces más memoria GPU que el EP aumentado con KD para VGG-13 en CIFAR-100).

Significado y Afirmaciones
El artículo afirma que la introducción de señales de aprendizaje intermedias es un avance significativo en la escalabilidad de la Propagación de Equilibrio. Al permitir el entrenamiento de arquitecturas significativamente más profundas sin sacrificar la naturaleza local y biológicamente plausible de la regla de aprendizaje, el trabajo sugiere que EP puede extenderse a aplicaciones prácticas y complejas. Los autores destacan que este enfoque mantiene la idoneidad de EP para el entrenamiento neuromórfico y en chip, donde las limitaciones de hardware requieren mecanismos de aprendizaje locales y eficientes. El trabajo se posiciona como un avance complementario a otros esfuerzos recientes (como los que utilizan conexiones residuales) para resolver el problema del gradiente que se desvanece en EP, allanando el camino para futuras investigaciones sobre la aplicación de EP a modelos de visión y lenguaje a gran escala.