Scalable Equilibrium Propagation via Intermediate Error Signals for Deep Convolutional CRNNs

Riepilogo Tecnico: Propagazione all'Equilibrio Scalabile tramite Segnali di Errore Intermedi

Enunciato del Problema
La Propagazione all'Equilibrio (EP) è una regola di apprendimento biologicamente plausibile per le Reti Neurali Ricorrenti Convergenti (CRNN) che stima i gradienti utilizzando esclusivamente stati neuronali locali e temporalmente separati, evitando i requisiti non biologici della Backpropagation Through Time (BPTT). Sebbene l'EP abbia mostrato promesse come candidato per l'addestramento on-chip neuromorfico, la sua applicazione è stata storicamente limitata ad architetture superficiali. All'aumentare della profondità della rete, le CRNN addestrate con EP soffrono del problema del gradiente che svanisce. Nelle reti profonde, i segnali di errore retropropagati si attenuano attraverso i livelli durante la simulazione, non riuscendo a perturbare sufficientemente gli stati di equilibrio dei neuroni intermedi. Ciò porta al collasso del calcolo del gradiente e impedisce alla rete di convergere, risultando in prestazioni scadenti nei modelli più profondi (ad esempio, VGG-11/13) rispetto a quelli superficiali (ad esempio, VGG-5).

Metodologia
Per affrontare le limitazioni di scalabilità dell'EP, gli autori propongono un nuovo framework che integra segnali di apprendimento intermedi per migliorare il flusso di informazioni e la dinamica neuronale. La metodologia di base consiste nel modificare la funzione primitiva scalare $\Phi$ utilizzata nel processo di addestramento EP aggiungendo termini di perdita ausiliari a specifici livelli intermedi. Il framework introduce due strategie di aumento distinte:

1. Segnali di Errore Locale (LE): Questo approccio incorpora pseudo-obiettivi $\hat{y}^*_i$ a livelli intermedi selezionati. Gli stati neuronali $\xi^t_i$ sono proiettati tramite una matrice inizializzata casualmente $B_i$ per generare letture intermedie $\hat{\xi}^t_i$. Viene calcolata una perdita locale $L_{Aug}$ tra queste letture e i pseudo-obiettivi, fornendo una supervisione diretta ai livelli intermedi.
2. Distillazione della Conoscenza (KD): Questo approccio utilizza un modello "insegnante" pre-addestrato. I livelli intermedi della rete studente (la CRNN addestrata con EP) vengono allineati con i logit corrispondenti del modello insegnante. La perdita $L_{Aug}$ è calcolata tra le uscite intermedie dello studente e le uscite dell'insegnante, scalata da un parametro di temperatura $\tau$.

La funzione di perdita totale per il framework EP aumentato è definita come:
$$L_{Total} = L_{EP}(\xi^t_{out}, \hat{y}) + \kappa \sum_{i \in \Upsilon} L_{Aug}(\xi^t_i, \hat{y}^*_i)$$
dove $\kappa$ è un fattore di scala e $\Upsilon$ è l'insieme dei livelli che ricevono segnali intermedi. L'analisi teorica (Teorema 3.1) dimostra che, sotto specifiche condizioni di continuità di Lipschitz, questo framework aumentato mantiene le garanzie di convergenza a un punto fisso. Inoltre, il Teorema 3.2 stabilisce che la stima del gradiente rimane un'approssimazione non distorta del gradiente vero (con un limite di errore di $O(\beta^2)$) al tendere del fattore di spinta $\beta \to 0$.

Gli autori esplorano inoltre la distillazione della conoscenza ponderata, introducendo pesi di mappatura lineare apprendibili per allineare i logit dello studente e dell'insegnante, sebbene i risultati empirici abbiano indicato che questa specifica variante ha comportato costi di memoria più elevati con prestazioni leggermente inferiori rispetto all'approccio KD standard.

Contributi Chiave

• Framework EP Scalabile: Questo lavoro presenta il primo framework EP in grado di addestrare con successo CRNN convoluzionali profonde (superando il precedente limite di cinque livelli), colmando efficacemente il divario di prestazioni tra architetture superficiali e profonde.
• Evidenza Empirica dei Gradienti che Svengono: Il documento fornisce evidenze empiriche che dimostrano come i gradienti che svaniscono nelle reti EP profonde si verifichino sia durante la minimizzazione della funzione primitiva scalare sia durante il processo di calcolo del gradiente, portando a fallimenti nella convergenza.
• Integrazione di Segnali Intermedi: A conoscenza degli autori, questa è la prima integrazione di distillazione della conoscenza e segnali di errore locale all'interno del framework EP.
• Convergenza Teorica: Lo studio fornisce una prova teorica (Teorema 3.1) che garantisce che la dinamica neuronale aumentata converga a stati stabili, preservando la plausibilità biologica della regola di aggiornamento EP.

Risultati
Il framework proposto è stato valutato sui dataset CIFAR-10 e CIFAR-100 utilizzando architetture VGG profonde (VGG-7, VGG-10/11, VGG-12/13).

• Prestazioni: Il framework EP aumentato ha raggiunto prestazioni all'avanguardia per le reti addestrate con EP su questi dataset. Per CIFAR-10, il modello VGG-7-KD ha raggiunto un'accuratezza di test del 89,67%, e il modello VGG-7-LE ha raggiunto l'88,99%, superando gli studi EP precedenti limitati a VGG-5. Su CIFAR-100, il modello VGG-12-KD ha raggiunto un'accuratezza di test del 64,75%.
• Comportamento di Convergenza: I segnali di Errore Locale (LE) hanno dimostrato una convergenza più rapida, raggiungendo oltre il 70% di accuratezza prima dell'epoca 15, mentre la Distillazione della Conoscenza (KD) ha richiesto più di 45 epoche per raggiungere livelli comparabili, probabilmente a causa della necessità di una fase di riscaldamento.
• Efficienza: Nonostante l'aggiunta di segnali intermedi, l'overhead computazionale e di memoria è rimasto marginale rispetto all'EP standard. Crucialmente, il consumo di memoria del framework EP aumentato è stato significativamente inferiore rispetto alla BPTT (ad esempio, la BPTT ha consumato circa 18,1 volte più memoria GPU rispetto all'EP aumentato con KD per VGG-13 su CIFAR-100).

Significato e Affermazioni
Il documento afferma che l'introduzione di segnali di apprendimento intermedi rappresenta un avanzamento significativo nella scalabilità della Propagazione all'Equilibrio. Abilitando l'addestramento di architetture significativamente più profonde senza sacrificare la natura locale e biologicamente plausibile della regola di apprendimento, il lavoro suggerisce che l'EP può essere esteso ad applicazioni pratiche e complesse. Gli autori sottolineano che questo approccio mantiene l'idoneità dell'EP per l'addestramento neuromorfico e on-chip, dove i vincoli hardware richiedono meccanismi di apprendimento locali ed efficienti. Il lavoro si posiziona come un avanzamento complementare ad altri sforzi recenti (come quelli che utilizzano connessioni residue) per risolvere il problema del gradiente che svanisce nell'EP, aprendo la strada a ricerche future sull'applicazione dell'EP a modelli di visione e linguaggio su larga scala.