Closed-form predictive coding via hierarchical Gaussian filters

Sintesi Tecnica: Codifica Predittiva in Forma Chiusa tramite Filtri Gaussiani Gerarchici

Enunciato del Problema

La codifica predittiva (PC) offre un'alternativa biologicamente fondata alla retropropagazione (BP) per l'addestramento delle reti neurali artificiali, caratterizzata da calcolo locale, aggiornamenti di tipo Hebbiano e assenza di un segnale di errore globale. Tuttavia, il ridimensionamento della PC verso architetture profonde moderne è stato ostacolato da due limitazioni critiche:

1. Inefficienza Computazionale: Le attuali reti PC si basano su discesa del gradiente iterativa per rilassare le attivazioni verso l'equilibrio (tipicamente richiedendo $T \approx 32\text{--}128$ passi per campione), rendendole significativamente più lente della BP sull'hardware sequenziale.
2. Degradazione delle Prestazioni: All'aumentare della profondità della rete, le prestazioni peggiorano drasticamente.

Gli autori riconducono entrambi i problemi a una specifica semplificazione nelle implementazioni esistenti di PC profonda: la fissazione della matrice di precisione all'identità. Questa semplificazione scarta gli errori di previsione ponderati per la precisione richiesti dalla derivazione variazionale della PC. Di conseguenza, queste reti perdono la proprietà che rende la PC distinta nel caso lineare—l'equivalenza formale alla discesa del gradiente naturale—e non riescono a scalare adattivamente i segnali di errore o a gestire l'incertezza attraverso i livelli.

Metodologia

Il documento propone di riformulare le reti di codifica predittiva come Filtri Gaussiani Gerarchici Generalizzati (gHGF). Questo approccio sostituisce l'inferenza dello stato iterativa con aggiornamenti variazionali in forma chiusa, in un singolo passaggio.

Spostamenti Architetturali Chiave:

• Da Precisione Fissa a Dinamica: A differenza delle reti PC standard che trattano la precisione come un iperparametro fisso (matrice identità), il gHGF tratta la precisione ($\pi$) come uno stato di credenza di primo livello. Il modello inferisce sia la media a posteriori ($\mu$) sia la precisione ($\pi$) per ogni nodo a ogni passo.
• Accoppiamento della Volatilità: Il framework introduce un "accoppiamento della volatilità", in cui un nodo genitore modula il tasso di cambiamento (log-varianza) del proprio figlio. Ciò consente agli errori di previsione di modulare esplicitamente gli aggiornamenti della precisione tramite Errori di Previsione della Volatilità (VOPE), un meccanismo assente nella PC standard accoppiata ai valori.
• Modello Generativo: La rete è modellata come una gerarchia di nodi di credenza. I nodi di stato continui sono generati come Gaussiane con medie determinate da accoppiamenti di valore non lineari (ad es. ReLU) e varianze determinate da genitori di volatilità. I nodi di output binari generano previsioni tramite una sigmoide logistica, con la sorpresa misurata come entropia incrociata binaria.
• Inferenza e Apprendimento:
  • Inferenza: Invece del rilassamento iterativo, l'espansione quadratica dell'energia variazionale consente un punto stazionario analitico, riducendo l'inferenza a un singolo passaggio di aggiornamento.
  • Aggiornamenti dei Pesi: I pesi sinaptici (forze di accoppiamento dei valori) sono aggiornati tramite regole Hebbiane locali. Gli autori propongono tre varianti, con il benchmark principale che utilizza una regola ponderata per la precisione: $\alpha^* = \alpha + \eta \delta_\ell g(\mu_{\ell+1}) \cdot \pi_\ell$. Ciò incorpora la precisione inferita come peso del gradiente naturale.

Contributi Chiave

1. Riformulazione della PC: Gli autori forniscono una riformulazione delle reti PC profonde come filtri gaussiani gerarchici, sostituendo l'inferenza iterativa con aggiornamenti variazionali in forma chiusa.
2. Apprendimento della Precisione: Dimostrano che la precisione può essere inferita endogenamente online come credenze a posteriori accoppiate alla gerarchia, piuttosto che trattata come iperparametri fissi.
3. Aggiornamenti Compatibili con Hebb: Il metodo produce regole di aggiornamento dei pesi che incorporano la precisione come peso del gradiente naturale, mantenendo la plausibilità biologica.
4. Benchmark delle Prestazioni: L'approccio raggiunge una convergenza all'avanguardia su FashionMNIST, avvicinandosi ai costi in tempo reale della retropropagazione pur convergendo in meno epoche.

Risultati Sperimentali

Gli autori hanno valutato il loro metodo (HGF) rispetto ai Perceptron Multistrato (MLP) addestrati con retropropagazione e alle Reti di Codifica Predittiva (PCN) vanilla sul dataset FashionMNIST.

• Confronto Diretto (FashionMNIST): Attraverso varie configurazioni di profondità ($d \in \{2, 8\}$) e larghezza, l'HGF ha convergito più velocemente e raggiunto una maggiore accuratezza di test rispetto alla PCN vanilla. Sebbene la BP rimanesse competitiva, l'HGF si è avvicinata alle prestazioni della BP con epoche significativamente inferiori.
• Apprendimento Online: In un regime strettamente online (dimensione del batch 1), l'HGF ha convergito a un errore di stato stazionario inferiore rispetto sia alla BP sia alle linee di base PCN.
• Efficienza dei Dati: Su sottoinsiemi di dataset piccoli ($n \in \{60, 3000\}$), l'HGF ha superato entrambe le linee di base, dimostrando una superiore efficienza dei dati.
• Deriva Concettuale: In un ambiente non stazionario in cui le etichette di classe venivano permutate periodicamente, l'HGF ha mantenuto un errore di stato stazionario inferiore e si è ripresa più rapidamente dagli eventi di deriva rispetto alle linee di base, sfruttando i suoi stati di credenza accumulati senza resettare la precisione.
• Dinamiche di Apprendimento della Precisione: Su un compito di classificazione a spirale sintetico, le reti con accoppiamento della volatilità (apprendimento della precisione) hanno mostrato un aumento gerarchico della precisione attesa, filtrando efficacemente l'apprendimento e l'inferenza. Tuttavia, gli autori notano che a profondità estreme (profondità 16), la linea di base a precisione fissa ha ancora superato la variante accoppiata alla volatilità, suggerendo che, sebbene l'apprendimento della precisione stabilizzi i segnali di errore, gli squilibri risultanti nella precisione tra i livelli richiedono ulteriori indagini.

Significato e Affermazioni

Il documento stabilisce che l'inferenza variazionale in forma chiusa con apprendimento online della precisione fornisce una base trattabile per le reti di codifica predittiva profonde. Risolvendo la necessità di rilassamento iterativo e segnali di errore globali, il metodo mantiene i vantaggi biologici e interpretativi della PC affrontando al contempo i principali colli di bottiglia della scalabilità.

Gli autori inquadrano modestamente il loro contributo come un passo verso il colmare il divario tra la PC teorica e l'apprendimento profondo pratico. Riconoscono che:

• L'implementazione corrente elabora i campioni in modo sequenziale piuttosto che in batch, il che spiega la maggior parte del divario rimanente nei tempi reali rispetto alla BP.
• Il framework non è stato ancora esteso ad architetture convoluzionali o a dataset di immagini naturali su larga scala (ad es. CIFAR, ImageNet).
• Il compromesso tra la fedeltà della derivazione variazionale (precisione dinamica) e le scelte ingegneristiche per la scalabilità (ad es. ePC, $\mu$PC) richiede un confronto controllato ulteriore.

In definitiva, il lavoro sostiene che l'apprendimento dinamico della precisione è essenziale per la PC profonda, offrendo una leva principiale sull'incertezza e consentendo plasticità compatibile con Hebb senza il sovraccarico computazionale dell'inferenza iterativa.