Closed-form predictive coding via hierarchical Gaussian filters

Technische Samenvatting: Gesloten-vorm Predictive Coding via Hiërarchische Gaussische Filters

Probleemstelling

Predictive coding (PC) biedt een biologisch onderbouwde alternatief voor backpropagation (BP) voor het trainen van kunstmatige neurale netwerken, gekenmerkt door lokale berekening, Hebbiaanse updates en de afwezigheid van een globaal errorsignaal. Het schalen van PC naar moderne diepe architecturen is echter gehinderd door twee kritieke beperkingingen:

1. Rekenkundige inefficiëntie: Huidige PC-netwerken vertrouwen op iteratieve gradiëntafname om activaties naar evenwicht te laten relaxeren (typisch vereist $T \approx 32\text{--}128$ stappen per steekproef), waardoor ze aanzienlijk trager zijn dan BP op sequentiële hardware.
2. Prestatievermindering: Naarmate de netwerkdiepte toeneemt, verslechtert de prestatie scherp.

De auteurs leiden beide problemen af naar een specifieke vereenvoudiging in bestaande diepe PC-implementaties: de fixatie van de precisiematrix op de eenheidsmatrix. Deze vereenvoudiging gooit de precisie-gewogen voorspellingsfouten weg die vereist zijn door de variationale afleiding van PC. Bijgevolg verliezen deze netwerken de eigenschap die PC onderscheidt in het lineaire geval—formele equivalentie met natuurlijke-gradiëntafname—en falen ze om errorsignalen adaptief te schalen of onzekerheid over lagen te beheren.

Methodologie

Het artikel stelt voor om predictive coding-netwerken te herformuleren als gegeneraliseerde Hiërarchische Gaussische Filters (gHGF). Deze aanpak vervangt iteratieve toestandsinferentie door gesloten-vorm, één-slag variationale updates.

Kernarchitecturale verschuivingen:

• Van vaste naar dynamische precisie: In tegenstelling tot standaard PC-netwerken die precisie behandelen als een vaste hyperparameter (eenheidsmatrix), behandelt de gHGF precisie ($\pi$) als een belief-state van de eerste orde. Het model leidt zowel de posterior-middellijn ($\mu$) als de precisie ($\pi$) af voor elke knoop bij elke stap.
• Vluchtigheidskoppeling: Het kader introduceert "vluchtigheidskoppeling", waarbij een ouderknoop de veranderingssnelheid (log-variatie) van zijn kind moduleert. Dit maakt het mogelijk dat voorspellingsfouten precisie-updates expliciet moduleren via Vluchtigheidsvoorspellingsfouten (VOPE), een mechanisme dat afwezig is in standaard waarde-gekoppelde PC.
• Generatief model: Het netwerk wordt gemodelleerd als een hiërarchie van belief-knooppunten. Continue toestandsknooppunten worden gegenereerd als Gaussians met middellijnen bepaald door niet-lineaire waarde-koppelingen (bijv. ReLU) en varianties bepaald door vluchtigheidsouders. Binaire uitgangsknooppunten genereren voorspellingen via een logistische sigmoid, waarbij verrassing wordt gemeten als binaire cross-entropy.
• Inferentie en leren:
  • Inferentie: In plaats van iteratieve relaxatie maakt de kwadratische expansie van de variationale energie een analytisch stationair punt mogelijk, waardoor inferentie wordt gereduceerd tot een enkele update-sweep.
  • Gewichtsupdates: Synaptische gewichten (waarde-koppelingssterktes) worden bijgewerkt via lokale Hebbiaanse regels. De auteurs stellen drie varianten voor, waarbij de primaire benchmark een precisie-gewogen regel gebruikt: $\alpha^* = \alpha + \eta \delta_\ell g(\mu_{\ell+1}) \cdot \pi_\ell$. Dit integreert afgeleide precisie als een natuurlijke gradiëntgewicht.

Belangrijkste bijdragen

1. Herformulering van PC: De auteurs bieden een herformulering van diepe PC-netwerken als hiërarchische Gaussische filters, waarbij iteratieve inferentie wordt vervangen door gesloten-vorm variationale updates.
2. Precisieleer: Zij tonen aan dat precisie endogeen online kan worden afgeleid als posterior-beliefs die gekoppeld zijn aan de hiërarchie, in plaats van behandeld als vaste hyperparameters.
3. Hebbiaans-Compatibele Updates: De methode levert gewichtsupdate-regels op die precisie integreren als een natuurlijke gradiëntgewicht, waarbij biologische plausibiliteit behouden blijft.
4. Prestatiebenchmarks: De aanpak bereikt state-of-the-art convergentie op FashionMNIST, benadert backpropagation in wandklokkosten terwijl het convergeert in minder epochs.

Experimentele resultaten

De auteurs evalueerden hun methode (HGF) tegen Multilayer Perceptrons (MLP) getraind met backpropagation en standaard Predictive Coding Networks (PCN) op het FashionMNIST-dataset.

• Directe vergelijking (FashionMNIST): Over verschillende diepten ($d \in \{2, 8\}$) en breedte-configuraties convergeerde de HGF sneller en behaalde een hogere testnauwkeurigheid dan standaard PCN. Hoewel BP concurrerend bleef, benaderde HGF de prestaties van BP met aanzienlijk minder epochs.
• Online leren: In een strikt online regime (batchgrootte 1) convergeerde HGF naar een lagere steady-state fout dan zowel BP- als PCN-baselines.
• Data-efficiëntie: Op kleine dataset-subsets ($n \in \{60, 3000\}$) presteerde HGF beter dan beide baselines, wat superieure data-efficiëntie aantoont.
• Conceptdrift: In een niet-stationaire omgeving waar klasselabels periodiek werden gepermuteerd, behield HGF een lagere steady-state fout en herstelde sneller van drift-gebeurtenissen in vergelijking met baselines, door gebruik te maken van zijn opgebouwde belief-staten zonder precisie te resetten.
• Dynamiek van precisieleer: Op een synthetische spiraal-classificatietaken toonden netwerken met vluchtigheidskoppeling (precisieleer) een hiërarchische toename in verwachte precisie, wat effectief leren en inferentie afschermde. De auteurs merken echter op dat bij extreme diepten (diepte 16) de vaste-precisie-baseline nog steeds beter presteerde dan de vluchtigheids-gekoppelde variant, wat suggereert dat hoewel precisieleer errorsignalen stabiliseert, de resulterende inter-lagen precisie-ongelijkheden verder onderzoek vereisen.

Betekenis en claims

Het artikel stelt vast dat gesloten-vorm variationale inferentie met online precisieleer een hanteerbare basis biedt voor diepe predictive coding-netwerken. Door de noodzaak van iteratieve relaxatie en globale errorsignalen op te lossen, behoudt de methode de biologische en interpretatieve voordelen van PC terwijl het de belangrijkste schaalbaarheidsknelpunten aanpakt.

De auteurs positioneren hun bijdrage bescheiden als een stap richting het overbruggen van de kloof tussen theoretische PC en praktisch diep leren. Zij erkennen dat:

• De huidige implementatie steekproeven sequentieel verwerkt in plaats van in batches, wat verantwoordelijk is voor het grootste deel van de resterende wandklok-kloof met BP.
• Het kader nog niet is uitgebreid tot convolutie-architecturen of datasets met natuurlijke afbeeldingen op grote schaal (bijv. CIFAR, ImageNet).
• De afweging tussen de fideliteit van de variationale afleiding (dynamische precisie) en technische keuzes voor schaling (bijv. ePC, $\mu$PC) verdere gecontroleerde vergelijking vereist.

Uiteindelijk betoogt het werk dat dynamische precisieleer essentieel is voor diepe PC, en biedt een principieel handvat voor onzekerheid en mogelijk maakt Hebbiaans-Compatibele plasticiteit zonder de rekenkundige overhead van iteratieve inferentie.