Hebbian Learning with Global Direction

Probleemstelling

Hoewel het backpropagation-algoritme (BP) de succesrijke ontwikkeling van diepe neurale netwerken (DNN's) heeft gedreven, kent het fundamentele beperkingen:

1. Biologische onwaarschijnlijkheid: BP vereist een precieze, globale propagatie van foutsignalen en gewichts-transport, wat niet overeenkomt met de mechanismen van het menselijk brein.
2. Hoge rekenkosten: De berekening van gradiënten is computatie-intensief.
3. Beperkingen van bestaande Hebbiaanse methoden: Hebbiaans leren is biologisch plausibel (lokaal) maar levert in de praktijk vaak slechte prestaties op complexe taken. Bestaande alternatieven (zoals SoftHebb of FastHebb) zijn sterk afhankelijk van lokale informatie (twee-factor leren) en missen globale taakdoelen. Dit leidt tot schaalproblemen; ze presteren goed op eenvoudige datasets (MNIST, CIFAR) maar falen op complexe datasets (zoals ImageNet) of in zeer diepe netwerken. Bovendien zijn veel van deze methoden sterk afhankelijk van specifieke netwerkarctitecturen en activeringsfuncties, wat hun generalisatie beperkt.

Methodologie: Global-guided Hebbian Learning (GHL)

De auteurs introduceren een model-onafhankelijk framework genaamd Global-guided Hebbian Learning (GHL). Dit framework combineert lokale plasticiteit met globale doelstellingen, geïnspireerd door de biologische synergie tussen neuromodulatoren en lokale plasticiteit.

Het framework volgt een drie-factor leerregel:

1. Lokale Component (Twee-factor):

   • Gebruikt Oja's regel gecombineerd met competitief leren (Soft Winner-Take-All of SWTA).
   • De lokale update wordt bepaald door de activiteit van pre- en postsynaptische neuronen: $\Delta w_{ik} \propto u_k \cdot (x_i - y_k \cdot w_{ik})$.
   • Dit zorgt voor stabiele updates en zorgt ervoor dat neuronen zich specialiseren in specifieke inputpatronen (feature selectivity).

2. Globale Component (Derde factor):

   • In plaats van de volledige gradiënt (zoals bij BP) te gebruiken, fungeert een globaal signaal als modulator.
   • Dit signaal is afgeleid van het teken (sign) van de globale foutgradiënt ($\text{sign}(\frac{\partial L}{\partial w})$).
   • Het signaal bepaalt alleen de richting van de update (potentiatie of depressie), niet de grootte. Dit imiteert biologische neuromodulatoren (zoals dopamine) die de polariteit van synaptische plasticiteit kunnen omkeren.

3. Integratie:

   • De uiteindelijke gewichtsupdate is het product van de grootte van de lokale Hebbiaanse update en het teken van de globale gradiënt:
     $$\Delta w_{ik} = \eta \cdot \text{sign}(\frac{\partial L}{\partial w_{ik}}) \cdot |\Delta w_{ik}^{SWTA}|$$
   • Hierdoor behoudt het systeem de lokale, biologisch plausibele update-mechaniek, maar wordt deze gestuurd door het globale doel van de taak.

Belangrijkste Bijdragen

• Nieuw Framework: Introductie van GHL, een model-onafhankelijk framework dat lokale synaptische plasticiteit stuurt met het teken van de globale gradiënt.
• Schaalbaarheid: Het bewijst dat bio-geïnspireerd leren kan worden geschaald naar complexe, grote datasets (ImageNet) en zeer diepe netwerken (ResNet-1202), waar eerdere Hebbiaanse methoden faalden.
• Generalisatie: Het framework is minder afhankelijk van specifieke netwerkarctitecturen of activeringsfuncties dan eerdere methoden (zoals DeepSoftHebb), wat de praktische toepasbaarheid vergroot.
• Brug tussen Neurowetenschap en ML: Het biedt een implementatie van het concept van drie-factor leren in kunstmatige neurale netwerken, wat nieuwe inzichten biedt in biologische leerprocessen.

Resultaten

Uitgebreide experimenten tonen aan dat GHL superieur presteert aan bestaande Hebbiaanse methoden en dicht in de buurt komt van standaard backpropagation:

• CIFAR-10/100: GHL behaalt prestaties die vergelijkbaar zijn met end-to-end backpropagation (bijv. 86.41% vs 86.98% op CIFAR-10 met DeepHebb-architectuur) en overtreft alle andere Hebbiaanse concurrenten significant.
• ImageNet (ILSVRC 2012):
  • Op ResNet-50 bereikt GHL een Top-1 nauwkeurigheid van 73.14%, wat slechts 2.85% lager is dan standaard backpropagation (75.99%).
  • Dit is een enorme verbetering ten opzichte van eerdere methoden (bijv. SoftHebb haalde slechts 26.08%).
• Diepte-schaalbaarheid: GHL werkt effectief op extreem diepe netwerken, zoals ResNet-1202 op CIFAR-10, zonder significante degradatie in prestatie. Dit is een primeur voor bio-geïnspireerde leeralgoritmen.
• Ablatiestudies: Experimenten tonen aan dat zowel de lokale als de globale component essentieel zijn. Een methode die alleen het globale teken gebruikt (vergelijkbaar met SignSGD zonder momentum) presteert aanzienlijk slechter, wat aantoont dat de lokale Hebbiaanse dynamiek cruciaal is voor de update-grootte.

Betekenis

Dit werk doorbreekt de huidige grenzen van bio-geïnspireerd leren. Het lost het fundamentele probleem op van schaalbaarheid bij Hebbiaans leren door een elegante synthese te maken tussen lokale plasticiteit en globale sturing.

• Praktische Toepassing: Het maakt bio-geïnspireerd leren mogelijk op moderne, complexe computer-vision taken, wat een stap is richting energie-efficiëntere en biologisch plausibele AI-systemen.
• Neuromorfische Hardware: De methode is bij uitstek geschikt voor implementatie op neuromorfische hardware, omdat deze geen globale gewichts-transport of complexe gradiëntberekeningen vereist, maar wel effectief leert op complexe taken.
• Toekomstperspectief: Het opent de deur voor verdere onderzoek naar het integreren van andere lokale en globale leermechanismen in moderne architecturen zoals Transformers.