Hebbian Learning with Global Direction

Titel: Hebbian Learning with Global Direction (GHL)

Autoren: Wenjia Hua, Kejie Zhao, Luziwei Leng, Ran Cheng, Yuxin Ma, Qinghai Guo.

1. Problemstellung

Trotz des enormen Erfolgs von Deep Neural Networks (DNNs) durch den Backpropagation-Algorithmus (BP) bestehen erhebliche Einschränkungen:

• Biologische Plausibilität: BP erfordert eine präzise globale Rückleitung von Fehlersignalen (Weight Transport Problem), was im biologischen Gehirn nicht beobachtet wird.
• Rechenaufwand: BP ist rechenintensiv und für neuromorphe Hardware oft schwer umsetzbar.
• Limitationen existierender Hebbian-Lösungen: Hebbian Learning (HL) ist biologisch plausibel und nutzt nur lokale Informationen (Prä- und Postsynaptische Aktivität). Allerdings führt die reine Abhängigkeit von lokalen Informationen zu einer mangelnden Skalierbarkeit. Herkömmliche HL-Methoden (z. B. SoftHebb, FastHebb) scheitern bei komplexen Datensätzen (wie ImageNet) und tiefen Netzwerken, da ihnen die globale Aufgabenorientierung fehlt. Zudem sind viele dieser Methoden stark von spezifischen Netzwerkarchitekturen abhängig.

2. Methodik: Global-guided Hebbian Learning (GHL)

Die Autoren schlagen einen neuen, modellagnostischen Rahmen vor, der lokale Plastizität mit globalen Zielen verbindet. Das Konzept basiert auf der biologischen Idee der Drei-Faktor-Lernregel, bei der synaptische Änderungen nicht nur von der lokalen Aktivität, sondern auch von einem globalen modulierenden Signal abhängen.

Kernkomponenten des GHL-Frameworks:

1. Lokaler Update-Mechanismus (Zwei-Faktor-Teil):

   • Es wird eine kompetitive Hebbian-Lernregel verwendet, die auf Ojas Regel und Soft Winner-Take-All (SWTA) basiert.
   • Die Formel lautet: $\Delta w_{ik}^{SWTA} = \eta \cdot u_k \cdot (x_i - y_k \cdot w_{ik})$.
   • Hier sorgt $u_k$ (durch Softmax normalisiert) für Konkurrenz zwischen Neuronen derselben Schicht, während der zweite Term eine Normalisierung („Vergessen") sicherstellt, um instabiles Wachstum der Gewichte zu verhindern. Dies gewährleistet stabile lokale Updates und Merkmalsselektivität.

2. Globaler Richtungs-Modulator (Dritter Faktor):

   • Inspiriert von Neuromodulatoren im Gehirn (wie Dopamin), die die Polarität der Plastizität umkehren können, wird ein globales Signal eingeführt.
   • Anstatt den vollen Gradienten (wie bei BP) zu nutzen, wird nur das Vorzeichen (Sign) des globalen Gradienten ($\text{sign}(\frac{\partial L}{\partial w})$) verwendet.
   • Dieses Signal gibt lediglich an, ob eine synaptische Verstärkung (Potenzierung) oder Abschwächung (Depression) erfolgen soll.

3. Gesamte Update-Regel:
   Die Gewichtsänderung $\Delta w_{ik}$ wird wie folgt berechnet:
   $$\Delta w_{ik} = \eta \cdot \text{sign}(m) \cdot |\Delta w_{ik}^{SWTA}|$$
   Dabei liefert der lokale Hebbian-Teil die Größe des Updates, während das globale Vorzeichen die Richtung bestimmt.

Vorteile gegenüber ähnlichen Ansätzen (z. B. SignSGD):
Im Gegensatz zu SignSGD, das oft auf hohe interne Genauigkeit und Fehlerkompensation angewiesen ist, nutzt GHL die lokale Hebbian-Regel, um die Update-Magnitude dynamisch anzupassen. Es benötigt keine präzise Gradienten-Magnitude, sondern nur die Richtungsinformation.

3. Hauptbeiträge

• Neues Framework: Entwicklung von GHL, das globale Gradienten-Vorzeichen nutzt, um lokale synaptische Plastizität zu steuern.
• Skalierbarkeit: Demonstration, dass bio-inspiriertes Lernen auf große, komplexe Datensätze (ImageNet) und extrem tiefe Architekturen (ResNet-1202) skaliert werden kann.
• Modellagnostisch: Das Framework funktioniert unabhängig von spezifischen Netzwerkarchitekturen und ist weniger empfindlich gegenüber strukturellen Änderungen als vorherige Hebbian-Methoden.
• Brückenschlag: Verbindung von neurowissenschaftlichen Erkenntnissen (Drei-Faktor-Regel) mit praktischem maschinellem Lernen.

4. Ergebnisse

Die Methode wurde umfassend auf verschiedenen Datensätzen und Architekturen getestet:

• CIFAR-10/100: GHL übertrifft alle bestehenden Hebbian-Methoden (SoftHebb, FastHebb, HWTA-BCM) deutlich und erreicht eine Genauigkeit, die der Standard-Backpropagation (BP) sehr nahe kommt (z. B. 86,41 % vs. 86,98 % bei BP auf CIFAR-10 mit DeepHebb-Architektur).
• ImageNet (ILSVRC 2012): Dies ist ein Meilenstein, da Hebbian-Methoden hier bisher versagten.
  • Auf ResNet-50 erreicht GHL eine Top-1-Genauigkeit von 73,14 % (im Vergleich zu 75,99 % bei BP). Die Lücke zu BP wurde auf weniger als 3 % reduziert.
  • Auch auf VGG-16 und ResNet-18 wurden starke Ergebnisse erzielt.
• Tiefen-Skalierbarkeit: Auf CIFAR-10 wurde GHL auf ResNet-Architekturen mit bis zu 1202 Schichten getestet. Die Leistung blieb robust und degradierte nicht signifikant mit zunehmender Tiefe, was ein kritisches Problem früherer bio-inspirierter Ansätze löst.
• Ablationsstudien:
  • Die Kombination aus lokalem Signal und globalem Vorzeichen ist entscheidend. Ein reines „Sign-only"-Update (ähnlich SignSGD ohne Momentum/Normen) führt zu deutlich schlechteren Ergebnissen, insbesondere bei größeren Netzwerken.
  • GHL ist weniger abhängig von speziellen Aktivierungsfunktionen oder Kanal-Konfigurationen als DeepHebb/SoftHebb.

5. Bedeutung und Ausblick

Dieses Paper stellt einen Durchbruch für bio-inspiriertes Lernen dar. Es beweist, dass Hebbian Learning nicht auf einfache Aufgaben oder flache Netzwerke beschränkt ist, sondern durch die Integration eines globalen Richtungs-Signals (Sign-Modulation) wettbewerbsfähig mit Backpropagation werden kann.

• Praktische Relevanz: Die Methode eignet sich hervorragend für neuromorphe Hardware, da sie keine globale Rückleitung von präzisen Gradienten erfordert, sondern nur lokale Berechnungen mit einem einfachen globalen Signal.
• Zukunft: Die Autoren sehen Potenzial in der Erweiterung auf moderne Architekturen wie Transformer und der Erforschung weiterer lokaler und globaler Lernmechanismen.

Zusammenfassend schließt GHL die Lücke zwischen biologischer Plausibilität und der Leistungsfähigkeit moderner Deep-Learning-Systeme.