Hebbian Learning with Global Direction

1. Problématique et Contexte

Bien que l'algorithme de rétropropagation du gradient (Backpropagation - BP) soit le moteur du succès des réseaux de neurones profonds (DNN), il présente des limites majeures :

• Manque de plausibilité biologique : Il nécessite un transport précis des poids et une propagation globale des erreurs, ce qui ne correspond pas aux mécanismes de calcul neuronal du cerveau.
• Coût computationnel : Il est coûteux en ressources.

L'apprentissage Hebbien est une alternative bio-inspirée attrayante car elle repose sur des règles de plasticité locales ("les neurones qui s'activent ensemble se connectent ensemble"). Cependant, les méthodes Hebbiennes existantes souffrent d'un goulot d'étranglement de scalabilité :

• Elles dépendent exclusivement d'informations locales (règles à deux facteurs), ignorant les objectifs globaux de la tâche.
• Elles fonctionnent bien sur des tâches simples (MNIST, CIFAR) mais échouent sur des datasets complexes (ImageNet) ou des architectures profondes.
• Elles sont souvent très sensibles à l'architecture du réseau (ex: DeepSoftHebb nécessite des canaux spécifiques et des fonctions d'activation personnalisées), limitant leur généralisation.

Le défi consiste à intégrer des signaux d'orientation globaux (comme les neuromodulateurs dans le cerveau) dans un cadre d'apprentissage Hebbien local sans perdre la plausibilité biologique ni la stabilité.

2. Méthodologie : Global-guided Hebbian Learning (GHL)

Les auteurs proposent un cadre agnostique au modèle appelé GHL, qui fusionne la plasticité locale Hebbienne avec un signal de direction global. Ce modèle s'inspire de la règle d'apprentissage à trois facteurs observée en neurobiologie.

A. Le Principe Fondamental

La mise à jour des poids synaptiques $\Delta w_{ik}$ est gouvernée par :

1. Un terme Hebbien local ($H$) basé sur l'activité des neurones pré- et post-synaptiques.
2. Un signal modulateur global ($G$) qui détermine la direction (potentialisation ou dépression) de la mise à jour.

La formule proposée est :
$$\Delta w_{ik} = \eta \cdot \text{sign}(m) \cdot |H(\text{pre}_i, \text{post}_k)|$$
Où $\text{sign}(m)$ est le signe du gradient global de la perte, agissant comme un neuromodulateur (ex: dopamine) qui peut "inverser" la polarité de la plasticité locale.

B. Composantes Clés

1. Composante Locale (Mise à jour Stable) :

   • Utilisation de la règle d'Oja pour stabiliser l'apprentissage et éviter l'explosion des poids.
   • Intégration d'un mécanisme d'apprentissage compétitif (Soft Winner-Take-All - SWTA) via une fonction Softmax. Cela permet aux neurones de se spécialiser sur des motifs d'entrée distincts (inhibition latérale).
   • La mise à jour locale est donc : $\Delta w_{SWTA} = \eta \cdot u_k \cdot (x_i - y_k \cdot w_{ik})$, où $u_k$ est la sortie compétitive.

2. Composante Globale (Signal de Direction) :

   • Au lieu d'utiliser la magnitude précise du gradient (comme en BP), le GHL n'utilise que le signe du gradient global ($\text{sign}(\frac{\partial L}{\partial w})$).
   • Ce signe indique si la synapse doit être renforcée (+1) ou affaiblie (-1) pour réduire l'erreur globale.
   • Cela évite le transport de poids précis et réduit la complexité, tout en guidant l'apprentissage vers l'objectif de la tâche.

3. Algorithme d'Entraînement :

   • Le réseau effectue une passe avant pour calculer les activations.
   • Une mise à jour Hebbienne locale est calculée.
   • Une passe arrière (ou un calcul de gradient) est effectuée uniquement pour obtenir le signe du gradient global.
   • La mise à jour finale combine la magnitude locale Hebbienne avec la direction globale.

3. Contributions Principales

• Cadre GHL Novel : Proposition d'une méthode agnostique qui intègre naturellement les objectifs d'optimisation globaux (via le signe du gradient) aux règles de mise à jour locales Hebbiennes.
• Scalabilité et Performance : Démonstration que cette méthode surpasse les approches Hebbiennes existantes (SoftHebb, FastHebb, HWTA-BCM) et atteint des performances comparables à la rétropropagation standard (BP) sur des tâches complexes.
• Généralisation Architecturale : Contrairement aux méthodes précédentes qui nécessitent des architectures sur mesure, GHL fonctionne efficacement sur des architectures standards (VGG, ResNet) sans modifications majeures.
• Première application à des réseaux très profonds : Succès de l'entraînement d'un ResNet-1202 avec un algorithme bio-inspiré, une première dans ce domaine.

4. Résultats Expérimentaux

Les expériences ont été menées sur CIFAR-10/100 et ImageNet (ILSVRC 2012).

• Sur CIFAR-10/100 :

  • Avec l'architecture DeepHebb, GHL atteint 86,41 % (CIFAR-10) et 62,40 % (CIFAR-100), se rapprochant très près de la BP standard (86,98 % / 63,58 %) et surpassant nettement SoftHebb.
  • Sur ResNet-20, GHL atteint 86,72 %, dépassant les meilleures méthodes Hebbiennes rapportées.

• Sur ImageNet (Échelle et Complexité) :

  • GHL a considérablement réduit l'écart avec la BP sur ImageNet.
  • Sur ResNet-50, GHL obtient 73,14 % de précision Top-1, contre 75,99 % pour la BP (écart de seulement ~2,85 %).
  • Les méthodes Hebbiennes précédentes (SoftHebb, FastHebb) s'effondrent sur ImageNet (ex: SoftHebb à 26 %), tandis que GHL maintient des performances robustes.

• Scalabilité en Profondeur :

  • Sur des réseaux ResNet allant de 20 à 1202 couches, GHL maintient une performance stable (autour de 87 % sur CIFAR-10), prouvant qu'il ne souffre pas de la dégradation de performance liée à la profondeur, contrairement aux méthodes purement locales.

• Ablation :

  • Une étude montre que l'utilisation exclusive du signal global (type SignSGD) donne de moins bons résultats que GHL, confirmant que la combinaison de la magnitude locale (Hebbienne) et de la direction globale est cruciale.

5. Signification et Impact

Ce travail est une avancée majeure pour l'apprentissage bio-inspiré :

1. Résolution du problème de scalabilité : Il prouve que l'apprentissage Hebbien peut être compétitif sur des tâches de vision par ordinateur de niveau industriel (ImageNet) et sur des réseaux très profonds, comblant le fossé historique avec la rétropropagation.
2. Pont entre Neurosciences et IA : Le modèle GHL offre une implémentation pratique de la théorie des "règles à trois facteurs" (neuromodulateurs), rendant les algorithmes d'IA plus plausibles biologiquement.
3. Hardware Neuromorphique : En évitant le transport de poids précis et en utilisant des signaux binaires (signes) pour la direction globale, cette méthode ouvre la voie à des implémentations plus efficaces sur du matériel neuromorphique futur.
4. Flexibilité : Le caractère "agnostique au modèle" permet d'appliquer cette méthode à diverses architectures modernes (y compris potentiellement des Transformers, selon les perspectives des auteurs), sans nécessiter de réingénierie complexe des réseaux.

En résumé, GHL démontre que l'intégration intelligente d'une guidance globale minimale (le signe) dans un cadre d'apprentissage local robuste permet de surmonter les limitations de l'apprentissage Hebbien traditionnel, offrant une alternative viable et biologiquement plausible à la rétropropagation.