⚡ electrical engineering

Ubiquity of Emergent Hebbian Dynamics in Regularized Learning

Cet article démontre que la décroissance de poids L2 dans l'apprentissage régularisé peut génériquement induire un alignement Hebbien ou anti-Hebbien émergent dans les mises à jour synaptiques au voisinage de la stationnarité, créant une signature qui imite la plasticité Hebbienne authentique et complique l'interprétation des mécanismes d'apprentissage neuronal.

Auteurs originaux : David Koplow, Tomaso Poggio, Liu Ziyin

Publié 2026-06-01

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : David Koplow, Tomaso Poggio, Liu Ziyin

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

La grande question : Le cerveau « réfléchit-il » comme un ordinateur ?

Pendant des décennies, les scientifiques ont débattu de la manière dont le cerveau apprend.

La vieille vision : Le cerveau apprend grâce à une règle simple et locale appelée apprentissage hebbien. Le dicton célèbre est : « Les neurones qui s'activent ensemble, se connectent ensemble. » Si deux cellules cérébrales s'activent en même temps, la connexion entre elles se renforce. C'est perçu comme un processus purement biologique et local.
La vision informatique : L'Intelligence Artificielle (IA) apprend grâce à la Descente de Gradient (une méthode mathématique complexe qui calcule les erreurs de l'ensemble du système pour corriger les fautes). Cela nécessite une vue « globale » du problème, ce que beaucoup de scientifiques pensaient impossible pour le cerveau, car celui-ci ne possède pas de « signal d'erreur » central.

Parce que nous observons des motifs « hebbiens » dans le cerveau, beaucoup ont supposé que le cerveau utilisait nécessairement des règles locales simples et non une optimisation globale complexe comme l'IA.

Cet article pose une question délicate : Si nous observons un motif hebbien (le renforcement des connexions quand les choses s'activent ensemble), cela prouve-t-il que le cerveau utilise une règle hebbienne simple ? Ou bien un système d'apprentissage global et complexe (comme une IA) pourrait-il accidentellement ressembler à des règles hebbiennes ?

La réponse : Cela pourrait être un accident. L'article montre que les systèmes d'apprentissage complexes imitent souvent le comportement hebbien sans pour autant utiliser de règles hebbiennes.

La découverte principale : L'analogie du « Tir à la corde »

Les auteurs proposent que ce qui ressemble à une règle biologique est en réalité le résultat de l'équilibre entre deux forces opposées. Imaginez un tir à la corde sur une pente glissante.

1. La force expansive (Le signal d'apprentissage)

Dans les cerveaux comme dans l'IA, il existe une force qui tente de renforcer les connexions ou de les modifier en fonction des nouvelles informations.

Dans l'IA, il s'agit du Gradient (la direction pour réduire l'erreur).
Dans le cerveau, il s'agit du Signal d'apprentissage (l'activation des neurones).
Analogie : Imaginez un randonneur essayant de monter une colline. Il pousse vers l'avant, tentant d'élargir son chemin.

2. La force contractive (La décroissance du poids)

Dans l'IA, nous utilisons une technique appelée Décroissance de poids L2 (L2 Weight Decay). C'est une pénalité qui tente constamment de réduire les nombres (les poids) dans le modèle pour les garder petits et éviter qu'ils ne deviennent incontrôlables.

Analogie : Imaginez que le randonneur est aussi attaché à une ancre lourde qui tire constamment vers l'arrière, tentant de rétrécir son chemin.

Le résultat : Le motif Hebbien « émergent »

L'article prouve mathématiquement que lorsque ces deux forces s'équilibrent (quand le randonneur arrête de monter ou de descendre la colline et reste sur place), la poussée vers l'avant (l'apprentissage) doit s'aligner avec la direction de la connexion elle-même.

La métaphore : Imaginez que vous poussez une boîte lourde (la connexion) sur un sol. Vous êtes aussi tiré vers l'arrière par une corde (la décroissance du poids). Pour rester sur place, votre poussée doit être parfaitement alignée avec la direction dans laquelle la boîte est déjà orientée.
La surprise : Cet alignement ressemble exactement à la règle « hebbienne » (renforcer la connexion). Mais ce n'est pas parce que le cerveau a décidé d'utiliser une règle hebbienne ; c'est parce que la mathématique de l'équilibre des forces force le système à agir ainsi.

Point clé à retenir : On peut observer des motifs « hebbiens » dans un système qui effectue en réalité une correction d'erreur globale et complexe. Le motif est une signature émergente, et non nécessairement le mécanisme sous-jacent.

Le rebondissement : Le bruit crée l'opposé (Anti-Hebbien)

L'article examine également le Bruit (le caractère aléatoire).

Dans le cerveau, il y a toujours du bruit électrique. Dans l'IA, il y a du caractère aléatoire dans le traitement des données (comme dans la descente de gradient stochastique).
L'analogie : Imaginez que le randonneur est maintenant sur une journée très venteuse et tempétueuse. Le vent (le bruit) le bouscule de manière aléatoire.
Le résultat : Si le vent est assez fort, il pousse le randonneur dans la direction opposée de la connexion. Cela crée un motif Anti-Hebbien (affaiblissement des connexions quand elles s'activent ensemble).

Le compromis :
L'article trouve un simple « point de bascule » :

Forte décroissance du poids + Faible bruit = Ressemble à du Hebbien (Renforcement).
Faible décroance du poids + Fort bruit = Ressemble à de l'Anti-Hebbien (Affaiblissement).

Cela explique pourquoi nous voyons les deux types de plasticité dans le cerveau. Il ne s'agit peut-être pas de deux règles biologiques différentes, mais simplement du même système d'apprentissage réagissant à différents niveaux de bruit et de stabilité.

Pourquoi cela importe (selon l'article)

Ne tirez pas de conclusions hâtives : Ce n'est pas parce que des scientifiques mesurent un motif « hebbien » dans une expérience cérébrale que cela prouve que le cerveau utilise une règle locale simple. Il pourrait s'agir d'un système d'apprentissage global complexe (comme la rétropropagation) qui cherche simplement à équilibrer ses forces.
Coexistence : Le cerveau pourrait utiliser à la fois des apprentissages globaux complexes et des règles locales simples. La signature hebbienne « émergente » rend simplement la distinction entre les deux plus difficile.
Nouveaux besoins expérimentaux : Nous devons concevoir des expériences capables de distinguer une « vraie » règle hebbienne d'une règle « fausse » (émergente) causée par l'équilibre des forces.

Résumé en une phrase

L'article soutient que le motif « les neurones qui s'activent ensemble, se connectent ensemble » n'est peut-être pas une loi biologique fondamentale, mais plutôt un effet secondaire mathématique qui se produit chaque fois qu'un système d'apprentissage (biologique ou artificiel) tente de balancer sa pulsion d'apprentissage contre la nécessité de rester stable et de ne pas croître de manière démesurée.

Résumé technique : Ubiquité des dynamiques hebbiennes émergentes dans l'apprentissage régularisé

Énoncé du problème

Une question centrale en neurosciences computationnelles est de savoir si l'observation d'une plasticité de type hebbien ou anti-hebbien dans les mises à jour synaptiques implique nécessairement un calcul hebbien sous-jacent. Traditionnellement, l'apprentissage biologique est perçu comme étant piloté par des règles locales basées sur la corrélation (par exemple, la plasticité dépendant du temps d'occurrence des pics ou STDP), tandis que l'intelligence artificielle repose sur l'optimisation globale basée sur le gradient (par exemple, la descente de gradient stochastique ou SGD). Il est souvent supposé que la présence de signatures hebbiennes dans le cerveau constitue un argument contre l'optimisation globale pilotée par l'erreur, car la descente de gradient nécessite, selon l'idée reçue, des signaux d'erreur non locaux.

Cet article aborde une question d'identifiabilité : l'observation d'une structure hebbienne/anti-hebbienne dans les mises à jour synaptiques implique-t-elle nécessairement une règle d'apprentissage mécaniste de type hebbien ? Les auteurs proposent que la réponse est non. Ils soutiennent que les signatures hebbiennes et anti-hebbiennes peuvent émerger comme des sous-produits d'un apprentissage basé sur le gradient et régularisé à proximité de la stationnarité, sans nécessiter de mécanismes hebbiens explicites.

Méthodologie

Les auteurs emploient une combinaison d'analyses théoriques et de validation empirique pour démontrer comment la régularisation et le bruit interagissent avec les signaux d'apprentissage pour produire des dynamiques de type hebbien.

Cadre théorique

Stationnarité et décroissance des poids (Weight Decay) : Les auteurs analysent le comportement des règles d'apprentissage à proximité d'un point stationnaire (convergence). Ils considèrent une règle de mise à jour de poids générale $\Delta W = g(x, \theta) - \gamma W$ , où $g(x, \theta)$ est un signal d'apprentissage arbitraire (par exemple, un gradient) et $\gamma W$ représente la décroissance des poids L2.
Dérivation de l'alignement : En supposant que le système est proche de la stationnarité ( $E[\Delta W] \approx 0$ ), ils dérivent que le signal d'apprentissage attendu $E[g(x, \theta)]$ doit être approximativement égal à $\gamma W$ . Étant donné que la direction de la mise à jour hebbienne est proportionnelle à $W h_a h_a^\top$ (où $h_a$ est l'activité présynaptique), et que $W$ est positivement corrélé à cette direction sous des hypothèses standards (par exemple, des représentations de normes égales), le signal d'apprentissage est mathématiquement contraint de s'aligner sur la direction hebbienne.
Bruit et dynamiques anti-hebbiennes : Les auteurs étendent l'analyse pour inclure le bruit stochastique. Ils montrent que de fortes perturbations stochastiques (bruit) dans le signal d'apprentissage peuvent induire un alignement anti-hebbien. Ils dérivent une frontière de phase où l'équilibre entre la force du bruit ( $\sigma^2$ ) et la décroissance des poids ( $\gamma$ ) détermine si le système présente des signatures hebbiennes ou anti-hebbiennes. Plus précisément, lorsque le bruit domine, l'alignement devient négatif (anti-hebbien) ; lorsque la décroissance des poids domine, il devient positif (hebbien).

Validation empirique

Les auteurs valident leurs affirmations théoriques à travers diverses tâches, architectures et règles d'apprentissage :

Tâches : Classification CIFAR-10 et régression non linéaire synthétique (modèles étudiant-enseignant).
Architectures : Perceptrons multicouches (MLP) avec diverses fonctions d'activation (ReLU, Tanh, Sigmoïde) et Transformers.
Règles d'apprentissage : SGD standard, Adam, Direct Feedback Alignment (DFA), et une construction "RandomNN" (un signal d'erreur aléatoire déterministe qui n'apprend pas).
Métriques : La métrique principale est la similitude cosinus (produit scalaire de Frobenius) entre le signal d'apprentissage (ou la mise à jour complète) et la direction de mise à jour hebbienne théorique ( $h_b h_a^\top$ ).

Contributions clés

Mécanisme hebbien émergent : L'article établit que la décroissance des poids L2 conduit génériquement la composante du signal d'apprentissage de nombreuses règles d'apprentissage à s'aligner sur une direction hebbienne à proximité de la stationnarité. Cet alignement augmente de manière monotone avec la force de la décroissance des poids.
Mécanisme anti-hebbien émergent : Les auteurs démontrent qu'un bruit stochastique suffisamment fort peut inverser cette signature, induisant un alignement anti-hebbien. Cela crée un compromis prévisible et une frontière de phase entre les régimes hebbien et anti-hebbien basés sur le rapport entre le bruit et la décroissance des poids.
Universalité des règles : Le phénomène s'avère indépendant de l'algorithme d'apprentissage spécifique. Il apparaît dans SGD, Adam, DFA, et même dans "RandomNN" (un modèle qui n'apprend pas au sens traditionnel), à condition que la décroissance des poids soit présente.
Dynamiques transitoires : L'étude identifie que l'alignement hebbien n'est pas limité à l'état stationnaire final. Un "pic d'alignement initial" se produit tôt dans l'entraînement (dépendant de l'initialisation et du taux d'apprentissage), et les neurones individuels présentent des oscillations entre les phases hebbiennes et anti-hebbiennes pendant l'entraînement en régime permanent.

Résultats

Corrélation avec la décroissance des poids : Dans les tâches de classification et de régression, l'augmentation de la décroissance des poids conduit systématiquement à un alignement positif plus élevé entre le signal d'apprentissage et la mise à jour hebbienne. Cette tendance se maintient à travers différentes fonctions d'activation et profondeurs de réseau.
Compromis de bruit : Dans les tâches de régression, l'augmentation de la force du bruit réduit l'alignement hebbien et finit par induire un alignement anti-hebbien. La frontière de phase entre ces deux régimes suit une relation quadratique ( $\gamma \propto \sigma^2$ ), correspondant aux prédictions théoriques.
Validation par RandomNN : Même un modèle utilisant un signal de mise à jour purement aléatoire et non apprenant présente un alignement hebbien lorsque la décroissance des poids est appliquée, confirmant que l'effet est une propriété de la contrainte de régularisation plutôt que de l'algorithme d'apprentissage lui-même.
Généralisation : L'article note que les solutions présentant les meilleures performances de généralisation présentent souvent un faible alignement moyen (hebbien ou anti-hebbien), suggérant que le régime "optimal" se situe entre ces deux extrêmes.

Signification et affirmations

Les auteurs positionnent ce travail comme une note de mise en garde pour l'interprétation des données neurophysiologiques plutôt que comme un remplacement de la théorie hebbienne classique.

Réinterprétation des données biologiques : La présence de signatures hebbiennes ou anti-hebbiennes dans les mesures synaptiques ne prouve pas de manière unique que le cerveau utilise des règles de plasticité mécanistes de type hebbien. Ces signatures peuvent être des propriétés émergentes d'un processus d'optimisation globale (comme la descente de gradient) contraint par des mécanismes homéostatiques (comme la décroissance des poids) et le bruit.
Coexistence : Les auteurs soutiennent que la plasticité hebbienne mécaniste et la dynamique hebbienne émergente peuvent coexister. Leurs conclusions compliquent l'interprétation des mesures synaptiques, motivant la conception d'expériences capables de distinguer une véritable computation hebbienne des signatures émergentes issues de la régularisation.
Pont théorique : Ce travail fournit un lien théorique entre la dynamique d'optimisation de l'apprentissage automatique et la plasticité biologique, suggérant que "l'équilibre des forces expansives et contractives" (expansion hebbienne vs contraction homéostatique) est un principe universel régissant la stabilité tant dans les systèmes biologiques qu'artificiels.

L'article conclut que bien que de véritables processus hebbiens existent probablement dans le cerveau, l'ubiquité des dynamiques hebbiennes émergentes dans l'apprentissage régularisé suggère que l'observation de tels motifs est insuffisante pour exclure les mécanismes d'apprentissage globaux pilotés par l'erreur dans les systèmes biologiques.