🤖 AI

Bidirectional representational alignment between biological and artificial neural networks

Cet article démontre que le pilotage de la géométrie spectrale des modèles de vision auto-supervisés pendant l'entraînement peut moduler systématiquement et améliorer significativement l'alignement représentationnel bidirectionnel avec les réseaux de neurones biologiques, atteignant une amélioration relative de 55 % de la prédictivité bidirectionnelle en réduisant la dimensionnalité effective et en réorganisant le sous-espace de représentation partagé.

Auteurs originaux : Samuel Kostousov, Abhinn Kaushik, Brokoslaw Laschowski

Publié 2026-08-20

📖 4 min de lecture☕ Lecture pause café

CC BY 4.0

Auteurs originaux : Samuel Kostousov, Abhinn Kaushik, Brokoslaw Laschowski

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Pour comprendre comment l'intelligence fonctionne, les scientifiques observent souvent le cerveau, la machine biologique qui pense, et le comparent aux réseaux de neurones artificiels, les programmes informatiques conçus pour l'imiter. Pendant des années, les chercheurs ont tenté de voir si ces deux systèmes « pensent » de manières similaires en comparant leurs cartes internes du monde. Lorsqu'un ordinateur voit l'image d'un chat, il crée un motif d'activité spécifique ; lorsqu'un singe voit la même image, son cerveau crée un motif différent. Les scientifiques mesurent à quel point le motif de l'ordinateur prédit l'activité cérébrale du singe, un processus connu sous le nom de prédiction directe. Récemment, une nouvelle question est apparue : pouvons-nous également prédire le motif de l'ordinateur simplement en regardant le cerveau du singe ? La réponse fut étonnamment unilatérale. Les cartes internes de l'ordinateur étaient excellentes pour deviner ce que le cerveau ferait, mais l'activité du cerveau était un piètre devineur de ce que l'ordinateur ferait. Ce déséquilibre suggérait que, bien que l'intelligence artificielle ait appris à imiter le résultat du cerveau, elle n'avait pas encore appris à imiter la structure sous-jacente du cerveau.

Une équipe de chercheurs s'est donné pour mission de corriger cette relation unilatérale en modifiant la forme des cartes internes du réseau artificiel pendant son entraînement. Ils ont émis l'hypothèse que la manière dont l'information est organisée à l'intérieur de l'ordinateur — plus précisément, la façon dont l'importance des différentes parties de l'information est distribuée — pourrait être la clé manquante. Pour tester cela, ils ont construit un système capable de pousser doucement le processus d'apprentissage de l'ordinateur à organiser ses informations d'une manière spécifique, similaire à la façon dont le cerveau s'organise naturellement. Ils ont utilisé un modèle de vision standard, un type d'intelligence artificielle entraînée à reconnaître des images sans étiquettes humaines, et ont appliqué une nouvelle règle durant sa phase d'apprentissage. Cette règle encourageait le réseau à disposer ses signaux internes de sorte qu'un petit nombre de signaux porte l'essentiel du poids, tandis que beaucoup d'autres n'en portent presque aucun, un motif qui reflète la décroissance naturelle de l'importance observée dans les cerveaux biologiques.

Les résultats ont montré que cet ajustement simple avait un effet profond. Lorsque les chercheurs ont orienté la géométrie interne de l'ordinateur pour qu'elle corresponde à ce motif naturel, la capacité de l'activité cérébrale à prédire le comportement de l'ordinateur s'est considérablement améliorée. En fait, les cartes internes de l'ordinateur sont devenues bien meilleures pour être prédites par le cerveau, comblant ainsi l'écart qui existait auparavant. Bien que la capacité de l'ordinateur à prédire l'activité du cerveau ait légèrement chuté, le gain massif dans la direction inverse a permis aux deux systèmes de devenir beaucoup plus équilibrés. L'alignement global entre les réseaux biologiques et artificiels s'est amélioré de cinquante-cinq pour cent par rapport à la configuration originale. Cette amélioration n'était pas un simple hasard statistique ; elle s'accompagnait d'un changement clair dans la structure de l'ordinateur. Le réseau a commencé à compter sur moins de dimensions, plus efficaces, pour stocker l'information, et les parties du réseau les plus similaires à l'activité cérébrale sont devenues presque parfaitement symétriques dans leur relation.

L'étude suggère que la manière dont l'information est organisée à l'intérieur d'un système d'apprentissage est tout aussi importante que l'information elle-même. En changeant simplement les règles de la distribution de l'attention de l'ordinateur à travers différents signaux, les chercheurs ont rendu le monde interne du réseau artificiel beaucoup plus semblable au monde biologique. Cela ne signifie pas que l'ordinateur est soudainement devenu conscient ou qu'il a résolu le mystère de la pensée humaine. Cela démontre plutôt que la géométrie des représentations apprises — la forme des cartes internes — est une propriété qui peut être contrôlée pour rapprocher les systèmes artificiels et biologiques. Les conclusions indiquent que le déséquilibre précédent n'était pas un défaut permanent de l'intelligence artificielle, mais une conséquence de la manière dont ces réseaux étaient autorisés à s'organiser. En guidant cette organisation, les scientifiques peuvent créer des modèles qui sont non seulement meilleurs pour résoudre des tâches, mais aussi de meilleurs miroirs des systèmes biologiques qu'ils visent à comprendre.

Résumé technique : Alignement représentationnel bidirectionnel entre réseaux de neurones biologiques et artificiels

Énoncé du problème
Des recherches récentes en neurosciences computationnelles et en apprentissage automatique ont établi que l'alignement représentationnel entre les réseaux de neurones biologiques et artificiels est intrinsèquement asymétrique. Plus précisément, les représentations des modèles artificiels prédisent les réponses neuronales biologiques (prédictivité directe ou forward) de manière nettement plus efficace que les réponses biologiques ne prédisent les représentations des modèles (prédictivité inverse ou reverse). Si l'optimisation des tâches peut restaurer certains principes fondamentaux de la représentation neuronale, l'amélioration des performances de la tâche ne corrèle pas toujours avec une améliillère de l'alignement. Cette asymétrie soulève une question critique : la géométrie représentationnelle des caractéristiques apprises contribue-t-elle à ce désalignement bidirectionnel ? Les auteurs émettent l'hypothèse que la géométrie spectrale des représentations peut être systématiquement pilotée lors de l'entraînement pour moduler cet alignement.

Méthodologie
Pour tester cette hypothèse, les auteurs ont développé un cadre computationnel qui intègre une régularisation spectrale avec des analyses de prédictivité bidirectionnelle.

Modèle et jeu de données : Le cadre a été implémenté en utilisant des modèles de vision auto-supervisés par contraste (SimCLR avec un encodeur ResNet-50). L'entraînement a utilisé un sous-ensemble d'ImageNet-1k, tandis que l'évaluation a employé un benchmark du cortex IT de macaque comprenant les réponses neuronales à 3 200 stimuli visuels.
Pilotage spectral (Spectral Steering) : L'innovation centrale consiste à ajouter un terme de régularisation spectrale à la perte de contraste InfoNCE standard. Ce terme pénalise les écarts par rapport à un exposant de décroissance spectrale cible ( $\hat{\alpha}$ $\overset{α}{^}$ ) dans l'eigenspectre des représentations apprises.
- La régularisation est appliquée aux activations de encoder.layer4.0.bn1, une couche connue pour sa forte prédictivité directe.
- L'exposant spectral $\alpha$ est estimé via des moindres carrés ordinaires sur le spectre log-log de la variance expliquée normalisée (composantes principales 5–15).
- La fonction de perte totale est $L_{total} = L_{InfoNCE} + \lambda|\alpha - \hat{\alpha}|$ , où $\lambda$ contrôle la force de la régularisation.
Métriques d'évaluation :
- Prédictivité directe (Forward Predictivity) : Mesure la capacité des activations du modèle à prédire les réponses neuronales (régression de ridge de la part du modèle vers le neurone).
- Prédictivité inverse (Reverse Predictivity) : Mesure la capacité des réponses neuronales à prédire les activations du modèle (régression de ridge de la part du neurone vers le modèle).
- Prédictivité bidirectionnelle (BPI) : Une métrique composite ( $BPI = \frac{2R_{fwd}R_{rev}}{R_{fwd} + R_{rev}}$ ) qui quantifie l'alignement tout en pénalisant l'asymétrie.
- Dimensionnalité effective : Calculée via le rapport de participation de l'exposant de la variance expliquée.
Conception expérimentale : Les modèles ont été entraînés avec des exposants spectraux cibles ( $\hat{\alpha}$ ) et des forces de régularisation ( $\lambda$ ) variables. L'analyse a été réalisée sur la base de l'exposant spectral mesuré ( $\alpha$ ) plutôt que sur la cible, afin de tenir compte des cas où la force de régularisation n'atteignait pas exactement la cible.

Résultats clés
Les expériences ont démontré que le pilotage de la géométrie représentationnelle influence systématiquement l'alignement bidirectionnel :

Contrôle de la géométrie spectrale : La régularisation spectrale a réussi à piloter l'exposant spectral mesuré des représentations apprises. Une régularisation plus forte ( $\lambda$ ) a produit un accord plus étroit entre l'exposant mesuré et l'exposant cible.
Réduction de l'asymétrie :
- Prédictivité inverse : L'augmentation de l'exposant spectral mesuré ( $\alpha$ ) a considérablement augmenté la prédictivité inverse. À $\lambda=3$ , la variance expliquée inverse est passée de 12 % (baseline) à 29 % dans le compartiment d' $\alpha$ le plus élevé.
- Prédictivité directe : La prédictivité directe a montré une légère diminution sous la régularisation spectrale par rapport à la baseline, mais est restée relativement stable à travers les différentes valeurs d' $\alpha$ mesurées pour une force de régularisation donnée.
- Prédictivité bidirectionnelle : L'effet net a été une amélioration significative de la prédictivité bidirectionnelle, passant d'environ 20 % à 31 % (une amélioration relative de 55 %). Cela indique une réduction substantielle de l'asymétrie direct-inverse.
Perspectives mécanistes :
- Unités communes vs uniques : Les améliorations ont été les plus prononcées dans les « unités communes » (les 20 % supérieurs des unités du modèle classées par prédictivité inverse). Dans ce sous-ensemble, la prédictivité directe et inverse sont devenues approximativement symétriques à des exposants spectraux intermédiaires.
- Dimensionnalité : L'augmentation des exposants spectraux a été accompagnée d'une réduction de la dimensionnalité effective, suggérant que le pilotage de la géométrie concentre la variance de la représentation dans moins de dimensions effectives.
- Réorganisation de l'espace sous-spatial : Les résultats suggèrent que la régularisation spectrale réorganise préférentiellement l'espace sous-spatial partagé entre les réseaux artificiels et biologiques, améliorant la récupérabilité linéaire de l'activité neuronale à partir des représentations du modèle.

Signification et revendications
Cet article fournit un cadre contrôlé démontrant que la géométrie représentationnelle est une propriété pilotable qui module directement l'alignement représentationnel bidirectionnel.

Remise en cause de l'asymétrie fixe : Les auteurs réfutent l'idée que l'asymétrie direct-inverse est une propriété fixe des modèles optimisés pour des tâches. Au contraire, ils montrent qu'elle peut être systématiquement réduite en modifiant la géométrie spectrale lors de l'apprentissage.
La géométrie comme facteur causal : Les résultats soutiennent l'hypothèse selon laquelle la géométrie représentationnelle contribue à la qualité de l'alignement. Plus précisément, l'augmentation de l'exposant spectral améliore la direction « inverse » de l'alignement sans perte catastrophique dans la direction « directe ».
Au-delà de la correspondance des exposants : L'étude note que l'alignement a continué de s'améliorer même au-delà de l'exposant spectral ( $\alpha \approx 1$ ) typiquement observé dans le cortex visuel, suggérant que le simple fait de faire correspondre les statistiques spectrales biologiques n'est pas suffisant pour maximiser l'alignement ; c'est plutôt le processus de pilotage lui-même qui induit des réorganisations bénéfiques.
Limites et portée : Les auteurs présentent modestement ces résultats comme une première démonstration utilisant une architecture spécifique (ResNet-50) et un seul benchmark neural. Ils reconnaissent que l'exposant spectral n'est qu'une caractérisation de la géométrie et que d'autres propriétés géométriques pourraient également jouer un rôle. Des travaux futurs sont nécessaires pour généraliser ces découvertes à différentes architectures, objectifs d'apprentissage et jeux de données.

En résumé, cette recherche établit une méthode pour « piloter » la géométrie interne des réseaux artificiels afin de mieux les aligner avec les systèmes biologiques, offrant une nouvelle voie pour l'interprétabilité mécaniste et l'étude de l'émergence de l'intelligence.

Résumé technique : Alignement représentationnel bidirectionnel entre réseaux de neurones biologiques et artificiels

Articles similaires