🧬 biology

Quantifying task-relevant representational similarity using decision variable correlation

Cette étude propose une nouvelle méthode, la corrélation des variables de décision, pour quantifier la similarité des stratégies décisionnelles et révèle que les représentations liées à la tâche dans le cortex visuel des singes divergent significativement de celles apprises par les modèles de réseaux neuronaux, même après un pré-entraînement sur de grands ensembles de données ou un entraînement adversarial.

Auteurs originaux : Yu Eric Qian, Wilson S. Geisler, Xue-Xin Wei

Publié 2026-03-17

📖 4 min de lecture☕ Lecture pause café

CC BY 4.0

Auteurs originaux : Yu Eric Qian, Wilson S. Geisler, Xue-Xin Wei

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ⚕️ Ceci est une explication générée par l'IA d'un preprint qui n'a pas été évalué par des pairs. Ce n'est pas un avis médical. Ne prenez pas de décisions de santé basées sur ce contenu. Lire la clause de non-responsabilité complète

🧠 Le Grand Duel : Le Cerveau vs. L'Intelligence Artificielle

Imaginez que vous êtes un chef cuisinier (le cerveau humain) et que vous avez un assistant robotique (l'intelligence artificielle). Votre but est le même : reconnaître des objets sur une photo. Si vous voyez un chat, vous dites "Chat". Si le robot voit un chat, il dit aussi "Chat".

Jusqu'à présent, les scientifiques pensaient que plus le robot devenait bon et rapide pour reconnaître les chats, plus son "cerveau" (ses couches internes de calcul) ressemblerait au vôtre. C'était l'idée reçue : "Plus c'est performant, plus c'est intelligent et semblable à nous."

Mais cette nouvelle étude, menée par des chercheurs de l'Université du Texas, vient casser cette idée avec une nouvelle méthode de mesure appelée DVC (Corrélation des Variables de Décision).

🔍 La Nouvelle Loupe : Le DVC

Pour comprendre ce que fait le DVC, oublions le résultat final (le mot "Chat"). Regardons plutôt comment on arrive à ce résultat.

Imaginez que vous et votre robot regardez une photo d'un chat.

Le cerveau humain dit : "Je vois des oreilles pointues, des moustaches, et une queue. C'est un chat !"
Le robot dit : "Je vois des pixels verts et une texture spécifique. C'est un chat !"

Les deux ont raison (ils disent "Chat"), mais ils ont utilisé des chemins totalement différents pour y arriver.

Le DVC est comme un détective qui ne regarde pas seulement si vous avez trouvé la bonne réponse, mais qui vérifie si vos raisonnements internes sont synchronisés. Il se demande : "Est-ce que quand je doute, le robot doute aussi ? Est-ce que quand je vois un détail, le robot le voit aussi ?"

📉 Les Résultats Surprenants : Le Paradoxe de la Performance

Voici ce que les chercheurs ont découvert en utilisant cette nouvelle loupe :

Le Paradoxe : Plus les robots deviennent forts et précis sur les tests standards (comme reconnaître des milliers d'objets sur Internet), plus leur façon de penser s'éloigne de celle des singes (et donc des humains).
- L'analogie : Imaginez un élève qui apprend par cœur toutes les réponses d'un examen. Il obtient 20/20. Mais si vous lui posez une question piège ou une situation nouvelle, il panique car il n'a pas compris la logique, contrairement à un élève qui a vraiment compris le cours. Les robots les plus performants semblent apprendre par "cœur" (des motifs statistiques) plutôt que par "compréhension" (comme le cerveau).
Le Fossé : La similarité entre deux robots différents est très forte (ils pensent tous de la même façon, même s'ils sont différents). Mais la similarité entre un robot et un cerveau de singe est faible, et elle diminue à mesure que le robot devient plus performant.
Les Solutions qui échouent : Les chercheurs ont essayé de "réparer" les robots pour qu'ils pensent plus comme nous :
- En les entraînant avec des images "pièges" (adversarial training) : Cela les rend plus robustes, mais ne les rend pas plus semblables aux humains.
- En leur donnant plus de données (plus d'images) : Cela améliore leur score, mais creuse encore plus l'écart avec le cerveau humain.

🎭 Pourquoi les anciennes méthodes trompaient ?

Pourquoi tout le monde pensait le contraire avant ? Parce qu'ils utilisaient une mauvaise règle de mesure (comme le Kappa de Cohen).

L'erreur de l'ancien test : C'est comme juger deux joueurs de football uniquement sur le nombre de buts marqués. Si le gardien humain fait 10 arrêts et le robot 10 arrêts, on dit "ils sont pareils".
La réalité du DVC : Le DVC regarde la trajectoire du ballon. Le gardien humain a peut-être sauté à gauche pour un ballon qui venait de droite, tandis que le robot a sauté à droite. Ils ont tous les deux arrêté le ballon (résultat identique), mais leur stratégie était opposée. Les anciennes méthodes ne voyaient que le but, pas la stratégie.

💡 La Conclusion en une phrase

L'intelligence artificielle actuelle, aussi brillante soit-elle pour réussir des examens, ne "pense" pas comme nous. Elle a développé une stratégie de résolution de problèmes très efficace, mais totalement différente de celle de notre cerveau biologique.

En résumé : Ne vous fiez pas uniquement au score de performance d'une IA pour savoir si elle est "intelligente" comme nous. Elle pourrait être un génie des mathématiques qui utilise une logique étrangère, tandis que nous sommes des artistes qui utilisent l'intuition. Pour créer une IA vraiment semblable à l'humain, il faudra peut-être arrêter de simplement lui donner plus de données, et commencer à lui apprendre à voir le monde comme nous le faisons.

1. Problématique et Contexte

La recherche en neurosciences computationnelles vise à comprendre comment les réseaux de neurones profonds (DNN) modélisent le traitement visuel du cerveau (notamment la voie ventrale des primates). Bien que des études antérieures aient suggéré une forte similarité entre les représentations internes des DNN et celles du cortex visuel, d'autres travaux indiquent le contraire.

Le problème central réside dans l'absence de méthode robuste pour comparer ces systèmes :

Les méthodes existantes, comme l'analyse de similarité des représentations (RSA) ou les métriques de comportement (ex: Kappa de Cohen), présentent des limites. La RSA mesure la structure géométrique globale mais ignore les dimensions spécifiques à la tâche. Les métriques comportementales sont souvent confondues par les biais de décision, les différences de précision (accuracy) et les stratégies de décodage.
Il existe une divergence dans les conclusions : certaines études suggèrent que les modèles s'alignent mieux avec le cerveau à mesure qu'ils deviennent plus performants ou robustes, tandis que d'autres montrent une stagnation ou une divergence.
L'objectif de cet article est de proposer une mesure agnostique à la précision et spécifique à la tâche pour évaluer la similarité des stratégies de décision entre le cerveau (macaque) et les modèles.

2. Méthodologie : La Corrélation des Variables de Décision (DVC)

Les auteurs proposent une nouvelle métrique appelée Decision Variable Correlation (DVC). Cette méthode s'appuie sur la théorie de la détection de signal et généralise le concept de variable de décision (DV) pour comparer deux observateurs (cerveaux ou modèles).

Principes Fondamentaux

Extraction de la Variable de Décision (DV) : Pour une paire de catégories d'images donnée (ex: chat vs chien), on utilise un classifieur linéaire optimal (Analyse Discriminante Linéaire - LDA) sur les représentations neuronales internes (couches V4/IT pour les singes, couche pénultième pour les DNN) afin de trouver l'axe de décision optimal.
Projection : Chaque image est projetée sur cet axe pour obtenir une valeur continue, la "variable de décision" (DV), qui représente la tendance de l'observateur à classer l'image dans une catégorie plutôt que l'autre.
Calcul de la Corrélation : La DVC est la corrélation de Pearson entre les DVs de deux observateurs pour un ensemble d'images. Contrairement aux méthodes purement comportementales (choix binaire), la DVC utilise la richesse des représentations internes.

Avantages Techniques

Pertinence de la tâche : La DVC se concentre uniquement sur les dimensions pertinentes pour la classification, ignorant les variations dans les dimensions non pertinentes.
Invariance aux biais : La métrique est robuste aux biais de décision (criteres de réponse) et aux différences de précision globale entre les observateurs.
Correction du bruit : Pour pallier le bruit de mesure (surtout dans les données neuronales limitées), les auteurs utilisent une procédure de split-half (division des données en deux sous-ensembles indépendants) pour estimer et corriger l'atténuation de la corrélation due au bruit, fournissant une estimation non biaisée de la corrélation sous-jacente.

3. Contributions Clés

Développement de la DVC : Une méthode principielle pour quantifier la similarité des stratégies de décision à partir de représentations neuronales, applicable aussi bien aux données biologiques qu'aux modèles artificiels.
Analyse à grande échelle : Application de la DVC à un large éventail de modèles (43 modèles sur ImageNet-1k, modèles robustes, modèles entraînés sur de grands jeux de données) et comparés à des enregistrements neuronaux de macaques (aires V4 et IT).
Résolution des contradictions précédentes : Démonstration que les métriques basées sur la cohérence des erreurs (Kappa de Cohen) peuvent être trompeuses en raison des biais de décodage et des différences de précision, expliquant pourquoi elles donnent des résultats différents de la DVC.

4. Résultats Principaux

Les résultats obtenus contredisent l'hypothèse commune selon laquelle "plus un modèle est performant, plus il ressemble au cerveau".

Corrélation Négative avec la Performance : Il existe une forte corrélation négative ( $\rho = -0.70$ ) entre la précision Top-1 sur ImageNet-1k d'un modèle et sa DVC avec les représentations V4/IT des macaques. Les modèles les plus performants sur ImageNet sont les moins similaires aux cerveaux de singes en termes de stratégies de décision pertinentes pour la tâche.
Similarité Modèle-Macque vs Modèle-Modèle :
- La similarité entre deux cerveaux de singes (Monkey-Monkey) est élevée (~0.57).
- La similarité entre deux modèles d'une même famille architecturale est élevée, mais la similarité entre modèles de familles différentes est plus faible.
- La similarité entre un modèle et un singe (Model-Monkey) est systématiquement plus faible (~0.29 en moyenne) que la similarité entre singes ou entre modèles similaires.
Échec des stratégies d'amélioration :
- Entraînement Adversarial : Les modèles entraînés pour être robustes aux attaques adverses ne montrent aucune amélioration de la DVC avec le cerveau (elle diminue même légèrement). Bien qu'ils soient très similaires entre eux, ils divergent davantage du cerveau.
- Données Riches (Data-Rich) : Les modèles pré-entraînés sur des jeux de données massifs (ImageNet-21k, JFT-300M) ou multimodaux (CLIP) présentent également une DVC plus faible avec le cerveau que les modèles entraînés uniquement sur ImageNet-1k.
Comparaison avec le Kappa de Cohen :
- Le Kappa de Cohen, utilisé dans des études précédentes, montre une forte dépendance à la différence de précision entre les observateurs et aux biais de décision.
- Les auteurs montrent que les hautes valeurs de Kappa rapportées précédemment pour les modèles sont souvent dues à des biais de décodage (agrégation de probabilités) plutôt qu'à une véritable similarité de stratégie. Une fois corrigés, les résultats du Kappa s'alignent mieux avec la DVC (faible similarité modèle-cerveau).

5. Signification et Implications

Divergence des Représentations : Les résultats suggèrent une divergence fondamentale entre les représentations apprises par les DNN entraînés sur la classification d'images (ImageNet) et celles utilisées par le système visuel des primates. Les modèles optimisés pour la performance sur des données statistiques spécifiques (ImageNet) ne convergent pas vers une solution "biologiquement plausible" en termes de stratégie de décision.
Limites du "Scaling" : L'augmentation de la taille des modèles, de la complexité architecturale ou de la quantité de données d'entraînement ne suffit pas à rapprocher les modèles du cerveau. Cela remet en question l'hypothèse que la simple mise à l'échelle (scaling) résoudra l'alignement cerveau-IA.
Nouvelle Direction pour la Recherche : Pour améliorer l'alignement, il ne suffit pas d'optimiser la précision sur des benchmarks standards. Il faut probablement :
- Utiliser des jeux de données reflétant mieux les statistiques des stimuli naturels et évolutifs.
- Intégrer le bruit sensoriel et interne du cerveau dans les procédures d'entraînement.
- Se concentrer sur les propriétés de bas niveau (optique, fovéation) et la robustesse aux perturbations réalistes plutôt qu'aux attaques adverses synthétiques.

En conclusion, la DVC se présente comme un outil essentiel pour réévaluer l'alignement cerveau-modèle, révélant que les modèles d'IA les plus performants sur les tâches de classification actuelles sont, paradoxalement, ceux qui s'éloignent le plus des stratégies de décision du cerveau biologique.