Résumé technique : Émergence d'une architecture cognitive modulaire dans les grands modèles de langage

Énoncé du problème

Le cerveau humain présente un degré frappant de spécialisation fonctionnelle, où des réseaux neuronaux distincts soutiennent des domaines cognitifs spécifiques tels que le langage, le raisonnement formel, le raisonnement social (Théorie de l'esprit) et le raisonnement physique. Une question centrale en sciences cognitives est de savoir si cette organisation modulaire est un principe fondamental requis pour qu'un système intelligent fonctionne efficacement, ou s'il s'agit simplement d'un accident évolutif propre au tissu biologique. Alors que les cerveaux biologiques sont confrontés à des contraintes métaboliques qui peuvent favoriser la parcimonie et la spécialisation, les systèmes artificiels comme les grands modèles de langage (LLM) sont optimisés via la descente de gradient sur la prédiction du prochain jeton (token) sans ces pressions biologiques. Cet article examine si les LLM, malgré leurs processus d'optimisation différents, développent spontanément une architecture modulaire qui reflète la ségrégation fonctionnelle observée dans le cerveau humain.

Méthodologie

Les auteurs ont mené une analyse de circuit à grande échelle sur N=46 tâches réparties en quatre domaines cognitifs :

1. Langage : Morphologie, syntaxe et sémantique lexicale.
2. Raisonnement formel : Arithmétique, raisonnement logique et compréhension de code (aligné avec le réseau de demande multiple/Multiple Demand network).
3. Raisonnement social : Inférence d'émotions, attribution de croyances et normes sociales (aligné avec le réseau de la Théorie de l'esprit).
4. Raisonnement physique : Physique intuitive concernant les objets, les matériaux et les forces.

Pipeline expérimental :

1. Paires minimales : Pour chaque tâche, les auteurs ont construit des paires d'entrées (originale vs alternative) qui différaient de manière minimale sur une dimension pertinente pour la tâche (par exemple, changer un sujet du singulier au pluriel, ou décaler un nombre dans une équation) mais provoquaient des continuations correctes différentes.
2. Attribution par patch (Attribution Patching) : En utilisant une méthode basée sur le gradient, les auteurs ont identifié l'importance causale de neurones individuels. Ils ont calculé un score d'attribution pour chaque neurone en multipliant la différence d'activation entre les entrées originales et alternatives par le gradient de la différence de logit. Cela estime la contribution causale du neurone à la tâche.
3. Analyse de chevauchement : Les auteurs ont identifié les 0,1 % de neurones les plus importants pour chaque tâche et ont calculé le chevauchement de Jaccard par paire de ces ensembles de neurones à travers toutes les paires de tâches.
4. Ablation causale : Pour valider la causalité, les auteurs ont réalisé des expériences d'ablation ciblées. Ils ont remplacé les activations des 0,1 % de neurones identifiés comme critiques pour une tâche « source » par leurs valeurs provenant d'une entrée alternative pendant que le modèle effectuait une tâche « cible ». Ils ont mesuré la chute de précision résultante pour déterminer si les neurones critiques pour un domaine interféraient avec les tâches du même domaine ou de domaines différents.
5. Modèles : L'analyse a été menée sur six modèles de pointe ajustés par instruction, allant de 24B à 123 milliards de paramètres (familles Mistral, Qwen, OLMo, Llama). Un groupe de contrôle de faible performance (GPT-2) a également été testé pour écarter les artefacts de données.

Résultats clés

1. Émergence d'une architecture modulaire

L'étude a révélé que les LLM développent une organisation fonctionnelle modulaire qui reflète étroitement le cerveau humain :

• Chevauchement intra-domaine : Les tâches au sein d'un même domaine cognitif (par exemple, différents problèmes d'arithmétique) mobilisaient des ensembles de neurones substantiellement chevauchants.
• Ségrégation inter-domaines : Les tâches issues de domaines différents (par exemple, l'arithmétique vs le raisonnement physique) mobilisaient des ensembles de neurones largement distincts.
• Métriques quantitatives : En moyenne, le chevauchement de neurones intra-domaine dépassait le chevauchement inter-domaines de plus de quatre fois (12,9 % contre 3,0 %, p < 0,0001). Ce schéma s'est maintenu de manière constante à travers les six modèles et a été récupéré via un regroupement hiérarchique non supervisé (Indice de Rand ajusté = 0,78).

2. Spécificité causale

Les expériences d'ablation ont confirmé que cette modularité est causale :

• Ablation intra-domaine : La perturbation des neurones critiques pour un domaine spécifique a provoqué une chute significative de la performance pour les tâches au sein de ce même domaine (baisse de précision moyenne : 25,9 %).
• Ablation inter-domaines : La perturbation de neurones d'un domaine a eu un effet négligeable sur les tâches d'autres domaines (baisse de précision moyenne : 2,5 %).
• Double dissociation : L'effet était hautement asymétrique. Les neurones du langage étaient les plus sélectifs, perturbant les autres tâches de langage de 20,4 % tout en affectant les autres domaines de moins de 0,5 %. Inversement, la lésion des neurones de raisonnement altérait les conclusions de raisonnement tout en préservant la correction linguistique.

3. Contingence sur la performance

La structure modulaire était contingente sur la capacité du modèle à résoudre les tâches :

• Modèles de haute performance : Les six grands modèles présentaient une forte modularité.
• Groupe de contrôle de faible performance (GPT-2) : GPT-2, qui échouait à la plupart des tâches de raisonnement (performant au niveau du hasard ou en dessous), ne présentait pas de modularité fine à travers les trois domaines de raisonnement. Il n'a récupéré qu'une séparation large entre les tâches de langage et les tâches non linguistiques, suggérant que la spécialisation fonctionnelle émerge comme une solution aux exigences de performance des tâches plutôt que comme un artefact des données ou du pipeline.

4. Indépendance vis-à-vis de la similitude sémantique

Les analyses de contrôle ont démontré que la modularité observée n'était pas dictée par la similitude sémantique des requêtes (prompts). Les matrices de similitude sémantique (utilisant TF-IDF, GloVe, SBERT et les plongements de jetons d'entrée) n'ont pas réussi à récupérer la structure des quatre domaines aussi efficacement que la matrice de chevauchement des neurones. Une régression partielle a confirmé que le chevauchement des neurones portait une information spécifique au domaine indépendamment du chevauchement lexical ou sémantique.

Signification et affirmations

L'article soutient que l'émergence convergente de la modularité tant dans les cerveaux biologiques que dans les réseaux de neurones artificiels suggère que la spécialisation fonctionnelle est une propriété fondamentale des systèmes intelligents, découlant probablement des exigences computationnelles liées à la résolution de problèmes divers et interactifs.

• Au-delà des contraintes métaboliques : Puisque les LLM ne font pas face aux contraintes d'énergie métabolique auxquelles sont confrontés les cerveaux biologiques, l'émergence de la modularité dans les LLM suggère que la pression métabolique n'est pas une condition nécessaire à la spécialisation fonctionnelle.
• Nécessité computationnelle : Les auteurs proposent que la modularité émerge pour éviter l'interférence. Lorsqu'un système doit engager simultanément plusieurs formes de raisonnement (par exemple, analyser la syntaxe tout en effectuant une déduction logique), la ségrégation des calculs dans des sous-populations distinctes de neurones protège contre la collision représentationnelle et l'interférence catastrophique lors de l'apprentissage.
• Les LLM comme banc d'essai : L'étude positionne les LLM comme une seconde classe de systèmes intelligents précieuse pour tester des affirmations sur la structure de la cognition. Le fait que la modularité émerge dans des systèmes façonnés par des pressions différentes (descente de gradient vs évolution) renforce l'hypothèse que la modularité est un principe général de l'intelligence.

Les auteurs concluent que, bien qu'ils aient démontré l'existence de cette organisation modulaire dans les LLM, les mécanismes spécifiques qui la pilotent (par exemple, s'il s'agit d'un artefact d'optimisation ou d'une solution nécessaire au problème de la "prédiction du prochain jeton" dans des corpus hétérogènes) restent une question ouverte pour la recherche future.