🤖 AI

The Grounding Gap: How LLMs Anchor the Meaning of Abstract Concepts Differently from Humans

Ce papier révèle que, bien que les grands modèles de langage puissent identifier des dimensions d'ancrage lorsqu'ils sont interrogés explicitement, ils présentent un « écart d'ancrage » significatif par rapport aux humains en s'appuyant excessivement sur des associations de mots et en échouant à mobiliser naturellement des concepts émotionnels et d'état interne lors d'une génération libre.

Auteurs originaux : Odysseas S. Chlapanis, Orfeas Menis Mastromichalakis, Christos H. Papadimitriou

Publié 2026-05-12

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Odysseas S. Chlapanis, Orfeas Menis Mastromichalakis, Christos H. Papadimitriou

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous essayiez d'expliquer le concept de « Justice » à deux groupes différents : une salle remplie d'humains et une salle remplie d'ordinateurs dotés d'une intelligence artificielle avancée.

Comment les humains le font :
Quand un humain pense à la « justice », son esprit ne se contente pas de sortir une définition de dictionnaire. Au contraire, cela déclenche un réseau riche et désordonné d'expériences. Il peut se souvenir de la sensation d'avoir été traité injustement (une émotion interne), de la vue d'une salle d'audience (un détail sensoriel), ou du drame social d'une dispute familiale sur qui obtiendra la dernière part de pizza. Leur compréhension est « ancrée » dans leur corps, leurs sentiments et leur vie avec les autres.

Comment l'IA le fait :
Quand l'IA pense à la « justice », elle agit davantage comme un bibliothécaire ultra-rapide qui a lu tous les livres jamais écrits mais n'a jamais vécu un seul jour. Elle sait que la « justice » se trouve souvent à proximité de mots comme « loi », « tribunal », « juge » et « équité ». Elle construit sa compréhension presque entièrement à partir d'associations de mots. Elle connaît la compagnie que le mot fréquente, mais elle ne semble pas ressentir le poids du concept.

Le « fossé d'ancrage »

Les chercheurs de cet article ont décidé de tester cette différence. Ils ont demandé à 21 modèles d'IA différents (y compris des géants comme GPT-5, Claude et Gemini) de jouer à un jeu : « Énumérez les quatre premières choses qui vous viennent à l'esprit lorsque vous entendez ce mot abstrait. » Ils ont fait cela pour des mots comme liberté, honneur et théorie.

Voici ce qu'ils ont découvert :

Le décalage : Lorsque les humains jouaient à ce jeu, ils mélangeaient naturellement des sentiments, des sensations corporelles et des situations sociales. Les IA, en revanche, énuméraient principalement des associations verbales (d'autres mots liés au sujet) et ignoraient presque complètement les sentiments et les états internes.
Le score : Les chercheurs ont mesuré à quel point les réponses des IA étaient similaires aux réponses humaines. Même l'IA la plus intelligente n'obtenait qu'environ 0,37 sur 1,0 en termes de similarité. En revanche, si vous demandez à deux humains différents de jouer au jeu, ils s'accordent entre eux à environ 0,97 sur 1,0.
- Analogie : C'est comme demander à un humain et à un robot de décrire le goût d'une pomme. L'humain dit : « Sucré, croquant, juteux, ça me rappelle l'automne. » Le robot dit : « Rouge, rond, fruit, pomme. » Ils parlent du même objet, mais ils le décrivent dans des langues complètement différentes.
Le « club des robots » : Fait intéressant, les IA étaient beaucoup plus similaires entre elles qu'avec les humains. Elles semblent toutes partager la même « façon robotique » de penser, ce qui est très différent de la façon humaine.

La péripétie : Peuvent-elles le faire si on le leur demande ?

Les chercheurs se sont demandé : Les IA comprennent-elles réellement ces sentiments, ou ne savent-elles tout simplement pas comment les faire émerger ?

Pour tester cela, ils ont changé le jeu. Au lieu de demander à l'IA de « lister les choses qui vous viennent à l'esprit », ils ont posé des questions spécifiques comme : « Sur une échelle de 1 à 7, dans quelle mesure ce mot est-il lié à l'« émotion humaine » ? » ou « Dans quelle mesure est-il lié au « toucher » ? »

Le résultat : Soudain, les IA se sont beaucoup améliorées ! Leurs réponses s'alignaient beaucoup plus étroitement sur celles des humains.

Analogie : C'est comme demander à une personne timide de « raconte-moi une histoire de ton enfance » (elle pourrait se figer ou donner une réponse générique). Mais si vous lui demandez : « As-tu ressenti de la joie quand tu avais 5 ans ? » (une question spécifique et guidée), elle peut répondre parfaitement.

Cela suggère que les IA ont bien les « ingrédients » d'une compréhension à la manière humaine en leur sein, mais lorsqu'elles sont laissées libres de générer du texte, elles ne savent pas comment mélanger ces ingrédients. Elles se rabattent sur la recette de « l'association de mots » car c'est ce pour quoi elles ont été entraînées.

Regarder à l'intérieur de la machine

Pour voir si cette compréhension « timide » était réellement cachée dans le cerveau de l'IA, les chercheurs ont utilisé un outil spécial appelé auto-encodeur parcimonieux (pensez-y comme à une machine à rayons X pour les pensées de l'IA).

Ils ont découvert que l'IA possède bien des « interrupteurs » ou des « caractéristiques » internes spécifiques qui s'allument lorsqu'elle pense aux émotions, aux interactions sociales ou aux détails sensoriels.

Analogie : Imaginez un piano. Quand l'IA joue une chanson sur la « justice », elle appuie principalement sur les touches pour « loi » et « tribunal ». Mais si vous regardez sous le capot, vous pouvez voir que les touches pour « tristesse » et « toucher » sont en réalité connectées à des fils à l'intérieur du piano. Elles sont là, mais l'IA ne les appuie pas quand elle joue seule.

Lorsque les chercheurs ont forcé manuellement ces interrupteurs « émotion » à rester allumés, l'IA a commencé à générer davantage de descriptions émotionnelles. Cela a prouvé que la capacité existait, mais qu'elle n'était pas utilisée naturellement.

La conclusion

L'article conclut que les modèles d'IA actuels ne sont pas ancrés dans le monde de la même manière que les humains.

Ils excellent à imiter les modèles du langage humain.
Ils peuvent comprendre des concepts comme « émotion » ou « toucher » si vous les pointez directement vers eux.
Mais lorsqu'ils sont laissés libres de penser et de parler, ils s'appuient trop lourdement sur des connexions mot-à-mot et échouent à puiser dans les sentiments, les sensations corporelles et les expériences sociales qui rendent le sens humain si riche.

Les chercheurs suggèrent que simplement rendre l'IA plus grande ou l'entraîner sur plus de texte ne résoudra pas ce problème. Pour combler véritablement le fossé, nous devrons peut-être changer fondamentalement la façon dont nous construisons et formons ces modèles, en leur donnant peut-être un moyen de « vivre » le monde plutôt que de simplement en lire à son sujet.

Résumé Technique : Le Fossé d'Ancrage

Énoncé du Problème

L'article examine si les grands modèles de langage (LLM) ancrent les concepts abstraits (par exemple, justice, théorie, disponibilité) d'une manière similaire aux humains. Alors que la cognition humaine postule que les concepts abstraits tirent leur sens d'un réseau d'expériences sensorimotrices, d'émotions et de contextes sociaux (cognition ancrée), les LLM sont entraînés exclusivement sur du texte. La question centrale est de savoir si les LLM se contentent de reposer sur des associations statistiques de mots ou s'ils représentent intérieurement les concepts abstraits à travers les mêmes dimensions expérientielles (sensorimotrices, état interne, social) qui structurent la compréhension humaine.

Méthodologie

Les auteurs adoptent une approche multidimensionnelle combinant la réplication comportementale, des expériences d'évaluation et l'interprétabilité mécaniste :

Réplication de la Génération de Propriétés (Comportementale) :
- Les auteurs ont répliqué deux expériences établies en sciences cognitives (Harpaintner et al., 2018 ; Kelly et al., 2024) sur 21 LLM de pointe et à poids ouverts.
- Tâche : Les modèles ont été invités à générer librement des propriétés, des situations ou des associations pour des noms abstraits.
- Analyse : Les sorties générées ont été codées dans des catégories d'ancrage (par exemple, Sensorimoteur, État Interne, Social, Association Verbale) et comparées aux bases de référence humaines en utilisant la corrélation de Pearson ( $r$ ).
- Échelle : Les expériences portaient sur 293 noms abstraits (Exp 1) et 236 noms abstraits incluant des sous-ensembles d'émotions/non-émotions (Exp 2).
Expérience d'Évaluation (Interrogation Explicite) :
- Pour distinguer entre un manque de connaissance des dimensions d'ancrage et un échec à les mobiliser, les auteurs ont répliqué une étude d'évaluation (Troche et al., 2017).
- Tâche : Les modèles ont explicitement noté des mots sur 14 dimensions d'ancrage (par exemple, Couleur, Émotion, Social, Temps) en utilisant une échelle de Likert.
- Objectif : Déterminer si les modèles peuvent reconnaître ces dimensions lorsqu'ils sont explicitement interrogés, en contrastant cela avec la tâche de génération spontanée de propriétés.
Interprétabilité Mécaniste (Autoencodeurs Épars) :
- Les auteurs ont utilisé des Autoencodeurs Épars (SAE) sur des modèles Gemma 3 (4B et 12B paramètres) pour inspecter les caractéristiques internes.
- Méthode : Ils ont identifié des caractéristiques latentes dont les activations étaient corrélées aux dimensions d'ancrage (sensorimotrice, état interne, social) lors de la génération de noms.
- Validation : Ils ont effectué un « pilotage de caractéristiques » (verrouillage des activations) pour observer si l'amplification artificielle de ces caractéristiques augmentait la génération de propriétés dans les catégories correspondantes.

Résultats Clés

1. Le Fossé d'Ancrage dans la Génération de Propriétés

Faible Alignement : Sur l'ensemble des 21 modèles, il existe un écart constant et important entre l'ancrage humain et celui des modèles. Aucun modèle n'a atteint une corrélation de Pearson ( $r$ ) avec les réponses humaines dépassant 0,37, alors que le plafond humain à humain dépasse 0,9.
Biais Systématique : Les modèles produisent systématiquement trop d'Associations Verbales et trop peu de propriétés liées à l'État Interne et aux Émotions par rapport aux humains.
Homogénéité des Modèles : Les modèles sont plus fortement corrélés entre eux qu'avec les humains, suggérant un mode de représentation des concepts abstraits partagé et non humain, qui persiste à travers différentes architectures et fournisseurs.
Limites de l'Échelle : L'augmentation du nombre de paramètres du modèle (de 4B à 120B) ne réduit pas significativement cet écart ; le décalage n'est pas un goulot d'étranglement de capacité résoluble par la mise à l'échelle seule.

2. Alignement dans les Tâches d'Évaluation

Fort Alignement Explicite : Contrairement à la génération de propriétés, les modèles obtiennent des résultats nettement meilleurs lorsqu'ils sont explicitement invités à noter des mots sur des dimensions d'ancrage. Les meilleurs modèles atteignent une moyenne $r \approx 0,76$ contre un plafond humain d'environ 0,89.
Implication : Cela indique que les LLM possèdent la connaissance des catégories d'ancrage (ils peuvent les reconnaître lorsqu'ils sont interrogés) mais échouent à les mobiliser spontanément lors d'une génération libre.

3. Évidence Mécaniste

Caractéristiques Internes : L'analyse SAE a identifié des caractéristiques internes spécifiques dans les modèles Gemma qui sont corrélées aux dimensions d'ancrage (par exemple, « sensorimoteur », « social », « état interne »).
Pilotage de Caractéristiques : Le pilotage de ces caractéristiques a augmenté la génération de propriétés dans leurs catégories cibles (par exemple, le pilotage des caractéristiques « Internes » a augmenté les propriétés d'État Interne de +9,4 %).
Limitation : Ces caractéristiques ne sont pas parfaitement isolées ; elles capturent des motifs sémantiques plus larges plutôt que des catégories d'ancrage propres et de type humain.

Contributions Clés

Quantification de l'Écart : L'article fournit des preuves empiriques d'un « fossé d'ancrage » robuste où les LLM actuels échouent à ancrer les concepts abstraits d'une manière humaine, indépendamment de la taille ou de la famille du modèle.
Distinction des Capacités : Il démontre que l'écart ne résulte pas d'une incapacité à reconnaître les dimensions d'ancrage (comme le montre l'expérience d'évaluation) mais plutôt d'un échec à mobiliser spontanément ces dimensions lors de la génération.
Découverte Mécaniste : Il identifie des caractéristiques internes SAE dans les modèles Gemma qui suivent les dimensions d'ancrage, suggérant que l'information structurelle existe au sein du modèle mais n'est pas exprimée comportementalement d'une manière humaine.

Signification et Affirmations

L'article conclut que le fossé d'ancrage observé est peu susceptible d'être résolu par la mise à l'échelle ou une amélioration de l'entraînement basé sur le texte seul, car la dépendance aux associations verbales est une conséquence naturelle de l'entraînement autorégressif sur le contexte linguistique.

Affirmation Modeste : Les auteurs affirment que les LLM actuels « comprennent les catégories d'ancrage de base presque — mais pas tout à fait — aussi bien que les humains », mais qu'ils « ne les mobilisent pas d'une manière humaine lors d'une génération libre ».
Orientation Future : Les résultats suggèrent que l'atteinte d'un alignement cognitif véritable avec les humains pourrait nécessiter des changements fondamentaux dans les techniques d'entraînement ou les architectures (par exemple, l'apprentissage incarné ou de nouveaux objectifs d'entraînement) plutôt que des améliorations incrémentales des paradigmes actuels.
Étalonnage : Les auteurs proposent que l'alignement d'ancrage est une nouvelle quantité actuellement invisible pour les benchmarks de test standards et mérite une attention future.

L'article ne prétend pas que les LLM possèdent une conscience ou une véritable compréhension, mais met plutôt en évidence une divergence spécifique et systématique dans la manière dont les concepts abstraits sont représentés et utilisés par rapport à la cognition humaine.