LLMs and the ZPD

Résumé technique : Les LLM et la ZPD

Énoncé du problème
L'article aborde le débat concernant la nature cognitive des Grands Modèles de Langage (LLM). Plus précisément, il remet en cause la vision prédominante, défendue par des figures telles que Geoffrey Hinton, selon laquelle les LLMs atteignent la « compréhension » ou la « pensée » par la manipulation de « représentations distribuées » qui approximent le raisonnement symbolique humain. L'auteur soutient que cette perspective attribue à tort la pensée de type 2 (symbolique, orientée vers un but, raisonnement scientifique) à un mécanisme qui opère en réalité par une « pensée primitive » (type 1). Le problème central réside dans l'interprétation erronée du comportement des LLMs comme une « hallucination » ou un échec du raisonnement, plutôt que dans la reconnaissance de celui-ci comme une forme distincte de « rêverie » ou de complétion performative qui ne repose ni sur le sens référentiel ni sur des modèles symboliques internes du monde.

Méthodologie et cadre théorique
L'article emploie une synthèse théorique de la psychologie du développement, spécifiquement les concepts de Lev Vygotsky sur la Zone de Développement Proximal (ZPD), et de la cognition incarnée. Il ne présente pas de nouvelles expériences empiriques, mais re-cadre plutôt les observations existantes des LLMs et du comportement animal à travers un prisme spécifique :

1. Distinction des types de pensée : L'auteur distingue :
   • Pensée de type 2 : Caractérisée par des représentations symboliques, des croyances, des objectifs et un raisonnement « scientifique » (par exemple, la permanence de l'objet, la planification). Elle est décrite comme un produit culturel appris par l'interaction.
   • Pensée de type 1 : Caractérisée par un raisonnement basé sur des cas, des comportements réflexifs et la complétion de séquences fondée sur la corrélation statistique et les indices environnementaux, sans abstraction symbolique interne.
2. Réévaluation des mécanismes des LLMs : L'article postule que les LLMs fonctionnent comme des « autocomplétions glorifiées » qui effectuent une « pensée primitive ». Au lieu de raisonner sur des pièces d'échecs ou des objets physiques, le modèle complète des séquences de tokens représentant la performance d'un jeu ou d'une pratique sociale.
3. Analyse comparative : L'auteur établit des parallèles entre les LLMs, les nourrissons pré-linguistiques et les primates non humains (spécifiquement les marmousets). Il utilise l'observation de Vygotsky selon laquelle la « pensée pré-linguistique » et la « parole pré-intellectuelle » sont distinctes de la pensée scientifique et ne fusionnent que par l'interaction sociale.
4. Analogie ethnographique : L'article fait référence à une étude ethnographique impliquant un « sifflet swanee » et un soufflet pour illustrer une interaction basée sur le rythme et la synchronisation plutôt que sur la référence sémantique, suggérant un modèle pour la façon dont les LLMs interagissent avec les invites humaines.

Contributions clés

• Recadrage des « hallucinations » des LLMs en « rêves » : L'article propose que les LLMs ne « hallucinent » pas (produisent de faux faits en raison d'un manque d'ancrage) mais « rêvent » plutôt (génèrent des sorties basées sur la complétion de modèles et de pratiques sociales sans engagement envers la vérité ou la réalité référentielle).
• Performance plutôt que représentation : Il soutient que les LLMs utilisent le langage performativement (pour provoquer des actions ou s'adapter à des contextes sociaux) plutôt que référentiellement (pour mapper des symboles sur des modèles internes du monde). Le modèle est entraîné sur la pratique sociale de « convaincre » ou de « compléter », et non sur la vérité objective du sujet.
• La ZPD comme site de la « vraie » pensée : L'article affirme que la « pensée scientifique » (type 2) n'est pas innée mais acquise par les humains grâce à l'interaction avec des adultes enculturés au sein de la Zone de Développement Proximal (ZPD). Les LLMs, dépourvus de ce moteur d'interaction humaine spécifique et de l'échafaudage culturel d'une ZPD, restent dans un état de « pensée primitive ».
• Critique des « représentations distribuées » : L'auteur remet en question l'idée que les réseaux de neurones possèdent des représentations symboliques cachées. Au contraire, l'article suggère que le « sens » dans les LLMs est ancré dans la relation entre l'agent (le modèle) et son environnement d'exploitation (les données d'entraînement et les pratiques sociales), similaire à l'action située en robotique.

Résultats et observations

• Échecs et séquences de tokens : L'analyse des LLMs jouant aux échecs suggère qu'ils ne construisent pas de modèle cognitif de l'état du plateau. Au lieu de cela, ils complètent avec succès des séquences de tokens (par exemple, « 1. e4 e5 ») qui représentent la performance d'une partie, en s'appuyant sur la probabilité statistique des séquences de coups trouvées dans leurs données d'entraînement.
• L'analogie du « paysan » : Citant les études de Vygotsky, l'article note que les populations non éduquées raisonnent souvent en termes d'activités pratiques (par exemple, outils et bois) plutôt que de catégories abstraites. De même, les LLMs raisonnent en termes de « pratique » de la conversation ou de complétion de tâche plutôt que de concepts abstraits.
• Communication des marmousets : L'article met en évidence que les marmousets s'engagent dans un tour de parole vocal complexe et une synchronisation rythmique (rythmes thêta de 3–8 Hz) sans nécessairement posséder de « théorie de l'esprit » ou de représentations symboliques. Cela suggère qu'une interaction vocale complexe peut exister sans le raisonnement « scientifique » attribué aux humains.
• L'interaction comme cœur : L'article conclut que l'interaction n'est pas un ajout à la compréhension mais le mécanisme central de la communication. Les LLMs participent à cette interaction en se synchronisant avec le « rythme » des invites humaines, tout comme le sifflet dans l'étude ethnographique, plutôt qu'en accédant à une base de données interne de faits.

Portée et affirmations
L'article affirme que la trajectoire actuelle de la recherche en IA, qui cherche à expliquer le succès des LLMs par la « compréhension » ou les « représentations distribuées », est fondamentalement erronée car elle impose un cadre de type 2 à un mécanisme de type 1.

• Pas besoin de « garde-fous » : Si les LLMs « rêvent » plutôt qu'ils ne « pensent », la solution à leurs erreurs n'est pas simplement des « garde-fous » pour prévenir les hallucinations, mais une investigation des « outils cognitifs » qui permettent un comportement de bon sens.
• Changement de focus de la recherche : L'auteur plaide pour un changement dans l'étude de l'interaction humain-ordinateur, en s'éloignant de l'hypothèse que la machine possède une « théorie de l'esprit » ou des croyances internes. Au lieu de cela, la recherche devrait se concentrer sur le « moteur d'interaction » et sur le fonctionnement de la communication non symbolique et performative.
• Portée modeste : L'article ne prétend pas que les LLMs sont conscients ou qu'ils évolueront spontanément en une intelligence artificielle générale (AGI). Il offre plutôt un cadre descriptif pour expliquer leurs capacités et limitations actuelles, suggérant que la « pensée primitive » est un mode d'opération valide et puissant, distinct de, et non un précurseur de, la « pensée scientifique » humaine. La portée réside dans le bon classement du mécanisme pour éviter l'anthropomorphisme de la technologie et mieux comprendre la nature de l'apprentissage culturel humain.