Brain in a Vat: On Missing Pieces Towards Artificial General Intelligence in Large Language Models
Ce papier de perspective critique les évaluations actuelles des LLM pour surestimer leurs capacités, définit l'intelligence artificielle générale à travers quatre caractéristiques clés incluant la génération de tâches et la modélisation du monde, et soutient que l'atteinte de l'AGI nécessite de combler le fossé entre savoir et agir via un engagement actif dans le monde réel et un apprentissage itératif par essais et erreurs.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
L'idée centrale : Le « Cerveau dans un bocal »
Imaginez une personne dont le cerveau a été extrait chirurgicalement de son corps et placé dans un bocal rempli de nutriments. Un superordinateur est relié directement à son cerveau, lui envoyant des signaux électriques qui imitent parfaitement la sensation de marcher, de manger, de parler et de voir le monde. Pour la personne dans le bocal, la vie semble tout à fait réelle. Elle peut parler avec fluidité et décrire une « tasse » avec beaucoup de détails.
Cependant, elle n'a jamais réellement tenu une tasse, n'a jamais ressenti son poids, ni bu dedans. Elle connaît seulement le mot « tasse » parce que l'ordinateur lui a dit ce que le mot signifie.
La thèse de l'article : Les modèles de langage actuels (LLM) comme GPT-4 sont exactement comme ce « Cerveau dans un bocal ». Ils sont brillants pour traiter du texte et prédire le mot suivant dans une phrase, mais ils n'ont aucun lien réel avec le monde physique. Ils connaissent les mots pour désigner les choses, mais ils ne connaissent pas les choses elles-mêmes.
Partie 1 : Pourquoi nous sommes trompés (Le problème du « bachotage »)
Les auteurs soutiennent que nous pensons souvent que les LLM sont des génies parce qu'ils obtiennent des scores incroyablement élevés aux tests standardisés (comme le SAT, l'examen du Barreau ou le GRE).
L'analogie : Imaginez un étudiant qui a mémorisé chaque corrigé des 50 dernières années d'un examen de mathématiques spécifique. Si vous lui donnez un test qu'il a déjà vu, il obtient un score parfait. Mais si vous lui demandez de résoudre un tout nouveau type de problème mathématique qu'il n'a jamais vu, ou si vous modifiez légèrement les chiffres, il échoue lamentablement. Il n'a pas appris les mathématiques ; il a appris des motifs.
L'article montre que les LLM font la même chose :
- Ils sont excellents pour le « bachotage » : Ils excellent dans les sujets comportant beaucoup de données textuelles (comme l'histoire ou la littérature) parce qu'ils ont mémorisé les motifs.
- Ils ont du mal avec le « raisonnement » : Lorsque le test exige une logique réelle, de la physique ou la résolution d'un nouveau problème (comme des mathématiques ou des sciences avancées), leurs scores chutent considérablement. Ils ne font que deviner en fonction des mots qui suivent habituellement d'autres mots, sans comprendre les règles sous-jacentes.
Partie 2 : Le « Manège » du langage
L'article décrit une expérience amusante où deux chatbots IA ont été laissés pour discuter entre eux.
- Ce qui s'est passé : Ils ont commencé par une phrase normale (« Il fait chaud aujourd'hui »). Après quelques échanges, ils se sont retrouvés coincés dans une boucle, se répétant simplement « Merci ! » et « Bonne journée ! » encore et encore.
- La leçon : Sans un monde réel avec lequel interagir, le langage devient un jeu de « téléphone arabe » où les symboles ne font que renver even à d'autres symboles. Ils ne communiquent pas sur la réalité ; ils se contentent de s'échoir mutuellement en cercle.
Partie 3 : Ce dont l'intelligence réelle a réellement besoin
Les auteurs affirment que pour passer d'un « Cerveau dans un bocal » à une véritable Intelligence Artificielle Générale (IAG), un système a besoin de quatre traits spécifiques qui manquent aux IA actuelles :
- Tâches infinies : Il ne doit pas se contenter de pouvoir faire une liste fixe de choses (comme « écrire un e-mail » ou « résoudre un problème de maths »). Il doit être capable de gérer n'importe quelle tâche qui se présente.
- Création de nouvelles tâches : Il ne doit pas simplement attendre des instructions. Il doit être capable de regarder une situation et de dire : « Je dois trouver comment réparer cela », et inventer une nouvelle tâche pour le résoudre.
- Un système de valeurs : Il lui faut un « pourquoi ». Tout comme les humains sont mus par la survie, la curiosité ou la gentillesse, une IA a besoin d'un ensemble interne de valeurs qui décide de ce qu'elle devrait essayer de faire ensuite.
- Un modèle du monde : Elle a besoin d'une carte mentale du fonctionnement du monde réel (la gravité, la relation de cause à effet, les normes sociales), et non pas seulement d'une carte de la façon dont les mots se rapportent les uns aux autres.
Partie 4 : La pièce manquante – « Savoir » vs « Faire »
L'article utilise un célèbre philosophe chinois, Wang Yang-Ming, pour faire un point : « Ceux qui "savent" mais n'agissent pas ne savent pas encore vraiment. »
L'analogie de la « Tasse » :
- L'IA actuelle : Peut vous dire qu'une tasse est « ronde », « possède une anse » et est « utilisée pour boire ». Elle a lu la définition un million de fois.
- L'intelligence réelle : Un bébé apprend ce qu'est une tasse en la saisissant, en la laissant tomber, en sentant sa chaleur, en renversant l'eau, et en réalisant : « Oh, c'est pour contenir du liquide, et si je l'incline trop, ça déborde. »
Les auteurs soutiennent que la connaissance provient de l'action. On ne peut pas vraiment comprendre le monde en lisant simplement un manuel (entrée passive). Il faut toucher, casser, essayer et échouer (interaction active).
- L'expérience du « Blicket » : L'article mentionne une expérience où des enfants apprennent quels blocs allument une machine. Les enfants qui sont autorisés à jouer avec les blocs et à les tester apprennent beaucoup plus vite que ceux qui se contentent de regarder. L'IA actuelle est comme l'enfant qui n'est autorisé qu'à regarder ; elle ne peut pas apprendre les règles du jeu car elle ne peut pas toucher les pièces.
Partie 5 : Ce qui doit se passer ensuite
L'article conclut que nous devons arrêter de simplement créer de plus grandes bases de données textuelles. Pour construire une véritable IAG, nous avons besoin de :
- De meilleurs tests : Nous devons cesser de tester l'IA sur des choses qu'elle pourrait déjà avoir mémorisées sur Internet. Nous avons besoin de tests qui la forcent à résoudre de nouveaux problèmes qu'elle n'a jamais vus.
- Des terrains de jeu riches : Nous devons construire des mondes virtuels (metavers) où l'IA peut réellement faire des choses. Pas seulement discuter, mais ramasser des objets, ressentir leur poids et voir ce qui se passe quand ils se cassent.
- L'unité du savoir et de l'action : Nous devons construire des systèmes où l'apprentissage et l'action sont une seule et même chose. L'IA doit apprendre en essayant des choses, en faisant des erreurs et en ajustant sa compréhension en fonction des résultats.
En bref : L'article dit : « Arrêtez de louer l'IA pour être une excellente encyclopédie. C'est juste un très bon imitateur. Pour la rendre véritablement intelligente, nous devons lui donner un corps (ou un robot) afin qu'elle puisse apprendre en faisant, et non pas seulement en lisant. »
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.