Imaginez que vous essayez d'apprendre à un robot brillant mais un peu distrait comment résoudre un puzzle complexe. Vous pourriez penser que si vous donnez au robot un cerveau super intelligent (un grand modèle de langage, ou LLM) et que vous lui demandez de « simplement trouver la solution », il réussira. Mais dans le monde de l'intelligence artificielle, ces modèles sont comme d'incroyables détecteurs de formes qui ont parfois du mal lorsqu'on leur demande de planifier un long voyage en plusieurs étapes. Ils sont excellents pour écrire des histoires ou discuter, mais lorsqu'il s'agit de puzzles logiques stricts — comme déplacer des blocs ou résoudre la Tour de Hanoï — ils se perdent souvent, oubliant les règles ou les étapes qu'ils viennent de suivre. C'est un problème majeur car, si nous voulons que l'IA nous aide pour des tâches du monde réel comme l'organisation d'entrepôts ou la navigation de robots, elle doit être capable de planifier à l'avance sans commettre d'erreurs stupides. La grande question que les chercheurs se sont posée est la suivante : l'IA est-elle réellement trop bête pour planifier, ou utilise-t-elle simplement le mauvais outil pour la tâche ?

Ce document suggère que l'IA n'est pas nécessairement bête ; elle essaie juste de faire trop de choses à la fois. Les auteurs, Ehsan Futuhi et Nathan R. Sturtevant, proposent une nouvelle façon de penser appelée « Chaîne de Calculation » (Chain of Computation ou COC). Au lieu de demander à l'IA d'écrire toute la solution en une seule grande respiration (ce qui revient à demander à un humain de mémoriser un livre entier d'un seul coup), ils placent l'IA dans une boucle avec un « bloc-notes » spécial appelé Fenêtre de Contexte Structurée (Structured Context Window ou SCW). Imaginez cela comme un robot avec un bloc-notes autocollant. Au lieu d'essayer de se souvenir de tout le plan, le robot regarde une seule instruction sur le bloc-notes, exécute cette petite étape, écrit l'instruction suivante sur le bloc-notes, puis indique où se trouve l'instruction suivante. C'est comme un jeu de « suivez le chef » où le robot est à la fois le chef et le suiveur, mettant constamment à jour sa propre carte.

Les chercheurs ont testé cette idée sur trois puzzles classiques : la Tour de Hanoï (déplacer des disques entre des tiges), le BlocksWorld (empiler des blocs) et le Puzzle des Pancakes (trier des pancakes). Ils ont découvert que lorsqu'ils donnać l'IA ce système de « bloc-notes », même des modèles d'IA relativement petits entraînés à partir de zéro pouvaient résoudre ces puzzles avec une précision incroyable — plus de 99,89 % de réussite sur les puzzles de blocs et de pancakes. Le tour de magie résidait dans le fait que l'IA n'avait pas besoin de se souvenir de tout l'historique ; elle devait simplement lire l'instruction actuelle, faire le calcul pour déterminer l'étape suivante, et écrire où regarder ensuite.

Cependant, le document a également découvert un point faible spécifique. Lorsque les puzzles devenaient très grands (comme la Tour de Hanoï avec de nombreux disques), l'IA commençait à faire des erreurs, mais pas parce qu'elle oubliait le plan. Il s'est avéré que l'IA trébuchait sur des mathématiques simples. Quand le robot devait calculer « disque numéro 7 moins 1 » pour déterminer l'étape suivante, il se trompait parfois de chiffre, surtout s'il n'avait jamais vu ce chiffre spécifique auparavant. Les auteurs ont montré que si on aidait l'IA en faisant le calcul pour elle (ou en utilisant un système de « pile » spécial qui ne nécessite pas de calcul complexe), l'IA pouvait résoudre même les versions les plus difficiles de la Tour de Hanoï (jusqu'à 20 disques) parfaitement. Cela suggère que le cerveau de planification de l'IA est en fait assez puissant, mais qu'il a besoin d'un peu d'aide pour l'arithmétique et la gestion de la mémoire pour atteindre son plein potentiel.

La vue d'ensemble : Pourquoi l'IA peine à planifier

Pour comprendre pourquoi ce document est important, nous devons d'abord comprendre les deux personnages principaux de cette histoire : les Grands Modèles de Langage (LLM) et la Planification.

Les LLM sont les cerveaux d'IA super intelligents dont vous avez peut-être entendu parler, comme ceux qui écrivent des essais ou du code. Ils sont entraînés sur de vastes quantités de texte, apprenant à prédire le mot suivant dans une phrase. Parce qu'ils ont beaucoup lu, ils sont excellents pour reconnaître des motifs. Si vous leur demandez d'écrire une histoire sur un dragon, ils peuvent le faire parce qu'ils ont vu des milliers d'histoires de dragons. Cependant, la « planification » est différente. Planifier, c'est comme résoudre un labyrinthe ou organiser un voyage : vous devez réfléchir plusieurs étapes à lavance, vous souvenir de ce que vous avez fait et vous assurer de ne pas enfreindre les règles.

Pendant longtemps, les scientifiques ont remarqué que si les LLM sont excellents pour discuter, ils sont médiocres pour planifier. Si vous demandez à un LLM de déplacer une pile de blocs d'un endroit à un autre sans en faire tomber aucun, il donne souvent un plan qui enfreint les règles ou oublie une étape. C'est frustrant car nous voulons que l'IA soit utile dans le monde réel, où les choses doivent être faites dans le bon ordre.

Il existe une théorie selon laquelle les LLM sont en fait « Turing-complets », une façon mathématique élégante de dire qu'ils devraient être capables de faire n'importe quel calcul qu'un ordinateur peut faire, y compris une planification complexe. Mais en pratique, ils semblent échouer. La grande question que ce document aborde est : Pourquoi ? Le cerveau de l'IA est-il fondamentalement défectueux pour la planification, ou est-ce simplement que nous lui demandons de réaliser la tâche de la mauvaise manière ?

Le problème : Le pièu du « One-Shot »

Imaginez que vous essayiez de résoudre un Rubik's Cube. Si quelqu'un vous demandait d'écrire toute la solution (la séquence de 20 ou 30 mouvements) en une seule phrase sans vous arrêter pour réfléchir, vous pourriez vous tromper. Vous pourriez oublier les étapes intermédiaires ou mélanger les couleurs.

C'est ce qui arrive lorsqu'on demande à un LLM standard de planifier. On lui donne généralement une consigne du type « Résous ce puzzle » et il essaie de générer toute la liste de mouvements d'un seul coup. Le document appelle cela le « Single-Pass, Full Context » (Passage unique, contexte complet). Le problème est qu'à mesure que le puzzle s'agrandit, la liste des mouvements s'allonge. L'IA doit garder tous ces mouvements dans sa « tête » (sa fenêtre de contexte) en même temps. À mesure que la liste croît, l'IA commence à perdre le fil. C'est comme essayer de tenir une conversation avec un ami tout en se souvenant d'une liste de courses, d'un numéro de téléphone et d'un problème mathématique à la fois. Finalement, l'IA s'embrouille, commet une erreur au début, et tout le plan s'effondre.

Les auteurs soutiennent que l'IA n'est pas mauvaise pour planifier ; elle est simplement mauvaise pour gérer une liste géante et désorganisée d'instructions dans sa tête.

La solution : La « Chaîne de Calculation » (COC)

Pour corriger cela, les auteurs ont construit un nouveau système appelé Chaîne de Calculation (COC). Au lieu de demander à l'IA d'écrire tout le plan à la fois, ils placent l'IA dans une boucle.

Imaginez que l'IA est un robot travaillant dans une usine. Au lieu de donner au robot un immense plan de toute l'usine, vous lui donnez une Fenêtre de Contexte Structurée (SCW). Considérez la SCW comme un long ruban de papier, comme les vieux rubans de papier utilisés dans les anciens ordinateurs ou un très long post-it.

Voici comment le robot travaille avec ce nouveau système :

1. Lire : Le robot regarde la toute première instruction sur le ruban.
2. Réfléchir : Il détermine ce qu'il doit faire ensuite en se basant sur cette seule instruction.
3. Écrire : Il écrit une nouvelle instruction à la fin du ruban.
4. Pointer : Il écrit un « pointeur » (comme une flèche) qui dit : « Va regarder l'instruction située juste après celle-ci. »
5. Répéter : Le robot déplace son « œil » vers la nouvelle instruction et recommence.

Le robot n'a jamais besoin de se souvenir de tout le plan. Il doit seulement se concentrer sur l'instruction actuelle et décider de la suite. C'est comme un jeu de « Suivez le chef » où le robot met constamment à jour sa propre carte.

Le document présente un outil spécial appelé pointeur. Ce pointeur indique au robot exactement quelle partie du ruban il doit regarder ensuite. C'est crucial car cela permet de maintenir l'« attention » du robot focalisée sur une petite portion d'information gérable, plutôt que de le noyer dans un océan de texte.

Les expériences : Tester le robot

Les auteurs ont testé ce nouveau robot sur trois puzzles célèbres pour voir s'il pouvait apprendre à mieux planifier.

1. BlocksWorld
C'est un puzzle où vous avez un groupe de blocs empilés sur une table, et vous devez les réorganiser en une forme spécifique. Vous ne pouvez déplacer que le bloc supérieur d'une pile.

• Le résultat : Le robot était incroyablement doué pour cela. Même lorsque le puzzle devenait très complexe (avec 40 blocs), le robot le résolvait parfaitement, 100 % du temps. Il a appris la stratégie consistant à « tout désempiler, puis tout réempiler » et pouvait l'appliquer à n'importe quel nouvel arrangement de blocs qu'il n'avait jamais vu.

2. Le Puzzle des Pancakes
Dans ce puzzle, vous avez une pile de pancakes de différentes tailles. Vous ne pouvez que retourner la partie supérieure de la pile (comme retourner un pancake dans une poêle) pour les réorganiser. Le but est de les trier par taille.

• Le résultat : Similaire à BlocksWorld, le robot s'en est très bien sorti. Il a résolu presque tous les puzzles, même avec 40 pancakes. Le seul moment où il a « échoué » est quand les pancakes étaient déjà triés et qu'il a essayé de les retourner quand même. Mais comme les retourner et les retourner à nouveau n'altérait pas le résultat final, il a quand même atteint l'objectif. Cela a montré que le robot avait appris la logique de base du puzzle.

3. La Tour de Hanoï (TOH)
C'est le puzzle le plus difficile. Vous avez trois tiges et une pile de disques de différentes tailles. Vous devez déplacer toute la pile d'une tige à une autre, mais vous ne pouvez jamais poser un gros disque sur un petit. Le nombre de mouvements nécessaires augmente de manière exponentielle (il devient énorme très vite).

• Le résultat : Ici, le robot était bon, mais pas parfait. Il a résolu environ 92 % des puzzles lorsque les disques étaient petits (jusqu'à 15 disques). Mais à mesure que les puzzles devenaient plus difficiles, il commençait à faire des erreurs.

Le mystère : Pourquoi le robot a-t-il échoué ?

Les auteurs ne se sont pas contentés de dire « ça a marché ». Ils voulaient savoir pourquoi il échouait sur les puzzles les plus difficiles. Ils ont examiné de près les erreurs commises par le robot sur la Tour de Hanoï.

Ils ont découvert que le robot n'échouait pas parce qu'il ne comprenait pas le plan. Il savait exactement quel disque déplacer et où le placer. Le problème était les mathématiques.

Pour garder une trace du plan, le robot devait faire de l'arithmétique simple, comme « Si j'ai 7 disques, je dois d'abord déplacer les 6 premiers ». Il devait calculer « 7 moins 1 » pour obtenir « 6 ». Le document a révélé que lorsque le robot rencontrait un nombre qu'il n'avait jamais vu auparavant (comme un numéro de disque très grand), il se trompait dans le calcul. Il pouvait calculer « 7 moins 1 » comme étant « 5 » ou « 8 », et alors tout le plan partait en éclats.

Ce fut une découverte majeure. Cela signifiait que le « cerveau de planification » du robot fonctionnait parfaitement. L'échec ne résidait pas dans la logique, mais dans la calculatrice.

La solution : Aider avec les mathématiques et la mémoire

Pour prouver cela, les auteurs ont testé deux correctifs différents :

Correctif 1 : Mathématiques symboliques
Ils ont dit au robot d'arrêter d'essayer de faire les calculs lui-même. Au lieu de cela, ils lui ont donné des instructions « symboliques ». Par exemple, au lieu de dire « Déplace le disque 6 », le robot dirait « Déplace le disque (n-1) ». Ensuite, un programme informatique distinct et simple (un module d'arithmétique) ferait le calcul réel et dirait au robot le vrai chiffre.

• Le résultat : Lorsqu qu'ils ont fait cela, le taux de réussite du robot a augmenté. Il pouvait résoudre les puzzles parfaitement car il n'avait plus à se soucier de se tromper dans les chiffres. Cela a prouvé que la partie planification était correcte ; l'arithmétique était le goulot d'étranglement.

Correctif 2 : La Pile (PDA)
Les auteurs ont réalisé que pour la Tour de Hanoï, le robot n'avait même pas besoin de chercher des instructions partout sur le ruban. Il avait seulement besoin de regarder le sommet de la pile et d'ajouter de nouvelles instructions au sommet. C'est exactement comme cela qu'une « Pile » fonctionne en informatique (Dernier Entré, Premier Sorti).
Ils ont reformulé la tâche du robot pour qu'il agisse comme un Automate à Pile Déterministe (PDA). C'est un terme technique pour une machine qui n'utilise qu'une pile.

• Le résultat : Avec cette nouvelle configuration, le robot a résolu 100 % des puzzles de la Tour de Hanoï, même avec 20 disques (ce qui nécessite plus d'un million de mouvements !). Il n'avait pas besoin de faire des calculs complexes pour trouver l'instruction suivante car la pile gérait cela automatiquement.

Ce que cela signifie

Ce document suggère que les Grands Modèles de Langage ne sont pas intrinsèquement mauvais pour la planification. Le problème était que nous leur demandions de tout faire à la fois : se souvenir de tout le plan, faire les calculs et décider de l'étape suivante, tout en fixant un mur de texte géant.

En décomposant la tâche en petites étapes itératives et en donnant à l'IA un « bloc-notes » (la SCW) pour gérer sa mémoire, l'IA peut apprendre à planifier très efficacement. Le document montre que même de petits modèles d'IA, entraînés à partir de zéro, peuvent apprendre des stratégies de planification complexes s'ils sont dotés des bons outils.

Le point clé est que le « raisonnement » de l'IA est fort, mais que son « arithmétique » et sa « gestion de la mémoire » ont besoin d'aide. Si nous séparons la logique de planification de l'arithmétique et que nous donnons à l'IA une façon structurée de gérer ses étapes, elle peut résoudre des problèmes que l'on pensait auparavant trop difficiles.

Les auteurs concluent que, bien qu'ils aient fait un grand pas en avant, il reste encore beaucoup à apprendre. Ils veulent examiner précisément comment le système de « pointeur » aide l'IA et si cette méthode peut être utilisée pour des tâches de planification du monde réel encore plus complexes à l'avenir. Mais pour l'instant, ils ont montré qu'avec un peu de structure, l'IA peut effectivement être un très bon planificateur.