💬 NLP

Latent Chain-of-Thought as Planning: Decoupling Reasoning from Verbalization

Cet article introduit PLaT, un cadre qui découple le raisonnement de la verbalisation en modélisant le raisonnement latent comme une trajectoire de planification déterministe, permettant une terminaison dynamique et une diversité de solutions supérieure malgré un compromis sur l'exactitude gloutonne.

Auteurs originaux : Jiecong Wang, Hao Peng, Chunyang Liu

Publié 2026-02-05

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Jiecong Wang, Hao Peng, Chunyang Liu

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Le gros problème : Le piège de l'« étape par étape »

Imaginez que vous essayiez de résoudre un problème mathématique complexe. La génération actuelle de modèles d'IA (comme ceux avec lesquels nous discutons) fonctionne un peu comme une personne qui doit énoncer ses pensées à voix haute avant de pouvoir concevoir l'étape suivante.

En termes techniques, c'est ce qu'on appelle la Chaîne de Pensée (Chain-of-Thought ou CoT). L'IA doit choisir un mot spécifique (un token), puis le suivant, puis le suivant.

La faille : Dès que l'IA choisit un mot, elle « élague » (coupe) tous les autres chemins possibles. Si elle choisit accidentellement un mot légèrement erroné au début, elle est coincée. C'est comme conduire une voiture où vous devez annoncer votre prochain virage à voix haute avant même de regarder la carte. Si vous dites « Tourner à gauche » par erreur, vous ne pouvez pas facilement revenir en arrière pour dire : « Oh, je voulais dire à droite ». C'est ce qu'on appelle l'effondrement du chemin de raisonnement (reasoning path collapse).
Le coût : Pour être sûre, ces modèles doivent souvent écrire chaque étape sous forme de texte. C'est lent et coûteux en termes de calcul, comme si vous deviez écrire un roman entier juste pour savoir quoi acheter pour le dîner.

Les anciennes tentatives « silencieuses » : La boîte noire

Certains chercheurs ont tenté de corriger cela en faisant réfléchir l'IA silencieusement dans sa « tête » (en utilisant des nombres cachés appelés états latents) plutôt qu'en écrivant des mots.

Le problème : Ces méthodes étaient comme une boîte noire. Vous insérez une question, et la machine traite l'information à travers un nombre fixe d'étapes silencieuses (par exemple, exactement 5 étapes), puis recrache une réponse.
La limitation : Vous ne pouviez pas voir comment elle réfléchissait, et elle ne pouvait pas décider de s'arrêter plus tôt si elle avait trouvé la solution rapidement, ou de continuer si le problème était difficile. C'était rigide.

La nouvelle solution : PLaT (Planning with Latent Thoughts)

Les auteurs proposent un nouveau cadre appelé PLaT. Ils divisent le cerveau de l'IA en deux parties distinctes : Le Planificateur (The Planner) et Le Décodeur (The Decoder).

1. Le Planificateur (L'Architecte Silencieux)

Considérez le Planificateur comme un architecte travaillant dans un espace continu et de haute dimension (un paysage d'idées lisse et infini).

Comment ça marche : Au lieu de choisir des mots, le Planificateur se déplace dans ce paysage, explorant de nombreux chemins différents à la fois. Il n'est pas encore obligé de s'engager sur un mot spécifique. C'est comme esquisser un plan dans votre esprit où vous pouvez visualiser plusieurs itinéraires possibles vers la solution simultanément.
La magie : Comme il n'est pas forcé de choisir un mot tout de suite, il ne fait pas « s'effondrer » le chemin. Il maintient vivante une « superposition » de nombreuses solutions potentielles dans sa tête.

2. Le Décodeur (Le Traducteur)

Le Décodeur est la partie qui parle réellement. Il prend le plan silencieux du Planificateur et le traduit en mots seulement quand cela est nécessaire.

Terminaison Dynamique : C'est une caractéristique clé. Le Planificateur peut vérifier son propre progrès. S'il réalise : « J'ai la réponse », il arrête la planification et dit au Décodeur de parler. S'il est encore confus, il continue de planifier. Il n'a pas besoin d'un nombre d'étapes prédéfini.

Le compromis : Précision vs Exploration

Le papier a découvert un compromis très intéressant, qu'ils appellent le Compromis Précision-Diversité (Precision-Diversity Trade-off).

Le test « Gourmand » (Précision en un coup) : Si vous demandez à l'IA de donner immédiatement la réponse la plus probable (comme un étudiant passant un examen sans vérifier son travail), PLaT obtient en réalité un score inférieur aux anciennes méthodes. C'est un peu plus « désordonné » dans sa première tentative.
Le test « Recherche » (Exploration) : Cependant, si vous laissez l'IA essayer de nombreuses variations de sa réponse (en échantillonnant 32, 64 ou 128 chemins différents), PLaT surpasse largement la concurrence.
L'analogie : Imaginez une chasse au trésor.
- L'IA classique (CoT) : Marche sur une seule ligne droite. Si elle rencontre un mur, elle s'arrête. Elle est très rapide si le chemin est le bon, mais elle se bloque facilement.
- PLaT : Se tient au milieu d'une forêt et regarde dans 100 directions différentes à la fois. Sa première intuition peut être fausse, mais si vous la laissez vérifier les 100 directions, elle est beaucoup plus susceptible de trouver le trésor car elle a exploré une zone plus large.

Pourquoi c'est important (selon le papier)

C'est transparent : Contrairement aux anciennes méthodes silencieuses de type « boîte noire », PLaT nous permet de jeter un œil aux « pensées » du Planificateur (les états latents) et de les traduire en texte pour comprendre pourquoi il a pris une décision.
C'est efficace : Il évite d'écrire chaque mot intermédiaire. Il n'écrit la réponse finale ou les étapes spécifiques que lorsqu'il est nécessaire de le faire, économisant ainsi du temps et de la puissance de calcul.
C'est une meilleure base pour la recherche : Parce que PLaT apprend un « espace de solution large » (une carte de nombreuses possibilités) plutôt que de mémoriser un seul chemin, il est parfait pour les algorithmes de recherche avancés (comme Tree-of-Thoughts) qui ont besoin de points de départ diversifiés pour résoudre des problèmes complexes.

Résumé

PLaT est comme donner à une IA un bac à sable mental. Au lieu de la forcer à construire une tour brique par brique (mot par mot) où une seule erreur gâche tout, cela lui permet de construire toute la structure dans son esprit d'abord. Elle ne construit la tour physique (le texte) qu'une fois certaine que le design fonctionne. Cela rend l'IA meilleure pour explorer des problèmes complexes, même si sa toute première proposition n'est pas toujours parfaite.

Résumé Technique : PLaT (Planning with Latent Thoughts)

1. Énoncé du Problème

Le raisonnement actuel par Chaîne de Pensée (Chain-of-Thought - CoT) dans les modèles de langage de grande taille (LLM) fait face à deux goulots d'étranglement principaux :

Effondrement du chemin de raisonnement (Reasoning Path Collapse) : Le CoT standard opère dans des espaces de tokens discrets. À chaque étape de génération, le modèle doit sélectionner un seul token parmi le vocabulaire, ce qui revient à élaguer de fait les autres chemins de raisonnement valides. Cela empêche le modèle de maintenir une superposition de multiples stratégies, menant souvent à des erreurs irréversibles une fois qu'un token sous-optimal est choisi.
Inefficacité Computationnelle : La génération de longues séquences de tokens textuels intermédiaires entraîne des coûts de calcul élevés.

Les approches récentes de « raisonnement latent » tentent d'atténuer ces problèmes en effectuant le raisonnement au sein d'états cachés continus. Cependant, les méthodes existantes fonctionnent généralement comme des mappages de bout en bout opaques qui nécessitent un nombre prédéfini et fixe d'étapes latentes lors de l'inférence. Elles manquent de la capacité de déterminer dynamiquement quand le raisonnement est terminé et offrent une interprétabilité limitée des états intermédiaires.

2. Méthodologie : Cadre PLaT

Les auteurs proposent PLaT (Planning with Latent Thoughts), un cadre qui découple fondamentalement le processus de raisonnement (la pensée) de la verbalisation (le langage). L'hypothèse centrale est que le raisonnement doit se dérouler comme une trajectoire déterministe dans un espace latent continu, la génération de texte ne servant que de projection de faible dimension lorsque cela est nécessaire.

Architecture

PLaT se compose de deux composants distincts interagissant via des projecteurs linéaires :

Le Planificateur (The Planner) : Opère de manière autorégressive dans une variété continue de haute dimension. Il fait évoluer une séquence d'états de planification latents ( $\tilde{S}$ ) basée sur la question d'entrée et les états précédents. Contrairement aux méthodes précédentes qui échantillonnent des distributions pour la planification, le Planificateur génère des vecteurs déterministes. Il maintient une densité probabiliste sur plusieurs possibilités logiques jusqu'à ce qu'une décision soit requise.
Le Décodeur (The Decoder) : Agit comme l'interface avec le monde textuel. Il prend l'état latent agrégé ( $S_k$ ) et le verbalise en segments de texte ( $y_k$ ). Le Décodeur est entraîné pour reconstruire les étapes de raisonnement de vérité terrain à partir des états latents.

Stratégie d'Entraînement

Ajustement Fin Supervisé (SFT) : L'ensemble du pipeline est optimisé en utilisant une perte de reconstruction (Entropie Croisée) entre le texte de vérité terrain et la prédiction du modèle conditionnée par l'état latent. Pour empêcher le modèle de mémoriser des mappages point par point et pour apprendre la structure de la variété, un bruit gaussien est injecté dans les états accumulés pendant l'entraînement. Un mécanisme de Moyenne Mobile Exponentielle (EMA) est utilisé pour stabiliser la trajectoire de planification en agrégeant l'information à travers des micro-étapes.
Apprentissage par Renforcement (RL) : Pour affiner la politique de recherche, les auteurs emploient l'Optimisation de Politique Relative de Groupe (GRPO). Crucialement, les paramètres du Planificateur sont gelés pour maintenir l'intégrité structurelle de la variété latente. La diversité est introduite uniquement lors de la phase de verbalisation en permettant l'échantillonnage par température dans le Décodeur. Cela permet au modèle d'explorer différents chemins de verbalisation à partir du même état latent fixe, convergeant vers celui qui maximise la probabilité d'une solution correcte.

Inférence : Décodage Paresseux (Lazy Decoding)

PLaT introduit un protocole d'inférence efficace appelé Décodage Paresseux. Puisque le Planificateur opère dans l'espace latent, le modèle génère la trajectoire des états sans générer de texte complet.

Le système effectue une « sonde sémantique » en ne décodant que le premier token du texte potentiel.
Si le token n'est pas un token de réponse, le modèle le rejette et passe à l'état latent suivant.
Si le token indique une réponse, le modèle interrompt le raisonnement et décode entièrement la réponse finale.
Cette approche saute la génération coûteuse de token en token pour toutes les étapes intermédiaires, réduisant considérablement la latence tout en conservant la capacité d'inspecter la chaîne de raisonnement sur demande.

3. Résultats Clés

Des expériences ont été menées sur des benchmarks mathématiques (GSM8k, GSM-HARD, SVAMP, MultiArith) en utilisant un backbone GPT-2 (small).

Compromis Précision vs Diversité : PLaT présente un comportement distinct par rapport aux lignes de base (CoT-SFT, Coconut, CODI).
- Précision Greedy (Greedy Accuracy) : PLaT obtient généralement une précision greedy inférieure à celle des lignes de base. L'article attribue cela à la perte d'information inhérente à la cartographie du raisonnement vers un espace latent compressé et aux limitations de paramètres du petit backbone.
- Pass@k (Diversité) : PLaT démontre une scalabilité supérieure en matière de diversité de raisonnement. Sur les métriques Pass@128, PLaT surpasse significativement les lignes de base (par exemple, 74,2 % contre 66,7 % pour Coconut sur GSM8k). Les courbes de diversité des lignes de base ont tendance à s'aplatir (saturer) à des valeurs de $k$ plus élevées, tandis que PLaT maintient une pente ascendante plus raide, indiquant qu'il apprend un espace de solution plus large et plus robuste plutôt que de sur-apprendre une trajectoire étroite.
Efficacité : PLaT réalise une accélération significative par rapport au CoT explicite (réduction d'environ 56 % de la latence) en sautant la génération de tokens intermédiaires. Bien qu'un peu plus lent que la méthode opaque Coconut, PLaT offre une interprétabilité que Coconut n'a pas.
Analyse de l'État Latent : L'analyse des facteurs de branchement révèle que PLaT maintient un facteur de branchement plus élevé tout au long du processus de raisonnement par rapport au CoT. Alors que le CoT élague agressivement les chemins tôt (s'effondrant vers une trajectoire unique), PLaT conserve une gamme plus large de chemins potentiels, le nombre de branches valides finissant par dépasser celui du CoT dans les étapes ultérieures.

4. Contributions et Signification

L'article revendique les contributions suivantes :

Reformulation du Raisonnement Latent : PLaT déplace le paradigme de la reconnaissance de formes implicite vers la planification dans un espace latent continu, en découplant explicitement le raisonnement de la verbalisation.
Architecture Découplée : L'introduction d'une architecture Planificateur-Décodeur permet un raisonnement intermédiaire interprétable et une terminaison dynamique de l'inférence, répondant à la nature de « boîte noire » et aux limitations d'étapes fixes des méthodes latentes précédentes.
Découverte de Compromis Empiriques : Ce travail identifie un compromis critique entre la précision greedy et le potentiel d'exploration. Les auteurs soutiennent que la capacité de PLaT à apprendre une variété de solutions large et explorable en fait une fondation supérieure pour les algorithmes de recherche à l'inférence (ex: Tree-of-Thoughts ou échantillonnage de rejet), même si sa précision greedy autonome est plus faible.

Signification :
Les auteurs avancent que PLaT offre une fondation transparente et scalable pour les futurs systèmes de raisonnement de type « Système 2 ». En traitant les états latents comme des trajectoires de planification explorables plutôt que comme de simples artefacts de compression, PLaT déplace l'attention de la mémorisation de « traces dorées » vers l'apprentissage d'espaces de recherche généralisables. Cette approche permet une terminaison dynamique et fournit un mécanisme pour inspecter les pensées internes sans perturber le flux de raisonnement continu, ouvrant la voie à une mise à l'échelle avancée de l'inférence et à un apprentissage par renforcement basé sur la recherche.