💬 NLP

Latent Reasoning with Supervised Thinking States

Ce papier propose « Thinking States », une méthode de raisonnement latent qui génère et réinjecte des jetons de pensée directement dans l'espace des plongements (embeddings) pendant le traitement de l'entrée, permettant ainsi d'améliorer l'efficacité et les performances par rapport au raisonnement par chaîne de pensée (CoT) classique.

Auteurs originaux : Ido Amos, Avi Caciularu, Mor Geva, Amir Globerson, Jonathan Herzig, Lior Shani, Idan Szpektor

Publié 2026-02-10

📖 4 min de lecture☕ Lecture pause café

CC BY 4.0

Auteurs originaux : Ido Amos, Avi Caciularu, Mor Geva, Amir Globerson, Jonathan Herzig, Lior Shani, Idan Szpektor

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Le Problème : Le "Bavardage" de l'Intelligence Artificielle

Imaginez que vous deviez résoudre un problème de mathématiques complexe. Pour ne pas vous tromper, vous utilisez la méthode du "Chain-of-Thought" (Chaîne de Pensée) : vous écrivez chaque étape de votre raisonnement sur un immense tableau noir avant de donner la réponse finale.

C'est très efficace pour ne pas faire d'erreurs, mais il y a un gros problème : le tableau devient gigantesque ! Plus le problème est dur, plus vous écrivez, plus vous perdez de temps à lire ce que vous avez déjà écrit, et plus cela prend de la place (de la mémoire et de l'énergie). C'est ce qui arrive aux modèles d'IA actuels : ils sont très intelligents, mais ils sont devenus de grands "bavards" qui perdent un temps fou à réécrire leurs propres pensées.

La Solution : Les "États de Pensée" (Thinking States)

Les chercheurs ont inventé une méthode appelée "Thinking States". Au lieu de tout écrire en toutes lettres sur un tableau géant, imaginez que l'IA possède un petit carnet de notes secret et ultra-condensé.

L'analogie du Chef de Cuisine 👨‍🍳

Pour comprendre, comparons l'IA classique (CoT) et la nouvelle méthode (Thinking States) à deux chefs de cuisine :

Le Chef "Bavard" (CoT) : Pour faire un soufflé, il crie à haute voix chaque micro-étape : "Je prends un œuf... je casse l'œuf... je sépare le blanc du jaune... je bats le blanc...". Il est précis, mais il fait un bruit d'enfer, il prend une place immense dans la cuisine et il met un temps fou à finir sa recette.
Le Chef "Thinking States" : Lui, il travaille de manière fluide. Pendant qu'il manipule les ingrédients, il fait des micro-réflexions mentales très rapides. Il ne crie pas tout, mais il se fait des "notes mentales" (ses Thinking States). Il traite un groupe d'ingrédients, fait un point rapide dans sa tête, et passe immédiatement à la suite. Il est aussi précis que le premier, mais il est beaucoup plus rapide et discret.

Comment ça marche techniquement (mais simplement) ?

L'idée est de découper la lecture de la question en petits morceaux (des "chunks").

Étape 1 : L'IA lit un petit bout de la question.
Étape 2 : Au lieu de rédiger une longue phrase, elle génère une pensée très courte et "compressée" (comme un résumé ultra-rapide).
Étape 3 : Elle transforme cette pensée en une sorte de "code invisible" (un vecteur mathématique) qu'elle injecte directement dans sa mémoire pour la suite de la lecture.

C'est comme si, en lisant un livre, vous n'aviez pas besoin de prendre des notes sur une feuille, mais que vous aviez une capacité de mémoire immédiate qui vous permet de "digérer" l'information au fur et à mesure, sans jamais ralentir votre lecture.

Pourquoi est-ce une révolution ?

Les résultats des chercheurs sont impressionnants pour trois raisons :

La Vitesse (Le Gain de Temps) : L'IA répond beaucoup plus vite car elle ne perd plus de temps à "écrire" de longues phrases de raisonnement. C'est comme passer d'un marathonien qui s'arrête pour écrire son journal de bord à un sprinter qui garde tout en tête.
La Précision (L'Intelligence) : Contrairement à d'autres méthodes qui essaient de cacher la pensée dans des calculs mathématiques obscurs, ici, l'IA utilise encore des mots (du langage naturel) pour réfléchir. Cela permet de garder une logique très solide, presque aussi bonne que si elle écrivait tout sur un tableau.
La Mémoire (L'Efficacité) : Comme elle ne rajoute pas de texte inutile, la "longueur" de la question ne change pas. Elle peut traiter des problèmes très longs sans saturer sa mémoire.

En résumé

Le papier propose de passer d'une IA qui "pense à voix haute" (longue, lente et gourmande) à une IA qui "pense de manière fluide et condensée" (rapide, efficace et précise). C'est une étape cruciale pour rendre les futurs assistants IA aussi intelligents que des humains, mais avec la vitesse de la lumière.

Résumé Technique : Raisonnement Latent avec États de Pensée Supervisés (Thinking States)

1. Problématique

Le raisonnement par "Chaîne de Pensée" (Chain-of-Thought - CoT) permet aux grands modèles de langage (LLM) de résoudre des tâches complexes en générant des étapes de raisonnement intermédiaires en langage naturel. Cependant, cette méthode présente deux inconvénients majeurs :

Coût d'inférence élevé : La génération de longs rationales augmente considérablement la latence et le nombre de jetons (tokens) produits.
Expansion du contexte : Les étapes de pensée s'ajoutent à la fenêtre de contexte, ce qui peut saturer la mémoire du modèle.

Les méthodes de "raisonnement latent" existantes tentent de compresser ces pensées dans des représentations continues (embeddings). Toutefois, elles souffrent de difficultés d'optimisation, nécessitant souvent la rétropropagation à travers le temps (BPTT), ce qui est coûteux et difficile à mettre à l'échelle.

2. Méthodologie : L'architecture "Thinking States"

Les auteurs proposent une architecture qui permet de raisonner pendant le traitement de l'entrée, sans augmenter la longueur du contexte. Le processus repose sur un mécanisme de récurrence par blocs (chunks) :

Découpage en blocs (Chunking) : La séquence d'entrée est divisée en $K$ blocs non chevauchants.
Bloc de Pensée ( $T$ - Thinking Block) : Un décodeur Transformer léger qui génère une séquence de pensée en langage naturel à partir des représentations profondes du bloc actuel.
Bloc de Compression ( $C$ - Compression Block) : Un encodeur Transformer qui transforme la séquence de pensée (de longueur variable) en un état compressé de taille fixe ( $S$ ).
Injection de l'état : Cet état $S$ est injecté dans les représentations des jetons du bloc suivant au niveau d'une couche superficielle (shallow layer) du LLM de base. Cela permet à la pensée d'influencer les calculs futurs sans être ajoutée explicitement au contexte.

Innovation dans l'entraînement (Teacher-Forcing) :
Contrairement aux méthodes latentes classiques, les auteurs utilisent des annotations en langage naturel pour superviser les pensées. Lors de l'entraînement, ils utilisent le teacher-forcing : ils injectent l'état "idéal" (dérivé des annotations) dans le modèle. Cela permet un entraînement entièrement parallèle, évitant ainsi le coût prohibitif du BPTT.

3. Contributions Clés

Mécanisme de raisonnement récurrent : Capacité de générer des pensées tout en traitant l'entrée, sans extension du contexte.
Entraînement efficace : Grâce à la supervision par langage naturel et au teacher-forcing, l'entraînement est parallélisable et beaucoup plus rapide que les méthodes nécessitant le BPTT.
Préfillage rapide (Speculative Thinking) : Un algorithme de préfillage spéculatif qui permet d'accélérer le traitement initial en supposant que la plupart des blocs n'ont pas besoin de pensée complexe.
Interprétabilité : Puisque les états sont compressés à partir de texte, le raisonnement reste inspectable par l'humain.

4. Résultats Expérimentaux

Les tests ont été effectués sur des modèles Qwen2.5 (0.5B et 1.5B) sur plusieurs types de tâches :

Suivi d'état (State Tracking) : Sur des tâches de parité et d'assignation de variables, Thinking States surpasse largement le CoT en termes de généralisation de la longueur. Le modèle parvient à raisonner sur des séquences beaucoup plus longues que celles vues durant l'entraînement, là où le CoT échoue.
Raisonnement Général (GSM8K et Multi-Hop QA) :
- Sur les problèmes mathématiques (GSM), le modèle égale presque les performances du CoT tout en offrant un gain de vitesse de 2,66x.
- Sur le QA multi-étapes (2-Hop), il surpasse les autres méthodes de raisonnement latent (Coconut, iCoT) et se rapproche de la précision du CoT avec une latence réduite.
Efficacité de l'entraînement : L'étude montre que le coût de l'entraînement de Thinking States reste quasi constant par rapport à la profondeur du raisonnement, contrairement au BPTT qui croît linéairement.

5. Signification et Perspectives

Cette recherche démontre qu'il est possible de concilier haute performance de raisonnement et efficacité computationnelle. En transformant le raisonnement explicite en un état latent supervisé par le langage, les auteurs ouvrent la voie à des modèles plus rapides et moins gourmands en énergie.

Limites identifiées : Le modèle peut souffrir d'ambiguïté d'état (state ambiguity) lorsque l'information cruciale pour le raisonnement ne se trouve qu'à la fin de la requête, car le modèle doit décider de son état de pensée de manière causale (de gauche à droite).

Perspectives : Les auteurs suggèrent d'étendre cette méthode à la phase de décodage pour allouer dynamiquement de la puissance de calcul lors de la génération de la réponse, ou de l'utiliser comme point de départ pour l'apprentissage par renforcement (RL).