💬 NLP

Formalizing Latent Thoughts: Four Axioms of Thought Representation in LLMs

Cet article introduit un cadre axiomatique comprenant quatre métriques fonctionnelles pour évaluer les représentations de la pensée latente dans les LLM indépendamment de la précision en aval, révélant que les modèles actuels échouent structurellement à satisfaire ces axiomes en codant un minimum d'informations au-delà des plongements d'entrée et en manquant de la capacité à distinguer des questions spécifiques au sein d'une même tâche.

Auteurs originaux : Fahd Seddik, Fatemeh Fard

Publié 2026-06-29

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Fahd Seddik, Fatemeh Fard

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez un Grand Modèle de Langage (LLM) comme un chef brillant mais très privé. Lorsque vous lui demandez de résoudre un problème de mathématiques ou de répondre à une question complexe, il ne se contente pas de recracher la réponse immédiatement. Au lieu de cela, il passe par un processus de « réflexion ».

Par le passé, nous pouvions voir cette réflexion car le chef l'écrivait étape par étape (comme un « Chaîne de Pensée » ou Chain of Thought). Mais récemment, des développeurs ont tenté de faire réfléchir le chef plus rapidement en cachant ces étapes à l'intérieur d'une « boîte noire » de nombres continus et invisibles (appelés représentations de pensée latente). L'idée est la suivante : « Si la réponse finale est correcte, la réflexion cachée doit être bonne, n'est-ce pas ? »

Le Problème :
Les auteurs de cet article disent : « Pas si vite. » Ce n'est pas parce que le chef sert un plat délicieux (une réponse correcte) que sa réflexion cachée était réellement logique. Le chef pourrait être en train de deviner, ou la « réflexion » pourrait être un mélange désordonné qui ne fonctionne que par accident.

Pour corriger cela, les auteurs ont créé une nouvelle façon d'inspecter les pensées cachées du chef sans regarder la réponse finale. Ils ont construit une « Liste de contrôle d'inspection à quatre points » (appelée Axiomes) pour voir si les pensées cachées accomplissent réellement leur travail.

La Liste de Contrôle d'Inspection à Quatre Points

Considérez la « Pensée » comme une note secrète que le chef écrit avant de cuisiner. L'article soutient qu'une bonne note secrète doit passer quatre tests :

Causalité (Le test de « Cause et Effet ») :
- La Métaphore : Si vous remplacez la recette écrite du chef par sa note secrète, le plat final devrait-il avoir le même goût ?
- L'Affirmation : La note secrète doit contenir exactement la même information que les étapes de raisonnement. Si vous remplacez les étapes par la note, le modèle devrait toujours être capable de prédire la réponse parfaitement. Si la note manque un ingrédient crucial, le plat échoue.
Minimalité (Le test du « Pas de Superflu ») :
- La Métaphore : Imaginez que le chef reçoive une histoire de 50 pages sur un chat, mais que la question porte uniquement sur la météo. Une bonne note secrète ne devrait contenir que les informations sur la météo, et non toute l'histoire du chat.
- L'Affirmation : La pensée doit être un résumé compressé et efficace. Elle ne doit pas porter de « bruit » supplémentaire ou de détails non pertinents provenant de l'invite (prompt) qui n'aident pas à résoudre le problème.
Séparabilité (Le test de « l'Identité Distincte ») :
- La Métaphore : Si vous donnez au chef deux problèmes mathématiques très similaires (ex: « Combien font 2+2 ? » et « Combien font 2+3 ? »), leurs notes secrètes devraient être totalement différentes. Si les notes pour les deux problèmes se ressemblent, le chef ne distingue pas réellement les questions ; il est simplement en train de deviner.
- L'Affirmation : La pensée cachée doit être unique pour chaque question spécifique. Elle doit clairement séparer un problème d'un autre, même s'ils se ressemblent.
Stabilité (Le test de « la Cohérence ») :
- La Métaphore : Si le chef dit « La réponse est quatre » dans une phrase et « C'est quatre » dans une autre, la note secrète devrait être la même. De même, si le chef est confus et dit parfois « Oui » et parfois « Non », la note secrète doit refléter cette confusion, et non simplement choisir un côté de manière aléatoire.
- L'Affirmation : La pensée ne doit pas changer simplement parce que la formulation change légèrement. Elle doit également refléter avec précision le degré d'incertitude du modèle.

Ce Qu'Ils Ont Trouvé (L'Audit)

Les chercheurs ont pris cinq modèles d'IA populaires différents (comme Llama et DeepSeek) et les ont soumis à 23 tâches de raisonnement différentes (comme des puzzles spatiaux, des jeux de logique et des mathématiques). Ils ont vérifié les « notes secrètes » que ces modèles généraient par rapport à leur liste de contrôle à quatre points.

Le Résultat Chocant :
Aucun des modèles n'a réussi les quatre tests.

Ils pouvaient faire la différence entre les tâches : Les modèles pouvaient distinguer une question de « Mathématiques » d'une question d'« Histoire ».
Mais ils ont échoué sur les détails fins : Lorsqu'on leur posait deux questions différentes au sein d'une même tâche (ex: deux problèmes de maths différents), les « notes secrètes » des modèles se ressemblaient presque toutes. Elles s'effondraient en un bloc générique.
L'Invite était meilleure que la Pensée : Étonnamment, le simple texte de la question originale (l'invite ou prompt) était souvent une meilleure « représentation de pensée » que les nombres complexes et cachés que le modèle générait. Les pensées cachées n'ajoutaient pas beaucoup de nouvelles informations ; elles ne faisaient que faire écho à l'entrée (input).

La Grande Conclusion

L'article conclut que cet échec n'est pas dû au fait que les modèles sont trop petits ou mal entraînés. C'est un problème structurel. Même les modèles les plus grands et les plus avancés échouent actuellement à créer une véritable « pensée » distincte pour chaque question. Ils sont bons pour produire la bonne réponse, mais leur processus de « réflexion » interne est souvent un flou générique et effondré qui ne distingue pas réellement les problèmes spécifiques.

En bref : Les modèles obtiennent les bonnes réponses, mais leur « pensée » est brisée d'une manière que les tests standards ne peuvent pas voir. La nouvelle liste de contrôle des auteurs est l'outil nécessaire pour déceler ces failles cachées.

Résumé technique : Formaliser la pensée latente : quatre axiomes de la représentation de la pensée dans les LLM

Énoncé du problème

Le domaine du raisonnement des grands modèles de langage (LLM) s'oriente de plus en plus des jetons (tokens) discrets de la Chaîne de Pensée (CoT - Chain-of-Thought) vers des représentations latentes continues (ex: Soft Thinking, Latent Thinking) afin d'améliorer l'efficacité et la capacité de raisonnement. Cependant, l'évaluation de ces « représentations de pensée continues » est fondamentalement défaillante. Les méthodologies actuelles reposent presque exclusivement sur la précision des tâches en aval (ex: taux de réussite aux benchmarks) pour juger la qualité de la représentation. Cette approche confond la qualité de la représentation interne avec la capacité globale du modèle à décoder ou à traiter cette représentation. Par conséquent, les échecs de représentation sont masqués par la précision en aval ; un modèle peut obtenir des scores élevés aux benchmarks alors que ses « pensées » internes échouent à encoder fidèlement les étapes de raisonnement nécessaires ou à distinguer des instances distinctes d'une même tâche.

Il existe un manque de :

Une définition de principe des propriétés fonctionnelles qu'une représentation de pensée valide doit posséder.
Un protocole d'évaluation intrinsèque capable de mesurer la qualité de la représentation indépendamment de la précision de la tâche en aval.
Une compréhension claire de l'état actuel des méthodes candidates, étant donné les rapports indiquant que les jetons de raisonnement latents sont souvent inutiles pour les prédictions ou échouent à implémenter des recherches structurées dans l'espace latent.

Méthodologie

Les auteurs proposent un cadre d'évaluation axiomatique qui caractérise les représentations de pensée selon quatre propriétés fonctionnelles, définies indépendamment de tout processus de décodage en aval. Le cadre traite la représentation de pensée ( $T$ ) comme un état fonctionnel latent médiateur de la transformation d'un espace d'entrée ( $X$ ) vers un espace de sortie sémantique ( $S$ ).

Les quatre axiomes

Le cadre définit quatre axiomes, chacun ayant une mesure quantitative correspondante calculée directement sur le LLM source sans réentraînement :

Causalité : $T$ doit substituer fonctionnellement le préfixe de raisonnement explicite ( $y_{pre}$ ) au sein du graphe de calcul du modèle.
- Mesure : Erreur de substitution KL. Mesurée en remplaçant les embeddings des jetons de $y_{pre}$ par le projeté $T$ et en calculant la divergence de Kullback-Leibler (KL) entre la distribution de continuation originale $P(y_{suf} | y_{pre})$ et la distribution intervenue $P(y_{suf} | T)$ . Des valeurs plus faibles indiquent une meilleure causalité.
Minimalité : $T$ doit compresser l'entrée tout en conservant une pertinence maximale pour la distribution de sortie, en adhérant au principe du goulot d'étranglement de l'information (Information Bottleneck). Il doit filtrer les variables de nuisance (contexte non pertinent) présentes dans l'entrée.
- Mesure : Écart de minimalité ( $\Delta_{IB}$ ). Un substitut de l'entropie croisée pour le Lagrangian de l'Information Bottleneck à $\beta=2$ . Il est calculé comme $\Delta_{IB} = CE(X | Y, T) - CE(Y | T)$ . Des valeurs plus élevées indiquent une représentation qui est suffisante pour la sortie mais qui ajoute un minimum d'information résiduelle sur l'entrée au-delà de ce que la sortie fournit déjà.
Séparabilité : $T$ doit posséder une structure topologique suffisante pour distinguer des distributions de sortie sémantiquement non équivalentes. Il doit être capable de différencier deux questions distinctes au sein d'une même tâche (fin) et entre différentes tâches (grossier).
- Mesure : Précision du discriminateur. Un discriminateur binaire entraînable est utilisé pour aligner $T$ avec une séquence de sortie candidate. La précision est mesurée sur des paires de même tâche (fin) et des paires de tâches différentes (grossier).
Stabilité : $T$ doit être invariant aux variations lexicales de surface (paraphrase) et robuste à la stochasticité de l'échantillonnage (effondrement de mode). Il doit encoder les paramètres de la distribution sémantique $P(S|x)$ plutôt qu'une réalisation unique.
- Mesure : Score de cohérence distributionnelle (DCS). L'AUROC d'un probe prédisant si les sorties de faisceau (beam outputs) d'une question couvrent plusieurs classes d'équivalence sémantique (entropie sémantique $H_x > 0$ ).

Configuration expérimentale

Candidates : L'étude audite plusieurs représentations candidates, incluant le Last Input Token (LIT) hidden states, le Soft Thinking (avec et sans bruit de Gumbel), et le Latent Thinking, à travers divers « budgets de pensée » (1 à 128 étapes).
Modèles : Cinq LLM en open-weights couvrant diverses architectures et paradigmes d'entraînement : Llama-3.1-8B, Llama-3.3-70B (Dense/Instruct), DeepSeek-R1-Distill-Qwen-32B (Reasoning-distill), Skywork-OR1-32B (Native RL), et GPT-OSS-20B (Sparse MoE).
Tâches : 23 tâches de raisonnement issues du jeu de données Big Bench Extra Hard (BBEH), couvrant le raisonnement spatial, le QA factuel, les puzzles logiques, et plus encore.
Protocole : Les évaluations sont effectuées sur le LLM source en utilisant un backbone de 1B gelé pour le probing, garantissant que les métriques sont découplées de la taille du modèle source et de sa performance en aval.

Résultats clés

L'application de ce protocole intrinsèque révèle un « effondrement représentationnel » que la précision des benchmarks en aval ne parvient pas à détecter :

Aucune candidate ne satisfait tous les axiomes : Aucune des représentations candidates évaluées ne satisfait simultanément la Causalité, la Minimalité, la Séparabilité et la Stabilité.
Échec de la séparabilité (Identité par question) : Bien que les représentations distinguent de manière fiable les différentes tâches (précision cross-task proche de la saturation), elles échouent à distinguer les différentes instances d'une même tâche (précision same-task). Presque toutes les candidates (excepté les Output Embeddings) performent au niveau ou proche de la ligne de base aléatoire pour la discrimination de même tâche. Cela indique que les représentations latentes perdent l'identité spécifique des questions individuelles, faisant s'effondrer les chemins de raisonnement distincts en vecteurs indiscernables.
Compétitivité de l'embedding d'entrée : L'embedding du prompt d'entrée lui-même est compétitif avec, et souvent supérieur aux représentations de pensée candidates sur les quatre axes. Cela suggère que les représentations de pensée actuelles encodent peu d'informations au-delà de ce qui est déjà présent dans l'embedding d'entrée.
Échec structurel : Le schéma d'échec est cohérent à travers les familles de modèles denses, distillés par raisonnement et entraînés par RL. Augmenter le nombre d'étapes de pensée (ex: dans Soft Thinking ou Latent Thinking) ne résout pas l'effondrement ; dans certains cas, la performance se dégrade à mesure que le nombre d'étapes augmente.
Causalité vs Entrée : Aucune représentation de pensée ne fournit de manière constante plus d'informations causales que l'embedding d'entrée seul. Remplacer le préfixe de raisonnement par $T$ produit une distribution de continuation indiscernable de celle obtenue en remplaçant le préfixe par l'embedding d'entrée, impliquant que $T$ n'ajoute aucun signal causal unique.

Signification et affirmations

L'article affirme fournir un moyen fondé sur des principes pour développer et auditer les représentations de pensée candidates en tant qu'objets d'étude, évalués pour ce qu'un LLM encode à propos d'un problème plutôt que pour la qualité du raisonnement ultérieur de toute chaîne.

Résolution diagnostique : Le cadre permet aux chercheurs d'attribuer les changements de précision en aval à des propriétés de représentation spécifiques (ex: une chute de la Séparabilité) plutôt qu'à des scores de benchmarks agrégés qui obscurcissent la cause profonde.
Cibles d'optimisation : Les quatre mesures fournissent des cibles d'optimisation explicites et quantifiables pour la recherche future, allant au-delà des proxies heuristiques comme les budgets de jetons ou l'imitation de la CoT explicite.
Aperçu structurel : Les conclusions suggèrent que l'écart entre les méthodes actuelles de raisonnement latent et l'idéal de la pensée fonctionnelle est structurel, et non simplement une fonction de la taille du modèle ou de procédures d'entraînement spécifiques (comme le RL ou la distillation). La génération actuelle de représentations latentes échoue à implémenter la recherche structurée et spécifique à l'instance requise pour un raisonnement robuste.

Les auteurs positionnent ce cadre comme étant orthogonal à l'évaluation des benchmarks de raisonnement, offrant une couche d'analyse nécessaire pour comprendre les mécanismes internes des modèles de raisonnement avant qu'ils ne puissent être améliorés de manière fiable. Le code et le pipeline d'évaluation sont rendus publics pour faciliter cet audit et ce développement.