💬 NLP

Diagnosing Multi-step Reasoning Failures in Black-box LLMs via Stepwise Confidence Attribution

Ce papier présente l'attribution de confiance par étapes (SCA), un cadre pour diagnostiquer les échecs de raisonnement multi-étapes dans les LLMs boîte noire en appliquant le principe du goulot d'étranglement de l'information pour attribuer des scores de confiance au niveau des étapes sur la base de structures de consensus, permettant ainsi une auto-correction plus efficace que les retours au niveau de la réponse traditionnels.

Auteurs originaux : Xiaoou Liu, Tiejin Chen, Dengjia Zhang, Yaqing Wang, Lu Cheng, Hua Wei

Publié 2026-05-20

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Xiaoou Liu, Tiejin Chen, Dengjia Zhang, Yaqing Wang, Lu Cheng, Hua Wei

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous demandiez à un ami très intelligent, mais légèrement distrait, de résoudre un problème mathématique complexe ou de répondre à une question piège. Il ne se contente pas de vous donner la réponse finale ; il écrit tout son processus de pensée, étape par étape, comme un détective résolvant une affaire.

Le Problème :
Parfois, votre ami trouve la bonne réponse par accident, ou il obtient la mauvaise réponse parce qu'il a fait une petite erreur au milieu de son raisonnement. Le problème, c'est que lorsqu'il vous remet le résultat final, vous ne pouvez pas facilement déterminer où il s'est trompé. Est-ce qu'il a raté la première étape ? La dernière ? Ou était-ce simplement de la chance ?

Les méthodes actuelles ressemblent à demander à votre ami : « As-tu trouvé la bonne réponse ? » Il ne peut répondre que par « Oui » ou « Non » concernant la réponse finale. Il ne peut pas pointer la phrase spécifique dans son cahier où le raisonnement a déraillé.

La Solution : Attribution de Confiance Étape par Étape (SCA)
Les auteurs de cet article ont créé un nouvel outil appelé Attribution de Confiance Étape par Étape (SCA). Imaginez cela comme un « Détecteur de Logique » qui lit les notes étape par étape de votre ami et attribue un score de confiance à chaque phrase.

Confiance Élevée (Vérification Verte) : « Cette étape semble solide. Elle correspond à ce que d'autres personnes intelligentes font généralement pour résoudre ce problème. »
Confiance Faible (Drapeau Rouge) : « Attendez une minute. Cette étape semble étrange. Elle ne correspond pas au schéma d'une solution correcte. C'est probablement là que l'erreur s'est produite. »

Comment ça marche ? (L'analogie du « Consensus »)
L'ingrédient secret est ce qu'on appelle le Consensus. Imaginez que vous demandiez à 20 amis intelligents différents de résoudre le même problème.

Même s'ils écrivent leurs étapes dans un ordre différent ou utilisent des mots différents, les solutions correctes partageront toutes quelques « repères » ou « ancres » clés. Par exemple, dans un problème de mathématiques, tout le monde doit calculer le coût des crayons avant de calculer le total.
Le système de l'article examine les 20 solutions. Il trouve le « terrain commun » — les étapes sur lesquelles tous ceux qui ont trouvé la bonne réponse sont d'accord.
Si la solution de votre ami suit ces repères communs, le système attribue à ces étapes un score de confiance élevé.
Si votre ami fait un détour étrange ou saute un repère nécessaire, le système le signale comme ayant une faible confiance.

Les Deux Outils Qu'ils Ont Construits
L'article présente deux façons de faire ce « repérage » :

NIBS (Le « Correspondant de Mots ») : C'est un outil simple et rapide. Il examine simplement les mots et le sens de chaque étape. Si une étape ressemble aux étapes du groupe « correct », elle obtient un score élevé. C'est comme vérifier si une phrase dans une recette correspond aux étapes de mille autres recettes réussies.
GIBS (Le « Lecteur de Carte ») : C'est l'outil sophistiqué et avancé. Il ne regarde pas seulement les mots ; il examine la structure du raisonnement. Il transforme le raisonnement en une carte (un graphe) où les étapes sont reliées par des flèches montrant comment l'une mène à l'autre. Il trouve ensuite la « carte commune » partagée par toutes les solutions correctes. Si la carte de votre ami possède un pont qui n'existe pas dans la carte commune, GIBS le signale. C'est mieux adapté aux problèmes complexes où l'ordre des étapes compte beaucoup.

Pourquoi cela importe-t-il ? (La Magie de l'« Auto-correction »)
L'article montre qu'il ne s'agit pas seulement de trouver des erreurs, mais de les corriger.

Ancienne Méthode : Vous dites à votre ami : « Ta réponse finale est fausse. Essaie encore. » Il devine souvent différemment ou refait la même erreur car il ne sait pas pourquoi il a échoué.
Nouvelle Méthode : Vous dites à votre ami : « Ta réponse finale est fausse. De plus, regarde l'Étape 3 et l'Étape 5 ; notre système pense que ces étapes sont fragiles. »
Résultat : Lorsque l'article a testé cela, les modèles d'IA ont pu corriger leurs propres erreurs beaucoup mieux (jusqu'à 13,5 % de succès en plus) lorsqu'on leur a indiqué les étapes faibles spécifiques, plutôt que de simplement leur dire que la réponse finale était fausse.

En Résumé
Cet article nous offre un moyen de regarder à l'intérieur de la « boîte noire » de la réflexion d'une IA sans avoir besoin d'ouvrir la boîte. En comparant les étapes de raisonnement d'une IA à un « consensus » de solutions correctes, le système peut identifier exactement où le raisonnement dérape. Cela transforme un vague « tu as tort » en un utile « tu t'es égaré ici », permettant à l'IA d'apprendre de ses erreurs spécifiques et de se corriger elle-même.

Résumé technique : Diagnostic des échecs de raisonnement multi-étapes dans les LLM en boîte noire via l'attribution de confiance étape par étape

1. Énoncé du problème

Les grands modèles de langage (LLM) ont démontré de solides performances sur les tâches de raisonnement en générant des solutions étape par étape (par exemple, la chaîne de pensée). Cependant, diagnostiquer où échoue une trace de raisonnement multi-étapes reste un défi majeur. Les approches existantes se divisent en deux catégories : des classificateurs supervisés nécessitant des annotations humaines coûteuses, ou des méthodes de type « LLM en tant que juge » qui héritent de biais et d'incohérences. De plus, les méthodes standard d'estimation de la confiance (CE) opèrent généralement uniquement au niveau de la réponse finale, fournissant des signaux de fiabilité grossiers qui ne parviennent pas à identifier les étapes erronées spécifiques.

Un défi critique dans l'extension de la CE au cadre étape par étape réside dans la distinction entre la variabilité légitime (solutions correctes qui diffèrent par l'ordre, l'expression ou le détail) et les véritables erreurs de raisonnement. Les chemins de raisonnement corrects convergent souvent vers des « invariants logiques » spécifiques (états intermédiaires critiques), tandis que les erreurs représentent des déviations par rapport à ce consensus. L'article répond au besoin d'une Attribution de Confiance Étape par Étape (SCA) : un cadre pour les LLM en boîte noire (sources fermées) qui attribue des scores de confiance aux étapes individuelles de raisonnement en utilisant uniquement les traces générées et les étiquettes de justesse de la réponse finale, sans nécessiter l'accès interne au modèle ni des annotations au niveau des étapes.

2. Méthodologie

Les auteurs proposent un cadre basé sur le principe du Goulot d'Information (IB). L'intuition centrale est de compresser la trajectoire de raisonnement d'entrée en éliminant les variations non essentielles tout en conservant l'information maximale sur le motif de raisonnement correct sous-jacent.

Le cadre définit l'entrée $X$ comme une trajectoire de raisonnement, la représentation compressée $Z$ comme une trajectoire avec des poids de confiance sur ses étapes, et la cible $Y$ comme le signal de justesse. L'objectif est de minimiser $I(X; Z) - \beta I(Z; Y)$ , encourageant la sélection d'un sous-ensemble épars d'étapes hautement pertinentes pour la justesse.

L'article introduit deux instantiations complémentaires de ce principe :

A. IB non paramétrique pour la confiance étape par étape (NIBS)

NIBS est une approche sans entraînement, sous forme fermée. Il suppose que les étapes apparaissant systématiquement dans les solutions correctes sont les plus informatives.

Mécanisme : Il agrège plusieurs traces de solutions issues de solutions correctes pour former des « ancres de consensus ».
Notation : Pour une étape donnée dans une trajectoire, la confiance est calculée en mesurant sa similarité sémantique avec les étapes de l'ensemble des trajectoires correctes.
Implémentation : Il utilise des fonctions de similarité sémantique (par exemple, similarité cosinus des plongements de phrases ou implication NLI) et des stratégies d'agrégation (max ou moyenne) pour calculer les scores sans apprentissage de paramètres.

B. IB graphique pour la confiance étape par étape (GIBS)

GIBS adresse la limitation de NIBS qui ignore les dépendances structurelles entre les étapes.

Représentation : Les traces de raisonnement sont modélisées comme des graphes dirigés où les nœuds représentent les résultats intermédiaires et les arêtes représentent les opérations logiques ou les sous-questions.
Construction du consensus : Un graphe de consensus ( $G_{MC}$ ) est construit en agrégeant les Sous-graphes Communs Maximaux (MCS) entre les graphes candidats et les graphes de solutions correctes.
Apprentissage : GIBS apprend un masque différentiable $p_\theta$ pour sélectionner un sous-graphe $G^*$ qui s'aligne sur la structure de consensus.
Optimisation : L'objectif IB est approximé à l'aide d'une approche variationnelle :
- Compression : Minimisée via la divergence KL entre le masque prédit et un prior épars (encourageant une sélection de type binaire).
- Pertinence : Maximisée en minimisant l'entropie croisée entre le masque prédit et le masque de consensus dérivé des solutions correctes.
Architecture : Le modèle utilise un encodeur BERT pour les caractéristiques sémantiques des étapes et un Réseau de Convolution Graphique (GCN) pour le contexte structurel afin de prédire des probabilités de sélection douces.

3. Contributions clés

Cadre SCA : L'introduction de l'Attribution de Confiance Étape par Étape, le premier cadre conçu spécifiquement pour les LLM en boîte noire afin de fournir des signaux de fiabilité fins au niveau des étapes en utilisant uniquement les traces générées et les étiquettes de réponse finale.
Formulation basée sur l'IB : L'application du principe du Goulot d'Information aux traces de raisonnement, formalisant le compromis entre la compression de la variabilité de sortie et la conservation des invariants logiques.
Deux nouvelles méthodes :
- NIBS : Une méthode non paramétrique, sans entraînement, qui exploite le consensus sémantique.
- GIBS : Une méthode basée sur les graphes, apprenable, qui capture les dépendances structurelles et la variabilité logique par la sélection de sous-graphes.
Utilité diagnostique et corrective : Démonstration que les signaux de confiance au niveau des étapes ne permettent pas seulement de diagnostiquer les erreurs, mais guident également efficacement l'auto-correction, surpassant les retours au niveau de la réponse.

4. Résultats expérimentaux

Les méthodes ont été évaluées sur trois benchmarks : GSM8K (problèmes mathématiques en mots), Math (mathématiques de niveau compétition) et MoreHopQA (QA multi-sauts), en utilisant trois LLM (Llama-3.1-8B, Phi-4-Reasoning, DeepSeek-R1-Distill-Qwen-32B).

Précision (RQ1) : GIBS a systématiquement surpassé de solides bases de référence en boîte blanche (par exemple, Entropie des jetons, Vraisemblance de séquence) et des méthodes adaptées en boîte noire. Sur MoreHopQA, GIBS a atteint une AUROC de 0,8084 sur DeepSeek, nettement supérieure aux bases de référence. Les variantes NIBS ont également obtenu des performances compétitives sans entraînement, démontrant la robustesse de l'alignement de consensus.
Auto-correction (RQ2) : L'utilisation de la confiance au niveau des étapes pour guider l'auto-correction a amélioré le taux de succès de correction jusqu'à 13,5 % par rapport à l'utilisation de retours uniquement au niveau de la réponse. Cela s'est révélé particulièrement efficace pour les modèles de raisonnement plus puissants capables d'exploiter des signaux d'erreur localisés.
Ablation et Robustesse (RQ3) :
- Le retrait de l'encodeur d'arêtes ou de l'encodeur de graphe dans GIBS a entraîné une baisse significative des performances, confirmant la nécessité de signaux structurels locaux et globaux.
- Généralisation sans étiquettes : Le cadre reste efficace dans des contextes sans étiquettes lorsqu'on utilise la « Cohérence de Soi » (trajectoires pseudo-correctes majoritaires) pour construire des ancres de consensus, bien que les performances soient corrélées à la qualité des pseudo-étiquettes.
- Décalage de domaine : GIBS entraîné sur MoreHopQA (textuel) s'est bien généralisé au jeu de données Math sans réentraînement, surpassant NIBS et les bases de référence en boîte blanche, suggérant que la modélisation basée sur les graphes capture des motifs de raisonnement abstraits moins liés au vocabulaire spécifique d'un domaine.

5. Signification et revendications

L'article revendique que SCA fournit un mécanisme évolutif et fiable pour l'audit des LLM en boîte noire sans nécessiter d'accès interne ni d'annotations humaines coûteuses. En distinguant la variabilité légitime des véritables erreurs à travers le prisme des invariants logiques, le cadre permet :

Diagnostic fin : Identification des étapes spécifiques responsables des échecs de raisonnement.
Fiabilité améliorée : Guidage des modèles vers l'auto-correction en mettant en évidence les étapes à faible confiance, améliorant ainsi la précision de la réponse finale.
Généralisabilité : L'approche est robuste à travers différents formats de raisonnement (mathématiques vs textuels) et architectures de modèles.

Les auteurs positionnent ce travail comme un « outil d'aide à l'audit pour la surveillance humaine » plutôt que comme un remplacement du jugement humain, visant à améliorer l'interprétabilité et la fiabilité du raisonnement des LLM dans des scénarios de prise de décision à haut risque.