🤖 AI

Measuring Black-Box Confidence via Reasoning Trajectories: Geometry, Coverage, and Verbalization

Ce papier propose une nouvelle méthode d'estimation de confiance en boîte noire qui intègre des trajectoires de raisonnement de type chaîne de pensée pour mesurer la convergence géométrique vers des ancres de réponse, démontrant que la fusion de ce score basé sur les trajectoires avec les canaux de couverture et de verbalisation surpasse significativement les baselines traditionnelles de cohérence interne sur divers benchmarks et modèles de langage de grande taille sans nécessiter l'accès aux états internes du modèle.

Auteurs originaux : Marc Boubnovski Martell, Josefa Lia Stoisser, Kaspar Märtens, Jialin Yu, Robert Kitchen, Philip Torr, Jesper Ferkinghoff-Borg

Publié 2026-05-08

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Marc Boubnovski Martell, Josefa Lia Stoisser, Kaspar Märtens, Jialin Yu, Robert Kitchen, Philip Torr, Jesper Ferkinghoff-Borg

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous engagez un consultant brillant mais mystérieux pour résoudre un casse-tête difficile. Vous ne pouvez voir que leurs notes écrites (la « Chaîne de Pensée »), mais vous ne pouvez pas voir leurs ondes cérébrales internes, leurs scores de confiance, ni les données brutes qu'ils traitent. Vous devez savoir : Pouvons-nous faire confiance à leur réponse ?

Habituellement, pour vérifier si ce consultant est confiant, vous lui demandez de résoudre le même casse-tête 10 fois et de voir s'il donne la même réponse 10 fois. Cela s'appelle la « Cohérence de Soi ». Cela fonctionne, mais c'est coûteux (vous devez payer pour 10 réponses) et un peu malhabile : c'est comme demander : « Avez-vous obtenu le même résultat 10 fois ? » plutôt que d'examiner comment ils y sont parvenus.

Ce papier introduit une nouvelle méthode, moins chère et plus intelligente, pour mesurer la confiance en examinant la géométrie (la forme et le parcours) des notes du consultant.

Voici la décomposition de leur découverte à l'aide d'analogies simples :

1. L'analogie du « Parcours de Marche » (Géométrie)

Imaginez que le processus de raisonnement du consultant est une personne marchant dans une forêt brumeuse vers une destination spécifique (la bonne réponse).

L'Ancienne Méthode : Vous attendez simplement qu'ils arrivent à la fin et vous demandez : « Êtes-vous sûr ? »
La Nouvelle Méthode : Vous observez leur parcours. En marchant, commencent-ils à dériver de plus en plus près de la bonne destination, même avant de prononcer le nom de la destination à voix haute ?

Les chercheurs ont découvert que si vous examinez les notes du consultant juste avant qu'ils n'écrivent la réponse finale (l'étape « pénultième »), leurs mots se regroupent naturellement plus près de la bonne réponse dans un espace mathématique. C'est comme voir les pas du marcheur se resserrer de plus en plus autour du bon arbre avant qu'ils ne le pointent enfin. Cette « convergence géométrique » est un signal fort qu'ils sont confiants et corrects, même si vous ne pouvez pas voir leur cerveau interne.

2. La Vérification de Confiance en Trois Parties

Le papier soutient que l'on ne peut pas se fier à un seul signal. Ils décomposent la confiance en trois canaux distincts, comme vérifier une voiture avant un long voyage :

Couverture (La Vérification de la Carte) : Le consultant a-t-il même regardé la bonne carte ? A-t-il considéré la bonne réponse comme une possibilité du tout ? S'ils n'ont jamais pensé à la bonne réponse, aucune quantité de confiance ne compte. C'est une vérification de « accessibilité ».
Géométrie (La Vérification du Parcours) : Une fois qu'ils regardent la bonne carte, marchent-ils fermement vers le bon endroit ? C'est le signal de « parcours » décrit ci-dessus. Il mesure à quel point leur raisonnement se verrouille étroitement sur une option spécifique.
Verbalisation (L'Auto-déclaration) : Enfin, vous demandez au consultant : « Sur une échelle de 0 à 100, à quel point êtes-vous sûr ? »
- Découverte surprenante : Cette dernière partie est la moins fiable à elle seule. Parfois, le consultant dit qu'il est sûr à 100 %, mais il marche en réalité en rond. Cela n'aide que lorsque les deux autres vérifications semblent déjà bonnes.

3. Le Secret de la « Pénultième »

L'une des découvertes les plus cool est quand regarder.

Si vous regardez la toute dernière phrase où ils donnent la réponse, le signal devient confus. C'est comme si le marcheur s'arrêtait et criait : « Je suis là ! » même s'il se tient en fait à côté du mauvais arbre.
Les chercheurs ont trouvé que le point idéal est la phrase juste avant la réponse finale. C'est là que la logique interne du consultant est le plus engagée envers la vérité, avant qu'il ne se laisse distraire par l'acte d'écrire le mot final.

4. Le Résultat : Plus Intelligent et Moins Chère

En combinant ces trois signaux (Carte, Parcours et Auto-déclaration), les chercheurs ont créé un système qui :

Coûte moins cher : Il ne faut que 4 tentatives pour obtenir un meilleur score de confiance que les 8 tentatives de l'ancienne méthode.
Fonctionne mieux : Il prédit la bonne réponse avec plus de précision (scores « AUC » plus élevés) dans les examens médicaux et scientifiques.
Est robuste : Il fonctionne même si vous utilisez différents modèles d'IA ou différentes façons de mesurer la « distance » entre les mots.

La Conclusion

Vous n'avez pas besoin d'être un télépathe pour savoir si une IA est confiante. Vous devez simplement observer comment elle pense. Si son parcours de raisonnement se resserre naturellement autour de la bonne réponse juste avant qu'elle ne parle, et si elle a effectivement considéré la bonne réponse dès le départ, vous pouvez lui faire plus confiance que si vous lui aviez simplement demandé de répéter la réponse dix fois.

Limite Importante : Le papier note que si l'IA ne pense jamais à la bonne réponse dès le départ, aucune quantité de « surveillance du parcours » ne peut corriger cela. Le système ne peut vous dire que à quel point l'IA est confiante dans les options qu'elle a effectivement considérées.

Résumé technique : Mesure de la confiance en boîte noire via les trajectoires de raisonnement

Énoncé du problème

Une estimation fiable de la confiance est une condition préalable au déploiement sécurisé du raisonnement par chaîne de pensée (CoT) via des API exclusivement textuelles, où l'accès aux logits, aux états cachés ou aux mécanismes de récupération internes est indisponible. La référence en boîte noire dominante, la cohérence interne (échantillonnage de $K$ CoT et utilisation de la concentration des votes comme signal de confiance), souffre de trois limitations principales :

Coût linéaire : Elle nécessite l'échantillonnage de $K$ traces, ce qui la rend linéairement coûteuse en fonction de $K$ .
Aveuglement géométrique : Elle ignore la géométrie interne de la trace de raisonnement, traitant la trace simplement comme un moyen d'aboutir à une réponse finale.
Résolution discrète : Elle produit un score de confiance discret ( $k/K$ ), qui manque de résolution pour de petits $K$ et ne peut pas efficacement départager les égalités.

Ce papier examine un signal alternatif : la trajectoire du CoT lui-même. Les auteurs proposent de mesurer comment l'incorporation d'une trace de raisonnement converge vers des ancres de réponse externes, visant à dériver un score de confiance continu à partir du seul texte, sans accès aux internals du modèle.

Méthodologie

Le cadre proposé décompose la confiance en boîte noire en trois canaux complémentaires : Couverture (C), Géométrie (G) et Vérbalisation (V).

1. Le canal géométrique (G)

Ce canal mesure l'« engagement spatial intra-trace » d'un CoT envers une ancre de réponse externe.

Construction de la trajectoire : Un CoT est incorporé comme une trajectoire de fenêtres glissantes se chevauchant ( $W=30$ mots, pas $S=15$ ) à l'aide d'un modèle d'incorporation fixe $\phi$ .
Ancres externes : Dans le protocole aveugle, le générateur raisonne sans voir la liste des options. Les textes des options sont incorporés externalement comme des ancres fixes.
Notation : La méthode calcule la distance cosinus de la fenêtre avant-dernière de la trace vers chaque ancre d'option. Le « choix » est l'ancre avec la distance moyenne minimale.
Calibration : Un modèle softmax à un paramètre mappe ces distances vers une probabilité de confiance :
$\text{GEO}(q) = \frac{\exp(\hat{\beta}_{\text{all}} D_{\hat{y}})}{\sum_{j'} \exp(\hat{\beta}_{\text{all}} D_{j'})}$
où $\hat{\beta}_{\text{all}}$ est ajusté par vraisemblance maximale. Un $\hat{\beta}$ fortement négatif indique que les ancres plus proches sont plus susceptibles d'être correctes.
Sélection de la fenêtre avant-dernière : L'analyse empirique révèle que le signal de calibration atteint son pic dans la fenêtre avant-dernière. La fenêtre finale contient souvent la vérbalisation littérale de la réponse, qui s'aligne sur la réponse choisie par le modèle plutôt que sur la réponse or (gold), provoquant l'inversion du signal (un $\hat{\beta}$ positif) dans des benchmarks spécifiques comme GPQA Diamond.

2. La décomposition en trois canaux

Pour pallier le plafond structurel où une trace pourrait ne jamais atteindre l'hypothèse correcte, les auteurs introduisent un régime ouvert avec une configuration Propositeur/Juge :

Couverture (C) : Un a priori médiatisé par un juge mesurant si l'hypothèse correcte est atteignable du tout. Il utilise un LLM propositeur pour générer un pool d'hypothèses et un LLM juge pour évaluer l'atteignabilité. Cela agit comme un signal de difficulté de la question.
Géométrie (G) : Comme défini ci-dessus, mais en utilisant les hypothèses générées par le propositeur comme ancres plutôt que les options fixes du jeu de données.
Vérbalisation (V) : Le générateur reçoit son propre CoT et est invité à fournir une auto-évaluation numérique (0–100) de sa confiance.

Fusion : Les trois canaux sont fusionnés via une régression logistique pour produire un score de confiance final.

Contributions clés

Score de confiance en trajectoire en boîte noire : Une méthode pour mapper $(\text{texte}, \text{incorporateur}, \text{ensemble d'ancres})$ vers un score de confiance continu en utilisant un softmax à un paramètre sur les incorporations de fenêtres glissantes. Le signe et la significativité de la pente ajustée ( $\hat{\beta}$ ) se répliquent à travers trois incorporateurs différents (Gemini, OpenAI, E5), trois raisonneurs et trois benchmarks.
Signature d'engagement en fin de trace : Les auteurs identifient une signature mécaniste où le signal géométrique est le plus profond (le $\hat{\beta}$ le plus négatif) dans la fenêtre avant-dernière et s'inverse à la fenêtre terminale sur GPQA Diamond. Cela valide la fenêtre avant-dernière comme une position de notation robuste capturant l'engagement envers la réponse avant la vérbalisation littérale.
Décomposition asymétrique en trois canaux :
- Couverture (C) et Géométrie (G) portent un signal indépendant dans presque tous les paramètres (18/18 et 16/18 combinaisons, respectivement).
- Vérbalisation (V) contribue un signal résiduel unique dans seulement 6/18 paramètres, agissant comme un canal métacognitif à porte plutôt que comme un pilier universel.
- La fusion de C+G+V à $K=4$ améliore au sens de Pareto la cohérence interne à $K=8$ dans les six paramètres d'ensemble fermé (médiane $\Delta \text{AUC} = +0.075$ ).

Résultats

Le papier évalue la méthode sur MedQA-USMLE, GPQA Diamond et MMLU-Pro en utilisant Gemini 3.1 Pro et Claude Sonnet 4.6.

Signal géométrique : La seule fonctionnalité géométrique (G) atteint un AUC de prédiction sélective de 0,71–0,82 dans les protocoles aveugles, surpassant significativement la cohérence interne dans 9/10 combinaisons benchmark-modèle lorsque les budgets sont appariés.
Gain de fusion : Le score fusionné C+G+V à $K=4$ $K = 4$ surpasse la cohérence interne à $K=8$ $K = 8$ (SC@8) dans les six paramètres d'ensemble fermé.
- Médiane $\Delta \text{AUC} = +0.075$ ( $z$ de Stouffer = 5,67, $p = 7,1 \times 10^{-9}$ ).
- Le gain persiste même lorsque la réponse choisie est fixée au choix majoritaire SC@8, confirmant que l'amélioration est due à une meilleure calibration et non à un changement de réponse.
Robustesse :
- Les résultats tiennent pour différents incorporateurs (y compris E5-large-v2).
- Le remplacement du LLM juge (de GPT-5-mini à Claude Sonnet 4.6) laisse l'AUC géométrique seule inchangée ( $|\Delta| \le 0,013$ ) et déplace l'AUC de couverture seule d'au plus $\pm 0,02$ , indiquant que les signaux ne sont pas des artefacts d'un seul fournisseur.
- La méthode est robuste à la conception des ancres ; l'utilisation d'ancres d'options de jeu de données est critique, tandis que les ancres dérivées de la propre sortie du modèle s'effondrent vers une performance proche du hasard.

Signification et revendications

Le papier revendique que la confiance CoT en boîte noire peut être lue plus fiablement à partir de la convergence géométrique d'une trace dans l'espace d'incorporation qu'à partir de l'accord des votes d'échantillonnage, réalisant cela à un coût d'échantillonnage inférieur et sans accès aux logits ou aux états cachés.

Les points clés soulignés par les auteurs :

Structure plutôt qu'échantillonnage : La confiance est un signal structuré composé de canaux distincts (atteignabilité, engagement, auto-déclaration) plutôt que d'un seul scalaire.
Insight mécaniste : Le signal géométrique atteint son pic avant que le modèle ne vérbalise littéralement sa réponse, suggérant que « l'engagement envers la réponse » est une phase distincte dans la trajectoire de raisonnement qui peut être détectée via la dynamique de l'espace d'incorporation.
Efficacité pratique : La fusion de C+G+V à $K=4$ fournit une meilleure calibration que SC@8 tout en réduisant le coût total de l'API d'environ 51 % (en raison de moins d'appels de génération et de l'efficacité du passage d'incorporation).
Limites : Les auteurs notent modestement que le canal de couverture est médiatisé par un juge LLM (introduisant des a priori potentiels du juge), que la vérbalisation n'est pas universellement utile, et qu'aucun score intra-trace ne peut récupérer une hypothèse correcte si le modèle ne l'a jamais proposée (le « plafond structurel »).

Ce travail fournit un primitif de confiance au niveau de la trace pour les pipelines nécessitant un accès en boîte noire, permettant une abstention plus sûre et une prédiction sélective dans des domaines à haut risque comme le soutien à la décision clinique.