💬 NLP

Closing the Confidence-Faithfulness Gap in Large Language Models

Cette étude révèle que la confiance verbalisée et l'exactitude réelle sont encodées de manière orthogonale dans les grands modèles de langage, ce qui permet de corriger leur désalignement via un pipeline de pilotage adaptatif qui compense l'effet de contamination induit par le raisonnement.

Auteurs originaux : Miranda Muqing Miao, Lyle Ungar

Publié 2026-03-27

📖 4 min de lecture☕ Lecture pause café

CC BY 4.0

Auteurs originaux : Miranda Muqing Miao, Lyle Ungar

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Le Problème : Le Génie Trop Confiant

Imaginez un génie très intelligent (c'est le modèle de langage, ou LLM) qui vit dans une bibliothèque immense. Il connaît des milliards de faits. Mais il y a un gros problème : quand on lui demande de répondre à une question, il a tendance à dire "Je suis sûr à 99 % !" même s'il se trompe.

C'est dangereux. Imaginez un médecin qui vous dit : "Je suis sûr à 95 % que vous avez la grippe" alors qu'il n'a que 40 % de chances d'avoir raison. Les conséquences pourraient être désastreuses.

Les chercheurs se sont demandé : "Est-ce que ce génie ne sait vraiment pas la réponse ?"
La réponse est NON. En réalité, le génie sait quand il a tort ou raison. L'information est là, bien cachée dans sa tête, mais il ne parvient pas à la dire correctement. C'est comme s'il avait un GPS interne très précis, mais qu'il parlait avec une voix qui dit toujours "Tout va bien !" même quand il est perdu.

La Découverte : Deux Langues Différentes

Les chercheurs ont utilisé une sorte de "rayon X" pour regarder comment le génie pense. Ils ont découvert deux choses fascinantes :

Le "Savoir" et la "Confiance" sont dans des directions opposées.
Imaginez que la tête du génie est une grande pièce.
- Dans un coin, il y a une ligne droite qui indique "Est-ce que je suis juste ?" (la vérité).
- Dans un autre coin, presque à 90 degrés (perpendiculaire), il y a une ligne pour "À quel point je me sens confiant ?".
Le problème, c'est que ces deux lignes ne se parlent pas. Le génie a la réponse exacte dans le premier coin, mais il oublie de la regarder quand il parle dans le deuxième coin. Il parle donc au hasard, en gonflant sa confiance.
L'Effet "Contamination par le Raisonnement".
C'est la partie la plus drôle. Quand on demande au génie de réfléchir à un problème ET de donner son niveau de confiance en même temps, il se trompe encore plus !
- Analogie : Imaginez un athlète qui court un marathon. S'il se concentre uniquement sur sa course, il va bien. Mais si on lui demande de courir tout en chantant une chanson très difficile, il va trébucher.
- Dans le cerveau du génie, l'effort de "résoudre le problème" brouille le signal de "confiance". Plus il travaille dur, plus il devient confiant à tort, même s'il est en train de se tromper. C'est ce que les chercheurs appellent l'"Effet de Contamination par le Raisonnement".

La Solution : Le "Stylo Magique" (Steering)

Au lieu de réécrire tout le cerveau du génie (ce qui serait long et difficile), les chercheurs ont trouvé une astuce de magicien. Ils ont créé un "stylo magique" (appelé Contrastive Activation Addition).

Voici comment leur système en deux étapes fonctionne :

Étape 1 : La Lecture Silencieuse.
Avant que le génie ne réponde, on lui demande juste de lire la question. À ce moment-là, on utilise un petit détecteur (une sonde) pour lire son "GPS interne". On voit exactement à quel point il a de chances d'avoir raison.
- Exemple : Le détecteur dit : "Attention, il a 40 % de chances d'avoir raison."
Étape 2 : Le Ajustement.
On utilise le "stylo magique" pour pousser légèrement le génie dans la bonne direction. On lui dit : "Hé, ton GPS interne dit que tu n'es pas sûr, alors baisse un peu ta voix confiante."

On ne change pas sa réponse (il répond toujours la même chose), on change juste ce qu'il dit sur sa confiance.

Les Résultats

Grâce à cette méthode, le génie devient beaucoup plus honnête :

S'il a 90 % de chances d'avoir raison, il dit "Je suis sûr à 90 %".
S'il a 30 % de chances, il dit "Je ne suis pas très sûr".

C'est comme si on avait appris au génie à écouter son propre GPS interne au lieu de crier n'importe quoi.

En Résumé

Ce papier nous dit que les intelligences artificielles ne sont pas "bêtes" ou "ignorantes" quand elles se trompent sur leur confiance. Elles ont simplement oublié de lire leurs propres signaux internes.

Au lieu de les forcer à réapprendre tout depuis zéro, les chercheurs ont juste corrigé le "haut-parleur" qui diffuse la confiance. C'est une solution rapide, efficace et qui fonctionne sur plusieurs modèles différents. C'est une preuve que parfois, pour corriger une erreur, il suffit de bien écouter ce que la machine pense déjà.

1. Problématique

Les grands modèles de langage (LLM) souffrent d'un problème systémique de miscalibration (mauvaise calibration) de leurs scores de confiance verbalisés. Bien que ces modèles possèdent souvent une connaissance interne précise de leur propre exactitude, ils expriment verbalement des niveaux de confiance qui sont déconnectés de leur performance réelle.

Le constat : Les modèles tendent à être excessivement confiants, regroupant leurs scores de confiance verbalisés vers le haut de l'échelle (ex: 95 %), même lorsque leur taux de réussite est faible (ex: 40 %).
L'hypothèse centrale : Ce dysfonctionnement n'est pas dû à un manque de connaissances internes, mais à un échec de lecture (readout failure). Les signaux d'incertitude et de précision existent bien dans le flux résiduel du modèle, mais le processus de génération échoue à les utiliser pour produire des déclarations de confiance fidèles.
Le défi géométrique : La relation géométrique entre le signal interne d'exactitude et le signal de confiance verbalisée reste mal comprise.

2. Méthodologie

L'approche de l'article repose sur l'interprétabilité mécaniste, utilisant deux outils principaux pour analyser et manipuler les représentations internes du modèle :

A. Sondage Linéaire pour la Calibration d'Or (Gold Calibration Linear Probing)

Les auteurs entraînent des sondes de régression ridge sur les vecteurs d'activation extraits du flux résiduel.

Objectif : Vérifier si l'information sur l'exactitude (la probabilité que la réponse soit correcte) est encodée de manière linéaire.
Données : Utilisation d'activations provenant d'un prompt de « pure exactitude » (le modèle répond uniquement, sans mentionner la confiance).
Cible : Prédire l'exactitude empirique (fraction de réponses correctes sur plusieurs échantillons).

B. Pilotage par Addition d'Activations Contrastives (CAA - Contrastive Activation Addition)

Pour établir un lien de causalité, les auteurs utilisent la CAA pour créer des vecteurs de pilotage (steering vectors).

Procédure : On compare les états cachés du modèle lorsqu'il exprime une haute confiance vs une faible confiance (en utilisant des prompts variés).
Vecteur de pilotage : Calculé comme la différence moyenne entre les activations des instances à haute confiance et celles à faible confiance.
Application : Ce vecteur est injecté dans le flux résiduel lors de la génération pour modifier causalement le comportement du modèle.

C. Pipeline de Pilotage Adaptatif en Deux Étages

Pour corriger la calibration, les auteurs proposent un pipeline :

Estimation de la cible : Un sondage linéaire prédit l'exactitude empirique d'une question spécifique à partir de l'état interne du modèle (avant la génération de la réponse). Cette prédiction devient la « cible » de confiance.
Pilotage adaptatif : Une fonction de transfert est construite pour mapper la confiance cible au niveau de force de pilotage ( $\alpha$ ) nécessaire. Le modèle génère ensuite la réponse de confiance avec une force de pilotage spécifique à chaque question pour aligner la sortie verbale sur l'estimation interne.

3. Contributions Clés et Résultats

A. Dissociation Géométrique (Orthogonalité)

Résultat : Les auteurs découvrent que l'information d'exactitude (calibration d'or) et la confiance verbalisée sont encodées dans des directions linéaires presque orthogonales (similarité cosinus < 0,04).
Implication : Le modèle « sait » quand il a tort (signal présent), mais le processus de génération utilise une direction différente pour exprimer la confiance, ce qui explique pourquoi les deux signaux ne sont pas corrélés naturellement.

B. Effet de Contamination par le Raisonnement (Reasoning Contamination Effect)

Observation : Lorsque le modèle est invité à résoudre un problème et à évaluer sa confiance simultanément (prompt conjoint), la relation entre les directions d'exactitude et de confiance s'inverse radicalement.
Données : La similarité cosinus passe d'une faible corrélation positive (+0,26) dans les conditions de confiance pure à une forte corrélation négative (-0,63) dans les conditions conjointes.
Conclusion : Le processus de raisonnement « contamine » le signal de confiance, inversant la relation entre ce que le modèle sait et ce qu'il dit. Cela aggrave la miscalibration.

C. Pilotage Causal et Généralisation

Validité : Les vecteurs de pilotage construits sur un jeu de données (ex: MATH) fonctionnent sur d'autres domaines (TriviaQA, TruthfulQA, MMLU), prouvant que la direction de la confiance est un mécanisme général et non un artefact de format.
Transfert Base-to-Instruct : Les vecteurs extraits des modèles de base (pretrained) peuvent être utilisés pour piloter les versions instruct (fine-tunées), suggérant que le sur-entraînement (RLHF) n'a pas effacé le signal, mais a simplement perturbé sa lecture.

D. Amélioration de la Calibration

L'application du pipeline de pilotage adaptatif en deux étages a permis de réduire considérablement les erreurs de calibration :

Réduction de l'erreur : Réduction de l'Expected Calibration Error (ECE) de 4 à 7 fois par rapport à la confiance verbalisée non pilotée.
Comparaison : La méthode surpasse nettement les approches basées sur le prompting (comme SteerConf) et les méthodes d'entraînement (RLHF).
Exemple : Pour Mistral-7B-Instruct, l'ECE est passé de 35,1 à 3,3.

4. Signification et Conclusion

Cet article apporte une compréhension fondamentale du fonctionnement interne des LLMs concernant la confiance :

Nature du problème : La miscalibration verbalisée est un problème de lecture de signal (readout failure) et non un déficit de connaissances. Le signal de vérité est présent mais ignoré par le générateur.
Mécanisme : Il existe une séparation géométrique stricte entre la connaissance de la vérité et l'expression de la confiance, exacerbée par la contamination lors du raisonnement conjoint.
Solution pratique : Il est possible de corriger ce comportement sans réentraîner le modèle, en utilisant l'interprétabilité mécaniste pour « lire » l'estimation interne de précision et « piloter » la sortie verbale pour qu'elle corresponde.

Limites : L'étude se concentre sur des modèles de 7 à 8 milliards de paramètres et des tâches de questions-réponses avec réponses vérifiables. L'extension à des générations ouvertes et à des modèles plus grands reste à explorer.

En résumé, cette recherche démontre que pour rendre les LLMs plus fiables, il ne faut pas nécessairement leur apprendre à être calibrés, mais plutôt leur apprendre à lire correctement les signaux de confiance qu'ils possèdent déjà.