🤖 machine learning

Hallucination Is Linearly Decodable from Mid-Layer Hidden States in Quantized LLMs

Cet article démontre qu'un signal de véracité linéairement séparable encodant l'hallucination est fortement présent dans les états cachés des couches intermédiaires des LLM open-source quantifiés en 4 bits, permettant une détection avec des scores AUROC quasi parfaits à l'aide de simples sondes linéaires, alors que les méthodes basées sur l'échantillonnage sont nettement moins performantes selon le même protocole d'évaluation.

Auteurs originaux : Aizierjiang Aiersilan

Publié 2026-06-03

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Aizierjiang Aiersilan

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous avez un assistant robotique très intelligent, mais légèrement peu fiable. Parfois, il dit la vérité, et parfois, il invente des faits qui semblent convaincants mais qui sont complètement faux (ce qu'on appelle des « hallucinations »).

Ce document est comme un rapport de détective essayant de comprendre : Comment savoir si le robot ment, et où se cache le mensonge dans son « cerveau » ?

Les chercheurs ont testé cela sur trois cerveaux de robots populaires et en libre accès (Llama, Mistral et Qwen) qui ont été réduits en taille pour tenir sur un ordinateur domestique standard (en utilisant une technique appelée « quantification 4-bit », qui revient à compresser un film en haute définition en un petit fichier sans trop perdre de qualité).

Voici ce qu'ils ont trouvé, expliqué simplement :

1. Le « Détecteur de Vérité » est une ligne simple

Les chercheurs ont essayé deux méthodes principales pour attraper le robot en train de mentir :

L'approche du « Joueur » (Échantillonnage) : Posez la même question au robot 10 fois. S'il donne 10 réponses différentes, il est peut-être confus ou en train de mentir. S'il donne la même réponse à chaque fois, il dit peut-être la vérité.
L'approche de la « Radio X » (Sondage) : Regardez directement à l'intérieur du cerveau du robot pendant qu'il réfléchit. Plus précisément, ils ont examiné les « états cachés » (les signaux électriques entre les couches du cerveau) pour voir s'il existe un motif indiquant « Vérité » ou « Mensonge ».

Le Résultat : L'approche de la « Radio X » a été la grande gagnante. En regardant seulement une couche spécifique au milieu du cerveau du robot, un outil mathématique très simple (une « sonde linéaire ») pouvait déterminer si le robot mentait avec une précision de 90 % à 100 %.

L'approche du « Joueur » (lui poser la question 10 fois) était pratiquement inutile dans ce test spécifique, ne performant pas mieux que de lancer une pièce de monnaie (environ 50 % de précision).

2. Où dans le cerveau se cache le mensonge ?

Les chercheurs ont découvert que le « signal de vérité » n'est pas partout. C'est comme une pièce spécifique dans un gratte-ciel où la vérité est écrite sur le mur.

Pour les robots Llama et Mistral (qui ont 32 étages), la vérité est plus visible aux étages 13 à 18.
Pour le robot Qwen (qui a 28 étages), la vérité est plus visible aux étages 19 à 25.

Si vous vérifiez le cerveau du robot à ces « étages » spécifiques, vous pouvez presque instantanément savoir s'il est honnête.

3. Pourquoi l'approche du « Joueur » a échoué

Vous vous demandez peut-être : « Pourquoi demander 10 fois la même chose n'a pas fonctionné ? »
Le document explique cela par une distinction subtile :

La Sonde (Radio X) a reçu une réponse spécifique (par exemple : « La capitale de la France est Paris ») et a demandé : « Votre cerveau reconnaît-il cela comme vrai ? » Elle a observé la réaction interne du robot à cette phrase spécifique.
Le Joueur (Échantillonnage) s'est contenté de poser une question et de dire : « Écris 10 histoires différentes ». Il mesurait à quel point le robot était confus par la question, et non si une réponse spécifique était vraie.

Parce que le test était configuré pour vérifier des réponses spécifiques, le « Joueur » cherchait au mauvais endroit. C'était comme essayer de trouver une faute de frappe spécifique dans un document en demandant à l'auteur d'écrire le document 10 fois de zéro, plutôt que de simplement lire le document une seule fois.

4. La « Ligne Simple » contre la « Machine Complexe »

Les chercheurs ont essayé d'utiliser un outil mathématique super complexe (un MLP), pensant qu'il serait plus intelligent qu'un outil simple.
La Surprise : L'outil complexe n'a pas fait beaucoup mieux que l'outil simple. La « vérité » dans le cerveau du robot est en fait très directe — c'est presque comme une ligne droite. Vous n'avez pas besoin d'un super-ordinateur pour la trouver ; une simple règle suffit amplement.

5. L'indice de l'« Attention »

Il y avait un autre truc qui fonctionnait bien, mais seulement quand le robot lisait un texte spécifique (comme un article Wikipédia).
Ils ont observé l'« attention » du robot (ce sur quoi il se concentre) à la toute première étape.

Si le robot disait la vérité basée sur le texte, son attention était focalisée et calme.
S'il hallucinait, son attention était dispersée et confuse.
Cela a donné un indice très fort (jusqu'à 94 % de précision) sans avoir besoin de mathématiques ou de temps supplémentaires.

La Grande Conclusion

Si vous voulez attraper un petit robot IA compressé en train de mentir sur des faits :

Ne lui posez pas la même question 10 fois (cela gaspille du temps et ne fonctionne pas bien ici).
Regardez plutôt à l'intérieur de son cerveau dans les couches intermédiaires (autour de la 15ème ou 20ème couche).
Vous pouvez utiliser un contrôle mathématique très simple et rapide pour repérer le mensonge avec une précision quasi parfaite.

Le document conclut que pour ces types de tests spécifiques, regarder à l'intérieur du cerveau du robot est beaucoup plus rapide et précis que de lui demander de se répéter.

Résumé technique : L'hallucination est linéairement décodable à partir des états cachés des couches intermédiaires dans les LLM quantifiés

Énoncé du problème
Les hallucinations — des générations fluides mais sans fondement factuel — restent un mode de défaillance critique pour les grands modèles de langage (LLM) dans les déploiements réels. La détection de ces erreurs au moment de l'inférence est une nécessité pratique. Les approches de détection existantes se divisent généralement en deux catégories :

Méthodes basées sur l'échantillonnage : Elles génèrent plusieurs continuations stochastiques pour un prompt et signalent les hallucinations en fonction de la divergence lexicale, sémantique ou des états internes (ex: Self-Consistency, Semantic Entropy, INSIDE). Ces méthodes sont coûteuses en calcul, nécessitant $K \ge 5$ passages forward supplémentaires par prompt.
Méthodes basées sur la représentation : Elles entraînent de petits classifieurs (probes) pour décoder directement la véracité à partir des états cachés intermédiaires du modèle. Celles-ci ne nécessitent qu'un seul passage forward, mais elles sont rarement comparées tête-à-tête avec les méthodes d'échantillonnage sur des modèles identiques, particulièrement dans le régime quantifié et contraint en ressources utilisé par les praticiens.

Méthodologie
Les auteurs proposent un cadre d'évaluation unifié conçu pour fonctionner de bout en bout sur un seul GPU grand public (8 Go de VRAM) en utilisant une quantification NF4 à 4 bits.

Modèles : Trois modèles de 7B–8B optimisés pour l'instruction ont été évalués : Llama-3.1-8B-Instruct, Mistral-7B-Instruct-v0.3, et Qwen2.5-7B-Instruct.
Jeux de données : Quatre benchmarks ont été utilisés, chacun fournissant des réponses vraies (label=1) et hallucinées (label=0) appariées pour le même prompt afin d'assurer un équilibre de classe quasi parfait de 50:50 :
- TruthfulQA : Questions à choix multiples avec des distracteurs plausibles mais incorrects.
- HaluEval-QA : Questions-réponses conditionnées par la connaissance avec des passages de preuves explicites.
- FEVER : Affirmations soutenues par Wikipédia, étiquetées comme soutenues ou réfutées.
- Synthétique : Paires contrôlées d'énoncés vrais/faux sur des faits mondiaux.
Protocoles de détection : Quatre méthodes ont été évaluées sous un protocole de label apparié, où la réponse candidate est fournie au modèle plutôt que générée :
1. Sondes linéaires et MLP (style SAPLMA) : Classifieurs entraînés sur les états cachés par couche (pooling du dernier token) pour prédire la véracité.
2. EigenScore INSIDE : Une méthode d'échantillonnage mesurant le logarithme du déterminant de la covariance des états cachés à travers $K=10$ complétions stochastiques.
3. Self-Consistency : Mesure de l'accord parmi $K=5$ complétions via la pluralité de correspondance exacte et la similitude des embeddings de phrases.
4. Entropie d'attention : Résumé de l'entropie de Shannon de la distribution d'attention du dernier token à des blocs transformeurs spécifiques.

Résultats clés
L'étude produit trois conclusions principales concernant la performance et la nature de ces détecteurs :

Supériorité des sondes dans les contextes de labels appariés : Les sondes linéaires sur les couches intermédiaires du réseau atteignent des scores AUROC compris entre 0,904 et 1,000 sur tous les modèles et jeux de données. En revanche, les méthodes d'échantillonnage (INSIDE et Self-Consistency) performent proche du hasard, avec des scores AUROC ne dépassant jamais 0,541.
Linéarité du signal de véracité : Le signal est approximativement linéaire. Les sondes MLP surpassent rarement les sondes linéaires de plus de 0,01 AUROC, suggérant que la direction de la véracité est un sous-espace linéaire au sein de la représentation de l'état caché.
Couches de sondage de pointe cohérentes : Le « signal de véracité » culmine dans une bande de couches cohérente à travers les familles de modèles :
- Llama & Mistral (32 couches) : Blocs 13–18.
- Qwen (28 couches) : Blocs 19–25.
  Sur les benchmarks de langage naturel, le pic se situe systématiquement dans la seconde moitié du réseau.
L'entropie d'attention comme signal complémentaire : Dans les contextes ancrés sur la connaissance (HaluEval-QA), l'entropie d'attention du premier bloc transformeur fournit un signal fort (AUROC 0,866–0,941) sans coût supplémentaire lors de l'inférence. Ce signal ne se généralise pas aux jeux de données dépourvus de passages de preuves explicites.
Robustesse à la quantification : Une haute performance de détection est maintenue sous la quantification NF4 à 4 bits, avec un AUROC de pointe atteignant 0,998 sur HaluEval-QA et 1,000 sur le benchmark synthétique.

Signification et affirmations
L'article affirme que la faiblesse observée des méthodes d'échantillonnage n'est pas une limitation inhérente à ces techniques, mais un décalage structurel entre le protocole d'évaluation et l'information accédée :

Le décalage : Dans le protocole de label apparié, les sondes observent la représentation interne du modèle pour une réponse fournie, ce qui permet de détecter si le modèle distingue cette réponse comme vraie en interne. Inversement, les méthodes d'échantillonnage mesurent l'incertitude générative du modèle concernant le prompt seul, ce qui est faiblement corrélé à la véracité d'une réponse candidate spécifique et pré-fournie.
Implication pratique : Pour la détection en boîte blanche au sein d'un seul modèle déployé, le sondage des états cachés est à la fois plus efficace et nettement moins coûteux (un seul passage forward) que les approches d'échantillonnage.
Déploiement : Les résultats suggèrent que les sondes linéaires peuvent être déployées sur du matériel grand public aux côtés de modèles quantifiés sans le surcoût de la déquantification ou de multiples générations.

Les auteurs concluent que bien que les méthodes d'échantillonnage puissent retrouver de l'efficacité dans les contextes de type « générer-puis-juger », la nature linéairement décodable des signaux d'hallucination dans les états cachés des couches intermédiaires offre une alternative hautement efficace pour détecter les erreurs factuelles dans les LLM instruits et quantifiés.