💬 NLP

Probabilistic distances-based hallucination detection in LLMs with RAG

Cet article propose une méthode non supervisée et efficace pour détecter les hallucinations dans les systèmes RAG en analysant les distances probabilistes entre les distributions des embeddings des tokens d'entrée et de sortie, démontrant ainsi des performances de pointe.

Auteurs originaux : Rodion Oblovatny, Alexandra Kuleshova, Konstantin Polev, Alexey Zaytsev

Publié 2026-02-26

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Rodion Oblovatny, Alexandra Kuleshova, Konstantin Polev, Alexey Zaytsev

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

🕵️‍♂️ Le Problème : Le Conteur qui Invente des Histoires

Imaginez un grand conteur (c'est l'IA, ou "LLM") qui a lu des millions de livres. Quand vous lui posez une question, il vous raconte une histoire. Parfois, il est très précis et s'appuie sur ce qu'il a lu. Mais parfois, il hallucine : il invente des faits, mélange les dates, ou raconte des choses qui n'existent pas, tout en ayant l'air très sûr de lui.

C'est particulièrement dangereux si le conteur utilise un livre de référence (c'est le système RAG : Retrieval-Augmented Generation) pour répondre. Si le livre dit "Le ciel est bleu" et que le conteur répond "Le ciel est vert", il y a un problème. Le but de ce papier est de créer un détective capable de repérer immédiatement quand le conteur commence à inventer.

🔍 La Solution : Le "Test de Respiration" dans le Cerveau de l'IA

Les chercheurs (Rodion, Alexandra, Konstantin et Alexey) ne regardent pas simplement le texte final. Ils regardent comment le cerveau de l'IA fonctionne pendant qu'il parle.

Imaginez que chaque mot que l'IA produit a une "signature électrique" ou une "empreinte digitale" cachée dans son cerveau (ce qu'on appelle les états cachés ou hidden states).

L'idée de base :
- Quand l'IA raconte une histoire vraie (basée sur le livre), la "signature" de sa réponse ressemble beaucoup à la "signature" de la question et du livre. C'est comme si elles dansaient la même valse.
- Quand l'IA invente (hallucine), sa signature commence à danser une toute autre danse. Elle s'éloigne de la musique de la question.
La mesure de l'écart (MMD) :
Les chercheurs utilisent une règle mathématique appelée MMD (Maximum Mean Discrepancy). Imaginez que c'est un mètre laser qui mesure la distance entre deux groupes de danseurs :
- Groupe A : Les mots de la question.
- Groupe B : Les mots de la réponse.
- Si la distance est petite : "Tout va bien, la réponse est cohérente."
- Si la distance est grande : "Alerte ! La réponse s'éloigne trop de la réalité, c'est probablement un mensonge."

🎲 Pourquoi utiliser le "Wild Bootstrap" ? (Le Test de la Pièce de Monnaie)

Le problème, c'est que les distances peuvent varier selon la longueur de la phrase. Pour être sûr à 100% que l'écart est vraiment dû à une hallucination et pas juste à un hasard, les chercheurs utilisent une technique appelée Wild Bootstrap.

L'analogie : Imaginez que vous voulez savoir si un joueur de dés triche. Vous ne regardez pas juste un lancer. Vous lancez les dés 2000 fois en modifiant légèrement les règles à chaque fois (comme si vous souffliez sur les dés ou changez la table) pour voir à quoi ressemble un jeu "normal".
Dans leur méthode, ils simulent des milliers de scénarios "normaux" pour calculer une probabilité (p-value). Si la distance mesurée est plus grande que 99% des distances "normales", alors c'est une hallucination. C'est comme obtenir un score de confiance de 0 à 100%.

🧠 Le Secret : Regarder les "Yeux" individuels (Attention Heads)

Les modèles d'IA sont comme des géants avec des centaines de petits yeux (les têtes d'attention).

Les anciennes méthodes regardaient le géant de loin (au niveau de la "couche" entière). C'était flou, comme regarder une photo floue.
Cette nouvelle méthode demande au géant : "Montre-moi tes yeux les plus intelligents !"
Ils sélectionnent les 6 meilleurs yeux qui voient le mieux la vérité. En regardant à travers ces yeux précis, ils voient les mensonges beaucoup plus clairement que si ils regardaient l'ensemble du cerveau en vrac.

🌍 L'astuce du "Changement de Métier" (Transfert NLI)

Le plus génial de cette méthode, c'est qu'elle n'a pas besoin d'apprendre sur des exemples de mensonges spécifiques.

Les chercheurs ont entraîné leur détective sur un jeu de logique simple : "Si A est vrai, est-ce que B est vrai ?" (C'est la tâche NLI).
Ensuite, ils ont envoyé ce même détective vérifier des réponses d'IA.
Résultat : Le détective a compris que "mentir" dans une histoire de logique, c'est la même chose que "halluciner" dans une réponse d'IA. Il a réussi à repérer les mensonges même sans avoir jamais vu d'exemples de mensonges auparavant ! C'est comme un détective formé à repérer les faux billets qui arrive à repérer les faux documents administratifs sans nouvelle formation.

🏆 Pourquoi c'est important ?

C'est rapide : Pas besoin de faire répéter la question 20 fois à l'IA pour vérifier (ce qui est lent et cher).
C'est précis : Sur les gros modèles (comme LLaMA-13B), c'est l'une des meilleures méthodes au monde pour repérer les mensonges.
C'est universel : Ça marche même si on change de domaine (médecine, droit, finance) car le détective a appris la logique de la "vérité" elle-même.

En résumé : Ces chercheurs ont créé un détective qui écoute le "battement de cœur" électrique de l'IA. Si le rythme s'accélère et s'éloigne de la question, le détective crie : "Attention, il invente !" Le tout en utilisant des mathématiques élégantes pour ne pas se tromper.

1. Problématique

Les grands modèles de langage (LLM) sont de plus en plus utilisés dans des systèmes de génération augmentée par la récupération (RAG), où ils répondent à des requêtes en s'appuyant sur un contexte externe. Cependant, ces modèles souffrent d'hallucinations : ils génèrent du contenu incorrect ou inventé qui ne correspond ni aux faits réels ni au contexte fourni.

Les méthodes existantes de détection d'hallucinations présentent plusieurs limites :

Elles ignorent souvent la relation spécifique entre le contexte (requis) et la réponse générée dans les systèmes RAG.
Les approches basées sur la cohérence (générer plusieurs réponses) sont coûteuses en calcul.
Les méthodes basées sur l'incertitude (probabilités des tokens) ne capturent pas bien les dépendances complexes.
La plupart des travaux se concentrent sur les cartes d'attention, négligeant les informations sémantiques riches encodées dans les états cachés (hidden states) des transformateurs.

L'objectif de cet article est de proposer une méthode intrinsèque, efficace et ne nécessitant pas de bases de connaissances externes, pour détecter les hallucinations en analysant les écarts statistiques entre les états cachés de l'invite (prompt) et de la réponse.

2. Méthodologie

L'approche proposée repose sur l'hypothèse que les réponses hallucinées dévient significativement, dans l'espace latent du modèle, par rapport aux états cachés du contexte (prompt), tandis que les réponses fondées (grounded) restent proches.

A. Distance Probabiliste (MMD)

Au lieu d'utiliser des valeurs brutes, les auteurs utilisent la Discrépance Maximale des Moyennes (Maximum Mean Discrepancy - MMD). Cette métrique statistique mesure la distance entre deux distributions de probabilités (ici, les états cachés des tokens du prompt $P$ et ceux de la réponse $R$ ) dans un espace de Hilbert à noyau reproduisant (RKHS).

Une distance MMD élevée indique une forte divergence, suggérant une hallucination.
Le noyau utilisé est un noyau Laplacien avec une norme $L_1$ .

B. Utilisation du Wild Bootstrap

Pour rendre le test valide dans un cadre non asymptotique et comparable pour des séquences de longueurs différentes, les auteurs ne se basent pas sur la valeur brute du MMD, mais sur sa valeur p.

Ils utilisent une procédure de Wild Bootstrap (avec des poids suivant un processus autorégressif AR(1)) pour approximer la distribution nulle de la statistique MMD.
Cela permet de capturer les dépendances séquentielles inhérentes aux représentations de tokens (syntaxe, sémantique), ce que le simple mélange d'étiquettes (label shuffling) ne ferait pas.
Le score final est une valeur normalisée : $Score = 1 - p\text{-value}$ .

C. Sélection des Têtes d'Attention (Head Selection)

Plutôt que d'utiliser les embeddings moyens par couche (layer-wise), la méthode opère au niveau des têtes d'attention individuelles.

Les auteurs sélectionnent un sous-ensemble optimal de têtes ( $N_{opt}$ ) qui maximisent la capacité de séparation entre les réponses hallucinées et non hallucinées sur un ensemble de sondage (probe dataset).
Les expériences montrent que les signaux de fidélité sont souvent « flous » au niveau de la couche, mais nets au niveau de la tête spécifique.

D. Transfert vers le NLI (Natural Language Inference)

Une innovation majeure est l'utilisation de la similarité entre la détection d'hallucinations et la tâche d'inférence linguistique naturelle (NLI).

Une hallucination dans un contexte RAG est analogue à une contradiction entre une prémisse et une hypothèse en NLI.
Les auteurs entraînent le sélecteur de têtes sur des données NLI étiquetées (ex: SNLI) et transfèrent le modèle vers la détection d'hallucinations sans données étiquetées spécifiques à ce domaine. Cela permet une détection non supervisée complète.

3. Contributions Clés

Analyse des distances probabilistes : Démonstration que les réponses hallucinées présentent des écarts distributionnels plus importants par rapport au prompt dans l'espace des états cachés des LLM.
Approche intrinsèque sans modèle externe : Proposition d'un détecteur utilisant uniquement les états internes du LLM via des distances MMD et du Wild Bootstrap, sans nécessiter de bases de connaissances externes ni de modèles auxiliaires lourds.
Détecteur non supervisé par transfert NLI : Construction d'un détecteur capable de fonctionner sans exemples étiquetés d'hallucinations en exploitant la similarité structurelle avec la tâche NLI.
Performance d'état de l'art : Validation expérimentale montrant des performances compétitives ou supérieures sur plusieurs modèles (LLaMA-2, Mistral) et jeux de données.

4. Résultats Expérimentaux

Les expériences ont été menées sur trois modèles (Mistral-7B, LLaMA-2-7B, LLaMA-2-13B) et quatre jeux de données (RAGTruth, CoQA, SQuAD, XSum).

Performance Globale : La méthode (MMD) obtient les meilleurs ou deuxième meilleurs résultats (mesurés par ROC-AUC) sur la plupart des configurations, en particulier sur le modèle le plus grand (LLaMA-2-13B).
- Exemple : Sur SQuAD avec LLaMA-2-13B, la méthode atteint un ROC-AUC de 0.94, surpassant largement les méthodes de référence comme Perplexity (0.45) ou EigenScore (0.57).
Transfert NLI : Le transfert des têtes sélectionnées sur SNLI vers la détection d'hallucinations fonctionne remarquablement bien, confirmant la corrélation forte (mesurée par Spearman) entre les scores de la méthode et ceux d'un modèle NLI SOTA (roberta-large-mnli).
Ablation Studies :
- Bootstrap : L'utilisation du Wild Bootstrap améliore la stabilité et la performance par rapport à l'utilisation de la valeur brute du MMD.
- Granularité : L'approche par tête (head-level) surpasse systématiquement l'approche par couche (layer-level), confirmant que l'agrégation par couche dilue l'information discriminative.
- Robustesse : La méthode est peu sensible à la taille de l'ensemble de sondage (probe set) et fonctionne bien avec un nombre limité de têtes sélectionnées (optimal à $N_{max}=6$ ).

5. Signification et Conclusion

Cet article établit une nouvelle approche géométrique simple mais puissante pour la détection d'hallucinations. En exploitant les divergences statistiques dans les états cachés des LLM, les auteurs parviennent à :

Détecter les hallucinations avec une grande précision, même sur des séquences longues.
Réduire la dépendance aux données étiquetées grâce au transfert depuis la tâche NLI.
Offrir une solution légère et intrinsèque, ne nécessitant pas de génération multiple ou de modèles externes.

Cette méthode est particulièrement pertinente pour les applications critiques (santé, finance, droit) où la fiabilité des réponses des systèmes RAG est primordiale. Elle démontre que les états cachés des transformateurs contiennent des signaux robustes de « facticité » qui peuvent être extraits via des outils statistiques non paramétriques.