💬 NLP

From Out-of-Distribution Detection to Hallucination Detection: A Geometric View

Cet article propose de recadrer la détection des hallucinations dans les grands modèles de langage comme un problème de détection de hors-distribution, démontrant que cette perspective géométrique permet d'entraîner des détecteurs sans entraînement et à échantillon unique qui identifient efficacement les hallucinations dans les tâches de raisonnement.

Auteurs originaux : Litian Liu, Reza Pourreza, Yubing Jian, Yao Qin, Roland Memisevic

Publié 2026-06-05

📖 7 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Litian Liu, Reza Pourreza, Yubing Jian, Yao Qin, Roland Memisevic

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Le gros problème : Quand l'IA invente des choses

Imaginez un étudiant très intelligent (le Grand Modèle de Langage, ou LLM) passant un examen. Parfois, cet étudiant connaît la réponse et réussit. Mais parfois, l'étudiant ne connaît pas la réponse, mais il écrit pourtant avec assurance quelque chose qui semble plausible mais qui est en réalité complètement inventé. Dans le monde de l'IA, nous appelons cela une hallucination.

Détecter quand l'IA ment est difficile. Les méthodes existantes reviennent à embaucher un professeur séparé pour corriger le travail de l'étudiant (ce qui est coûteux et lent) ou à demander à l'étudiant de passer le même examen dix fois pour voir s'il obtient des réponses différentes (ce qui est lourd en calcul et déroutant pour les tâches de raisonnement complexe).

La nouvelle idée : Emprunter à l'« Out-of-Distribution » (OOD)

Les auteurs de cet article ont eu une idée ingénieuse : Traitons les hallucinations comme un étranger à une fête.

En informatique, il existe un problème bien connu appelé détection de données hors distribution (Out-of-Distribution ou OOD). Imaginez un vigile dans un club qui sait exactement à quoi ressemblent les membres réguliers. Si un étranger entre avec un costume bizarre, le vigile sait : « Hé, cette personne n'est pas à sa place ».

Dans l'ancien monde : Le vigile (l'IA) est entraîné à reconnaître des visages spécifiques (données d'entraînement). Si un nouveau visage apparaît, le vigile essaie quand même de deviner qui c'est, mais il ne fait que deviner n'importe quoi. C'est une « hallucination » du classificateur.
L'intuition de l'article : Les auteurs ont réalisé que lorsqu'une IA hallucine, elle fait essentiellement la même chose : elle essaie de répondre à une question à laquelle elle n'était pas vraiment entraînée à répondre, ou elle sort de sa « zone de confort » de connaissances.

Ainsi, au lieu de construire un nouveau détecteur à partir de zéro, ils se sont demandé : Pouvons-nous utiliser les outils du vigile pour attraper l'IA en train de mentir ?

La solution : Une vue géométrique (L'analogie de la « Carte »)

L'article propose de regarder les pensées internes de l'IA non pas comme du texte, mais comme des points sur une immense carte.

La Carte : Imaginez que le cerveau de l'IA est une immense pièce multidimensionnelle. Chaque mot qu'elle peut dire possède un « vecteur de poids » spécifique (un drapeau) planté dans la pièce.
Le Voyage : À mesure que l'IA écrit une phrase, elle déplace un point (représentant sa pensée actuelle) à travers cette pièce.
Les deux détecteurs : Les auteurs ont adapté deux outils de « vigile » pour surveiller ce point :
- Outil A : Le détecteur de « Câlin » (NCI)
  - L'analogie : Imaginez que l'IA essaie de faire un câlin au drapeau représentant le mot qu'elle vient de choisir. Si l'IA est confiante, le point est juste à côté du drapeau, et le « câlin » est serré.
  - L'hallucination : Si l'IA hallucine, le point est loin du drapeau. Le « câlin » est faible ou inexistant. L'article appelle cela la Proximité des caractéristiques (Feature Proximity). Si le point est trop loin du drapeau, c'est un mensonge.
- Outil B : Le détecteur de « Mur » (fDBD)
  - L'analogie : Imaginez que la pièce est divisée en zones par des murs invisibles. Chaque zone appartient à un mot spécifique. Si vous êtes dans la zone « Chat », l'IA pense « Chat ».
  - L'hallucination : Si l'IA hallucine, son point oscille juste près du mur, proche de la zone « Chien » ou de la zone « Oiseau ». Elle hésite sur quel côté du mur elle se trouve. L'article appelle cela la Distance à la frontière de décision (Distance to Decision Boundary). Si le point est trop près d'un mur, c'est un mensonge.

Les défis et comment ils les ont résolus

Les auteurs savaient qu'ils ne pouvaient pas simplement copier-coller ces outils d'autres domaines car l'IA est immense et complexe. Ils ont dû résoudre trois grands problèmes :

1. Le problème de la « Carte Manquante » (Statistiques d'entraînement)

Le problème : Pour savoir si un point est « loin » d'un drapeau, un vigile a généralement besoin d'une carte de l'endroit où tous les bons points se trouvent habituellement. Mais les données d'entraînement de l'IA sont massives, secrètes et trop volumineuses pour être cartographiées.
La solution : Au lieu de dessiner une carte à partir de données, ils ont utilisé la magie mathématique. Ils ont calculé un « point neutre » basé sur la propre structure interne de l'IA. C'est comme si le vigile réalisait : « Je n'ai pas besoin d'une carte du club ; je sais juste que le centre de la piste de danse est l'endroit où tout le monde se tient quand il est incertain ». Cela leur a permis de détecter les mensonges sans avoir besoin des données d'entraînement originales.

2. Le problème des « Trop de Drapeaux » (Vocabulaire massif)

Le problème : Une IA possède des centaines de milliers de mots possibles (drapeaux). Vérifier la distance par rapport à chaque mur de la pièce pour chaque mot est trop lent.
La solution : Ils ont décidé de ne vérifier que les murs des 1 000 mots les plus probables. C'est comme si le vigile ne se souciait que des personnes debout près de la sortie, ignorant les gens au fond de la salle qui ne vont manifestement pas partir. Cela a rendu le détecteur rapide et précis.

3. Le problème de l'aléatoire (Décodage stochastique)

Le problème : Parfois, l'IA choisit des mots de manière aléatoire (comme lancer un dé) plutôt que de choisir absolument le meilleur. Cela fait sauter le « point », ce qui pourrait confondre le vigile.
La solution : Ils ont découvert que même si l'IA saute un peu partout, la position moyenne du point sur l'ensemble de la phrase indique toujours la vérité. Si l'IA hallucine, le point passera trop de temps près des murs, même s'il saute de façon aléatoire. Le détecteur fonctionne parfaitement malgré ce caractère aléatoire.

Les résultats

Les auteurs ont testé ces nouveaux outils de « Vigile » sur des tâches de raisonnement difficiles (comme des puzzles mathématiques et logiques).

Pas d'entraînement supplémentaire : Ils n'ont pas eu besoin d'enseigner quoi que ce soit de nouveau à l'IA.
Tir unique (Single Shot) : Ils n'ont eu besoin de regarder la réponse qu'une seule fois (pas besoin de demander à l'IA de répéter la question 10 fois).
Meilleure précision : Ces outils géométriques ont détecté les hallucinations bien mieux que les méthodes précédentes, même lorsque l'IA était créative ou aléatoire.

Résumé

L'article affirme : Arrêtez d'essayer de construire un nouveau détecteur de mensonges. À la place, regardez la géométrie interne de l'IA. Si les pensées de l'IA sont loin des « drapeaux » des mots qu'elle a choisis, ou si elles oscillent juste à côté des « murs » d'autres mots, elle est probablement en train de mentir. En utilisant ces règles géométriques simples, nous pouvons attraper les hallucinations de l'IA rapidement, à moindre coût et avec précision.

Résumé Technique : De la détection de hors-distribution à la détection d'hallucinations : une perspective géométrique

Énoncé du problème
L'hallucination dans les grands modèles de langage (LLM) demeure un obstacle critique à leur déploiement sûr et fiable, particulièrement dans les tâches de raisonnement. Les méthodes de détection existantes font face à des limitations significatives : les approches supervisées nécessitent l'entraînement de classifieurs distincts, qui sont sensibles aux changements de distribution et engendrent des coûts élevés ; tandis que les méthodes sans entraînement (training-free) reposent souvent sur la génération de multiples échantillons pour mesurer les écarts, imposant une surcharge de calcul prohibitive lors de l'inférence. De plus, ces approches multi-échantillons peinent dans les tâches de raisonnement où la diversité des chemins de raisonnement valides rend la comparaison des sorties conceptuellement difficile. Il existe un besoin pressant pour des algorithmes de détection d'hallucinations sans entraînement, basés sur un échantillon unique, qui soient efficaces dans les scénarios de raisonnement.

Méthodologie
Les auteurs proposent de recadrer la détection d'hallucination comme un problème de détection de hors-distribution (OOD - Out-of-Distribution). En traitant la prédiction du prochain jeton (next-token prediction) dans les LLM comme une tâche de classification, ils adaptent deux détecteurs OOD géométriques légers — NCI (inspiré de l'effondrement neural / Neural Collapse) et fDBD (basé sur la rapidité de la frontière de décision / fast Decision-Boundary-based) — au contexte des LLM.

Cadre géométrique :
- NCI (Proximité des caractéristiques) : Mesure la proximité du vecteur de caractéristiques de la couche pénultième par rapport au vecteur de poids du jeton le plus confiant. Une faible proximité indique une incertitude élevée (hallucination potentielle).
- fDBD (Distance à la frontière de décision) : Mesure la distance entre le vecteur de caractéristiques de la couche pénultième et les frontières de décision des jetons alternatifs. Une faible distance à une frontière indique une incertitude plus élevée.
Adaptations pour les LLM :
Pour combler le fossé entre la détection OOD standard et la détection d'hallucination des LLM, les auteurs abordent trois défis spécifiques :
- Estimation des statistiques d'entraînement : Les méthodes OOD standard nécessitent la moyenne des caractéristiques d'entraînement ( $\mu_G$ ), ce qui est impraticable à calculer pour les corpus d'entraînement massifs et propriétaires des LLM. Les auteurs dérivent un proxy analytique pour $\mu_G$ (le « Point le plus proche neutre à la décision » / Decision-Neutral Closest Point) en minimisant la variance des logits à travers le vocabulaire en utilisant les poids et les biais de la tête de langage. Cela élimine la nécessité d'accéder aux données d'entraînement.
- Efficacité face à un vocabulaire massif : Calculer directement les distances vers tous les jetons dans un grand vocabulaire (ex: 100k+) est coûteux en termes de calcul et introduit du bruit provenant de jetons non pertinents. Les auteurs proposent de restreindre le calcul de la distance à un sous-ensemble des $k$ jetons les plus probables, réduisant considérablement la complexité de calcul tout en maintenant la qualité du signal.
- Robustesse au décodage stochastique : Bien que les détecteurs OOD soient souvent définis pour un décodage déterministe (greedy), les LLM utilisent souvent l'échantillonnage stochastique. Les auteurs supposent et démontrent que les signaux d'incertitude géométrique restent robustes au niveau de la séquence, car l'état d'incertitude interne du modèle tend à s'aligner avec les jetons générés au cours d'une tâche de raisonnement.
Mécanisme de détection :
La méthode calcule un score d'incertitude à chaque étape de décodage, moyenne ces scores à travers la séquence générée, et applique un seuil pour déterminer si une hallucination a eu lieu. Cette approche est entièrement sans entraînement et opère sur un échantillon généré unique.

Contributions clés

Recadrage : Ce travail établit un lien théorique et pratique entre la détection OOD et la détection d'hallucination des LLM, en exploitant les propriétés géométriques de l'espace latent du modèle.
Proxy analytique : La dérivation d'une solution analytique pour la moyenne des caractéristiques d'entraînement permet l'application des techniques OOD sans accès aux données d'entraînement, résolvant ainsi un goulot d'étranglement majeur de scalabilité.
Adaptation efficace : L'introduction d'une stratégie de sélection de jetons top- $k$ pour fDBD rend le calcul de la distance à la frontière de décision réalisable pour de grands vocabulaires.
Efficacité à échantillon unique : Les méthodes proposées atteignent de fortes performances de détection sans le coût de calcul de la génération de multiples échantillons ou de l'entraînement de modèles auxiliaires.

Résultats
Des expériences approfondies ont été menées sur plusieurs jeux de données (CSQA, GSM8K, AQuA) et architectures de modèles (Llama-3.2-3B-Instruct, Qwen-2.5-7B-Instruct).

Performance : NCI et fDBD ont systématiquement surpassé les bases de référence solides, incluant la perplexité, la probabilité prédictive et diverses méthodes multi-échantillons (ex: SelfCheckGPT, Entropie Sémantique). Par exemple, sur CSQA avec Llama-3.2-3B, fDBD (avec $k$ sélectionné) a atteint un AUROC de 69,24, contre 63,23 pour la perplexité.
Généralisation : Les méthodes ont démontré une performance robuste à travers différentes échelles de modèles et différents types de raisonnement (sens commun et mathématiques).
Décodage stochastique : Les détecteurs ont maintenu une haute performance à travers diverses températures de décodage (0,2 à 1,0), validant leur applicabilité au-delà du décodage greedy.
Efficacité : Les méthodes ont engendré un surcoût de latence minimal (environ 0,5–0,8 ms/jeton supplémentaire) par rapport à l'inférence standard, ce qui les rend adaptées aux applications en temps réel.

Signification
L'article affirme que le recadrage de la détection d'hallucination en tant que problème de détection OOD offre une « voie prometteuse et évolutive vers la sécurité des modèles de langage ». En utilisant des mesures d'incertitude géométriques adaptées de la vision par ordinateur et de la littérature OOD, les auteurs démontrent qu'il est possible de détecter efficacement les hallucinations dans les tâches de raisonnement sans les coûts de calcul ou d'entraînement lourds associés aux méthodes existantes. Cette approche offre une solution pratique, sans entraînement, qui peut être intégrée dans les pipelines d'inférence actuels des LLM pour améliorer la fiabilité.