🤖 machine learning

Density Ridge Selective Prediction for LLM and VLM Hallucination Detection under Calibration Label Scarcity

Cet article introduit une méthode de prédiction sélective basée sur les crêtes de densité qui modélise les variétés de réponses des LLM et des VLM comme des squelettes géométriques dans un espace d'états cachés à six dimensions, atteignant une performance de détection d'hallucinations significativement supérieure aux bases de référence non supervisées et supervisées existantes, même en cas de grave pénurie de labels de calibration.

Auteurs originaux : Nina I. Shamsi

Publié 2026-06-10

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Nina I. Shamsi

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous posiez une question ou demandiez une histoire à un robot très intelligent, mais qui rêve parfois éveillé. Parfois, le robot est brillant et précis ; d'autres fois, il invente des choses avec assurance (ce qu'on appelle une « hallucination »).

L'objectif de ce document est de construire un détecteur de mensonges pour ces robots. Plus précisément, il veut savoir : « Devons-nous faire confiance à cette réponse, ou devons-nous dire : "Je ne sais pas" ? » C'est ce qu'on appelle la prédiction sélective.

Voici comment les auteurs ont résolu le problème, en utilisant des analogies simples :

1. Le Problème : Pas assez de « corrigés »

Habituellement, pour entraîner un détecteur de mensonges, il faut une énorme pile de questions où l'on connaît déjà les bonnes réponses (les étiquettes). Mais dans le monde réel, on n'a souvent pas assez de ces « corrigés ».

Ancienne Méthode A (L'approche non supervisée) : On pose la même question au robot 5 fois. S'il donne 5 réponses totalement différentes, c'est qu'il est probablement confus. Cela fonctionne moyennement, mais ce n'est pas très précis.
Ancienne Méthode B (L'approche supervisée) : On entraîne un professeur à repérer les mensonges en utilisant une grande pile de réponses étiquetées. C'est génial si vous avez les étiquettes, mais si vous n'en avez que quelques-unes (comme 200 questions), le professeur devient confus et échoue.

Les auteurs voulaient une méthode qui fonctionne comme un professionnel, même lorsqu'ils ne disposent que d'une toute petite pile de « corrigés ».

2. La Solution : L'analogie de l'« Autoroute »

Au lieu de simplement regarder ce que le robot dit, les auteurs ont regardé comment le robot réfléchit pendant qu'il réfléchit.

Le Chemin Caché : Chaque fois que le robot génère un mot, il se déplace à travers un espace mathématique complexe et invisible (un « état caché »). Si l'on trace le chemin du robot lorsqu'il construit une phrase, il laisse une trace.
L'Autoroute (La Crête) : Les auteurs ont découvert que lorsque le robot dit la vérité, son chemin de pensée suit une « autoroute » spécifique et fluide (une crête de densité). C'est comme un train qui reste parfaitement sur ses rails.
Le Hors-Piste (L'hallucination) : Quand le robot commence à mentir ou à halluciner, son chemin de pensée devient désordonné. Il quitte l'autoroute, roule dans les bois ou reste coincé dans un fossé.

3. Comment le détecteur fonctionne

Les auteurs ont construit un système qui cartographie cette « autoroute » en utilisant une petite quantité de réponses correctes connues (les 200 questions étiquetées).

Cartographier l'autoroute : Ils prennent les chemins de pensée « corrects » et construisent une carte 3D de l'autoroute lisse qu'ils forment.
Tester le nouveau chemin : Lorsqu'une nouvelle question arrive, ils surveillent le chemin de pensée du robot.
Mesurer la distance : Ils mesurent la distance entre le nouveau chemin et l'autoroute.
- Proche de l'autoroute ? Le robot dit probablement la vérité.
- Loin de l'autoroute (hors-piste) ? Le robot est probablement en train d'halluciner.

Ils appellent cela une « Crête de Densité » (Density Ridge). Pensez à une crête de montagne. Si vous marchez sur la crête, vous êtes en sécurité. Si vous êtes loin, en bas de la pente, vous êtes en danger.

4. Les Résultats : Pourquoi c'est meilleur

Les auteurs ont testé leur méthode sur 9 modèles d'IA différents (certains uniquement textuels et d'autres capables de voir des images) à travers 7 types de quiz différents (mathématiques, sciences, culture générale).

Le Score : Ils ont comparé leur « Détecteur d'Autoroute » à d'autres méthodes, comme vérifier le niveau de confiance du robot (log-probabilité) ou vérifier si le robot donne des réponses différentes (Entropie Sémantique).
La Victoire : Leur méthode est nettement meilleure. Dans de nombreux cas, elle a amélioré la précision de la détection des mensonges de 5 % à 20 %.
La Victoire de la « Rareté » : Même lorsqu'ils n'ont donné au système que 200 questions étiquetées pour apprendre (une quantité très faible), leur méthode n'a pas sombré. Elle est restée solide, alors que les autres méthodes dépendant de grandes quantités de données se sont effondrées.

5. Ce qu'il faut retenir

L'article affirme que le secret pour repérer les mensonges de l'IA ne réside pas seulement dans la réponse finale ou dans le nombre de fois où l'on pose la même question. C'est dans la forme du voyage que l'IA effectue pour y parvenir.

Si le processus de pensée interne de l'IA suit la « crête » fluide et familière de la vérité, nous pouvons lui faire confiance. Si son chemin s'égare dans l'inconnu, nous devons être sceptiques. Cette méthode permet de détecter ces « chemins errants » même lorsque nous ne possédons pas une immense bibliothèque de réponses correctes pour comparer.

Résumé Technique : Détection de la Crête de Densité pour la Sélection Prédictive des Hallucinations dans les LLM et les VLM

Énoncé du Problème

Le papier traite du défi de la détection d'hallucinations dans les modèles de langage étendus (LLM) et les modèles de langage-vision (VLM) dans des conditions de rareté des étiquettes de calibration. Bien que la détection d'hallucinations soit de plus en plus formulée comme une tâche de prédiction sélective (où un modèle s'abstient de répondre si la confiance est faible), les approches existantes font face à des limitations significatives :

Les détecteurs d'échantillonnage non supervisés (ex. : Entropie Sémantique, EigenScore) évitent le besoin d'étiquettes mais plafonnent souvent en termes de qualité de détection.
Les sondes de l'état caché supervisées (ex. : SAPLMA) atteignent des performances élevées sur la distribution d'origine (in-distribution) mais se dégradent brutalement lorsque le nombre d'étiquettes de calibration disponibles est faible.

Les auteurs proposent d'exploiter un signal complémentaire : la géométrie des trajectoires des états cachés lors de la génération. Ils postulent que l'échantillonnage répété à une requête fixe trace une distribution multimodale dans l'espace d'embedding, où les modes encodent des stratégies de réponse distinctes. Des travaux récents suggèrent que l'évolution de la courbure de ces trajectoires est diagnostique de la qualité du raisonnement.

Méthodologie

La méthode proposée, Density Ridge Selective Prediction (Prédiction Sélective par Crête de Densité), récupère la « variété de réponse » d'un LLM sous la forme d'une crête de densité d'une Estimation de Noyau de Densité (KDE) construite sur des caractéristiques cinématiques.

Carte de Caractéristiques Cinématiques :
Pour chaque complétion échantillonnée, le modèle extrait une trajectoire d'état caché ( $H_{i,j}$ ) à partir des états du dernier jeton de la dernière couche. Une carte de caractéristiques $\phi$ projette ces trajectoires de haute dimension dans un espace à six dimensions ( $\mathbb{R}^6$ ) en utilisant les descripteurs cinématiques suivants :
- Courbure moyenne ( $K_n$ ) et courbure de pointe ( $K_{max}$ ).
- Linéarité du déplacement ( $R^2$ ).
- Déplacement moyen et de pointe par étape ( $\|\Delta h\|$ , $\|v\|_{max}$ ).
- Argmax normalisé de la courbure ( $\tau^\star$ ).
  Ces caractéristiques sont normalisées (z-score) à l'aide de statistiques d'entraînement.
Construction de la Crête :
- La méthode ajuste une KDE gaussienne ( $\hat{p}$ ) uniquement sur le sous-ensemble des trajectoires correctes ( $\tilde{X}^+$ ).
- Elle calcule le gradient ( $g$ ) et la Hessienne ( $\nabla^2 \log \hat{p}$ ) de la log-densité.
- Une crête de densité 1-D ( $R_1$ ) est définie comme l'ensemble des points où le gradient projeté sur le sous-espace normal est nul, et l'autovaleur correspondante est négative.
- Le Subspace Constrained Mean Shift (SCMS) est utilisé pour projeter de manière itérative les points vers des points fixes (sommets $V = \{v_k\}$ ) sur cette crête.
- La vérification de la dimension intrinsèque (via TwoNN) confirme que la crête est unidimensionnelle ( $r=1$ ).
- Trois variantes de coordonnées sont explorées pour représenter la crête : LTSA Global, longueur d'arc géodésique de Hastie–Stuetzle, et un Atlas de Cartes Locales Couturées (Stitched Local-Chart Atlas).
Scoring et Interprétation OOD :
- Pour une requête de test, le modèle génère $N$ trajectoires, les projette dans l'espace de caractéristiques à 6-D, et calcule la distance hors-crête ( $z_{off}$ ) comme la distance euclidienne minimale au sommet de crête le plus proche.
- Le score de confiance final est la moyenne négative de la distance hors-crête : $s(q) = -\frac{1}{N} \sum z_{off}$ .
- Puisque la crête est ajustée exclusivement sur des données correctes, les générations incorrectes (hallucinées) sont traitées comme étant hors distribution (OOD) indépendamment de leur propre densité, entraînant des distances plus grandes et des scores plus faibles.

Contributions Clés

Détecteur de Variété de Réponse : Un nouveau détecteur qui récupère la variété de réponse d'un LLM comme une crête de densité sur des caractéristiques de courbure de trajectoire supervisées et de faible dimension.
Évaluation en Situation de Rareté de Labels : Une évaluation rigoureuse sur neuf modèles (texte et vision) et sept benchmarks (incluant HaluEval-QA, TriviaQA, GSM8K, POPE, ScienceQA, A-OKVFA) utilisant un protocole de calibration délibérément restreint ( $n_{cal}=200$ requêtes).
Études d'Ablation : Analyse isolant la contribution de la géométrie de la crête à travers trois variantes de paramétrage (LTSK, Longueur d'arc, Atlas) et des configurations de noyaux, démontrant que la structure de la crête, plutôt que la distance d'embedding générique, pilote la performance.

Résultats Expérimentaux

La méthode a été évaluée par rapport à l'Entropie Sémantique, la log-probabilité et diverses bases topologiques/géométriques (ex. : LID-MLE, Flow Matching, kNN).

Gains de Performance : Le score basé sur la crête a systématiquement surpassé toutes les bases de référence en AUROC, montrant des gains de 5 à 20 points de pourcentage à travers diverses combinaisons de modèles et de jeux de données.
- Exemple : Sur Idefics3/A-OKVQA, l'AUROC est passé de 0,795 (log-probabilité) à 0,972 (Ridge LTSA Chart).
- Exemple : Sur SmolVLM/ScienceQA, l'AUROC est passé de 0,790 à 0,990 (Ridge Arclength).
Métriques d'Erreur : La méthode réduit simultanément l'AURC (Aire sous la courbe de risque) et l'AUGRC, indiquant une meilleure gestion du risque lors de l'abstention.
Stabilité : Alors que les bases non-crête (comme Topology LID-MLE) se dégradent jusqu'à atteindre un niveau proche du hasard (AUROC ~0,47–0,51) dans certains contextes multimodaux, la méthode de la crête maintient des performances élevées.
Robustesse à la Quantification : La hiérarchie des performances (Ridge > Log-Probability > Non-Ridge) persiste sous une quantification nf4 agressive, et pas seulement en précision bf16.
Complémentarité : Le signal géométrique s'est avéré complémentaire à la confiance au niveau du jeton (log-probabilité), car la méthode de la crête a amélioré l'AUROC même sur des jeux de données où la log-probabilité était déjà forte (ex. : HaluEval-QA).

Signification et Revendications

Le papier affirme que le principal différenciateur entre les générations fidèles et les hallucinations n'est pas l'emplacement brut des états cachés, mais la forme de l'espace des caractéristiques de trajectoire. Plus précisément :

Géométrie plutôt que Localisation : Les distances d'embedding génériques (kNN, PCA) sont insuffisantes ; la crête de densité de la variété 1-D récupérée est le signal critique utilisé pour la détection.
Robustesse à la Rareté : La méthode démontre une « dégradation tempérée » sous la rareté des étiquettes, récupérant des performances solides là où les sondes supervisées échouent typiquement.
Limitations : Les auteurs notent que la comparaison directe est limitée aux cellules communes à tous les détecteurs. Ils reconnaissent également que l'entropie sémantique peut dégénérer vers une performance aléatoire sous la rareté des données et que la partie frontale de projection supervisée nécessite des étiquettes des deux classes lors de l'ajustement. Des travaux futurs sont suggérés pour inclure des ablations de noyaux par axe et pour porter les garanties conformes sans distribution à la valeur de la crête.