🤖 machine learning

Integrating Local and Global Entropy for Uncertainty Quantification in LLMs

Ce document propose l'Incertitude Globale-Locale (GLU), une méthode non supervisée à passage unique qui fusionne l'entropie au niveau des jetons avec l'entropie géométrique des états cachés pour capturer efficacement des régimes d'échec distincts, particulièrement les hallucinations de type « confiant mais erroné » que les signaux locaux seuls ne parviennent pas à détecter.

Auteurs originaux : Johanne Medina, Tianyi Zhou, Keivin Isufaj, Aristides Gionis, Sanjay Chawla

Publié 2026-06-10

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Johanne Medina, Tianyi Zhou, Keivin Isufaj, Aristides Gionis, Sanjay Chawla

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Le gros problème : Le menteur convaincant

Imaginez que vous posiez une question à un ami très sûr de lui et très éloquent. Il répond immédiatement, avec une grammaire parfaite et une voix assurée. Mais il a complètement tort.

C'est le plus grand problème des grands modèles de langage (LLM) aujourd'hui. Ils « hallucinent » (inventent des choses) tout en ayant l'air sûrs d'eux à 100 %. Les outils actuels tentent de détecter cela en écoutant ce que le modèle dit, mot par mot. Si le modèle semble hésiter sur le mot suivant, l'outil le signale comme risqué.

La faille : Parfois, le modèle est très sûr de chaque mot qu'il prononce, mais toute l'histoire qu'il raconte est un mensonge. Les outils actuels ratent ces « menteurs convaincants ».

La nouvelle solution : GLU (Global-Local Uncertainty)

Les auteurs de cet article proposent une nouvelle façon de vérifier si une IA dit la vérité. Ils appellent leur méthode GLU.

Considérez le cerveau d'une IA comme une usine dotée de deux départements différents :

Le « Choix de mots » (Local) : Ce département décide quel mot vient ensuite.
L'« Architecte d'histoires » (Global) : Ce département détient la carte globale de l'histoire en cours de construction.

L'article soutient que pour attraper un menteur, il faut vérifier les deux départements, pas seulement le Choix de mots.

1. La vérification locale (Le Choix de mots)

Comment ça marche : Cela examine la confiance du modèle pour chaque mot individuel. Si le modèle hésite entre « chat » et « chien », il est incertain localement.
L'analogie : Imaginez un chef goûtant une soupe. S'il n'est pas sûr d'avoir mis assez de sel, il marque une pause. C'est une incertitude « locale ».
Le problème : Un menteur convaincant est comme un chef qui goûte la soupe et dit : « Parfait ! » pour chaque ingrédient, même si le plat entier est empoisonné. La vérification locale rate cela car chaque mot individuel semble correct.

2. La vérification globale (L'Architecte d'histoires)

Comment ça marche : Cela examine les « états cachés » (hidden states) du modèle. Ce sont les cartes mathématiques internes que le modèle utilise pour comprendre les concepts. Les auteurs mesurent la « complexité géométrique » de ces cartes.
L'analogie : Imaginez le chef en train de traverser une cuisine.
- Cohérent (Vérité) : Si le chef prépare une vraie soupe, il marche en ligne droite et serrée du frigo vers la cuisinière, puis vers la marmite. Son chemin est efficace et concentré.
- Incohérent (Hallucination) : Si le chef invente une fausse recette, il peut errer sans but. Il va au frigo, puis au jardin, puis au garage, puis revient au frigo. Il se déplace dans trop de directions différentes à la fois.
L'intuition : Même si le chef dit « Parfait ! » à chaque étape (Local), s'il erre partout dans la cuisine (Global), quelque chose ne va pas. L'article appelle cela la « dérive géométrique » (geometric drift).

Comment fonctionne GLU : La « Porte Multiplicative »

L'innovation principale de l'article est la façon dont il combine ces deux vérifications.

L'ancienne méthode (Additive) : Imaginez un agent de sécurité qui additionne les scores. « Confiance du mot : 9/10. Errance dans la cuisine : 2/10. Total : 11/20. » Si la confiance du mot est assez élevée, l'agent laisse passer la personne, ignorant l'errance.
La méthode GLU (Multiplicative) : Les auteurs utilisent une « porte » (gate) qui multiplie les scores.
- Si l'errance dans la cuisine (Global) est élevée, elle agit comme un bouton de volume qui augmente l'alarme de la confiance du mot.
- Le résultat : Même si le modèle est confiant pour chaque mot, si son « chemin » interne erre, le score GLU grimpe en flèche, signalant la réponse comme peu fiable.

Ce qu'ils ont trouvé

Les chercheurs ont testé cela sur trois modèles d'IA différents et six types de questions différents (comme des quiz, des mathématiques et des tâches en langue arabe).

Attraper le « Convaincant mais faux » : Ils ont découvert que les méthodes standards (Local uniquement) manquaient une grande partie des mauvaises réponses parce que celles-ci semblaient convaincantes. GLU les a attrapées car il a vu le « chemin errant » dans le cerveau du modèle.
Meilleur que les autres : GLU a été plus performant que toutes les autres méthodes « non supervisées » (méthodes qui n'ont pas besoin que des humains étiquettent les données au préalable). Il était meilleur pour repérer les erreurs et dire à l'IA de « s'arrêter et réfléchir » avant de donner une mauvaise réponse.
Efficace : Cela ne nécessite pas que l'IA génère la réponse plusieurs fois ou utilise de la puissance de calcul supplémentaire. Il se contente d'examiner la réponse une seule fois, en vérifiant à la fois les mots et le chemin interne.

Résumé

L'article affirme que pour faire confiance à une IA, on ne peut pas se contenter d'écouter ses mots ; il faut aussi observer comment elle pense. En combinant une vérification de la confiance au niveau des mots avec une vérification de l'errance au niveau des concepts, GLU crée un filet de sécurité qui attrape le type spécifique d'erreur où une IA ment avec assurance. Il y parvient sans nécessiter de données d'entraînement supplémentaires ni ralentir l'IA.

Résumé Technique : Intégration de l'Entropie Locale et Globale pour la Quantification de l'Incertitude dans les LLM

Énoncé du Problème

Les grands modèles de langage (LLM) présentent fréquemment des « hallucinations confiantes », produisant des réponses fluides et spécifiques, mais factuellement incorrectes. Les méthodes existantes de quantification de l'incertitude (UQ) reposent principalement sur des signaux au niveau du jeton (par exemple, les log-probabilités ou la cohérence de l'échantillonnage). Bien qu'efficaces pour détecter l'ambiguïté locale, ces méthodes échouent souvent à identifier le mode de défaillance « confiant mais erroné », où un modèle génère des réponses incorrectes avec une confiance élevée au niveau du jeton. De plus, de nombreuses approches existantes imposent des barrières pratiques, telles que l'exigence de multiples passages de génération, une supervision spécifique à la tâche, une sensibilité à la longueur de la réponse ou des hypothèses architecturales spécifiques. Il existe un besoin pour une méthode d'UQ qui soit non supervisée, calculable en un seul passage direct (forward pass), normalisée par la longueur et capable de capturer la structure géométrique de la trajectoire interne du modèle.

Méthodologie

Le papier propose l'Incertitude Globale-Locale (GLU), un cadre qui intègre deux signaux d'incertitude distincts dérivés de différentes couches de représentation du LLM :

Incertitude Locale (Niveau Jeton) :
- Dérivée de la couche de désincorporation (unembedding layer) (prédiction du jeton suivant).
- Basée sur le cadre de l'apprentissage profond évidentiel, décomposant l'incertitude en Incertitude Aléatoire (AU) (ambiguïté distributionnelle) et Incertitude Épistémique (EU) (manque de preuves).
- L'AU est calculée comme l'entropie de Shannon d'une distribution prédictive tronquée sur les $k$ meilleurs jetons.
- L'EU est estimée en mappant les logits vers des paramètres de concentration de Dirichlet (en utilisant une transformation softplus) et en calculant l'inverse de la force de Dirichlet.
- Le score local ( $\bar{R}$ ) est la moyenne de l'interaction multiplicative de l'AU et de l'EU à travers les $m$ jetons les plus incertains de la réponse.
Incertitude Globale (Complexité Géométrique) :
- Dérivée de la couche d'incorporation (embedding layer) (espace des états cachés).
- Basée sur l'hypothèse que la récupération fiable de faits correspond à des états cachés se déplaçant dans une direction étroite et cohérente, tandis que les hallucinations correspondent à une errance à travers des directions lâchement liées.
- La méthode construit une matrice de Gram ( $K = HH^\top$ ) à partir de la trajectoire des états cachés $H$ à travers toutes les étapes de génération.
- L'incertitude globale est quantifiée par l'entropie de Rényi-2 (entropie de collision) du spectre de valeurs propres normalisé de $K$ . Une entropie élevée indique une trajectoire diffuse et incohérente (incertitude élevée), tandis qu'une entropie faible indique une trajectoire cohérente et de rang faible.
- Pour assurer la comparabilité entre les longueurs de réponse et les modèles, l'entropie est normalisée par $\log T$ et moyennée sur toutes les couches du transformer.
Stratégie de Fusion (GLU) :
- Les deux signaux sont fusionnés via une porte multiplicative : $GLU = (1 + \tilde{S}) \cdot \bar{R}$ , où $\tilde{S}$ est l'entropie géométrique globale normalisée et $\bar{R}$ est l'incertitude locale agrégée.
- Cette conception multiplicative agit comme un amplificateur géométrique : si la trajectoire est diffuse (incertitude globale élevée), le score d'incertitude locale est pondéré à la hausse. Cela cible spécifiquement le régime « confiant-mais-erroné » où l'entropie du jeton est faible mais la cohérence géométrique est absente.
- La méthode ne nécessite qu'un seul passage direct, aucune donnée étiquetée, et est indépendante de l'architecture.

Contributions Clés

Extraction d'Incertitude à Double Vue : Le papier extrait des signaux complémentaires de deux couches distinctes : l'entropie géométrique globale des trajectoires d'états cachés et l'entropie locale des jetons des logits de sortie.
Orthogonalité Statistique : L'analyse empirique démontre que les signaux globaux et locaux sont statistiquement presque orthogonaux. Le signal global récupère le mode de défaillance « confiant-mais-erroné » que les signaux locaux manquent systématiquement.
Cadre GLU : Introduction d'un score léger et non supervisé qui fusionne ces signaux de manière multiplicative, évitant ainsi le besoin de réentraînement, de pseudo-étiquettes ou de multiples passages d'échantillonnage.
Validation Complète : Évaluation étendue sur trois familles de modèles (Qwen2.5, Gemma3, Fanar1) et six benchmarks diversifiés (incluant la facticité, les mathématiques et le QA en arabe), ainsi que des études d'ablation rigoureuses.

Résultats Expérimentaux

Performance : À travers 18 configurations modèle-jeu de données, GLU a obtenu la meilleure AUROC (Aire sous la courbe de la caractéristique de fonctionnement du récepteur) dans 13 cas et le meilleur ratio de rejet de prédiction (PRR) dans 12 cas. Il a systématiquement surpassé les bases de référence locales uniquement (ex. LogTokU) et globales uniquement (ex. RAUQ).
Études d'Ablation :
- Multiplicatif vs Additif : La stratégie de fusion multiplicative était critique. Une variante additive ( $Add\text{-}\tilde{S}$ ) a chuté significativement en performance (se classant 13ème sur 14 méthodes), confirmant que le signal global doit agir comme un modulateur plutôt que comme un décalage fixe.
- Robustesse : Le gain de performance était robuste à travers différents choix d'estimateurs locaux et globaux, suggérant que la complémentarité est une propriété structurelle des LLM plutôt qu'un artefact de hyperparamètres spécifiques.
Calibration : Sur le benchmark TriviaQA, GLU a démontré une relation monotone entre les scores d'incertitude et les taux d'erreur empiriques, séparant efficacement les réponses correctes des incorrectes à travers les déciles de confiance.

Signification et Revendications

Le papier affirme que la distinction structurelle entre la couche d'incorporation (direction sémantique) et la couche de désincorporation (probabilité du jeton) fournit une base fondée sur le fait que les signaux de jeton et géométriques mesurent des aspects différents de l'incertitude. En intégrant ces vues, GLU offre une solution pratique et non supervisée pour la prédiction de la fiabilité qui traite un angle mort critique des méthodes d'UQ actuelles : l'hallucination confiante. Les auteurs affirment que GLU égale ou surpasse toutes les bases de référence non supervisées tout en restant normalisé par la longueur et indépendant de l'architecture, ce qui le rend adapté au déploiement en conditions réelles où l'efficacité computationnelle et l'absence de supervision sont primordiales. Le travail suggère que la complémentarité entre l'incertitude locale et globale est une propriété structurelle fondamentale des LLM.