🤖 AI

Predictive Coding and Information Bottleneck for Hallucination Detection in Large Language Models

Cet article introduit un cadre de détection hybride, léger et interprétable, qui exploite les signaux de codage prédictif et de goulot d'étranglement de l'information inspirés des neurosciences pour atteindre une détection d'hallucinations de pointe dans les modèles de langage de grande taille, avec des exigences de données et une latence d'inférence considérablement réduites par rapport aux méthodes existantes.

Auteurs originaux : Manish Bhatt

Publié 2026-01-23

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Manish Bhatt

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous avez un assistant robotique très intelligent et érudit. Vous lui posez une question et lui donnez un document spécifique à lire. Le robot répond, mais parfois, il invente des choses. Il a l'air sûr de lui et semble savoir de quoi il parle, mais les faits sont faux. C'est ce qu'on appelle une « hallucination ».

Actuellement, débusquer ces mensonges est difficile. Les méthodes habituelles sont soit trop lentes (comme demander au robot d'écrire la réponse dix fois différemment pour voir si elle change), soit trop coûteuses (comme embaucher un robot géant et super intelligent pour juger le travail du premier robot).

Ce document présente une nouvelle façon, plus rapide et moins chère, de débusquer ces mensonges appelée Pcib. Voyez cela non pas comme l'embauche d'un juge géant, mais comme l'installation d'un ensemble de détecteurs de mensonges spécialisés à l'intérieur du cerveau du robot.

Voici comment cela fonctionne, décomposé en concepts simples :

1. Les deux grandes idées (Le « Pourquoi »)

Les auteurs ont construit leurs détecteurs en utilisant deux idées empruntées au fonctionnement du cerveau humain :

Le Codage Prédictif (Le test de la « Surprise ») :
Imaginez que vous lisez une histoire. Si l'histoire dit : « Le ciel est vert », votre cerveau se dit : « Attendez, c'est surprenant ! Cela ne correspond pas à ce que je sais. »
- Le Test : Le système Pcib demande au robot : « Si je ne te donne pas le document, que dirais-tu ? »
- Le Mensonge : Si le robot donne la même mauvaise réponse, que vous lui donniez le document ou non, cela signifie qu'il ignore les faits et qu'il se contente de deviner en fonction de ce qu'il « pense » déjà savoir. C'est une hallucination.
- La Vérité : Si le robot change complètement de réponse après avoir lu le document, cela signifie qu'il vous a réellement écouté.
Le Goulot d'Étranglement de l'Information (Le test de « Stress ») :
Imaginez que vous avez une brique solide (un fait) et une maison de cartes (une histoire inventée). Si vous secouez la table (ajoutez un peu de bruit ou changez la formulation), la maison de cartes s'effondre, mais la brique reste en place.
- Le Test : Le système prend la réponse du robot et reformule légèrement ses mots ou change la tournure de phrase.
- Le Mensonge : Si le robot dit soudainement : « Oh, peut-être que ce n'était pas vrai », ou s'il devient confus lorsque les mots changent légèrement, l'idée était fragile. C'était une hallucination.
- La Vérité : Si le robot reste confiant et cohérent même lorsque les mots changent, il s'agit probablement d'un fait réel.

2. Les trois « Super-charges »

Les auteurs ont découvert que les tests de base ci-dessus étaient bons, mais qu'ils pouvaient être meilleurs. Ils ont ajouté trois « super-charges » pour rendre les détecteurs plus aiguisés :

Se concentrer sur l'essentiel (Absorption focalisée sur les entités) :
Les robots mentent souvent sur des détails spécifiques comme les noms, les dates ou les chiffres, tout en réussissant les mots banals. Le système ignore désormais les mots banals et concentre son « test de surprise » uniquement sur les noms et les chiffres importants.
Vérifier l'ancre (Adhérence au contexte) :
Parfois, un robot ignore totalement le document et se contente de parler de mémoire. Ce nouveau signal vérifie : « Le robot a-t-il réellement utilisé le document que vous lui avez donné, ou a-t-il simplement rêvé éveillé ? »
L'alarme du « Trop Confiant » (Score de falsifiabilité) :
Si un robot dit que quelque chose est « certainement » vrai, mais que la logique est fragile, c'est un signal d'alarme. Ce signal recherche des mots comme « certainement » ou « clairement » combinés à une logique faible pour attraper les menteurs trop sûrs d'eux.

3. La grande surprise (Ce qui n'a pas fonctionné)

Les chercheurs ont testé une astuce populaire appelée « Rationalisation ». Il s'agit de demander au robot : « Explique pourquoi tu penses que c'est vrai », en espérant que s'il ment, il se confondra en explications incohérentes.

Le résultat : Cela n'a pas fonctionné.
L'analogie : Imaginez un escroc qui a déjà décidé de mentir. Si vous lui demandez : « Pourquoi mens-tu ? », l'escroc ne sera pas confus ; il inventera simplement une histoire très convaincante et logique pour soutenir son mensonge. Le robot fait la même chose. Il crée une explication parfaite et logique pour soutenir un fait faux. C'est ce qu'on appelle la « Sycophancie » (le fait de simplement être d'accord avec l'idée erronée de l'utilisateur et de persister dans cette voie).

4. Les résultats : Rapide, Moins cher et Intelligent

Les auteurs ont testé leur système (Pcib) contre les meilleures méthodes actuelles. Voici ce qu'ils ont trouvé :

C'est incroyablement efficace : Le nouveau système est 1 000 fois plus rapide que les juges robots géants. Il prend 5 millisecondes (moins d'un clin d'œil) au lieu de 5 secondes.
Il nécessite moins d'entraînement : Pour apprendre à repérer les mensonges, le nouveau système n'a eu besoin que de 200 exemples. Les grands concurrents avaient besoin de 15 000 exemples. C'est 75 fois moins de données !
Il est explicable : Quand le robot géant dit « C'est un mensonge », vous ne savez pas pourquoi. Quand Pcib dit « C'est un mensonge », il peut vous dire exactement quelle partie a échoué : « Il a ignoré le document » ou « Il a changé d'avis quand j'ai reformulé la phrase ».
Ça fonctionne : Il a attrapé les mensonges presque aussi bien que les modèles géants et coûteux, mais il fonctionne sur une petite puce informatique.

Résumé

L'article soutient qu'au lieu de construire des robots plus gros et plus chers pour attraper les mensonges, nous devrions construire des outils plus intelligents et plus petits qui comprennent comment les robots pensent. En utilisant des règles simples basées sur la « surprise » et la « stabilité », nous pouvons attraper les hallucinations rapidement, à moindre coût et de manière claire, sans avoir besoin d'un supercalculateur. La seule chose qui n'a pas fonctionné est de demander au robot d'expliquer ses propres mensonges, car les menteurs sont doués pour inventer des excuses.

Résumé Technique : Pcib – Codage Prédictif et Goulot d'Étranglement de l'Information pour la Détection des Hallucinations

Énoncé du Problème

Le déploiement des modèles de langage de grande taille (LLM) dans des domaines à enjeux élevés est entravé par les « hallucinations » — des générations plausibles mais factuellement infidèles. Les méthodes de détection actuelles sont confrontées à un compromis entre performance et efficacité :

Les méthodes basées sur l'échantillonnage (ex. SelfCheckGPT) reposent sur des statistiques de génération par force brute, masquant la cause profonde des erreurs et entraînant des coûts de calcul élevés.
Les méthodes basées sur l'implication (ex. RARR) nécessitent des boucles de recherche ou des moteurs de recherche externes coûteux, introduisant une latence significative.
Les approches de type « LLM-en-tant-que-juge » reposent souvent sur des modèles boîtes noires opaques avec des nombres de paramètres massifs (70B+) et nécessitent des données d'entraînement étendues, ce qui les rend inadaptées aux environnements de production contraints en ressources ou en temps réel.

Il existe un besoin critique pour un cadre de détection qui soit efficace sur le plan computationnel, interprétable et capable d'identifier les hallucinations sans dépendre d'oracles de vérité externe.

Méthodologie : Le Cadre Pcib

Les auteurs proposent Pcib, un cadre de détection hybride qui intègre une conception de signaux inspirée des neurosciences et l'apprentissage automatique supervisé. Plutôt que de traiter la détection comme une classification boîte noire, Pcib décompose le problème en signaux de diagnostic interprétables fondés sur deux piliers théoriques : le Codage Prédictif et le principe du Goulot d'Étranglement de l'Information (IB).

1. Fondements Théoriques

Codage Prédictif : Postule que l'intelligence minimise l'erreur de prédiction (la surprise). Dans les LLM, une hallucination se produit lorsque le modèle s'appuie sur des a priori pré-entraînés plutôt que sur le contexte fourni.
Goulot d'Étranglement de l'Information (IB) : Suggère que les représentations robustes compressent les entrées pour ne conserver que l'information pertinente. Les auteurs émettent l'hypothèse que la connaissance factuelle est une compression « robuste » (invariante à la perturbation), tandis que les hallucinations sont des compressions « fragiles » qui se dégradent sous un bruit sémantique.

2. Extraction de Signaux

Le cadre extrait un vecteur de caractéristiques à partir d'un triplet $(Q, C, A)$ — Question, Contexte, Réponse — comprenant quatre signaux de base :

Uptake (Absorption - $U$ ) : Mesure la « surprise » ou la divergence entre la distribution de sortie du modèle conditionnée par le contexte par rapport à la question seule ( $D_{KL}(P(A|Q,C) \parallel P(A|Q))$ ). Une absorption élevée indique que la réponse dépend du contexte (factuelle) ; une absorption faible suggère un recours aux a priori (hallucination).
Stress ( $S$ ) : Mesure la stabilité sémantique. En paraphrasant les affirmations et en calculant la divergence de Jensen-Shannon dans les probabilités d'implication, ce signal détecte si des changements mineurs de formulation font vaciller le modèle sur les valeurs de vérité.
Conflit ( $C$ ) : Mesure la cohérence logique en utilisant un modèle d'inférence de langage naturel (NLI) pour vérifier si des affirmations perturbées contredisent la réponse originale.
Rationalisation ( $R$ ) : Mesure le chevauchement sémantique de multiples traces de raisonnement générées pour expliquer une affirmation.

3. Améliorations des Signaux SOTA

Pour répondre à des modes de défaillance spécifiques, trois améliorations théoriquement motivées ont été introduites :

Uptake focalisé sur les Entités : Pondère le signal d'Uptake par la densité de jetons à haute valeur (entités, nombres, termes techniques), car les hallucinations se concentrent souvent dans ces zones plutôt que dans les mots de liaison.
Adhérence au Contexte : Proxie la force de l'ancrage en combinant l'inverse du Stress et la longueur du contexte, distinguant les réponses ancrées dans l'évidence de celles générées à partir de la mémoire paramétrique.
Score de Falsifiabilité : Combine le signal de Conflit avec une analyse du langage de confiance (définitif vs hésitant) pour détecter des affirmations confiantes mais contradictoires.

4. Agrégation et Classification

Les signaux bruts sont synthétisés en un Indice de Suffisance de l'Évidence (ESI) en utilisant une moyenne harmonique pour traiter l'évidence comme un problème de « maillon faible ». Ces caractéristiques sont injectées dans divers classificateurs supervisés (Forêt Aléatoire, SVM, Gradient Boosting, Réseaux de Neurones et Méta-Ensembles) pour prédire la probabilité d'hallucination.

Principales Contributions

Décomposition Interprétable des Signaux : Formaliser la détection d'hallucinations comme l'agrégation de quatre diagnostics distincts (Uptake, Stress, Conflit, Rationalisation) plutôt qu'une sortie binaire boîte noire.
Cadre Hybride Guidé par la Théorie : Démontrer que les signaux dérivés des neurosciences cognitives (Codage Prédictif, IB) servent de puissantes caractéristiques pour l'apprentissage supervisé, atteignant de hautes performances avec un minimum de données.
Résultat Négatif sur la Rationalisation : Fournir une preuve empirique que la vérification de la cohérence du raisonnement (Rationalisation) est inefficace, remettant en question l'hypothèse selon laquelle la vérification par Chaîne de Pensée (CoT) détecte de manière fiable les hallucinations.

Résultats Expérimentaux

Le cadre a été évalué sur un sous-ensemble équilibré de HaluBench ( $n=200$ ).

Gains de Performance :
- La Base Non-Supervisée Guidée par la Théorie a atteint un AUROC de 0,8017.
- Les Modèles Supervisés de BASE (utilisant les 5 signaux de base) ont atteint un AUROC de 0,8274.
- Les Modèles Supervisés AMÉLIORÉS (incorporant les 3 améliorations) ont atteint un AUROC de 0,8669, représentant un gain de +4,95 % par rapport à la variante BASE.
- La Forêt Aléatoire avec les caractéristiques AMÉLIORÉES est apparue comme la meilleure performance.
Efficacité et Scalabilité :
- Efficacité des Données : Pcib a obtenu des performances compétitives en utilisant seulement 200 échantillons d'entraînement, contre 15 000 échantillons requis par le modèle d'état de l'art Lynx (une réduction de 75x).
- Vitesse d'Inférence : Pcib fonctionne à 5 ms par requête, ce qui est 1000x plus rapide que les 5 s requises par les juges LLM à 70 milliards de paramètres.
- Coût : Les modèles légers (<1M de paramètres) offrent une réduction de coût de 100x par rapport aux juges LLM commerciaux.
Comparaison au SOTA :
- Le meilleur modèle de Pcib (0,8669 AUROC) surpasse les bases heuristiques comme la fidélité de RAGAS (66,9 % de précision).
- Bien que Lynx (70B) atteigne 87,4 % de précision, Pcib offre une alternative entièrement interprétable avec un surcoût computationnel nettement inférieur.

Signification et Revendications

L'article soutient que la connaissance du domaine encodée dans l'architecture des signaux offre une efficacité de données supérieure à la simple mise à l'échelle des juges LLM. En exploitant les principes des neurosciences cognitives, Pcib permet à des modèles légers et explicables d'atteindre des performances de pointe dans la détection d'hallucinations.

Les points clés soulignés par les auteurs incluent :

Interprétabilité : Contrairement aux juges boîtes noires, Pcib fournit des diagnostics décomposables, permettant aux utilisateurs de comprendre pourquoi une génération a été signalée (ex. faible adhérence au contexte vs haut stress).
Viabilité en Production : La combinaison de la vitesse, du faible coût et de la haute précision rend Pcib adapté à un filtrage de premier passage dans les systèmes RAG de production, réservant les juges LLM coûteux pour les cas limites.
L'Effet de « Sycophantie » : L'échec du signal de Rationalisation suggère que les LLM génèrent souvent des raisonnements cohérents et consistants pour des prémisses fausses, ce qui revient à « doubler la mise » sur les hallucinations. Cela remet en question la dépendance actuelle envers la CoT pour l'auto-vérification.

L'étude conclut qu'intégrer des intuitions théoriques à l'apprentissage automatique offre une voie vers des mécanismes de sécurité de l'IA robustes, efficaces et transparents.