🤖 AI

Entropic Claim Resolution: Uncertainty-Driven Evidence Selection for RAG

Ce papier présente l'Entropic Claim Resolution (ECR), un nouvel algorithme d'inférence pour les systèmes RAG qui sélectionne dynamiquement les preuves en maximisant la réduction de l'entropie attendue afin de résoudre les incertitudes épistémiques plutôt que de se fier uniquement à la pertinence sémantique.

Auteurs originaux : Davide Di Gioia

Publié 2026-03-31

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Davide Di Gioia

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

🕵️‍♂️ Le Problème : Le Détective qui lit tout le journal

Imaginez que vous avez un détective très intelligent (c'est l'IA) qui doit répondre à une question complexe, par exemple : "Qui a gagné le championnat de football en 2023, et pourquoi l'arbitre a-t-il été controversé ?"

Dans les systèmes actuels (appelés RAG), le détective a une règle simple : "Trouve-moi les documents qui ressemblent le plus à ma question."

Si vous demandez "football", il va lire 50 articles qui parlent de football.
Le problème : Ces 50 articles se ressemblent tous. Ils disent la même chose, ou pire, ils se contredisent sans que le détective ne s'en rende compte. Il lit tout, se perd dans le bruit, et finit par inventer une réponse (une "hallucination") parce qu'il n'a pas su trier l'essentiel du superflu. C'est ce que les auteurs appellent un "effondrement épistémique" : le détective est noyé sous des informations redondantes et ne trouve pas la vérité.

💡 La Solution : ECR, le Détective Stratège

Les auteurs proposent une nouvelle méthode appelée ECR (Résolution Entropique des Revendications). Au lieu de chercher ce qui est le plus pertinent, ECR cherche ce qui est le plus discriminant (ce qui aide le plus à trancher).

Voici comment ça marche, avec une analogie :

1. Le Jeu des 3 Boîtes (Les Hypothèses)

Au lieu de chercher une réponse directe, le détective imagine d'abord trois boîtes (hypothèses) possibles :

📦 Boîte A : L'équipe X a gagné.
📦 Boîte B : L'équipe Y a gagné.
📦 Boîte C : Le match a été annulé.

Au début, il ne sait pas laquelle est vraie. C'est le chaos (ou "entropie" en langage scientifique). Il a 33% de chances pour chaque boîte.

2. Le Choix Intelligent (Réduction de l'Entropie)

Le détective a accès à une pile de documents. Il ne va pas les lire dans l'ordre. Il va choisir un seul document à la fois en se posant cette question magique :

"Si je lis ce document précis, est-ce qu'il va m'aider à éliminer une ou deux boîtes ?"

Le document "ennuyeux" : "Le football est un sport populaire." -> Cela ne change rien. Les 3 boîtes restent ouvertes. (Inutile).
Le document "décisif" : "L'équipe Y a marqué 3 buts." -> Boum ! La Boîte A et la Boîte C sont fermées. Il ne reste plus que la Boîte B. Le chaos a diminué.

ECR choisit toujours le document qui réduit le plus le doute (c'est ce qu'ils appellent la "Réduction d'Entropie Attendue"). C'est comme jouer au jeu "Qui est-ce ?" : on ne demande pas "Est-ce qu'il a les cheveux blonds ?" (trop commun), on demande "Est-ce qu'il porte un chapeau rouge ?" (si oui, on élimine 90% des suspects).

3. Le Stop Intelligent (Quand s'arrêter ?)

Les systèmes actuels s'arrêtent souvent parce qu'ils ont lu "5 documents" ou qu'ils sont fatigués.
ECR, lui, s'arrête quand il est sûr.

Dès qu'une seule boîte reste ouverte (ou que le doute est très faible), il s'arrête et donne la réponse.
Le cas spécial (Les contradictions) : Si le détective trouve un document qui dit "L'équipe X a gagné" et un autre qui dit "L'équipe X a perdu", et qu'il ne peut pas trancher, ECR ne va pas inventer une réponse. Il va dire : "Attendez, il y a un conflit. Je ne peux pas répondre avec certitude." C'est une honnêteté intellectuelle programmée.

🏗️ Comment ça s'installe dans la vraie vie ?

Les auteurs ont intégré cette méthode dans un système industriel (CSGR++). Imaginez une usine de traitement de l'information :

L'entrée : On jette des tonnes de documents (textes, tableaux Excel, graphes).
Le tri : ECR ne lit pas tout. Il pioche les pièces du puzzle les plus utiles pour fermer les boîtes.
La sortie : Soit une réponse claire, soit un avertissement : "Les preuves sont contradictoires, je ne peux pas conclure."

🌟 Pourquoi c'est génial ?

Moins de gaspillage : On ne lit pas 50 pages pour trouver une info qui était dans la première. On va droit au but.
Plus de confiance : Dans des domaines vitaux (médecine, droit, finance), il vaut mieux dire "Je ne sais pas, les preuves se contredisent" que de donner une réponse fausse avec assurance.
Économie d'argent : Moins de documents à lire = moins de temps de calcul = moins cher.

En résumé

Alors que les IA actuelles sont comme un étudiant qui relit tout son cours en surlignant tout, ECR est comme un enquêteur chevronné qui sait exactement quelle question poser pour éliminer les suspects un par un, jusqu'à ce que le coupable (ou la vérité) soit évident. Si les preuves sont trop floues, il a le courage de dire : "Je ne peux pas trancher" plutôt que de mentir.

1. Problématique : La limite de la pertinence dans la RAG

Les systèmes actuels de Génération Augmentée par Récupération (RAG) reposent principalement sur une récupération dense basée sur la pertinence sémantique (recherche des documents les plus similaires à la requête). Bien que cette approche soit efficace pour des questions factuelles simples, elle échoue dans des scénarios complexes caractérisés par :

Des conflits d'évidence entre plusieurs sources.
Une ambiguïté fondamentale de la requête.
Des dépendances multi-sauts complexes.

L'article identifie un phénomène de "collapse épistémique" (effondrement épistémique) : les systèmes récupèrent des informations redondantes et sémantiquement similaires à la requête, mais qui ne sont pas discriminatives. Cela force le modèle de langage (LLM) à synthétiser une réponse à partir d'une distribution d'évidence biaisée ou incomplète, conduisant à des hallucinations non nuancées, une surconfiance ou des inexactitudes factuelles. Il manque aux systèmes actuels un critère d'arrêt rigoureux et une fonction objectif pour sélectionner la prochaine pièce d'évidence la plus informative.

2. Méthodologie : La Résolution de Revendications Entropiques (ECR)

Les auteurs proposent ECR (Entropic Claim Resolution), un algorithme d'inférence qui reformule le processus de raisonnement RAG comme une minimisation de l'entropie sur un espace d'hypothèses de réponses sémantiques.

Concepts Clés :

Espace d'Hypothèses ( $A$ ) : Le système initialise une distribution de probabilité sur un ensemble d'hypothèses de réponses mutuellement exclusives (générées dynamiquement par le LLM ou par clustering).
Sélection par Réduction d'Entropie Attendue (EER) : Contrairement aux approches basées sur la similarité cosinus, ECR sélectionne séquentiellement des revendications factuelles atomiques (claims) en maximisant la Réduction d'Entropie Attendue (Expected Entropy Reduction - EER).
- L'objectif est de choisir l'évidence qui réduit le plus l'incertitude sur l'hypothèse correcte (c'est-à-dire qui "effondre" la distribution de probabilité vers une seule hypothèse).
- Une revendication qui soutient toutes les hypothèses également a une EER de 0 (redondante), même si elle est pertinente sémantiquement.
Critère d'Arrêt Épistémique : Le processus s'arrête dynamiquement lorsque l'entropie de l'espace d'hypothèses $H(A|X_{eval})$ tombe en dessous d'un seuil $\epsilon$ (suffisance épistémique), à condition qu'il n'y ait pas de contradictions non résolues.
Signal de Cohérence (Contradiction-Aware) : ECR intègre un terme de régularisation $\lambda$ qui priorise la vérification des revendications susceptibles de compléter une contradiction explicite (ex: une négation d'une revendication déjà évaluée). Cela empêche le système d'ignorer les incohérences en les "moyennant".
Architecture Hybride (CSGR++) : ECR est intégré dans un pipeline de récupération multi-stratégies (CSGR++) qui gère des données structurées (tableaux), non structurées et des graphes de connaissances, en utilisant des indices vectoriels et des bases de données EAV (Entity-Attribute-Value) pour une traçabilité fine.

3. Contributions Principales

Changement de paradigme : Passage d'une récupération basée sur la pertinence ("ce qui est le plus similaire") à une récupération basée sur la discrimination ("ce qui réduit le plus l'incertitude").
Critère d'arrêt mathématique : Définition formelle d'un critère d'arrêt basé sur la suffisance épistémique ( $H \le \epsilon$ ), éliminant le besoin de seuils heuristiques fixes ou de boucles infinies.
Transition de phase comportementale : Démonstration que ECR, face à des preuves contradictoires structurées, passe d'un effondrement épistémique forcé à une exposition de l'ambiguïté (refus de réduire l'incertitude si les preuves sont incohérentes), garantissant ainsi l'intégrité épistémique.
Scalabilité pratique : Implémentation d'un algorithme léger, sans besoin de fine-tuning de modèle, intégré dans une architecture de production (CSGR++), capable de gérer des données tabulaires et temporelles avec une traçabilité complète.

4. Résultats Expérimentaux

Les évaluations ont été menées en deux phases : un environnement contrôlé "claims-only" et une évaluation end-to-end sur un benchmark multi-sauts (HotpotQA).

Réduction de l'incertitude (Claims-only) :
- ECR atteint la suffisance épistémique avec seulement 5 revendications en moyenne, réduisant l'entropie finale à 0.21 bits (contre 1.58 bits pour une récupération purement basée sur la pertinence).
- La méthode "Relevance-only" ne parvient pas à réduire l'entropie, confirmant que la pertinence sémantique ne résout pas l'ambiguïté.
- ECR est robuste sur plusieurs graines aléatoires, montrant une stabilité supérieure aux contrôles aléatoires.
Performance End-to-End (HotpotQA) :
- ECR surpasse significativement la sélection aléatoire sur les métriques Exact Match (EM) et F1.
- Par rapport à une base de référence RAG forte (basée sur la pertinence), ECR maintient des performances comparables (EM ~0.297 vs 0.313) tout en utilisant un nombre de revendications similaire, prouvant que le contrôle épistémique ne dégrade pas la précision sur des tâches factuelles standards.
Robustesse au bruit et aux contradictions :
- Bruit (40% de fausses preuves) : ECR montre une dégradation prévisible sans amplification des erreurs, évitant les hallucinations surconfiantes.
- Contradictions structurées : Dans un test d'injection de contradictions, ECR présente une transition de phase claire : là où le RAG de base reste pathologiquement surconfiant (taux d'erreur > 99%), ECR détecte l'incohérence, arrête la convergence et expose l'ambiguïté (taux d'exposition de l'ambiguïté = 100%).

5. Signification et Impact

Ce travail propose une voie alternative pour l'échelle des systèmes de connaissances intensives, ne reposant pas sur l'expansion indiscriminée du contexte ou des modèles plus grands, mais sur un contrôle décisionnel rigoureux de l'inférence.

Sécurité et Haute Enjeu : Pour des domaines critiques (médical, juridique, financier), la capacité de refuser de répondre ou d'exposer une ambiguïté lorsque les preuves sont contradictoires est cruciale pour éviter les hallucinations dangereuses.
Efficacité Computationnelle : En arrêtant la récupération dès que l'incertitude est résolue, ECR réduit la latence et les coûts de calcul associés au traitement de contextes redondants.
Fondation Théorique : L'intégration de la théorie de l'information et de la conception expérimentale bayésienne dans les pipelines RAG offre une base mathématique solide pour la gestion de l'incertitude, ouvrant la voie à des agents autonomes plus robustes et interprétables.

En résumé, ECR transforme la RAG d'un système passif de récupération de contexte en un agent actif de résolution d'incertitude, optimisant le coût de l'information pour une prise de décision plus fiable et interprétable.