ERA: Evidence-based Reliability Alignment for Honest Retrieval-Augmented Generation

1. Problématique

Les modèles de langage (LLM) utilisés dans les systèmes de Génération Augmentée par Récupération (RAG) souffrent d'un problème fondamental : les conflits de connaissances. Ces conflits surviennent lorsque les connaissances paramétriques internes du modèle (issues de l'entraînement) entrent en contradiction avec les informations externes récupérées.

Les défis majeurs identifiés sont :

• Ambiguïté des incertitudes : Les méthodes existantes reposent souvent sur des estimations de confiance scalaires (probabilités softmax) qui échouent à distinguer l'incertitude épistémique (manque de connaissances) de l'incertitude aléatoire (ambiguïté inhérente aux données). Cela conduit à des prédictions trop confiantes (hallucinations).
• Masquage des conflits : L'agrégation des connaissances internes et externes en une seule distribution de sortie obscurcit les désaccords entre les sources, empêchant le modèle d'identifier correctement les situations où il doit s'abstenir de répondre.
• Limites des approches actuelles : Les méthodes non supervisées peinent à distinguer les hallucinations confiantes des réponses correctes, tandis que les méthodes supervisées (comme l'optimisation par préférence directe ou DPO) ont tendance à mémoriser des schémas de refus spécifiques, limitant leur généralisation.

2. Méthodologie : Le cadre ERA

L'article propose ERA, un cadre novateur qui remplace l'estimation de confiance scalaire par une modélisation explicite de distributions de preuves. L'approche repose sur trois piliers principaux :

A. Quantification des Preuves Contextuelles (Dual-Head Evidential Deep Learning)

Au lieu de prédire une probabilité unique, ERA utilise l'Apprentissage Profond Évidentiel (EDL) pour modéliser la densité de probabilité prédictive via une distribution Dirichlet.

• Architecture à deux têtes : Le modèle possède deux têtes d'évidences indépendantes :
  1. $f_{param}$ : Estime les croyances basées uniquement sur les connaissances paramétriques internes (sans contexte récupéré).
  2. $f_{rag}$ : Estime les croyances basées sur le contexte récupéré.
• Décomposition de l'incertitude : Chaque tête projette les états cachés dans un espace de Dirichlet, permettant de séparer la masse de croyance ($b_k$) pour chaque quadrant de connaissance de la masse d'incertitude ($u$). Cela permet de distinguer ce que le modèle "sait" de ce qu'il "ignore".

B. Quantification du Conflit de Connaissances (Dempster-Shafer Theory)

Pour mesurer rigoureusement le désaccord entre les sources, ERA applique la Théorie de Dempster-Shafer (DST).

• Réduction des croyances : Les croyances fines (4 quadrants : Connu/Inconnu $\times$ Or/Bruit) sont agrégées en deux hypothèses macroscopiques : Soutenu (S) et Non Soutenu (U).
• Score de conflit ($\kappa$) : Le score de conflit est calculé comme la masse de probabilité assignée à l'ensemble vide lors de la fusion des croyances internes et externes.
  • Un $\kappa$ élevé indique un désaccord critique (ex: le modèle interne est sûr d'une réponse, mais le contexte récupéré la contredit fortement).
  • La formule intègre naturellement l'incertitude : si une source est très incertaine, le conflit est atténué.

C. Mécanisme d'Abstention Sensible à l'Incertitude

ERA modifie l'objectif d'entraînement (Direct Preference Optimization - DPO) en fonction du conflit détecté.

• Pondération dynamique : Un facteur de poids $w_{ds}$ est appliqué à la fonction de perte DPO. Ce poids augmente lorsque le conflit $\kappa$ est élevé et que l'incertitude de la récupération est faible (c'est-à-dire que le contexte est fiable mais contradictoire).
• Objectif unifié : La perte totale combine la perte DPO pondérée, la perte d'apprentissage évidentiel (EDL) et une perte de fine-tuning supervisé (SFT). Cela force le modèle à apprendre à privilégier les preuves externes fiables lorsqu'elles contredisent les biais internes, tout en apprenant à s'abstenir lorsque les deux sources sont incertaines.

3. Contributions Clés

1. Changement de paradigme : Passage des probabilités scalaires aux distributions de preuves (Dirichlet) pour dissocier explicitement l'incertitude épistémique de l'incertitude aléatoire.
2. Mesure géométrique du conflit : Introduction d'une métrique rigoureuse basée sur la DST pour quantifier le désaccord entre les connaissances paramétriques et les preuves externes, traitées comme des masses de croyance indépendantes.
3. Nouveau Benchmark : Création d'un jeu de données de généralisation basé sur des événements Wikipedia (2010-2025) et des contextes bruités synthétiques, conçu spécifiquement pour évaluer la capacité du modèle à identifier les requêtes non soutenues sans surapprentissage.
4. Alignement honnête : Démonstration qu'il est possible d'optimiser le compromis entre la couverture des réponses (Answer Coverage) et l'abstention, en maintenant une haute précision sur les questions répondables tout en refusant systématiquement les questions non soutenues.

4. Résultats Expérimentaux

Les expériences ont été menées sur des benchmarks standards (Natural Questions, TriviaQA, WebQuestions) et sur le nouveau jeu de données Wiki Event.

• Performance globale : ERA surpasse significativement les méthodes de base (Logprob, Self-Consistency, DTA) sur le score Overall F1, qui équilibre la qualité des réponses et la qualité de l'abstention.
• Généralisation : Sur le jeu de données Wiki Event (hors distribution temporelle), ERA double le score F1 de réponse par rapport à la méthode DTA (Direct Trust Alignment), tout en maintenant un taux d'abstention élevé. Cela prouve que ERA évite le surapprentissage aux motifs de refus spécifiques.
• Calibration : L'analyse montre que ERA produit des estimations de confiance bien calibrées. Contrairement aux modèles basés sur l'entropie croisée (CE) qui sont trop confiants (ECE élevé), ERA réduit l'erreur de calibration, en particulier dans les scénarios à haut risque (conflits et incertitudes).
• Sensibilité aux conflits : L'analyse de divergence de Jensen-Shannon confirme que le cadre EDL détecte efficacement les discordances entre les sources, là où les méthodes classiques échouent.

5. Signification et Impact

L'article ERA représente une avancée significative pour la fiabilité des systèmes RAG. En traitant l'incertitude non pas comme un simple score scalaire, mais comme une distribution de croyances structurée, le cadre permet aux modèles de :

1. Comprendre la source de leur ignorance (manque de données vs conflit de données).
2. Prendre des décisions d'abstention rationnelles basées sur la géométrie du conflit entre les connaissances internes et externes.
3. Réduire les hallucinations dans des scénarios réels où les données récupérées peuvent être bruitées ou contradictoires.

Ce travail pose les bases pour le développement de systèmes d'IA plus transparents et dignes de confiance, capables de reconnaître leurs limites et de prioriser les faits vérifiés par des preuves externes lorsqu'ils entrent en conflit avec leurs paramètres internes.