Evaluating RAG Reliability under Clean, Misleading, and Mixed Retrieval

Résumé Technique : Évaluation de la fiabilité du RAG sous des contextes de récupération sains, trompeurs et mixtes

Énoncé du problème
Les systèmes de génération augmentée par récupération (RAG) sont conçus pour améliorer la fiabilité factuelle des grands modèles de langage (LLM) en ancrant les réponses dans des preuves externes. Cependant, une vulnérabilité critique existe dans les environnements d'information du monde réel où le contenu récupéré contient souvent des données hétérogènes, incluant des informations plausibles mais incorrectes (désinformation). Les cadres d'évaluation actuels supposent souvent que le contexte récupéré est fiable ou se concentrent principalement sur les attaques de type « empoisonnement » orientées vers la sécurité. Il existe un manque d'analyse systématique concernant la manière dont les systèmes RAG se comportent lorsque le contexte récupéré contient des niveaux variables de désinformation, particulièrement dans des scénarios où le modèle possède déjà la réponse correcte dans sa connaissance paramétrique (interne). Le problème central est de déterminer si, et comment, les preuves trompeuses supplantent la connaissance interne correcte et influencent la confiance du modèle.

Méthodologie
L'étude propose un protocole d'évaluation pour tester la robustesse du RAG à travers quatre scénarios contextuels distincts :

1. Sain (Clean) : Contexte contenant uniquement des passages corrects.
2. Empoisonné (Poisoned) : Contexte contenant uniquement des passages incorrects (trompeurs).
3. Mixte-33 (Mixed-33) : Contexte avec un passage incorrect et deux passages corrects.
4. Mixte-67 (Mixed-67) : Contexte avec deux passages incorrects et un passage correct.

Configuration expérimentale :

• Jeu de données : Un sous-ensemble de 100 questions factuelles a été échantillonné à partir du jeu de données TruthfulQA. Crucialement, l'étude a filtré les questions que les modèles répondaient correctement dans un cadre Paramétrique-Seul (sans récupération), garantissant que toute erreur ultérieure puisse être attribuée à l'influence contextuelle plutôt qu'à des lacunes de connaissances.
• Modèles : Les expériences ont été menées en utilisant GPT-4o (un modèle performant à poids fermés) et LLaMA-3.1-8B (un modèle plus petit à poids ouverts) afin d'évaluer l'impact de la capacité du modèle.
• Construction du contexte : Les contextes sains ont été récupérés de Wikipédia via BM25. Les contextes trompeurs (« empoisonnés ») ont été générés synthétiquement par LLaMA-3.1-8B pour être plausibles, informatifs et factuellement contradictoires à la réponse de référence, imitant ainsi une désinformation réaliste sans dépendre d'API propriétaires pour la génération.
• Métriques d'évaluation : L'article introduit trois métriques spécifiques pour aller au-delà de la simple précision :
  1. Taux de Substitution Paramétrique (POR - Parametric Override Rate) : Mesure la fréquence à laquelle le contexte récupéré pousse un modèle à abandonner une réponse paramétrique correcte au profit d'une réponse incorrecte.
  2. Inflation de la Confiance (CI - Confidence Inflation) : Quantifie l'augmentation de l'assertivité (confiance) du modèle lors de la génération de réponses incorrectes sous des contextes trompeurs par rapport aux contextes sains.
  3. Courbe de Ratio d'Empoisonnement (PRC - Poison Ratio Curve) : Suit l'évolution de la précision globale du modèle à mesure que la proportion de passages trompeurs dans le contexte augmente de 0 % à 100 %.

Résultats clés

• Substitution Paramétrique : Les deux modèles ont montré une susceptibilité significative à la substitution de leurs connaissances internes correctes. Même dans le scénario Sain, une partie substantielle des réponses paramétriques correctes a été substituée (un POR de 0,378 pour GPT-4o et de 0,417 pour LLaMA-3.1), suggérant que la simple présence d'un contexte récupéré peut interférer avec le raisonnement interne. À mesure que la proportion de contexte incorrect augmentait, le POR augmentait systématiquement. Dans le scénario Empoisonné, les deux modèles ont abandonné la connaissance correcte dans plus de 56 % des cas.
• Sensibilité du Modèle : LLaMA-3.1 a démontré une sensibilité plus élevée aux preuves contradictoires que GPT-4o, montrant une baisse plus marquée de la performance dans les scénarios mixtes (par exemple, le POR a bondi à 0,583 dans le Mixte-67 pour LLaMA-3.1).
• Inflation de la Confiance : Les contextes trompeurs ont poussé les modèles à exprimer des réponses incorrectes avec une confiance nettement plus élevée. Dans le scénario entièrement empoisonné, les deux modèles affichaient des niveaux d'inflation de la confiance similaires (environ 1,6), indiquant que la surconfiance face à la désinformation est une caractéristique générale des systèmes RAG plutôt qu'un défaut spécifique à l'architecture.
• Dégradation de la Précision : La Courbe de Ratio d'Empoisonnement a révélé une relation inverse claire entre la quantité de désinformation et la précision du modèle. Des tests statistiques (Q de Cochran) ont confirmé que la dégradation de la précision à travers les conditions de contexte était significative pour les deux modèles.

Signification et Contributions
L'article affirme fournir le premier cadre d'évaluation systématique qui mesure explicitement l'étendue de la déviation des modèles par rapport à la connaissance paramétrique correcte sous l'influence du contexte récupéré. Ses principales contributions incluent :

1. Aperçu Comportemental : Démontrer que la fiabilité du RAG ne dépend pas uniquement de la précision de la récupération, mais dépend fortement de la manière dont les modèles résolvent les conflits entre la connaissance interne et les preuves externes.
2. Nouvelles Métriques : Introduction du POR, du CI et du PRC pour quantifier l'effet de « substitution » et la combinaison dangereuse de réponses incorrectes associées à une confiance élevée.
3. Évaluation Réaliste : Souligner que les systèmes RAG sont vulnérables même dans des environnements « mixtes » où la désinformation n'est pas dominante, remettant en question l'hypothèse selon laquelle les informations correctes dans le contexte prévaudront naturellement.

Les auteurs concluent que dans les environnements riches en désinformation, la fiabilité des preuves récupérées est aussi critique que leur pertinence. L'étude suggère que les futurs systèmes RAG nécessiteront des mécanismes de récupération conscients de la crédibilité et des stratégies de détection de conflits pour empêcher les modèles d'adopter avec confiance des informations trompeuses au détriment de leurs propres connaissances vérifiées.