How Retrieved Context Shapes Internal Representations in RAG

1. Problématique

Le Générateur Augmenté par Récupération (RAG) est une approche largement adoptée pour enrichir les grands modèles de langage (LLM) avec des connaissances externes. Bien que le RAG améliore la précision factuelle et permette des mises à jour dynamiques, son efficacité dans des scénarios réalistes reste complexe. En pratique, l'ensemble des documents récupérés contient souvent un mélange de documents pertinents, de documents distracteurs (sémantiquement similaires mais non utiles) et de bruit aléatoire.

La littérature précédente s'est principalement concentrée sur l'analyse du comportement de sortie (exactitude, taux d'hallucination) pour évaluer le RAG. Cependant, ces analyses ne révèlent pas comment le modèle intègre, ignore ou rejette l'information récupérée au niveau de ses représentations internes. Il manque une compréhension mécaniste de la manière dont différents types de contextes modifient les états cachés du modèle et comment ces changements se traduisent par des comportements de génération (réponse correcte, erreur, ou refus/abstention).

2. Méthodologie

Les auteurs proposent un cadre d'analyse rigoureux basé sur les représentations latentes (états cachés) des LLMs.

• Données et Modèles : L'étude porte sur quatre jeux de données de questions-réponses (Trivia QA, NQ, Pop QA, Strategy QA) et trois LLMs de tailles variées (Gemma3-27B, Llama4-17B, Qwen3-Next-80B).
• Classification des Documents : Pour chaque requête, les documents récupérés sont classés en trois catégories :
  1. Pertinents : Contiennent la réponse ou des informations de soutien directes.
  2. Distracteurs : Sémantiquement similaires à la requête mais ne contenant pas la réponse (risque de désinformation).
  3. Aléatoires : Faible similarité sémantique et sans utilité.
• Configuration Expérimentale :
  • Configuration mono-document : Analyse de l'impact d'un seul type de document (pertinent, distracteur, aléatoire) ou de l'absence de document (baseline).
  • Configuration multi-documents : Scénarios réalistes combinant un document pertinent avec des distracteurs ou du bruit aléatoire.
  • Difficulté des requêtes : Les requêtes sont catégorisées comme "faciles" (le modèle connaît la réponse sans RAG) ou "difficiles" (nécessite la récupération).
• Analyse des Représentations : Les auteurs analysent les états cachés du dernier token du prompt à travers les différentes couches du transformateur. Ils utilisent l'Analyse en Composantes Principales (PCA) pour visualiser les déplacements dans l'espace latent et des sondes linéaires (linear probes) pour mesurer la séparabilité des représentations.

3. Contributions Clés

1. Cadre d'analyse des représentations internes : Une méthodologie systématique pour étudier comment le contexte récupéré est traité par les LLMs, au-delà des simples métriques de sortie.
2. Découverte de nouveaux motifs de représentation : Identification de schémas spécifiques liés à la pertinence du document, à la difficulté de la requête et à la profondeur des couches du modèle.
3. Lien mécaniste entre représentations et comportements : Explication des phénomènes observés (comme l'effet de distraction ou le biais de confirmation) par l'analyse des dynamiques internes, offrant des pistes concrètes pour la conception de systèmes RAG.

4. Résultats Principaux

L'étude révèle cinq observations majeures :

• Observation 1 : Les documents aléatoires provoquent un fort dérive des représentations.
  Contrairement à l'intuition, les documents sans rapport sémantique provoquent un déplacement important des représentations par rapport à la baseline (sans document). Ce déplacement est fortement corrélé au comportement d'abstention (refus de répondre). Les modèles instruits (instruction-tuned) détectent l'absence d'information utile et basculent en mode refus, même si le modèle pourrait répondre grâce à ses connaissances paramétriques. Cela réduit l'utilisabilité du RAG.

• Observation 2 : Les documents pertinents préservent largement les représentations internes.
  Les documents pertinents ne modifient pas significativement la géométrie des représentations par rapport à l'état sans document. Ils agissent principalement comme un signal de confirmation qui renforce les connaissances paramétriques existantes, augmentant la confiance du modèle (log-vraisemblance plus élevée). Cependant, pour les requêtes difficiles où les connaissances internes sont insuffisantes, les documents pertinents échouent souvent à influencer suffisamment les représentations pour corriger l'erreur.

• Observation 3 : Un seul document pertinent stabilise les représentations en contexte multi-documents.
  Dans des scénarios bruyants (mélange de documents pertinents, distracteurs et aléatoires), la présence d'au moins un document pertinent suffit à ancrer les représentations internes du modèle. Le modèle parvient à ignorer le bruit et maintient une génération robuste, démontrant une capacité d'attention sélective interne.

• Observation 4 : Détection précoce des incohérences grossières.
  Les couches précoces du modèle (L1-L12) distinguent rapidement les documents aléatoires des autres. En revanche, la distinction entre documents pertinents et distracteurs (bruit fin) nécessite un traitement profond et reste imparfaite même dans les dernières couches.

• Observation 5 : Dominance des connaissances paramétriques dans les couches tardives.
  Alors que les couches intermédiaires intègrent l'information récupérée, les couches finales (L35-L46) tendent à rapprocher les représentations avec documents pertinents de celles sans documents. Cela indique que les couches tardives réaffirment les connaissances internes du modèle, limitant l'impact du contexte externe, surtout pour les requêtes difficiles.

5. Signification et Implications

Ce travail offre une perspective fondamentale pour la conception de systèmes RAG plus fiables :

• Filtrage de contexte : Puisque les modèles peuvent internally supprimer le bruit si un document pertinent est présent, un filtrage agressif n'est pas toujours nécessaire. Augmenter la largeur de la récupération (recall) peut être bénéfique tant qu'un document pertinent est inclus.
• Gestion des requêtes difficiles : Le fait que les couches tardives favorisent les connaissances paramétriques explique pourquoi le RAG échoue souvent sur des requêtes complexes. Des interventions architecturales (ex: fusion de connaissances, modification du décodage) sont nécessaires pour amplifier le signal de récupération dans les couches profondes.
• Fiabilité et Abstention : La tendance des modèles instruits à s'abstenir face à du contexte aléatoire (même s'ils savent la réponse) est un problème d'utilisabilité. Il suggère un besoin de rééquilibrer la confiance du modèle entre ses connaissances internes et le contexte externe.

En résumé, cette étude démontre que le RAG ne fonctionne pas simplement comme un "ajout" d'information, mais comme une interaction complexe où le modèle filtre, confirme ou rejette l'information en fonction de la profondeur de traitement et de la nature du bruit, révélant des limites structurelles dans l'intégration de connaissances externes pour les tâches complexes.