💬 NLP

Attributing Response to Context: A Jensen-Shannon Divergence Driven Mechanistic Study of Context Attribution in Retrieval-Augmented Generation

Ce travail présente ARC-JSD, une nouvelle méthode efficace et sans entraînement supplémentaire qui utilise la divergence de Jensen-Shannon pour attribuer précisément les réponses de modèles RAG à leurs segments de contexte respectifs, tout en analysant mécaniquement les mécanismes internes de l'attention et des couches MLP impliqués.

Auteurs originaux : Ruizhe Li, Chen Chen, Yuchen Hu, Yanjun Gao, Xi Wang, Emine Yilmaz

Publié 2026-02-12

📖 3 min de lecture☕ Lecture pause café

CC BY 4.0

Auteurs originaux : Ruizhe Li, Chen Chen, Yuchen Hu, Yanjun Gao, Xi Wang, Emine Yilmaz

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Le Détective de la Bibliothèque Magique : Comment savoir d'où vient l'information ?

Imaginez que vous avez un assistant personnel très intelligent, appelons-le "L'Oracle". L'Oracle est capable de répondre à presque tout, mais il a un petit défaut : parfois, il mélange ses souvenirs personnels avec les livres qu'il vient de lire, et il peut finir par inventer des choses (ce que les chercheurs appellent des "hallucinations").

Pour l'aider, on utilise une technique appelée RAG (Retrieval-Augmented Generation). C'est comme si, avant de répondre à votre question, l'Oracle courait à la bibliothèque, prenait trois ou quatre livres ouverts sur le sujet, et les lisait pour être sûr de ne pas dire de bêtises.

Le problème : Quand l'Oracle vous répond : "Le fondateur de l'entreprise X est Jean Dupont", comment savoir si cette info vient vraiment du livre qu'il a sous les yeux, ou s'il l'a juste "imaginée" en mélangeant ses connaissances ? On veut qu'il puisse pointer du doigt la phrase exacte dans le livre qui prouve ce qu'il dit. C'est ce qu'on appelle l'Attribution de Contexte.

La nouvelle méthode : ARC-JSD (Le "Scanner de Divergence")

Jusqu'à présent, pour vérifier l'Oracle, c'était soit très lent (il fallait lui faire refaire des milliers de tests), soit très cher (il fallait payer des humains pour vérifier ses sources).

Les chercheurs de ce papier ont inventé une méthode géniale appelée ARC-JSD. Pour comprendre, imaginez que l'Oracle est un chef cuisinier.

La Recette Complète : L'Oracle prépare un plat (sa réponse) en utilisant tous les ingrédients (les phrases du contexte).
Le Test de l'Ingrédient Manquant : Pour savoir si le sel était vraiment important, on demande à l'Oracle de refaire le plat, mais sans le sel.
Le Scanner de Goût (Le JSD) : On compare le goût du plat avec sel et le goût du plat sans sel. Si le goût change radicalement (une énorme "divergence"), c'est que le sel était l'ingrédient clé ! Si le goût est presque le même, c'est que le sel n'était pas essentiel.

C'est exactement ce que fait ARC-JSD : il retire une phrase du texte, regarde si la réponse de l'IA change brusquement, et grâce à un calcul mathématique (la Divergence de Jensen-Shannon), il identifie la phrase "gagnante" qui a permis de construire la réponse.

Pourquoi est-ce une révolution ?

C'est ultra-rapide : C'est comme passer d'un scanner médical lourd et lent à un simple test de goût instantané. Ça va jusqu'à 3 fois plus vite que les anciennes méthodes.
C'est une loupe sur le cerveau de l'IA : Les chercheurs n'ont pas seulement trouvé comment vérifier les sources, ils ont aussi réussi à regarder à l'intérieur du cerveau de l'IA. Ils ont découvert quels "circuits électriques" (les couches de neurones artificiels) s'activent spécifiquement pour lire les documents.
On peut "calmer" l'IA : En comprenant quels circuits sont responsables de la lecture, ils ont trouvé un moyen de les "régler" pour réduire les erreurs et les mensonges de l'IA.

En résumé

Ce papier propose un nouveau moyen, très rapide et très précis, de demander à une intelligence artificielle : « Montre-moi exactement quelle phrase dans ce texte t'a permis de me répondre ça. » C'est une étape cruciale pour que les IA deviennent des outils de confiance, capables de prouver leurs dires comme un vrai chercheur ou un avocat.

Résumé Technique : Attributing Response to Context (ARC-JSD)

Ce papier, publié pour l'ICLR 2026, propose une nouvelle méthode pour résoudre le problème de l'attribution de contexte dans les systèmes de Génération Augmentée par Récupération (RAG).

1. La Problématique (The Problem)

Dans un système RAG, un modèle de langage (LLM) génère une réponse en s'appuyant sur des documents externes (le contexte). Un défi majeur est l'attribution de contexte : identifier précisément quels segments (phrases) du contexte ont réellement permis au modèle de générer une réponse spécifique.

Les méthodes actuelles souffrent de deux défauts majeurs :

Coût computationnel élevé : Elles nécessitent souvent un réglage fin (fine-tuning), des calculs de gradients complexes ou l'entraînement de modèles de substitution (surrogate models).
Manque d'efficacité : Les approches basées sur l'ablation de contexte nécessitent des centaines d'appels en avant (forward passes) pour être précises.

2. Méthodologie (Methodology)

Les auteurs introduisent ARC-JSD (Attribute Response to Context via Jensen–Shannon Divergence). La méthode repose sur l'idée que si une phrase est essentielle à la réponse, sa suppression modifiera radicalement la distribution de probabilité des jetons (tokens) générés.

Le processus technique est le suivant :

Ablation de phrase : Pour chaque phrase $c_i$ du contexte, le modèle génère la distribution de probabilité de la réponse $R$ en excluant cette phrase ( $C_{ABLATE}(c_i)$ ).
Calcul de la Divergence de Jensen-Shannon (JSD) : Au lieu d'utiliser la divergence KL (instable et asymétrique) ou la distance de Wasserstein (coûteuse), les auteurs utilisent la JSD pour mesurer l'écart entre la distribution de probabilité avec le contexte complet et celle avec la phrase ablée.
Classement : Les phrases sont classées par score JSD décroissant. La phrase ayant la plus grande divergence est considérée comme la plus cruciale pour l'attribution.

L'étude utilise également la Logit Lens pour une analyse mécaniste, permettant de projeter les représentations intermédiaires (têtes d'attention et couches MLP) dans l'espace du vocabulaire afin de quantifier leur contribution à l'attribution.

3. Contributions Clés (Key Contributions)

Nouvelle métrique d'attribution : Un algorithme efficace, sans entraînement préalable, sans calcul de gradient et sans modèle de substitution.
Analyse mécaniste approfondie : Identification des têtes d'attention et des couches MLP spécifiques (généralement dans les couches intermédiaires et supérieures) responsables de l'intégration du contexte.
Contrôle du comportement du RAG : Capacité à réduire le taux d'hallucination en manipulant (via un "gate" de confiance basé sur la JSD) les composants internes du modèle.

4. Résultats (Results)

Les évaluations ont été menées sur des benchmarks de QA (TyDi QA, Hotpot QA, MuSiQue) avec des modèles de différentes tailles (Qwen2, Gemma2).

Précision : ARC-JSD surpasse les méthodes de référence (baselines) avec une amélioration moyenne de l'exactitude de l'attribution de plus de 10 %.
Efficacité : La méthode est jusqu'à 3 fois plus rapide que les approches basées sur des modèles de substitution ou des gradients.
Réduction des hallucinations : En utilisant les scores JSD pour filtrer les composants internes, les auteurs ont réduit le taux d'hallucination d'environ 39 % sur le dataset Hotpot QA sans dégrader la fidélité factuelle (F1).

5. Signification et Impact (Significance)

Ce travail est significatif car il transforme l'attribution de contexte d'un processus coûteux et opaque en un outil de diagnostic léger et interprétable.

Transparence : Il permet de vérifier si un LLM "invente" une réponse ou s'il s'appuie réellement sur les preuves fournies.
Fiabilité : En offrant un moyen de contrôler les mécanismes internes (attention/MLP), il ouvre la voie à des systèmes RAG plus robustes et moins sujets aux hallucinations, essentiels pour des domaines critiques comme le médical ou le juridique.