Open-Source Reproduction and Explainability Analysis of Corrective Retrieval Augmented Generation

Cet article présente une reproduction entièrement open-source du système CRAG, en remplaçant ses composants propriétaires par des alternatives libres tout en démontrant des performances comparables et en apportant la première analyse d'explicabilité révélant que l'évaluateur repose principalement sur l'alignement des entités nommées plutôt que sur la similarité sémantique.

L'essentiel

🕵️‍♂️ Le Problème : L'Assistant qui invente des histoires

Imaginez un grand expert (une Intelligence Artificielle) capable de répondre à n'importe quelle question. C'est génial, mais il a un défaut majeur : il adore halluciner. Si on lui demande quelque chose qu'il ne connaît pas vraiment, il va inventer une réponse avec une confiance absolue, comme un acteur qui improvise un rôle sans connaître le script.

Pour l'aider, on lui donne un "livre de référence" (des documents récupérés sur internet) avant qu'il ne réponde. C'est ce qu'on appelle le RAG (Génération Augmentée par la Recherche).

Le souci ? Parfois, le livre qu'on lui donne est faux, hors sujet ou incomplet. Et là, l'expert se trompe encore plus, car il fait confiance à un mauvais livre.

🛠️ La Solution Originale : Le "Correcteur" (CRAG)

Les chercheurs originaux ont créé un système appelé CRAG (Corrective Retrieval Augmented Generation). Imaginez que vous avez un inspecteur de police (l'évaluateur) qui vérifie le livre avant de le donner à l'expert.

L'inspecteur a trois réactions possibles :

1. "C'est bon !" (Correct) : Le livre est parfait. On le donne à l'expert.
2. "C'est nul !" (Incorrect) : Le livre est hors sujet. On le jette et on va chercher de nouvelles infos sur le "Grand Internet" (Google).
3. "Je ne sais pas..." (Ambigu) : Le livre est un peu flou. On mélange le livre actuel avec une nouvelle recherche sur Internet.

Le problème avec la version originale de CRAG ? C'était comme un système de luxe payant. Il utilisait :

• Une clé API Google (payante).
• Des modèles d'IA propriétaires (fermés, on ne peut pas voir comment ils fonctionnent).
• Des outils que plus personne n'utilise.

Personne ne pouvait vraiment recréer ce système sans payer des milliers de dollars.

🚀 Ce que fait ce papier : La Version "Fait Maison" (Open Source)

L'auteur de ce papier, Surya, a dit : "Attendez, on peut tout refaire avec des outils gratuits et libres !"

Il a remplacé le système de luxe par une version 100% gratuite et ouverte :

• Au lieu de Google, il utilise Wikipedia (comme un bibliothécaire qui fouille dans ses propres rayons).
• Au lieu du gros modèle payant, il utilise un petit modèle gratuit et rapide (Phi-3).
• Il a tout codé et mis en ligne pour que tout le monde puisse l'utiliser.

Le résultat ? Leur version "maison" fonctionne presque aussi bien que la version de luxe ! C'est une preuve que l'on n'a pas besoin de milliards de dollars pour avoir une IA intelligente et fiable.

🔍 La Grande Découverte : Le Secret de l'Inspecteur

C'est ici que ça devient fascinant. L'auteur a voulu comprendre comment l'inspecteur (l'évaluateur) prenait ses décisions. Il a utilisé un outil appelé SHAP (qui agit comme un "rayon X" pour voir ce que le cerveau de l'IA regarde).

La révélation surprenante :
L'inspecteur ne lit pas vraiment le sens des phrases comme un humain. Il agit comme un détective qui cherche des noms propres.

• Si la question est : "Qui est le président de la France ?" et que le document parle de "Emmanuel Macron", l'inspecteur crie "C'est bon !" parce qu'il voit le nom "Macron".
• Si la question est : "Qui a dirigé le film Titanic ?" et que le document parle de "Titanic", l'inspecteur peut dire "C'est nul !" non pas parce que le film est mal décrit, mais parce que le mot "Titanic" (ou ses sous-parties) ne correspond pas exactement à ce qu'il a appris.

L'analogie : C'est comme si un professeur de maths notait vos copies uniquement en vérifiant si vous avez écrit le mot "Pi" dans la bonne case, sans jamais vérifier si votre calcul est juste.

⚠️ Les Pièges (Où ça coince)

Grâce à cette analyse, l'auteur a trouvé deux faiblesses majeures :

1. Le problème des "Questions Scientifiques" : L'inspecteur a été entraîné sur des questions de type "Qui est-ce ?" (des noms de personnes, de villes). Si on lui pose une question de science (ex: "Comment fonctionne un atome ?"), il ne trouve pas de noms propres à matcher. Il panique et dit souvent "Je ne sais pas" (Ambigu), même si la réponse est dans le livre.
2. Le problème des "Mots rares" : Si on parle d'un sujet très spécifique (comme un film de niche ou une chanson obscure), l'inspecteur ne reconnaît pas les noms et rejette les documents, même s'ils sont parfaits.

💡 En Résumé

Ce papier nous apprend deux choses importantes :

1. On peut rendre l'IA accessible : On n'a pas besoin d'outils payants pour construire des systèmes intelligents et robustes.
2. Il faut comprendre nos outils : L'IA ne "comprend" pas toujours ce qu'elle lit. Elle cherche souvent des motifs simples (comme des noms). Si on veut qu'elle soit meilleure, il faut lui apprendre à regarder au-delà des simples noms, surtout pour les questions de science ou de culture générale.

C'est comme si on avait découvert que notre meilleur détective était en fait un excellent chercheur de noms, mais qu'il fallait lui apprendre à lire entre les lignes pour résoudre les énigmes plus complexes !

Résumé technique

1. Problématique

Les modèles de langage (LLM) sont sujets aux « hallucinations », générant du contenu factuellement incorrect avec une grande confiance. La Génération Augmentée par Récupération (RAG) tente de résoudre ce problème en ancrant la génération dans des documents externes. Cependant, le RAG standard suppose que les documents récupérés sont toujours pertinents, ce qui est souvent faux.

La CRAG (Corrective Retrieval Augmented Generation) a été proposée pour pallier cela en introduisant un évaluateur de récupération qui déclenche des actions correctives (Correction, Rejet, Ambiguïté). Néanmoins, l'implémentation originale de CRAG présente des barrières majeures à la reproductibilité :

• Elle dépend d'API propriétaires payantes (Google Search).
• Elle utilise des poids de modèles fermés (LLaMA-2 fine-tuné).
• Elle repose sur des appels API obsolètes (OpenAI).

Ces contraintes empêchent la communauté de recherche de reproduire et d'améliorer le système sans ressources importantes.

2. Méthodologie

L'objectif principal de l'article est de fournir une reproduction entièrement open-source de CRAG et d'analyser le fonctionnement interne de son évaluateur.

A. Reproduction Open-Source

Les auteurs ont remplacé tous les composants propriétaires par des alternatives gratuites et accessibles :

• Générateur : Remplacement de LLaMA-2-7B par Phi-3-mini-4k-instruct (3,8 milliards de paramètres), un modèle d'instruction performant et gratuit.
• Recherche Web : Remplacement de l'API Google Search par une pipeline de récupération multi-étapes basée sur l'API Wikipedia. Cette pipeline utilise l'extraction d'entités clés (via regex) et quatre stratégies de repli (recherche directe, suffixe, API de recherche, résolution de pages d'homonymie).
• Évaluateur de Récupération : Utilisation du même checkpoint T5-large fine-tuné que l'original, évaluant la pertinence d'une paire question-document.
• Réflexion de Connaissances : Implémentation de l'algorithme « décomposer puis recomposer » pour affiner les documents récupérés dans le cas d'une action « Correcte ».

B. Analyse d'Explicabilité (SHAP)

Pour comprendre comment l'évaluateur T5 prend ses décisions, les auteurs appliquent SHAP (SHapley Additive exPlanations). Cette méthode attribue une valeur à chaque token (mot ou sous-mot) pour quantifier sa contribution à la note de pertinence finale. L'analyse porte sur 9 échantillons représentatifs (3 par type d'action : Correct, Incorrect, Ambigu).

C. Évaluation

Le système est évalué sur deux jeux de données :

• PopQA : 1 385 questions centrées sur des entités (sous-ensemble à longue traîne).
• ARC-Challenge : 1 172 questions scientifiques à choix multiples.

3. Contributions Clés

1. Reproduction Open-Source : Démonstration qu'un pipeline entièrement gratuit (Wikipedia + Phi-3) peut égaler les performances du système original propriétaire.
2. Première Analyse d'Explicabilité de CRAG : Identification du fait que l'évaluateur T5 fonctionne principalement comme un détecteur d'alignement d'entités nommées plutôt que comme un juge de pertinence sémantique profonde.
3. Identification des Modes d'Échec : Mise en évidence de limitations spécifiques, notamment l'échec de transfert de domaine sur les questions scientifiques et les problèmes liés aux types d'entités rares (titres de films, noms de compositeurs).

4. Résultats Principaux

Performance Globale

• PopQA : La reproduction open-source atteint 54,4 % de précision, très proche du système original (54,9 %). Cela confirme que le mécanisme de correction est le moteur principal de la performance, indépendamment du générateur.
• ARC-Challenge : Le système atteint 85,2 % contre 84,8 % pour un RAG standard (Vanilla RAG). L'amélioration est modeste mais constante, bénéficiant des connaissances paramétriques fortes de Phi-3 en sciences.

Analyse par Action (PopQA)

• Action « Correcte » : 78,1 % de précision. L'évaluateur identifie efficacement les bons documents.
• Action « Ambiguë » : Sans recherche web, la précision chute à 19,3 %. L'ajout de la recherche Wikipedia porte cette précision à 23,0 %, prouvant que la recherche externe est cruciale pour ce cas.
• Action « Incorrecte » : 36,1 % de précision.

Résultats de l'Analyse SHAP

L'analyse des attributions de tokens révèle trois patterns :

1. Alignement d'entités : Pour les réponses « Correctes », les tokens correspondant aux noms d'entités (ex: "Henry") ont une contribution positive massive.
2. Détection de mismatch : Pour les réponses « Incorrectes », l'absence ou le conflit de l'entité nommée dans le document génère une forte contribution négative.
3. Biais de domaine : L'évaluateur échoue sur des entités hors distribution (ex: "Titanic" pour un film) car ces entités sont sous-représentées dans les données d'entraînement (PopQA est dominé par des entités biographiques).

5. Signification et Implications

• Accessibilité : Ce travail démontre que les systèmes RAG avancés ne nécessitent pas d'API commerciales coûteuses pour être efficaces, favorisant ainsi la recherche reproductible.
• Limites de l'Évaluateur T5 : L'analyse révèle une faiblesse structurelle : l'évaluateur est trop dépendant de l'alignement d'entités nommées. Il peine à évaluer la pertinence sémantique pour des questions scientifiques (ARC-Challenge) ou sur des entités non-biographiques (films, musique), où il classe souvent les documents comme « Ambigus » ou « Incorrects » par défaut.
• Direction Future : Les auteurs suggèrent de fine-tuner l'évaluateur sur des types de questions plus diversifiés pour améliorer le transfert de domaine et d'explorer des alternatives de recherche web offrant une meilleure couverture que Wikipedia seul.

En conclusion, cette étude valide la viabilité d'une reproduction open-source de CRAG tout en révélant, grâce à l'explicabilité, que l'évaluateur actuel agit davantage comme un filtre d'entités que comme un juge de contenu sémantique, limitant ainsi son efficacité dans des domaines spécialisés.