Résumé Technique : Planification de Delta Ancrée pour un RAG Multi-étapes Efficace

Problématique

Le questionnement (QA) multi-sauts demeure un défi majeur pour les systèmes de Génération Augmentée par Récupération (RAG). Les approches existantes se divisent généralement en deux catégories, qui font toutes deux face à des limitations critiques :

1. Méthodes par étapes (ex: ReAct, Self-Ask) : Elles entrelacent dynamiquement la récupération et le raisonnement. Bien que flexibles, elles souffrent du problème de « perte au milieu » (lost-in-the-middle) dû au débordement du contexte et amplifient la propagation d'erreurs, où les erreurs précoces se répercutent en cascade sur l'ensemble du processus de raisonnement.
2. Méthodes basées sur la planification (ex: ReWOO, PlanRAG) : Elles construisent des plans globaux statiques avant l'exécution pour isoler les sous-étapes et réduire les erreurs en cascade. Cependant, elles reposent souvent uniquement sur la connaissance paramétrique pour générer des plans, ce qui conduit à une sur-planification (génération de sous-requêtes redondantes pour des informations déjà disponibles) ou une sous-planification (omission de dépendances nécessaires). De plus, le suivi strict de plans rigides crée des problèmes d'efficacité, car le coût de chaque étape d'exécution devient substantiel.

Le défi central est de concevoir un cadre qui évite la propagation d'erreurs et le débordement de contexte tout en minimisant le coût computationnel en éliminant les étapes de raisonnement redondantes et en s'assurant qu'aucune information critique ne soit manquée.

Méthodologie : RAG par Planification de Delta Ancrée (GDP-RAG)

Les auteurs proposent GDP-RAG, un cadre de planification qui déplace le paradigme de la planification de la génération d'une chaîne de raisonnement complète vers le ciblage uniquement du delta d'information ($\Delta$) — la connaissance spécifique manquante après une récupération initiale. Le cadre opère à travers trois étapes distinctes :

1. Phase de Planification (Planification de Delta Ancrée)

Au lieu de décomposer une requête en utilisant uniquement la connaissance paramétrique, GDP-RAG effectue d'abord une Récupération Préliminaire pour rassembler un ensemble de documents pertinents ($D_{rel}$). Le planificateur génère ensuite une Trajectoire Squelettique ($T_{skel}$) basée sur trois choix de conception :

• Ancrage (Grounding) : Le planificateur est conditionné par $D_{rel}$ pour comprendre quelles informations sont déjà disponibles.
• Décomposition de Requête Sensible aux Écarts (Gap-aware) : L'instruction donnée au planificateur est d'identifier les informations présentes dans $D_{rel}$ et de générer des sous-requêtes uniquement pour les lacunes restantes ($\Delta$).
• Structure de la Trajectoire Squelettique : La sortie est une séquence de tuples $\langle (\theta_i, q_i) \rangle$, où $q_i$ est une sous-requête pour l'information manquante, et $\theta_i$ (Pensée/Thought) capture les preuves de $D_{rel}$ pertinentes pour cette étape. Cela préserve les preuves à travers la trajectoire, évitant la perte d'information pendant l'exécution.

Cette approche offre trois avantages structurels :

• Compression des étapes de raisonnement : Les étapes qui auraient été nécessaires pour récupérer des faits déjà présents dans $D_{rel}$ sont sautées.
• Élagage de la Sur-planification : Les sous-requêtes redondantes basées sur des besoins hallucinés sont éliminées car le planificateur vérifie les hypothèses par rapport aux documents réellement récupérés.
• Raffinement de la Sous-planification : La sémantique plus large de la récupération initiale aide à récupérer des dépendances que des sous-requêtes plus étroites et ciblées pourraient manquer.

2. Phase de Génération de Trajectoire

Le plan squelettique est exécuté via un cycle itératif Agir-Réviser-Mettre à jour (adapté de PAR-RAG) :

• Agir (Act) : Récupère les documents pour la sous-requête spécifique $q_t$ et génère une réponse provisoire $\hat{a}_t$, citant les preuves de support.
• Réviser (Review) : Construit une requête de vérification pour effectuer une récupération secondaire, recoupant $\hat{a}_t$ avec de nouvelles preuves pour corriger les incohérences factuelles.
• Mettre à jour (Update) : Valide le tuple vérifié $(\theta_t, q_t, d_t, a_t)$ dans la Mémoire de Trajectoire et affine la sous-requête suivante $q_{t+1}$ sur la base de l'évidence accumulée, assurant l'adaptabilité au moment de l'exécution.

3. Phase de Réponse

Le système synthétise la réponse finale $A$ en intégrant la requête $Q$ avec la trajectoire entièrement ancrée et vérifiée $T$, garantissant que la réponse est logiquement cohérente et strictement supportée par les documents récupérés.

Contributions Clés

1. Proposition de Cadre : GDP-RAG est un cadre RAG multi-étapes sans entraînement, basé sur la planification, qui récupère d'abord et planifie uniquement pour le delta d'information, produisant des trajectoires de raisonnement concises sans sacrifier la qualité de la réponse.
2. Performance : Des expériences approfondies démontrent que GDP-RAG atteint la précision la plus élevée parmi les systèmes comparés tout en maintenant des coûts computationnels nettement inférieurs.
3. Analyse d'Ablation : Les auteurs confirment que chaque choix de conception (récupération préliminaire, instructions sensibles aux écarts et trajectoire squelettique) contribue de manière unique à l'efficacité des étapes, à la réduction des coûts et à la précision des réponses.

Résultats Expérimentaux

Le cadre a été évalué sur trois benchmarks de QA multi-sauts : HotpotQA, 2WikiMultiHopQA, et MuSiQue, en utilisant GPT-4.1-mini pour la génération.

• Précision : GDP-RAG a atteint la précision globale la plus élevée de 60,63 %, surpassant la base de référence la plus forte, PAR-RAG (58,20 %), de 2,43 points de pourcentage. Il a également surpassé PAR-RAG sur HotpotQA (64,75 % contre 62,79 %) et MuSiQue (44,53 % contre 42,70 %).
• Efficacité (Coût-par-Passage) : La métrique principale, le coût-par-passage (coût attendu pour produire une réponse correcte), était de 0,51 pour GDP-RAG. C'est 22 % de moins que PAR-RAG (0,65) et 68 % de moins que KnowTrace (1,57).
• Optimalité de Pareto : GDP-RAG occupe le coin "haute précision, bas coût" de l'espace de performance. Aucune autre méthode n'a atteint à la fois une précision plus élevée et un coût plus faible. Les méthodes moins chères (ex: RAG standard, IRCoT) accusaient un retard de 10 à 23 points de précision.
• Réduction des Étapes : La planification de Delta Ancrée a réduit les étapes de raisonnement valides de 61,0 % (de 3 561 à 1 388) et a élagué 77,0 % des étapes redondantes par rapport à la Planification Directe.

Signification et Revendications

L'article affirme que GDP-RAG répond aux inefficacités fondamentales des systèmes RAG multi-sauts actuels en modifiant fondamentalement le processus de planification. En ancrant le planificateur dans la récupération préliminaire, le système évite la génération "aveugle" d'étapes de raisonnement qui caractérise à la fois la propagation d'erreurs par étapes et la sur-planification des méthodes basées sur la planification.

Les auteurs soulignent que leur approche produit des trajectoires de raisonnement concises et fiables en se concentrant exclusivement sur les lacunes non résolues. Les résultats suggèrent que la « Planification de Delta Ancrée » permet aux systèmes de s'adapter à la complexité des tâches, amortissant le coût des sauts supplémentaires tout en maintenant une couverture élevée des informations nécessaires. Le cadre est présenté comme une solution robuste, sans entraînement, qui améliore à la fois l'efficacité économique et la fiabilité factuelle du raisonnement multi-étapes dans les LLM.