💬 NLP

When More Documents Hurt RAG: Mitigating Vector Search Dilution with Domain-Scoped, Model-Agnostic Retrieval

Cet article aborde le problème de la « dilution de la recherche vectorielle » dans la génération augmentée par récupération (RAG), où le passage à l'échelle vers des collections de documents larges et hétérogènes dégrade la précision, en proposant MASDR-RAG, une approche de récupération agnostique au modèle et limitée au domaine qui exploite les métadonnées organisationnelles pour améliorer significativement la précision et éviter les pièges d'une orchestration multi-agents sur-conçue.

Auteurs originaux : Nabaraj Subedi, Ahmed Abdelaty, Shivanand Venkanna Sheshappanavar

Publié 2026-06-11

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Nabaraj Subedi, Ahmed Abdelaty, Shivanand Venkanna Sheshappanavar

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Le gros problème : L'effet « Bibliothèque de Babel »

Imaginez que vous avez un bibliothécaire brillant (l'IA) qui est excellent pour répondre aux questions. Vous lui donnez une petite bibliothèque bien ordonnée de 54 livres sur la construction routière. Il peut trouver la bonne page presque instantanément et vous donner une réponse parfaite.

Maintenant, imaginez que vous versez soudainement 1 000 livres supplémentaires dans cette bibliothèque. Ces nouveaux livres couvrent de tout : accidents de la route, conceptions de ponts, budgets annuels et rapports de sécurité. La bibliothèque est maintenant immense (plus de 88 000 « morceaux » de texte).

L'article soutient que rendre la bibliothèque plus grande a en fait rendu le bibliothécaire moins bon.

Lorsque le bibliothécaire cherche une réponse sur le « mélange du béton », il ne se contente pas de regarder les livres de construction. Parce que la bibliothèque est trop encombrée, le bibliothécaire est confus par des livres qui semblent similaires mais qui traitent d'un mauvais sujet (comme un livre sur la « sécurité routière » qui mentionne le « mélange » dans un contexte différent). Le bibliothécaire saisit les mauvaises pages, est submergé et donne une mauvaise réponse.

Les auteurs appellent cela la « Dilution de la recherche vectorielle » (Vector Search Dilution). C'est comme essayer de trouver une aiguille spécifique dans une botte de foin, mais quelqu'un continue d'ajouter du foin qui ressemble exactement à l'aiguille, ce qui rend impossible de distinguer laquelle est la vraie.

La solution : Le système du « Bureau Spécialisé »

Au lieu de laisser le bibliothécaire chercher dans l'entière et gigantesque bibliothèque pour chaque question, les auteurs ont construit un nouveau système appelé MASDR-RAG.

Voyez cela comme un grand immeuble de bureaux avec de nombreux départements différents :

Le Bureau de la Construction
Le Bureau de la Sécurité
Le Bureau du Budget

L'ancienne méthode (Recherche monolithique) :
Vous demandez : « Comment mélanger le béton ? ». Le bibliothécaire court dans l'ensemble du bâtiment, criant votre question à tout le monde. Il ramasse une pile de papiers provenant du Bureau de la Sécurité, du Bureau du Budget et du Bureau de la Construction, les mélange tous et vous les tend. Vous êtes confus car la moitié des papiers parlent de casques de sécurité, pas de béton.

La nouvelle méthode (Récupération par domaine) :
Le système demande d'abord : « Quel genre de question est-ce ? ».

Si vous posez une question sur le béton, le système verrouille immédiatement les portes des bureaux de la Sécurité et du Budget.
Il envoie le bibliothécaire uniquement au Bureau de la Construction.
Le bibliothécaire cherche uniquement dans ces fichiers spécifiques.

Le résultat :
En limitant la recherche au bon « bureau » (en utilisant des balises de métadonnées comme « Type de document »), le système a trouvé la bonne information 86 % du temps, contre 77 % auparavant. C'est comme dire au bibliothécaire : « Ne cherche pas dans tout le bâtiment ; cherche juste dans la salle de Construction ».

Le rebondissement : Le paradoxe « Précision vs Fidélité »

C'est ici que cela devient délicat. Les auteurs ont essayé de rendre le système encore plus intelligent en ajoutant un « Manager » qui coordonne plusieurs bibliothécaires (Orchestration Multi-Agents). Ils se sont dit : « Si nous avons une équipe d'experts qui communiquent entre eux, nous obtiendrons la meilleure réponse ».

Que s'est-il passé ?

Avec l'IA Open-Source (comme Llama ou Qwen) : L'équipe a bien fonctionné.
Avec l'IA Commerciale (comme Claude ou GPT) : Le système s'est effondré.

Les auteurs ont découvert un « Paradoxe de la Précision-Fidélité ».

Précision : Le système a trouvé les bons documents (la précision a augmenté).
Fidélité (Faithfulness) : Le système a cessé de faire confiance à ces documents et a commencé à inventer des choses ou à ignorer les preuves (la fidélité est passée de 61 % à 35 %).

L'analogie :
Imaginez un groupe de détectives (les agents d'IA) qui trouvent les indices parfaits (haute précision). Mais parce qu'ils se disputent entre eux et essaient de synthétiser trop de rapports à la fois, ils finissent par être confus et commencent à écrire une histoire qui ne correspond pas aux indices trouvés (faible fidélité).

L'article a découvert que pour les modèles d'IA commerciaux, avoir trop d'« agents » qui discutent entre eux crée du bruit. L'IA est distraite par son propre débat interne et oublie de s'en tenir aux faits.

Le conseil pratique : « D'abord le périmètre, ensuite la synthèse »

L'article conclut par une règle simple pour construire ces systèmes :

Définir le périmètre d'abord : Avant de poser une question à l'IA, filtrez les documents. Si la question porte sur les « Ponts », ne montrez à l'IA que les documents relatifs aux « Ponts ». Ne la laissez pas voir les documents sur le « Trafic » ou le « Budget ». C'est l'étape la plus importante.
Rester simple : Une fois que vous avez les bons documents, demandez à l'IA de rédiger la réponse en une seule étape.
- Ne demandez pas à l'IA de mener une enquête complexe en plusieurs étapes (comme une boucle « ReAct »), à moins d'utiliser un type très spécifique de modèle open-source.
- Pour la plupart des modèles commerciaux, une recherche ciblée suivie d'une réponse unique est préférable à une équipe multi-agents complexe.

Résumé des conclusions

Plus de documents = Plus de confusion. Ajouter plus de données à un système RAG sans les organiser rend l'IA moins performante pour trouver la vérité.
Les métadonnées sont la clé. Utiliser les balises existantes (comme le « Type de document ») pour filtrer l'espace de recherche est le meilleur moyen de corriger cela.
La complexité nuit à la performance. Essayer d'utiliser une équipe d'agents d'IA pour résoudre un problème rend souvent l'IA moins honnête (moins fidèle) au texte source, surtout avec les modèles commerciaux puissants.
Le point d'équilibre idéal : Filtrez la recherche sur le bon sujet, puis demandez à l'IA de rédiger la réponse une seule fois. La simplicité est préférable.

Les auteurs ont testé cela sur de vrais documents du Département des Transports du Wyoming et ont constaté que cette approche simple de « filtrage d'abord » a résolu le problème sans nécessiter de nouvelles technologies coûteuses ou complexes.

Résumé technique : Quand l'excès de documents nuit au RAG

Problème : Dilution de la recherche vectorielle
Le document identifie un mode de défaillance critique dans la génération augmentée par récupération (RAG) appelé dilution de la recherche vectorielle. À mesure que les systèmes RAG passent à l'échelle sur des corpus d'entreprise larges et hétérogènes, la recherche dense perd son pouvoir discriminatif. Même lorsque les indices de plus proches voisins approximatifs (ANN) renvoient les plus proches voisins mathématiquement « vrais », ces derniers sont souvent sémantiquement similaires à la requête mais contextuellement non pertinents car ils proviennent du mauvais domaine ou de la mauvaise catégorie de documents.

Les auteurs démontrent cela empiriquement en utilisant le corpus du département des transports du Wyoming (WYDOT). Le passage de l'échelle du corpus de 54 à 1 128 documents (augmentant les segments de quelques milliers à 88 907) a provoqué une chute de la précision de la récupération sur les requêtes de spécifications standards, passant de 75 % à moins de 40 %. Le problème central est que les catégories de documents à haute densité (ex. : rapports de trafic et d'accidents) dominent l'espace vectoriel, repoussant les catégories à faible densité mais pertinentes (ex. : manuels de conception) hors des résultats de récupération des $k$ premiers éléments. Les auteurs formalisent cela comme une dilution ( $\delta$ ), définie comme l'écart entre la précision globale et la précision ciblée.

Méthodologie : Récupération par domaine et orchestration multi-agents
Pour remédier à la dilution, les auteurs proposent le MASDR-RAG (Récupération par domaine par portée multi-agents pour le RAG) et une variante légère, HYBRID-ROUTED.

Ciblage par domaine (Domain Scoping) : Au lieu de chercher dans l'ensemble du corpus, le système restreint la récupération à des portées organisationnelles spécifiques définies par des métadonnées (ex. : document_series dans un graphe de connaissances Neo4j). Cela réduit l'espace de recherche effectif de 85 à 98 % par requête.
Routage hybride : Un mécanisme de routage transmet les requêtes à l'agent de domaine approprié. Celui-ci utilise un moteur regex rapide pour une première passe, avec un recours à un classificateur LLM zero-shot si la regex échoue.
Orchestration :
- MASDR-RAG : Un cadre multi-agents où un agent de raisonnement unique orchestre jusqu'à cinq appels d'outils à travers neuf agents spécifiques à un domaine.
- HYBRID-ROUTED : Une variante légère qui effectue un seul appel de routage suivi d'un seul appel de synthèse, évitant ainsi les boucles itératives.
Configuration d'évaluation : Le cadre a été évalué sur cinq backbones LLM (Qwen2.5-7B, Llama-3-8B et des modèles commerciaux comme Claude-Haiku et GPT-5-mini), six corpus (incluant WYDOT, Composite-9, HotpotQA, et d'autres) et deux piles d'index (FAISS et Neo4j HNSW).

Résultats clés

Précision de la récupération : Le ciblage par domaine améliore significativement la qualité de la récupération. Sur le corpus WYDOT, le $P@10$ est passé de 0,77 (recherche monolithique) à 0,86 ( $p < 0,05$ ) en utilisant la récupération ciblée.
Le paradoxe Précision–Fidélité : Bien que le MASDR-RAG ait amélioré la précision de la récupération, il a provoqué une dégradation sévère de la fidélité (la mesure dans laquelle la réponse est soutenue par le contexte récupéré) lorsqu'il est couplé à des backbones LLM commerciaux. Sur la pile Gemini, la fidélité est tombée de 0,61 (monolithique) à 0,35 avec le MASDR-RAG. Les auteurs attribuent cela à la difficulté des modèles commerciaux à synthétiser des réponses à partir de sources multiples et fragmentées, particulièrement lorsque les preuves récupérées contiennent des passages quasi identiques.
Coûts d'orchestration : L'orchestration multi-agents itérative (ex. : style ReAct) s'est avérée coûteuse et souvent contre-productive. Sur Llama-3-8B, ReAct a nécessité 5,5 fois plus de tokens et 2,2 fois plus de latence que les systèmes ciblés à appel unique, sans gain correspondant de correction.
Généralisation : L'effet de dilution et les bénéfices du ciblage ont été observés sur les trois corpus DOT (WYDOT, Caltrans, CDOT) et les jeux de données publics. Cependant, l'axe de ciblage optimal dépend de la structure du corpus ; pour Caltrans, où les documents étaient de massifs PDF omnibus, un ciblage par section était nécessaire, tandis que document_series suffisait pour WYDOT et CDOT.
Sensibilité du backbone : L'effondrement de la fidélité était spécifique aux générateurs commerciaux (Claude, GPT). Les backbones open-source (Qwen, DeepSeek) ont maintenu ou amélioré la fidélité sous orchestration multi-agents, suggérant que le problème dépend de la configuration plutôt que d'une caractéristique intrinsèque du RAG multi-agents.

Signification et recommandations
L'article soutient que pour le RAG à l'échelle de l'entreprise, le ciblage par domaine est le levien principal pour améliorer les performances, et non l'orchestration complexe. Les auteurs concluent que la décision « structurante » est de cibler la récupération en premier en utilisant les métadonnées organisationnelles.

Leur recommandation pratique est la suivante :

Cibler d'abord : Restreindre l'espace de recherche au domaine pertinent avant la récupération.
Synthétiser une seule fois : Utiliser un seul appel de synthèse chaque fois que possible.
Réserver l'orchestration multi-agents : N'employer les boucles multi-agents complètes que pour des requêtes véritablement multi-domaines, couplées à des backbones open-source possédant de solides capacités natives d'appel d'outils.

Ce travail souligne que l'ajout de documents sans contraintes structurelles dégrade les performances du RAG, et que « plus d'agents » ne signifie pas automatiquement « de meilleures réponses », introduisant souvent un compromis précision–fidélité qui peut être évité avec des architectures plus simples et ciblées.