💬 NLP

RH-RAG: Trustworthy Long-Form Generation for Privacy-Constrained Settings

RH-RAG est un cadre multi-agents conçu pour les environnements à contraintes de confidentialité qui permet une génération de longs formats de confiance sur du matériel local en coordonnant des agents de planification, de rédaction et de vérification avec un index de recherche à double niveau afin de garantir l'exactitude factuelle et la cohérence sémantique sans dépendre d'API propriétaires basées sur le cloud.

Auteurs originaux : Raj Shekhar Singh

Publié 2026-08-04

📖 3 min de lecture☕ Lecture pause café

CC BY 4.0

Auteurs originaux : Raj Shekhar Singh

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous essayiez d'écrire une histoire massive et détaillée sur l'histoire secrète d'une famille, mais qu'il vous soit strictement interdit de montrer vos notes à quiconque en dehors de votre maison. Vous ne pouvez pas demander l'aide d'un bibliothécaire célèbre et omniscient dans le cloud, car cela fuiterait les secrets de votre famille. Vous devez donc compter sur un robot intelligent vivant dans votre propre sous-sol. Le problème est que ce robot est excellent pour écrire des phrases courtes, mais lorsqu'on lui demande d'écrire un livre entier, il commence à s'embrouiller. Il oublie le début lorsqu'il arrive au milieu, invente des faits qui ne se sont jamais produits et perd le fil de l'intrigue principale. C'est le défi de la « génération de long format » pour les organisations qui doivent préserver la confidentialité de leurs données, comme les banques ou les hôpitaux. Elles ont besoin d'un moyen d'écrire de longs documents précis en utilisant uniquement leurs propres ordinateurs locaux, sans que le robot ne devienne fou ou n'invente des choses.

Entrez en scène RH-RAG, une nouvelle méthode qui agit comme une équipe de rédaction super organisée pour ces robots soucieux de la confidentialité. Au lieu de laisser un seul robot essayer d'écrire tout le livre d'un coup, RH-RAG divise le travail en trois rôles spécialisés, imitant la façon dont un auteur humain travaille : un Planificateur, un Rédacteur et un Vérificateur.

D'abord, le Planificateur ne commence pas à écrire immédiatement. Au lieu de cela, il examine la « table des matières » des documents secrets et crée un plan strict. Il décide exactement de ce que chaque chapitre doit traiter et de quels faits spécifiques sont nécessaires pour chaque partie. Considérez cela comme un architecte dessinant un plan bleu avant qu'une seule brique ne soit posée. Cela empêche l'histoire de s'égarer hors du sujet.

Ensuite, le Rédacteur prend le relais, mais avec une astuce spéciale. Au lieu d'essayer de se souvenir de tout le livre écrit jusqu'à présent (ce qui submergerait la mémoire du robot), il ne conserve qu'une petite « fiche de référence » résumée du chapitre précédent et du thème principal de toute l'histoire. Cela lui permet d'écrire une section à la fois sans se perdre ou se répéter, garantissant que l'histoire coule de manière fluide du début à la fin.

Enfin, et c'est le plus important, le Vérificateur intervient. Avant que toute section ne soit ajoutée au livre final, cet agent agit comme un vérificateur de faits strict. Il compare chaque affirmation faite par le Rédacteur avec les documents secrets originaux. Si le Rédacteur dit : « La banque a perdu 5 millions de dollars », mais que le document indique « 500 000 », le Vérificateur le détecte immédiatement. Si un fait n'est pas étayé, le système renvoie le Rédacteur pour qu'il le corrige. Cette boucle se poursuit jusqu'à ce que les faits soient solides.

Les chercheurs ont testé cette équipe de robots sur trois types d'écriture très différents : des histoires complexes (littéraires), des rapports financiers détaillés et des affaires juridiques compliquées. Ils ont constaté que cette équipe en trois étapes produisait des documents bien plus précis et cohérents que les méthodes standards. En fait, les robots locaux utilisant RH-RAG écrivaient avec un niveau de véracité qui se rapprochait très près des super-intelligences coûteuses basées sur le cloud, mais sans jamais envoyer la moindre donnée privée à l'extérieur du bâtiment. Il s'avère qu'avec la bonne structure et un bon vérificateur de faits, même un robot local peut écrire un livre long et digne de confiance sans perdre la tête.

Résumé Technique : RH-RAG pour la Génération de Longue Forme de Confiance dans des Environnements à Contraintes de Confidentialité

Énoncé du Problème

Les organisations opérant dans des secteurs sensibles (santé, finance, juridique) sont confrontées à un goulot d'étranglement critique : l'incapacité d'utiliser les modèles de langage étendus (LLM) pour générer du contenu de longue forme à partir de rapports internes confidentiels, en raison de strictes contraintes de confidentialité interdisant l'envoi de données vers des API cloud propriétaires. Bien que les modèles à poids ouverts déployés localement (par exemple, 7B–8B de paramètres) offrent une alternative respectant la vie privée, ils souffrent de trois modes de défaillance principaux lors de la génération de longue forme :

Hallucination Factuelle : Des affirmations non étayées s'accumulent au fil des sorties étendues.
Saturation du Contexte : La fidélité de la récupération se dégrade à mesure que la fenêtre de contexte s'élargit, provoquant une attention du modèle portée sur des motifs superficiels plutôt que sur l'intégration de preuves pertinentes.
Dérive Structurelle : L'absence de planification globale entraîne une perte de cohérence transversale et de continuité narrative.

Les pipelines de génération augmentée par récupération (RAG) existants atténuent partiellement les hallucinations, mais manquent de mécanismes de planification globale et dégradent la continuité narrative sur des documents étendus. De plus, les stratégies de génération multi-étapes proposées dans la littérature sont souvent conçues pour un déploiement dans le cloud ou manquent de mécanismes de vérification factuelle déterministes adaptés aux environnements locaux et respectueux de la vie privée.

Méthodologie : Le Cadre RH-RAG

RH-RAG est un cadre multi-agents conçu pour reproduire le flux de travail d'écriture humain (planifier, rédiger, vérifier) en utilisant des modèles à poids ouverts déployés localement. Il fonctionne entièrement dans des environnements locaux privés sur du matériel de classe grand public (par exemple, des GPU NVIDIA T4). Le cadre se compose de trois étapes séquentielles gérées par des agents dédiés :

1. Découpage de Document à Double Niveau

Pour équilibrer la compréhension du contexte global et la précision de la récupération factuelle, les documents sont indexés à deux granularités complémentaires :

Niveau-1 (Résumés de Routage) : Les documents sont divisés en grands segments (20k–30k tokens). Un résumé concis est généré pour chaque segment à l'aide d'un modèle Mistral-7B affiné. Ces résumés forment une couche de routage sémantique légère utilisée exclusivement lors de la phase de planification pour identifier les régions documentaires pertinentes sans charger l'intégralité du corpus.
Niveau-2 (Blocs d'Évidence) : Des passages fins préservent le texte original pour l'ancrage factuel. Ils sont encodés à l'aide du modèle d'embedding bge-base-en-v1.5 pour une récupération sémantique dense.

2. Pipeline de Génération Multi-Agents

Agent Planificateur (Planner Agent) : Avant la génération de texte, cet agent interroge l'index de Niveau-1 pour construire un plan global structuré. Crucialement, il génère une ancre de récupération (une requête ciblée) pour chaque section afin de guider la récupération ultérieure des preuves de Niveau-2. Cela découple la planification structurelle globale de la récupération fine des preuves.
Agent Rédacteur (Writer Agent) : Cet agent génère du contenu de manière incrémentielle, section par section. Pour éviter la saturation du contexte, il utilise une mémoire de cohérence bornée composée de :
- Résumé Local ( $L_{i-1}$ ) : Capture la transition narrative immédiate de la section précédente.
- Résumé Global ( $G_{i-1}$ ) : Une représentation compressée évolutive de l'arc thématique et des faits établis de l'ensemble du document.
  Les deux résumés sont mis à jour par un résumeur léger après chaque section, assurant la continuité sans augmenter la taille effective du contexte.
Agent Vérificateur (Checker Agent) & Boucle de Rétroaction d'Attestation : Chaque section générée subit un processus de vérification en trois étapes avant son incorporation finale :
1. Extraction de Revendications : Le texte est décomposé en revendications factuelles atomiques.
2. Vérification NLI : Un modèle DeBERTa-v3-large classifie chaque revendication comme supportée, non supportée ou contredite par rapport aux preuves de Niveau-2 récupérées.
3. Boucle d'Attestation : Si la couverture factuelle ( $coverage(S_i)$ ) est inférieure à un seuil ( $\tau=0.8$ ), les revendications non supportées sont réécrites par un Agent de Révision dédié en utilisant de nouvelles preuves récupérées. Cette boucle s'exécute jusqu'à trois itérations.

Contributions Clés

Le papier identifie trois contributions principales :

Architecture de Récupération à Double Niveau : Une stratégie d'indexation novatrice permettant une récupération multi-agents efficace sur du matériel contraint en séparant les résumés de niveau planification des blocs d'évidence de niveau génération.
Mémoire de Cohérence Bornée : Un mécanisme de génération section par section utilisant des résumés locaux et globaux pour prévenir la saturation du contexte et maintenir la cohérence narrative sans dépasser les limites de contexte du modèle.
Boucle de Révision Pilotée par l'Attestation : Un mécanisme de contrôle génératif qui intègre la vérification basée sur la NLI directement dans le processus de génération, éliminant systématiquement les revendications non supportées via une boucle de rétroaction plutôt que de compter sur une évaluation post-hoc.

Résultats Expérimentaux

Le cadre a été évalué à travers trois domaines : Littéraire (livres du domaine public), Financier (rapports annuels) et Juridique (matériels d'affaires judiciaires). Les performances ont été mesurées par rapport au RAG standard, au RAG hiérarchique et aux modèles propriétaires commerciaux (GPT-4o, Claude, Gemini Pro).

Ancrage Factuel : RH-RAG a systématiquement surpassé les modèles de base RAG. Dans le domaine financier, le retrait de l'Agent Vérificateur a fait chuter l'AlignScore de 78,5 à 74,2, démontrant le rôle critique de la vérification.
Cohérence et Alignement : RH-RAG a obtenu des améliorations significatives de la cohérence sémantique (SUMMAC) et de l'alignement au niveau du document (AlignScore) par rapport aux méthodes de génération en un seul passage.
Comparaison avec les Systèmes Propriétaires : Malgré l'utilisation de modèles à poids ouverts de 7B–8B, RH-RAG s'est approché des métriques de fidélité des systèmes cloud propriétaires. Par exemple, sur le domaine littéraire, RH-RAG (Mistral-7B) a atteint un AlignScore de 76,7, soit moins de 3 points de différence avec GPT-4o (79,1), sans transmettre de données à l'extérieur.
Études d'Ablation : L'étude a confirmé que chaque composant (Planificateur, Rédacteur avec mémoire, Vérificateur) apporte des gains non redondants. Le Planificateur améliore la cohérence structurelle, tandis que le Vérificateur apporte le gain individuel le plus important en matière d'alignement factuel.

Signification et Revendications

Le papier affirme que RH-RAG comble une lacune critique dans la littérature en traitant simultanément la planification globale du document, la génération à mémoire bornée, la vérification déterministe au niveau de la revendication et le déploiement strictement local au sein d'un cadre unifié.

L'auteur positionne RH-RAG comme une solution viable pour les organisations qui ne peuvent faire de compromis sur la confidentialité des données. Le système démontre qu'une génération de longue forme de haute qualité et de confiance est réalisable sur du matériel de classe grand public en utilisant des modèles à poids ouverts, à condition que le processus de génération soit structuré avec une planification explicite et une vérification itérative. Le travail suggère que la fiabilité des systèmes cloud propriétaires peut être approximée dans des environnements privés grâce à des innovations architecturales plutôt qu'en augmentant simplement les paramètres des modèles.

Le papier reconnaît des limites, notant que le cadre est contraint par les capacités de raisonnement des modèles 7B–8B, repose sur des modèles à usage général ajustés pour les instructions plutôt que sur des modèles spécialisés pour les agents, et que l'évaluation sur des textes du domaine public peut représenter une limite supérieure en raison de la connaissance paramétrique latente potentielle des modèles. Des travaux futurs sont proposés pour inclure des seuils de vérification adaptatifs au domaine et des modèles NLI spécialisés.