Résumé Technique : RAS (Retrieval-And-Structuring) pour la génération de LLM à forte intensité de connaissances

Problématique

Les modèles de langage de grande taille (LLM) ont démontré des capacités impressionnantes dans les tâches à forte intensité de connaissances, mais ils éprouvent fréquemment des difficultés lors de raisonnements multi-étapes. Cette limitation découle largement de la nature non structurée du contexte extrait dans les cadres de génération augmentée par récupération (RAG) standards. Bien que le RAG fournisse des informations externes, l'absence d'organisation explicite parmi les passages extraits force les modèles à combler implicitement les lacunes logiques, ce qui conduit souvent à des voies de raisonnement fragiles et à des hallucinations.

Les tentatives existantes visant à intégrer des graphes de connaissances (KG) avec les LLM reposent généralement sur des graphes statiques à l'échelle du corpus. Ces approches font face à deux limitations significatives :

1. Coût élevé : La construction et la maintenance de KG globaux (par exemple, pour Wikipédia) nécessitent des millions d'appels de LLM et des ressources financières substantielles.
2. Ambiguïté : Les graphes globaux mélangent souvent des preuves provenant de documents conflictuels, créant des relations ambiguës ou contradictoires qui obscurcissent le contexte spécifique pertinent pour une requête utilisateur.

Par conséquent, il existe un besoin pour un système capable de construire dynamiquement des structures de connaissances adaptées à des requêtes spécifiques, permettant un raisonnement plus interprétable et robuste sans les coûts prohibitifs de l'indexation hors ligne.

Méthodologie : Le cadre RAS

Les auteurs proposent RAS (Retrieval-And-Structuring), un cadre qui construit dynamiquement des graphes de connaissances spécifiques à la question par le biais d'une récupération itérative et d'une construction de connaissances structurées. RAS entrelace la planification de la récupération ciblée avec la construction incrémentielle de graphes, permettant au modèle d'assembler et de raisonner sur des structures de connaissances évolutives adaptées à chaque requête.

Le cadre opère à travers trois étapes principales :

1. Planification sensible aux connaissances (Knowledge-Aware Planning)

Le processus est initié et contrôlé par un module de planification qui évalue dynamiquement l'état actuel des connaissances.

• Planification initiale : Étant donné une requête d'entrée $Q$, le modèle détermine si la requête peut être répondue directement ([NO_RETRIEVAL]) ou si une récupération est nécessaire. Si la récupération est requise, la question principale sert de sous-requête initiale ($q_0$).
• Planification itérative : À chaque itération $i$, le modèle analyse le graphe de connaissances accumulé $G_i$ ainsi que l'historique des sous-requêtes et des triplets extraits. Il décide de :
  • Générer une nouvelle sous-requête focalisée ($q_{i+1}$) pour combler des lacunes de connaissances spécifiques ([SUBQ]).
  • Terminer la récupération si les connaissances accumulées sont suffisantes ([SUFFICIENT]).

2. Récupération de texte et structuration

Une fois qu'une sous-requête est générée, le système exécute un pipeline de récupération et de structuration :

• Récupération : Un récupérateur dense extrait les passages ($t_i$) les plus pertinents sémantiquement pour la sous-requête.
• Conversion Texte-en-Triplets : Un modèle spécialisé ($f_{t2t}$) convertit le texte extrait en triplets factuels structurés (sujet-prédicat-objet). Ce modèle est entraîné sur le jeu de données WikiOfGraph.
• Construction du Graphe : Les triplets extraits sont convertis en une structure de graphe $g'_i$ avec des plongements sémantiques pour les nœuds et les arêtes.
• Enrichissement itératif : Le nouveau graphe $g'_i$ est fusionné dans un graphe de connaissances évolutif et spécifique à la question $G_Q$. Ce graphe croît de manière itérative, accumulant les preuves pertinentes pour la requête principale.

3. Réponse augmentée par les connaissances

Lorsque le module de planification signale que les connaissances sont suffisantes, le modèle génère la réponse finale.

• Si aucune récupération n'était nécessaire, la réponse est générée directement à partir de la requête.
• Sinon, la réponse est générée en étant conditionnée par le KG encodé spécifique à la question ($G_Q$) et par la chaîne de sous-requêtes ainsi que leurs informations de graphe associées. Le modèle prête attention à ce contexte structuré pour produire des sorties précises et cohérentes.

Stratégie d'entraînement

RAS emploie une approche d'apprentissage multitâche sensible à la structure (Structure-Aware Multitask Learning). Un seul Graph LLM est entraîné pour effectuer à la fois les tâches de planification et de réponse en utilisant une stratégie de réglage fin efficace en paramètres (LoRA). Les données d'entraînement, HotpotQA-SUBQ, sont construites en filtrant les documents de HotpotQA, en générant des sous-requêtes pour chaque document de support, et en étiquetant les échantillons avec l'action de planification appropriée ([SUBQ], [SUFFICIENT], ou [NO_RETRIEVAL]) ou la réponse finale.

Contributions clés

1. Cadre RAS : La proposition d'un cadre qui construit dynamiquement des graphes de connaissances spécifiques à la question via une récupération et une structuration itératives, évitant ainsi les coûts et le bruit des KG globaux.
2. Architecture de modèle unifiée : La conception d'un Graph LLM unifié qui planifie conjointement les besoins de récupération et génère des réponses sur des graphes de connaissances évolutifs, en utilisant une configuration d'apprentissage multitâche.
3. Validation empirique : Démonstration de gains de performance constants sur sept benchmarks diversifiés, montrant que la structuration dynamique améliore la précision et la robustesse du raisonnement.

Résultats expérimentaux

Les auteurs ont évalué RAS sur sept benchmarks couvrant le QA en domaine ouvert (TriviaQA, PopQA, 2WikiMultihopQA), des tâches en ensemble fermé (PubHealth, ARC-Challenge) et la génération de longs formats (ASQA, ELI5).

• Gains de performance : RAS a systématiquement surpassé les bases de référence solides, incluant Self-RAG, RPG et SuRe.
  • Avec des LLM open-source (LLaMA-2-7B/LLaMA-3-8B), RAS a obtenu des gains allant jusqu'à 7,0 % par rapport aux bases de référence.
  • Avec des modèles propriétaires (Claude-3.5-Sonnet), RAS a obtenu des gains allant jusqu'à 8,7 %.
• Études d'ablation :
  • Planification itérative : Supprimer le module de planification (revenir à une récupération en un seul passage) a provoqué des chutes de performance significatives, soulignant la nécessité de déterminer dynamiquement les besoins de récupération.
  • Construction du graphe : Supprimer la conversion texte-en-triplet ou l'encodeur de graphe a entraîné une dégradation substantielle, confirmant la valeur de la représentation des connaissances structurées.
  • Stratégie d'entraînement : L'entraînement multitâche conjoint et l'utilisation de LoRA se sont révélés critiques pour une performance optimale.
• Efficacité : Contrairement aux méthodes de graphes statiques (par exemple, GraphRAG) qui nécessitent une indexation hors ligne coûteuse (estimée entre 85 000 $ et 500 000 $ pour l'échelle de Wikipédia), RAS incorpore des coûts hors ligne négligeables en construisant les graphes dynamiquement lors de l'inférence.

Signification et affirmations

L'article affirme que la structuration des connaissances dynamique et spécifique à la question offre une voie robuste pour améliorer la précision et la robustesse du raisonnement dans la génération de modèles de langage. En organisant explicitement les connaissances récupérées en graphes évolutifs, RAS atténue les risques d'hallucination associés au contexte non structuré et les inefficacités des graphes de connaissances globaux.

Les auteurs soulignent que leur approche s'aligne sur les études d'interprétabilité suggérant que les échecs des LLM proviennent souvent de chaînes de raisonnement implicites brisées. En rendant ces chaînes explicites grâce à un raisonnement intermédiaire structuré, RAS fournit une solution transparente et scalable pour les tâches à forte intensité de connaissances. Le cadre est présenté comme une approche polyvalente pour le question answering en domaine ouvert plutôt que comme une méthode limitée aux tâches spécifiques de Question Answering sur Graphe de Connaissances (KGQA).