🤖 AI

Bayesian Uncertainty Propagation for Agentic RAG Pipelines: A Proof-of-Concept Study on Multi-Hop Question Answering

Cet article propose un cadre de propagation de l'incertitude bayésienne pour les systèmes de RAG agentiques qui intègre la divergence sémantique et les signaux d'auto-évaluation pour estimer les risques de défaillance au niveau du système, démontrant une fiabilité améliorée du raisonnement multi-étapes sur HotpotQA tout en soulignant des défis de calibration sur StrategyQA.

Auteurs originaux : Louis Donaldson, Connor Walker, Koorosh Aslansefat, Yiannis Papadopoulos

Publié 2026-07-02

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Louis Donaldson, Connor Walker, Koorosh Aslansefat, Yiannis Papadopoulos

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous construisez une équipe de trois robots pour résoudre un casse-tête complexe. Cette équipe s'appelle un Pipeline RAG Agentique. Voici comment ils travaillent ensemble :

Le Planificateur : Regarde la question et la décompose en étapes plus petites.
L'Évaluateur : Vérifie si les informations trouvées sont cohérentes.
Le Générateur : Rédige la réponse finale en se basant sur ce que les deux autres ont trouvé.

Le problème est que les robots (plus précisément les modèles de langage étendus ou LLM) font parfois des erreurs ou « hallucinent » (ils inventent des choses), et ils ne savent pas toujours quand ils sont confus. Cette publication pose la question suivante : Comment peut-on savoir si cette équipe de robots est sur le point de donner une mauvaise réponse avant qu'elle ne le fasse réellement ?

La Solution : Un « Jauge d'Inquiétude » pour l'Équipe

Les auteurs ont créé un système pour mesurer l'« incertitude » (ou l'inquiétude) à chaque étape du processus. Ils utilisent deux méthodes principales pour mesurer cela :

Le « Test de Confiance » (Entropie au niveau du jeton/token) : Imaginez que le robot Générateur est en train d'écrire une phrase. S'il est très sûr de lui, il choisit le mot suivant rapidement. S'il est confus, il hésite et considère de nombreux mots différents. Le système mesure cette hésitation.
Le « Détecteur de Dérive » (Divergence Sémantique) : Imaginez que le Planificateur commence à chercher des informations sur les « pommes », mais qu'à mi-chemin, il commence accidentellement à parler d'« oranges ». Ce système détecte quand la conversation s'est éloignée de l'objectif initial.

Le Cerveau : Le Réseau Bayésien

Les auteurs n'ont pas seulement observé ces signaux d'inquiétude individuellement ; ils les ont connectés à l'aide d'un Réseau Bayésien. Voyez cela comme une salle de contrôle centrale ou un système de feu de signalisation.

Chaque robot envoie son « signal d'inquiétude » à la salle de contrôle.
La salle de contrôle combine ces signaux pour décider : « L'équipe entière est-elle confiante, ou quelqu'un est-il en panique ? »
Si une seule partie de l'équipe panique (est incertaine), le système signale la réponse finale comme étant potentiellement risquée.

La publication a testé cela sur deux types de casse-têtes :

StrategyQA : Des casse-têtes simples qui n'ont généralement besoin que d'une ou deux étapes.
HotpotQA : Des casse-têtes complexes qui nécessitent de sauter entre de nombreuses pièces d'informations différentes (raisonnement multi-sauts).

Ce Qu'Ils Ont Trouvé

1. Cela fonctionne mieux sur les casse-têtes complexes (HotpotQA).
Lorsque la tâche est difficile et nécessite que les robots se transmettent des informations de nombreuses fois, la « Jauge d'Inquiétude » est très utile. L'incertitude de la première étape s'ajoute à l'étape suivante, et la salle de contrôle peut détecter quand l'équipe perd sa trajectoire. Dans ces cas, le système était meilleur pour détecter les erreurs que si l'on regardait seulement le dernier robot seul.

2. Cela rencontre des difficultés avec les casse-têtes simples (StrategyQA).
Sur des tâches plus faciles, les robots « Planificateur » et « Évaluateur » envoient souvent de fausses alertes (ils sont inquiets alors qu'ils ne devraient pas l'être). Parce que la salle de contrôle traite chaque signal d'inquiétude des robots comme étant d'égale importance, ces fausses alertes ont fait croire au système entier que la réponse était risquée, même quand elle ne l'était pas.

L'analogie de la Publication : C'est comme avoir un système de sécurité où un capteur de mouvement très sensible dans le couloir se déclenche chaque fois qu'un chat passe, faisant hurler l'alarme de toute la maison alors que la porte d'entrée est en sécurité.

3. La Règle du « Tout ou Rien ».
Le système utilisait une règle stricte : si n'importe quel robot est incertain, toute la réponse est marquée comme « Échec ». C'est très sûr (cela rate rarement une erreur), mais cela peut être trop prudent. Il peut rejeter une réponse correcte simplement parce que le Planificateur était légèrement nerveux.

L'Essentiel

La publication conclut que ce système de « Jauge d'Inquiétude » est un outil prometteur pour surveiller les équipes d'IA complexes, surtout lorsque l'IA doit effectuer de nombreuses étapes de réflexion. Cependant, il doit être plus intelligent quant à qui il doit croire. Actuellement, il traite un robot nerveux de la même manière qu'un robot confiant, ce qui peut causer des problèmes sur des tâches plus simples.

Les auteurs suggèrent que pour que cela fonctionne dans les industries réelles (comme la maintenance de parcs éoliens en mer), le système doit être testé sur des données industrielles réelles et ajusté pour ignorer les « signaux d'inquiétude » peu fiables provenant de certaines parties de l'équipe. Pour l'instant, il reste une « preuve de concept » qui montre un grand potentiel mais qui nécessite plus de peaufinage.

Résumé Technique : Propagation de l'Incertitude Bayésienne pour les Pipelines RAG Agentiques

Problématique

L'intégration des modèles de langage de grande taille (LLM) dans les flux de travail industriels, tels que la planification de la maintenance éolienne en mer (OSW), nécessite des mécanismes fiables pour estimer le moment où les pipelines de raisonnement multi-étapes peuvent échouer. Bien que la génération augmentée par récupération (RAG) et les architectures multi-agents (MAA) améliorent l'interprétabilité en ancrant les réponses dans des connaissances récupérées, elles ne modélisent pas explicitement la manière dont l'incertitude se propage à travers les séquences de raisonnement. Dans les systèmes RAG agentiques, l'incertitude introduite lors de la planification, de la récupération ou de l'évaluation peut se propager en cascade à travers le flux de travail, entraînant un « effondrement du raisonnement », une dérive sémantique et des réponses finales peu fiables. Les modèles actuels de type « boîte noire » offrent peu de visibilité sur le raisonnement sous-jacent aux sorties, créant un besoin pour des méthodes de surveillance légères en temps d'exécution, capables de quantifier la confiance tout au long du processus de prise de décision.

Méthodologie

Les auteurs proposent un cadre RAG agentique conscient de l'incertitude qui modélise le système comme un processus de décision séquentiel (conceptuellement un processus de décision markovien partiellement observable). La méthodologie comprend trois composantes fondamentales :

1. Génération de signaux d'incertitude

Le pipeline est composé de trois agents : le Planificateur (Planner), l'Évaluateur (Evaluator) et le Générateur (Generator). Chaque étape produit des signaux d'incertitude spécifiques :

Entropie au niveau du jeton (Entropie naïve) : Dérivée de la distribution de probabilité softmax des jetons générés. Le système calcule la log-probabilité de la séquence, la normalise par la longueur et la transforme en une caractéristique de confiance ( $q_i$ ). Elle est utilisée pour paramétrer les probabilités a priori dans le réseau bayésien.
Divergence sémantique : Pour traiter la « dérive sémantique » où les requêtes de recherche d'un agent s'écartent de l'exigence d'information initiale, le système mesure la distance entre la distribution de sortie engagée et une distribution de sortie ré-échantillonnée dans un espace de plongement projeté. Cela utilise la distance de Wasserstein (analogue à l'information mutuelle ponctuelle dans le cadre UProp) pour quantifier l'incertitude intrinsèque (IU) à chaque nœud.
Auto-évaluation du Générateur ($P(True)$) : L'agent Générateur est invité à répondre à une question binaire (« Êtes-vous sûr que la réponse fournie est correcte ? ») après avoir produit une réponse. La probabilité assignée au jeton affirmatif sert d'estimation d'incertitude supervisée et contextuelle.

2. Propagation par Réseau Bayésien (BN)

Ces signaux sont propagés à travers un réseau bayésien pour estimer l'incertitude globale du système :

Structure : Le flux de travail est modélisé comme un graphe acyclique dirigé (DAG) où les nœuds représentent le Planificateur, l'Évaluateur et le Générateur.
Logique : Le réseau utilise une porte OU déterministe pour le nœud « Global » (Overall). Cela implique que si n'importe quel nœud unique du pipeline est jugé en mode « ÉCHEC » (l'incertitude dépasse un seuil de 0,5), l'ensemble du système est marqué comme « ÉCHEC ».
Inférence : Le BN met à jour les probabilités a posteriori à mesure que de nouvelles preuves (scores d'incertitude) sont introduites, permettant d'identifier quels stades spécifiques contribuent le plus à l'incertitude du système.

3. Configuration Expérimentale

Le cadre a été évalué comme preuve de concept sur deux benchmarks de questions-réponses multi-sauts : StrategyQA et HotpotQA.

Modèles : GPT-3.5-Turbo et GPT-4.1-Nano.
Métriques : La performance a été évaluée via l'aire sous la courbe ROC (AUROC) pour la discrimination, l'aire sous la courbe de précision-rejet (AUARC) pour la prédiction sélective, l'erreur de calibration attendue (ECE) et le score de Brier pour la calibration.
Baseline : Les résultats ont été comparés au cadre UProp.

Contributions Clés

Architecture : Une architecture de surveillance légère où les agents Planificateur, Évaluateur et Générateur produisent des signaux d'incertitude complémentaires (divergence sémantique et auto-évaluation) lors du raisonnement multi-étapes.
Modèle de propagation : Un modèle basé sur un réseau bayésien qui agrège l'incertitude par nœud en une estimation de confiance interprétable au niveau du système, capable de localiser les points de défaillance.
Évaluation empirique : Une étude comparative démontrant les forces et les limites de la propagation bayésienne selon la complexité du raisonnement et la taille des modèles, en utilisant des métriques standard de quantification de l'incertitude.

Résultats

L'étude a produit des résultats contrastés selon la complexité du benchmark :

HotpotQA (Haute complexité) : La propagation bayésienne s'est révélée très efficace. L'incertitude s'est accumulée à travers plusieurs étapes de raisonnement, et le BN global a atteint des performances compétitives ou supérieures par rapport aux nœuds individuels et à la baseline UProp. Le système a démontré une amélioration de la discrimination (AUROC) et de la calibration (ECE, Score de Brier) à mesure que la difficulté de la tâche augmentait.
StrategyQA (Faible complexité) : L'approche a montré des limites. Le signal d'auto-évaluation du Générateur était l'indicateur individuel le plus fort, tandis que les signaux du Planificateur et de l'Évaluateur performaient près du hasard. Par conséquent, la porte OU déterministe a propagé le bruit provenant de nœuds amont non fiables, causant une sous-performance du BN global par rapport au Générateur seul sur certaines métriques (ex: AUROC pour GPT-3.5-Turbo).
Calibration vs Discrimination : La porte OU déterministe a introduit un biais conservateur, menant à une surestimation de la probabilité d'échec sur StrategyQA (mauvaise calibration), mais potentiellement avantageuse pour l'aversion au risque. Sur HotpotQA, la calibration s'est nettement améliorée, suggérant que le cadre est mieux adapté aux tâches où l'incertitude s'accumule réellement.

Signification et Revendications

L'article positionne la propagation de l'incertitude bayésienne comme un mécanisme prometteur mais préliminaire pour surveiller les systèmes RAG agentiques.

Constat principal : La méthode est plus efficace lorsque l'incertitude s'accumule naturellement à travers plusieurs étapes de raisonnement (comme observé sur HotpotQA). Dans ces scénarios, la combinaison des signaux apporte une valeur prédictive supérieure aux estimations des nœuds individuels.
Limites reconnues : Les auteurs notent explicitement que le cadre actuel est contraint par la porte OU déterministe, qui ne peut pas pondérer à la baisse les nœuds amont peu fiables (ex: le Planificateur sur StrategyQA), ainsi que par la calibration conservatrice du signal $P(True)$.
Direction future : L'étude ne revendique pas de déploiement industriel immédiat. Elle présente plutôt ce travail comme une preuve de concept nécessitant une validation future dans des domaines industriels spécifiques, tels que le support à la décision pour la maintenance éolienne en mer (OSW), en utilisant des corpus de récupération spécifiques au domaine plutôt que des benchmarks généralistes. Les auteurs suggèrent que les travaux futurs devraient se concentrer sur des structures bayésiennes adaptatives (ex: portes OU bruyantes/noisy-OR) et des techniques de calibration améliorées pour répondre aux limites identifiées.