🤖 AI

Bayesian Uncertainty Propagation for Agentic RAG Pipelines: A Proof-of-Concept Study on Multi-Hop Question Answering

Dit artikel stelt een Bayesiaans framework voor de propagatie van onzekerheid voor Agentic RAG-systemen voor, dat semantische divergentie en zelfevaluatie-signalen integreert om systeembrede faalrisico's te schatten, waarbij verbeterde betrouwbaarheid van multi-hop redeneren op HotpotQA wordt aangetoond terwijl kalibratieproblemen in StrategyQA worden benadrukt.

Oorspronkelijke auteurs: Louis Donaldson, Connor Walker, Koorosh Aslansefat, Yiannis Papadopoulos

Gepubliceerd 2026-07-02

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Louis Donaldson, Connor Walker, Koorosh Aslansefat, Yiannis Papadopoulos

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een team van drie robots samenstelt om een lastige puzzel op te lossen. Dit team wordt een Agentic RAG Pipeline genoemd. Zo werken ze samen:

De Planner: Bekijkt de vraag en breekt deze op in kleinere stappen.
De Evaluator: Controleert de gevonden informatie om te zien of deze logisch is.
De Generator: Schrijft het uiteindelijke antwoord op basis van wat de andere twee hebben gevonden.

Het probleem is dat robots (specifiek Large Language Models) soms fouten maken of "hallucineren" (dingen verzinnen), en ze weten niet altijd wanneer ze in de war zijn. Dit artikel vraagt zich af: Hoe kunnen we zien of dit robotteam op het punt staat een fout antwoord te geven voordat ze dat daadwerkelijk doen?

De Oplossing: Een "Zorgenmeter" voor het Team

De auteurs hebben een systeem ontwikkeld om "onzekerheid" (of bezorgdheid) te meten bij elke stap van het proces. Ze gebruiken hiervoor twee hoofdmethode's:

De "Vertrouwenscheck" (Token-level Entropy): Stel je voor dat de Generator-robot een zin schrijft. Als hij heel zeker is, kiest hij snel het volgende woord. Als hij in de war is, aarzelt hij en overweegt hij veel verschillende woorden. Het systeem meet deze aarzeling.
De "Drift Detector" (Semantic Divergence): Stel je voor dat de Planner begint met zoeken naar informatie over "appels", maar halverwege per ongeluk begint te praten over "sinaasappels". Dit systeem detecteert wanneer het gesprek is afgedwaald van het oorspronkelijke doel.

De Hersenen: Het Bayesiaanse Netwerk

De auteurs hebben niet alleen naar deze zorgen-signalen afzonderlijk gekeken; ze hebben ze verbonden met een Bayesiaans Netwerk. Denk aan dit als een centrale controlekamer of een verkeerslichtsysteem.

Elk robotje stuurt zijn "zorgen-signaal" naar de controlekamer.
De controlekamer combineert deze signalen om te beslissen: "Is het hele team zelfverzekerd, of is er iemand in paniek?"
Als elk deel van het team in paniek is (onzeker is), markeert het systeem het uiteindelijke antwoord als potentieel riskant.

Het papier testte dit op twee soorten puzzels:

StrategyQA: Simpele puzzels die meestal slechts één of twee stappen vereisen.
HotpotQA: Complexe puzzels die vereisen dat er tussen veel verschillende stukjes informatie wordt gesprongen (multi-hop reasoning).

Wat ze vonden

1. Het werkt het best bij complexe puzzels (HotpotQA).
Wanneer de taak moeilijk is en vereist dat de robots veel informatie naar elkaar doorgeven, is de "Zorgenmeter" zeer nuttig. De onzekerheid van de eerste stap telt op bij de volgende stap, en de controlekamer kan detecteren wanneer het team de weg kwijtraakt. In deze gevallen was het systeem beter in het vangen van fouten dan wanneer men alleen naar de laatste robot zou kijken.

2. Het heeft moeite met simpele puzzels (StrategyQA).
Bij eenvoudigere taken gaven de "Planner" en "Evaluator" robots vaak vals alarm (ze waren bezorgd terwijl dat niet nodig was). Omdat de controlekamer elk zorgen-signaal van de robots als even belangrijk behandelde, zorgden deze valse alarmen ervoor dat het hele systeem dacht dat het antwoord riskant was, zelfs toen dat niet zo was.

De analogie uit het papier: Het is als een beveiligingssysteem waarbij een gevoelige bewegingssensor in de gang afgaat telkens wanneer er een kat langsloopt, waardoor het hele huisalarm gaat loeien terwijl de voordeur veilig is.

3. De "Alles-of-Niets"-regel.
Het systeem gebruikte een strikte regel: Als één robot onzeker is, wordt het hele antwoord gemarkeerd als "Fail" (mislukt). Dit is erg veilig (het mist zelden een fout), maar kan te voorzichtig zijn. Het kan een correct antwoord verwerpen simpelweg omdat de Planner een beetje nerveus was.

De Kern van het Zaken

Het artikel concludeert dat dit "Zorgenmeter"-systeem een veelbelovend hulpmiddel is voor het monitoren van complexe AI-teams, vooral wanneer de AI veel denkstappen moet zetten. Het moet echter slimmer worden over wie het vertrouwt. Op dit moment behandelt het een nerveuze robot hetzelfde als een zelfverzekerde robot, wat problemen kan veroorzaken bij eenvoudigere taken.

De auteurs suggereren dat voor dit systeem werkzaam te zijn in echte industrieën (zoals het onderhoud van offshore windturbines), het getest moet worden op echte industriële data en afgestemd moet worden om onbetrouwbare "zorgen-signalen" van specifieke delen van het team te negeren. Voor nu blijft het een "proof-of-concept" die een groot potentieel laat zien, maar die nog meer polijst nodig heeft.

Technische Samenvatting: Bayesiaanse Onzekerheidsvoortplanting voor Agentic RAG-pipelines

Probleemstelling

De integratie van Large Language Models (LLM's) in industriële workflows, zoals onderhoudsplanning voor offshore windenergie (OSW), vereist betrouwbare mechanismen om te schatten wanneer meerstaps redeneerpipelines mogelijk falen. Hoewel Retrieval-Augmented Generation (RAG) en Multi-Agent Architectures (MAA's) de interpreteerbaarheid verbeteren door reacties te funderen in opgehaalde kennis, modelleren zij niet expliciet hoe onzekerheid voortplant door sequentiële redeneerfasen. In Agentic RAG-systemen kan onzekerheid die wordt geïntroduceerd tijdens planning, retrieval of evaluatie door de workflow cascaderen, wat leidt tot "redeneercollaps", semantische drift en onbetrouwbare uiteindelijke reacties. Huidige black-box modellen bieden beperkt inzicht in de redenering achter outputs, wat de behoefte creëert aan lichtgewicht, runtime monitoring-methoden die in staat zijn om vertrouwen gedurende het besluitvormingsproces te kwantificeren.

Methodologie

De auteurs stellen een onzekerheidsbewust Agentic RAG-framework voor dat het systeem modelleert als een sequentieel besluitvormingsproces (conceptueel een Partially Observable Markov Decision Process). De methodologie bestaat uit drie kerncomponenten:

1. Generatie van Onzekerheidssignalen

De pipeline bestaat uit drie agenten: Planner, Evaluator en Generator. Elke fase produceert specifieke onzekerheidssignalen:

Token-level Entropy (Naïeve Entropie): Afgeleid van de softmax-waarschijnlijkheidsverdeling van gegenereerde tokens. Het systeem berekent de log-waarschijnlijkheid van de sequentie, normaliseert deze naar lengte en transformeert deze in een confidence feature ( $q_i$ ). Dit wordt gebruikt om de prior-waarschijnlijkheden in het Bayesiaanse Netwerk te parametriseren.
Semantische Divergentie: Om "semantische drift" aan te pakken—waarbij de zoekopdrachten van een agent afwijken van de oorspronkelijke informatievereiste—meet het systeem de afstand tussen de gecommitteerde outputverdeling en een opnieuw gesamplede outputverdeling in een geprojecteerde embedding-ruimte. Hiervoor wordt de Wasserstein-afstand gebruikt (analoog aan de Pointwise Mutual Information in het UProp-framework) om Intrinsieke Onzekerheid (IU) op elk knooppunt te kwantificeren.
Generator Self-Evaluation ($P(True)$): De Generator-agent wordt geprompt om een binaire vraag te beantwoorden ("Weet u zeker dat het gegeven antwoord correct is?") nadat een reactie is geproduceerd. De waarschijnlijkheid die aan het bevestigende token wordt toegewezen, dient als een gesuperviseerde, in-context onzekerheidsschatting.

2. Bayesiaanse Netwerk (BN) Voortplanting

Deze signalen worden voortgeplant via een Bayesiaans Netwerk om systeembrede onzekerheid te schatten:

Structuur: De workflow wordt gemodelleerd als een Directed Acyclic Graph (DAG) waarbij knooppunten de Planner, Evaluator en Generator vertegenwoordigen.
Logica: Het netwerk gebruikt een deterministische OR-poort voor het "Overall"-knooppunt. Dit impliceert dat als elk enkel knooppunt in de pipeline als "FAIL" wordt beschouwd (onzekerheid overschrijdt een drempel van 0,5), het gehele systeem als "FAIL" wordt gemarkeerd.
Inferentie: Het BN actualiseert posterior waarschijnlijkheden naarmate er nieuwe bewijslast (onzekerheidsscores) wordt geïntroduceerd, waardoor identificatie mogelijk is van welke specifieke fasen het meest bijdragen aan de systeembrede onzekerheid.

3. Experimentele Opzet

Het framework werd als proof-of-concept geëvalueerd op twee multi-hop vraag-antwoord benchmarks: StrategyQA en HotpotQA.

Modellen: GPT-3.5-Turbo en GPT-4.1-Nano.
Metrieken: Prestaties werden beoordeeld met behulp van Area Under the Receiver Operating Characteristic Curve (AUROC) voor discriminatie, Area Under the Accuracy-Rejection Curve (AUARC) voor selectieve voorspelling, Expected Calibration Error (ECE) en Brier Score voor kalibratie.
Baseline: Resultaten werden vergeleken met het UProp-framework.

Belangrijkste Bijdragen

Architectuur: Een lichtgewicht monitoringarchitectuur waarbij Planner-, Evaluator- en Generator-agenten complementaire onzekerheidssignalen (semantische divergentie en zelfevaluatie) produceren tijdens meerstaps redeneren.
Voortplantingsmodel: Een op een Bayesiaans Netwerk gebaseerd model dat knooppunt-specifieke onzekerheid aggregeert tot een interpreteerbare systeembrede vertrouwensinschatting, in staat om foutpunten aan te wijzen.
Empirische Evaluatie: Een vergelijkende studie die de sterktes en beperkingen van Bayesiaanse voortplanting over verschillende redeneercomplexiteiten en modelgroottes aantoont, gebruikmakend van standaard onzekerheidskwantificatiemetrieken.

Resultaten

De studie leverde contrasterende resultaten op, afhankelijk van de complexiteit van de benchmark:

HotpotQA (Hoge Complexiteit): Bayesiaanse voortplanting bleek zeer effectief. Onzekerheid accumuleerde over meerdere redeneerfasen, en het Overall BN behaalde competitieve of superieure prestaties vergeleken met individuele knooppunten en de UProp-baseline. Het systeem vertoonde verbeterde discriminatie (AUROC) en kalibratie (ECE, Brier Score) naarmate de taakcomplexiteit toenam.
StrategyQA (Lagere Complexiteit): De aanpak toonde beperkingen. Het zelfevaluatie-signaal van de Generator was de sterkste individuele indicator, terwijl de signalen van de Planner en Evaluator nabij willekeur presteerden. Bijgevolg verspreidde de deterministische OR-poort ruis van onbetrouwbare upstream-knooppunten, waardoor het Overall BN in sommige metrieken (bijv. AUROC voor GPT-3.5-Turbo) slechter presteerde dan de Generator alleen.
Kalibratie versus Discriminatie: De deterministische OR-poort introduceerde een conservatieve bias, wat leidde tot een overschatting van de faalkans op StrategyQA (slechte kalibratie), maar potentieel voordelige risicomijdende eigenschappen bood. Op HotpotQA verbeterde de kalibratie aanzienlijk, wat suggereert dat het framework beter geschikt is voor taken waarbij onzekerheid daadwerkelijk accumuleert.

Betekenis en Claims

Het artikel positioneert Bayesiaanse onzekerheidsvoortplanting als een veelbelovend maar voorlopig mechanisme voor het monitoren van Agentic RAG-systemen.

Kernbevinding: De methode is het meest effectief wanneer onzekerheid van nature accumleert over meerdere redeneerfasen (zoals gezien bij HotpotQA). In dergelijke scenario's biedt het combineren van signalen een voorspellende waarde die verder gaat dan individuele knooppunt-inschattingen.
Erkende Beperkingen: De auteurs merken expliciet op dat het huidige framework wordt beperkt door de deterministische OR-poort, die niet in staat is om onbetrouwbare upstream-knooppunten (bijv. de Planner op StrategyQA) te down-weighten, en door de conservatieve kalibratie van het $P(True)$-signaal.
Toekomstige Richting: De studie claimt geen directe industriële implementatie. In plaats daarvan wordt het werk gepresenteerd als een proof-of-concept die toekomstige validatie vereist in specifieke industriële domeinen, zoals onderhoudsbesluitvorming voor offshore windenergie (OSW), met behulp van domeinspecifieke retrieval-corpora in plaats van algemene benchmarks. De auteurs suggereren dat toekomstig werk zich moet richten op adaptieve Bayesiaanse structuren (bijv. noisy-OR gates) en verbeterde kalibratietechnieken om de geïdentificeerde beperkingen aan te pakken.