Sintesi Tecnica: Propagazione dell'Incertezza Bayesiana per Pipeline RAG Agentiche

Definizione del Problema

L'integrazione di Modelli Linguistici di Grandi Dimensioni (LLM) nei flussi di lavoro industriali, come la pianificazione della manutenzione dell'Energia Eolica Offshore (OSW), richiede meccanismi affidabili per stimare quando le pipeline di ragionamento multistadio potrebbero fallire. Sebbene la Generazione Aumentata da Recupero (RAG) e le Architetture Multi-Agente (MAA) migliorino l'interpretabilità radicando le risposte nella conoscenza recuperata, esse non modellano esplicitamente come l'incertezza si propaghi attraverso le sequenze di ragionamento. Nei sistemi RAG agentici, l'incertezza introdotta durante la pianificazione, il recupero o la valutazione può scivolare attraverso il flusso di lavoro, portando al "collasso del ragionamento", alla deriva semantica e a risposte finali inaffidabili. Gli attuali modelli black-box offrono una visione limitata del ragionamento dietro gli output, creando la necessità di metodi di monitoraggio leggero a runtime capaci di quantificare la fiducia durante l'intero processo decisionale.

Metodologia

Gli autori propongono un framework RAG agentico consapevole dell'incertezza che modella il sistema come un processo decisionale sequenziale (concettualmente un Processo Decisionale di Markov Parzialmente Osservabile). La metodologia prevede tre componenti principali:

1. Generazione del Segnale di Incertezza

La pipeline è composta da tre agenti: Planner (Pianificatore), Evaluator (Valutatore) e Generator (Generatore). Ogni fase produce segnali di incertezza specifici:

• Entropia a livello di Token (Entropia Naive): Derivata dalla distribuzione di probabilità softmax dei token generati. Il sistema calcola la log-probabilità della sequenza, la normalizza per lunghezza e la trasforma in una caratteristica di fiducia ($q_i$). Questa viene utilizzata per parametrizzare le probabilità a priori nella Rete Bayesiana.
• Divergenza Semantica: Per affrontare la "deriva semantica" in cui le query di ricerca di un agente deviano dal requisito informativo originale, il sistema misura la distanza tra la distribuzione dell'output impegnato e una distribuzione di output ri-campionata in uno spazio di embedding proiettato. Ciò utilizza la distanza di Wasserstein (analogamente alla Informazione Mutua Puntuale nel framework UProp) per quantificare l'Incertezza Intrinseca (IU) in ogni nodo.
• Auto-valutazione del Generatore ($P(True)$): All'agente Generator viene chiesto di rispondere a una domanda binaria ("Sei sicuro che la risposta fornita sia corretta?") dopo aver prodotto una risposta. La probabilità assegnata al token affermativo funge da stima dell'incertezza supervisionata e in-context.

2. Propagazione tramite Rete Bayesiana (BN)

Questi segnali vengono propagati attraverso una Rete Bayesiana per stimare l'incertezza a livello di sistema:

• Struttura: Il flusso di lavoro è modellato come un Grafo Aciclico Diretto (DAG) dove i nodi rappresentano il Planner, l'Evaluator e il Generator.
• Logica: La rete utilizza una porta OR deterministica per il nodo "Overall" (Complessivo). Ciò implica che se qualunque singolo nodo nella pipeline è considerato un "FAIL" (l'incertezza supera la soglia di 0,5), l'intero sistema viene segnalato come "FAIL".
• Inferenza: La BN aggiorna le probabilità a posteriori man mano che nuove evidenze (punteggi di incertezza) vengono introdotte, permettendo l'identificazione di quali fasi specifiche contribuiscono maggiormente all'incertezza del sistema.

3. Configurazione Sperimentale

Il framework è stato valutato come prova di concetto su due benchmark di question-answering multi-hop: StrategyQA e HotpotQA.

• Modelli: GPT-3.5-Turbo e GPT-4.1-Nano.
• Metriche: Le prestazioni sono state valutate tramite l'Area Sotto la Curva Caratteristica di Ricezione Operativa (AUROC) per la discriminazione, l'Area Sotto la Curva di Accuratezza-Rifiuto (AUARC) per la predizione selettiva, l'Errore di Calibrazione Atteso (ECE) e lo Score di Brier per la calibrazione.
• Baseline: I risultati sono stati confrontati con il framework UProp.

Contributi Chiave

1. Architettura: Un'architettura di monitoraggio leggera in cui gli agenti Planner, Evaluator e Generator producono segnali di incertezza complementari (divergenza semantica e auto-valutazione) durante il ragionamento multistadio.
2. Modello di Propagazione: Un modello basato su Rete Bayesiana che aggrega l'incertezza dei nodi in una stima della fiducia a livello di sistema interpretabile, capace di individuare i punti di fallimento.
3. Valutazione Empirica: Uno studio comparativo che dimostra i punti di forza e i limiti della propagazione bayesiana attraverso diverse complessità di ragionamento e dimensioni dei modelli, utilizzando metriche standard di quantificazione dell'incertezza.

Risultati

Lo studio ha prodotto risultati contrastanti a seconda della complessità del benchmark:

• HotpotQA (Alta Complessità): La propagazione bayesiana si è rivelata altamente efficace. L'incertezza si è accumulata attraverso più fasi di ragionamento, e la BN complessiva ha ottenuto prestazioni competitive o superiori rispetto ai singoli nodi e al baseline UProp. Il sistema ha dimostrato una migliore discriminazione (AUROC) e calibrazione (ECE, Brier Score) all'aumentare della difficoltà del compito.
• StrategyQA (Bassa Complessità): L'approccio ha mostrato dei limiti. Il segnale di auto-valutazione del Generatore è stato l'indicatore individuale più forte, mentre i segnali del Planner e dell'Evaluator si sono comportati vicino al caso casuale. Di conseguenza, la porta OR deterministica ha propagato il rumore dai nodi a monte inaffidabili, causando un sotto-performance della BN complessiva rispetto al solo Generatore in alcune metriche (ad esempio, l'AUROC per GPT-3.5-Turbo).
• Calibrazione vs. Discriminazione: La porta OR deterministica ha introdotto un bias conservativo, portando a una sovrastima della probabilità di fallimento su StrategyQA (scarsa calibrazione), ma potenzialmente vantaggioso per l'avversione al rischio. Su HotpotQA, la calibrazione è migliorata significativamente, suggerendo che il framework è più adatto a compiti in cui l'incertezza si accumula realmente.

Significato e Rivendicazioni

Il documento posiziona la propagazione dell'incertezza bayesiana come un meccanismo promettente ma preliminare per il monitoraggio dei sistemi RAG agentici.

• Risultato Principale: Il metodo è più efficace quando l'incertezza si accumula naturalmente attraverso più fasi di ragionamento (come visto in HotpotQA). In tali scenari, la combinazione dei segnali fornisce un valore predittivo superiore alle stime dei singoli nodi.
• Limitazioni Accettate: Gli autori sottolineano esplicitamente che l'attuale framework è vincolato dalla porta OR deterministica, che non può de-pesare i nodi a monte inaffidabili (ad esempio, il Planner su StrategyQA), e dalla calibrazione conservativa del segnale $P(True)$.
• Direzioni Future: Lo studio non rivendica un'immediata implementazione industriale. Al contrario, inquadra il lavoro come una prova di concetto che richiede una futura validazione in specifici domini industriali, come il supporto alle decisioni per la manutenzione dell'Energia Eolica Offshore (OSW), utilizzando corpora di recupero specifici per il dominio piuttosto che benchmark generici. Gli autori suggeriscono che il lavoro futuro dovrebbe concentrarsi su strutture bayesiane adattive (ad esempio, porte noisy-OR) e tecniche di calibrazione migliorate per affrontare le limitazioni identificate.