Multi-Agent Reasoning with Consistency Verification Improves Uncertainty Calibration in Medical MCQA

1. Il Problema

L'implementazione dell'Intelligenza Artificiale (IA) in ambito clinico è ostacolata dalla mancanza di calibrazione delle probabilità di confidenza dei modelli linguistici (LLM).

• Sovrastima della certezza: I modelli attuali tendono a essere eccessivamente sicuri delle proprie risposte, anche quando sono errate. Questo è pericoloso perché un sistema che assegna una bassa confidenza a tutte le previsioni diventa clinicamente inutile, mentre uno che è sempre "sicuro" ma sbagliato non offre alcun segnale utile per il deferimento (cioè la decisione di affidarsi a un esperto umano).
• Limiti delle soluzioni esistenti: I metodi di ricalibrazione esistenti (es. temperature scaling, deep ensembles) richiedono dati etichettati per la calibrazione o copie multiple del modello, rendendoli difficili da applicare in scenari reali dove i dati etichettati sono scarsi.
• Gap nella ricerca: Sebbene i sistemi multi-agente abbiano dimostrato di migliorare l'accuratezza, non è stato studiato sistematicamente come l'aggregazione di diverse prospettive influisca sulla calibrazione dell'incertezza.

2. Metodologia: Il Framework MARC

L'autore propone MARC (Multi-Agent Reasoning with Consistency Verification), un framework che combina agenti specializzati con un meccanismo di verifica interna per migliorare sia l'accuratezza che la calibrazione. Il sistema si basa su tre componenti principali:

A. Agenti Specialisti (Componente 1)

• Vengono istanziati quattro agenti specializzati in domini specifici: Respiratorio, Cardiologia, Neurologia e Gastroenterologia.
• Ogni agente utilizza il modello Qwen2.5-7B-Instruct con un prompt di sistema specifico.
• Ogni agente genera una diagnosi indipendente, una catena di pensiero (CoT) e una confidenza iniziale $C^{(0)}_k$.

B. Verifica a Due Fasi (Two-Phase Verification) (Componente 2)

Adattata da Wu et al. (2024), questa fase trasforma la coerenza interna in un Punteggio di Confidenza dello Specialista (S-score) senza bisogno di etichette vere (gold labels).

1. Fase 1: L'agente genera la risposta e la spiegazione.
2. Fase 2:
   • Vengono estratte affermazioni fattuali dalla spiegazione.
   • Queste affermazioni vengono risposte due volte: una volta indipendentemente (senza contesto) e una volta con il contesto della spiegazione originale.
   • Si misura l'inconsistenza ($I_k$) tra le due risposte utilizzando la similarità di Jaccard.
3. Calcolo S-score: Il punteggio finale è dato da $S_k = C^{(0)}_k \cdot (1 - I_k)$.
   • Se un agente è internamente coerente ($I_k \approx 0$), mantiene la sua confidenza.
   • Se è incoerente ($I_k \approx 1$), il suo punteggio di confidenza crolla a zero.

C. Fusione Ponderata con S-score (Componente 3)

• Le risposte degli agenti vengono aggregate. Il punteggio per ogni risposta candidata è il numero di voti moltiplicato per la media degli S-score degli agenti che supportano quella risposta.
• La confidenza finale calibrata ($\hat{C}$) è una combinazione della frazione di voti e della distribuzione degli S-score, penalizzando le maggioranze deboli o incoerenti.

3. Contributi Chiave

1. Architettura MARC: Un approccio multi-agente che utilizza la coerenza interna come segnale di incertezza per pesare le decisioni, sostituendo l'aggregazione euristica con una basata sull'incertezza.
2. Separazione dei Ruoli: L'analisi di ablazione dimostra che:
   • La Verifica a Due Fasi è il motore principale del miglioramento della calibrazione (riduzione dell'errore di calibrazione).
   • Il Ragionamento Multi-Agente è il motore principale del miglioramento dell'accuratezza.
3. Robustezza su Benchmark Diversi: Il sistema è stato testato su subset ad alta disaccordo di MedQA-USMLE (ragionamento clinico integrato) e MedMCQA (ricordo fattuale specialistico), dimostrando efficacia anche quando l'accuratezza assoluta è limitata dalla mancanza di conoscenza nel modello.

4. Risultati Sperimentali

Gli esperimenti sono stati condotti su quattro dataset (100 e 250 domande per MedQA e MedMCQA) utilizzando un singolo GPU NVIDIA RTX 5090.

• Calibrazione (ECE - Expected Calibration Error):
  • Il sistema completo (Config 4) ha ridotto l'ECE del 49–74% rispetto alla baseline a singolo agente in tutti i setting.
  • Su MedQA-250, l'ECE è sceso da 0.355 a 0.091 (riduzione del 74.4%).
  • La verifica a due fasi da sola ha già ridotto l'ECE del 31-51% senza cambiare l'accuratezza.
• Accuratezza:
  • Il sistema completo ha raggiunto il 59.2% di accuratezza su MedQA-250 (miglioramento di +4.8 punti percentuali rispetto alla baseline).
  • Su MedMCQA (più difficile per la memoria fattuale), l'accuratezza è rimasta stabile o leggermente inferiore rispetto alla sola fusione multi-agente, ma la calibrazione è migliorata drasticamente.
• Discriminazione (AUROC):
  • Il sistema completo ha migliorato l'AUROC (capacità di distinguere risposte corrette da errate) su tutti i dataset, con un picco di +0.108 su MedQA-100.
  • È stato notato che la verifica da sola (senza multi-agente) può talvolta peggiorare l'AUROC, poiché comprime le confidenze verso la media senza necessariamente migliorare l'ordinamento delle risposte corrette.

5. Significato e Implicazioni

• Segnale di Deferenza Clinica: Il risultato più significativo è che anche quando un modello (Qwen-7B) non possiede la conoscenza fattuale per rispondere correttamente (come evidenziato sui dati MedMCQA), il framework MARC riesce ad assegnare una bassa confidenza a tali risposte errate. Questo fornisce ai clinici un segnale affidabile su quando non fidarsi dell'IA e cercare un secondo parere.
• Indipendenza dai Dati Etichettati: Il metodo funziona puramente a tempo di inferenza, sfruttando la coerenza interna del modello, rendendolo applicabile in contesti dove i dati di calibrazione etichettati sono rari.
• Limiti e Futuro: Il paper riconosce che la coerenza interna non garantisce la correttezza fattuale (un ragionamento coerente può essere basato su premesse sbagliate). La direzione futura suggerita è l'integrazione con Retrieval Augmented Generation (RAG) e basi di conoscenze mediche (es. PubMed) per ancorare la verifica a fatti esterni e non solo alla coerenza interna.
• Costo Computazionale: L'approccio richiede circa 16 volte più chiamate LLM rispetto a un singolo agente, un compromesso necessario per la sicurezza in ambienti critici.

In sintesi, il paper dimostra che combinare prospettive specialistiche diverse con una verifica rigorosa della coerenza interna permette di trasformare un modello LLM "sovraccerto" in un assistente clinico che sa esprimere la propria incertezza in modo affidabile, un requisito fondamentale per la sicurezza nell'IA medica.