PSEBench: A Controllable and Verifiable Benchmark for Evaluating LLMs in Patient Safety Event Triage

Sintesi Tecnica: PSEBench

Definizione del Problema
Il triage degli eventi di sicurezza del paziente (PSE) consiste nel determinare se un incidente clinico sia segnalabile secondo specifiche politiche giurisdizionali (ad esempio, i 29 Eventi Avversi per la Salute Segnalabili del Minnesota, MN29). Si tratta di un compito ad alto rischio che richiede agli esperti di fondare le decisioni sulla politica legale, identificare fatti critici mancanti e astenersi dal prendere una decisione binaria quando la politica è ambigua. Sebbene i Large Language Models (LLM) offrano un potenziale per l'automazione, i benchmark esistenti non riescono a valutarli adeguatamente. Il lavoro precedente si concentra sulla classificazione descrittiva isolata (ad esempio, tipo di evento, gravità) piuttosto che sul ragionamento complesso e basato sulla policy richiesto per il triage. Inoltre, generare benchmark affidabili per questo dominio è difficile a causa della necessità di una rigorosa fedeltà alla policy, del requisito di una ricerca di informazioni multi-turno e della necessità di gestire casi irreversibilmente ambigui senza costosa annotazione umana post-hoc.

Metodologia
Gli autori propongono PSEBench, un benchmark controllabile e verificabile costruito attraverso una metodologia basata sulla policy centrata sulle clause cards (schede delle clausole).

1. Costruzione delle Clause Card:

   • L'innovazione principale è la "clause card", una specifica decisionale strutturata che fattorizza il testo normativo in variabili auditabili: tipo di evento ($s$), condizioni di confine ($B$), elementi dell'evento ($E$), una mappatura $\rho$ dalle condizioni agli elementi, il verdetto previsto ($y$), la base legale ($G$) e i vincoli di istanziazione ($\Phi$).
   • Queste schede sono create tramite un protocollo assistito da LLM con intervento umano (human-in-the-loop). Gli LLM eseguono una "estrazione leale" del testo della policy e una "redazione strutturata" di schede candidate, che vengono poi rigorosamente auditate da esperti umani per garantire che le condizioni di confine siano necessarie e congiuntamente sufficienti per il verdetto.

2. Pipeline di Generazione Controllabile e Verificabile:

   • Istanziazione Guidata da Ancore: Reali rapporti di incidenti de-identificati (dal Japan Council for Quality Health Care) fungono da "materiali ancora" per iniettare realismo clinico e diversità.
   • Fase I (Istanziazione Fattuale): Un LLM istanzia gli elementi dell'evento ($E$) dal materiale ancora in un record fattuale strutturato. Un verificatore automatico controlla se questi fatti soddisfano le condizioni di confine ($B$) e i vincoli ($\Phi$) della clause card.
   • Fase II (Verbalizzazione Narrativa): Un secondo LLM converte i fatti verificati in una narrativa clinica a testo libero.
   • Verifica a Ciclo Chiuso: Un Estrattore analizza la narrativa generata per recuperare i fatti sottostanti, che vengono poi ricontrollati rispetto al record strutturato originale da un Verificatore Narrativo. Ciò garantisce che la narrativa codifichi fedelmente i fatti previsti senza "deriva silenziosa dell'etichetta" (allucinazioni che cambiano il verdetto).

3. Varianti del Benchmark:

   • Casi Completi: Tutti i fatti decisionali sono presenti.
   • Casi con Informazioni Mancanti: Un sottoinsieme di fatti decisionali critici ($E'$) è trattenuto dalla narrativa, richiedendo all'agente di richiederli proattivamente. La verità di base traccia esplicitamente quali campi mancano.
   • Casi di Incertezza (Zona Grigia): Tutti i fatti sono noti, ma la policy è silente o contraddittoria, richiedendo all'agente di scalare la questione invece di forzare un verdetto binario.

4. Ambiente di Valutazione Agente-centrico:

   • L'evaluazione simula un'interazione multi-turno tra un LLM valutato ($A_{eval}$) e un Fornitore di Informazioni automatizzato ($A_{info}$).
   • $A_{info}$ agisce come un oracle stateless che detiene i fatti canonici, rispondendo solo a query allineate con i fatti noti e dichiarando "sconosciuto" altrimenti.
   • $A_{eval}$ deve decidere quando porre domande (ASK) e quando impegnarsi in un verdetto (ANSWER).

Contributi Chiave

• Dataset PSEBench: Un dataset di 5.074 casi (3.455 completi, 1.362 con informazioni mancanti, 257 incerti) basato sulla policy MN29. Ogni caso include una verità di base multidimensionale (verdetto, clausola, base legale, condizioni di confine e campi trattenuti) derivata per costruzione, eliminando la necessità di annotazione manuale.
• Framework Metodologico: Una pipeline di costruzione scalabile e basata sulla policy che utilizza clause card e verifica a ciclo chiuso per generare benchmark ad alta fedeltà e auditabili per il triage normativo.
• Valutazione Agente-centrica: Un ambiente a due ruoli progettato specificamente per valutare la ricerca proattiva di informazioni e l'astensione principiata in condizioni di incertezza, andando oltre le metriche di classificazione statica.

Risultati
Gli autori hanno valutato 15 LLM rappresentativi (frontier closed-source, frontier open-source, modelli piccoli e modelli con specializzazione medica).

• Accuratezza del Verdetto vs. Prontezza Agente-centrica: Mentre i modelli closed-source di alto livello (es. GPT-5.5, Gemini 3.1 Pro) hanno raggiunto un'elevata accuratezza del verdetto (>90%) nei casi completi, sono emersi significativi divari nelle capacità interattive.
• Ricerca di Informazioni: I modelli hanno mostrato comportamenti divergenti. Alcuni (es. GPT-5.5) hanno identificato attivamente i fatti mancanti e posto domande mirate. Altri (es. Llama-3.1-8B) hanno fatto domande indiscriminatamente, e i modelli con specializzazione medica (es. HuatuoGPT-o1) quasi mai hanno chiesto, ricorrendo al "commit-senza-chiedere".
• Gestione dell'Incertezza: La capacità di scalare correttamente i casi ambigui è stata la capacità più polarizzata. Solo i modelli più forti (GPT-5.5, Gemini 3.1 Pro) hanno dimostrato una significativa consapevolezza dell'incertezza. La maggior parte dei modelli, inclusi quelli medici, ha mostrato un bias di "over-reporting", forzando un verdetto di "Segnalabile" nei casi incerti (es. MedGemma ha indirizzato il 98,4% dei casi incerti verso Segnalabile).
• Fondamento delle Evidenze: Un'elevata accuratezza del verdetto ha spesso mascherato fallimenti nel fondamento delle evidenze; i modelli hanno spesso indovinato il verdetto corretto per ragioni errate o allucinate, come dimostrato dai punteggi inferiori nella citazione delle evidenze e nei tassi di hit delle condizioni di confine.

Significato e Rivendicazioni
L'articolo sostiene che PSEBench fornisca il primo benchmark completo per il triage PSE basato sulla policy che valuta congiuntamente verdetto, fondamento delle prove legali, ricerca mirata di informazioni e riconoscimento dell'incertezza. I risultati suggeriscono che gli attuali LLM, anche i modelli frontier, non sono ancora pronti per il deployment autonomo nel triage della sicurezza del paziente nel mondo reale. Il divario tra le prestazioni di classificazione statica e le rigorose richieste del ragionamento interattivo allineato alla policy — in particolare nella gestione delle informazioni mancanti e dell'ambiguità della policy — rimane sostanziale. Gli autori posizionano PSEBench come un banco di prova scalabile e verificabile per guidare lo sviluppo di applicazioni LLM più sicure e allineate alle policy per i flussi di lavoro della sicurezza clinica.

Limitazioni Riconosciute
Gli autori osservano che, sebbene i materiali ancora migliorino il realismo, le narrative sono generate sinteticamente e potrebbero non catturare completamente il disordine strutturale delle note grezze della cartella clinica elettronica (EHR). Inoltre, l'valutazione astrae la ricerca di informazioni in un protocollo conversazionale, che non testa la capacità di un agente di navigare in sistemi EHR vivi e non strutturati. Infine, il benchmark è attualmente basato sulla policy MN29, sebbene la metodologia di costruzione sia dichiarata generalizzabile ad altri framework normativi.