The Provenance Gap in Clinical AI: Evidence-Traceable Temporal Knowledge Graphs for Rare Disease Reasoning

1. Il Problema: Il "Provenance Gap" (Divario di Provenienza)

Il paper identifica un problema critico nell'uso dei modelli linguistici di grandi dimensioni (LLM) all'avanguardia per l'assistenza clinica, in particolare per le malattie rare. Sebbene questi modelli generino output clinicamente accurati, soffrono di un "Provenance Gap": la discrepanza tra la copertura delle caratteristiche cliniche e la tracciabilità affidabile delle prove a supporto.

• Allucinazione delle Citazioni: Gli LLM tendono a generare citazioni bibliografiche (es. codici PMID) che sembrano plausibili ma sono spesso fabbricate, riferite a pubblicazioni reali ma in campi non pertinenti, o inesistenti.
• Fallimento della Verifica: Gli esperimenti mostrano che, anche quando esplicitamente istruiti a citare, i migliori modelli raggiungono solo il 15,3% di PMID clinicamente rilevanti. La maggior parte delle citazioni "corrette" porta a pubblicazioni reali ma su argomenti non correlati, ingannando i clinici che effettuano controlli casuali.
• Limiti dei Giudici LLM: Un'analisi cruciale dimostra che i giudici basati su LLM non riescono a distinguere tra citazioni vere e false senza dati di audit esterni (come un controllo diretto su PubMed). Senza ground truth, valutano la "plausibilità superficiale" piuttosto che la validità.
• Rischio Clinico: Per le malattie rare (es. Miastenia Gravis vs. Sindrome di Lambert-Eaton, Distrofia Muscolare di Duchenne vs. Becker), un errore di diagnosi o un ritardo nel trattamento dovuto a informazioni non verificabili può avere conseguenze gravi. Inoltre, l'uso di API cloud per la verifica viola spesso la privacy dei dati (GDPR/HIPAA).

2. Metodologia: HEG-TKG

Gli autori propongono HEG-TKG (Hierarchical Evidence-Grounded Temporal Knowledge Graphs), un sistema architetturale progettato per colmare questo divario.

Architettura del Sistema

Il sistema si basa su una conoscenza strutturata invece che su retrieval testuale grezzo:

1. Costruzione della Knowledge Graph (KG) a Due Livelli:
   • Tier 1 (Backbone Curato): Fatti clinici autoritativi estratti da fonti come GeneReviews, OMIM, Orphanet e linee guida CDC. Questi sono marchiati come "protetti" e hanno la massima priorità.
   • Tier 2 (Estrazione dalla Letteratura): Estrazione automatizzata da 4.512 record PubMed (987 PMID unici) utilizzando un consenso multi-modello (es. Claude Haiku, GPT-4.1-mini).
2. Stratificazione della Qualità delle Prove: Ogni bordo (edge) nella KG riceve un livello di qualità basato sul consenso:
   • GOLD: Confermato da Tier 1 o incrocio tra Tier 1 e Tier 2 (Confidenza 0.95).
   • SILVER: Consenso tra più modelli di estrazione o più documenti indipendenti (Confidenza 0.85).
   • BRONZE: Singola fonte/modello (Confidenza 0.70).
3. Ancoraggio Temporale (Temporal Anchoring): A differenza delle KG biomedicali statiche, HEG-TKG include 1.280 milestone che ancorano i fatti a finestre temporali specifiche (es. "Segno di Gowers a 3-5 anni", "Perdita della deambulazione a 9-13 anni"), utilizzando formati ISO 8601.
4. Pipeline di Inference:
   • Per ogni scenario clinico, il sistema interroga la KG tramite query Cypher per recuperare sottografi pertinenti.
   • Un modello di sintesi (LLM) genera la risposta clinica, obbligato a citare i nodi della KG con i relativi PMID e livelli di qualità.
   • Privacy: Il sistema può essere distribuito on-premise utilizzando modelli open-source (es. Qwen, Gemma) per garantire che i dati dei pazienti non lascino mai l'infrastruttura istituzionale.

Design Sperimentale

• Scenari: 36 scenari validati da clinici su tre coppie di malattie rare fenotipicamente confondibili.
• Confronto a Tre Bracci:
  1. Vanilla: LLM puro (nessuna evidenza esterna).
  2. Guideline-RAG: LLM con accesso a testi grezzi (GeneReviews, OMIM, abstract) senza struttura di grafo.
  3. HEG-TKG: LLM con accesso alla Knowledge Graph strutturata.
• Valutazione:
  • Verifica automatica di tutti i PMID tramite API PubMed.
  • Valutazione da parte di clinici (neurologi senior e informatici medici).
  • Valutazione da parte di "giudici LLM" (in modalità cieca e con audit delle citazioni).
  • Esperimento controfattuale: iniezione di 15 errori clinici nella pipeline per testare la resistenza e la rilevabilità.

3. Risultati Chiave

Verificabilità delle Citazioni

• LLM Puri: In modalità "vanilla", tutti i modelli hanno prodotto 0 PMID clinicamente rilevanti. Anche con prompting esplicito, la percentuale di citazioni corrette è rimasta bassa (max 15,3%), con la maggior parte che puntava a campi non pertinenti.
• HEG-TKG: Ha raggiunto il 100% di citazioni pertinenti. Ogni output è generato da una media di 181 bordi della KG supportati da PMID, con 203 citazioni inline uniche.
• RAG vs. KG: Il sistema Guideline-RAG (testo grezzo) ha prodotto zero citazioni verificabili, dimostrando che la struttura del grafo e i metadati di citazione sono essenziali per la tracciabilità, non solo la quantità di testo.

Metriche Cliniche

• Copertura delle Caratteristiche Cliniche: HEG-TKG mantiene una copertura delle caratteristiche cliniche comparabile ai baselines (circa 71,7%), dimostrando che l'aggiunta di vincoli di tracciabilità non degrada la qualità del contenuto.
• Provenance Gap: HEG-TKG riduce il divario di provenienza da ~0,74 (Vanilla) a 0,37, garantendo che ogni affermazione sia tracciabile.
• Precisione Temporale: HEG-TKG fornisce informazioni temporali specifiche (es. età di insorgenza, finestre di trattamento) che i modelli vanilla non riescono a generare in modo affidabile.

Valutazione Umana e AI

• Clinici: I neurologi hanno valutato HEG-TKG significativamente superiore per Verificabilità (Δ = +1,64, p < 0,001) e Azionabilità, senza compromettere la sicurezza o la completezza.
• Giudici LLM: Senza dati di audit, i giudici LLM non hanno rilevato differenze tra i sistemi. Con l'audit delle citazioni (v2), i punteggi di verificabilità per Vanilla e RAG sono crollati (da 4,5 a ~1,4), mentre HEG-TKG è rimasto stabile (4,6), confermando che i giudici AI necessitano di ground truth esterno per valutare la veridicità delle fonti.

Sicurezza e Robustezza

• Resistenza agli Errori: In un esperimento con 15 errori clinici iniettati, il sistema ha resistito all'80% degli errori grazie alla conoscenza parametrica del modello.
• Rilevabilità: Il 100% degli errori (inclusi quelli accettati dal modello) è stato rilevabile tramite la traccia delle citazioni. Un clinico può verificare esattamente quale PMID supporta un'affermazione sospetta, rendendo il sistema sicuro anche in caso di fallimento parziale.

4. Contributi Principali

1. Definizione e Misurazione del "Provenance Gap": Quantificazione empirica del divario tra accuratezza clinica e tracciabilità delle prove negli LLM frontiera.
2. HEG-TKG: Un'architettura di Knowledge Graph temporale con citazioni verificate, stratificazione della qualità (Gold/Silver/Bronze) e ancoraggio temporale.
3. Dimostrazione del Fallimento dei Giudici LLM: Prova che i modelli linguistici non possono valutare la validità delle citazioni senza dati di audit esterni.
4. Test di Sicurezza Controfattuale: Dimostrazione che la tracciabilità delle citazioni permette di rilevare il 100% degli errori, anche quando il modello li genera.
5. Risorse Riutilizzabili: Pubblicazione di KG complete per sei malattie neuromuscolari rare (5.481 nodi, 6.316 bordi) e framework di valutazione open-source.

5. Significato e Implicazioni

Il lavoro sottolinea che per l'adozione clinica dell'AI, specialmente nelle malattie rare, l'accuratezza non è sufficiente; è necessaria la verificabilità.

• Regolamentazione: Il sistema soddisfa i requisiti di tracciabilità richiesti dall'EU AI Act e dalle linee guida della FDA, offrendo un meccanismo per l'audit indipendente delle raccomandazioni cliniche.
• Privacy: La capacità di distribuire il sistema on-premise con modelli open-source risolve il conflitto tra l'uso di AI avanzata e la protezione dei dati sanitari (PHI).
• Fiducia Clinica: Fornendo un "percorso di prova" (provenance trail) che collega ogni affermazione a una fonte verificabile in pochi secondi, HEG-TKG abilita i medici a utilizzare l'AI come strumento di supporto decisionale affidabile, riducendo il tempo di verifica da ore a minuti.

In sintesi, il paper propone che la struttura dei dati (Knowledge Graphs temporali) sia la soluzione fondamentale per trasformare gli LLM da "generatori di testo plausibile" a "sistemi di ragionamento clinico verificabile".