Riepilogo Tecnico: NEURON – Un Sistema Neuro-Simbolico per la Spiegabilità Clinica Radicata

1. Enunciato del Problema

L'adozione dell'Intelligenza Artificiale (AI) negli ambienti clinici è ostacolata dalla natura "scatola nera" dei modelli di apprendimento automatico (ML) ad alte prestazioni. Sebbene questi modelli offrano stime di rischio accurate, cruciali per la priorità delle cure e gli interventi, il loro ragionamento rimane opaco per i clinici con competenze diversificate. Le tecniche esistenti di AI spiegabile (XAI), come SHAP (SHapley Additive exPlanations), forniscono visualizzazioni statiche di attribuzione delle caratteristiche che mancano di fondamento ontologico e trasparenza narrativa. Questi metodi spesso non riescono a incorporare conoscenze cliniche consolidate o a supportare un ragionamento causale interattivo, limitando la loro utilità per il senso-making a livello professionale e la fiducia. Inoltre, gli approcci attuali trattano spesso la Generazione Aumentata dal Recupero (RAG) radicata nell'ontologia e la modellazione neuro-simbolica in isolamento, senza un quadro unificato che migliori simultaneamente le prestazioni predittive e generi spiegazioni in linguaggio naturale radicate nella clinica.

2. Metodologia: Il Framework NEURON

Gli autori propongono NEURON (Comprensione Neuro-Simbolica con Narrazione Orientata al Recupero), un framework neuro-simbolico unificato progettato per colmare il divario tra dati grezzi, nomenclatura medica e spiegazione allineata all'uomo. Il sistema opera attraverso tre componenti principali:

A. Modellazione Predittiva Neuro-Simbolica

NEURON integra rappresentazioni strutturali informate dall'ontologia SNOMED CT (Sistematizzata Nomenclatura di Medicina - Termini Clinici) con modelli ML sub-simbolici standard.

• Fonte Dati: Il framework è stato validato sul dataset MIMIC-IV, focalizzandosi specificamente sulla previsione della mortalità intraospedaliera per Insufficienza Cardiaca Acuta (AHF).
• Ingegneria delle Caratteristiche:
  • Baseline Tabellare: 18 caratteristiche cliniche (es. parametri vitali, risultati di laboratorio) selezionate tramite regressione LASSO.
  • Integrazione Ontologica: Invece di trattare i codici SNOMED come caratteristiche one-hot, il sistema costruisce un grafo della conoscenza "è-un" (is-a). Genera embedding Node2Vec per i concetti SNOMED e li aggrega utilizzando un pooling pesato con TF-IDF per creare vettori di lunghezza fissa per ogni ricovero.
  • Conteggi Ontologici: Vengono derivati conteggi espliciti delle categorie ontologiche (Livello 1 e Livello 2) per ogni ricovero.
• Architettura del Modello: Il framework è stato testato su quattro diverse architetture ML: XGBoost, Perceptron Multistrato (MLP), Autoencoder e RBF-SVM. Questi modelli sono stati addestrati in tre configurazioni: (1) Solo tabellare, (2) Tabellare + embedding SNOMED, e (3) Neuro-simbolico completo (Tabellare + Embedding + Conteggi ontologici).

B. Generazione di Spiegazioni Radicata nel RAG

Per tradurre gli output del modello in narrazioni amichevoli per il clinico, NEURON impiega un livello di Generazione Aumentata dal Recupero (RAG) radicato in un Modello Linguistico di Grande Dimensione (LLM).

• Fonti di Input: Il livello RAG sintetizza quattro flussi informativi distinti:
  1. Driver SHAP: Punteggi di attribuzione delle caratteristiche dal modello predittivo.
  2. Rappresentazioni Ontologiche: Mappature strutturali dal grafo della conoscenza SNOMED.
  3. Note Cliniche: Note ICU non strutturate e specifiche per il paziente recuperate tramite filtraggio dei metadati.
  4. Conoscenza Clinica Curata: Una base di conoscenza curata manualmente contenente soglie, intervalli di riferimento e linee guida interpretative per i 18 predittori.
• Processo di Generazione: Il sistema utilizza un template di prompt vincolato per imporre una struttura rigorosa (es. separando i driver del modello, le caratteristiche tabellari e le prove ontologiche). Utilizza un LLM locale (qwen2.5:14b-instruct) per generare spiegazioni in linguaggio naturale, assicurando che l'output sia radicato nelle prove recuperate per minimizzare le allucinazioni.

C. Metriche di Valutazione

Lo studio impiega una strategia di valutazione duale:

• Prestazioni Predittive: Misurate tramite AUC, Accuratezza, Sensibilità, Precisione, F1-score e Specificità.
• Qualità della Spiegazione:
  • Metriche Computazionali per SHAP: Completezza, Gap di Additività, Infedeltà, Massima Sensibilità e Robustezza.
  • Metriche Allineate all'Uomo per le Narrazioni: Valutate utilizzando un approccio LLM-as-a-judge (usando gpt-oss:20b) per valutare Fedeltà, Plausibilità, Utilità, Sensemaking e Coerenza. La completezza narrativa è misurata anche tramite la copertura "basata su Explingo" di nomi delle caratteristiche, valori e direzioni.

3. Contributi Chiave

1. Framework Neuro-Simbolico Unificato: NEURON è il primo studio a presentare un confronto controllato di pipeline sub-simboliche e neuro-simboliche sulla stessa coorte clinica, dimostrando che l'integrazione ontologica migliora le prestazioni predittive su più famiglie di modelli.
2. Pipeline di Spiegazione Integrata: Il sistema accoppia in modo unico l'attribuzione SHAP direttamente con un LLM radicato nel RAG, combinando rappresentazioni ontologiche strutturate, note cliniche non strutturate e conoscenza curata per generare narrazioni olistiche.
3. Valutazione Completa: Il documento fornisce un confronto rigoroso tra visualizzazioni SHAP statiche e spiegazioni narrative dinamiche utilizzando sia metriche computazionali di attribuzione che criteri allineati all'uomo (fedeltà, sensemaking).
4. Strategia di Embedding Consapevole dell'Ontologia: Gli autori introducono un metodo non banale per l'integrazione di SNOMED CT, utilizzando embedding Node2Vec e pooling TF-IDF invece della semplice codifica one-hot, per catturare meglio le relazioni cliniche.

4. Risultati

Prestazioni Predittive

L'integrazione di caratteristiche derivate dall'ontologia ha migliorato costantemente le prestazioni predittive su tutti e quattro i modelli ML.

• Miglioramento AUC: I modelli migliori (XGBoost e RBF-SVM) nella configurazione neuro-simbolica completa hanno raggiunto un AUC di 0,88 (IC 95%: 0,86–0,89), un aumento significativo rispetto alla baseline solo tabellare (0,74–0,77).
• Sensibilità e F1: La configurazione neuro-simbolica ha prodotto i miglioramenti più forti nella sensibilità (es. XGBoost è passato da 0,21 a 0,37) e nel F1-score (XGBoost è passato da 0,31 a 0,49), indicando una migliore rilevazione dei casi ad alto rischio.

Qualità della Spiegazione

• Prestazioni SHAP: Le spiegazioni SHAP hanno dimostrato un'elevata completezza (0,932) e bassi gap di additività, rendendole adatte alla tracciabilità normativa. Tuttavia, hanno ottenuto punteggi bassi sulle metriche allineate all'uomo, con un punteggio complessivo di 0,504 e un punteggio di sensemaking di 0,307, indicando difficoltà per i clinici nell'interpretare le visualizzazioni statiche.
• Prestazioni NEURON (RAG): Le spiegazioni narrative generate da NEURON hanno ottenuto punteggi allineati all'uomo sostanzialmente più alti (Complessivo: 0,849; Sensemaking: 0,827).
• Copertura: Le narrazioni LLM hanno coperto con successo il 76,3% della massa di attribuzione SHAP top-K, dimostrando che l'output in linguaggio naturale sintetizza efficacemente i driver del modello.
• Stabilità: La generazione narrativa ha mostrato un'alta stabilità tra esecuzioni (similarità coseno di 0,999), mentre le attribuzioni SHAP hanno mostrato una stabilità moderata (0,777).

5. Significato e Affermazioni

Gli autori affermano che NEURON offre una soluzione ingegneristica robusta e scalabile per il dispiegamento di applicazioni di salute connesse affidabili e centrate sull'uomo. Il significato del lavoro risiede nella sua capacità di:

• Migliorare l'Affidabilità Predittiva: Radicando i modelli ML in ontologie cliniche, il sistema migliora l'accuratezza della stratificazione del rischio senza sacrificare la flessibilità dell'apprendimento sub-simbolico.
• Facilitare il Sensemaking Clinico: Il sistema va oltre l'attribuzione statica delle caratteristiche per fornire narrazioni coerenti in linguaggio naturale che si allineano ai flussi di lavoro e alle conoscenze cliniche.
• Colmare il Divario: Colma con successo il divario tra dati grezzi e nomenclatura medica, offrendo un meccanismo per un ragionamento interattivo e narrativo attualmente mancante nelle XAI standard.

Gli autori riconoscono le limitazioni, inclusa la potenziale sovrapposizione a livello di soggetto nel dataset, la dipendenza della qualità narrativa dal LLM specifico utilizzato (con modelli più piccoli che mostrano allucinazioni) e la necessità di un'attenta ingegneria dei prompt per prevenire la generazione di affermazioni cliniche non supportate. Concludono che, sebbene le narrazioni di NEURON superino SHAP nelle metriche allineate all'uomo, dovrebbero essere considerate complementari alle tecniche XAI esistenti piuttosto che un sostituto completo, in quanto dipendono ancora dalla fedeltà del modello sottostante.