Causal Responsibility Based Explainable AI for Vibrational Spectroscopy Applied to Cancer Diagnostics

Sintesi Tecnica: Responsabilità Causale per l'Intelligenza Artificiale Spiegabile applicata alla Spettroscopia Vibrazionale per la Diagnostica Oncologica

Problema
L'applicazione del deep learning (DL) alla spettroscopia vibrazionale (ad esempio, FTIR e Raman) per la diagnostica oncologica è in crescita, eppure questi modelli spesso funzionano come "black box". Sebbene possano raggiungere un'elevata accuratezza di classificazione, essi non riescono a rivelare quali specifiche caratteristiche spettrali (regioni di numero d'onda) guidino le loro decisioni. Questa mancanza di trasparenza ostacola la fiducia clinica e la conformità normativa (ad esempio, l'AI Act dell'UE). I metodi esistenti di XAI (Explainable AI), come SHAP e Grad-CAM, sono spesso progettati per un uso generico o per tipi di dati specifici (come le immagini) e potrebbero non affrontare adeguatamente i requisiti unici dei dati spettrali, come la necessità di spiegazioni locali a livello di feature che distinguano tra il comportamento del modello e la causalità biologica.

Metodologia
Gli autori introducono Spec-ReX, un metodo XAI adattato dal framework della responsabilità causale (ReX) per gli spettri vibrazionali. Spec-ReX quantifica la "responsabilità causale" di specifici intervalli spettrali per la classificazione di un modello utilizzando la teoria formale della causalità effettiva.

• Meccanismo: Spec-ReX impiega una strategia di intervento di masking. Partiziona uno spettro in intervalli contigui e li sostituisce con valori "neutrali". A differenza dei metodi di perturbazione standard che utilizzano l'interpolazione minima, media o lineare, Spec-ReX utilizza un'interpolazione quadratica con rumore gaussiano regolabile per unire le estremità dei segmenti mascherati. Questo approccio mira a minimizzare gli artefatti fuori distribuzione (OOD) pur rimuovendo le caratteristiche spettrali.
• Calcolo della Responsabilità: Il metodo calcola il grado di responsabilità ($r$) di un intervallo basandosi sulla dimensione del più piccolo "witness set" (insieme testimone) necessario per mantenere la predizione. Se un intervolo è sufficiente da solo, la sua responsabilità è 1; se sono necessari più intervalli, la responsabilità viene distribuita ($1/(k+1)$).
• Framework di Valutazione: Lo studio valuta Spec-ReX rispetto a Gradient SHAP e Grad-CAM attraverso tre distinti stadi sperimentali:
  1. In Silico (Ground Truth Definitivo): Spettri sintetici con picchi discriminativi aggiunti artificialmente noti.
  2. In Silico (Ground Truth Ambiguo) & In Vitro: Spettri contenenti miscele biochimiche (specificamente DNA vs assenza di DNA) dove il modello può apprendere un sottoinsieme di feature rilevanti, simulando la complessità del mondo reale e lo spostamento dei picchi.
  3. Ex Vivo: Dataset di tessuti reali (FTIR orale e Raman esofageo) dove non esiste un ground truth di attribuzione definitivo.

Contributi Chiave

1. Implementazione di Spec-ReX: L'adattamento della teoria della responsabilità causale alla spettroscopia vibrazionale, fornendo mappe di attribuzione sparse e specifiche.
2. Benchmarking Sistematico: Un confronto completo tra Spec-ReX, SHAP e Grad-CAM attraverso dataset sintetici, biochimici e clinici.
3. Analisi delle Metriche: L'applicazione di diverse metriche di fedeltà, tra cui l'Intersezione su Unione (IoU), la Concentrazione, il Tasso di Successo Positivo (PHR) e l'Area Sotto la Curva di Inserimento/Eliminazione (iAUC/dAUC) e la Fedeltà Fine-Tuned (FFid), per evidenziare i compromessi tra sensibilità e specificità nella valutazione XAI.
4. Chiarificazione della Causalità: Una distinzione rigorosa tra il fatto che i metodi XAI spiegano il comportamento del modello addestrato sotto specifiche perturbazioni, e non la causalità biologica o i meccanismi della malattia.

Risultati

• In Silico Definitivo: Spec-ReX ha ottenuto la massima localizzazione del ground truth, con un IoU di 0,10 e una concentrazione di attribuzione di 0,56, superando significativamente il secondo miglior metodo (GradSHAP-datasetAvg con 0,26 di concentrazione). Spec-ReX ha prodotto le mappe più sparse, concentrando la massa di attribuzione quasi esclusivamente sui picchi definitivi.
• In Silico Ambiguo & In Vitro: È emerso un compromesso tra sensibilità e specificità. SHAP ha dimostrato una maggiore sensibilità, ottenendo il PH più alto e identificando più regioni associate al DNA. Spec-ReX è stato il più robusto alla rimozione di regioni a bassa importanza (il più basso FFid−), indicando che si basa su un set di feature più piccolo e specifico.
• Ex Vivo (Dati Clinici):
  • Raman Esofageo: Diverse architetture di modello (CNN vs ResNet) hanno appreso diverse strategie decisionali, portando a diversi pattern di attribuzione. Spec-ReX ha prodotto costantemente mappe più sparse rispetto alle mappe dense di SHAP e alle ampie regioni di Grad-CAM.
  • FTIR Orale: Applicato a un modello PLS-DA, Spec-ReX e SHAP si sono comportati in modo simile sulle metriche di inserimento/eliminazione, superando il metodo della Variabile di Influenza sulla Proiezione (VIP). Tutti i metodi concordavano sull'importanza della regione 1054–1062 cm⁻¹ (vibrazioni di carboidrati/fosfati).
• Osservazione Generale: Nessuna metrica o metodo singolo è stato universalmente superiore. Le metriche che premiano la sensibilità hanno favorito SHAP, mentre quelle che premiano la specificità e la robustezza hanno favorito Spec-ReX.

Significatività e Rivendicazioni
L'articolo afferma che Spec-ReX fornisce mappe di responsabilità modello-causale sparse e specifiche per i classificatori spettrali. La sua principale significatività risiede nella capacità di identificare il set minimo di feature su cui il modello si affida, offrendo una spiegazione più focalizzata rispetto alle attribuzioni spesso diffuse di SHAP o alle mappe a risoluzione limitata di Grad-CAM.

Tuttavia, gli autori mantengono una posizione modesta sulle implicazioni:

• Centrato sul Modello, Non Biologico: Le spiegazioni riguardano strettamente il comportamento del modello addestrato sotto l'intervento di masking. Esse non provano la causalità biologica né che le bande evidenziate siano meccanismi causali della malattia.
• Utilità delle Spiegazioni "Shortcut": Anche se un modello si affida a "scorciatoie" (caratteristiche fragili o biochimicamente implausibili), Spec-ReX rivela fedelmente questo comportamento, il che è prezioso per identificare i modi di fallimento del modello.
• Validazione Clinica in Attesa: L'utilità clinica di queste spiegazioni sparse deve ancora essere validata attraverso studi incentrati sull'utente che coinvolgano esperti di dominio per determinare se migliorano la calibrazione della fiducia e i flussi di lavoro diagnostici.

Lo studio conclude che, sebbene Spec-ReX sia un metodo competitivo ed efficace per spiegare i classificatori spettrali, la scelta dello strumento XAI dovrebbe dipendere dall'applicazione specifica e dal compromesso tra sensibilità e specificità richiesto dall'utente.