Trustworthy AI-based crack-tip segmentation using domain-guided explanations

Sintesi Tecnica: Segmentazione del vertice della cricca basata su IA affidabile tramite spiegazioni guidate dal dominio

Problematica
I modelli di deep learning (DL), in particolare nelle applicazioni scientifiche ad alto rischio come la meccanica della frattura, affrontano una sfida di tipo "black-box" dove la mancanza di interpretabilità ne mina la fiducia e l'affidabilità. Sebbene i metodi di Explainable AI (XAI) post-hoc, come la Class Activation Mapping (CAM), offrano spunti sulle decisioni del modello, essi spesso producono spiegazioni fuorvianti, infedeli al modello sottostante o incoerenti tra diversi metodi. Inoltre, gli approcci esistenti per integrare le spiegazioni nell'addestramento (ad esempio, il Learning by Self-Explaining) spesso si affidano a modelli critici secondari o al feedback umano, che possono essere faticosi, dispendiosi in termini di tempo e incapaci di incorporare esplicitamente la conoscenza consolidata del dominio. Nel contesto specifico della segmentazione del vertice della cricca nei dati di Correlazione Digitale delle Immagini (DIC), i modelli possono apprendere a concentrarsi su artefatti fisicamente irrilevanti (ad esempio, il rumore vicino al percorso della cricca) piuttosto che sui campi di sforzo sottostanti, portando a una scarsa generalizzazione su dati fuori distribuzione (out-of-distribution).

Metodologia
Gli autori propongono l'Attention-Guided Training (AGT), un framework che integra tecniche XAI fedeli, metriche di valutazione quantitative e conoscenze pregresse del dominio direttamente nel ciclo di addestramento del modello. La metodologia procede in tre fasi principali:

1. Selezione del metodo XAI e valutazione quantitativa:
   Gli autori adattano innanzitutto i metodi basati su CAM per i compiti di segmentazione semantica. Valutano sistematicamente varie tecniche basate sul gradiente (ad esempio, Grad-CAM, Grad-CAM++) e prive di gradiente (ad esempio, Score-CAM, Eigen-CAM) utilizzando quattro criteri oggettivi proposti da Nauta et al. [29]:

   • Correttezza (Fedeltà): Quanto bene la spiegazione riflette il reale comportamento del modello.
   • Completezza: L'estensione con cui la spiegazione copre le caratteristiche rilevanti.
   • Continuità: La stabilità delle spiegazioni sotto piccole perturbazioni dell'input.
   • Compattezza: La dimensione della regione di spiegazione.
     Attraverso questa valutazione, è stato identificato che Grad-CAM++ applicato agli strati dell'encoder è il metodo più adatto per il compito di segmentazione del vertice della cricca.

2. Integrazione della conoscenza del dominio:
   Invece di affidarsi all'annotazione umana o a modelli critici non verificati, l'AGT utilizza la conoscenza analitica del dominio come bersaglio per l'attenzione del modello. Nello specifico, gli autori utilizzano l'espansione in serie di Williams [35], una soluzione teorica per i campi di sforzo e spostamento vicino al vertice di una cricca nella meccanica della frattura elastica lineare. Dai dati di spostamento DIC, calcolano il campo di sforzo equivalente di von Mises. Questo campo di sforzo teorico funge da "spiegazione target" ($\hat{\Phi}$).

3. Il processo di addestramento AGT:
   L'addestramento utilizza un approccio in due fasi:

   • Fase 1 (Pre-addestramento): Un approccio DL standard utilizzando solo la perdita di predizione (Dice loss) per garantire che il modello apprenda il compito di segmentazione e produca spiegazioni iniziali significative.
   • Fase 2 (Guidata dall'attenzione): Viene introdotta una funzione di perdita congiunta per allineare l'attenzione del modello con il target guidato dal dominio. La perdita totale ($L_{total}$) è definita come:
     $$L_{total} = \text{Dice}(y, \hat{y}) + \lambda \cdot SC(\Phi, \hat{\Phi})$$
     Dove $y$ e $\hat{y}$ sono le predizioni e la verità di base (ground truth), $\Phi$ è l'attuale spiegazione Grad-CAM++ e $\hat{\Phi}$ è la spiegazione target del campo di sforzo, e $SC$ è la similarità del coseno. L'iperparametro $\lambda$ bilancia i due termini.

Contributi Chiave

• Sviluppo del Framework: Introduzione di AGT, un framework che sposta la XAI da strumento di interpretabilità post-hoc a componente attiva del processo di addestramento, guidata dalle leggi fisiche piuttosto che solo dai pattern dei dati.
• Valutazione Quantitativa della XAI: Dimostrazione che le spiegazioni post-hoc per i modelli di segmentazione variano significativamente in qualità e che sono necessarie metriche oggettive e rigorose per selezionare il metodo più fedele (identificando Grad-CAM++ come ottimale per questo compito).
• Attenzione Guidata dal Dominio: La formulazione esplicita di un termine di perdita che penalizza le deviazioni tra l'attenzione del modello e i campi di sforzo fisicamente significativi (soluzione di Williams), garantendo che il modello si concentri su regioni di rilevanza meccanica elevata.
• Analisi Comparativa: Un confronto sistematico tra l'AGT che utilizza target fisici (Binary Williams, Gradual Williams) rispetto a target non fisici/fuorvianti (mappe di attenzione posizionate casualmente) e un baseline non guidato.

Risultati
Lo studio è stato validato sulla segmentazione del vertice della cricca in dati DIC da esperimenti di crescita della cricca per fatica.

• Prestazioni Predittive: I modelli addestrati con target di attenzione fisica (BW e GW) hanno ottenuto perdite Dice di validazione significativamente inferiori (media $\approx 0.67$) rispetto ai target non fisici e al riferimento non guidato (media $\ge 0.70$).
• Generalizzazione e Affidabilità: Sui dataset fuori distribuzione (specificamente $S950,1.6$), la strategia Binary Williams (BW) ha dimostrato una affidabilità superiore (94% di predizioni valide) rispetto a tutte le altre strategie (massimo 86%). Ciò indica che l'allineamento dell'attenzione con i campi di sforzo fisici migliora la robustezza contro i cambiamenti di distribuzione.
• Fedeltà della Spiegazione: Le metriche quantitative hanno mostrato che le strategie AGT fisiche hanno migliorato la correttezza (fedeltà) delle spiegazioni (valori AUC più bassi), mentre le strategie non fisiche hanno degradato la qualità della spiegazione. Il baseline non guidato non ha mostrato cambiamenti nella correttezza durante l'addestramento esteso, confermando che i miglioramenti erano dovuti alla guida dell'attenzione e non solo a ulteriori epoche.
• Sensibilità dell'Iperparametro: Test empirici hanno identificato un intervallo ottimale per $\lambda$ tra 0.5 e 3. Valori troppo elevati causavano una sovra-correzione e la perdita di caratteristiche salienti, mentre valori troppo bassi avevano un effetto insufficiente.

Significato e Rivendicazioni
Il paper sostiene che l'AGT affronti con successo il compromesso tra accuratezza del modello e interpretabilità nel machine learning scientifico. Ancorando il processo di addestramento alle teorie fisiche stabilite (serie di Williams), il framework assicura che i modelli di deep learning non solo predicano accuratamente, ma "pensino" in modi coerenti con gli esperti del dominio. Ciò porta a modelli più robusti, affidabili e generalizzabili, specialmente in scenari in cui i dati sono rumorosi o scarsi.

Gli autori sottolineano che questo approccio sposta la XAI oltre la mera visualizzazione; essa diventa un meccanismo per iniettare la conoscenza esperta nel processo di apprendimento. Riconoscono che trovare prior del dominio adatti che possano essere formulati matematicamente per la guida dell'attenzione è una sfida significativa, ma laddove applicabile, l'AGT offre una via rigorosa verso un'IA affidabile nella meccanica della frattura e potenzialmente in altri domini scientifici. Il lavoro non pretende di risolvere tutti i problemi della XAI, ma fornisce un percorso specifico e validato per integrare i vincoli fisici nell'addestramento del deep learning per migliorare sia le prestazioni che la spiegabilità.