Riepilogo Tecnico: OperatorSHAP

Problematica

I neural operator sono progettati per apprendere mappature tra spazi di funzioni, offrendo una flessibilità agnostica rispetto alla griglia, essenziale per applicazioni fisiche che coinvolgono equazioni alle derivate parziali (PDE). Questi modelli possono accettare input campionati su griglie irregolari o risoluzioni variabili (ad esempio, 128 rispetto a 1.024 punti) senza necessità di riaddestramento. Tuttavia, l'interpretazione di questi modelli rimane una sfida significativa.

In domini fisici critici per la sicurezza (ad esempio, valutazione del carico strutturale, avvisi meteorologici), comprendere le predizioni del modello è vitale. Sebbene i valori di Shapley forniscano un metodo di attribuzione teoricamente solido che soddisfa desiderabili assiomi, il loro costo computazionale durante l'inferenza è proibitivo. Gli esplicatori ammortizzati esistenti, come FastSHAP, sono limitati a input omogenei (griglie fisse e regolari). Non possono gestire direttamente le griglie eterogenee e le geometrie irregolari comuni nei dati scientifici (ad esempio, mesh non strutturate da posizionamenti di sensori o raffinamento adattivo). Inoltre, definire i valori di Shapley ammortizzati su griglie eterogenee non è banale perché le attribuzioni dipendono sia dal numero totale di giocatori sia dalle distanze spaziali tra i giocatori vicini.

Metodologia

Gli autori introducono OperatorSHAP, un metodo di attribuzione e una procedura di addestramento agnostica rispetto alla griglia che estende la stima di Shapley ammortizzata ai neural operator. L'approccio colma il divario tra i valori di Shapley discreti e gli spazi di funzioni continui attraverso i seguenti passaggi:

1. Quadro Teorico: Valori di Aumann–Shapley

Il documento stabilisce una base teorica collegando i giochi dei neural operator ai valori di Aumann–Shapley, un'estensione dei valori di Shapley a giochi con infiniti giocatori (spazi di misura non atomici).

• Giochi di Operatore Smooth: Gli autori definiscono un "gioco di operatore smooth" in cui lo spazio di input è uno spazio di Sobolev $H^s$ (con $s > d/2$). Utilizzando maschere lisce (funzioni bump) per partizionare il dominio spaziale, garantiscono che l'operatore sia Fréchet differenziabile.
• Classe pNA: Dimostrano che questi giochi di operatore smooth appartengono alla classe pNA (giochi con rappresentazioni a dimensione finita tramite misure non atomiche). Ciò garantisce l'esistenza di un valore di Aumann–Shapley unico, calcolabile tramite una formula diagonale che coinvolge la derivata di Fréchet.
• Connessione con Integrated Gradients: Il valore di Aumann–Shapley derivato si dimostra equivalente a una formula di Integrated Gradient (IG) a valori di funzione, dove l'attribuzione è l'integrale della derivata direzionale lungo un percorso da una baseline all'input.

2. Esplicatore Agnostico rispetto alla Griglia Ammortizzato

Per rendere questi valori computazionalmente sostenibili, gli autori propongono l'addestramento di un esplicatore di operatori neurali (ad esempio, un FNO) per approssimare la densità di Aumann–Shapley.

• Obiettivo di Addestramento: L'esplicatore $\Phi_\theta$ è addestrato utilizzando una perdita simile a FastSHAP. Invece di calcolare i valori di Shapley per ogni singolo campione, l'esplicatore restituisce un campo di attribuzione continuo $\phi$ per un dato input $u$.
• Discretizzazione: Durante l'addestramento, il campo di output continuo viene integrato su specifiche regioni di coalizione (partizioni) per produrre valori discreti. La perdita minimizza l'errore quadratico medio (MSE) pesato tra questi valori integrati e i veri valori di coalizione $v(S)$.
• Agnosticismo rispetto alla Griglia: Poiché l'esplicatore è un operatore neurale, esso apprende una mappatura da spazi di funzioni a spazi di funzioni. Può essere addestrato su campioni con diverse risoluzioni di griglia e mesh irregolari. Una volta addestrato, lo stesso modello può generare attribuzioni per input su qualsiasi risoluzione di griglia senza riaddestramento, apprendendo efficacementmente la sottostante densità di Aumann–Shapley.

Contributi Chiave

1. Fondamenta Teoriche: Il documento fornisce un quadro matematico rigoroso per le attribuzioni negli spazi di funzioni, dimostrando che i giochi di operatore smooth ammettono valori di Aumann–Shapley ben definiti. Collega questi valori alla formula diagonale e agli Integrated Gradients.
2. Esplicatore Ammortizzato Agnostico rispetto alla Griglia: Gli autori propongono una procedura di addestramento (Algoritmo 1) che consente l'addestramento di esplicatori simili a FastSHAP su griglie irregolari ed eterogenee. Ciò consente la generazione di attribuzioni di tipo Shapley per i neural operator attraverso risoluzioni arbitrarie.
3. Validazione Empirica: Il metodo è validato su nove dataset PDE (inclusi griglie strutturate 1D/2D e benchmark MeshGraphNets non strutturati). I risultati mostrano che OperatorSHAP produce attribuzioni coerenti con gli approssimatori di Shapley discreti all'avanguardia (RegressionMSR) attraverso le risoluzioni, offrendo al contempo velocità di inferenza significativamente superiori.

Risultati Sperimentali

Gli autori hanno valutato OperatorSHAP rispetto a KernelSHAP, RegressionMSR e Integrated Gradients su varie PDE (Burgers, Heat, Shallow Water, ecc.) e dataset MeshGraphNets.

• Qualità dell'Attribuzione: Attraverso risoluzioni che vanno da $n=16$ a $n=1024$, OperatorSHAP ha ottenuto correlazioni di Pearson e NRMSE (Normalized RMSE) comparabili o migliori di RegressionMSR. Notevolmente, mentre i metodi classici richiedevano di essere rieseguiti a ogni risoluzione, OperatorSHAP ha utilizzato un singolo modello addestrato per tutte le risoluzioni.
• Velocità di Inferenza: OperatorSHAP è ordini di grandezza più veloce dei baseline. Restituisce attribuzioni complete in un singolo passaggio in avanti con budget per campione pari a zero, mentre i baseline richiedono migliaia di valutazioni del backbone per campione.
• Trasferibilità: L'esplicatore addestrato è stato trasferito con successo tra dimensioni di griglia diverse senza riaddestramento, mantenendo un'alta fedeltà rispetto alle attribuzioni di riferimento anche quando la struttura della griglia di input cambiava (ad esempio, da 64 a 1024 punti).
• Limitazioni: Gli autori osservano che, sebbene l'ammortizzazione riduca il tempo di inferenza, il costo iniziale di addestramento è significativo. Inoltre, per un numero di giocatori molto basso, i metodi classici con budget ridotti possono superare OperatorSHAP, ma questo divario si amplia significativamente all'aumentare della risoluzione.

Significato

Il documento afferma che OperatorSHAP consente l'applicazione pratica delle spiegazioni basate sui valori di Shapley nelle scienze fisiche, dove i dati sono intrinsecamente eterogenei e agnostici rispetto alla griglia. Collegando il valore di Shapley discreto al valore di Aumann–Shapley continuo, gli autori forniscono una giustificazione teorica per l'addestramento di esplicatori sugli spazi di funzioni. Ciò permette di interpretare i neural operator su mesh irregolari e risoluzioni variabili — una capacità precedentemente non disponibile per gli esplicatori ammortizzati. Il lavoro suggerisce che per applicazioni industriali che richiedono supporto decisionale ad alta velocità e ad alto rischio (ad esempio, avvisi meteorologici in tempo reale o monitoraggio strutturale), esplicatori ammortizzati come OperatorSHAP sono un passo necessario verso un'interpretabilità dell'IA scalabile e affidabile nei sistemi dinamici.