Sintesi Tecnica: KARMA – Spiegazioni Globali per la Previsione di Serie Temporali Multivariate tramite Approssimazioni di Markov di Ordine K

1. Definizione del Problema

L'impiego di modelli di deep learning (es. RNN, TCN, Transformer) per la previsione di serie temporali multivariate in domini ad alto rischio (finanza, monitoraggio clinico, sensoristica industriale) affronta una significativa opacità. Gli esistenti metodi di XAI (Explainable AI), come LIME, SHAP e le attribuzioni basate sul gradiente, sono progettati primariamente per dati statici, indipendenti e identicamente distribuiti (i.i.d.). Quando applicati alle serie temporali, questi metodi violano spesso le proprietà temporali fondamentali:

• Assunzione di Indipendenza: Presumono implicitamente che le caratteristiche dei timestamp siano indipendenti, ignorando l'autocorrelazione temporale e la causalità di Granger tra le variabili.
• Perturbazioni Off-Manifold: Le perturbazioni casuali in SHAP o LIME rompono le strutture sequenziali, creando controfattuali che non esistono nella distribuzione dei dati.
• Locale vs. Globale: I metodi basati sul gradiente descrivono la geometria locale in un singolo punto piuttosto che la sistematica struttura condizionale appresa globalmente dal modello.
• Selezione del Baseline: Metodi come TimeSHAP soffrono del "probleamo della selezione del baseline" in contesti sequenziali, dove la scelta del baseline è non banale.

Il paper sostiene che le spiegazioni per le serie temporali debbano rispettare la struttura sequenziale e causale dei dati, allontanandosi dalle approssimazioni locali basate su perturbazioni o gradienti verso un approccio probabilistico di surrogato globale.

2. Metodologia: Il Framework KARMA

Gli autori propongono KARMA (K-Order Markov Approximation), un framework che spiega un predittore di serie temporali black-box $f$ costruendo un modello surrogato di Markov di ordine K. Il presupposto centrale è che il comportamento di un complesso predittore su una serie temporale multivariata possa essere fedelmente approssimato da una catena di Markov di uno specifico ordine $K$.

La metodologia è organizzata attorno a tre pilari:

Pilastro 1: Surrogato di Markov e Selezione dell'Ordine

• Discretizzazione: Le variabili continue delle serie temporali vengono discretizzate in $N$ bin utilizzando confini quantili derivati dai dati di addestramento, creando uno spazio di stato discreto $S = [N]^D$.
• Selezione dell'Ordine ($K^*$): Il metodo identifica la lunghezza minima della storia $K^*$ che è predittivamente sufficiente. Ciò viene ottenuto tramite una regola di arresto della validità predittiva del surrogato. L'algoritmo testa lunghezze di lag crescenti $K$ sostituendo il prefisso di una finestra di input con un baseline $b$ e misurando la discrepanza di previsione $\hat{\Delta}_{pred}(K, b)$.
• Criterio di Arresto: $K^*$ è il più piccolo $K$ in cui la discrepanza minima scende al di sotto di una tolleranza $\epsilon$. Questo certifica che il modello è insensibile agli input oltre il lag $K^*$.

Pilastro 2: Compressione e Attribuzione Certificata

• Compressione del Modello: Se $K^* < W$ (la finestra di input del modello), il modello è provabilmente insensibile agli input oltre il lag $K^*$. Ciò produce un rapporto di compressione $W/K^*$.
• Baseline Certificato ($b^*$): Il baseline $b^*$ non è scelto dall'analista ma è certificato dal modello; è il prefisso specifico che minimizza la discrepanza di previsione quando viene sostituito.
• Attribuzioni Certificate a Zero: Per tutti i lag $k > K^*$, le attribuzioni sono matematicamente zero (entro l'errore di approssimazione), risolvendo l'ambiguità tra importanza "piccola" e "zero" presente in altri metodi.

Pilastro 3: Gerarchia di Spiegazione Globale a Cinque Livelli

Una volta stimato il kernel di transizione di ordine $K^*$ $\hat{T}^f_{K^*}$, KARMA deriva cinque livelli di spiegazione globale senza ulteriori query all'oracolo:

1. Livello 1 (Importanza delle Variabili): Calcola l'influenza distributiva totale delle variabili sorgente sulle previsioni target attraverso tutti i lag, classificando le variabili in base alla loro influenza marginale di variazione totale.
2. Livello 2 (Profili di Lag): Risolve l'influenza per uno specifico lag $k$, rivelando la dinamica temporale (es. momentum, mean-reversion) per ogni variabile.
3. Livello 3 (Distintività del Regime): Identifica regimi storici distintivi (path) in cui la previsione condizionale del modello devia significativamente dal suo comportamento tipico, utilizzando un indice di interdipendenza marginale.
4. Livello 4 (Effetti Interventistici): Calcola gli effetti intervristici medi (AIE) e i contributi degli archi per popolare un grafo causale indotto dal modello, collegandosi direttamente all'importanza del Livello 1.
5. Livello 5 (Quantificazione dell'Incertezza): Fornisce certificati di affidabilità:
   • Incertezza Aleatoria: Entropia della distribuzione predittiva (vera incertezza del modello).
   • Incertezza Epistemica: Varianza delle stime del kernel (segnala le storie con copertura di dati insufficiente).

Stima del Kernel: Per evitare la complessità esponenziale della stima del pieno kernel congiunto ($N^{DK^*}$), KARMA stima $D$ kernel marginali fattorizzati. Utilizza una Strategia B (b-prefix Monte Carlo)* di default, che restringe la stima al supporto della storia osservata $H^+_{K^*}$, scalando linearmente con la lunghezza della serie $T$ anziché esponenzialmente con la dimensione.

3. Risultati Chiave

Dati Sintetici (Oracolo VAR)

• Recupero della Struttura Causale: Su dati sintetici Vector Autoregressive (VAR) con archi causali di verità fondamentale noti, KARMA ha ottenuto una recall perfetta (1.00) in tutte le configurazioni tranne quella più complessa (xlarge, dove la recall era 0.71). Ha mantenuto un'alta precisione, escludendo efficacementamente archi spuri.
• Classifica delle Feature: KARMA è stato l'unico metodo in cima alla classifica (più alto Kendall's $\tau$) nelle configurazioni medium, large e xlarge. I metodi concorrenti (TimeSHAP, WinIT, Feature Occlusion) sono degradati all'aumentare della densità del grafo.
• Confronto: Integrated Gradients (IG) è stato escluso dai test sintetici poiché si riduce ai coefficienti esatti su VAR lineari, rendendo il confronto degenerato.

Benchmark del Mondo Reale

Gli esperimenti sono stati condotti su tre dataset (ETTh1, Beijing PM2.5, Exchange Rate) attraverso tre architetture (GRU, LSTM, TCN) utilizzando un punteggio AUC basato sul lag temporalmente consapevole ($AUClag@25\%$).

• ETTh1: KARMA ha ottenuto i punteggi più alti in tutte le architetture, superando notevolmente il secondo miglior metodo su TCN (0.71 vs 0.49).
• Beijing PM2.5: KARMA è stato competitivo, eguagliando o seguendo leggermente i baseline più forti.
• Exchange Rate: Tutti i metodi sono crollati vicino allo zero. Gli autori interpretano correttamente questo dato: il dataset approssima un random walk con poca struttura temporale apprendibile, il che significa che nessun metodo può identificare i timestep la cui rimozione sposta la previsione. Ciò valida il comportamento della metrica piuttosto che indicare un fallimento dell'esplicatore.

4. Significato e Rivendicazioni

Il paper posiziona KARMA come un'alternativa fondata ai metodi XAI esistenti per le serie temporali fornendo:

1. Rispetto della Geometria Temporale: A differenza dei metodi basati su perturbazioni che rompono la struttura sequenziale, l'approssimazione di Markov di KARMA opera nel linguaggio nativo del dominio (dipendenze condizionali).
2. Fornitura di Garanzie Statistiche: Offre attribuzioni certificate a zero per i lag irrilevanti e espliciti certificati di affidabilità (Livello 5) per le spiegazioni, una caratteristica assente nel lavoro precedente.
3. Globale vs. Locale: Fornisce una gerarchia di spiegazione globale derivata da un singolo kernel stimato, piuttosto che approssimazioni locali a livello di istanza.
4. Validità Model-Agnostic: La selezione di $K^*$ e del baseline $b^*$ è derivata direttamente dal comportamento del modello, non da assunzioni dell'analista.

Limitazioni Riconosciute:
Gli autori notano che lo spazio di stato cresce esponenzialmente con $N^{DK^*}$, rendendo difficile la stima del pieno kernel in contesti ad alta dimensionalità. KARMA mitiga questo problema tramite kernel marginali e strategie di campionamento, ma la scalabilità a sistemi ad altissima dimensionalità rimane una direzione aperta.

Il paper conclude che il paradigma dell'approssimazione di Markov offre una direzione robusta e poco esplorata per la XAI nei domini sequenziali, applicabile alla finanza, alla neuroscienza e alla genomica.