🤖 machine learning

The Failures of Marginal Influence-Based Attribution Methods for Global Time Series Explanations

Questo articolo sostiene che il fallimento primario dei metodi esistenti di attribuzione delle serie temporali non risieda nel loro formato di output scalare, ma in un fondamentale disallineamento computazionale in cui il condizionamento marginale e i gradienti fuori varietà confondono le dipendenze temporali dirette e mediate, rendendoli infedeli alla struttura causale sottostante del modello.

Autori originali: Amadeo Tunyi

Pubblicato 2026-07-21

📖 6 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Amadeo Tunyi

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Il Mistero del Detective Viaggiatore nel Tempo

Immaginate di essere un detective che cerca di risolvere un crimine, ma l'unico indizio che avete è una singola foto sfuocata del sospettato. Sapete che il sospettato era sulla scena del crimine, ma non sapete come ci sia arrivato, con chi abbia parlato lungo il percorso, o se sia stato davvero lui a premere il grilletto. Nel mondo dell'Intelligenza Artificiale (IA), questo è esattamente il problema che gli scienziati affrontano quando cercano di capire come i modelli informatici prendano decisioni sul futuro. Questi modelli, che alimentano tutto, dalle previsioni del mercato azionario al monitoraggio medico, sono spesso delle "scatole nere". Sappiamo cosa entra (i dati del passato) e cosa esce (una previsionza), ma non conosciamo la logica interna.

Per risolvere questo problema, i ricercatori hanno sviluppato la "IA Spiegabile" (XAI - Explainable AI). Pensate alla XAI come a uno strumento che cerca di evidenziare gli indizi più importanti. Per i dati basati sul tempo (come i modelli meteorologici o la frequenza cardiaca), il metodo standard attuale è simile a dare a ogni singolo indizio un punteggio da 1 a 10. Se una lettura della temperatura alle 14:00 riceve un punteggio di 9, lo strumento dice: "Questo era super importante!". Ma ecco il problema: nel mondo reale, gli eventi sono connessi. La temperatura alle 14:00 non è avvenuta in un vuoto; è stata causata dal vento alle 13:00, che è stato causato da una tempesta alle 12:00. Se il vostro strumento da detective si limita a dare un punteggio alle 14:00 senza capire che era solo un messaggero della tempesta, potreste incolpare la cosa sbagliata. Questo articolo approfondisce il motivo per cui i nostri attuali strumenti da detective non riescono a vedere il quadro completo di come funziona il tempo.

Il Documento: Perché i Nostri "Punteggi" Sono Sbagliati

Il documento, intitolato The Failures of Marginal Influence-Based Attribution Methods for Global Time Series Explanations, sostiene che il modo più popolare in cui cerchiamo di spiegare le previsioni dell'IA è fondamentalmente guasto quando si tratta del tempo. Gli autori, guidati da Amadeo Tunyi, dimostrano che il metodo standard — dare a ogni punto dati un singolo "punteggio di importanza" — è come cercare di descrivere un film complesso elencando solo la luminosità di ogni fotogramma. Si perde la trama.

Il Problema Centrale: La Trappola del "Mediatore"
Gli autori utilizzano un'argomentazione intelligente che coinvolge una catena di eventi. Immaginate una configurazione di domino:

Spingete il primo domino (Evento A).
Esso abbatte il secondo domino (Evento B).
Il secondo domino abbatte il terzo (Evento C).

In questa catena, l'Evento A causa l'Evento C, ma solo perché è passato attraverso l'Evento B. L'Evento B è il "mediatore". Il documento mostra che gli attuali strumenti di spiegazione dell'IA sono terribili nel distinguere tra una causa diretta e una mediata. Vedono che l'Evento A è accaduto e l'Evento C è accaduto, quindi assegnano un punteggio alto all'Evento A, pensando che abbia causato direttamente il risultato. Ma in realtà, l'Evento A è stato importante solo perché ha mosso l'Evento B. Gli strumenti stanno "allucinando" una connessione diretta che non esiste perché stanno ignorando l'intermediario.

L'Errore "Off-Manifold"
Il documento evidenzia anche un secondo, subdolo errore. Immaginate di camminare su una fune (il "manifold"). Questo è l'unico percorso dove i dati hanno senso. Se fate un passo fuori dalla fune nel vuoto, vi trovate in un luogo che non accade mai nella realtà. Gli autori hanno scoperto che molti metodi popolari (come SHAP e gli strumenti basati sui gradienti) guardano accidentalmente questi scenari "off-rope" (fuori dalla fune). Chiedono: "Cosa succederebbe se la temperatura fosse di 100 gradi quando l'umidità è allo 0%?". Anche se questa combinazione è impossibile nel mondo reale, la matematica calcola un punteggio per essa. Ciò porta l'IA ad attribuire importanza a cose che sono matematicamente possibili ma fisicamente impossibili, confondendo la spiegazione.

Cosa Dimostra il Documento
Gli autori non hanno solo ipotizzato; hanno eseguito simulazioni e dimostrazioni matematiche per mostrare che:

I metodi standard falliscono: Strumenti popolari come SHAP, TimeSHAP e le mappe di Saliency forniscono costantemente credito alle variabili sbagliate quando i dati sono "autocorrelati" (ovvero quando i dati di oggi dipendono fortemente da quelli di ieri).
Non sanno distinguere: Nei loro test, questi strumenti hanno dato lo stesso "punteggio di importanza" a una variabile sia che fosse una causa diretta, sia che fosse solo un messaggero. Non riuscivano a distinguere tra un legame diretto e una reazione a catena.
Violano le regole della realtà: Guardando combinazioni di dati impossibili, violano la regola "on-manifold", il che significa che le loro spiegazioni non rispettano le leggi reali dei dati che stanno analizzando.

La Soluzione Proposta: Il "Tensore di Transizione"
Quindi, se la scheda dei punteggi è rotta, cosa dobbiamo usare invece? Gli autori propongono un nuovo modo di pensare chiamato DAG-faithfulness (fedeltà ai DAG). Invece di chiedere "Quanto è importante questo singolo numero?", dovremmo chiedere "Qual è la mappa delle connessioni?".

Suggeriscono di sostituire la semplice lista di punteggi con un Tensore di Transizione. Immaginate una griglia 3D o un foglio di calcolo complesso che non dice solo "A è importante". Inveve, mappa: "A al tempo 1 influenza B al tempo 2, che poi influenza C al tempo 3".

Cattura la direzione dell'influenza.
Cattura la tempistica (il ritardo/lag).
Cattura le relazioni tra le variabili.

Il documento sostiene che, affinché una spiegazione sia veramente fedele, deve essere in grado di ricostruire questa mappa di connessioni (un Grafo Aciclico Diretto, o DAG) esattamente come il modello di IA l'ha appresa. Se la spiegazione dice "A si connette a C", ma il modello ha appreso che "A si connette a B, e B si connette a C", la spiegazione è una menzogna, anche se la previsione finale era corretta.

Lo Stato Attuale delle Cose
Gli autori sottolineano con cura che, sebbene abbiano identificato il problema e definito la soluzione perfetta (DAG-faithfulness), non hanno ancora costruito completamente lo strumento perfetto. Mostrano che alcuni metodi più recenti (come FIT e WinIT) sono più vicini all'obiettivo perché cercano di rispettare le "regole della strada" (rimanendo sul manifold), ma hanno ancora difficoltà con la sensibilità. Il documento conclude che il campo deve smettere di cercare di incanalare la complessa logica temporale in semplici numeri e iniziare a costruire queste mappe di connessione 3D.

In breve, il documento è un richiamo al risveglio: non possiamo più fidarci dei semplici "punteggi di importanza" per l'IA basata su serie temporali. Essi perdono la storia di come gli eventi si connettono e, finché non passeremo a metodi che mappano queste connessioni, le nostre spiegazioni rimarranno incomplete e potenzialmente fuorvianti. Gli autori hanno tracciato la mappa del problema e indicato la via verso la soluzione, ma il viaggio per costruire la mappa perfetta è appena iniziato.

Riepilogo Tecnico: I Fallimenti dei Metodi di Attribuzione Basati sull'Influenza Marginale per le Spiegazioni di Serie Temporali Globali

1. Definizione del Problema

Il documento affronta un'inadeguatezza strutturale fondamentale negli attuali metodi di Explainable AI (XAI) per i modelli di serie temporali. Mentre il paradigma dominante nell'XAI si basa sull'attribuzione piatta (flat attribution scoring) — ovvero l'assegnazione di un valore scalare a ogni caratteristica in ogni istante temporale per rappresentare il suo contributo "diretto" — questo approccio non riesce a catturare la natura relazionale e condizionale del ragionamento temporale.

Gli autori sostengono che i metodi esistenti (inclusi quelli basati su gradienti, perturbazioni e attenzione) confondono le dipendenze temporali dirette con le dipendenze mediate causate dall'autocorrelazione. Collassando strutture relazionali ad alta dimensionalità in riassunti monodimensionali, questi metodi scartano l'informazione sulla dipendenza condizionale che costituisce il reale processo di ragionamento del modello. Di conseguenza, non sono in grado di distinguere tra una caratteristica che influenza direttamente una previsione e una che la influenza solo indirettamente attraverso una variabile intermedia.

2. Metodologia e Quadro Teorico

Definizioni e Notazione:

Attribuzione Piatta (Definizione 1): Un metodo che produce uno score scalare $\phi_i^{(t)}(x)$ per una coppia variabile-tempo $(X_i, t)$ tramite condizionamento marginale o gradienti, senza condizionarsi sui valori di altre variabili di input che potrebbero mediare l'effetto.
Modello di Grafo delle Dipendenze (MDDAG, $G_f$ , Definizione 2): Un grafo aciclico diretto (DAG) che rappresenta le vere dipendenze apprese da un modello $f$ . Un arco esiste da $X_i^{(t_1)}$ al target di previsione $X_j^{(T+w)}$ se e solo se l'input è condizionalmente dipendente dal forecast dato tutti gli altri input.
Fedeltà al DAG (DAG-Faithfulness, Definizione 3): Un nuovo criterio di fedeltà che richiede che il grafo di dipendenza $G_T$ indotto da un metodo di spiegazione codifichi le stesse indipendenze condizionali (equivalenza di Markov) dell'MDDAG $G_f$ .

Il Gap Computazionale:
Il documento identifica un "gap computazionale" in cui i metodi piatti non riescono a soddisfare due condizioni di ammissibilità necessarie:

Valutazione On-manifold (C1): L'attribuzione deve dipendere solo dal comportamento del modello all'interno del supporto della distribuzione dei dati ( $\text{supp}(p)$ ), non da riparametrizzazioni off-manifold.
Separazione Condizionale (C2): L'attribuzione a un input deve annullarsi se quell'input è condizionalmente indipendente dal forecast dati gli altri input rimanenti.

Casi Studio e Dimostrazioni:
Gli autori costruiscono scenari specifici per dimostrare il fallimento dei metodi standard:

Scenario I (Autocorrelazione): Un modello in cui $X^{(2)}$ media l'effetto di $X^{(1)}$ sul forecast. I metodi piatti (es. varianti di SHAP) assegnano erroneamente punteggi non nulli a $X^{(1)}$ perché non riescono a condizionarsi su $X^{(2)}$ , violando la condizione C2.
Scenario II (Vincoli On-manifold): Un processo deterministico dove $X^{(2)} = \delta X^{(1)}$ . Qui, $X^{(1)}$ non ha alcun effetto diretto sul forecast all'interno del supporto dei dati. Tuttavia, i metodi basati su gradienti (Saliency, Integrated Gradients) rilevano derivate non nulle perché sondano punti off-manifold, violando la condizione C1.

Rappresentazione Proposta:
Per superare queste limitazioni, il documento propone di sostituire gli score scalari con un Tensore di Transizione (Definizione 4). Questo è un array tridimensionale $T_{loc} \in \mathbb{R}^{D \times D \times T}$ (o $D \times D \times T \times W$ per previsioni multi-step) che quantifica l'influenza della variabile sorgente $i$ al lag $t_1$ sul target $j$ . La spiegazione globale è derivata dal supporto del tensore globale aggregato, separando l'esistenza strutturale dalla magnitudo della forza.

3. Contributi Chiave

Formalizzazione del Gap Computazionale: Il documento definisce rigorosamente il disallineamento tra i metodi di attribuzione piatta e la struttura di dipendenza condizionale dei modelli temporali, provando che gli score scalari non possono catturare la necessaria struttura di indipendenza condizionale.
Definizione di DAG-Faithfulness: Introduce la DAG-faithfulness come il criterio appropriato per le spiegazioni globali di serie temporali, fondato sull'equivalenza di Markov con il grafo di dipendenza appreso dal modello.
Dimostrazione del Fallimento dei Metodi Standard:
- Teorema 1: Prova che lo SHAP standard (e le sue estensioni per serie temporali come TimeSHAP) non è DAG-faithful in generale, poiché genera archi spurii a causa dell'autocorrelazione.
- Proposizione 1 & 2: Dimostra che i metodi basati sull'influenza marginale (KernelSHAP, ShapTime) falliscono la Separazione Condizionale (C2), mentre i metodi basati su gradienti (Saliency, Integrated Gradients) falliscono la Valutazione On-manifold (C1).
Valutazione delle Estensioni Esistenti: Il documento valuta i metodi temporalmente consapevoli (FIT, WinIT, Dynamask). Sebbene soddisfino parzialmente l'ammissibilità utilizzando sostituzioni in-distribution, soffrono di una bassa sensibilità verso i veri archi diretti (falsi negativi), pur essendo strutturalmente più vicini all'ammissibilità rispetto ai metodi piatti.
Proposta di Istanze Ammissibili: Gli autori propongono che una spiegazione valida debba essere un Tensore di Transizione istanziato tramite un funzionale ammissibile che soddisfi sia C1 che C2. Suggeriscono di combinare Jacobiani consapevole del manifold (per C1) con misure di spostamento della distribuzione condizionale (per C2).

4. Risultati ed Evidenza Empirica

Il documento fornisce evidenza empirica attraverso benchmark sintetici confrontando vari metodi contro i grafi di dipendenza reali (ground-truth):

Metodi Piatti (SHAP, TimeSHAP, ShapTime, TS-MULE): Falliscono costantemente nel distinguere tra effetti diretti e mediati. Nello Scenario I, assegnano punteggi non nulli a variabili completamente mediate. Nello Scenario II, non rispettano i vincoli on-manifold.
Metodi basati su Gradienti (Saliency, IG, TIG, SmoothGrad): Distinguono correttamente tra effetti diretti e mediati in alcuni casi, ma falliscono costantemente lo Scenario II assegnando rilevanza non nulla a variabili che sono condizionalmente indipendenti sul manifold dei dati, a causa della sensibilità off-manifold.
Metodi di Perturbazione (FIT, WinIT, Dynamask): Questi metodi non allucinano archi negli scenari di fallimento (rispettano meglio C1 e C2) ma mostrano una bassa sensibilità, assegnando spesso punteggi vicini allo zero anche a veri archi diretti (falsi negativi).

Nessun metodo testato raggiunge la correttezza in tutti gli scenari, confermando la tesi del documento secondo cui i paradigmi attuali sono strutturalmente inadeguati.

5. Significato e Rivendicazioni

Il documento sostiene che il campo dell'XAI per le serie temporali debba passare da una fedeltà centrata sull'output (il perturbare la caratteristica cambia l'output?) a una fedeltà centrata sulla struttura (la spiegazione recupera la struttura interna di indipendenza condizionale del modello?).

Spostamento Teorico: Gli autori sostengono che il formato scalare non sia il problema primario, bensì il condizionamento marginale e la valutazione off-manifold intrinseche agli algoritmi attuali.
Nuovo Standard: Essi postulano che la DAG-faithfulness sia il criterio necessario per le spiegazioni globali e che il Tensore di Transizione sia l'oggetto rappresentativo minimo capace di codificare queste dipendenze.
Sfida Aperta: Il documento identifica la costruzione di un'istanza concreta e ammissibile del tensore di transizione che soddisfi sia C1 che C2 nella pratica come il problema centrale per la ricerca futura. Si nota esplicitamente che, sebbene il tensore sia la corretta rappresentazione interna, sono necessarie strategie di visualizzazione per rendere questa struttura ad alta dimensionalità interpretabile dall'uomo.

Il documento conclude esortando la comunità XAI ad adottare questo framework incentrato sulla struttura e a andare oltre gli score di attribuzione piatti per i domini temporali.