Sintesi Tecnica: ConTex – Riformulare la Generazione di Controfattuali per la Previsione di Serie Temporali

1. Definizione del Problema

I modelli di previsione delle serie temporali sono sempre più critici in domini ad alto rischio come i sistemi energetici, l'assistenza sanitaria e la finanza. Tuttavia, sebbene questi modelli forniscano previsioni accurate, spesso mancano di insight azionabili su come alterare le condizioni attuali per raggiungere un determinato esito futuro. I metodi di spiegazione esistenti sono prevalentemente retrospettivi, identificando i fattori che hanno portato a un esito osservato (ad esempio, tramite l'attribuzione delle caratteristiche o i meccanismi di attenzione). Al contrario, il processo decisionale richiede una prospettiva orientata al futuro: determinare le modifiche minime all'input presente per spostare una traiettoria prevista verso uno scenario target specifico.

Questo compito è inquadrato come generazione di controfattuali: trovare un input $x'$ minimamente modificato tale che la previsione del modello $f_\theta(x')$ soddisfi un vincolo target $Y_{target}$, preservando il più possibile l'input originale $x$.

Limitazioni degli approcci esistenti:
I metodi attuali per la generazione di controfattuali nelle serie temporali si affidano all'ottimizzazione per istanza. Per ogni nuovo campione di input, viene risolto un problema di ottimizzazione separato per trovare la perturbazione minima. Questo approccio soffre di:

• Incoerenza: Le modifiche variano in modo imprevedibile tra istanze simili.
• Elevato costo computazionale: Risolvere un problema di ottimizzazione per ogni campione è troppo lento per applicazioni in tempo reale o interattive.
• Dipendenza dal Target: Molti metodi utilizzano traiettorie target che dipendono dall'input (ad esempio, limiti dipendenti dall'input), il che oscura la reale difficoltà di raggiungere uno scenario futuro predefinito.

2. Metodologia: Architettura ConTex

Gli autori propongono ConTex (Counterfactual Time Series Explanations), un'architettura model-agnostic che sposta il paradigma dall'ottimizzazione per istanza all'apprendimento di interventi ammortizzato. Invezione di risolvere un problema di ottimizzazione per ogni campione, ConTex apprende una funzione di intervento globale che mappa gli stati di input e le condizioni target in interventi efficaci in un singolo passaggio in avanti (forward pass).

Architettura Core

ConTex è un'architettura neurale decomposta composta da:

1. Encoder di Contesto Temporale: Estrae caratteristiche temporali ($h_x$) dalla sequenza di input. Gli autori valutano sia BiLSTM che le Reti Convoluzionali Temporali (TCN), trovando le TCN superiori per produrre modifiche sparse e interpretabili grazie ai loro campi recettivi fissi.
2. Encoder Condizionale: Codifica la condizione target ($c$), che include i limiti della traiettoria desiderata, la previsione attuale e la pendenza, in un embedding latente.
3. Modulazione Lineare per Caratteristiche (FiLM): Le caratteristiche temporali sono modulate dall'embedding della condizione ($\tilde{h}_x = h_x \odot (1 + \gamma) + \beta$), permettendo al modello di adattare il proprio comportamento a diverse traiettorie target.
4. Teste di Predizione Decomposte: La rappresentazione modulata viene passata attraverso due teste per predire l'intervento $z$:
   • Maschera di Rilevanza Temporale ($m$): Una maschera di probabilità ($m \in [0, 1]^{T_{in}}$) che indica dove (quali timestep) è richiesta una modifica.
   • Forza della Modifica ($s$): Un vettore con segno ($s \in \mathbb{R}^{T_{in}}$) che indica quanto fortemente l'input debba essere modificato.
   • Intervento: L'intervento finale è calcolato come $z = m \odot s$, e il controfattuale è $x_{cf} = x + z$.

Obiettivo di Addestramento

Il modello è addestrato per minimizzare una funzione di perdita composita che bilancia l'allineamento della previsione e la minimizzazione dell'intervento:

• Allineamento della Previsione ($L_{center}, L_{valid}$): Penalizza le deviazioni dal punto medio della traiettoria target e la frequenza delle violazioni dei vincoli.
• Regolarizzazione dell'Intervento ($L_{prox}, L_{sparse}$):
  • Prossimità: Utilizza una perdita $L_1$ per penalizzare l'entità delle variazioni, incoraggiando interventi sparsi.
  • Sparsità: Incoraggia interventi compatti promuovendo attivazioni della maschera concentrate e spingendo la maschera verso decisioni binarie.

3. Contributi Chiave

1. Cambio di Paradigma: Il documento sposta la generazione di controfattuali dall'ottimizzazione per istanza all'inferenza ammortizzata tramite una politica di intervento globale, consentendo la generazione in un singolo passaggio.
2. Architettura Decomposta: ConTex parametrizza gli interventi in rilevanza temporale (dove modificare) e forza della modifica (come modificare), producendo controfattuali sparsi, locali e interpretabili.
3. Attribuzione Condizionata al Target: Il metodo introduce un meccanismo di attribuzione orientato al futuro che identifica quali timestep devono essere modificati per raggiungere un risultato desiderato, visualizzato come una mappa di calore della probabilità di intervento.
4. Efficienza e Prestazioni: L'approccio raggiunge lo stato dell'arte in termini di validità e compattezza, riducendo al contempo i costi computazionali di 12–36× rispetto ai metodi basati su istanza, supportando l'inferenza in tempo reale (~0,007 secondi per campione).

4. Risultati Sperimentali

Gli autori hanno valutato ConTex su quattro dataset benchmark (NN5, Electricity, Tourism, M4) e quattro diversi backbone di previsione (PatchTST, N-HiTS, DLinear, TiDE).

• Validità: ConTex ha ottenuto il miglior rapporto di validità in 16 casi su 16 combinazioni dataset-backbone, superando il baseline basato su istanza (ForecastCF) e spesso superando anche il baseline basato su recupero (BaseNN).
• Compattezza: ConTex ha ottenuto la migliore compattezza (meno timestep modificati) in 14 casi su 16.
• Robustezza: Il metodo ha dimostrato prestazioni costanti su dataset con diverse caratteristiche (ad esempio, dati fluidi vs rumorosi), adattando i propri schemi di intervento (localizzati vs distribuiti) in base alle proprietà dei dati.
• Efficienza Computazionale:
  • Tempo di Inferenza: ~0,007 secondi per campione (costante attraverso i diversi livelli di difficoltà).
  • Accelerazione: 3,7–4,2 ordini di grandezza più veloce della generazione basata su istanza (che richiede secondi o minuti per campione).
  • Costo Totale: Una riduzione computazionale complessiva di 12–36× rispetto alla generazione per istanza quando si tiene conto di addestramento e inferenza.

5. Significato e Rivendicazioni

Il documento sostiene che ConTex sostituisca efficacemente la pratica costosa e incoerente dell'ottimizzazione per istanza con una politica di intervento globale e scalabile. Decomponendo strutturalmente l'intervento in "dove" e "come", il metodo fornisce insight interpretabili sulla rilevanza delle caratteristiche condizionate dal target, offrendo una prospettiva orientata al futuro che i normali metodi di attribuzione post-hoc non possiedono.

Gli autori osservano che, sebbene ConTex sia molto performante, si affida a una regolarizzazione implicita (tramite l'encoding temporale e gli obiettivi di intervento minimo) piuttosto che a vincoli di plausibilità espliciti per garantire la coerenza temporale. Inoltre, sebbene l'architettura sia generalizzabile tra i dataset, alcuni iperparametri (specificamente i pesi di sparsità e prossimità) richiedono ancora una limitata regolazione specifica per il dataset. Il lavoro si posiziona come un passo significativo verso la resa della previsione di serie temporali basata sul deep learning azionabile per il processo decisionale in tempo reale.