Autorelevance function and other feature relevance measures for univariate time series

Sintesi Tecnica: Funzione di Autorelevanza e Altre Misure di Rilevanza delle Caratteristiche per Serie Temporali Univariate

Definizione del Problema
L' crescente adozione di modelli di machine learning per la previsione di serie temporali ha creato una necessità critica di interpretabilità, in particolare riguardo a come le osservazioni ritardate (lag) influenzino le previsioni. Sebbene gli strumenti statistici classici come la Funzione di Autocorrelazione (ACF) e la Funzione di Autocorrelazione Parziale (PACF) descrivano efficacemente le strutture temporali lineari, essi sono inadatti a spiegare il comportamento dei moderni modelli di previsione "black-box" (ad es., reti neurali). I metodi esistenti di importanza delle caratteristiche spesso faticano nei contesti di serie temporali a causa dell'alta correlazione tra i predittori (lag) e della mancanza di strategie model-agnostic per gestire le caratteristiche "assenti" nelle spiegazioni basate su coalizioni. Le tecniche di imputazione standard (ad es., riempimento con zeri o medie incondizionate) spesso non riescono a preservare la dinamica temporale essenziale per la previsione, portando a stime di rilevanza potenzialmente fuorvianti.

Metodologia
Gli autori propongono un framework model-agnostic per quantificare la rilevanza globale degli input ritardati nelle previsioni di serie temporali univariate. La metodologia integra due approcci primari: le Variabili Fantasma (Ghost Variables) e i Valori di Shapley, adattati specificamente per compiti di previsione in cui gli input sono esclusivamente valori ritardati della serie stessa.

1. Approccio delle Variabili Fantasma (Funzione di Autorelevanza - ARF):

   • Adattato dalla metodologia delle Variabili Fantasma, questo approccio valuta la rilevanza di un particolare lag $h$ sostituendo il valore ritardato effettivo $y_{t-h}$ con un valore imputato "fantasma" $\hat{y}^*_{t-h}$.
   • Il valore fantasma è generato da un modello di imputazione ausiliario (specificamente, una regressione lineare multipla) che predice $y_{t-h}$ utilizzando i restanti $p-1$ lag.
   • La rilevanza è quantificata confrontando l'errore di previsione del modello originale rispetto al modello che utilizza il valore fantasma. Gli autori definiscono due metriche:
     • ARF$_{MSPD}$: Basata sulla Differenza Media Quadrata della Previsione (Mean Squared Prediction Difference).
     • ARF$_{MSE}$: Basata sulla variazione dei contributi dell'Errore Quadratico Medio (MSE).

2. Approccio del Valore di Shapley (Funzione di Autorelevanza Parziale - PARF):

   • Questo approccio tratta i lag come giocatori in un gioco cooperativo, calcolando il contributo marginale medio di ogni lag attraverso tutte le possibili coalizioni (sottoinsiemi di lag).
   • Strategia di Imputazione: Un'innovazione chiave è il trattamento delle caratteristiche assenti in una coalizione. Inveve di un'imputazione generica, gli autori propongono di sostituire i lag assenti con una previsione a un passo in avanti (one-step-ahead forecast) generata dallo stesso modello di previsione oggetto di analisi. Ciò preserva la coerenza temporale della serie.
   • Funzione di Valore: La funzione di valore è definita in base al miglioramento dell'MSE rispetto a un baseline (media campionaria).
   • Metriche:
     • PARF$_{MSE}$: Valori di Shapley standardizzati basati sui contributi MSE.
     • PARF$_{MSPD}$: Valori di Shapley standardizzati basati sulle differenze quadrate della previsione.
   • Efficienza Computazionale: A differenza dei metodi SHAP locali che richiedono l'analisi delle permutazioni per ogni osservazione, questo framework calcola la rilevanza globalmente mediando sul campione di test, riducendo significativamente il carico computazionale.

Contributi Chiave

• Nuova Imputazione per Serie Temporali: Il documento introduce uno schema di imputazione a un passo in avanti guidato dal modello per gestire le caratteristiche assenti nei metodi basati su coalizioni. Questa strategia allinea l'analisi di rilevanza con la dinamica del modello di previsione stesso, offrendo una definizione più naturale delle coalizioni in contesti sequenziali rispetto alle imputazioni statiche.
• Rilevanza dei Lag Model-Agnostic: Le misure ARF e PARF proposte sono applicabili sia a modelli statistici classici (ad es., ARMA) che a modelli complessi black-box (ad es., Reti Neurali Ricorrenti), fornendo un framework unificato per l'interpretabilità.
• Integrazione di Misure di Importanza Additive: Il lavoro connette le necessità pratiche della spiegabilità delle serie temporali con le fondamenta teoriche delle misure di importanza additiva (AIM), utilizzando specificamente l'MSE come funzione di perdita, che è lo standard nella previsione.

Risultati
Gli autori hanno valutato le loro proposte utilizzando dati simulati (modelli ARMA lineari, modelli a cambio di regime non lineari) e un dataset del mondo reale (Passaggeri Aerei Mensili).

• Simulazioni Lineari (AR(3) e ARMA(3,3)): In contesti lineari, sia ARF che PARF hanno identificato con successo i veri lag non nulli (lag 1 e 3), assegnando una rilevanza trascurabile ai lag irrilevanti (lag 2), anche quando il modello adattato era una rete neurale.
• Simulazioni Non Lineari: In un modello a cambio di regime non lineare, le misure di rilevanza (in particolare PARF con contributi MSE) hanno identificato correttamente i lag dominanti (1, 12 e 13) che guidavano il processo generatore dei dati, dimostrando robustezza alla non linearità.
• Dati Reali (Passaggeri Aerei): Applicati al classico dataset dei passeggeri aerei, i metodi hanno evidenziato costantemente i lag 1, 12 e 13 come i più rilevanti, allineandosi con la nota struttura stagionale. Sebbene il modello di rete neurale mostrasse pattern leggermente diversi rispetto al modello SARIMA, le misure di rilevanza hanno comunque catturato la struttura fondamentale dei lag.
• Confronto di Imputazione: L'imputazione a un passo in avanti basata sul modello ha generalmente superato l'imputazione lineare in scenari non lineari e complessi, fornendo un'identificazione più chiara delle strutture di lag dominanti.

Significatività e Rivendicazioni
Il documento sostiene che il framework proposto offre una soluzione pratica ed efficace per interpretare i modelli di previsione di serie temporali. Gli autori sottolineano che:

• I metodi riescono a recuperare le strutture di lag attese in quasi tutti i casi testati, inclusi i modelli black-box delle reti neurali.
• La strategia di imputazione a un passo in avanti fornisce un modo naturale per definire le coalizioni in contesti sequenziali, evitando la natura euristica delle imputazioni generiche.
• L'approccio è computazionalmente più efficiente rispetto ai metodi SHAP locali standard pur mantenendo l'interpretabilità.
• Il framework è particolarmente adatto alle serie temporali perché rispetta l'ordine temporale e le dinamiche dei dati.

Gli autori rimangono modesti riguardo ai limiti, notando che la strategia dipende dal fatto che il modello di previsione abbia una prestazione predittiva sufficientemente buona; modelli scarsi possono introdurre rumore attraverso il processo di imputazione, portando a stime di rilevanza fuorvianti. Il lavoro futuro suggerisce di esplorare formulazioni di rilevanza alternative, l'inclusione di predittori esogeni e l'estensione alle serie temporali multivariate.