Sintesi Tecnica: Previsioni di Serie Temporali Intermittenti: Modelli Locali vs. Globali

Definizione del Problema

Il documento affronta la sfida della previsione di serie temporali intermittenti, definite come serie non negative, tipicamente con valori di conteggio, che contengono zeri. Tali serie sono prevalenti nella gestione della supply chain, dove previsioni probabilistiche accurate sono essenziali per stabilire i livelli di scorta di sicurezza (safety stock). Queste previsioni devono soddisfare specifiche proprietà distributive: supporto su valori non negativi, una massa di probabilità sullo zero e una coda superiore lunga per catturare i picchi di domanda.

Sebbene esistano modelli probabilistici per le serie intermittenti, essi sono prevalentemente modelli locali, addestrati individualmente su ogni singola serie temporale. Al contrario, i modelli globali, che vengono addestrati su grandi collezioni di serie temporali per apprendere una singola funzione di previsione, hanno guadagnato popolarità per le serie temporali fluide utilizzando il deep learning e gli alberi potenziati dal gradiente (gradient-boosted trees). Tuttavia, manca un'evidenza empirica che confronti i modelli probabilistici locali e globali allo stato dell'arte specificamente per i dati intermittenti, in particolare per quanto riguarda l'efficienza computazionale e l'idoneità di diverse teste di distribuzione.

Metodologia

Modelli Valutati

Lo studio confronta un set completo di modelli locali e globali attraverso cinque dataset del mondo reale (M5, UCI, Auto, Carparts, RAF) composti da oltre 40.000 serie temporali.

Modelli Locali:

• In-sample Quantiles (ISQ): Un baseline che utilizza le distribuzioni empiriche dei dati di addestramento.
• iETS: Un'estensione intermittente del modello ETS che utilizza la decomposizione di Croston, producendo una distribuzione bimodale (massa sullo zero + Gamma per i valori positivi).
• GAS-NB: Un modello Generalised Autoregressive Score che utilizza una distribuzione Binomiale Negativa variabile nel tempo.
• TweedieGP: Un modello Bayesiano di Processo Gaussiano che utilizza una verosimiglianza (likelihood) di tipo Tweedie.
• Markov Walk (MW): Un modello che combina un processo ARMA con una catena di Markov per l'occorrenza, assumendo una distribuzione di previsione Gaussiana.

Modelli Globali:
Lo studio valuta varie architetture di reti neurali e alberi potenziati dal gradiente (GBT), tutti adattati per produrre parametri distribuzionali:

• Architetture Leggere (Shallow): Reti Neurali Feed-forward (FNN), DLinear e TiDE (Time-series Dense Encoder).
• Architetture Grandi/Profonde (Deep): DeepAR (basato su LSTM), PatchTST e Autoformer (basati su Transformer).
• Basate su Alberi (Tree-based): LightGBM adattato per la previsione distribuzionale.

Teste di Distribuzione (Distribution Heads)

Un componente critico della metodologia è l'adattamento dei modelli globali ai dati intermittenti tramite specifiche teste di distribuzione. Gli autori valutano tre teste:

1. Negative Binomial (NegBin): Ampiamente utilizzata per la domanda intermittente; unimodale con sovradispersione.
2. Hurdle-Shifted Negative Binomial (HSNB): Una distribuzione bimodale che separa la probabilità di zero dalla distribuzione della domanda positiva.
3. Tweedie: Una distribuzione continua con una massa sullo zero e una coda lunga, adatta per dati intermittenti a valori reali.
   Nota: Gli autori affermano che questa è la prima applicazione di HSNB e Tweedie come teste di distribuzione per modelli neurali globali.

Configurazione Sperimentale

• Dataset: Cinque dataset con diverse frequenze (giornaliere/mensili), lunghezze e livelli di intermittenza (misurati tramite l'Intervallo Medio di Domanda e il Coefficiente di Variazione al Quadrato).
• Valutazione: L'accuratezza probabilistica è misurata tramite la Quantile Loss (scalata tramite i quantili in-sample) per i quantili $q \in \{0.5, 0.8, 0.9, 0.95, 0.99\}$ e RMSSE (Root Mean Squared Scaled Error) per le previsioni puntuali.
• Costo Computazionale: I tempi di addestramento e di previsione sono registrati su una singola CPU (Macbook Pro M3).
• Robustezza: I modelli sono eseguiti 10 volte con diversi seed casuali per valutare la variabilità.

Risultati Chiave

1. Performance Globali vs. Locali

• Accuratezza: I modelli globali leggeri, in particolare TiDE e DLinear, superano costantemente i modelli locali sui quantili più alti (0.8 a 0.99), che sono critici per la pianificazione delle scorte di sicurezza.
• Previsioni Puntuali: I modelli locali (specificamente iETS e TweedieGP) talvolta superano i modelli globali su RMSSE, in particolare su dataset sparsi come RAF e UCI.
• Stabilità: I modelli globali leggeri (TiDE, DLinear) mostrano un'alta stabilità tra le diverse inizializzazioni casuali. Al contrario, i grandi modelli di deep learning (Autoformer, PatchTST) e i GBT mostrano una maggiore variabilità e instabilità.

2. Efficienza Computazionale

• Tempo di Addestramento: I grandi modelli globali (Autoformer, DeepAR) e i GBT (LightGBM) comportano costi computazionali significativamente più elevati rispetto ai modelli leggeri.
• Tempo di Previsione: I modelli globali leggeri (TiDE, DLinear) sono computazionalmente efficienti, spesso superando i modelli locali nel tempo totale di esecuzione se si considera l'overhead dell'addestramento dei singoli modelli locali.
• Trade-off: Lo studio non trova alcun trade-off tra accuratezza e computazione a favore dei modelli grandi; i modelli grandi sono sia più costosi che generalmente meno accurati o stabili rispetto alle alternative leggere.

3. Confronto tra Architetture

• TiDE emerge come l'architettura globale superiore, offrendo il miglior equilibrio tra accuratezza e velocità. Supera i modelli basati su Transformer (PatchTST, Autoformer) e RNN (DeepAR).
• Transformer (Autoformer, PatchTST) e LightGBM sono considerati "non degni del loro costo", offrendo un'accuratezza inferiore e un overhead computazionale più elevato rispetto alle reti leggere.

4. Analisi delle Teste di Distribuzione

• Tweedie: Fornisce le migliori stime per i quantili più alti (0.95, 0.99), probabilmente grazie alle sue proprietà flessibili della coda. È particolarmente efficace quando accoppiata con TiDE.
• HSNB vs. NegBin: Sui quantili inferiori, non c'è una differenza significativa di performance tra HSNB, Tweedie e Negative Binomial. HSNB mostra miglioramenti su dataset specifici (es. Auto) ma non è universalmente superiore.
• Dati a Valori Reali: La distribuzione Tweedie è l'unica testa adatta per serie intermittenti a valori reali (es. valore delle vendite), poiché HSNB e NegBin sono basate su conteggi.

Significato e Rivendicazioni

Il documento afferma di essere il primo studio che confronta sistematicamente i modelli probabilistici locali e globali allo stato dell'arte specificamente per le serie temporali intermittenti. I suoi principali contributi includono:

1. Validazione Empirica dei Modelli Globali: Dimostra che i modelli globali, se implementati con architetture leggere, possono superare i modelli locali tradizionali sui dati intermittenti, sfidando l'assunto che l'addestramento locale sia necessario per le serie sparse.
2. Guida alle Architetture: Identifica TiDE come l'architettura preferita, mostrando che le reti semplici e leggere superano i complessi Transformer e RNN sia in termini di accuratezza che di efficienza per questo dominio.
3. Innovazione delle Teste di Distribuzione: Introduce e valida l'uso delle teste di distribuzione HSNB e Tweedie all'interno di framework di reti neurali globali, dimostrando che la Tweedie è particolarmente efficace per la previsione dei quantili elevati.
4. Guida Pratica: Gli autori forniscono una guida per i professionisti, raccomandando modelli globali leggeri (TiDE con testa Tweedie) per esigenze di previsione ad alto quantile, pur riconoscendo che i semplici quantili in-sample rimangono un'alternativa robusta e a basso costo per scenari specifici (es. RMSSE su dati molto sparsi).

Lo studio conclude che, sebbene le grandi architetture di deep learning e i GBT abbiano avuto successo nelle competizioni di previsione puntuale, non sono competitivi nell'ambito probabilistico per le serie intermittenti, dove i modelli leggeri offrono un'accuratezza e una stabilità superiori con requisiti computazionali minori.