Bias-Corrected Adaptive Conformal Inference for Multi-Horizon Time Series Forecasting

1. Il Problema: Limiti dell'ACI Standard in Caso di Bias Persistente

L'Adaptive Conformal Inference (ACI) è un metodo consolidato per generare intervalli di previsione privi di distribuzione (distribution-free) con garanzie di copertura asintotica per serie temporali soggette a distribution shift (cambiamenti nella distribuzione dei dati). Tuttavia, l'ACI presenta una limitazione strutturale fondamentale:

• Adattamento solo della soglia: L'ACI adatta dinamicamente la soglia del quantile ($\alpha_t$) per mantenere la copertura desiderata, ma costruisce sempre intervalli simmetrici centrati sulla previsione puntuale ($\hat{y}_t$).
• Il problema del Bias: Quando un modello di previsione (ad esempio una regressione ridge non riaddestrata) subisce uno shift di livello (es. un cambiamento strutturale nei dati), sviluppa un bias di previsione persistente ($b \neq 0$).
• Conseguenza: Per coprire i residui spostati, l'ACI è costretta ad allargare simmetricamente l'intervallo. Questo comporta un sovraccosto di larghezza proporzionale a $2|b|$. Invece di correggere il centro dell'intervallo, l'ACI "spende" larghezza inutile per compensare lo spostamento, risultando in intervalli eccessivamente ampi e inefficienti.

2. Metodologia: BC-ACI (Bias-Corrected ACI)

Gli autori propongono BC-ACI, un'estensione leggera che introduce una correzione del bias online prima del calcolo dei punteggi di non conformità. La metodologia si articola in tre componenti principali:

A. Stima del Bias Online (Per Orizzonte)

Per ogni orizzonte di previsione $h$, il sistema mantiene una stima del bias $\hat{b}^{(h)}_t$ aggiornata tramite una Media Mobile Esponenzialmente Ponderata (EWM) dei residui con segno:
$$\hat{b}^{(h)}_{t+1} = (1 - \lambda)\hat{b}^{(h)}_t + \lambda e^{(h)}_t$$
Dove $e^{(h)}_t$ è il residuo signed ($y_{t+h} - \hat{y}_{t+h}$). Questo permette di tracciare rapidamente bias persistenti dopo uno shift.

B. Correzione dei Punteggi di Non Conformità

Prima di calcolare il quantile per l'intervallo:

1. Correzione dei residui: I residui nel buffer di calibrazione vengono centrati sottraendo la stima del bias: $\tilde{e}_i = e_i - \hat{b}_t$.
2. Spostamento del centro: L'intervallo viene centrato sulla previsione corretta: $\tilde{y}_t = \hat{y}_t + \hat{b}_t$.
3. Calcolo dell'intervallo: Si calcola il quantile sui valori assoluti dei residui corretti $|\tilde{e}_i|$, ottenendo un intervallo $[\tilde{y}_t - \tilde{q}, \tilde{y}_t + \tilde{q}]$.

C. Soglia "Dead-Zone" Adattiva

Per evitare che il rumore di stima su dati stabili (senza bias) degradi la qualità degli intervalli, viene introdotta una soglia di attivazione basata sulla Deviazione Assoluta Mediana (MAD):
$$\text{Applica correzione} \iff |\hat{b}_t| > k \cdot \text{MAD}(B)$$

• Se la stima del bias è inferiore alla soglia (rumore), il sistema si comporta come l'ACI standard.
• La soglia si adatta automaticamente: orizzonti più lunghi (con residui più grandi) e regimi ad alta volatilità hanno soglie più alte, filtrando il rumore.

3. Contributi Chiave

1. Identificazione del limite strutturale: Dimostrazione teorica che i metodi adattivi basati solo sulla soglia soffrono di un overhead di larghezza $\Theta(|b|)$ in presenza di bias.
2. Algoritmo BC-ACI: Introduzione di una correzione del bias online per orizzonte, applicata ai punteggi di non conformità, protetta da una soglia adattiva.
3. Garanzie Teoriche:
   • Teorema 3: BC-ACI preserva la garanzia di copertura asintotica dell'ACI originale.
   • Teorema 4: Quantificazione della riduzione della larghezza dell'intervallo in presenza di bias persistente.
   • Teorema 5: Dimostrazione che su dati privi di bias, BC-ACI si degrada elegantemente all'ACI standard con un overhead trascurabile (< 0.2%).
4. Caratterizzazione dell'utilità: Definizione chiara di quando il metodo è utile (modelli con bias persistente, es. regressione non riaddestrata) e quando è neutrale (modelli auto-correttivi come ARIMA).

4. Risultati Sperimentali

Gli esperimenti sono stati condotti su 688 esecuzioni, includendo 4 scenari sintetici (con shift di media, varianza e composti) e 3 dataset reali (Electricity, Jena Weather, ETTh1), utilizzando modelli base come Regressione Ridge e ARIMA.

• Performance su Dati Sintetici (Shift Composti):
  • BC-ACI riduce il Winkler Score (metrica che penalizza larghezza e mancata copertura) fino al 32% rispetto all'ACI standard.
  • Su uno shift di media, la larghezza media dell'intervallo scende da 8.67 (ACI) a 5.50 (BC-ACI), avvicinandosi all'ottimo teorico (3.43).
  • La copertura empirica rimane stabile al target (es. 90%).
• Performance su Dati Stabili:
  • Su dati senza shift (controllo stabile), il rapporto di Winkler è 1.002, indicando che il metodo non introduce degradazione significativa.
  • La soglia "dead-zone" riduce il tasso di falsi positivi (correzioni non necessarie) a circa il 3.5%.
• Analisi per Modello:
  • Ridge Regression (Bias persistente): Beneficia enormemente della correzione.
  • ARIMA (Auto-correttivo): Poiché il modello elimina il bias internamente, BC-ACI rimane neutrale e non peggiora le prestazioni.
• Dati Reali:
  • Su dataset reali senza shift di livello evidenti nel periodo di test, si osserva un leggero aumento del Winkler (5-15%), non statisticamente significativo, dovuto al rumore di stima dell'EWM su dati stazionari. Gli autori sottolineano che BC-ACI è progettato per scenari con shift, non come sostituto universale.

5. Significato e Implicazioni

Il lavoro di BC-ACI è significativo perché:

• Risolve un problema pratico reale: In molti scenari di MLOps, i modelli vengono addestrati una volta e distribuiti per lunghi periodi senza riaddestramento. In questi casi, gli shift di livello sono comuni e l'ACI standard produce intervalli inefficienti.
• Bilanciamento tra Robustezza ed Efficienza: Introduce un meccanismo di "soglia intelligente" che permette di ottenere i benefici della correzione del bias solo quando necessario, evitando di danneggiare le prestazioni su dati stabili.
• Generalizzabilità: La metodologia è applicabile a qualsiasi modello di previsione che genera residui con bias persistente, offrendo una soluzione leggera e computazionalmente efficiente (overhead $O(n)$ per passo temporale).

In sintesi, BC-ACI rappresenta un passo avanti verso l'inferenza conformale adattiva più robusta per le serie temporali, trasformando un limite strutturale (l'incapacità di correggere la posizione) in un vantaggio competitivo attraverso una stima online del bias protetta da filtri adattivi.