Riepilogo Tecnico: Leave a Window Out (LWO) per l'Inferenza Predittiva nelle Serie Temporali

Enunciato del Problema

I metodi di previsione conformale forniscono un'inferenza predittiva rigorosa (intervalli di previsione validi) sotto l'assunzione di scambiabilità dei dati e di predittori senza memoria. Tuttavia, queste assunzioni sono frequentemente violate nei contesti di serie temporali a causa della dipendenza temporale e della necessità di utilizzare predittori basati sulla memoria (che sfruttano le osservazioni passate per prevedere i valori futuri).

Sebbene lavori recenti abbiano dimostrato che la previsione conformale split è robusta a queste violazioni, essa soffre di una "tassa di split": la partizione dei dati in set di addestramento e calibrazione riduce la dimensione effettiva del campione, portando a intervalli di previsione più ampi e a una minore efficienza statistica, in particolare in regimi con scarsità di dati.

Al contrario, i metodi leave-one-out (jackknife) utilizzano l'intero dataset, offrendo una maggiore efficienza statistica. Tuttavia, la validità teorica del jackknife classico si basa sulla scambiabilità. Questo articolo indaga se il jackknife classico rimanga affidabile sotto dipendenza temporale. Attraverso esperimenti numerici su processi a media mobile (MA), gli autori dimostrano che il jackknife classico può subire una perdita arbitraria di copertura (sottocopertura grave) anche in semplici modelli di serie temporali con dipendenze lievi. Ciò accade perché la calibrazione leave-one-out crea un'asimmetria: i punti di prova proxy nel set di addestramento possiedono informazioni "bidirezionali" (passato e futuro), mentre il punto di prova effettivo alla fine della sequenza possiede solo informazioni "unidirezionali" (passato), portando a intervalli non calibrati.

Metodologia: Leave-a-Window-Out (LWO)

Per rimediare al fallimento del jackknife classico mantenendone l'efficienza dei dati, gli autori propongono il metodo Leave-a-Window-Out (LWO).

Meccanismo Principale

Il metodo LWO modifica la procedura standard di calibrazione jackknife per tenere conto della dipendenza temporale:

1. Addestramento con un Gap: Per ogni indice $k$ nel set di addestramento, il predittore $\hat{f}_k$ viene addestrato non solo rimuovendo il punto $k$-esimo, ma rimuovendo una finestra di punti dati dall'indice $k$ a $\min\{k+\tau, n\}$, dove $\tau$ è un iperparametro che rappresenta la dimensione della finestra.
2. Calcolo del Punteggio: Il punteggio di conformità $s_k$ viene calcolato sul punto $k$-esimo utilizzando il predittore addestrato sui dati rimanenti (che includono una componente "pre-finestra" e una "post-finestra").
3. Insieme di Previsione: L'insieme di previsione finale per il punto di prova $X_{n+1}$ viene costruito centrando sul predittore addestrato su tutti i $n$ punti e dilatandolo mediante il quantile $(1-\alpha)$ dei punteggi leave-out con finestra.

Quadro Teorico

La validità di LWO è stabilita attraverso un nuovo quadro teorico basato sulla scambiabilità ciclica:

• Incorporamento Ciclico: Gli autori introducono il concetto di incorporare una serie temporale dipendente in una sequenza più lunga, ciclicamente scambiabile. Definiscono il coefficiente di incorporamento ciclico ($\rho_\tau$) per quantificare la distanza tra la serie temporale effettiva e la sequenza ciclicamente scambiabile più vicina.
• Assunzioni di Stabilità: Le dimostrazioni si basano su una condizione di stabilità fuori campione (OOS). Nello specifico, la coppia della funzione di punteggio di conformità e dell'algoritmo di addestramento deve essere stabile quando un blocco casuale di dati di addestramento viene mascherato (rimosso). Ciò è più debole della stabilità uniforme ma sufficiente per i limiti proposti.
• Condizioni di Mixing: Gli autori correlano il coefficiente di incorporamento ciclico a misure standard di dipendenza, come i coefficienti di mixing $\beta$ e i coefficienti di mixing condizionato $\beta$. Dimostrano che per processi di mixing (inclusi quelli approssimativamente markoviani), il coefficiente di incorporamento ciclico è piccolo se la dimensione della finestra $\tau$ supera l'intervallo di dipendenza effettivo.

Contributi Chiave

1. Identificazione del Fallimento del Jackknife: Il documento dimostra rigorosamente che il jackknife classico non fornisce una copertura valida nei contesti di serie temporali a causa dell'asimmetria tra i punti proxy di addestramento e il punto di prova, anche sotto dipendenze lievi.
2. Proposta di LWO: Viene introdotto un nuovo metodo, LWO, che modifica il principio leave-one-out rimuovendo una finestra di dati futuri rispetto al punto di prova proxy. Ciò ripristina la struttura informativa dei punteggi di calibrazione per farla corrispondere a quella del punto di prova.
3. Garanzie Teoriche:
   • Teorema 1 e 2: Vengono derivati limiti di copertura a campione finito per LWO. Questi limiti dipendono dal coefficiente di incorporamento ciclico e dai parametri di stabilità OOS.
   • Corollari: I limiti sono specializzati per processi di mixing (Corollario 1 per processi approssimativamente markoviani; Corollario 2 per processi di mixing generali), mostrando che una copertura valida è ottenibile se la dimensione della finestra $\tau$ è scelta appropriatamente rispetto al tempo di mixing.
4. Nuovi Coefficienti: Il documento introduce il coefficiente di incorporamento ciclico e utilizza i coefficienti di switch (adattati da Barber e Pananjady, 2026) per misurare le deviazioni dalla scambiabilità in un contesto ciclico.

Risultati Sperimentali

Gli autori valutano LWO confrontandolo con la Previsione Conformale Split (Split CP) e il Jackknife classico (JK) su dataset sintetici e reali:

• Dati Sintetici (Processo MA(1)): Nei processi a media mobile multidimensionali, il jackknife classico presenta una sottocopertura grave (spesso scendendo sotto il 70% di copertura per un target del 90%), specialmente in dimensioni più elevate. La Split CP mantiene la copertura nominale ma produce intervalli di previsione significativamente più ampi. LWO raggiunge una copertura vicina al livello nominale (paragonabile alla Split CP) producendo regioni di previsione sostanzialmente più strette (più efficienti).
• Dati Reali (Traffico ed Energia Solare): Su benchmark di serie temporali reali, LWO mantiene costantemente una copertura vicina al nominale su vari predittori di base (Ridge, KNN, MLP, Decision Trees, Kernel Regression). Al contrario, il jackknife classico fallisce nel coprire per specifiche combinazioni predittore-dati (ad esempio, KNN su dati di energia solare). LWO evita la perdita di efficienza della Split CP mentre si protegge dalla sottocopertura del jackknife classico.

Significato e Affermazioni

Il documento afferma che LWO offre una soluzione fondata al compromesso tra validità ed efficienza nell'inferenza predittiva per le serie temporali.

• Validità: A differenza del jackknife classico, LWO fornisce garanzie di copertura approssimata dimostrabili sotto assunzioni naturali di dipendenza (mixing) e condizioni di stabilità.
• Efficienza: A differenza della previsione conformale split, LWO utilizza l'intero dataset per l'addestramento, risultando in intervalli di previsione più stretti.
• Avanzamento Concettuale: Il lavoro introduce una nuova prospettiva sull'analisi di dati dipendenti incorporandoli in sequenze ciclicamente scambiabili, fornendo uno strumento distribuzionale (il coefficiente di incorporamento ciclico) che collega la dipendenza delle serie temporali alla validità conformale.

Gli autori rimangono modesti riguardo alle questioni aperte, notando che le loro garanzie si basano su assunzioni di stabilità OOS (soddisfatte da molti algoritmi standard come la regressione ridge e KNN, ma non da tutti). Riconoscono inoltre che, sebbene la teoria suggerisca che $\tau$ debba superare l'intervallo di dipendenza, un metodo completamente guidato dai dati per selezionare $\tau$ con garanzie di copertura valide rimane un problema aperto.