Exposure Bias as Epistemic Underidentification in Recursive Forecasting

Sintesi Tecnica: Il Bias di Esposizione come Sottoidentificazione Epistemica nella Previsione Ricorsiva

Definizione del Problema
La previsione ricorsiva multi-step è tradizionalmente inquadrata come un problema di shift della distribuzione (covariate shift), dove i modelli addestrati su serie storiche osservate (tramite teacher forcing) vengono distribuiti su predizioni auto-generate, portando a errori cumulativi noti come bias di esposizione. Questo articolo sostiene che tale inquadramento sia incompleto. Gli autori postulano che, in condizioni di osservabilità parziale, rumore o troncamento dello stato, la previsione ricorsiva non sia semplicemente un disallineamento tra le distribuzioni di addestramento e di test, ma sia fondamentalmente un problema di sottoidentificazione epistemica.

Nello specifico, l'articolo sostiene che un predittore Bayes-ottimale a un passo, addestrato su contesti osservati, può fallire nell'identificare univocamente il comportamento corretto per il processo di rollout ricorsivo. Quando un modello genera i propri stati futuri (stati indotti), il valore numerico di tali stati da solo può essere insufficiente a determinare il corretto target locale. Il "prossimo passo corretto" può dipendere dalla provenienza dello stato (ad esempio, se sia stato osservato o auto-generato), informazione che viene persa quando lo stato viene troncato in una rappresentazione numerica. Di conseguenza, il predittore ricorsivo distribuito opera in un regime in cui il target locale è sottoidentificato dalla sola rappresentazione dello stato.

Metodologia e Framework Teorico
Gli autori formalizzano questo problema utilizzando un framework di stati indotti ($Z_h$) e variabili di provenienza ($P_h$).

• Stati Indotti ($Z_h$): Lo stato numerico a una specifica profondità di rollout ($h$), derivato dalle predizioni del predittore stesso.
• Provenienza ($P_h$): Informazioni che descrivono come lo stato è stato formato (ad esempio, osservato vs. generato dal modello).

L'articolo stabilisce tre componenti teoriche:

1. Teorema della Sottoidentificazione: Gli autori dimostrano che, anche se due predittori ricorsivi sono identici sul supporto osservato (raggiungendo lo stesso rischio Bayesiano a un passo), possono indurre previsioni multi-step differenti una volta che interrogano stati auto-generati al di fuori di tale supporto. L'obiettivo a un passo non vincola il comportamento su questi stati indotti.
2. Decomposizione dell'Errore: L'errore nella previsione ricorsiva è scomposto in tre termini non negativi:
   • Mismatch Teacher-forcing/Rollout: L'incapacità di un predittore addestrato su dati osservati di generalizzare al compito degli stati indotti.
   • Gap Rappresentazione-Classe: L'errore di approssimazione della classe di funzioni scelta sulla rappresentazione indotta.
   • Gap di Provenienza: La perdita di informazione recuperabile derivante dall'omissione dei dati di provenienza dall'input dello stato.
3. Utilità della Provenienza: Teoricamente, condizionare sulla provenienza può ridurre strettamente il rischio Bayesiano sugli stati indotti se il target atteso differisce in base a come lo stato è stato generato (ovvero $E[Y|Z, P] \neq E[Y|Z]$).

Valutazione Empirica
Gli autori testano queste affermazioni teoriche su tre dataset di previsione numerica (ETTh1, MG, Weather) utilizzando MLP (Multi-Layer Perceptrons) e GRU. Gli esperimenti sono progettati per validare quattro specifiche predizioni:

1. Regime Distinto: Il rollout entra in un regime di stato distinto dai dati osservati?
   • Risultato: I probe lineari addestrati per distinguere i contesti osservati dagli stati indotti tramite teacher-forcing mostrano un'accuratezza crescente con la profondità del rollout, confermando che la distribuzione ricorsiva sposta il modello in un regime di stato distinto.
2. Task Locale Distinto: Il compito di predire su stati indotti fissi è diverso dal task originale a un passo?
   • Risultato: Quando gli stati indotti sono congelati e ri-addestrati, le prestazioni variano significativamente tra i dataset. Su alcuni dataset (MG, Weather), il ri-apprendimento su stati induti fissi migliora le prestazioni; su altri (ETTh1), le degrada. Ciò suggerisce che il task degli stati indotti non è semplicemente una versione spostata del task originale, ma un problema strutturalmente diverso.
3. Utilità della Provenienza: L'aggiunta di informazioni sulla provenienza aiuta?
   • Risultato: Un tag di provenienza binario (osservato vs. generato) fornisce guadagni condizionali. Nel setting "stato congelato", i guadagni sono limitati, suggerendo che la semplice codifica binaria cattura solo una frazione del potenziale teorico. Tuttavia, nei setting a ciclo chiuso, i metodi consapevoli della provenienza mostrano risultati promettenti su specifici dataset.
4. Dinamiche a Ciclo Chiuso: La correzione aiuta cambiando gli stati visitati, non solo migliorando la predizione locale?
   • Risultato: La correzione in ciclo chiuso (usando lo Scheduled Sampling con Provenienza) migliora le prestazioni complessive del rollout. Fondamentalmente, gli autori mostrano che i modelli addestrati con correzione generano stati indotti che sono "più facili" da gestire per altri predittori, indicando che la correzione migliora il regime degli stati indotti stesso, non solo il predittore locale.

Contributi Chiave

• Riformulazione del Bias di Esposizione: L'articolo riconsidera il bias di esposizione non come un semplice mismatch tra distribuzione di training e test, ma come un problema di sottoidentificazione epistemica derivante da una rappresentazione dello stato insufficiente in sistemi a osservabilità parziale.
• Decomposizione Formale: Fornisce una rigorosa decomposizione dell'errore di previsione ricorsiva in gap di mismatch, approssimazione e informazione di provenienza.
• Evidenza Empirica di Regimi Distinti: Dimostra che il rollout ricorsivo entra in un regime di stato indotto distinto e che il task correttivo locale su tali stati è eterogeneo e dipendente dal dataset.
• Meccanismo di Correzione: Mostra che i benefici della correzione ricorsiva derivano non solo da un migliore fitting locale, ma dall'alterazione della traiettoria degli stati indotti visitati durante la distribuzione.

Significatività e Rivendicazioni
L'articolo afferma che comprendere il bias di esposizione richiede di riconoscere che la distribuzione ricorsiva crea un problema di previsione in cui il target locale non è determinato dal solo stato numerico. La significatività risiede nello spostare la narrazione dal vedere il bias di esposizione esclusivamente come un covariate shift al trattarlo come ragionamento sotto incertezza epistemica auto-indotta.

Gli autori notano con modestia che la loro specifica codifica di provenienza binaria è un segnale minimo e che i guadagni sono condizionali piuttosto che uniformi. Non propongono una soluzione universale, ma sostengono che il design dei futuri metodi debba concentrarsi sullo sfruttamento delle informazioni su come gli stati vengono formati (ad esempio, profondità del rollout, stime di incertezza o tracce strutturate) per risolvere l'aliasing tra stati osservati e indotti. Il lavoro funge da banco di prova per l'incertezza epistemica nell'apprendimento sequenziale, suggerendo che migliorare la previsione ricorsiva richieda di affrontare la sottoidentificazione della mappa ricorsiva distribuita.