Riepilogo Tecnico: Deep ZakaiJ

Enunciato del Problema

I dati delle serie temporali in ambiti quali la finanza e l'oceanografia presentano frequentemente discontinuità di salto brusche guidate da stati latenti non osservati (ad esempio, shock macroeconomici o regimi di tempesta). Prevedere queste traiettorie è impegnativo perché il tempismo e l'entità dei salti non possono essere inferiti esclusivamente dalla storia osservata.

Gli approcci esistenti presentano limitazioni significative:

• Modelli Classici di Diffusione con Salti: Sebbene fondati su principi matematici (ad esempio, i modelli di Merton), si basano su assunzioni parametriche rigide e faticano a catturare strutture latenti complesse e non lineari.
• Modelli Neurali con Salti: I recenti approcci di deep learning (ad esempio, le SDE con Salti Neurali) operano spesso su traiettorie completamente osservate, fallendo nell'inferire gli stati nascosti che governano la dinamica.
• Modelli a Stato Latente: Metodi come le ODE Latenti o le CDE Neurali trattano gli stati latenti come rappresentazioni implicite apprese tramite inferenza variazionale amortizzata. Manca loro un meccanismo di aggiornamento bayesiano principiato per gestire i tempi di arresto totalmente inaccessibili caratteristici dei processi di salto.
• Estensioni del Filtro di Kalman: Modelli come CRU e NCDSSM integrano il filtro di Kalman in architetture profonde ma sono limitati a dinamiche lineari-gaussiane, che non possono modellare le non linearità intrinseche nei sistemi di diffusione con salti.

È necessario un framework che esegua un filtraggio non lineare su regimi latenti in sistemi di diffusione con salti parzialmente osservati, rimanendo al contempo differenziabile e addestrabile.

Metodologia: Deep ZakaiJ

Gli autori propongono Deep ZakaiJ, un modello a stato latente che integra l'equazione di filtraggio non lineare di Zakai in un'architettura neurale encoder-decoder. Il framework è progettato per sistemi parzialmente osservati in cui un processo osservato $X_t$ è guidato da uno stato latente non osservato $\Theta_t$.

1. Fondamento Teorico

Il modello si basa sull'equazione di Zakai, che descrive l'evoluzione della legge condizionale non normalizzata (filtro) dello stato latente date le osservazioni. Cambiando la misura in una misura di riferimento $Q$ in cui il processo di osservazione è privo di deriva, gli autori derivano una forma debole dell'equazione di Zakai (Equazione 3) che evolve la densità non normalizzata $q_t(\phi)$.

2. L'Encoder di Zakai

L'innovazione centrale è una discretizzazione mediante splitting di Strang dell'equazione di Zakai, che scompone l'aggiornamento della credenza in tre sotto-passaggi interpretabili e differenziabili:

• Passo A (Propagazione dell'A priori): Propaga l'a priori latente utilizzando un propagatore numerico (kernel di transizione di Markov) derivato dal generatore latente. Viene aggiunta una correzione residua appresa $R^A_\psi$ per tenere conto della discrepanza del modello e del bias numerico.
• Mezzo-Passo B (Innovazione di Diffusione): Aggiorna la credenza basandosi sulla componente continua dell'osservazione. Esegue un ripesaggio bayesiano utilizzando un'approssimazione gaussiana locale dell'incremento continuo.
• Mezzo-Passo C (Innovazione di Salto): Aggiorna la credenza basandosi sulla componente di salto. Impiega un'approssimazione "al più un salto" valida per piccoli passi temporali, ripesando la posterior rispetto a una miscela di ipotesi "nessun salto" e "salto avvenuto". Ciò consente al filtro di reagire acutamente a grandi dislocazioni.

L'encoder aggiorna ricorsivamente la posterior non normalizzata $q_k$ su una griglia latente fissa, estraendo una caratteristica di credenza a bassa dimensionalità $\beta_k$ per la previsione. Gli autori dimostrano che questo encoder discreto raggiunge una precisione globale del primo ordine rispetto all'evoluzione esatta di Zakai.

3. Decoder Strutturato a Diffusione con Salti

Il decoder è un modello strutturato che parametrizza la distribuzione condizionale dei futuri incrementi data l'osservazione corrente, la credenza filtrata $\beta_k$ e uno stato latente candidato $\theta$.

• Disaccoppia esplicitamente le dinamiche continue (deriva $\mu$, volatilità $\sigma$) dagli shock discontinui (intensità di salto $\lambda$, mappa della dimensione del salto $\gamma$).
• Le reti neurali condizionano questi coefficienti sull'osservazione e sulla caratteristica di credenza.
• Approssimazione dei Piccoli Salti: Per gestire salti a attività infinita all'interno di un'architettura discreta, il decoder assorbe i micro-salti (entità $<\epsilon$) in coefficienti continui efficaci, trattando esplicitamente solo i salti macroscopici nel passaggio di filtraggio.

4. Addestramento Congiunto

Il modello è addestrato end-to-end massimizzando un obiettivo passo-passo che combina:

1. Verosimiglianza di Previsione: Il log-verosimiglianza dei futuri incrementi sotto la legge di diffusione con salti appresa.
2. Regolarizzazione di Filtraggio: Un termine di divergenza KL che incoraggia la posterior filtrata a rimanere vicina all'a priori (prevenendo il collasso).

I gradienti vengono retropropagati attraverso le operazioni di splitting di Strang e i passaggi di normalizzazione.

Contributi Chiave

1. Encoder di Zakai: Una discretizzazione dell'equazione di Zakai tramite splitting di Strang in tre passaggi interpretabili (a priori, innovazione di diffusione, innovazione di salto). Fornisce un'approssimazione differenziabile e accurata al primo ordine dell'evoluzione esatta del filtraggio per sistemi di diffusione con salti parzialmente osservati.
2. Decoder Strutturato: Un modello di diffusione con salti condizionato esplicitamente alla credenza latente filtrata, che preserva la separazione tra dinamiche continue e discontinue e apprende un compensatore prevedibile.
3. Validazione Empirica: Miglioramenti dimostrati nella qualità delle previsioni distribuzionali (calibrazione e nitidezza) su dataset sintetici, finanziari e oceanografici, mantenendo al contempo una precisione puntuale competitiva.

Risultati Sperimentali

Gli autori hanno valutato Deep ZakaiJ su:

• Dati Sintetici: Un processo di diffusione con salti parzialmente osservato con verità fondamentale nota.
• Dati Finanziari: Prezzi di chiusura a 10 minuti di XAU/USD (Oro vs USD).
• Dati Oceanografici: Osservazioni dell'altezza delle onde (WVHT) NOAA/NDBC.

Prestazioni:

• Qualità Distribuzionale: Deep ZakaiJ ha costantemente superato le linee di base (inclusi SDE Latenti, SDE con Salti Neurali e modelli fondazionali come Chronos) in termini di CRPS (Punteggio di Probabilità Classificato Continuo) e Log-Verosimiglianza.
• Calibrazione: Il modello ha raggiunto intervalli predittivi ben calibrati, con una copertura al 90% (Cov90) vicina al livello nominale (ad esempio, 89,0% su dati sintetici, 92,9% su XAU/USD, 85,3% su NDBC). Al contrario, molte linee di base hanno mostrato una sottocopertura o sovracopertura significativa.
• Precisione Puntuale: Il modello è rimasto competitivo in MAE e RMSE, spesso uguagliando o migliorando leggermente i predittori puntuali all'avanguardia.
• Recupero Latente: In studi di caso sintetici e qualitativi, il filtro inferito ha tracciato con successo i cambiamenti dello stato latente e ha reagito agli spostamenti di regime (ad esempio, inversioni di tendenza nei prezzi dell'oro), dimostrando l'estrazione di una struttura latente interpretabile.

Significato e Affermazioni

Il documento afferma che Deep ZakaiJ colma il divario tra il filtraggio stocastico principiato e il moderno deep learning. Integrando direttamente l'equazione di Zakai in un'architettura neurale, il modello:

• Abilita un'inferenza strutturata per sistemi parzialmente osservati con salti, una capacità assente nei attuali modelli neurali con salti.
• Fornisce rappresentazioni latenti interpretabili che separano le dinamiche continue dagli shock discreti.
• Offre una quantificazione dell'incertezza superiore, producendo intervalli predittivi calibrati anche sotto spostamenti strutturali dove altri modelli falliscono.

Gli autori collocano questo lavoro come un passo verso previsioni di serie temporali più robuste in ambienti caratterizzati da regimi latenti e discontinuità brusche, come la gestione del rischio finanziario e i sistemi di allerta precoce ambientale. Riconoscono le limitazioni, notando che la formulazione attuale è univariata e si basa su una griglia latente fissa, suggerendo lavori futuri su rappresentazioni ad alta dimensionalità e adattive.