Sintesi Tecnica: Inferenza Variazionale Entropica Ricorsiva per Modelli di Spazio di Stato Non Lineari

Definizione del Problema

Il documento affronta la sfida della stima accurata dello stato in modelli di spazio di stato (SSM) non lineari e non gaussiani. Sebbene l'inferenza bayesiana fornisca un quadro teorico rigoroso per tali problemi, le soluzioni ricorsive esatte (come lo smussatore di Rauch–Tung–Striebel) sono generalmente indisponibili per sistemi non coniugati e non lineari. I metodi approssimativi esistenti, come il Monte Carlo sequenziale, soffrono di un'elevata complessità computazionale e di una scarsa scalabilità in spazi ad alta dimensionalità. Al contrario, molti approcci esistenti di inferenza variazionale (VI) ed espansione dell'aspettativa (EP) per gli SSM estendono questi framework in modo ad hoc, spesso incorporando i principi variazionali in un template di Rauch–Tung–Striebel piuttosto che derivarli da un problema di ottimizzazione dinamica rigoroso. Ciò limita la capacità di sfruttare pienamente approcci sistematici alla stima dello stato.

Metodologia

Gli autori propongono un framework unificato che inquadra l'inferenza bayesiana approssimativa negli SSM come un problema di ottimizzazione dinamica iterativa sullo spazio delle distribuzioni di candidato posteriori. La metodologia centrale si basa sull'Ottimizzazione Variazionale Prossimale Entropica.

1. Formulazione Lagrangiana Variazionale

Il problema di inferenza è formulato come una sequenza di aggiornamenti di trust-region entropici. Invece di massimizzare direttamente l'Evidence Lower Bound (ELBO), il metodo risolve un problema di ottimizzazione vincolato in cui ogni aggiornamento è soggetto a un vincolo di divergenza di Kullback–Leibler (KL) rispetto all'iterazione precedente. Ciò introduce un meccanismo di "smorzamento" controllato da un moltiplicatore di Lagrange (o parametro di step size) $\beta$.

• Ottimizzazione Dinamica: Il problema è decomposto utilizzando fattorizzazioni Markoviane in avanti (forward-Markov) e all'indietro (reverse-Markov) della distribuzione posteriore variazionale.
• Distribuzioni Tilted: La soluzione del problema di ottimizzazione vincolata produce distribuzioni "tilted", che sono interpolazioni geometriche tra la distribuzione posteriore esatta e l'iterazione precedente. Il parametro di interpolazione $\beta$ è determinato minimizzando un obiettivo duale relativo alla divergenza di Rényi.

2. Algoritmi Ricorsivi tramite Approssimazioni Gauss–Markov

Per rendere trattabili le ricorsioni astratte, gli autori limitano la famiglia variazionale alle approssimazioni Gauss–Markov. Ciò porta a tre algoritmi ricorsivi distinti:

• Forward Entropic Variational Smoother (FEVS): Utilizza una fattorizzazione forward-Markov, eseguendo una ricorsione all'indietro per accumulare i potenziali di misura futuri, seguita da una propagazione in avanti delle marginali.
• Reverse Entropic Variational Smoother (REVS): Utilizza una fattorizzazione reverse-Markov, eseguendo una ricorsione in avanti per i potenziali di misura passati, seguita da una propagazione all'indietro.
• Hybrid Entropic Variational Smoother (HEVS): Combina entrambe le ricorsioni direzionali, permettendo alle marginali intermedie di ricevere informazioni da entrambe le direzioni temporali simultaneamente.

3. Realizzazione Pratica

Poiché i potenziali esatti nei modelli non lineari sono intrattabili, il framework impiega due strategie per approssimare le densità di log-probabilità dei modelli dinamici e di misura:

• Generalized Statistical Linear Regression (GSLR): Costruisce modelli surrogati affine-gaussiani facendo corrispondere i momenti condizionali.
• Fourier–Hermite Moment Matching: Utilizza espansioni in serie Fourier–Hermite di secondo ordine per catturare informazioni sulla curvatura di ordine superiore senza assumere un rumore additivo gaussiano.

Queste approssimazioni permettono di rappresentare le funzioni di potenziale e i log-normalizzatori come forme quadratiche, consentendo aggiornamenti ricorsivi in forma chiusa per i parametri di media e covarianza.

4. Step Size Adattiva

Una componente critica del metodo è la selezione adattiva del parametro di smorzamento $\beta$. Gli autori propongono l'uso di un metodo di bisezione sul moltiplicatore di Lagrange per soddisfare il vincolo di trust-region KL ($\varepsilon$). Ciò assicura che gli aggiornamenti rimangano all'interno di una regione in cui le approssimazioni locali sono valide, fornendo un meccanismo rigoroso di controllo della step-size che previene la divergenza in regimi altamente non lineari.

Contributi Chiave

1. Formulazione di Ottimizzazione Dinamica: Il documento introduce un framework variazionale rigoroso che formula l'inferenza come una sequenza di aggiornamenti di trust-region entropici, andando oltre le estensioni ad hoc degli smussatori esistenti.
2. Algoritmi Ricorsivi Unificati: Deriva una famiglia di schemi di ricorsione forward-backward (FEVS, REVS, HEVS) la cui struttura è interamente determinata dalla fattorizzazione della distribuzione posteriore variazionale.
3. Step Size Adattiva: Gli autori dimostrano che la step size corrisponde a un moltiplicatore di Lagrange determinato da un obiettivo di divergenza di Rényi duale, consentendo l'applicazione automatica del trust-region.
4. Generalizzazione degli Smussatori Classici: L'approccio generalizza gli smussatori lineari-gaussiani classici (come l'RTS) e li connette alle moderne tecniche di inferenza approssimativa.
5. Approssimazioni Flessibili: Il framework supporta realizzazioni pratiche utilizzando GSLR ed espansioni Fourier–Hermite, facilitando l'inferenza efficiente in modelli non lineari e non gaussiani.

Risultati

Il documento fornisce valutazioni numeriche su tre benchmark:

• Modelli Lineari-Gaussiani: Gli algoritmi mostrano di convergere alla soluzione esatta di Rauch–Tung–Striebel (RTS), validando la correttezza delle ricorsioni. Il parametro di smorzamento $\beta$ controlla la velocità di convergenza, con raggi di trust-region più ampi che permettono una convergenza più rapida.
• Volatilità Stocastica (Non Lineare/Non Gaussiana): In un modello in cui l'osservazione dipende dalla varianza dello stato, la variante Fourier–Hermite (FH) supera significativamente la variante Generalized Statistical Linear Regression (GSLR). L'approccio GSLR fallisce nel catturare l'informazione nella varianza (collassando verso il prior), mentre la variante FH riesce a tracciare la log-volatilità latente.
• Problema del Sensore Cubico: In uno scenario con una non linearità di misura cubica, gli smussatori entropici proposti (HEVS) mostrano una convergenza stabile dell'Evidence Lower Bound (ELBO). Al contrario, un baseline di smussatore di linearizzazione del posteriore iterato (IPLS) non smorzato fallisce la convergenza, oscillando tra le soluzioni.

Significato e Rivendicazioni

Il documento sostiene di fornire un ponte rigoroso tra inferenza variazionale, ottimizzazione prossimale e inferenza bayesiana ricorsiva. Inquadrando l'inferenza come un problema di ottimizzazione dinamica con regolarizzazione entropica, il metodo offre:

• Stabilità: Il vincolo di trust-region basato su KL regolarizza gli aggiornamenti, riducendo la sensibilità agli errori di approssimazione locale e prevenendo la divergenza in contesti non lineari.
• Scalabilità: Gli algoritmi risultanti possiedono una complessità temporale lineare rispetto all'orizzonte temporale $T$, rendendoli adatti per sequenze lunghe.
• Fondamento Teorico: A differenza delle estensioni euristiche dello smussatore RTS, le ricorsioni proposte derivano dalle condizioni di ottimalità di un problema variazionale ben posto, offrendo un percorso più chiaro per l'analisi della convergenza e l'estensione a famiglie variazionali più ricche.

Gli autori posizionano questo lavoro come una generalizzazione dei metodi esistenti di linearizzazione del posteriore e di espansione dell'aspettativa, risolvendo le problematiche relative al controllo della step-size e alla gestione del rumore non additivo attraverso l'introduzione di vincoli prossimali entropici e il moment matching di ordine superiore.