Kernel Methods for Stochastic Dynamical Systems with Application to Koopman Eigenfunctions: Feynman-Kac Representations and RKHS Approximation

1. Problema e Contesto

Il lavoro estende un quadro unificato per l'analisi di sistemi dinamici deterministici (sviluppato in un lavoro precedente [1]) al dominio delle Equazioni Differenziali Stocastiche (SDE).

• Contesto Deterministico: Per sistemi deterministici $\dot{x} = f(x)$, l'operatore di Koopman governa l'evoluzione delle osservabili. La ricerca delle sue autofunzioni si riduce alla risoluzione di un'equazione di trasporto iperbolica del primo ordine ($f \cdot \nabla \phi = \lambda \phi$). In questo contesto, tre approcci costruttivi (principio variazionale di tipo Lions, funzione di Green, e metodo delle caratteristiche) sono stati dimostrati equivalenti.
• Sfida Stocastica: Per sistemi soggetti a rumore (SDE), l'operatore di Koopman include un termine di diffusione del secondo ordine, trasformando l'equazione da iperbolica a un'equazione alle derivate parziali (PDE) ellittico-parabolica del secondo ordine. Questo cambiamento fondamentale rende il metodo delle caratteristiche inapplicabile e richiede l'uso di rappresentazioni probabilistiche basate sulla formula di Feynman-Kac.
• Obiettivo: Sviluppare un framework coerente per costruire kernel riproducenti (RKHS) per sistemi stocastici, garantire l'equivalenza tra diversi metodi di costruzione e fornire algoritmi computazionali stabili.

2. Metodologia

Gli autori estendono tre costruzioni di kernel al caso stocastico, utilizzando la formula di Feynman-Kac come ponte fondamentale:

A. Costruzioni dei Kernel

1. Principio Variazionale di Tipo Lions:
   • Viene definito uno spazio di Hilbert con una norma di grafico che include l'operatore stocastico $L_{stoch} = G \cdot \nabla + \frac{1}{2}\text{Tr}[a\nabla^2] - \lambda$.
   • Il kernel è il rappresentante di Riesz per la valutazione puntuale in questo spazio. Richiede kernel con proprietà di derivata fino al secondo ordine ($C^{2,2}$).
2. Funzione di Green tramite Feynman-Kac:
   • Sfruttando la formula di Feynman-Kac, la soluzione della PDE stocastica è rappresentata come un valore atteso su traiettorie stocastiche.
   • Il kernel di Green è costruito integrando la densità di transizione $p_t(x, y)$ ponderata con un fattore di sconto esponenziale $e^{-\lambda t}$.
3. Kernel Risolvente Stocastico:
   • Definito come la trasformata di Laplace del semigruppo di Koopman stocastico.
   • Matematicamente, è l'atteso integrale del tempo locale scontato lungo le traiettorie del processo stocastico fino al tempo di uscita dal dominio.

B. Teorema di Equivalenza

Il lavoro dimostra che, sotto ipotesi di ellitticità uniforme (la matrice di diffusione $a(x)$ è definita positiva) e regolarità sufficiente, le tre costruzioni sopra menzionate producono kernel identici:
$$k_{var}(x, y) = k_{FK}(x, y) = k_{res}(x, y)$$
Questa unificazione è cruciale perché collega l'approccio variazionale (analitico), quello probabilistico (Feynman-Kac) e quello spettrale (risolvente).

C. Metodi Computazionali

• Metodo di Collocazione: Per approssimare le autofunzioni non lineari, si utilizza un metodo di collocazione basato su kernel. Si risolve un sistema lineare che coinvolge matrici di deriva, diffusione e kernel.
  • Viene derivata una formula esplicita per gli elementi della matrice di diffusione $D_{ij}$, che richiede il calcolo della traccia dell'Hessiano del kernel moltiplicato per il tensore di diffusione.
• Approssimazione Monte Carlo: Quando le derivate chiuse non sono disponibili o per la verifica, si utilizza l'algoritmo di Monte Carlo per stimare l'integrale di Feynman-Kac lungo le traiettorie simulate (discretizzazione di Euler-Maruyama).
• Analisi dell'Errore: Viene fornita una decomposizione dell'errore totale che separa chiaramente:
  1. L'errore di approssimazione RKHS (dipendente dal numero di punti di collocazione e dalla regolarità del kernel).
  2. L'errore di campionamento Monte Carlo (dipendente dal numero di traiettorie, scala come $O(K^{-1/2})$).

D. Estensione Ipoellittica

Il framework è esteso anche a sistemi con diffusione degenere (es. dinamica di Langevin sottosmorzata) che soddisfano la condizione di Hörmander. In questo caso, la regolarità scende da $H^1$ a $H^\varepsilon$ (regolarità subellittica), ma l'equivalenza dei kernel e la ben-postezza del problema sono preservate, richiedendo talvolta valutazioni puntuali "mollificate".

3. Risultati Chiave e Contributi

1. Unificazione Teorica: Dimostrazione rigorosa che i tre approcci (variazionale, Green, risolvente) sono equivalenti per SDE sotto condizioni di ellitticità uniforme.
2. Regolarizzazione Ellittica: Un risultato controintuitivo ma significativo è che l'aggiunta di una diffusione moderata migliora la condizione numerica del sistema. Il termine di diffusione agisce come regolarizzatore ellittico, spostando gli autovalori della matrice di collocazione lontano dallo zero e riducendo il numero di condizione rispetto al caso deterministico puro (dove il sistema può essere mal condizionato o singolare).
3. Convergenza Spettrale: Le autofunzioni di Mercer dei kernel costruiti convergono in $L^2$ alle vere autofunzioni di Koopman.
4. Validazione Numerica:
   • Processo di Ornstein-Uhlenbeck: Recupero esatto (precisione macchina) dell'autofunzione lineare.
   • Sistemi Non Lineari: Successo nel catturare correzioni non lineari per SDE con termini quadratici. L'aggiunta di rumore riduce il numero di condizione (es. da $3.79 \times 10^6$ a $1.03 \times 10^6$) mantenendo errori di semigruppo bassi (< 10%).
   • Sistemi Multidimensionali: Applicazione efficace a sistemi 2D lineari.

4. Significato e Implicazioni

Questo lavoro colma un divario importante tra la teoria degli operatori di Koopman per sistemi deterministici e stocastici.

• Stabilità Numerica: La scoperta che il rumore può stabilizzare numericamente il calcolo delle autofunzioni di Koopman è di grande rilevanza pratica, suggerendo che in alcuni contesti l'aggiunta controllata di rumore (o la modellazione esplicita della diffusione) è preferibile all'approccio deterministico puro.
• Versatilità: Il framework si applica a una vasta gamma di problemi, dalla dinamica molecolare (Langevin) alla finanza (modelli di volatilità stocastica) e al controllo ottimo stocastico.
• Connessioni: Il metodo collega esplicitamente l'EDMD del generatore (gEDMD), le Diffusion Maps e il forecasting analogico, fornendo una base teorica unificata per questi approcci data-driven.

In sintesi, il paper fornisce un fondamento matematico solido e strumenti computazionali pratici per l'analisi di sistemi dinamici stocastici, trasformando la complessità della diffusione stocastica in un vantaggio per la stabilità numerica attraverso la regolarizzazione ellittica.