Solving Fredholm Integral Equations of the Second Kind via Wasserstein Gradient Flows

1. Il Problema

Il lavoro si concentra sulla risoluzione numerica delle equazioni integrali di Fredholm di seconda specie su domini illimitati. L'equazione è definita come:
$$\pi(x) = \phi(x) + \lambda \int_{\mathbb{R}^d} k(x, y)\pi(y)dy$$
dove $\pi$ è la funzione incognita (assunta essere una densità di probabilità), $\phi$ è un termine forzante osservato, $k$ è un nucleo integrale positivo e $\lambda \in \mathbb{R}$.

Sfide principali:

• Dimensionalità e domini illimitati: I metodi classici basati sulla discretizzazione (es. funzioni di base o integrazione numerica) diventano inefficienti o instabili quando la dimensione $d$ è alta o quando il dominio di definizione è illimitato.
• Problemi mal posti: Spesso l'operatore integrale indotto dal nucleo $k$ non è invertibile o è mal condizionato, rendendo necessaria una regolarizzazione per ottenere soluzioni stabili.
• Caso omogeneo: Quando $\phi \equiv 0$, il problema equivale a trovare l'autofunzione di $k$ per un dato autovalore $\lambda$, con applicazioni in decomposizione di Karhunen-Loève e processi stocastici.

2. Metodologia Proposta

Gli autori estendono un approccio basato sui flussi gradiente di Wasserstein (precedentemente applicato alle equazioni di prima specie) al caso di seconda specie. La metodologia si articola in quattro fasi principali:

A. Formulazione come Problema di Minimizzazione

Invece di risolvere direttamente l'equazione, si definisce un funzionale obiettivo da minimizzare nello spazio delle misure di probabilità. Il funzionale regolarizzato è:
$$F_\alpha(\pi) = \text{KL}\left(\pi \,\Big|\, \phi + \lambda \int_{\mathbb{R}^d} k(\cdot, y)\pi(y)dy\right) + \alpha \text{KL}(\pi | \pi_0)$$
dove:

• $\text{KL}$ è la divergenza di Kullback-Leibler.
• $\alpha > 0$ è un parametro di regolarizzazione.
• $\pi_0$ è una misura di riferimento (prior).
• Il termine di regolarizzazione $\alpha \text{KL}(\pi | \pi_0)$ garantisce l'esistenza di un unico minimizzatore e stabilizza il problema inverso.

B. Flusso Gradiente di Wasserstein e SDE di McKean-Vlasov

Si studia il flusso gradiente di Wasserstein associato a $F_\alpha$. Questo flusso è descritto da un'equazione alle derivate parziali (Fokker-Planck) che, a sua volta, corrisponde a un'Equazione Differenziale Stocastica (SDE) di tipo McKean-Vlasov (MKVSDE):
$$dX_t = \left( \int_{\mathbb{R}^d} b_\eta(X_t, z, \pi_t) d\pi_t(z) - \alpha \nabla U(X_t) \right) dt + \sqrt{2(1+\alpha)} dB_t$$
dove $\pi_t$ è la legge di $X_t$ e $b_\eta$ è un termine di deriva che dipende da aspettative nidificate rispetto a $\pi_t$.

• Complessità: A differenza delle equazioni di prima specie, qui la distribuzione $\pi$ appare su entrambi i lati dell'equazione, rendendo la dipendenza della deriva da $\pi$ più complessa (integrale doppio rispetto a $\pi$).
• Regolarizzazione numerica: Viene introdotto un parametro $\eta > 0$ per garantire che la frazione nella definizione di $b_\eta$ sia ben definita e stabile.

C. Approssimazione con Sistemi di Particelle Interagenti

Poiché la legge $\pi_t$ non è nota analiticamente, si approssima l'SDE con un sistema di $N$ particelle interagenti $(X^1_t, \dots, X^N_t)$:
$$dX^{i,N}_t = \left( \int b_\eta(X^{i,N}_t, z, \pi^N_t) d\pi^N_t(z) - \alpha \nabla U(X^{i,N}_t) \right) dt + \sqrt{2(1+\alpha)} dB^i_t$$
dove $\pi^N_t = \frac{1}{N} \sum_{i=1}^N \delta_{X^{i,N}_t}$ è la misura empirica.

• Propagazione del Caos: Viene dimostrato che, al crescere di $N$, le particelle diventano indipendenti e la misura empirica converge alla soluzione dell'SDE originale.
• Discretizzazione Temporale: Viene utilizzato lo schema di Euler-Maruyama per discretizzare il tempo.

D. Stima degli Errori

Gli autori derivano limiti espliciti sull'errore globale che dipendono dal numero di particelle $N$ e dal passo temporale $\gamma$:
$$\text{Errore} \lesssim \frac{1}{\sqrt{N}} + \sqrt{\gamma}$$
Questo fornisce linee guida pratiche per bilanciare $N$ e $\gamma$ dato un budget computazionale fisso, suggerendo una scalatura ottimale $N \propto B^{1/3}$ e $\gamma \propto N^{-1}$.

3. Contributi Chiave

1. Estensione alle Equazioni di Seconda Specie: Generalizzazione della metodologia dei flussi gradiente di Wasserstein (precedentemente limitata alle equazioni di prima specie) a un contesto più ampio e complesso.
2. Gestione della Complessità della Deriva: Analisi teorica dettagliata della deriva dell'SDE di McKean-Vlasov, che contiene integrali nidificati rispetto alla distribuzione incognita, dimostrando la continuità di Lipschitz necessaria per l'esistenza e l'unicità della soluzione forte.
3. Convergenza Teorica: Dimostrazione della convergenza del minimizzatore regolarizzato alla soluzione non regolarizzata quando $\alpha, \eta \to 0$, e convergenza del sistema di particelle alla soluzione dell'SDE (propagazione del caos ed ergodicità).
4. Algoritmo Pratico (FE2kind-WGF): Sviluppo di un algoritmo efficiente che evita la discretizzazione fissa dello spazio, rendendolo adatto a domini illimitati e di alta dimensione.

4. Risultati Sperimentali

Gli esperimenti confrontano il metodo proposto (FE2kind-WGF) con approcci classici come il metodo di Nyström (discretizzazione deterministica) e MCMC a salto reversibile (RJ-MCMC).

• Esempio Gaussiano: Il metodo dimostra robustezza rispetto alla scelta della misura di riferimento $\pi_0$. L'uso di $\pi_0$ regolarizza efficacemente la soluzione, prevenendo l'esplosione della varianza per valori alti di $\lambda$.
• Confronto con RJ-MCMC: Mentre RJ-MCMC si basa su una serie di von Neumann che diventa instabile per $\lambda \to 1$, FE2kind-WGF rimane stabile e fornisce soluzioni accurate anche in regimi dove la serie diverge.
• Espansioni di Karhunen-Loève: Nel calcolo degli autofunzioni di kernel esponenziali e quadrati esponenziali, il metodo proposto supera il metodo di Nyström in termini di accuratezza (ISE - Integrated Squared Error), specialmente per grandi $N$, senza richiedere una griglia spaziale fissa.
• Modelli di Stato Spaziale Gaussiani (GP-SSM): Applicazione al calcolo della distribuzione stazionaria di un modello non lineare, dove il metodo riesce a trovare la misura invariante in scenari in cui la serie di von Neumann non fornisce soluzioni non banali.

5. Significato e Impatto

Il lavoro rappresenta un avanzamento significativo nella risoluzione numerica di equazioni integrali su domini continui e illimitati.

• Superamento delle limitazioni dimensionali: Offrendo un approccio basato su particelle (Monte Carlo), il metodo scala meglio rispetto ai metodi di discretizzazione deterministica (come Nyström) in dimensioni elevate.
• Robustezza: La regolarizzazione tramite KL-divergenza e la scelta di una misura di riferimento $\pi_0$ permettono di trattare problemi mal posti in modo stabile.
• Versatilità: Il metodo è applicabile non solo alla risoluzione di equazioni integrali, ma anche a problemi di apprendimento automatico come l'inferenza in modelli a stati nascosti e l'analisi di processi stocastici complessi.

In sintesi, il paper propone un framework teorico solido e un algoritmo pratico che combina ottimizzazione variazionale, dinamica stocastica e metodi Monte Carlo per risolvere una classe di problemi inversi tradizionalmente difficili.