Power-scaled Bayesian Inference with Score-based Generative Models

1. Il Problema

La generazione di modelli di velocità sismica del sottosuolo è fondamentale per l'esplorazione di idrocarburi e il monitoraggio geofisico. Tuttavia, l'inversione sismica è un problema mal posto (ill-posed) e non lineare, caratterizzato da:

• Ambiguità: Molti modelli di velocità diversi possono spiegare gli stessi dati osservati.
• Limiti dell'Inversione a Forma d'Onda Completa (FWI): Sebbene risolutiva, la FWI è computazionalmente costosa, sensibile ai minimi locali e richiede modelli iniziali accurati.
• Dilemma dei Modelli Generativi: I recenti approcci basati su modelli generativi (che usano statistiche di riepilogo come le immagini di migrazione inversa nel tempo, RTM) tendono a oscillare tra due estremi:
  1. Utilizzare priori troppo forti, che dominano l'inferenza e limitano la risposta ai dati osservati.
  2. Utilizzare priori poco informativi, che aumentano la dipendenza dai dati ma riducono la regolarizzazione, rendendo il modello fragile in presenza di rumore o dati sottodeterminati.

Manca un meccanismo flessibile per bilanciare l'influenza del prior (conoscenza a priori) e della likelihood (dati osservati) senza dover riaddestrare il modello per ogni configurazione.

2. Metodologia

Gli autori propongono un framework che combina l'inferenza bayesiana classica con i modelli generativi basati su score (Score-Based Generative Models - SBGM), introducendo una tecnica di Power-Scaling (scalatura per potenza).

A. Inference Basata su Simulazione (SBI) con RTM

Invece di lavorare con i dati sismici grezzi (shot records), il metodo utilizza immagini RTM (Reverse-Time Migration) come statistiche di riepilogo. Queste immagini, generate partendo da un modello di sfondo liscio, preservano le informazioni strutturali chiave riducendo la dimensionalità e la complessità dei dati.

B. Modelli Score-Based Condizionali

Viene addestrata una rete neurale condizionale (architettura U-Net) per stimare il score (gradiente del logaritmo della densità di probabilità) della distribuzione a posteriori $p(x|y)$, dove $x$ è il modello di velocità e $y$ è l'immagine RTM.
L'obiettivo di addestramento minimizza l'errore di denoising su coppie $(x, y)$, utilizzando una strategia di Classifier-Free Guidance (CFG): durante l'addestramento, l'input condizionante ($y$) viene casualmente mascherato (sostituito con rumore) con una probabilità del 20%. Questo permette alla rete di imparare simultaneamente sia lo score del prior ($\nabla \log p(x)$) che quello della posterior ($\nabla \log p(x|y)$) con un'unica rete.

C. Power-Scaling Bayesiano

La novità principale è la capacità di campionare da una distribuzione a posteriori scalata per potenza:
$$p_{\lambda,\alpha}(x|y) \propto p(y|x)^\lambda p(x)^\alpha$$
Dove:

• $\lambda$: fattore di scala per la likelihood (dati).
• $\alpha$: fattore di scala per il prior.

Grazie all'identità di Bayes, lo score della posterior scalata può essere espresso come combinazione lineare degli score appresi:
$$\nabla_x \log p_{\lambda,\alpha}(x|y) = \lambda \nabla_x \log p(x|y) + (\alpha - \lambda) \nabla_x \log p(x)$$
Questo permette di controllare l'influenza relativa di dati e prior solo durante la fase di inferenza, modificando i coefficienti $\lambda$ e $\alpha$, senza bisogno di riaddestrare la rete o calcolare costose valutazioni della likelihood fisica.

3. Contributi Chiave

1. Controllo Flessibile senza Riaddestramento: Un singolo modello addestrato può generare campioni da una vasta gamma di distribuzioni a posteriori modificando semplicemente i parametri di potenza ($\lambda, \alpha$) al momento dell'inferenza.
2. Analisi di Sensibilità: Il metodo permette di quantificare l'impatto relativo del prior e della likelihood sui risultati finali, offrendo uno strumento per l'interpretazione e la robustezza.
3. Efficienza Computazionale: Evita la necessità di risolvere equazioni alle derivate parziali (PDE) costose durante il campionamento, sostituendole con operazioni di rete neurale e passi di correzione Langevin.
4. Integrazione CFG: L'uso della Classifier-Free Guidance permette di stimare sia lo score del prior che quello della posterior con un'unica rete, semplificando l'architettura.

4. Risultati Sperimentali

Gli esperimenti sono stati condotti su un modello sintetico 3D (derivato dal modello Compass del Mare del Nord) con 800 campioni di addestramento.

• Effetto dello Scaling del Prior ($\alpha$):

  • Valori bassi di $\alpha$ (es. 0.25) producono campioni ad alta variabilità, con strutture geologiche diffuse e meno coerenti.
  • Valori alti di $\alpha$ (es. >1) regolarizzano il modello, rendendo gli strati più netti e coerenti con i pattern geologici appresi, ma riducendo la diversità.

• Effetto dello Scaling della Likelihood ($\lambda$):

  • Contrariamente all'intuizione bayesiana classica ($\lambda=1$), i risultati mostrano che aumentare la potenza della likelihood fino a un certo punto (circa $\lambda = 2.0$) migliora la fedeltà dei dati.
  • Il residuo dei dati sismici (differenza tra dati simulati dal modello generato e dati reali) raggiunge il minimo a $\lambda = 2.0$.
  • Valori di $\lambda$ troppo alti portano a overfitting e degradazione delle prestazioni.

• Compass Power-Scaling:

  • Variando congiuntamente $\alpha$ e $\lambda$, è possibile navigare uno spazio di compromesso: alti $\lambda$ e bassi $\alpha$ massimizzano l'allineamento ai dati osservati; alti $\alpha$ e bassi $\lambda$ massimizzano la regolarizzazione strutturale e la coerenza geologica.

5. Significato e Implicazioni

Questo lavoro offre un approccio innovativo all'inversione sismica probabilistica:

• Ottimizzazione della Fedeltà ai Dati: Dimostra che la configurazione bayesiana classica non è sempre ottimale per la massima fedeltà ai dati; una leggera sovrappesatura della likelihood può migliorare l'accuratezza del modello.
• Strumento di Analisi: Fornisce ai geofisici un modo controllato per esplorare l'incertezza e il compromesso tra regolarizzazione e adattamento ai dati, facilitando la selezione di modelli più robusti.
• Scalabilità: La capacità di generare modelli diversi senza riaddestramento rende il metodo ideale per l'analisi di sensibilità e per l'adattamento a diverse condizioni di acquisizione o livelli di rumore.

In sintesi, il paper propone un metodo potente per bilanciare dinamicamente la conoscenza a priori e i dati osservati nella generazione di modelli geologici, superando i limiti statici dei metodi bayesiani tradizionali e dei modelli generativi attuali.