Bayesian imaging inverse problem with scattering transform

Technische Samenvatting: Bayesiaans Imaging Inverse Probleem met Scattering Transform

Probleemformulering
Het artikel behandelt de uitdaging van het oplossen van Bayesiaanse imaging inverse problemen in de astrofysica en kosmologie, specif específicamente binnen "low-data regimes" waar slechts één gecontamineerde observatie ($d_0$) beschikbaar is. De kern van de moeilijkheid ligt in het herstellen van een onderliggend fysiek veld ($s_0$) uit data die is geproduceerd door een bekende, maar vaak stochastische of niet-inverteerbare forward operator ($F$), zodanig dat $d_0 = F(s_0)$.

Traditionele Bayesiaanse benaderingen vereisen een prior-distributie $p(s)$ die fysieke kennis over het signaal codeert. Echter, voor complexe, niet-Gaussische astrofysische velden (bijv. grootschalige structuur, Galactisch stof) is het definiëren van een fysiek gemotiveerde prior moeilijk, en falen datagedreven priors wanneer de trainingsdata schaars is. De auteurs formuleren het probleem als het karakteriseren van de posterior distributie $p(s | d_0)$ zonder te vertrouwen op externe priors of grote trainingsdatasets, waarbij de focus ligt op niet-Gaussische, geregulariseerde velden.

Methodologie
De voorgestelde aanpak verschuift het inferentie-object van de hoogdimensionale pixelruimte ($n \approx 10^5$) naar een laagdimensionale manifold van Scattering Transform (ST) statistieken ($l \approx 10^2$).

1. Scattering Transform Representatie: De methode maakt gebruik van ST-statistieken, $\phi(s)$, die niet-Gaussische processen karakteriseren door interacties tussen georiënteerde schalen vast te leggen. Deze statistieken worden gebruikt om efficiënte maximum entropy generatieve modellen, $p_{\mu_S}(s)$, te construeren, geparametriseerd door de ST-statistieken $\mu_S$.
2. Dimensionaliteitsreductie: In plaats van de posterior over velden $p(s | d_0)$ te infereren, infereren de auteurs de posterior over de ST-statistieken parameters: $p(\mu_S | \phi(d_0))$. Dit reduceert het probleem tot het vinden van een generatief model dat consistent is met de statistieken van de geobserveerde data.
3. Likelihood Approximatie: De forward operator in de ST-ruimte, die parameters $\mu_S$ naar data-statistieken $\phi(d)$ mapt, is analytisch onhandelbaar vanwege de sampling die vereist is vanuit generatieve modellen. De auteurs benaderen deze likelihood met behulp van een Gaussisch lineair model afgeleid via een Taylor-expansie: $p(\phi(d) | \mu_S) \sim \mathcal{N}(A\mu_S + b | \Sigma)$.
4. Iteratief Adaptief Algoritme: Om de parameters ($A, b, \Sigma$) van deze Gaussische likelihood en de resulterende posterior te schatten, stellen de auteurs een sequentieel schattingsalgoritme voor:
   • Initialisatie: Een smalle Gaussische proposal $q_0(\mu_S)$ die gecentreerd is op de ST-statistieken van een referentiemap $\tilde{s}$, verkregen door witte ruis te optimaliseren om de afstand tussen de getransformeerde statistieken en de geobserveerde data-statistieken te minimaliseren.
   • Sequentiële Verfijning: De proposal-distributie wordt iteratief bijgewerkt door de vorige proposal te combineren met de geschatte likelihood. De covariantie wordt in elke stap geschaald met een factor 2 om kunstmatige overmoedigheid te voorkomen door meerdere malen te conditioneren op dezelfde observatie.
   • Convergentie: Het proces stopt wanneer de proposal-distributie convergeert naar een vast punt, wat overeenkomt met de posterior distributie onder een uniforme prior en een lineaire Gaussische likelihood.

Belangrijkste Bijdragen

• Nieuw Inferentie Framework: Het artikel introduceert een Bayesiaans framework dat inferentie uitvoert in de ruimte van Scattering Transform-statistieken in plaats van de pixelruimte, wat tractabele oplossingen mogelijk maakt voor niet-Gaussische velden zonder externe priors.
• Adaptief Algoritme: Het stelt een specifiek iteratief algoritme voor dat de posterior distributie van generatieve modelparameters benadert met behulp van een lineaire Gaussische likelihood-approximatie, waardoor de computationele kosten van het trainen van neurale dichtheids-estimators in hoogdimensionale ruimtes worden vermeden.
• Single-Image Reconstructie: De methode is ontworpen om te opereren in een regime met slechts één observatie, waardoor de noodzaak voor grote trainingsdatasets die typisch zijn voor deep learning-benaderingen wordt omzeild.

Resultaten
De methode werd gevalideerd met behulp van een kolomdichtheidsveld uit de Quijote kosmologische simulaties (grootschalige structuur) en een mock instrumentale forward operator bestaande uit witte Gaussische ruis en willekeurige elliptische maskers.

• Statistische Inferentie: De posterior samples van de ST-statistieken reproduceerden accuraat de statistische eigenschappen (power spectrum en one-point probability distribution function) van het ware onderliggende veld $s_0$.
• Deterministische Reconstructie: Door te samplen uit de geïnfereerde generatieve modellen, genereerden de auteurs kaarten die visueel ononderscheidbaar waren van de observatie wanneer ze door de forward operator werden gestuurd. De gegenereerde velden zelf waren consistent met LSS-kaarten (Large Scale Structure), waarbij de variabiliteit zich primair manifesteerde op de kleinste, door ruis gedomineerde schalen.
• Geen Externe Priors: De reconstructie werd bereikt zonder enige externe prior-distributie voor het veld van belang, waarbij uitsluitend werd vertrouwd op de ST-gebaseerde generatieve modelstructuur.

Betekenis en Claims
Het artikel beweert dat Scattering Transform-statistieken een effectieve representatie bieden voor het oplossen van complexe imaging inverse problemen in uitdagende low-data regimes. De aanpak demonstreert dat accurate statistische inferentie en deterministische signaalreconstructie mogelijk zijn voor niet-Gaussische astrofysische signalen, zelfs wanneer:

1. Slechts één gecontamineerde afbeelding beschikbaar is.
2. Geen fysiek gemotiveerde prior of realistische trainingsdataset bestaat.

De auteurs stellen dat dit werk de weg vrijmaakt voor nieuwe toepassingen voor niet-Gaussische astrofysische en kosmologische signalen waarbij momenteel weinig of geen prior-modellering beschikbaar is, en biedt een generaliseerbare oplossing die verder gaat dan het specifieke geteste voorbeeld van de Large Scale Structure.