Bayesian Deep Gaussian Processes for Correlated Functional Data: A Case Study in Cosmological Matter Power Spectra

Technische Samenvatting: Bayesiaanse Diepe Gaussische Processen voor Gecorreleerde Functionele Data

Probleemstelling
Het artikel behandelt de uitdaging van het schatten van het onderliggende "oneindige volume" materie-vermogensspectrum, $P_\infty(k)$, vanuit kosmologische computersimulaties. Specifiek richten de auteurs zich op de Mira-Titan simulatie-suite, die meerdere responscurves van variërende getrouwheid biedt voor een gegeven set kosmologische parameters (een "kosmologie"). Deze outputs bevatten:

1. Perturbatietheorie-spectra ($P_p$): Analytisch afgeleid, accuraat alleen bij grote ruimtelijke schalen (lage golfgetallen, $k < 0.04$).
2. Simulaties met lage resolutie ($P_{\ell r}$): 16 gecorreleerde realisaties per kosmologie, accuraat voor intermediaire schalen ($0.04 \le k \le 0.25$), maar onderhevig aan initialiseringswillekeur.
3. Simulaties met hoge resolutie ($P_h$): Een enkele realisatie per kosmologie, accuraat voor een breder bereik ($0.04 \le k \le 5$), maar nog steeds onderhevig aan effecten van eindige volumes bij lage $k$.

De kern van de moeilijkheid ligt in het synthetiseren van deze heterogene, gecorreleerde en ruisgevoelige functionele outputs om het gladde, niet-willekeurige $P_\infty(k)$ te schatten, terwijl er een rigoureuze Onzekerheidskwantificering (UQ) wordt geboden. Bestaande methoden behandelen deze outputs vaak als onafhankelijke scalaire observaties of falen om de ruimtelijke afhankelijkheid te rekening houden die inherent is aan de functionele curves over de golfgetallen heen. Bovendien streven de auteurs ernaar om een surrogaatmodel (emulator) te bouwen om spectra te voorspellen voor niet-geobserveerde kosmologieën zonder dure nieuwe simulaties uit te voeren.

Methodologie
De auteurs stellen een Bayesiaans Hiërarchisch Diep Gaussisch Proces (DGP) model voor, genaamd DGP.FCO, dat specif으로 is ontworpen voor gecorreleerde functionele outputs.

1. Hiërarchische Structuur:

   • Observatielaag: Het geobserveerde gewogen gemiddelde van de simulatie-outputs ($\bar{Y}$) wordt gemodelleerd als een ruisgevoelige realisatie van het onderliggende spectrum $S$. In tegen tegenstelling tot eerdere benaderingen die een diagonale covariantie-matrix veronderstellen, gebruikt dit model een dichte covariantie-matrix $\Sigma_\epsilon$ (gebaseerd op een Matérn-kernel) om de gladde ruimtelijke afhankelijkheid en correlaties over de golfgetallen heen te vangen.
   • Latente Spectrallaag: Het onderliggende spectrum $S$ wordt gemodelleerd als een Gaussisch Proces gecentreerd rond nul, $S \sim \text{GP}(0, \Sigma_S(W))$.
   • Diepe Latente Laag: Om niet-stationariteit te behandelen (specifiek baryonische akoestische oscillaties in het bereik $-1.4 \le \log_{10}(k) \le -0.8$), wordt de invoerruimte $X$ (golfgetallen) vervormd door een latente monotone Gaussische Proces, $W \sim \text{monoGP}$. Deze vervorming stelt het model in staat om de gladheid van de spectrumrealisatie over verschillende schalen aan te passen.

2. Inferentie:

   • De auteurs gebruiken Elliptical Slice Sampling (ESS) om de latente vervormingsfunctie $W$ te infereren en Metropolis-Hastings stappen binnen een Gibbs-raamwerk om de kernel-hyperparameters ($\theta_S, \theta_W$) bij te werken.
   • De posterieure distributie van het spectrum $S$ wordt in gesloten vorm afgeleid gegeven de latente variabelen, wat directe sampling mogelijk maakt om posterieure gemiddelden en 95% geloofwaardigheidsintervallen te berekenen.

3. Emulatie voor Niet-Geobserveerde Kosmologieën:

   • Om spectra voor nieuwe kosmologieën te voorspellen, hanteren de auteurs een tweestapsbenadering. Eerst wordt het DGP.FCO-model gebruikt om de spectra voor de trainingskosmologieën te schatten.
   • Deze geschatte spectra worden vervolgens gedecomposeerd met behulp van Principale Componenten Analyse (PCA).
   • Een aparte Gaussische Proces emulator wordt getraind op de principale componentgewichten als functie van de acht kosmologische parameters. Dit surrogaatmodel maakt snelle voorspelling van spectra voor niet-geobserveerde kosmologische configuraties mogelijk.

Belangrijkste Bijdragen

• Uitbreiding van Bayesiaanse DGPs: Het artikel breidt Bayesiaanse Diepe Gaussische Processen uit van scalaire responsen naar gecorreleerde functionele outputs. Dit is een nieuwe toepassing van DGPs in de context van computerexperimenten.
• Synthese van Multi-Fidelity Data: Het model synthetiseert effectief perturbatietheorie, lage-resolutie en hoge-resolutie simulatiegegevens, waarbij rekening wordt gehouden met de specifieke golfgetalbereiken waar elke gegevensbron onbevooroordeeld is.
• Integratie van Domeinkennis: Het model incorporeert expliciet deskundige kennis over de betrouwbaarheid van verschillende gegevensbronnen (via precisie-matrices) en de niet-stationaire aard van de spectra (via de monotone latente GP).
• Benchmarking: De methode wordt gevalideerd tegen synthetische data en het CAMB (Code for Anisotropies in the Microwave Background) model, dat een bekende "oneindige volume" grondwaarheid biedt. Het wordt ook afgezet tegen de state-of-the-art Cosmic Emu (een deep process convolution benadering) op de Mira-Titan dataset.

Resultaten

• Synthetische en CAMB Experimenten: In simulatiestudies waar de ware onderliggende curve bekend is, presteert het DGP.FCO-model beter dan concurrerende methoden (standaard DGP, heteroskedastische GP en deep process convolution) in termen van de log score, een proper scoring rule die zowel nauwkeurigheid als onzekerheidskalibratie evalueert. De auteurs merken op dat het rekening houden met ruimtelijke afhankelijkheid tussen observaties leidt tot effectievere UQ.
• Mira-Titan Emulatie: Bij het voorspellen van spectra voor uitgesloten kosmologieën presteert de voorgestelde methode (DGP.FCO + PCA + GP emulator) gunstig vergeleken met de bestaande Cosmic Emu.
• Onzekerheidskwantificering: Het hiërarchische model slaagt erin om geloofwaardigheidsintervallen te bieden die de onzekerheid reflecteren die voortkomt uit eindige simulatievolumes en initialiseringswillekeur, iets wat eenvoudige gewogen gemiddelden niet adequaat kunnen vastleggen.

Betekenis en Claims
De auteurs beweren dat hun benadering een robuust kader biedt voor het schatten van het oneindige volume materie-vermogensspectrum uit complexe, multi-fidelity simulatie-suites. Door verder te gaan dan scalaire responsen naar gecorreleerde functionele outputs, legt de methode de intrinsieke gladheid en afhankelijkheid van kosmologische spectra vast die andere emulators missen. Het artikel positioneert dit werk als een cruciale stap naar efficiënte analyse van grootschalige kosmologische surveys (bijv. Euclid, LSST), waarbij nauwkeurige en snelle voorspelling van materie-vermogensspectra met betrouwbare onzekerheidskwantificering essentieel is voor het beperken van kosmologische parameters. De auteurs stellen de data, reproduceerbare code en een R-package beschikbaar om de adoptie van dit Bayesiaanse DGP-model te faciliteren.