Interpretable Neural Marked Statistics for Cosmological Inference

Technische Samenvatting: Interpreteerbare Equivariante Marks voor Contrastieve Kosmologische Inferentie

Probleemstelling
Het herstellen van kosmologische informatie die verder gaat dan het vermogensspectrum is een centraal doel voor komende grootschalige structuuronderzoeken (LSS) (bijv. SPHEREx, DESI, Euclid). Hoewel het vermogensspectrum optimaal is voor Gaussische velden, vertoont de materiedichtheid op latere tijdstippen niet-Gaussische signalen die twee-punts statistieken alleen niet kunnen vangen. Traditionele benaderingen om deze informatie te extraheren, worden geconfronteerd met aanzienlijke hindernissen:

• Hogere-orde correlaties: Het beklimmen van de ladder van $n$-punts correlaties is computationeel duur in de configuratieruimte, en perturbatietheorie stort in in het niet-lineaire regime.
• Veldniveau-inferentie: Simulatie-gebaseerde inferentie en veldniveau neurale samenvattingen omzeilen expliciete statistieken, maar offeren vaak interpreteerbaarheid op en vereisen hoogwaardige simulaties.
• Klassieke gemerkte statistieken: Bestaande methoden herwegen het dichtheidsveld met een ruimtelijke mark $M(x)$ om hogere-orde correlaties in het twee-punts niveau te vouwen. Deze marks zijn echter doorgaans handmatig ontworogen met vaste functionele vormen (bijv. gesmoothde dichtheidsresponsen) of geoptimaliseerd voor slechts één enkel fiducieel kosmologie, wat de aanpasbaarheid en interpreteerbaarheid over de parameterruimte beperkt.

Methodologie
De auteurs stellen een raamwerk voor dat handmatig ontworpen marks vervangt door een geleerde, kosmologie-agnostische en interpreteerbare neurale markeringstechniek. Het raamwerk bestaat uit twee primaire componenten:

1. Interpreteerbare Geleerde Mark Architectuur:

   • De mark $M(x)$ wordt geconstrueerd als een translatie-equivariante scalaire respons afgeleid van het materiedichtheidsveld $\delta(x)$.
   • Sferische Harmonische Filtering: Het dichtheidsveld wordt gedecomposeerd in kanalen met behulp van sferische-harmonische-bewuste filters ($\ell \in \{0, 1, 2\}$) in de Fourier-ruimte. Deze filters produceren rotatie-invariante scalaire kanalen:
     • $\ell=0$: Een gesigneerde monopole respons ($E_0$).
     • $\ell=1$: Een vector-achtige respons met invariante amplitude ($E_1$).
     • $\ell=2$: Twee scalaire invarianten afgeleid van een sporenloze symmetrische tensor ($E_2$ voor anisotropie-sterkte, $I_3$ voor het onderscheiden van prolaat/oblaat vormen).
   • Verwerking: Deze invariante kanalen worden verwerkt door onafhankelijke Multi-Layer Perceptrons (MLP's) en gecombineerd via additieve interactie met een cross-interactieterm. De output wordt door een softplus-activatie geleid om positiviteit te waarborgen.
   • Initialisatie: Het netwerk wordt geïnitialiseerd zodanig dat $M(x) \approx 1$, wat betekent dat de training begint vanaf het ongemerkte veld. Dit maakt het mogelijk dat de geleerde mark gedecomposeerd kan worden in onderscheidende morfologische bijdragen.

2. Contrastieve Leersdoelstelling:

   • Het raamwerk gebruikt een contrastieve leersdoelstelling (InfoNCE) om gemerkte samenvattingen uit te lijnen met kosmologische parameters $\theta$ in een gedeelde latente ruimte.
   • Samenvattingsvectoren: De samenvatting bevat het vermogensspectrum van het ongemerkte veld ($P_{\delta\delta}$) en het gemerkte veld ($P_{\Delta\Delta}$), samen met het cross-spectrum ($P_{\delta\Delta}$) en de correlatiecoëfficiënt.
   • Residualisering: Om ervoor te zorgen dat de mark complementaire informatie leert in plaats van simpelweg het vermogensspectrum te reproduceren, wordt de gemerkte samenvattings-embedding ($z_M$) gerestualiseerd tegen de ongemerkte embedding ($z_\delta$) om een orthogonale component $z_\perp$ te produceren.
   • Verliesfunctie: De verliesfunctie lijnt $z_\perp$ uit met de parameter-embedding $z_\theta$ met behulp van een geleerde Mahalanobis-metriek, terwijl het tegelijkertijd gescheiden wordt van negatieve kandidaten gesampled uit de prior (echte, globale synthetische en lokale synthetische negatieven).
   • Trainingsstrategie: De ongemerkte tak wordt vooraf getraind en bevroren; daarna worden het marker-netwerk en de parameter-embedder fijn afgesteld met behulp van de contrastieve verliesfunctie.

Belangrijkste Bijdragen

• Generalisatie van Gemerkte Statistieken: Het artikel introduceert een neurale architectuur die het concept van gemerkte statistieken generaliseert, waarbij men verder gaat dan handmatige transformaties naar een geleerde transformatie die nog steeds inspecteerbaar blijft in de configuratieruimte.
• Interpreteerbaarheid via Equivariantie: Door lokale SO(3)-equivariante eigenschappen af te dwingen en sferische harmonische filters te gebruiken, extraheert het model kenmerken met duidelijke fysieke betekenissen (monopol, dipool, kwadrupool respons) die direct gevisualiseerd en geanalyseerd kunnen worden.
• Contrastieve Uitlijning: Het gebruik van een contrastieve doelstelling met residualisering zorgt ervoor dat de geleerde mark specifiek zich richt op informatie die orthogonaal staat aan het standaard vermogensspectrum, waardoor degeneraties doorbreken die traditionele statistieken niet kunnen oplossen.

Resultaten
De methode werd geëvalueerd op de Quijote N-body simulatie-suite ($z=0$) met 5 variërende kosmologische parameters ($\Omega_m, \Omega_b, h, n_s, \sigma_8$).

• Fisher Informatie Beperkingen: Bij $k_{\max} = 0.2 \, h\text{Mpc}^{-1}$ verstevigt de geleerde mark de gemarginaliseerde beperkingen met 2.9$\times$ voor $\sigma_8$ en 1.8$\times$ voor $\Omega_m$ vergeleken met klassieke marks. Cruciaal is dat het de canonieke $\Omega_m - \sigma_8$ degeneratie doorbreekt, waardoor de gezamenlijke posterior-contour wordt geroteerd om gelijktijdige verbetering op beide parameters mogelijk te maken.
• Generalisatie (MSE): Over een Latin-hypercube testset vermindert de geleerde mark de parameter Mean Squared Error (MSE) met 1.45$\times$ ten opzien van de beste klassieke mark. Het vertoont robuuste generalisatie, met name voor $\sigma_8$, hoewel klassieke marks iets stabieler blijven voor $\Omega_m$ in specifieke $(p, \delta_s)$ configuraties.
• Latente Geometrie: Principale Component Analyse (PCA) van de geleerde embedding laat zien dat de eerste twee hoofdcomponenten bijna perfect uitlijnen met de $\sigma_8$ en $\Omega_m$ richtingen, wat bevestigt dat de contrastieve doelstelling succesvol de dominante assen van kosmologische informatie herstelt.
• Introspectie: Analyse van de getrainde mark toont aan dat het isotrope ($\ell=0$) kanaal domineert in de respons, waardoor effectief een niet-lineair herwegde dichtheid wordt hersteld, terwijl anisotrope kanalen subdominante correcties leveren bij de grenzen van structuren.

Betekenis
Het artikel stelt dat deze aanpak de deur opent naar krachtigere en interpreteerbare samenvattende statistieken voor kosmologische inferentie. Door handmatige transformaties te vervangen door een geleerde, fysiek gemotiveerde architectuur, overbrugt de methode de kloof tussen de hoge beperkende kracht van veldniveau neurale netwerken en de interpreteerbaarheid van traditionele statistieken. Het vermogen om de geleerde mark in de configuratieruimte te inspecteren, stelt onderzoekers in staat om te begrijpen welke lokale morfologische kenmerken (bijv. voids, filamenten, anisotrope structuren) de rijkste kosmologische signalen dragen. De auteurs positioneren dit als een stap naar flexibele inferentie-instrumenten die de kosten van simulaties kunnen verlagen en het wetenschappelijk rendement van galaxy surveys kunnen verbeteren, met potentiële uitbreidingen naar andere parameters zoals primordiale niet-Gaussischeheid.