Three-dimensional Conditional Diffusion Models for Cosmological 21 cm Lightcone Emulation

Technische Samenvatting: Driedimensionale Conditionele Diffusiemodellen voor Cosmologische 21 cm Lichtkegel-Emulatie

Probleemstelling
Het geredshiftede 21 cm-signaal van neutraal waterstof is een cruciale sonde voor de Cosmic Dawn en het Tijdperk van Re-ionisatie (EoR). Het interpreteren van toekomstige beeldvormingsdata van faciliteiten zoals HERA en SKA vereist snelle, fysisch betrouwbare forward-modellen over brede astrofysische parameter ruimten. Hoewel semi-numerieke simulaties zoals 21cmFAST standaard zijn, zijn ze computatievermogenintensief voor grootschalige parameter-sweeps of inferentie op basis van simulaties. Machine learning-emulators, met name generatieve modellen, bieden een oplossing. Het uitbreiden van deze modellen echter van 2D-beeldslices naar volledige 3D-lichtkegels introduceert echter aanzienlijke uitdagingen. Het toevoegen van een derde dimensie (diepte langs de gezichtslijn) verhoogt de geheugenkosten drastisch, wat zeer kleine micro-batches dwingt die optimalisatieruis versterken. Bovendien is de onderliggende voxelverdeling van 21 cm-brightness temperaturen sterk scheef en langstaartig, wat transformatieruimte-distorsies en dynamisch-bereikcontrole cruciaal maakt voor stabiele training en fysische fideliteit.

Methodologie
De auteurs onderzoeken conditionele diffusiemodellering voor 3D 21 cm-lichtkegel-emulatie met behulp van een dataset van 25.600 trainingslichtkegels gegenereerd door 21cmFAST.

• Data & Conditionering: De doelvelden zijn $64 \times 64 \times 1024$ voxel-cubes die een roodverschuivingsbereik van $z \in [7.51, 20.95]$ beslaan. De modellen worden geconditioneerd op twee astrofysische parameters: de minimale viriale temperatuur van halos ($\log_{10} T_{\text{vir}}$) en de ioniserende efficiëntie ($\zeta$).
• Architectuur: Een context-geconditioneerde U-Net wordt ingezet, met gebruik van anisotrope downsampling/upsampling-steps van $(2, 2, 4)$ om de langgerekte lichtkegel-geometrie te accommoderen. Het model gebruikt 128 basis-kanalen met kanaal-multiplicatoren $(1, 1, 2, 4)$ en integreert timestep- en condition-embeddings.
• Preprocessing-pijplijn: Een centraal focuspunt van de studie is de preprocessing-pijplijn, gedefinieerd als: $x_{\text{raw}} \to \text{primaire transformatie} \to \text{optionele squish} \to \text{diffusie} \to \text{inverse squish} \to \text{inverse transformatie}$. De auteurs vergelijken vier primaire normalisatietransformaties (Yeo–Johnson, Min–Max, Z-score, Arcsinh) en een optionele stap voor dynamisch-bereikcompressie ("squish").
• Validatie-ontwerp: De studie gebruikt 800 onafhankelijke realisaties per parameterpunt voor validatie over vijf verschillende referentie-parameter sets. Dit ontwerp test zowel de centrale tendens als de conditionele diversiteit van de doelverdeling.
• Evaluatiemetrieken: Gegenereerde steekproeven worden geëvalueerd met een hiërarchie van diagnostische middelen:
  1. Brightness-temperature ($T_b$) beeldslices (kwalitatief).
  2. Globaal signaal $\langle T_b \rangle$ versus roodverschuiving (gemiddelde evolutie).
  3. Vermogensspectrum (twee-punts ruimtelijke structuur).
  4. Gereduceerde verstrooiingscoëfficiënten (hogere-orde niet-Gaussische morfologie).
     Prestaties worden gekwantificeerd met behulp van standaarddeviatie-genormaliseerde gemiddelde absolute fout ($\text{MAE}_{\text{std}}$) als primaire rangschikkingsmetriek.

Belangrijkste Bijdragen & Resultaten

• Dominantie van Preprocessing: De studie identificeert preprocessing en dynamisch-bereikcontrole als de dominante factoren die trainingsstabiliteit en fysische fideliteit in 3D-omgevingen bepalen, waarbij ze de architecturale diepte of trainingsduur overtreffen zodra optimalisatie gestabiliseerd is.
• Optimale Configuratie: Onder de geteste configuraties levert Yeo–Johnson-preprocessing gecombineerd met matige amplitudecompressie ($A=0.1$) de meest consequent gunstige afweging op. Deze configuratie presteert beter dan Min–Max-, Z-score- en Arcsinh-transformaties, evenals configuraties zonder amplitudecompressie.
• Hiërarchie van Fideliteit: Het emulatiesucces volgt een duidelijke hiërarchie:
  • Globaal Signaal: Het model bereikt de sterkste overeenkomst en vangt nauwkeurig het tijdstip en de diepte van absorptiedalen.
  • Vermogensspectrum: De overeenkomst is zwakker, met name bij hoge-$k$ modi (kleine schalen), waar het model moeite heeft scherpe grenzen te reproduceren.
  • Strooiingscoëfficiënten: Hogere-orde niet-Gaussische morfologie blijft het moeilijkst om te matchen. Hoewel het model brede structurele patronen vastlegt, blijven meetbare biasen bestaan in multischaal-morfologie.
• Foutmodi: De primaire beperking is het onvermogen van het model om de scherp geconcentreerde, bijna-nul voxel-populatie die in 21cmFAST voorkomt, perfect te reproduceren. Het diffusiemodel neigt deze piek te verbreden, wat resulteert in "gladdere" geïoniseerde gebieden en kleine niet-nul pixels in visueel donkere gebieden. Deze gladmaking manifesteert zich als residuele mismatches in het vermogensspectrum op kleine schalen en in statistieken van hogere orde.
• Hyperparameter-gevoeligheid: Het verhogen van de modeldiepte (residublokken) leverde geen monotoon verbeteringen op; in feite presteerde het ondiepste model (1 residublok) beter dan diepere varianten, waarschijnlijk vanwege de ruige optimalisatiedynamiek veroorzaakt door kleine micro-batches in 3D.

Betekenis en Claims
De auteurs positioneren dit werk als een simulatie-niveau baseline voor driedimensionale 21 cm-emulatie, in plaats van een complete end-to-end inferentiepijplijn die klaar is voor survey-data.

• Methodologische Inzicht: Het artikel betoogt dat in hoogdimensionale regimes stabiele generatie primair afhankelijk is van preprocessing en dynamisch-bereikcontrole. Visuele plausibiliteit alleen is onvoldoende; morfologie-gevoelige diagnostische middelen (zoals verstrooiingscoëfficiënten) zijn noodzakelijk om biasen te detecteren die door samenvattingen van lagere orde mogelijk worden gemist.
• Scope: De studie is een interpolatietest binnen de trainingsparameter ruimte. Het adresseert nog niet survey-gerelateerde uitdagingen zoals instrumentrespons, voorgrondverontreiniging of onzekerheidskalibratie voor parameterschatting.
• Toekomstige Nut: De geïdentificeerde optimale configuratie (Yeo–Johnson + $A=0.1$) biedt een robuust startpunt voor toekomstige studies die gericht zijn op het incorporeren van realistische observationele effecten of het uitvoeren van inferentie op basis van simulaties, mits de beperkingen met betrekking tot morfologie op kleine schaal worden erkend.