Efficient neutral-IGM inference from noisy 21-cm forest spectra with latent-space U-Net encoding and XGBoost

Titel: Efficiënte inferentie van het neutrale IGM uit ruisbeïnvloede 21-cm bos-spectra met latent-space U-Net encoding en XGBoost

Auteurs: Sameer K. Patil et al.
Publicatie: MNRAS (2025)

---

1. Het Probleem

De 21-cm bos (een reeks smalle absorptiekenmerken in de radiospectra van hoge-sterrenquasars veroorzaakt door intergalactisch neutraal waterstof) biedt een unieke kans om de thermische staat van het neutrale intergalactische medium (IGM) tijdens de epoch of reionization (EoR) te bestuderen. Ondanks dat er meer dan 30 geschikte quasars bekend zijn bij $z > 5.5$, blijft het signaal in de praktijk moeilijk te detecteren vanwege:

• De intrinsieke zwakte van de absorptiekenmerken.
• Instrumentale thermische ruis.
• De beperkte helderheid van beschikbare achtergrondbronnen.

Traditionele methoden, zoals het gebruik van het één-dimensionale transmissie-krachtspectrum (1D power spectrum) gecombineerd met Bayesiaanse Markov Chain Monte Carlo (MCMC) inferentie, vereisen zeer lange integratietijden (honderden uren) en hoge signaal-ruisverhoudingen (SNR). Bovendien missen deze methoden vaak niet-Gaussische statistische eigenschappen die inherent zijn aan kosmologische signalen, wat leidt tot onnauwkeurige parameterbepalingen bij zwakke signalen.

2. Methodologie

De auteurs evalueren systematisch vijf verschillende inferentiepijplijnen om parameters van het IGM (de gemiddelde neutrale waterstoffractie $\langle x_{HI} \rangle$ en de X-straling verwarmings-efficiëntie $\log_{10} f_X$) te herwinnen uit gesimuleerde, ruisbeïnvloede 21-cm bos-spectra bij $z=6$.

De simulaties zijn gegenereerd met de semi-numerieke code 21cmFAST, waarbij realistische instrumentale ruis (voor uGMRT en SKA1-low) is toegevoegd. De vijf methoden zijn onderverdeeld in twee categorieën:

A. Likelihood-gebaseerde Bayesiaanse Methoden

• Methode A1: Traditionele Bayesiaanse inferentie (MCMC) op het 1D-krachtspectrum van het ruisbeïnvloede signaal.
• Methode A2: Bayesiaanse inferentie waarbij de ruiscomponent expliciet wordt afgetrokken van het krachtspectrum voordat de inferentie plaatsvindt.

B. Likelihood-vrije Machine Learning Methoden

Deze methoden gebruiken XGBoost (Extreme Gradient Boosting) voor regressie in plaats van MCMC.

• Methode B1: XGBoost-regressie direct op het 1D-krachtspectrum van het ruisbeïnvloede signaal.
• Methode B2: Eerst denoising (ruisreductie) van het spectrum met een U-Net (een convolutioneel neuraal netwerk), gevolgd door berekening van het 1D-krachtspectrum van het gedenoiste signaal, en vervolgens XGBoost-regressie.
• Methode B3 (De innovatieve aanpak): Geen gebruik van het krachtspectrum of expliciete denoising. In plaats daarvan wordt de encoder van de getrainde U-Net gebruikt om het ruwe, ruisbeïnvloede spectrum te comprimeren tot een latent-space vector (256 dimensies). Deze latent features worden direct gebruikt als input voor de XGBoost-regressor.

3. Belangrijkste Bijdragen

1. Systematische Vergelijking: Een uitgebreide benchmark van vijf inferentiepijplijnen, variërend van traditionele statistiek tot geavanceerde deep learning, onder verschillende telescopsensitiviteiten (uGMRT 50h/500h en SKA1-low 50h).
2. Hybride Deep Learning Architectuur: De introductie van een pipeline die de kracht van U-Net (voor feature-extractie uit ruis) combineert met XGBoost (voor snelle, interpreteerbare regressie).
3. Paradigmaverschuiving: Het aantonen dat het volledig kunnen weglaten van het krachtspectrum en het gebruik van latent features uit het ruwe spectrum superieure resultaten oplevert.
4. Open Source: De publicatie van de volledige code, trainingsdata en getrainde modellen.

4. Resultaten

De prestaties werden gemeten met een effectiviteitscore ($E$), waarbij een hogere score aangeeft dat de geschatte parameters dichter bij de ware waarden liggen en de onzekerheid smaller is.

• Superioriteit van ML: Machine learning-methoden (B1, B2, B3) presteerden over het algemeen aanzienlijk beter dan de traditionele Bayesiaanse methoden (A1, A2), vooral bij lage SNR.
• Beste Prestatie (Methode B3): De methode die latent features gebruikt (B3) leverde de beste resultaten op.
  • Voor een uGMRT-observatie van slechts 50 uur behaalde B3 een score van $E = 4.06$.
  • Ter vergelijking: De beste Bayesiaanse methode (A2) met 500 uur uGMRT-observatie haalde slechts $E = 2.67$.
  • Dit betekent dat de ML-methode een orde van grootte minder integratietijd nodig heeft voor betere of vergelijkbare resultaten.
• Robuustheid: Zelfs bij een enkel zichtlijn (single sightline) van 50 uur leverde Methode B3 zinvolle beperkingen op de parameters, terwijl traditionele methoden hier volledig faalden.
• Niet-Gaussische Informatie: De resultaten tonen aan dat het krachtspectrum cruciale niet-Gaussische informatie mist die door de U-Net in de latent space wordt vastgelegd.

5. Betekenis en Conclusie

Dit onderzoek toont aan dat hybride deep learning-pijplijnen (U-Net + XGBoost) de barrière voor het detecteren van het 21-cm bos significant verlagen.

• Observatiestrategie: Het maakt het mogelijk om de thermische staat en ionisatie van het IGM te bestuderen met bestaande faciliteiten zoals de uGMRT binnen haalbare observatietijden, zonder te wachten op de volledige operationaliteit van de SKA.
• Algemene Toepasbaarheid: De techniek van het gebruik van latent-space encoding van neurale netwerken gevolgd door gradient-boosted regressie is veelbelovend voor het extraheren van fysische informatie uit andere ruisbeïnvloede astrofysische datasets (bijv. 21-cm intensiteitsmapping, Ly$\alpha$-bossen), waar traditionele statistische methoden tekortschieten.

Samenvattend bewijst dit werk dat geavanceerde machine learning-methoden niet alleen de nauwkeurigheid van kosmologische inferentie verbeteren, maar ook de benodigde observatietijd met factoren van 10 of meer kunnen reduceren.