SymBoltz.jl: A symbolic-numeric, approximation-free, and differentiable linear Einstein-Boltzmann solver

SymBoltz.jl is een nieuw Julia-pakket dat lineaire Einstein-Boltzmann-vergelijkingen in de kosmologie oplost via een symbolisch-numerieke, differentieerbare en benaderingsvrije aanpak, waardoor het zowel nauwkeurige resultaten als efficiënte gradient-berekeningen voor parameteranalyse mogelijk maakt.

De kern

Stel je voor dat het heelal een gigantisch, ingewikkeld orkest is. De muzikanten zijn de deeltjes (zoals licht, donkere materie en neutrino's) en de dirigent is de zwaartekracht. Om te voorspellen hoe dit orkest klinkt – oftewel hoe het heelal eruitziet en evolueert – hebben kosmologen een heel moeilijke taak: ze moeten de partituren van dit orkest oplossen. Deze partituren zijn de Einstein-Boltzmann-vergelijkingen.

Vroeger waren de instrumenten om deze vergelijkingen op te lossen (zoals de bekende programma's CAMB en CLASS) als oude, zware analoge synthesizers. Ze waren krachtig, maar ze werkten alleen als je bepaalde knoppen omdraaide en de muziek "nabootste" met trucjes (benaderingen) om het sneller te laten gaan. Als je een nieuw instrument wilde toevoegen, moest je de hele synthesizer uit elkaar halen en opnieuw solderen.

SymBoltz is de nieuwe, digitale synthesizer die de auteur, Herman Sletmoen, heeft gebouwd. Het is een computerprogramma geschreven in de programmeertaal Julia. Hier is hoe het werkt, vertaald naar alledaagse taal:

1. De "Bouwdoos" in plaats van de "Monoliet"

Stel je voor dat je een huis wilt bouwen.

• De oude manier (CAMB/CLASS): Je krijgt één enorme, ondoordringbare bakstenen muur. Wil je een raam toevoegen? Dan moet je de hele muur afbreken en opnieuw opbouwen, terwijl je hoopt dat je niet de fundering verpest. Alles zit door elkaar heen.
• De SymBoltz-methode: Je krijgt een set Lego-blokken. Je hebt een blok voor "zwaartekracht", een voor "licht", een voor "donkere energie". Je bouwt je heelal simpelweg door deze blokken op elkaar te zetten. Wil je een ander type donkere energie? Dan haal je één blokje weg en leg je er een ander voor in de plaats. Je hoeft de rest van het huis niet aan te raken. Dit maakt het heel makkelijk om nieuwe theorieën te testen.

2. Geen "Snoepjes" meer (Geen benaderingen)

De oude programma's gebruikten vaak "snoepjes" (benaderingen) om de berekeningen sneller te maken. Ze dachten bijvoorbeeld: "Oh, deze deeltjes bewegen zo snel dat we ze maar als een vloeistof kunnen behandelen in plaats van individuele deeltjes." Dit werkt vaak goed, maar het is niet 100% waar. Als je een heel nieuw type deeltje toevoegt, kunnen deze snoepjes plotseling niet meer werken, en moet je de hele code herschrijven.

SymBoltz eet geen snoepjes. Het doet de echte, zware berekening, elke keer opnieuw.

• De analogie: Het is alsof je een auto rijdt. De oude programma's schakelden automatisch over op een "spookrijden"-stand als het te druk werd, om brandstof te besparen. SymBoltz rijdt gewoon de hele tijd op de echte weg, zelfs als het druk is.
• Hoe kan dat zo snel? Omdat SymBoltz slimme "autonome auto's" (impliciete oplossers) gebruikt die heel goed kunnen omgaan met moeilijke bochten (de wiskundige "stijfheid" van de vergelijkingen). Ze hoeven niet te snoepen om snel te zijn; ze zijn gewoon slim genoeg om de echte weg te nemen zonder vast te lopen.

3. De "Magische Telefoon" (Differentieerbaarheid)

Dit is misschien wel het coolste deel. Stel je voor dat je een model van het heelal hebt en je vraagt je af: "Wat gebeurt er met de temperatuur van het heelal als ik de hoeveelheid donkere materie met 1% verander?"

• De oude manier: Je moet het hele model opnieuw draaien met 1% meer, dan opnieuw met 1% minder, en dan kijken wat het verschil is. Dit is als het proberen van een nieuw recept door elke keer een hele nieuwe taart te bakken om te zien of je er wat suiker bij moet doen.
• De SymBoltz-methode: Omdat SymBoltz "differentieerbaar" is, kan het je direct het antwoord geven. Het is alsof de taart een magische sensor heeft die direct zegt: "Als je 1 suikerklontje toevoegt, wordt de taart 0,5% zoeter."
• Waarom is dit belangrijk? Voor wetenschappers die duizenden parameters tegelijk moeten testen (zoals bij het zoeken naar de beste theorie voor het heelal), is dit een game-changer. Het maakt het zoeken naar de juiste antwoorden veel sneller en nauwkeuriger.

4. De "Vertaler" (Symbolisch-Numeriek)

SymBoltz heeft een speciale vertaler. Je kunt de vergelijkingen opschrijven zoals een natuurkundige ze in een notitieboekje zou schrijven (met symbolen zoals $\rho$ voor dichtheid). De computer leest dit, begrijpt de structuur, en vertaalt het vervolgens automatisch naar supersnelle, lage-niveau computercode.

• Voordeel: Je hoeft geen expert in computercode te zijn om een nieuw heelal te modelleren. Je schrijft gewoon je natuurkunde op, en SymBoltz doet de zware vertaal- en rekenwerk.

Samenvatting

SymBoltz is een nieuw, modern gereedschap voor kosmologen.

1. Het is flexibel: Je bouwt je heelal met Lego-blokjes in plaats van een betonnen muur.
2. Het is eerlijk: Het doet de echte berekening zonder trucs of snoepjes.
3. Het is slim: Het kan direct vertellen hoe gevoelig het heelal is voor veranderingen, wat het zoeken naar nieuwe theorieën enorm versnelt.

Het is nog niet zo oud en heeft nog wat werk nodig om even snel te zijn als de gevestigde orde voor alle taken, maar het belooft een revolutie in hoe we nieuwe theorieën over het heelal testen en begrijpen. Het is de eerste stap naar een toekomst waarin het modelleren van het heelal net zo makkelijk is als het bouwen van een huis met Lego.

Technische samenvatting

Probleemstelling

De kosmologie bevindt zich op een kruispunt waar moderne waarnemingen steeds vaker spanningen tonen met de huidige $\Lambda$CDM-theorie. Dit vereist het ontwikkelen van realistischere modellen en het loslaten van modelafhankelijke benaderingen. Bestaande lineaire Einstein-Boltzmann-oplossers (zoals CAMB en CLASS) zijn essentieel maar hebben belangrijke beperkingen:

1. Afhankelijkheid van benaderingen: Om de extreme stijfheid (stiffness) van de vergelijkingen te hanteren, gebruiken traditionele codes vaak schakelende benaderingsschema's (zoals de tight-coupling approximation, TCA). Dit vereist dat onderzoekers meerdere versies van vergelijkingen afleiden en valideren voor verschillende regimes, wat de code complex en fragiel maakt.
2. Monolithische structuur: Codes zijn vaak opgebouwd als lineaire pipelines (achtergrond $\to$ thermodynamica $\to$ perturbaties). Het toevoegen van nieuwe deeltjessoorten of zwaartekrachtstheorieën vereist ingrijpende wijzigingen in vele bestanden, wat de modulariteit en leesbaarheid vermindert.
3. Gebrek aan differentieerbaarheid: Voor moderne statistische methoden zoals Hamiltonian Monte Carlo (HMC) en het trainen van emulators zijn exacte afgeleiden van de output ten opzichte van de inputparameters nodig. Traditionele codes zijn niet differentieerbaar; afgeleiden moeten worden benaderd via eindige differenties (wat onnauwkeurig en traag is) of via het trainen van neurale netwerken.
4. Twee-talen probleem: Data-analyse gebeurt vaak in Python, terwijl de zware berekeningen in C/C++/Fortran worden uitgevoerd, wat interoperabiliteit en flexibiliteit beperkt.

Methodologie: SymBoltz.jl

SymBoltz is een nieuwe Julia-pakket dat de Einstein-Boltzmann-vergelijkingen oplost met een unieke architectuur die drie kernprincipes combineert:

1. Symbolisch-numerieke interface:

   • Gebruikers definiëren modellen via hoog-niveau symbolische vergelijkingen (gebaseerd op ModelingToolkit.jl en Symbolics.jl).
   • De code is modulair opgebouwd rond fysieke componenten (bijv. fotonen, baryonen, donkere materie) in plaats van een lineaire pipeline.
   • Het systeem analyseert de symbolische structuur automatisch om de vergelijkingen te scheiden in een achtergrond (background) en perturbaties, en genereert vervolgens geoptimaliseerde, snelle numerieke code (ODE-functies en Jacobianen).
   • Waargenomen variabelen (algebraïsch afgeleid) en onbekende variabelen (differentiaal) worden automatisch onderscheiden en verwerkt.

2. Benaderingsvrijheid (Approximation-freeness):

   • In plaats van benaderingen te gebruiken om stijfheid te verminderen, gebruikt SymBoltz moderne impliciete ODE-oplossers (uit OrdinaryDiffEq.jl).
   • Deze oplossers integreren de volledige stijve vergelijkingen continu, zonder schakelen tussen verschillende vergelijkingssystemen.
   • De stijfheid wordt beheerd door efficiënte impliciete methoden (zoals Rosenbrock- en ESDIRK-methoden) die gebruikmaken van analytische Jacobianen.

3. Differentieerbaarheid:

   • Het pakket is volledig compatibel met automatische differentiatie (via ForwardDiff.jl).
   • Dit stelt gebruikers in staat om exacte afgeleiden te berekenen van elke output (zoals het vermogensspectrum $P(k)$ of $C_\ell$) ten opzichte van elke inputparameter.
   • Momenteel wordt forward-mode differentiatie gebruikt; reverse-mode is een doel voor de toekomst om MCMC-sampling te versnellen.

Technische Optimalisaties:

• Analytische en Sparse Jacobianen: Het systeem genereert automatisch de Jacobiaan-matrix ($J$) symbolisch. Omdat de vergelijkingen lineair zijn, is $J$ zeer spaarzaam (veel nullen). SymBoltz detecteert dit patroon en gebruikt sparse matrix-methoden, wat de kosten van impliciete stappen drastisch verlaagt.
• Interpolatie: Achtergrondvariabelen worden gesplineerd en als input gebruikt voor de perturbatiestap, wat de berekening versnelt zonder nauwkeurigheid te verliezen.

Belangrijkste Resultaten

• Nauwkeurigheid: De output van SymBoltz (materiaal- en CMB-vermogensspectra) komt overeen met de gevestigde code CLASS tot op 0,1% bij standaard precisie-instellingen. Voor lineaire $k$-waarden is de overeenkomst zelfs 0,01%.
• Prestaties:
  • Zonder benaderingen is SymBoltz met de Rodas5P-oplosser meer dan 10 keer sneller dan CLASS met zijn impliciete ndf15-oplosser bij vergelijkbare precisie.
  • Zelfs wanneer CLASS zijn benaderingen gebruikt en een expliciete solver inzet, presteert SymBoltz vergelijkbaar snel, terwijl het volledig benaderingsvrij blijft.
• Differentiatie: De code demonstreert succesvolle Fisher-voorspellingen en MCMC-sampling (met de NUTS-sampler) voor supernova-data. De afgeleiden worden exact berekend via automatische differentiatie, wat veel nauwkeuriger en robuuster is dan eindige differenties.
• Gebruiksgemak: Modellen kunnen worden aangepast door slechts een paar regels code te schrijven (bijv. het vervangen van de kosmologische constante door een dynamische donkere energie-soort $w_0w_a$), terwijl de rest van de infrastructuur automatisch wordt aangepast.

Significantie en Toekomstperspectief

SymBoltz vertegenwoordigt een paradigmaverschuiving in het modelleren van kosmologie:

1. Vereenvoudiging van Modelleren: Door de symbolische interface en de automatische scheiding van taken, wordt de drempel voor het testen van nieuwe fysica (zoals gewijzigde zwaartekracht) aanzienlijk verlaagd.
2. Synergie: De combinatie van symbolische kennis, impliciete oplossers en automatische differentiatie creëert een zelfversterkende cyclus. Symbolische kennis maakt het genereren van exacte, spaarzame Jacobianen mogelijk, wat impliciete oplossers sneller maakt, wat op zijn beurt het gebruik van benaderingen overbodig maakt.
3. Ecosysteem: Als Julia-pakket lost het het "twee-talen probleem" op en biedt het een modulair fundament voor een nieuw ecosysteem van differentieerbare kosmologische tools (van lineaire perturbaties tot niet-lineaire N-lichaamssimulaties).

Hoewel SymBoltz versie 1.0.0 al zeer krachtig is, zijn er nog uitdagingen, zoals het optimaliseren van de berekening van $C_\ell$ (die momenteel trager is dan in CLASS) en het implementeren van snelle reverse-mode differentiatie voor grootschalige MCMC-analyses. Desalniettemin biedt het een robuust, nauwkeurig en flexibel alternatief voor traditionele Boltzmann-codes.