On the Acceleration of Pulsar Timing computations using Normalising Flows and Parallelisation

Stel je voor dat het universum een uitgestrekt, kosmisch orkest is, en dat er verborgen binnen deze symfonie zwakke, ritmische beats van een Gravitatiegolfachtergrond aanwezig zijn. Dit zijn geen geluidsgolven, maar rimpelingen in het weefsel van de ruimtetijd zelf, gecreëerd door massieve zwarte gaten die miljarden jaren geleden samen dansten. Om deze kosmische brom te horen, gebruiken wetenschappers "Pulsar Timing Arrays". Denk aan pulsars als de meest betrouwbare metronomen van het universum—dode sterren die zo snel en zo constant draaien dat ze lichtbundels uitzenden als vuurtorens. Door deze flitsen met extreme precisie te timen, kunnen astronomen detecteren of de ruimtetijd tussen ons en de pulsar is uitgerekt of samengedrukt door een passerende gravitatiegolf.

Het luisteren naar deze kosmische muziek is echter ongelooflijk moeilijk. De data zijn rommelig, vol met "ruis" van de eigen wiebelende rotatie van de pulsar, het interstellaire medium dat fungeert als een mistige lens, en de beperkingen van onze klokken. Het is alsof je een fluistering probeert te horen in een orkaan. Om de data betekenis te geven, gebruiken wetenschappers complexe wiskunde om het signaal van de ruis te scheiden, maar de wiskunde is zo zwaar en de data zo enorm dat het vaak weken of zelfs maanden duurt voordat één enkele computer de getallen heeft verwerkt. Dit artikel pakt deze flessenhals aan en stelt een eenvoudige maar vitale vraag: Kunnen we een snellere manier vinden om deze kosmische puzzels op te lossen zonder eeuwig te hoeven wachten?

De auteurs van deze studie, Churchil Dwivedi, Hiya Shah en Hemanga Tahbildar, besloten een nieuw, hoogtechnologisch hulpmiddel genaamd "Normalising Flows" te testen tegenover de oude, vertrouwde methoden die door de astronomische gemeenschap worden gebruikt. Ze behandelden het probleem als een race. Aan de ene kant van de baan stonden de traditionele hardlopers: PTMCMCSAMPLER, een werkpaard dat een techniek genaamd "Parallel Tempering" gebruikt (stel je voor dat je veel wandelaars op verschillende temperaturen een bergketen laat verkennen, waarbij ze van plaats wisselen om de hoogste pieken te vinden), en PARALLEL BILBY, een nieuwere hardloper die "Nested Sampling" gebruikt (als een team ontdekkingsreizigers die systematisch een zoekgebied verkleinen). Aan de andere kant introduceerden zij een sprinter genaamd POCOMC, die een slimme truc gebruikt: "Normalising Flows".

Om de truc te begrijpen, stel je het datalandschap voor als een gedraaide, geknoopte bol wol. Traditionele methoden proberen het te ontwarren door de uiteinden één voor één uit te trekken, wat lang duurt. POCOMC gebruikt echter een wiskundige "toverstaf" (de Normalising Flow) om de wol direct recht te trekken tot een gladde, eenvoudige lijn, waardoor het veel gemakkelijker is om de oplossing te vinden. De onderzoekers testten deze instrumenten op gesimuleerde data die de echte pulsarobservaties nabootsten, inclusief scenario's waarin de ruis eenvoudig was en scenario's waarin het een complexe, verstrengelde web van correlaties was.

De resultaten waren een mix van "snelste op een enkele machine" en "snelste met een enorm team". Wanneer ze op een enkele computer node draaiden, was POCOMC de onbetwiste kampioen. Het loste een complexe zoektocht op die de oude methode (PTMCMCSAMPLER) meer dan 10 dagen kostte, in slechts ongeveer 10 uur. Nog indrukwekkender: voor een specif근 type enkel-pulsar analyse voltooide het in ongeveer 10 uur, terwijl de oudere methode dagen zou hebben geduurd. De auteurs vonden dat POCOMC zo efficiënt was dat het zelfs geen supercomputer of speciale grafische kaarten nodig had om ongelooflijk snel te zijn; het had alleen een slim draaiende standaardcomputer nodig.

Het verhaal verandert echter wanneer je een heel team van computers bij de hand hebt. Wanneer de onderzoekers het werk verspreidden over vele computer nodes (tot 16 nodes, elk met 48 threads), nam de PARALLEL BILBY architectuur de leiding. Het was het beste in het verdelen van de arbeid onder het team. Voor een zoektocht die complexe correlaties bevat over de hele array van pulsars (een zogenaamde "Hellings en Downs" zoektocht), bracht PARALLEL BILBY de tijd terug naar ongeveer 100 minuten met 16 nodes, terwijl POCOMC op een enkele node veel langer nodig zou hebben gehad. Interessant genoeg liep POCOMC tegen een muur aan toen ze probeerden te veel computers toe te voegen; na ongeveer 4 nodes maakte het toevoegen van meer computers het niet sneller, en in sommige gevallen maakte het het zelfs langzamer. De auteurs vermoeden dat dit komt omdat de stap met de "toverstaf" te druk wordt wanneer te veel processoren tegelijkertijd aan de slag gaan.

Het paper vergeleken ook verschillende manieren om een specifiek type ruis, genaamd ECORR, te verwerken. Ze vonden dat de "fast-sherman-morrison" methode de meest efficiënte manier was om deze ruis te berekenen, terwijl de standaard "sherman-morrison" methode de langzaamste was. Ze merkten ook op dat PTMCMCSAMPLER de minst efficiënte van allemaal was, aanzienlijk langer duurde dan de anderen, en in sommige gevallen maakte het toevoegen van meer computers het proces juist langzamer in plaats van sneller.

Uiteindelijk suggereren de auteurs dat de toekomst van pulsar timing afhangt van het kiezen van het juiste instrument voor de taak. Als je werkt op een enkele computer of één pulsar tegelijk analyseert, is POCOMC de nieuwe ster, die een enorme versnelling biedt zonder dat er een supercomputer nodig is. Maar als je toegang hebt tot een enorme supercomputer met tientallen nodes en de gehele array van pulsars tegelijk wilt analyseren, is PARALLEL BILBY de beste keuze. Deze bevindingen suggereren dat wetenschappers door deze snellere methoden te gebruiken, binnenkort veel complexere modellen van het universum kunnen verkennen die voorheen onmogelijk te berekenen waren, wat ons mogelijk dichter bij het eindelijk horen van die kosmische brom van gravitatiegolven brengt.