FAST-HEP: Compiling Declarative Analysis Workflows for High-Energy Physics and Beyond

In de uitgestrekte, stille botsingen van deeltjes binnen machines zoals de Large Hadron Collider, zoeken wetenschappers naar de fundamentele regels die ons universum beheersen. Om deze regels te vinden, moeten ze door bergen data spitten, op zoek naar zeldzame patronen die verborgen liggen in miljarden gebeurtenissen. Dit proces is geen enkele experiment, maar een langdurige wetenschappelijke reis die decennia kan duren, en die vaak de specifieke computerprogramma's en softwaretools overleeft die werden gebruikt om het te creëren. De uitdaging ligt niet alleen in het eenmalig uitvoeren van de analyse, maar in het waarborgen dat dezelfde wetenschappelijke vraag jaren later nog steeds gesteld en beantwoord kan worden, zelfs wanneer de onderliggende technologie verandert, de betrokken mensen vertrekken en de dataformaten evolueren. Als de instructies voor hoe de data is verwerkt verloren gaan of te verstrengeld raken om te begrijpen, wordt het wetenschappelijke resultaat een zwarte doos, onmogelijk te verifiëren of te reconstrueren.

Om dit probleem van langetermijn wetenschappelijk overleven op te lossen, is een systeem genaamd FAST-HEP, gecentreerd rond een workflow-engine genaxt Flow, ontwikkeld door Luke Kreczko aan de Universiteit van Bristol. Dit systeem behandelt wetenschappelijke analyse niet als een rigide reeks computerinstructies, maar als een heldere, geschreven beschrijving van wat de wetenschapper wil bereiken, gescheiden van de specifieke code die daarvoor wordt gebruikt. Door het "wat" te scheiden van het "hoe", heeft de onderzoeker een manier gecreëerd om deze beschrijvingen te compileren tot een universeel plan dat op verschillende computers en met verschillende softwaretools kan draaien zonder dat het herschreven hoeft te worden. Deze aanpak zorgt ervoor dat de wetenschappelijke intentie transparant en reproduceerbaar blijft, waardoor de complexe machinerie van hogere energiesofysica kan evolueren zonder de experimenten die erdoor afhankelijk zijn te breken.

Decennialang hebben natuurkundigen hun data-analyse geschreven als imperatieve code, een stijl waarbij de computer precies wordt verteld hoe hij stap voor stap door de data moet bewegen, waarbij gebeurtenis na gebeurtenis wordt gecontroleerd. Hoewel dit op het moment zelf goed werkt, koppelt het het wetenschappelijke idee nauw aan de specifieke programmeertaal en bibliotheken die op dat moment worden gebruikt. Wanneer die bibliotheken veranderen of de onderzoekers die de code schreven vertrekken, wordt de analyse vaak moeilijk te begrijpen of onmogelijk opnieuw uit te voeren. Het nieuwe Flow-systeem verandert deze dynamiek door een declaratieve taal te introduceren. In dit model beschrijft een wetenschapper simpelweg de data die hij nodig heeft, de operaties die hij wil uitvoeren en de resultaten die hij verwacht, zonder zich zorgen te maken over de onderliggende mechanica. Het is als het schrijven van een recept dat de ingrediënten en het uiteindelijke gerecht opsomt, waarbij de specifieke kookinstrumenten en technieken later aan de chef worden overgelaten om te beslissen.

Het hart van dit systeem is een compiler die fungeert als een vertaler tussen de beschrijving van de wetenschapper en de uitvoering door de computer. Wanneer een wetenschapper zijn workflow indient, voert het systeem deze niet onmiddellijk uit. In plaats daarvan normaliseert het eerst de beschrijving, waarbij alle verspreide stukjes informatie verzamelt — zoals waar de data zich bevindt, welke correcties moeten worden toegepast en hoe verschillende scenario's moeten worden afgehandeld — in één enkel, volledig document. Het bouwt vervolgens een logische graaf, een kaart die laat zien hoe elk stukje data van de bron naar het uiteindelijke resultaat stroomt, waarbij inputs met outputs worden verbonden via duidelijke lijnen van afhankelijkheid. Deze kaart stelt het systeem in staat om fouten te controleren voordat er zware berekeningen beginnen, om er zeker van te zijn dat de vereiste data bestaat en dat de stappen samen logisch zijn.

Zodra de kaart is gebouwd en gevalideerd, maakt het systeem een backend-onafhankelijk executieplan. Dit plan is een gedetailleerde set instructies die beschrijft welk werk moet worden gedaan, maar specificeert niet welke computer of softwarebibliotheek het zal doen. Deze scheiding is cruciaal, omdat het betekent dat hetzelfde wetenschappelijke plan kan draaien op een laptop, een lokale cluster of een massaal gedistribueerd netwerk zonder de kernlogica te veranderen. Het systeem kan ook variaties afhandelen, zoals testen hoe resultaten veranderen als een specifieke meting iets anders is, door alleen de delen van het plan uit te breiden die worden beïnvloed, in plaats van het hele plan te herschrijven. Dit maakt het gemakkelijker om verschillende wetenschappelijke scenario's te verkennen en te begrijpen hoe onzekerheden de uiteindelijke conclusie beïnvloeden.

Het systeem besteedt ook veel aandacht aan provenance, wat het verslag is van exact hoe een resultaat tot stand is gekomen. Elke keer dat de workflow draait, genereert het een gedetelde samenvatting die de uiteindelijke output koppelt aan de specifieke versie van de software, de exacte databestanden die zijn gebruikt en de computeromgeving waarin het is uitgevoerd. Dit creëert een permanente, traceerbare geschiedenis voor elk wetenschappelijk resultaat. Als een wetenschapper jaren later een bevinding wil verifiëren, kan hij naar dit verslag kijken om precies te zien wat er is gebeurd, in plaats van het proces te moeten reconstrueren vanuit het geheugen of versnipperde aantekeningen. Dit niveau van detail verandert de workflow van een zwarte doos in een transparant proces waarbij elke stap zichtbaar en verantwoordelijk is.

De ontwikkeling van Flow werd gedreven door praktijkervaringen waarbij oudere systemen moeite hadden om zich aan te passen aan nieuwe technologieën. De onderzoeker merkte dat het simpelweg schrijven van code in een andere stijl niet genoeg was; de onderliggende softwarearchitectuur moest zo worden ontworpen dat onderdelen gemakkelijk konden worden vervangen. In het verleden vereiste het wijzigen van een enkele bibliotheek vaak het herschrijven van grote delen van het framework omdat de verschillende onderdelen te nauw met elkaar verbonden waren. Flow lost dit op door elke component, van databronnen tot outputformaten, te behandelen als een vervangbaar module die verbindt via duidelijke, gedefinieerde contracten. Dit betekent dat wanneer er nieuwe, snellere of efficiëntere tools beschikbaar komen, deze in het systeem kunnen worden ingeplugd zonder de wetenschappelijke analyse zelf te verstoren.

Deze aanpak is al getest in echte analyses voor grote experimenten, waaronder die bij de CMS-detector en het LUX-ZEPLIN experiment. De resultaten laten zien dat een beknopte, declaratieve beschrijving succesvol complexe berekeningen kan sturen over verschillende datastructuren en experimenten. Het systeem slaagt erin de wetenschappelijke intentie te scheiden van de implementatie, waardoor de analyse stabiel blijft terwijl het software-ecosysteem eromheen evolueert. Door de workflow expliciet en inspecteerbaar te maken, vermindert het systeem de last voor wetenschappers om zich elk detail van hun code te moeten herinneren en biedt het een solide fundament voor langetermijnbehoud.

Het uiteindelijke doel van dit werk is om ervoor te zorgen dat wetenschappelijke analyses in de loop van de tijd duurzaam blijven. In een veld waar datavolumes groeien en rekenbronnen steeds diverser worden, is het vermogen om resultaten te bewaren en te reproduceren essentieel. Flow biedt een manier om dit te doen door de workflow als een object van de eerste orde te behandelen dat gecompileerd, geanalyseerd en uitgevoerd kan worden, onafhankelijk van de tools die gebruikt worden om het te creëren. Dit stelt de wetenschappelijke gemeenschap in staat om haar software en hardware te laten evolueren zonder het vermogen te verliezen om het werk uit het verleden te begrijpen of te herhalen. Het systeem voert niet alleen de analyse uit; het documenteert het hele proces, waardoor de weg van ruwe data naar wetenschappelijke ontdekking helder en toegankelijk blijft voor toekomstige generaties.

Het succes van dit project rust op een verschuiving in de manier waarop wetenschappelijke software wordt gebouwd. In plaats van workflows te zien als tijdelijke scripts die eenmalig draaien en daarna worden vergeten, behandelt de onderzoeker ze als programma's die gecompileerd en gevalideerd kunnen worden. Dit perspectief maakt een niveau van transparantie en flexibiliteit mogelijk die voorheen moeilijk te bereiken was. Het systeem legt elke beslissing, elke afhankelijkheid en elke variatie vast, waardoor een compleet beeld van het wetenschappelijke proces ontstaat. Dit helpt niet alleen bij directe debugging en validatie, maar bouwt ook een blijvend verslag op dat gebruikt kan worden om resultaten te verifiëren lang nadat de oorspronkelijke onderzoeker is vertrokken.

Uiteindelijk biedt het werk gepresenteerd in dit artikel een nieuwe manier om over wetenschappelijke computing na te denken. Het beweegt weg van het idee dat de code het belangrijkste deel van een analyse is en richt zich in plaats daarvan op de helderheid van de wetenschappelijke beschrijving. Door de beschrijving van de wetenschap te scheiden van de machinerie die het uitvoert, zorgt het systeem ervoor dat de wetenschap zelf de prioriteit blijft. Dit stelt de tools en technologieën in staat om te veranderen en te verbeteren zonder de integriteit van het onderzoek te bedreigen. Het resultaat is een robuustere, transparantere en duurzamere aanpak van wetenschappelijke ontdekking, die kan aanpassen aan de toekomst terwijl het het werk uit het verleden eert.