Stel je een wereld voor waarin we de kracht kunnen aanboren die ook de sterren voedt, een proces dat bekend staat als kernfusie. Om dit mogelijk te maken, bouwen wetenschappers enorme, doughnutvormige machines die tokamaks worden genoemd. In deze machines wordt superverhit gas, of plasma, door krachtige magnetische velden samengeperst totdat het fuseert, waarbij enorme hoeveelheden energie vrijkomen. De uitdaging is dat dit plasma ongelooflijk chaotisch en onstabiel is. Om het gecontroleerd en veilig te houden, vertrouwen onderzoekers op een breed scala aan sensoren die fungeren als het zenuwstelsel van de machine. Deze sensoren meten constant alles, van de temperatuur en druk van het gas tot de sterkte van de magnetische velden die het geheel bij elkaar houden. Decennialang hebben wetenschappers deze gegevens gebruikt om te voorspellen wanneer het plasma instabiel zou kunnen worden en om de machine in realtime te besturen. Echter, naarmate het doel verschuift naar het bouwen van een werkelijk zelfvoorzienende elektriciteitscentrale, is het enorme volume en de variëteit van deze gegevens overweldigend geworden, wat een nieuw soort puzzel creëert waar traditionele computerprogramma's moeite mee hebben.

Een team onderzoekers aan de Princeton University heeft een frisse kijk geworpen op dit gegevensprobleem, waarbij ze zich hebben gericht op hoe ze de gegevens kunnen organiseren voor de volgende generatie kunstmatige intelligentie. Ze verkennen het gebruik van "foundation models", een type geavanceerd computerprogramma dat algemene patronen leert van enorme hoeveelheden informatie, vergelijkbaar met hoe grote taalmodellen leren om de menselijke taal te begrijpen. Hoewel deze modellen revoluties hebben teweeggebracht in velden zoals taal- en beeldherkenning, is het toepassen ervan op kernfusie moeilijk omdat de gegevens niet uniform zijn. In een typisch fusie-experiment genereert de machine een chaotische mix van informatie: sommige sensoren maken eenvoudige, trage metingen van een enkele waarde, terwijl andere complexe, hogesnelheidsschetsen van golven en patronen vastleggen. De onderzoekers ontdekten dat het proberen te voeden van deze rommelige, gemengde gegevens direct in een computermodel vergelijkbaar is met het proberen te gieten van een emmer zand, een glas water en een handvol stenen tegelijkertijd in een enkele trechter; de verschillende materialen stromen simpelweg niet goed samen.

Om de omvang van de uitdaging te begrijpen, analyseerde het team gegevens van de DIII-D tokamak, een belangrijke onderzoekscapaciteit voor fusie. Ze catalogiseerden drieentwintig verschillende soorten metingen, variërend van eenvoudige stroommetingen tot complexe afbeeldingen of gelk-achtige golfpatronen. Ze ontdekten dat de gegevens qua snelheid enorm uiteenlopen. Sommige sensoren registreren informatie slechts enkele keren per seconde, terwijl andere duizenden snapshots per seconde vastleggen. Dit verschil beslaat vijf grootheden, wat betekent dat de snelste sensoren ongeveer honderdduizend keer sneller zijn dan de langzaamste. Bovendien komen de gegevens in verschillende vormen voor. Sommige metingen zijn slechts een enkele lijn getallen die in de tijd veranderen, andere zijn tweedimensionale rasters die lijken op warmtekaarten, en sommige zijn driedimensionale blokken gegevens die laten zien hoe golven door het plasma bewegen. Als een computermodel probeert om tegelijkertand van al deze gegevens te leren, loopt het het risico in de war te raken door het enorme volume aan snel bewegende gegevens, waardoor het potentieel de langzamere, maar even belangrijke signalen negeert die het verhaal vertellen over de algehele gezondheid van de machine.

De onderzoekers ontdekten ook dat de fysica binnen de machine voortdurend en onvoorspelbaar verandert. Het plasma gedraagt zich niet op een stabiele, voorspelbare manier; in plaats daarvan veranderen de eigenschappen van het plasma door minuscule fracties van een seconde als gevolg van turbulentie, terwijl de algehele vorm van het plasma zich over veel langere perioden ontwikkelt. Dit betekent dat standaardmethoden voor het opschonen en voorbereiden van gegevens, die vaak uitgaan van een stabiele achtergrond, niet in staat zijn de ware aard van het systeem te vangen. Het team realiseerde zich dat ze, om een succesvol foundation model te bouwen, de gegevens niet simpelweg op één grote hoop kunnen gooien. In plaats daarvan moeten ze zorgvuldig beslissen hoe ze de gegevens in de tijd snijden. Als ze naar een zeer kort tijdsvenster kijken, kunnen ze de snelle, chaotische golven duidelijk zien, maar missen ze het grotere plaatje van hoe de machine evolueert. Als ze naar een langer venster kijken, zien ze de langzame veranderingen, maar verliezen ze het detail van de snelle fluctuaties.

Door hun analyse stelde het team een specifieke strategie voor om deze gegevens te organiseren om ze bruikbaar te maken voor het trainen van deze geavanceerde modellen. Ze suggereerden dat een tijdsvenster van ongeveer honderd milliseconden een praktisch evenwicht vormt. Deze duur is lang genoeg om de langzame, gestage bewegingen van het plasma te vangen, maar kort genoeg om nog steeds de belangrijke, snel bewegende golven te kunnen zien. Ze adviseerden ook een methode voor het afhandelen van de verschillende snelheden van de sensoren. In plaats van alle gegevens op dezelfde snelheid te laten draaien, wat ofwel belangrijke hogesnelheidsdetails zou verliezen, ofwel een onbeheersbare hoeveelheid gegevens met lage snelheid zou creëren, stelden ze een flexibele verwerkingsaanpak voor. Afhankelijk van de specifieke modelarchitectuur die wordt gebruikt, suggereerden ze ofwel het vooraf berekenen van complexe representaties zoals spectrogrammen uit ruwe golfvormen om het gegevensvolume te verminderen, ofwel het verwerken van de gegevens "on-the-fly" door tijdsvensters te extraheren en normalisatie en augmentatie toe te passen terwijl het model traint. Deze aanpak stelt de computer in staat om tegelijkertijd te leren van de snelle sensoren en de langzame sensoren zonder ze in één enkele, kunstmatige mal te dwingen.

De studie concludeert dat hoewel de weg naar een toekomst met kernenergie complex is, de gegevens die nodig zijn om daar te komen toegankelijker worden als ze correct worden georganiseerd. De onderzoekers hebben in deze studie geen werkende kernfusiecentrale gebouwd, noch hebben ze een definitief, perfect model getraind. In plaats daarvan hebben ze een cruciaal blauwdruk geleverd. Ze hebben het landschap van de gegevens in kaart gebracht, de specifieke hindernissen geïdentificeerd die wetenschappers hebben verhinderd om grootschalige kunstmatige intelligentie in dit veld te gebruiken, en een duidelijke reeks richtlijnen geboden voor hoe nu verder te gaan. Hun werk suggereert dat door respect te tonen voor de unieke aard van de gegevens — hun verschillende snelheden, vormen en gedragingen — wetenschappers eindelijk de krachtige computersystemen kunnen gaan trainen die nodig zijn om de chaotische fysica van kernfusie te beheersen. Deze organisatie is de noodzakelijke eerste stap naar een toekomst waarin machines kunnen leren om de sterren op aarde te beheersen.