FPGA-Accelerated Real-Time Diagnostics at DIII-D Using the SLAC Neural Network Library for ML Inference

Dit artikel demonstreert de succesvolle implementatie van een door FPGA versnelde machine learning-inferentiesysteem met de SLAC Neural Network Library op de DIII-D tokamak om real-time, adaptieve voorspelling en onderdrukking van disruptieve Edge Localized Modes mogelijk te maken via hot-swappable neurale netwerkgewichten.

De kern

Stel je een massieve, superhete ster voor die wordt vastgehouden in een gigantische magnetische fles. Dit is een tokamak, een machine die wetenschappers gebruiken om te proberen schone, onbeperkte energie (fusie) te creëren. Het probleem is dat de ster erin wispelturig is. Hij houdt van wiebelen, opzwellen en af en toe een driftbui hebben die een Edge Localized Mode (ELM) wordt genoemd. Als deze driftbuien te groot worden, kunnen ze de machine beschadigen of de reactie stilleggen.

Om de machine veilig te laten draaien, hebben wetenschappers een 'bewaker' nodig die de ster 24/7 in de gaten houdt, voorspelt wanneer hij een driftbui gaat krijgen, en direct op een 'kalmeer'-knop drukt.

Dit artikel beschrijft hoe het team bij de fusiereactor DIII-D een supersnelle, slimme bewaker bouwde met behulp van een speciaal type computerchip genaamd een FPGA (Field-Programmable Gate Array) en een aangepast 'brein' genaamd de SLAC Neural Network Library (SNL).

Hier is de uitleg van hoe het werkt, met eenvoudige analogieën:

1. Het Probleem: De "Te Snelle" Ster

De machine produceert een enorme hoeveelheid data (zoals een high-speed camera die een miljoen foto's per seconde maakt). Traditionele computers (zoals die in je laptop of zelfs krachtige servers) zijn te traag om deze data te bekijken, uit te rekenen of een driftbui aankomt, en een bevel te sturen om het te stoppen voordat het gebeurt. Tegen de tijd dat een normale computer zijn rekenwerk heeft voltooid, is de schade al aangericht.

2. De Oplossing: Een "Gespecialiseerd Brein" op een Chip

In plaats van al die data naar een trage computer te sturen, plaatste het team een klein, gespecialiseerd brein direct op de chip die de data ontvangt.

• De Chip: Ze gebruikten een AMD/Xilinx KCU1500 FPGA. Denk hierbij aan een Lego-bord dat direct kan worden omgevormd tot elk gereedschap dat je nodig hebt.
• Het Brein: Ze trainden een Neuraal Netwerk (een type AI) om de specifieke 'tekenen' van een aankomende driftbui te herkennen. Dit brein werd gebouwd met behulp van de SLAC Neural Network Library (SNL).

3. Hoe Het Werkt: De "Directe Vertaler"

Hier is de informatiestroom, beschreven als een estafetteloop:

1. De Ogen (Sensoren): De machine heeft sensoren genaamd Beam Emission Spectroscopy (BES) die de rand van het plasma in de gaten houden. Ze zien kleine rimpelingen in de 'ster'.
2. De Filter (Pre-processor): De FPGA ontvangt een stortvloed aan data van 160 verschillende sensoren. Het fungeert als een portier in een club, die direct het ruis filtert en alleen de 16 belangrijkste signalen (diegene die daadwerkelijk driftbuien voorspellen) doorlaat.
3. De Beslissing (De AI): De AI kijkt naar een tiny tijdsfragment (48 microseconden — sneller dan een knipoog) en vraagt: "Komt er een driftbui aan?"
   • Het classificeert de huidige staat (Is het rustig? Wordt het wild?).
   • Het berekent de kans op een driftbui.
4. De Actie (De Controller): Als de AI zegt: "Ja, een driftbui is waarschijnlijk", stuurt het direct een signaal naar een aparte controller. Deze controller schiet magneten (Resonant Magnetic Perturbation coils) af om het plasma zachtjes terug te duwen in een veilige vorm, waardoor de driftbui wordt gestopt voordat het de machine pijn doet.

4. De Superkracht: "Hot-Swapping" van Breinen

Het coolste deel van dit systeem is de flexibiliteit. Normaal gesproken, als je wilt veranderen hoe een computerchip denkt, moet je het uit elkaar halen, herbouwen en opnieuw beginnen. Dat duurt dagen.

Met de SNL-bibliotheek kan het team het brein onderweg updaten terwijl de machine draait.

• De Analogie: Stel je een chef-kok voor die een maaltijd bereidt. Normaal gesproken moet je, om het recept te veranderen, de hele keuken herbouwen. Met dit systeem kan de chef het receptkaartje direct verwisselen zonder het fornuis uit te schakelen.
• In de Praktijk: Ze kunnen de AI in een flits omschakelen van "driftbuien voorspellen" naar "controleren of het plasma stabiel is". Ze kunnen ook de wiskunde (gewichten en bias) updaten om te leren van nieuwe data zonder de machine ooit uit te schakelen.

5. De Resultaten: Snelheid en Succes

• Snelheid: Het hele proces — van het zien van de data tot het nemen van een beslissing — duurt ongeveer 5,28 microseconden. Dat is ongelooflijk snel; het is de tijd die het duurt voor een kolibrie om één keer met zijn vleugels te slaan.
• Efficiëntie: De chip gebruikt zeer weinig stroom en ruimte, waardoor er ruimte overblijft om later complexere taken toe te voegen.
• Real-world Test: Ze hebben dit systeem succesvol gebruikt tijdens live experimenten om deze storende gebeurtenissen te voorspellen en te onderdrukken, wat bewijst dat het werkt in een echte, hoog-risico omgeving.

Samenvatting

Dit artikel laat zien dat door een slim, aanpasbaar AI direct op de hardware te plaatsen die de sensoren uitleest, wetenschappers bijna direct kunnen reageren op problemen in een fusiereactor. Het is alsof je de reactor een reflexboog geeft die het trage 'denkende' deel van de hersenen omzeilt, waardoor het gevaar in real-time kan ontwijken. Dit is een cruciale stap richting het bouwen van fusiereactoren die in de toekomst veilig en continu kunnen draaien.

Technische samenvatting

1. Probleemstelling

De DIII-D tokamak-fusiereactor vereist real-time controlesystemen om plasma-stabiliteit te handhaven en storingen te voorkomen, specifiek Edge Localized Modes (ELM's). ELM's zijn explosieve gebeurtenissen die reactorcomponenten kunnen beschadigen en de opsluiting kunnen verslechteren.

• De Uitdaging: Conventionele plasma-controlesystemen vertrouwen op door de natuurkunde geïnformeerde modellen en empirische regels, die vaak het vermogen missen om zich aan te passen aan onverwachte overgangen nabij operationele grenzen.
• De Bottleneck: Hoewel Machine Learning (ML) superieure patroonherkenning biedt voor taken zoals storingvoorspelling, introduceert het implementeren van ML-modellen op standaard CPU's of GPU's latentie (vaak >1 ms) die incompatibel is met de sub-millisecond tijdsbeperkingen van real-time tokamak-contlussen.
• De Noodzaak: Een hardware-versnelde oplossing is vereist om diagnostische data met hoge bandbreedte (specifiek Beam Emission Spectroscopy of BES) te verwerken met microseconde-schaal latentie om actieve, adaptieve controle mogelijk te maken.

2. Methodologie

De auteurs hebben een hardware-versneld ML-inferentiesysteem ontwikkeld en ingezet dat direct is geïntegreerd in het real-time Plasma Control System (PCS) van DIII-D.

• Hardware Platform:
  • Apparaat: AMD/Xilinx KCU1500 FPGA (hostend een Kintex-7 FPGA).
  • Locatie: Direct geïnstalleerd in de PCIe-bus van de RTSTAB real-time signaalacquisitienode.
  • Connectiviteit: Gebruikt high-speed InfiniBand voor communicatie met de hoofd-PCS-host en actuatorcontrollers.
• Software Framework:
  • SLAC Neural Network Library (SNL): Een high-performance, FPGA-gebaseerd inferentiekader.
  • Werkstroom: Modellen worden extern getraind op HPC-clusters met standaard frameworks (PyTorch, TensorFlow, Keras) en gecompileerd voor FPGA-implementatie met de AMD Vitis toolchain (High-Level Synthesis).
  • Kernfunctie: SNL ondersteunt dynamisch herladen van neurale netwerkgewichten en -bias tijdens runtime zonder volledige hardware-resynthese (hercompilatie van de bitstream) te vereisen.
• Data-pijplijn:
  • Input: 160 diagnostische kanalen (ECE, CO2, BES) gedigitaliseerd met 1 MSps.
  • Pre-processing: Een op-FPGA module extrahert 16 specifieke BES-kanalen. Het construeert een temporale inputvenster van 48 opeenvolgende tijdschijven (48 µs) per kanaal.
  • Batching: Het systeem verwerkt 18 inferentiegebeurtenissen (frames) gelijktijdig in één cyclus om de doorvoer te maximaliseren.
• Neuraal Netwerk Architectuur:
  • Type: Multi-Layer Perceptron (MLP), volledig verbonden feedforward-topologie.
  • Input: 768 kenmerken ($48 \text{ tijdschijven} \times 16 \text{ kanalen}$).
  • Verborgen Lagen: Twee lagen met elk 50 neuronen, met ReLU-activering.
  • Output: Configureerbaar (1 tot 4 neuronen) afhankelijk van de taak (Binair voor ELM-detectie versus 4-klasse voor opsluitregime).

3. Belangrijkste Bijdragen

• Real-time FPGA-implementatie: Succesvolle integratie van een ML-inferentie-engine direct in het DIII-D PCS, met een inferentielatentie van 4,4–5,28 µs bereikt. Dit is ongeveer 10% van het data-innamevenster en voldoet aan strikte real-time vereisten.
• Dynamische Herconfigureerbaarheid: Gemonstriseerd vermogen om neurale netwerkgewichten en -bias (en zelfs outputlaagconfiguraties) te hot-swapen tijdens live experimentele operatie zonder het systeem te stoppen of de FPGA te resynthetiseren. Dit maakt het mogelijk om:
  • Tussen taken te wisselen (bijv. ELM-voorspelling versus classificatie van opsluitregimes).
  • Modellen continu te verfijnen om zich aan te passen aan "concept drift" (veranderende reactorcondities).
  • Ongebruikte inputkanalen te maskeren om sensorstoringen of veroudering op te vangen.
• End-to-End Integratie: Een naadloze pijplijn gecreëerd van high-speed digitalizers (1 MSps) via FPGA-inferentie naar het actuatorcontrolesysteem (Resonant Magnetic Perturbation coils) voor ELM-onderdrukking.
• Schaalbare Architectuur: Het ontwerp bevat dedicated pre- en post-processing logica op de FPGA om databatching (18 frames/cyclus) en parallelle data-overdracht (8 kenmerken/klokcyclus) te verwerken, waardoor optimale hulpbronnenuitbating wordt gewaarborgd.

4. Resultaten

• Prestatiebenchmarks:
  • Latentie: 5,28 µs bereikt voor een 4-klasse classificatiemodel.
  • Hulpbronnengebruik: Het ontwerp is zeer efficiënt en gebruikt slechts 5% van de DSP's, 8% van de Flip-Flops, 13% van de LUT's en 1% van de BRAM op de Kintex-7 FPGA. Dit laat aanzienlijke ruimte over voor complexere modellen of multitasking.
  • Timing: Het ontwerp voldoet aan tijdsbeperkingen bij een klokkfrequentie van 6 ns.
• Operationele Validatie:
  • Het systeem is met succes gebruikt tijdens gesloten-lus ELM-onderdrukkingsexperimenten.
  • Operators voerden meerdere gewicht/bias-herlaadcycli uit tussen schoten om het model aan te passen, wat de haalbaarheid van runtime-updates bewees.
  • De afgeleide ELM-kans ($P$) werd succesvol doorgestuurd naar een aparte controller om RMP-coils aan te passen, waarmee een functionele storingmitigatielus werd aangetoond.

5. Betekenis

• Fusiereactoren van de Toekomst mogelijk maken: Dit werk biedt een kritiek template voor reactor-relevante operatie in toekomstige continu-operationele fusieapparaten (zoals ITER of DEMO), waar autonome, adaptieve controle essentieel is voor veiligheid en efficiëntie.
• Paradigmaverschuiving in Controle: Het verplaatst plasma-controle van statische, op natuurkunde gebaseerde regels naar adaptieve, datagedreven strategieën die in staat zijn om niet-lineaire plasmadynamiek in real-time te hanteren.
• Generaliseerbaarheid: Hoewel gedemonstreerd op DIII-D, dient de architectuur (SNL + FPGA + RTSTAB) als blauwdruk voor algemene ML-gebaseerde diagnostische verwerking in andere high-energy physics en industriële controlesystemen die ultra-lage latentie vereisen.
• Toekomstperspectief: De auteurs identificeren dat het verwijderen van de CPU-gebaseerde middleware-laag (momenteel een bottleneck) om directe digitalizer-naar-FPGA streaming mogelijk te maken, de latentie verder zou verlagen en ware continue, gebeurtenis-gedreven controle zou mogelijk maken, vergelijkbaar met intelligente triggersystemen in high-energy physics.

Concluderend valideert dit artikel dat herconfigureerbare, FPGA-versnelde ML niet alleen haalbaar is maar essentieel voor de volgende generatie autonome fusieplasma-controle, met de snelheid en aanpassingsvermogen die nodig zijn om de complexe, dynamische omgeving van een tokamak-reactor te beheren.