Real-time graph neural networks on FPGAs for the Belle II electromagnetic calorimeter

Diese Arbeit stellt die erste Implementierung eines Graph Neural Network-basierten Trigger-Systems auf FPGAs für den Echtzeit-Trigger des elektromagnetischen Kalorimeters des Belle II-Experiments vor, das eine deterministische Latenz von 3,168 μs bei 8 MHz Durchsatz erreicht und gleichzeitig die Positions- und Energieauflösung sowie die Clusterreinheit und -effizienz im Vergleich zum Baseline-Algorithmus verbessert.

Das Wesentliche

Das Problem: Der überforderte Türsteher

Stellen Sie sich das Belle II-Experiment in Japan wie eine riesige, extrem schnelle Party vor, bei der Elektronen und Positronen (winzige Teilchen) mit voller Wucht aufeinandertreffen. Diese Kollisionen erzeugen eine Flut von neuen Teilchen, die von einem riesigen Detektor (dem Kalorimeter) aufgezeichnet werden.

Das Problem ist die Geschwindigkeit: Es passieren so viele Kollisionen pro Sekunde (bis zu 254 Millionen!), dass man nicht jede einzelne aufzeichnen kann. Der Speicherplatz würde sofort voll sein. Deshalb braucht man einen Türsteher (den sogenannten "Trigger"), der in Bruchteilen einer Mikrosekunde entscheidet: "Ist das hier eine interessante Kollision, die wir speichern sollen, oder nur langweiliger Hintergrundlärm?"

Der aktuelle Türsteher (der ICN-ETM) funktioniert wie ein sehr starrer, alternder Sicherheitsbeamter. Er nutzt einfache Regeln: "Wenn hier ein Lichtblinken ist, schau, ob daneben noch eins ist. Wenn ja, zähle es."
Das Problem: Wenn zwei Lichter sehr nah beieinander blinken (z. B. zwei Photonen, die fast gleichzeitig ankommen), sieht der alte Türsteher sie oft nur als ein großes Licht. Oder er wird von der Menge an zufälligem "Lichtlärm" (Strahlung vom Beschleuniger selbst) so verwirrt, dass er wichtige Ereignisse übersieht oder zu viel Müll speichert. Er ist starr, kann sich nicht anpassen und verpasst feine Details.

Die Lösung: Ein KI-gestützter Detektiv auf einem Chip

Die Forscher haben nun einen neuen Türsteher entwickelt: GNN-ETM.
Statt starrer Regeln nutzt dieser einen Graph Neural Network (GNN). Das ist eine spezielle Art von künstlicher Intelligenz (KI), die besonders gut darin ist, Zusammenhänge zu erkennen.

Die Analogie:
Stellen Sie sich vor, Sie schauen auf einen dunklen Raum, in dem viele Kerzen brennen.

• Der alte Türsteher zählt einfach: "Ich sehe drei Lichtpunkte. Ich zähle drei." Er ignoriert, ob die Lichter nah beieinander sind oder ob eines viel heller ist.
• Der neue KI-Türsteher betrachtet die Kerzen wie Punkte auf einem Netz (einem Graphen). Er fragt sich: "Welche Kerzen gehören zusammen? Bilden diese drei Lichter eine Gruppe, die von einem einzigen Teilchen stammt? Oder sind das zwei verschiedene Teilchen, die zufällig nah beieinander stehen?"

Er nutzt die räumliche Beziehung zwischen den Lichtern, um Muster zu erkennen, die für das menschliche Auge (oder den alten Computer) unsichtbar sind.

Wie funktioniert das auf dem Chip? (Der Trick)

KI-Modelle sind normalerweise sehr rechenintensiv und brauchen viel Zeit. Ein normales KI-Modell würde für diese Entscheidung vielleicht eine Sekunde brauchen – viel zu langsam für den Türsteher, der in 3 Mikrosekunden (das ist 1/300.000 Sekunde) entscheiden muss.

Die Forscher haben einen genialen Trick angewendet:

1. Komprimierung: Sie haben das KI-Modell so stark verkleinert und vereinfacht, dass es auf einem FPGA (einem speziellen, programmierbaren Computerchip, der wie ein Lego-Baukasten für Elektronik funktioniert) läuft.
2. Spezialisierte Architektur: Statt das Modell einfach nur zu verkleinern, haben sie die Hardware so gebaut, dass sie genau die Art von Berechnungen macht, die die KI braucht. Es ist wie ein Koch, der nicht nur ein Rezept hat, sondern eine Küche, die genau für dieses eine Gericht optimiert ist.
3. Ergebnis: Die KI trifft ihre Entscheidung in 3,168 Mikrosekunden. Das ist schnell genug, um im echten Betrieb mitzuhalten.

Was bringt das? (Die Vorteile)

Der neue Türsteher ist nicht nur schnell, sondern auch viel schlauer:

1. Bessere Trennung: Wenn zwei Photonen sehr nah beieinander landen, kann der alte Türsteher sie oft nicht unterscheiden. Der neue KI-Türsteher kann sie trennen. Das ist wie der Unterschied zwischen einem unscharfen Foto und einem hochauflösenden Bild. In der Mitte des Detektors ist die Positionsgenauigkeit um bis zu 18 % besser.
2. Müllvermeidung: Der neue Türsteher kann besser erkennen, was "echtes" Signal ist und was nur "Lärm" (Hintergrundstrahlung). Er filtert bis zu 20 % mehr Müll heraus, ohne dabei echte Teilchen zu verlieren.
3. Flexibilität: Der alte Türsteher hatte starre Grenzen (z. B. "nur 6 Gruppen pro Kollision"). Der neue kann dynamisch entscheiden, wie viele Gruppen er sieht.

Das Fazit

Dies ist ein historischer Moment in der Teilchenphysik. Es ist das erste Mal, dass eine so komplexe Graph-Neural-Network-KI direkt auf einem Chip in einem echten Teilchenbeschleuniger läuft und in Echtzeit entscheidet, welche Daten gespeichert werden.

Stellen Sie sich vor, Sie hätten einen Türsteher, der nicht nur zählt, wie viele Leute hereinkommen, sondern sofort erkennt, wer eine wichtige VIP-Gruppe ist, wer nur ein einzelner Gast ist und wer ein Störenfried, und das alles in einem Wimpernschlag, während er gleichzeitig eine Party verwaltet. Das ist genau das, was die Forscher mit dem GNN-ETM für das Belle II-Experiment erreicht haben. Es ermöglicht, seltene und spannende physikalische Phänomene zu finden, die dem alten System entgangen wären.

Technische Zusammenfassung

1. Problemstellung

Das Belle II-Experiment am SuperKEKB-Collider in Japan steht vor der Herausforderung, bei extrem hohen Luminositäten (bis zu $10^{34} \text{ cm}^{-2}\text{s}^{-1}$) physikalisch interessante Ereignisse in Echtzeit aus einer Flut von Hintergrundereignissen (Beam Background) herauszufiltern. Das elektromagnetische Kalorimeter (ECL) ist hierfür ein zentrales Subsystem.

Das bestehende Level-1 (L1) Trigger-System des ECL (basierend auf der „Isolated Cluster Number" (ICN)-Logik) stößt an seine Grenzen:

• Starre Logik: Es verwendet fest verdrahtete Algorithmen mit begrenzter Granularität und Skalierbarkeit.
• Ressourcenbeschränkungen: Es können maximal sechs Cluster pro Ereignis verarbeitet werden.
• Schlechte Auflösung: Die Positionsauflösung für hochenergetische Cluster ist unzureichend, und benachbarte Photonen (z. B. von neutralen Pionen) können oft nicht getrennt werden.
• Duplikate: Die Logik erzeugt häufig doppelte Cluster-Erkennungen bei überlappenden Signalen, was die Zählung verfälscht.
• Hintergrund: Steigende Raten an strahlungsinduzierten Hintergrund-Hits verschlechtern die Leistung des aktuellen Systems.

Ziel war es, ein flexibleres, genaueres und dennoch latenzkonformes System zu entwickeln, das komplexe Mustererkennung in Echtzeit ermöglicht.

2. Methodik

Die Autoren entwickelten GNN-ETM (Graph Neural Network-based Electromagnetic Calorimeter Trigger Module), ein System, das Graph-Neuronale Netze (GNNs) direkt auf FPGA-Hardware implementiert.

• Graph-Struktur: Die Trigger-Zellen (TCs) des Kalorimeters werden als Knoten in einem Graphen behandelt. Die Kanten werden dynamisch basierend auf räumlichen Korrelationen der Energieabscheidung gelernt, anstatt auf starren geometrischen Nachbarschaften zu basieren.
• Modellarchitektur (CaloClusterNet):
  • Das Modell nutzt GravNet-Blöcke, die eine dynamische Nachbarschaftssuche (k-nearest neighbors) und Message Passing durchführen.
  • Es verwendet Object Condensation Loss, um Cluster direkt aus den Eingabedaten zu identifizieren, ohne eine feste Anzahl von Ausgaben vorzugeben.
  • Das Netz sagt für jeden Cluster die Energie, die Position und eine Signal-Klassifikationswahrscheinlichkeit (Signal vs. Hintergrund) vorher.
• Hardware-Implementierung (FPGA):
  • Das System läuft auf einer AMD Ultrascale XCVU190 FPGA (Universal Trigger Board 4).
  • Um die strengen Ressourcen- und Latenzanforderungen zu erfüllen, wurde das Modell stark komprimiert:
    • Quantisierung: Mixed-Precision-Quantisierung (QKERAS) von 8 bis 16 Bit.
    • Pruning: 40% der Gewichte wurden entfernt.
    • Aktivierungsfunktionen: Sigmoid wurde durch eine lineare Approximation ersetzt.
  • Die Architektur ist als Dataflow-Accelerator aufgebaut, der Preprocessing (Kompression der TCs), den GNN-Inferenz-Schritt und Postprocessing (Cluster-Auswahl) in einer Pipeline verarbeitet.
• Training: Das Modell wurde mit simulierten Belle II-Daten trainiert, die verschiedene Photon-Multiplizitäten, Energiebereiche und überlagerte Beam-Background-Ereignisse abdecken.

3. Wichtige Beiträge

• Erste Implementierung eines GNN im L1-Trigger: Dies ist der erste Nachweis, dass ein GNN-basiertes Rekonstruktionssystem in der Echtzeit-Trigger-Pfad eines Collider-Experiments auf FPGA-Hardware läuft.
• Dynamische Graphenkonstruktion: Im Gegensatz zu statischen GNNs, die auf festen Geometrien basieren, konstruiert GNN-ETM Kanten dynamisch basierend auf gelernten räumlichen Beziehungen, was für die unregelmäßige Geometrie der Endkappen des ECL entscheidend ist.
• Signal-Klassifikation: Das System bietet erstmals eine integrierte Unterscheidung zwischen physikalischen Signalen und Hintergrund auf L1-Ebene, was dem bisherigen ICN-System fehlt.
• Vollständige Systemarchitektur: Die Arbeit beschreibt nicht nur das ML-Modell, sondern die gesamte Pipeline von der Datenvorverarbeitung auf dem FPGA bis zur Belle2Link-Schnittstelle für die Datenübertragung.

4. Ergebnisse

Die Leistung wurde sowohl mit Simulationsdaten als auch mit echten Kollisionsdaten (Dezember 2024) evaluiert:

• Latenz und Durchsatz: Das System erreicht eine End-to-End-Latenz von 3,168 µs und bewältigt den erforderlichen Durchsatz von 8 MHz (entsprechend der SuperKEKB-Bunch-Frequenz). Dies liegt zwar über der strengen 5-µs-Grenze für eine aktive Trigger-Entscheidung, ermöglicht aber den parallelen Betrieb zur Validierung.
• Positionsauflösung: Die Positionsauflösung für hochenergetische Cluster verbessert sich im zentralen Detektorbereich (Barrel) um bis zu 18 % im Vergleich zum ICN-Trigger.
• Cluster-Trennung: Für überlappende Cluster (z. B. zwei nahe beieinander liegende Photonen) verbessert sich die Trenneffizienz um bis zu 20 %.
• Reinheit und Effizienz:
  • Die Cluster-Reinheit (Purity) steigt bei niedrigen Energien für isolierte Cluster um bis zu 20 %.
  • Die Effizienz für überlappende Cluster verbessert sich ebenfalls um bis zu 20 %.
• Hintergrundunterdrückung: Durch den Signal-Klassifikator kann bei Beibehaltung von 97,5 % der Signale bis zu 70 % des Hintergrunds unterdrückt werden. Dies führt zu einer signifikanten Reduktion der Trigger-Rate unter hohen Hintergrundbedingungen.
• Energieauflösung: Die Energieauflösung ist mit dem Baseline-Trigger vergleichbar, wobei GNN-ETM geringere systematische Energiekorrekturen benötigt.

5. Bedeutung

Diese Arbeit markiert einen Meilenstein in der Anwendung von Machine Learning in der Hochenergiephysik:

1. Paradigmenwechsel: Sie beweist, dass komplexe, nicht-lineare ML-Modelle (GNNs) mit deterministischer Latenz auf FPGAs für Echtzeit-Trigger-Entscheidungen eingesetzt werden können, was bisher als unmöglich galt.
2. Zukunftssicherheit: Mit steigenden Luminositäten und komplexeren Hintergrundbedingungen werden starre Trigger-Logiken unzureichend. GNN-ETM demonstriert einen flexiblen Ansatz, der an veränderte Bedingungen angepasst werden kann.
3. Physikalische Gewinne: Die verbesserte Trennung von nahen Photonen und die bessere Hintergrundunterdrückung eröffnen neue Möglichkeiten für die Suche nach seltenen Prozessen (z. B. dunkle Photonen oder axion-ähnliche Teilchen), die oft durch kleine, nicht-isolierte Signale charakterisiert sind.

Zusammenfassend stellt GNN-ETM einen erfolgreichen Proof-of-Concept für den Einsatz moderner KI-Methoden in der kritischen Echtzeit-Datenverarbeitung von Großexperimenten dar.