Transformer-Based Approach to Enhance Positron Tracking Performance in MEG II

Technische Zusammenfassung: Transformer-basierter Ansatz zur Verbesserung der Positronen-Tracking-Leistung in MEG II

Problemstellung
Das MEG II-Experiment sucht nach dem ladungsflavourverletzenden Zerfall $\mu \to e\gamma$. Ein kritischer Engpass für das Erreichen der angestrebten Sensitivität des Experiments ($6 \times 10^{-14}$) ist die Leistung des Positronen-Spektrometers unter Bedingungen mit hohem Pileup. Das Spektrometer nutzt eine zylindrische Driftkammer (CDCH), in der die Hit-Occupancy bei der Ziel-Stopprate der Myonen von $5 \times 10^7 \mu/s$ 35–50 % erreicht. Der konventionelle Rekonstruktionsalgorithmus, der auf lokaler Mustererkennung basiert, um nahe beieinander liegende Hits zu verbinden, leidet unter Ineffizienzen in der Track-Finding-Phase aufgrund von Kontamination durch Pileup-Hits. Diese Ineffizienz zwingt das Experiment dazu, mit einer reduzierten Myonen-Stopprate ($4 \times 10^7 \mu/s$) zu arbeiten, um eine akzeptable Tracking-Effizienz aufrechtzuerhalten, was wiederum die Gesamtzahl der messbaren Myonzerfälle begrenzt.

Methodik
Um die Einschränkungen der lokalen Mustererkennung zu adressieren, entwickelten die Autoren ein Transformer-basiertes Machine-Learning-Modell, das als Hit-Klassifikator konzipiert ist. Das Kernkonzept nutzt globale Korrelationen zwischen Hits über verschiedene Turn-Segmente der Positronen-Trajektorie hinweg, anstatt sich ausschließlich auf lokale Proximität zu verlassen.

• Modellarchitektur: Das Modell verwendet eine Transformer-Architektur mit zwei distinkten Attention-Blöcken: einem für Pixelated Timing Counter (pTC) Hits und einem für CDCH-Hits.
  • Eingaben: Das Modell nimmt pTC-Hits (assoziiert mit einem spezifischen Positronen-Kandidaten) und alle CDCH-Hits eines Ereignisses als Input entgegen.
  • Feature Engineering: Um effektive Attention-Mechanismen zu ermöglichen, führten die Autoren spezifische geometrische Transformationen ein. Dazu gehören die konforme Abbildung der Hit-Koordinaten zur Ausrichtung der Trajektorien sowie die Rotationsausrichtung basierend auf dem ersten pTC-Hit, um die Detektorsymmetrie auszunutzen. Die Features umfassen Driftzeit, Drahtposition und kalibrierte Muster ($z_{turn;s}$, $\phi_{turn;s}$), die aus Michel-Positronen-Tracks abgeleitet wurden, um Hits zuzuordnen, die zu spezifischen Turn-Segmenten gehören (z. B. $s=1$ für die letzte halbe Drehung, $s=2$ für die vorangehende Drehung).
  • Ausgabe: Das Modell klassifiziert jeden CDCH-Hit in eine von mehreren Kategorien: Pileup/Rauschen ($s=\emptyset$) oder spezifische Track-Segmente ($s \in \{1, 2_{in}, 2_{out}, 3_{in}, 3_{out}, 4_{in}, 4_{out}\}$).
• Trainingsstrategie: Das Modell wurde auf einem Datensatz trainiert, der aus 90 % Monte Carlo (MC)-Proben und 10 % Low-Rate-Datensätzen besteht. Um eine Überanpassung an MC-spezifische Detektor-Ausrichtungen zu verhindern, wurden Low-Rate-Daten (bei denen die konventionelle Rekonstruktion hochgradig zuverlässig ist) verwendet, um die CDCH-Hits zu annotieren. Diese datengestützten Annotationen wurden dann mit High-Rate-Hintergrunddaten gemischt, um die Pileup-Umgebung zu simulieren. Es wurde ein zweistufiger Trainingsprozess angewandt: Zuerst das Erlernen der Korrelationen zwischen Signal-Hits bei niedrigem Pileup, und zweitens das Erlernen der Diskriminierung zwischen Signal und Pileup bei hohen Raten.
• Integration: Das trainierte Modell fungiert als Vorfilter. Bevor die Standard-Track-Finding- und Fitting-Algorithmen (beschrieben in Ref. [5]) ausgeführt werden, selektiert das Modell CDCH-Hits basierend auf einem Wahrscheinlichkeitsschwellenwert. Dies reduziert den Input für den Rekonstruktionsalgorithmus auf einen „reinheitsoptimierten“ Satz von Hits.

Wesentliche Beiträge

1. Neuartige Architektur: Die Anwendung eines Transformer-Modells auf das Filtern von Driftkammer-Hits, insbesondere unter Nutzung von Cross-Attention zwischen pTC- und CDCH-Hits sowie Self-Attention unter CDCH-Hits zur Identifizierung globaler Track-Muster.
2. Robustheit gegenüber Pileup: Die Methode entkoppelt die Rekonstruktionseffizienz erfolgreich von der typischerweise durch hohe Occupancy (35–50 %) verursachten Degradierung, wodurch der Algorithmus dort effektiv arbeiten kann, wo die lokale Mustererkennung versagt.
3. Operationale Optimierung: Die Implementierung ermöglicht es dem Experiment, an der Hardware-Grenze der Myonen-Stopprate ($5 \times 10^7 \mu/s$) zu operieren, ohne die Tracking-Leistung zu beeinträchtigen.

Ergebnisse
Die vorgeschlagene Methode wurde sowohl mit MC-Proben als auch mit echten Daten, die von MEG II gesammelt wurden, evaluiert:

• Hit-Filtering-Leistung: Bei einer Myonen-Stopprate von $5 \times 10^7 \mu/s$ erreichte das Modell eine Signal-Hit-Effizienz von 98 %, während es 87 % der Pileup-Hits verworf (Falsch-Positiv-Rate von 13 %).
• Tracking-Effizienz: Die Verwendung des Transformer-Filters führte zu einer Steigerung der Positronen-Tracking-Effizienz um 15 % bei $5 \times 10^7 \mu/s$ im Vergleich zur konventionellen Methode. Dieser Gewinn wurde sowohl in MC als auch in den Daten beobachtet, wobei die Daten eine konsistente Verbesserung über den getesteten Ratenbereich zeigten.
• Tracking-Auflösung: Die Auflösung der Positronen-Track-Parameter verbesserte sich um etwa 5 %. Insbesondere die $z$-Auflösung (Position entlang des Drahtes) und die Impulsauflösung (abgeleitet aus dem 52,8 MeV Endpunkt-Spektrum der Michel-Positronen) zeigten signifikante Gewinne. Die Verbesserung der Impulsauflösung wurde als etwa 10 % quantifiziert, basierend auf der Reduktion von Tracks, die das kinematische Limit überschreiten.
• Rechenaufwand: Trotz der Hinzunahme des ML-Inferenzschritts sank die gesamte Ereignisverarbeitungszeit auf 70–80 % des konventionellen Ansatzes. Dies liegt daran, dass die reduzierte Anzahl an Pileup-Hits die Phasen der Seed-Konstruktion und Kandidatengenerierung erheblich beschleunigt hat, welche am empfindlichsten gegenüber der Occupancy sind.

Bedeutung
Das Paper behauptet, dass diese Leistungssteigerungen direkt transformativ für die physikalische Reichweite von MEG II sind. Durch die Ermöglichung des Betriebs bei der höheren Myonen-Stopprate von $5 \times 10^7 \mu/s$ (die zuvor aufgrund von Effizienzverlusten auf $4 \times 10^7 \mu/s$ begrenzt war) und der gleichzeitigen Verbesserung der Tracking-Auflösung erwartet das Experiment eine Steigerung der Sensitivität der $\mu \to e\gamma$ Verzweigungsverhältnis-Messung um etwa 10 %. Folglich hat die Kollaboration beschlossen, den bis 2022 gesammelten Datensatz mit dieser neuen Methode neu zu prozessieren, und hat bereits die Myonenstrahlrate für die Datenerfassungsperiode 2025 erhöht. Die Autoren kommen zu dem Schluss, dass dieser Ansatz einen signifikanten wissenschaftlichen Gewinn darstellt und eine erfolgreiche Integration von Deep Learning in die Rekonstruktion von High-Occupancy-Tracking-Detektoren ist.