Applying Self-organizing Maps to the Inverse Problem

Diese Arbeit untersucht die Anwendung von Self-Organizing Maps auf das inverse Problem in der Teilchenphysik zur Identifizierung vektorartiger Leptonen und zeigt, dass diese Methode, die Clustering mit Elementen des überwachten Lernens kombiniert, trotz des Fehlens von Standardmodell-Prozessen im Training mit multiklassifizierenden neuronalen Netzen konkurrieren kann und zusätzliche Werkzeuge zur Charakterisierung von Überschüssen bietet.

Das Wesentliche

Das große Rätsel: Wer hat den Kuchen gegessen?

Stellen Sie sich vor, Sie betreten einen Raum und finden dort ein paar Krümel auf dem Boden. Sie wissen, dass jemand dort war, aber Sie wissen nicht genau, wer. In der Teilchenphysik passiert genau das: Die Wissenschaftler beobachten im Teilchenbeschleuniger (dem LHC) manchmal seltsame "Krümel" – also mehr Ereignisse als erwartet. Das ist das Inverse Problem: Wir sehen das Ergebnis (die Krümel), müssen aber herausfinden, welche Theorie oder welches Teilchen dafür verantwortlich ist.

Die Forscher in diesem Papier haben zwei neue Methoden entwickelt, um dieses Rätsel zu lösen, indem sie maschinelles Lernen nutzen.

Die beiden Detektive

Die Autoren haben zwei verschiedene "Detektive" getestet, um herauszufinden, welches neue Teilchen (genannt "vektorähnliche Leptonen") für die seltsamen Krümel verantwortlich ist.

1. Der strenge Klassifizierer (Das neuronale Netzwerk / DNN)

Stellen Sie sich diesen ersten Detektiven als einen sehr gut ausgebildeten Schulmeister vor.

• Wie er arbeitet: Man zeigt ihm tausende von Fotos von verschiedenen Dieben (z. B. Dieb A mit 500 kg, Dieb B mit 1000 kg, Dieb C mit 1500 kg) und auch Fotos von harmlosen Passanten (dem "Standardmodell").
• Die Aufgabe: Wenn er neue Krümel sieht, sagt er: "Das sieht aus wie Dieb B!"
• Das Problem: Dieser Schulmeister ist sehr gut darin, Dinge zu erkennen, die er schon kennt. Aber wenn ein ganz neuer Dieb hereinkommt (z. B. einer mit 2500 kg), den er nie gesehen hat, versucht er verzweifelt, ihn dem ähnlichsten bekannten Dieb zuzuordnen. Er sagt dann fälschlicherweise: "Das muss Dieb C sein!", obwohl es eigentlich ein ganz anderer ist. Er ist stur und braucht viele Beispiele von "harmlosen Passanten", um sie auszuschließen.

2. Der organisierte Kartenleser (Self-Organizing Maps / SOM)

Der zweite Detektiv ist ein bisschen anders. Stellen Sie sich einen riesigen, leeren Stadtplan vor, auf dem viele kleine Häuser (Neuronen) stehen.

• Wie er arbeitet: Dieser Detektiv lernt ohne die harmlosen Passanten. Er bekommt nur die Fotos der Diebe (500 kg, 1000 kg, 1500 kg) gezeigt. Er ordnet diese Fotos automatisch auf dem Stadtplan an. Ähnliche Diebe landen in derselben Straße, ganz verschiedene in verschiedenen Vierteln.
• Der Clou: Wenn nun neue Krümel gefunden werden, schaut der Detektiv, in welchem Viertel des Stadtplans diese Krümel landen.
  • Wenn sie in der "1000-kg-Straße" landen, ist das die Antwort.
  • Wenn sie in einem ganz neuen, leeren Viertel landen, das nicht zu den bekannten Dieben passt, weiß der Detektiv: "Aha! Hier ist etwas Neues, das ich nicht kenne!"
• Der Vorteil: Dieser Detektiv muss sich die "harmlosen Passanten" (den Hintergrund) gar nicht erst auswendig lernen. Er kann sie einfach als "irgendwo anders" erkennen. Das ist super, wenn man im echten Experiment nicht genau weiß, wie viel "Müll" (Hintergrund) eigentlich da ist.

Die vier Test-Szenarien

Die Autoren haben ihre Detektive in vier verschiedenen Situationen getestet:

1. Der einfache Fall: Nur 10 Krümel von einem bekannten Dieb (1000 kg).
   • Ergebnis: Beide Detektive waren sofort richtig. Kein Problem.
2. Der Trickfall: 10 Krümel von einem unbekannten Dieb (2500 kg).
   • Ergebnis: Der Schulmeister (DNN) sagte fälschlicherweise "1500 kg". Der Kartenleser (SOM) sagte auch "1500 kg", weil es dem am ähnlichsten sah. Aber: Der Kartenleser konnte zeigen, dass die Krümel in einem Bereich landeten, der eigentlich leer sein sollte. Das war ein Warnsignal: "Hier stimmt was nicht mit den bekannten Dieben!"
3. Der Mischfall: Krümel von Dieben und harmlosen Passanten gemischt.
   • Ergebnis: Der Kartenleser konnte die Passanten leicht ausfiltern, weil sie in einem ganz anderen Teil des Stadtplans landeten. So blieb nur der echte Dieb übrig, den man identifizieren konnte.
4. Der schwierige Mischfall: Ein unbekannter Dieb (750 kg) gemischt mit Passanten.
   • Ergebnis: Hier waren beide Detektive etwas verwirrt. Der Kartenleser konnte die Passanten zwar entfernen, aber die verbleibenden Krümel passten nicht perfekt zu den bekannten Dieben. Das war ein Hinweis für die Wissenschaftler: "Schaut genauer hin, hier ist etwas Neues!"

Was ist das Fazit?

Die Studie zeigt, dass der Kartenleser (SOM) fast genauso gut ist wie der strenge Schulmeister (DNN), hat aber einen riesigen Vorteil:

• Er braucht keine perfekten Daten über den "Hintergrund" (die Passanten), um zu arbeiten.
• Er kann besser erkennen, wenn etwas völlig Neues passiert, das nicht in die bekannten Kategorien passt.
• Er ist wie ein Werkzeugkasten, der nicht nur sagt "Wer war es?", sondern auch "Wo genau im Raum ist das passiert?", was hilft, das Rätsel besser zu verstehen.

Zusammenfassend: Die Wissenschaftler haben bewiesen, dass man mit einer cleveren Art von "Karten-Lesen" (SOM) sehr gut neue Teilchen finden kann, selbst wenn man nicht genau weiß, wie viel "Rauschen" oder Hintergrundstörung im Experiment vorhanden ist. Es ist wie ein Detektiv, der nicht nur Gesichter erkennt, sondern auch merkt, wenn jemand im Raum ist, der gar nicht auf der Liste steht.

Technische Zusammenfassung

Titel: Anwendung von Self-Organizing Maps (SOM) auf das inverse Problem in der Teilchenphysik

Autoren: Vaidehi Tikhe, N. Kirutheeka, Sourabh Dube
Institutionen: Savitribai Phule Pune University und IISER Pune, Indien

---

1. Problemstellung

Das Papier adressiert das inverse Problem der Teilchenphysik: Gegeben ein experimentelles Ergebnis (z. B. ein Überschuss an Ereignissen gegenüber dem Standardmodell-Vorhersage), wie kann man die zugrunde liegende Theorie oder spezifische Parameter eindeutig identifizieren?

• Kontext: Während resonante Suchen (z. B. nach einem neuen Teilchen $X \to \ell\ell$) oft durch eine Analyse der invariante Masse eindeutig gelöst werden können, ist dies bei nicht-resonanten Suchen mit Kaskadenzerfällen (z. B. nach Vektor-Leptonen) schwierig.
• Herausforderung: In einem Szenario mit mehreren konkurrierenden Hypothesen (z. B. verschiedene Massen für Vektor-Leptonen) und potenziellen Untergrundprozessen des Standardmodells (SM) muss ein Algorithmus entscheiden, welche Hypothese den beobachteten Überschuss am besten erklärt.
• Ziel: Entwicklung einer Methode, die auch dann funktioniert, wenn der Untergrund rein datengetrieben geschätzt wird oder wenn nur eine kleine Anzahl von Ereignissen vorliegt.

2. Methodik

Die Autoren vergleichen zwei maschinelle Lernansätze, angewendet auf die Suche nach Vektor-Leptonen (VLLs) im Endzustand mit drei geladenen Leptonen ($3\ell$).

A. Datensatz und Variablen

• Simulation: Es wurden $pp$-Kollisionen bei 13,6 TeV mit MadGraph, Pythia und Delphes simuliert.
• Hypothesen: VLL-Massen ($m_L$) von 500, 750, 1000, 1500 und 2500 GeV.
• Untergrund: Standardmodell-Prozesse $WZ$ und $t\bar{t}Z$.
• Merkmale: 8 kinematische Variablen wurden als Eingabe für die Modelle verwendet (z. B. $L_T$, $H_T$, invariante Massen von Leptonpaaren, transversale Massen).

B. Ansatz 1: Multiklassifizierendes Deep Neural Network (DNN)

• Architektur: Ein überwachtes Lernmodell mit drei versteckten Schichten (32, 16, 8 Neuronen).
• Training: Das DNN wurde auf vier Klassen trainiert: $m_L = 500, 1000, 1500$ GeV und der SM-Untergrund.
• Funktion: Es gibt Wahrscheinlichkeiten für jede Klasse aus (Softmax-Ausgabe). Die Hypothese mit der höchsten medianen Wahrscheinlichkeit über eine Gruppe von Ereignissen wird als Lösung gewählt.

C. Ansatz 2: Self-Organizing Maps (SOM)

• Konzept: Ein unüberwachter Algorithmus, der hier jedoch in einem „supervidierten" Kontext genutzt wird.
• Training: Das SOM wurde ausschließlich auf den VLL-Hypothesen ($m_L = 500, 1000, 1500$ GeV) trainiert. Keine SM-Prozesse wurden im Training verwendet.
• Struktur: Ein 2D-Gitter von Neuronen (z. B. $n \times n$). Jeder Neuron repräsentiert einen Punkt im Merkmalsraum.
• Inferenz-Strategie:
  1. Für jedes beobachtete Ereignis wird die „Best Matching Unit" (BMU) im trainierten SOM gefunden.
  2. Um die BMU wird ein regionales Fenster ($m \times m$ Neuronen) definiert.
  3. Ein regionaler Trennscore (Regional Separation Score) wird berechnet, der das Verhältnis der Ereignisse der Zielklasse zu den anderen Klassen (inkl. SM, falls vorhanden) in diesem Fenster misst.
  4. Die Hypothese mit dem höchsten medianen regionalen Score wird als identifiziert angenommen.

3. Testfälle und Ergebnisse

Die Autoren testeten beide Methoden an vier definierten Szenarien:

• Fall 1 (Reiner Signalüberschuss, bekannte Masse): 10 Ereignisse bei $m_L = 1000$ GeV.
  • Ergebnis: Sowohl DNN als auch SOM identifizierten korrekt $m_L = 1000$ GeV.
• Fall 2 (Reiner Signalüberschuss, unbekannte Masse): 10 Ereignisse bei $m_L = 2500$ GeV (nicht im Training).
  • Ergebnis: Beide Modelle klassifizierten dies fälschlicherweise als $m_L = 1500$ GeV (die nächstgelegene trainierte Hypothese). Dies zeigt die Limitierung bei Extrapolation, ist aber erwartbar.
• Fall 3 (Signal + SM-Untergrund, bekannte Masse): 10 Signal ($500$ GeV) + 10 Untergrund.
  • Strategie: Ereignisse mit hohem SM-Score wurden herausgefiltert.
  • Ergebnis: Beide Methoden konnten den Signalüberschuss ($500$ GeV) erfolgreich isolieren und identifizieren.
• Fall 4 (Signal + SM-Untergrund, unbekannte Masse): 10 Signal ($750$ GeV) + 5 Untergrund.
  • Ergebnis: Das SOM konnte den Untergrund erfolgreich filtern. Die kinematische Verteilung der verbleibenden Ereignisse wies jedoch auf eine Masse hin, die nicht exakt mit den trainierten Klassen übereinstimmte, was eine weitere Prüfung anregte.

Leistungsvergleich (ROC-Kurven und AUC)

• DNN: Erzielte die besten AUC-Werte (Area Under Curve) für alle Klassen (z. B. $0.977$für$500$ GeV), da es explizit auf den Untergrund trainiert wurde.
• SOM: Erzielte konkurrenzfähige Ergebnisse (z. B. $0.881$für$500$ GeV mit $n=40, m=5$), obwohl es nie auf SM-Daten trainiert wurde.
• Optimierung: Die Leistung des SOM hängt von der Gittergröße ($n$) und der Fenstergröße ($m$) ab. Ein $40 \times 40$ Gitter mit einem $3 \times 3$ oder $5 \times 5$ Fenster zeigte die beste Balance.

4. Wichtige Beiträge und Innovationen

1. Neue Anwendung von SOMs: Die Nutzung von SOMs für das inverse Problem in der Teilchenphysik, insbesondere in einer „supervidierten" Konfiguration ohne Untergrundtraining, ist neuartig.
2. Robustheit gegenüber unbekanntem Untergrund: Der SOM-Ansatz demonstriert, dass man Signale auch dann charakterisieren kann, wenn der Untergrund nicht simuliert oder gelabelt ist (z. B. bei instrumentellem Untergrund oder rein datengetriebenen Schätzungen).
3. Interpretierbarkeit: Im Gegensatz zu „Black-Box"-DNNs bietet das SOM eine visuelle Darstellung der Datenclustering im Merkmalsraum. Man kann sehen, wie sich verschiedene Massenklassen im Gitter trennen.
4. Flexibilität: Die Methode erlaubt es, die Hypothesen iterativ zu verfeinern (z. B. durch erneutes Training mit einem anderen Massenbereich), falls die erste Klassifizierung auf eine unbekannte Masse hindeutet.

5. Bedeutung und Ausblick

• Komplementärer Ansatz: Während DNNs numerisch leicht überlegen sind, wenn der Untergrund bekannt ist, bieten SOMs einen wertvollen, alternativen Werkzeugkasten, insbesondere in Szenarien mit wenig Daten oder unbekanntem Untergrund.
• Strategie für LHC-Suchen: Die Autoren schlagen vor, SOMs auf die Ereignisse anzuwenden, die bereits von einem unterdrückenden DNN (zur Untergrundreduktion) ausgewählt wurden. Dies könnte helfen, subtile Überschüsse zu charakterisieren, die noch nicht signifikant genug für eine Entdeckungsbehauptung sind.
• Zukunft: SOMs werden als vielseitiges Instrument für die Suche nach Physik jenseits des Standardmodells (BSM) positioniert, das Einfachheit und spezifische Vorteile bei der Datenexploration bietet.

Fazit: Das Papier zeigt erfolgreich, dass Self-Organizing Maps eine leistungsfähige Alternative zu tiefen neuronalen Netzen für die Lösung des inversen Problems in der Teilchenphysik darstellen, insbesondere in Fällen, in denen traditionelle Trainingsdaten für den Untergrund fehlen.