Gaussian Process Eigenmodes for Statistical and Systematic Uncertainties in Template Fits

Dieser Beitrag schlägt vor, traditionelle pro-Bin Barlow-Beeston-Faktoren und Interpolationsmodifikatoren durch eine vereinheitlichte Eigenmode-Basis zu ersetzen, die aus Posterior-Verteilungen log-Gaußscher Cox-Prozesse abgeleitet wird, um sowohl statistische als auch systematische Unsicherheiten in Template-Fits am LHC effizient zu modellieren, wodurch die Dimensionalität reduziert wird, während die ursprüngliche Varianz erhalten bleibt oder nach oben begrenzt wird.

Das Wesentliche

Stellen Sie sich vor, Sie versuchen, einen winzigen, seltenen Edelstein (ein neues Teilchen) in einem riesigen, lauten Haufen Sand (Hintergrunddaten) an einem riesigen Teilchenbeschleuniger zu finden. Um dies zu tun, verwenden Physiker eine „Vorlage" – eine Karte davon, wie der Sandhaufen aussehen sollte, wenn kein Edelstein vorhanden ist. Sie vergleichen ihre tatsächlichen Beobachtungen mit dieser Karte. Wenn der echte Haufen eine seltsame Erhebung aufweist, die die Karte nicht vorhersagt, könnte dies der Edelstein sein.

Das Problem ist, dass das Erstellen dieser Karte schwierig ist. Die Karte wird aus Computersimulationen (Monte-Carlo) erstellt, die wie das Aufnehmen einer begrenzten Anzahl von Fotos des Sandhaufens sind. Wenn Sie nicht genügend Fotos haben, wird die Karte körnig und voller „Statik" (statistisches Rauschen). Wenn Sie versuchen, die Karte zu detailliert zu machen, um den Edelstein klar zu sehen, wird die Statik so laut, dass Sie der Karte überhaupt nicht mehr vertrauen können.

Diese Arbeit schlägt eine neue Methode vor, um diese Karte mit Gaußschen Prozessen (GPs) zu erstellen, was eine ausgefeilte mathematische Art zu sagen ist: „glattes, intelligentes Raten".

Hier ist die Aufschlüsselung der Ideen der Arbeit unter Verwendung einfacher Analogien:

1. Der alte Weg: Die „pixelige" Karte

Traditionell erstellen Physiker ihre Karte, indem sie die Daten in winzige Kästen (Bins) unterteilen und den Sand in jedem Kasten zählen.

• Das Problem: Wenn Sie eine begrenzte Anzahl von Simulationsfotos haben, sind einige Kästen leer oder enthalten sehr wenige Körner. Um die Unsicherheit dieser leeren Kästen zu handhaben, fügt die alte Methode einen „Wackelfaktor" (einen Störparameter) für jeden einzelnen Kasten hinzu.
• Die Konsequenz: Wenn Sie eine 3D-Karte mit Millionen von Kästen haben, landen Sie bei Millionen von Wackelfaktoren. Es ist, als würde man versuchen, ein Schiff zu steuern, indem man für jedes einzelne Holzbrett ein separates Ruder einstellt. Es ist rechenintensiv, und wenn die Daten knapp sind, wird die Karte so wackelig, dass sie den Edelstein verbergen oder gefälschte erzeugen könnte.

2. Der neue Weg: Die „glatte Fluss"-Karte

Die Autoren schlagen vor, die pixeligen Kästen durch einen glatten, fließenden Fluss (eine mathematische Funktion) zu ersetzen. Anstatt Körner in Kästen zu zählen, verwenden sie einen Gaußschen Prozess, um eine glatte Kurve zu zeichnen, die zu den Sanddaten passt.

• Die Magie: Da die Kurve glatt ist, „weiß" sie, dass, wenn ein Teil des Flusses hoch ist, die Nachbarn wahrscheinlich auch hoch sind. Sie leiht sich Stärke von ihren Nachbarn.
• Das Ergebnis: Selbst mit sehr wenigen Fotos (geringe Statistik) bleibt die Karte glatt und zuverlässig. Sie wird nicht körnig. Die Arbeit beweist mathematisch, dass diese glatte Karte immer präziser ist (weniger Unsicherheit aufweist) als die alte pixelige Karte, niemals schlechter.

3. Der „Eigenmode"-Trick: Komprimierung des Rauschens

Die Arbeit behandelt auch „systematische Unsicherheiten" – diese sind wie bekannte Fehler in der Kameraobjektivlinse (z. B. könnte die Linse leicht unscharf oder verschoben sein).

• Der alte Weg: Sie fügen für jede mögliche Art, wie die Linse falsch sein könnte, für jeden einzelnen Kasten einen separaten Knopf hinzu.
• Der neue Weg: Die Autoren verwenden eine Technik namens Eigenzerlegung. Stellen Sie sich vor, die Karte hat ein paar „grundlegende Formen" (wie eine Welle, einen Hügel oder eine Senkung), die die häufigsten Arten repräsentieren, wie die Daten aufgrund von Rauschen oder Linsenfehlern wackeln können.
• Der Vorteil: Anstatt Millionen von Knöpfen zu justieren, müssen Sie nur eine Handvoll dieser „grundlegenden Form"-Knöpfe justieren. Es ist wie das Komprimieren einer riesigen, hochauflösenden Videodatei in eine kleine MP3; Sie behalten die wichtigsten Informationen (die Form des Signals) und werfen das redundante Rauschen weg. Dies macht die Mathematik viel schneller und einfacher zu lösen.

4. Der Kompromiss: „Zwei-Schritt" vs. „Ein-Pass"

Die Arbeit ist ehrlich bezüglich einer Einschränkung.

• Die alte Methode (Barlow-Beeston): Dies ist wie ein „gemeinsames Profil". Sie betrachtet die Daten und die Karte gleichzeitig und passt die Wackler der Karte in Echtzeit an, während sie nach dem Edelstein sucht. Sie ist mathematisch perfekt, um den Edelstein zu finden, wenn die Daten knapp sind.
• Die neue Methode (GP-Eigenmode): Dies ist ein „Zwei-Schritt"-Prozess. Zuerst wird die glatte Karte aus der Simulation erstellt. Zweitens wird diese feste Karte verwendet, um den Edelstein zu finden.
• Der Haken: Da die Karte im ersten Schritt festgelegt ist, kann sie sich nicht perfekt an das spezifische Rauschen in den endgültigen Daten anpassen. Die Arbeit zeigt, dass bei sehr wenigen Daten (knappen Fotos) die alte Methode den Edelstein leicht besser findet, da sie sich besser anpasst. Wenn Sie jedoch viele Daten haben (was in modernen Experimenten üblich ist), ist der Unterschied winzig, und die Geschwindigkeit und Einfachheit der neuen Methode setzen sich durch.

Zusammenfassung der Behauptungen der Arbeit

• Was sie taten: Sie ersetzten die Standard-„pixeligen" Histogramm-Karten durch glatte „Gaußsche Prozess"-Karten und komprimierten die Unsicherheit in einige wenige „Eigenmoden" (grundlegende Formen).
• Was sie bewiesen:
  1. Die neuen glatten Karten sind mathematisch garantiert präziser als die alten pixeligen Karten, wenn die Daten knapp sind.
  2. Die neue Methode kann die Anzahl der „Wackel-Knöpfe" (Parameter) von Tausenden auf nur ein paar Dutzend reduzieren und macht komplexe 3D-Analysen möglich.
  3. Die alte Methode bleibt der „Goldstandard" für reine statistische Effizienz, wenn Daten extrem selten sind, aber die neue Methode ist für moderne, komplexe Experimente praktisch überlegen, bei denen systematische Fehler (wie Linsenfehler) dominieren.
• Das Werkzeug: Sie haben dies in ein kostenloses Softwarepaket namens Histimator eingebaut, damit andere Physiker es sofort verwenden können.

Kurz gesagt, bietet die Arbeit einen Weg, eine körnige, wackelige und rechenintensive Karte in eine glatte, stabile und effiziente zu verwandeln, die es Physikern ermöglicht, in höheren Dimensionen nach neuen Teilchen zu suchen, ohne in der Mathematik verloren zu gehen.

Technische Zusammenfassung

Technische Zusammenfassung: Eigenmoden Gaußscher Prozesse für statistische und systematische Unsicherheiten in Template-Fits

Problemstellung
Die statistische Inferenz am Large Hadron Collider (LHC) stützt sich auf das HistFactory-Framework, das Template-Histogramme zur Modellierung beobachtbarer Verteilungen verwendet. Unsicherheiten in diesen Templates werden traditionell über zwei Mechanismen behandelt: Bin-für-Bin Barlow–Beeston (BB)-Gamma-Faktoren für Monte-Carlo-(MC-)statistische Fehler und interpolationsbasierte Modifikatoren (z. B. histosys) für systematische Formvariationen. Beide Mechanismen skalieren linear mit der Anzahl der Bins. Diese Skalierung wird für mehrdimensionale Analysen oder bei begrenzten MC-Stichproben rechnerisch und konzeptionell prohibitiv. Darüber hinaus behandelt der BB-Ansatz Bins als unabhängige Poisson-Zählungen und verwirft die physikalische Glattheit der zugrundeliegenden Verteilungen. Diese Unabhängigkeit führt zu einer proliferation schwach eingeschränkter Störparameter, was bei schlechter MC-Statistik zu einer systematischen Unterabdeckung von Profil-Likelihoods führt.

Methodik
Die Autoren schlagen vor, diskrete Histogramm-Templates durch glatte funktionale Darstellungen zu ersetzen, die aus Log-Gaußschen Cox-Prozess (LGCP)-Posteriors abgeleitet sind, die an MC-Daten angepasst wurden. Die Methodik verläuft in drei Stufen:

1. LGCP-Modellierung: MC-Zählungen werden als Poisson-Prozess modelliert, wobei die Log-Intensität aus einem Gaußschen Prozess (GP) gezogen wird. Der Posterior-Modus liefert ein glattes Template, während die Posterior-Kovarianz korrelierte statistische Unsicherheiten über die Bins hinweg kodiert.
2. Systematische Integration: Systematische Formvariationen werden integriert, indem GP-Anpassungen für $\pm 1\sigma$-Variationspunkte generiert werden. Die Differenz der Log-Raten definiert eine systematische Richtung, die als Rang-1-Aktualisierung zur statistischen Kovarianz hinzugefügt wird.
3. Eigenzerlegung: Die kombinierte Kovarianzmatrix (statistisch + systematisch) wird einer Eigenzerlegung unterzogen. Die resultierenden Eigenmoden bilden eine kompakte Basis. Das Abschneiden dieser Basis auf die führenden $k$ Moden ersetzt den vollständigen Satz von Bin-für-Bin-Gamma-Faktoren und Interpolationsparametern durch eine kleine Anzahl gaußscher, eingeschränkter Amplituden ($z_i$).

Die Autoren beweisen, dass diese Konstruktion das Barlow–Beeston-Formalismus als Grenzfall enthält (wenn die GP-Längenskala $\ell \to 0$) und dass die GP-Posterior-Varianz an jedem Bin strikt durch die BB-Varianz nach oben beschränkt ist. Zusätzlich gewinnt das Framework im Grenzfall vernachlässigbarer statistischer Unsicherheit die HistFactory-Interpolation InterpCode 4 zurück.

Hauptbeiträge

• Vereinheitlichte Unsicherheitsbasis: Die Arbeit führt eine einzelne Eigenmodenbasis ein, die gleichzeitig statistische und systematische Template-Unsicherheiten kodiert und die Dimensionalität des Parameterraums im Vergleich zum Histogramm-Ansatz erheblich reduziert.
• Theoretische Schranken: Es wird bewiesen, dass die GP-Posterior-Varianz durch die BB-Varianz beschränkt ist, was sicherstellt, dass die Methode die Unsicherheit nicht unterschätzt. Es wird gezeigt, dass das Framework sowohl BB als auch die Standard-HistFactory-Interpolation als Grenzfälle zurückgewinnt.
• Implementierung: Die Methode ist im Open-Source-Python-Paket Histimator implementiert und bietet eine imperative API zum Erstellen dieser Likelihoods ohne Abhängigkeit vom ROOT-Framework.
• Diagnosewerkzeuge: Die Arbeit demonstriert, wie Eigenmoden-Ziehungen (pulls) zurück auf die Bin-Ebene projiziert werden können, sodass Analysten Ergebnisse mit vertrauten Bin-für-Bin-Diagnosewerkzeugen interpretieren können.

Ergebnisse
Die Methode wurde gegen zwei Benchmark-Experimente validiert:

1. Experiment A (Statistisch limitiert): Eine Suche nach seltenen Resonanzen mit begrenzter MC-Statistik ($N_{MC}$ bis hinunter zu 100 Ereignissen).

   • Binierungs-Dilemma: Das GP-Template löste die Spannung zwischen grober Binierung (Verwischen von Signalen) und feiner Binierung (rauschende Templates). Es behielt eine stabile Unsicherheitsquantifizierung (8–15 % Posterior-Unsicherheit) über das gesamte Spektrum bei, selbst wenn Histogrammbins weniger als 5 Ereignisse enthielten.
   • Abdeckung: Während die Joint-Profile-BB-Methode im Bereich geringer Statistiken eine bessere asymptotische Effizienz erreichte (durch Anpassung an die Daten), lieferte die GP-Methode kontinuierliche, verwertbare Schätzungen, wo Histogramme versagten (leere Bins). Die GP-Methode zeigte einen für Zwei-Schritt-Plug-in-Schätzer charakteristischen Bias-Varianz-Kompromiss.

2. Experiment B (Systematisch limitiert): Eine präzise Wirkungsquerschnittsmessung mit mehreren Untergründen und vier systematischen Quellen.

   • Kompression: Die kombinierte Kovarianz benötigte nur 6–11 Eigenmoden, um 95–99 % der Varianz zu erfassen, verglichen mit 44 Störparametern (40 Gammas + 4 Systematiken) im Histogramm-Ansatz. Dies entspricht einem Kompressionsverhältnis von etwa 7:1.
   • Leistung: Die GP-Eigenmoden-Methode erreichte eine äquivalente Linearität, Pull-Breite (0,96–0,99) und Intervallabdeckung (67,7–70,5 % für 68 %-Intervalle) wie der Standard-Histogramm-Ansatz.
   • Robustheit: Die reduzierte Dimensionalität führte zu einer sechsfachen Reduktion nicht-konvergenter Fits im Vergleich zur BB-Methode.

Bedeutung und Behauptungen
Die Arbeit behauptet, dass das Eigenmoden-Framework eine prinzipielle Alternative zu histogrammbasierten Templates bietet, insbesondere in Regimen, die von systematischen Unsicherheiten oder hochdimensionalen Phasenräumen dominiert werden.

• Effizienz vs. Robustheit: Die Autoren räumen eine theoretische Einschränkung explizit ein: Die GP-Methode ist ein „Zwei-Schritt-Plug-in"-Schätzer, während Barlow–Beeston ein „Joint Profile" durchführt, das die semiparametrische Effizienzgrenze erreicht. Folglich ist die BB-Methode in statistisch limitierten, einkanaligen Regimen (niedriges Verhältnis von MC-zu-Daten-Luminosität $\tau$) strukturell überlegen für die Signalentnahme. In systematisch limitierten Regimen (hohes $\tau$) ist der Effizienzverlust jedoch vernachlässigbar ($<9\%$ für $\tau=10$), was die Parameterkompression und Stabilität der GP-Methode zum dominanten operationellen Vorteil macht.
• Skalierbarkeit: Die Methode skaliert mit der effektiven Dimensionalität des GP-Kernels und nicht mit der Anzahl der Bins. Für ein 3D-Template mit $20^3$ Bins benötigt die GP-Methode $\sim 30$ Amplituden gegenüber 8.000 BB-Gammas.
• Look-Elsewhere-Effekt: Der glatte GP-Hintergrund liefert eine analytische Kovarianzstruktur für das Teststatistik-Feld, was die Berechnung von Look-Elsewhere-Versuchsfaktoren ohne zusätzliche Monte-Carlo-Simulationen ermöglicht, eine Fähigkeit, die im Histogramm-Ansatz fehlt.

Die Arbeit positioniert die GP-Eigenmoden-Methode nicht als Ersatz für den Joint-Profile-Ansatz in allen Szenarien, sondern als überlegenes Werkzeug zur Bewältigung hochdimensionaler systematischer Unsicherheiten und zur Stabilisierung von Fits in datenlimitierten Regimen, in denen traditionelle Histogramme versagen.