Gaussian Process Eigenmodes for Statistical and Systematic Uncertainties in Template Fits

Dit artikel stelt voor om traditionele Barlow-Beeston-factoren per bin en interpolatiemodifiers te vervangen door een verenigde eigenmode-basis, afgeleid van posterieuren van log-Gaussische Cox-processen, om zowel statistische als systematische onzekerheden in LHC-templatefits efficiënt te modelleren, waardoor de dimensionaliteit wordt gereduceerd terwijl de oorspronkelijke variantie wordt behouden of begrensd.

De kern

Stel je voor dat je probeert een kleine, zeldzame edelsteen (een nieuw deeltje) te vinden, verborgen in een enorme, lawaaierige hoop zand (achtergrondgegevens) bij een gigantische deeltjesversneller. Om dit te doen, gebruiken natuurkundigen een "sjabloon" – een kaart van hoe de zandhoop er moet uitzien als er geen edelsteen is. Ze vergelijken hun werkelijke waarnemingen met deze kaart. Als de echte hoop een vreemde bult heeft die de kaart niet voorspelt, zou dat de edelsteen kunnen zijn.

Het probleem is dat het maken van deze kaart lastig is. De kaart wordt gebouwd op basis van computersimulaties (Monte Carlo), wat vergelijkbaar is met het nemen van een beperkt aantal foto's van het zand. Als je niet genoeg foto's hebt, wordt de kaart korrelig en vol "ruis" (statistische ruis). Als je probeert de kaart te gedetailleerd te maken om de edelsteen duidelijk te zien, wordt de ruis zo luid dat je de kaart helemaal niet meer kunt vertrouwen.

Dit artikel stelt een nieuwe manier voor om die kaart te bouwen met Gaussische Processen (GP's), wat een chique wiskundige manier is om te zeggen "glad, intelligent gissen".

Hier is de uiteenzetting van de ideeën uit het artikel met behulp van eenvoudige analogieën:

1. De Oude Manier: De "Gepixelde" Kaart

Traditioneel bouwen natuurkundigen hun kaart door de gegevens op te delen in kleine vakjes (bins) en het zand in elk vakje te tellen.

• Het Probleem: Als je een beperkt aantal simulatiefoto's hebt, zullen sommige vakjes leeg zijn of zeer weinig korrels bevatten. Om de onzekerheid van deze lege vakjes te hanteren, voegt de oude methode een "wobbelfactor" (een storende parameter) toe aan elk enkel vakje.
• Het Gevolg: Als je een 3D-kaart hebt met miljoenen vakjes, eindig je met miljoenen wobbelfactoren. Het is alsof je probeert een schip te sturen door een apart roer aan te passen voor elk afzonderlijk plankje hout. Het is computergewijs zwaar, en wanneer de gegevens schaars zijn, wordt de kaart zo wankel dat het de edelsteen kan verbergen of neppe kan creëren.

2. De Nieuwe Manier: De "Gladde Rivier"-Kaart

De auteurs stellen voor om de gepixelde vakjes te vervangen door een gladde, stromende rivier (een wiskundige functie). In plaats van korrels in vakjes te tellen, gebruiken ze een Gaussisch Proces om een gladde curve te tekenen die past bij de zandgegevens.

• De Magie: Omdat de curve glad is, "weet" het dat als één deel van de rivier hoog is, de buren waarschijnlijk ook hoog zijn. Het leent kracht van zijn buren.
• Het Resultaat: Zelfs met zeer weinig foto's (lage statistiek) blijft de kaart glad en betrouwbaar. Hij wordt niet korrelig. Het artikel bewijst wiskundig dat deze gladde kaart altijd preciezer is (minder onzekerheid heeft) dan de oude gepixelde kaart, nooit slechter.

3. De "Eigenmode"-Truc: Het Comprimeren van de Ruis

Het artikel behandelt ook "systematische onzekerheden" – dit zijn zoals bekende gebreken in de camera-lens (bijvoorbeeld dat de lens iets wazig kan zijn of verschoven).

• De Oude Manier: Je voegt een aparte knop toe voor elke mogelijke manier waarop de lens fout kan zijn, voor elk enkel vakje.
• De Nieuwe Manier: De auteurs gebruiken een techniek genaamd Eigenmode-decompositie. Stel je voor dat de kaart een paar "fundamentele vormen" heeft (zoals een golf, een heuvel of een dip) die de meest voorkomende manieren vertegenwoordigen waarop de gegevens kunnen wiebelen door ruis of lensgebreken.
• Het Voordeel: In plaats van miljoenen knoppen aan te passen, hoef je slechts een handvol van deze "fundamentele vorm"-knoppen aan te passen. Het is alsof je een enorm, high-definition videobestand comprimeert tot een klein MP3-bestand; je behoudt de belangrijkste informatie (de vorm van het signaal) en gooit de redundante ruis weg. Dit maakt de wiskunde veel sneller en makkelijker op te lossen.

4. De Afweging: De "Tweestaps" versus "Eén-doorloop"

Het artikel is eerlijk over een beperking.

• De Oude Methode (Barlow-Beeston): Dit is als een "gezamenlijk profiel". Het kijkt naar de gegevens en de kaart gelijktijdig, en past de wobbels van de kaart in real-time aan terwijl het zoekt naar de edelsteen. Het is wiskundig perfect voor het vinden van de edelsteen wanneer gegevens schaars zijn.
• De Nieuwe Methode (GP Eigenmode): Dit is een "tweestaps"-proces. Eerst bouwt het de gladde kaart op basis van de simulatie. Ten tweede gebruikt het die vaste kaart om de edelsteen te vinden.
• De Haken en Ogen: Omdat de kaart in de eerste stap vaststaat, kan hij zich niet perfect aanpassen aan de specifieke ruis in de uiteindelijke gegevens. Het artikel toont aan dat als je zeer weinig gegevens hebt (schaarse foto's), de oude methode iets beter is in het vinden van de edelsteen omdat hij zich beter aanpast. Echter, als je veel gegevens hebt (wat gebruikelijk is in moderne experimenten), is het verschil minimaal, en winnen de snelheid en eenvoud van de nieuwe methode.

Samenvatting van de Claims van het Artikel

• Wat ze deden: Ze vervingen de standaard "gepixelde" histogram-kaarten door gladde "Gaussische Proces"-kaarten en comprimeerden de onzekerheid in een paar "eigenmodes" (fundamentele vormen).
• Wat ze bewezen:
  1. De nieuwe gladde kaarten zijn wiskundig gegarandeerd preciezer dan de oude gepixelde kaarten wanneer gegevens schaars zijn.
  2. De nieuwe methode kan het aantal "wobbelpoten" (parameters) reduceren van duizenden naar slechts enkele tientallen, waardoor complexe 3D-analyses mogelijk worden.
  3. De oude methode blijft de "gouden standaard" voor pure statistische efficiëntie wanneer gegevens extreem zeldzaam zijn, maar de nieuwe methode is praktisch superieur voor moderne, complexe experimenten waar systematische fouten (zoals lensgebreken) overheersen.
• Het Gereedschap: Ze hebben dit verwerkt in een gratis softwarepakket genaamd Histimator zodat andere natuurkundigen het direct kunnen gebruiken.

Kortom, het artikel biedt een manier om een korrelige, wankelende en computergewijs zware kaart om te zetten in een gladde, stabiele en efficiënte kaart, waardoor natuurkundigen kunnen zoeken naar nieuwe deeltjes in hogere dimensies zonder verdwaald te raken in de wiskunde.

Technische samenvatting

Technische Samenvatting: Eigenmodi van Gaussische Processen voor Statistische en Systematische Onzekerheden in Template-aanpassingen

Probleemstelling
Statistische inferentie aan de Large Hadron Collider (LHC) is afhankelijk van het HistFactory-framework, dat template-histogrammen gebruikt om waarneembare verdelingen te modelleren. Onzekerheden in deze templates worden traditioneel behandeld via twee mechanismen: per-bin Barlow-Beeston (BB) gamma-factoren voor Monte Carlo (MC) statistische fouten, en op interpolatie gebaseerde modifiers (bijv. histosys) voor systematische vormvariaties. Beide mechanismen schalen lineair met het aantal bins. Deze schaling wordt computationeel en conceptueel onhoudbaar voor meerdimensionale analyses of wanneer MC-steekproeven beperkt zijn. Bovendien behandelt de BB-aanpak bins als onafhankelijke Poisson-tellingen, waardoor de fysieke gladheid van de onderliggende verdelingen wordt genegeerd. Deze onafhankelijkheid leidt tot een proliferatie van slecht geconstrueerde nuisance-parameters, wat systematische onderdekking van profiel-likelihoods veroorzaakt wanneer MC-statistiek slecht is.

Methodologie
De auteurs stellen voor om discrete histogramtemplates te vervangen door gladde functionele representaties afgeleid van Log-Gaussian Cox Process (LGCP)-posteriors die op MC-gegevens zijn gefit. De methodologie verloopt in drie fasen:

1. LGCP-modellering: MC-tellingen worden gemodelleerd als een Poisson-proces waarbij de log-intensiteit wordt getrokken uit een Gaussisch Proces (GP). De posterior-modus levert een gladde template, terwijl de posterior-covariantie gecorreleerde statistische onzekerheid over bins codeert.
2. Systematische integratie: Systematische vormvariaties worden opgenomen door GP-fits te genereren voor $\pm 1\sigma$ variatiepunten. Het verschil in log-rates definieert een systematische richting, die wordt toegevoegd aan de statistische covariantie als een rang-1-update.
3. Eigenmode-decompositie: De gecombineerde covariantiematrix (statistisch + systematisch) wordt eigendecomponeren. De resulterende eigenmodi vormen een compacte basis. Het afsnijden van deze basis tot de leidende $k$ modi vervangt de volledige set per-bin gamma-factoren en interpolatieparameters door een klein aantal Gaussisch geconstrueerde amplitudes ($z_i$).

De auteurs bewijzen dat deze constructie de Barlow-Beeston-formalisme bevat als een limietgeval (wanneer de GP-lengteschaal $\ell \to 0$) en dat de GP-posterior-variatie op elke bin strikt begrensd is door de BB-variatie. Bovendien, in de limiet van verwaarloosbare statistische onzekerheid, herstelt het framework de HistFactory InterpCode 4-interpolatie.

Belangrijkste bijdragen

• Gecombineerde onzekerheidsbasis: Het paper introduceert een enkele eigenmode-basis die tegelijkertijd statistische en systematische template-onzekerheden codeert, waardoor de dimensie van de parameterruimte aanzienlijk wordt gereduceerd in vergelijking met de histogram-aanpak.
• Theoretische grenzen: Het wordt bewezen dat de GP-posterior-variatie begrensd is door de BB-variatie, waardoor wordt gegarandeerd dat de methode onzekerheid niet onderschat. Het framework herstelt zowel BB als de standaard HistFactory-interpolatie als limietgevallen.
• Implementatie: De methode is geïmplementeerd in het open-source Python-pakket Histimator, dat een imperatieve API biedt voor het construeren van deze likelihoods zonder afhankelijkheid van het ROOT-framework.
• Diagnostische hulpmiddelen: Het paper demonstreert hoe eigenmode-pulls teruggeprojecteerd kunnen worden naar het bin-niveau, waardoor analisten resultaten kunnen interpreteren met behulp van vertrouwde per-bin diagnostische hulpmiddelen.

Resultaten
De methode is gevalideerd tegen twee benchmark-experimenten:

1. Experiment A (Statistisch beperkt): Een zoektocht naar zeldzame resonanties met beperkte MC-statistiek ($N_{MC}$ tot 100 gebeurtenissen).

   • Binning-dilemma: De GP-template loste de spanning op tussen grove binning (signalen vervagen) en fijne binning (ruisende templates). Het behield een stabiele onzekerheidskwantificatie (8–15% posterior-onzekerheid) over het spectrum, zelfs wanneer histogram-bins minder dan 5 gebeurtenissen bevatten.
   • ** Dekking:** Hoewel de gezamenlijk-geprofileerde BB-methode betere asymptotische efficiëntie bereikte in het regime met lage statistiek (door zich aan te passen aan de data), leverde de GP-methode continue, bruikbare schattingen waar histogrammen faalden (lege bins). De GP-methode vertoonde een bias-variatie trade-off die kenmerkend is voor twee-staps plug-in schatters.

2. Experiment B (Systematisch beperkt): Een precisiemeting van de cross-section met meerdere achtergronden en vier systematische bronnen.

   • Compressie: De gecombineerde covariantie vereiste slechts 6–11 eigenmodi om 95–99% van de variantie te vangen, in vergelijking met 44 nuisance-parameters (40 gamma's + 4 systematiek) in de histogram-aanpak. Dit vertegenwoordigt een compressieverhouding van ongeveer 7:1.
   • Prestaties: De GP-eigenmode-methode bereikte equivalente lineariteit, pull-breedte (0,96–0,99) en intervaldekking (67,7–70,5% voor 68%-intervallen) als de standaard histogram-aanpak.
   • Robuustheid: De gereduceerde dimensionaliteit leidde tot een zesvoudige reductie in niet-convergerende aanpassingen in vergelijking met de BB-methode.

Betekenis en claims
Het paper claimt dat het eigenmode-framework een principiële alternatief biedt voor histogram-gebaseerde templates, met name in regimes die worden gedomineerd door systematische onzekerheden of hoogdimensionale fase-ruimten.

• Efficiëntie versus Robuustheid: De auteurs erkennen expliciet een theoretische beperking: de GP-methode is een "twee-staps plug-in" schatter, terwijl Barlow-Beeston een "gezamenlijke profiel" uitvoert die de semiparametrische efficiëntiegrens bereikt. Bijgevolg is in statistisch beperkte, enkel-kanaals regimes (lage MC-naar-data luminositeitsverhouding $\tau$) de BB-methode structureel superieur voor signaalextractie. Echter, in systematisch beperkte regimes (hoge $\tau$) is het efficiëntieverlies verwaarloosbaar (<9% voor $\tau=10$), waardoor de parametercompressie en stabiliteit van de GP-methode de dominante operationele voordeel wordt.
• Schaalbaarheid: De methode schaalt met de effectieve dimensionaliteit van de GP-kern en niet met het aantal bins. Voor een 3D-template met $20^3$ bins vereist de GP-methode $\sim 30$ amplitudes versus 8.000 BB-gamma's.
• Look-Elsewhere-effect: De gladde GP-achtergrond biedt een analytische covariantiestructuur voor het teststatistiek-veld, waardoor de berekening van look-elsewhere trial-factoren mogelijk is zonder aanvullende Monte Carlo-simulaties, een capaciteit die ontbreekt in de histogram-aanpak.

Het werk positioneert de GP-eigenmode-methode niet als een vervanging voor de gezamenlijk-geprofileerde aanpak in alle scenario's, maar als een superieur hulpmiddel voor het beheer van hoogdimensionale systematische onzekerheden en het stabiliseren van aanpassingen in datalimiet regimes waar traditionele histogrammen bezwijken.