Amplitude Uncertainties Everywhere All at Once

Titel: Amplitude Uncertainties Everywhere All at Once

Auteurs: Henning Bahl, Nina Elmer, Tilman Plehn, en Ramon Winterhalder
Publicatie: SciPost Physics (2026)

---

1. Probleemstelling

Deeltjesfysica, en met name de Large Hadron Collider (LHC) en de toekomstige High-Luminosity LHC (HL-LHC), genereert enorme hoeveelheden complexe data. Voor een nauwkeurige interpretatie zijn snelle en precieze theoretische voorspellingen essentieel. Traditionele berekeningen van verstrooiingsamplitudes (scattering amplitudes) zijn vaak te traag voor directe toepassing in simulatieketens.

Machine Learning (ML) biedt een oplossing door "surrogate" modellen te trainen die deze amplitudes voorspellen. Echter, voor hoge precisie-taken is het niet voldoende dat een model alleen de gemiddelde waarde nauwkeurig voorspelt; het moet ook gekalibreerde lokale onzekerheidsschattingen leveren. Bestaande methoden kampen met uitdagingen:

• Ze kalibreren onzekerheden soms niet goed in specifieke regio's van de faseruimte.
• Ze onderscheiden onvoldoende tussen statistische onzekerheid (door beperkte data of training) en systematische onzekerheid (door modelbias of data-ruis).
• Numerieke instabiliteiten of gaten in trainingsdata (bijvoorbeeld nabij fysieke drempels) worden vaak niet correct geïdentificeerd door de onzekerheidsmodellen.

2. Methodologie

De auteurs onderzoeken drie probabilistische benaderingen voor amplitude-regressie en testen deze op hun vermogen om onzekerheden te kwantificeren, zowel in schone data als in scenario's met lokale verstoringen.

A. Probabilistische Regressie en Onzekerheidsdefinitie

Het model voorspelt een verdeling $p(A|x)$ in plaats van een enkel getal. De totale onzekerheid $\sigma^2_{tot}$ wordt opgesplitst in:

• Systematische onzekerheid ($\sigma^2_{syst}$): Veroorzaakt door data-ruis of modelbias (irreducibel of afhankelijk van modelcapaciteit).
• Statistische onzekerheid ($\sigma^2_{stat}$): Veroorzaakt door onzekerheid in de netwerkparameters (epistemisch), die afneemt met meer data of betere training.

B. Onderzochte Methoden

1. Repulsive Ensembles (RE):

   • Een ensemble van neural networks wordt getraind met een extra "repulsieve" term in de loss-functie. Deze term voorkomt dat alle netwerken naar hetzelfde minimum convergeren, waardoor ze diverse schattingen van de posterior leveren.
   • De spreiding van de ensemble-leden schat de statistische onzekerheid.
   • De auteurs introduceren een globale systematische onzekerheid die direct wordt getraind voor het ensemble-gemiddelde om kalibratieproblemen op te lossen.

2. Evidential Regression (ER):

   • Een sampling-vrije methode waarbij het netwerk geen weights sampleert, maar priors plaatst op de hyperparameters van de voorspellende likelihood.
   • Het gebruikt een Normal-Inverse-Gamma (NIG) prior om de parameters van een Student-t verdeling te leren. Dit stelt het netwerk in staat om zowel systematische als statistische onzekerheid in één forward pass te schatten.
   • Er wordt gekeken naar twee strategieën om degeneratie in de parameters op te lossen: een regularisatie-loss versus het fixeren van de verhouding tussen parameters ($2\alpha = v$).

3. Bayesian Neural Networks (BNN):

   • Gebruikt als benchmark (via variational inference), hoewel de focus ligt op RE en ER.

C. Testscenarios (Lokale Uitdagingen)

De methoden worden getest op drie specifieke scenario's die numerieke instabiliteiten nabootsen:

1. Vlakke doos-drempelverwarring (Flat-box threshold smearing): Gausiaanse ruis toegepast in een vast interval rond een drempelwaarde.
2. Gepiekte drempelverwarring (Peaked threshold smearing): Ruis die toeneemt naarmate men dichter bij de drempelwaarde komt.
3. Drempelgat (Threshold gap): Een regio in de trainingsdata waar volledig geen data aanwezig is (gaten in de faseruimte).

3. Belangrijkste Resultaten

Algemene Prestaties en Bias

• Bias in Ensembles: De auteurs ontdekken dat repulsive ensembles een systematische bias kunnen vertonen die niet verdwijnt door het ensemble te middelen. Deze bias is voornamelijk het gevolg van beperkte model-expressiviteit (te kleine netwerken) en niet van de repulsieve kernel zelf.
• Kalibratie: Bij kleine ensemble-groottes kan de systematische onzekerheid slecht gekalibreerd zijn omdat de loss-functie ruis en bias door elkaar haalt. Een oplossing is het apart trainen van een netwerk dat de systematische onzekerheid voor het ensemble-gemiddelde voorspelt. Voor grote ensembles ($N_{ens} > 100$) worden echter resterende bias-effecten zichtbaar die niet-Gausiaans zijn.
• Evidential Regression: ER levert vergelijkbare nauwkeurigheid als RE en BNN, maar is computatie-efficiënter (geen ensemble nodig). De variant waarbij de parameterverhouding $2\alpha = v$ wordt geforceerd, presteert beter dan de variant met extra regularisatie.

Resultaten bij Lokale Uitdagingen

• Vlakke Doos (Flat-box): Zowel RE als ER en BNN kunnen de locatie van de verstoorde regio goed identificeren. RE volgt de verwachte vorm van de onzekerheid het nauwkeurigst, terwijl ER en BNN een betere kalibratie van de pull-verdeling (pull calibration) tonen.
• Gepiekte Verwarring (Peaked): Alle methoden kunnen de toenemende ruis nabij de drempel volgen. RE en BNN presteren hier iets beter dan ER, vooral bij zeer kleine ruisniveaus. De netwerken tonen sterke interpolatie-eigenschappen: ze kunnen de onderliggende gladde amplitude onderscheiden van lokale ruis.
• Gaten in Data (Threshold Gap):
  • Zelfs zonder trainingsdata in een regio (het gat), behouden de netwerken een redelijke voorspellende nauwkeurigheid dankzij interpolatie vanuit aangrenzende regio's (de amplitude varieert hier traag).
  • Statistische onzekerheid: RE toont een lokale piek in statistische onzekerheid precies in het gat. BNN toont een verhoogde onzekerheid die echter globaler over de hele invariant-massa-verdeling verspreid is.
  • Systematische onzekerheid: Beide methoden tonen een lichte verhoging in het gat, maar onderscheiden statistische en systematische effecten niet perfect. ER produceert in dit scenario een vrij vlakke onzekerheidsfunctie.

4. Bijdragen en Significatie

• Nieuwe Methode voor Systematische Onzekerheid: De paper introduceert een effectieve techniek om systematische onzekerheden voor ensemble-gemiddelden te leren, wat de kalibratie aanzienlijk verbetert in vergelijking met het simpelweg middelen van ensemble-leden.
• Vergelijking van Paradigma's: Er wordt een grondige vergelijking gemaakt tussen sampling-gebaseerde methoden (Ensembles, BNN) en sampling-vrije methoden (Evidential Regression). ER blijkt een krachtig, efficiënt alternatief dat in veel scenario's vergelijkbare prestaties levert.
• Robuustheidstest: De studie demonstreert dat ML-surrogates robuust zijn tegen lokale data-tekorten en numerieke ruis, mits de onzekerheidsmodellen correct zijn gekalibreerd. Dit is cruciaal voor de toepassing in toekomstige LHC-simulaties waar numerieke instabiliteiten bij drempels vaak voorkomen.
• Inzicht in Bias: Het paper onthult dat bias in amplitude-regressie vaak een fundamenteel probleem van modelcapaciteit is, niet van de onzekerheidsmethode zelf, en dat ensemble-middeling deze bias niet automatisch oplost.

Conclusie

De auteurs concluderen dat Repulsive Ensembles de meest betrouwbare methode zijn voor het vastleggen van onzekerheden, maar tegen een hogere rekentijd. Evidential Regression biedt een zeer efficiënt alternatief dat in specifieke scenario's (zoals schone data of vlakke ruis) uitstekende resultaten levert. De ontwikkelde methoden en inzichten zijn essentieel voor het bouwen van robuuste, snelle en betrouwbare Monte Carlo-generatoren voor de volgende generatie deeltjesfysica-experimenten.