Applying Self-organizing Maps to the Inverse Problem

Dit artikel onderzoekt een nieuwe aanpak voor het oplossen van het inverse probleem in de deeltjesfysica door zelforganiserende kaarten te combineren met elementen van supervised learning voor het zoeken naar vector-achtige leptonen, waarbij de methode goed presteert in vergelijking met een multiclassificerend neuronaal netwerk en waardevolle hulpmiddelen biedt voor het karakteriseren van waargenomen excessen.

De kern

De Inverse Probleem: Een Reis door de Deeltjesfysica met een Slimme "Klankbord"

Stel je voor dat je een enorme, donkere kamer binnenloopt (het universum) en je hoort een vreemd geluid. Je weet niet wat het is. Is het een kat? Een hond? Of misschien een onbekend dier? In de deeltjesfysica is dit het "inverse probleem": wetenschappers zien een vreemd signaal (een "exces" van deeltjes) en moeten raden welke theorie of welk nieuw deeltje dit veroorzaakt.

Dit artikel van Vaidehi Tikhe, N. Kirutheeka en Sourabh Dube vertelt hoe ze twee slimme manieren hebben bedacht om dit raadsel op te lossen, met name bij het zoeken naar een nieuw type deeltje genaamd vector-achtige leptonen (VLL's).

Hier is de uitleg in simpele taal, met behulp van alledaagse vergelijkingen.

1. Het Probleem: De "Gevonden" Deeltjes

Stel je voor dat je een jager bent in een bos. Je ziet een spoor van een dier dat je nog nooit hebt gezien.

• De standaardmethode (DNN): Je hebt een enorme fotoalbum met foto's van een hert, een wolf en een beer. Je leert een computer om te zeggen: "Dit spoor lijkt het meest op een wolf." Maar als het dier eigenlijk een nieuwe soort is die niet in je album zit, zal de computer proberen het in te delen als de "dier die het meest op een wolf lijkt" (bijvoorbeeld een beer). Dat is niet helemaal juist.
• De nieuwe methode (SOM): In plaats van te leren wat een wolf of beer is, laat je de computer alleen de patronen van de nieuwe dieren zien. De computer maakt dan een kaartje waar de verschillende soorten dieren zich vanzelf groeperen op basis van hoe ze eruitzien. Als je dan een nieuw spoor vindt, kijk je waar het op de kaart terechtkomt.

2. De Twee Helden: DNN vs. SOM

De auteurs testen twee methoden om te zien welke het beste werkt.

De Held 1: De Meester-leraar (DNN)

De Deep Neural Network (DNN) is als een zeer strenge leraar die duizenden voorbeelden heeft gezien.

• Hoe het werkt: De leraar krijgt foto's van drie soorten nieuwe deeltjes (met verschillende gewichten: 500, 1000 en 1500) én foto's van bekende deeltjes (het "Standaardmodel", zoals de natuurkunde die we al kennen).
• De taak: Als je een nieuw deeltje laat zien, moet de leraar zeggen: "Dit is een 1000!" of "Dit is een bekende deeltjes!"
• Het nadeel: Als je een deeltje laat zien dat zwaarder is dan alles wat de leraar kent (bijvoorbeeld 2500), zal hij proberen het in te delen als het zwaarste deeltje dat hij kent (1500). Hij kan niet zeggen: "Ik heb dit nog nooit gezien."

De Held 2: De Kunstzinnige Kaartmaker (SOM)

De Self-Organizing Map (SOM) is als een kunstzinnige kaartmaker die geen namen kent, maar wel patronen ziet.

• Hoe het werkt: De kaartmaker krijgt alleen foto's van de drie nieuwe deeltjes (500, 1000, 1500). Hij krijgt geen foto's van de bekende deeltjes.
• De truc: Hij maakt een groot rooster (een kaart) en plakt de deeltjes erop. De deeltjes die op elkaar lijken, komen dicht bij elkaar te zitten. De deeltjes die verschillend zijn, komen verder weg te zitten.
• Het voordeel: Omdat hij geen bekende deeltjes heeft gezien, weet hij precies waar de "nieuwe" deeltjes wonen. Als er nu een bekend deeltje (een "indringer") op de kaart landt, valt het ergens anders op, of in een hoekje waar geen nieuwe deeltjes zijn.

3. De Test: Vier Scenario's

De auteurs testen hun methoden met vier scenario's, alsof ze vier verschillende mysteries oplossen:

• Mysterie 1 (Het perfecte geval): Je vindt 10 deeltjes die precies lijken op het deeltje van 1000.

  • Resultaat: Beide methoden zeggen direct: "Het is 1000!" Geen verrassing hier.

• Mysterie 2 (Het vreemde geval): Je vindt 10 deeltjes die eigenlijk 2500 wegen (iets zwaarder dan wat ze hebben geoefend).

  • Resultaat: De "Meester-leraar" (DNN) zegt: "Het is 1500!" (want dat is het zwaarste wat hij kent). De "Kaartmaker" (SOM) zegt ook: "Het lijkt op 1500."
  • De oplossing: De auteurs zeggen: "Oké, als het eruit ziet als 1500 maar zwaarder is, dan weten we dat het waarschijnlijk nog zwaarder is." Je kunt de kaartmaker gewoon een nieuwe ronde laten draaien met zwaardere deeltjes om het exacte gewicht te vinden.

• Mysterie 3 (Het rommelige geval): Je vindt 20 deeltjes, maar 10 daarvan zijn "vuil" (bekende deeltjes) en 10 zijn het echte nieuws (500).

  • Resultaat: De DNN ziet de rommel en raakt in de war. De SOM is echter slim: omdat hij de "vuile" deeltjes nooit heeft gezien, vallen ze op de kaart op een plek waar de echte deeltjes niet zitten. De SOM kan de "vuile" deeltjes eruit filteren en zegt: "Ah, de echte 10 deeltjes zijn allemaal van het type 500!"

• Mysterie 4 (Het onbekende geval): Je vindt 15 deeltjes, een mix van vuil en een nieuw deeltje van 750 (tussen 500 en 1000 in).

  • Resultaat: Geen van beide methoden kan het exacte gewicht (750) direct noemen, omdat ze dat niet hebben geoefend. Maar de SOM kan wel zeggen: "Deze 10 deeltjes horen bij elkaar en zijn zeker niet de bekende deeltjes." Ze kunnen dan de eigenschappen van die 10 deeltjes vergelijken met hun kaart om te zien waar ze het dichtst bij zitten.

4. De Conclusie: Waarom is dit cool?

De auteurs concluderen dat de SOM (de kaartmaker) net zo goed werkt als de DNN (de leraar), maar met een groot voordeel:

1. Hij is flexibeler: Hij hoeft geen "bekende deeltjes" te leren kennen. Dit is handig als je niet zeker weet wat de achtergrondruis is (bijvoorbeeld als de ruis door de apparatuur zelf wordt veroorzaakt en niet door natuurkunde).
2. Hij is een hulpmiddel: Hij helpt niet alleen om een antwoord te geven, maar ook om te zien waarom iets vreemd is. Hij geeft je een visuele kaart van de data.

Kort samengevat:
Stel je voor dat je een detective bent. De DNN is een detective die een boek heeft met foto's van alle bekende criminelen. Als je een nieuwe crimineel ziet, vergelijkt hij die met het boek. De SOM is een detective die een kaart maakt van de stad. Hij weet niet wie de criminelen zijn, maar hij ziet wel dat er een groep mensen is die zich altijd op dezelfde plek verzamelt. Als er iemand anders op die plek staat, weet hij direct: "Die hoort hier niet bij!"

Deze nieuwe methode met de "kaart" (SOM) is een krachtig nieuw gereedschap voor deeltjesfysici om te zoeken naar het onbekende, zelfs als ze niet precies weten wat ze zoeken.

Technische samenvatting

Titel: Toepassing van Self-Organizing Maps op het inverse probleem in de deeltjesfysica

Auteurs: Vaidehi Tikhe, N. Kirutheeka en Sourabh Dube
Affiliatie: Savitribai Phule Pune University en IISER Pune, India.

---

1. Het Probleem: Het Inverse Probleem in de Deeltjesfysica

Het artikel richt zich op het "inverse probleem" in de deeltjesfysica: gegeven een onverwachte observatie (een excess van gebeurtenissen boven de voorspelde achtergrond), hoe identificeert men uniek de onderliggende theorie of parameters?

• Context: Hoewel het Standaardmodel (SM) succesvol is, verklaart het niet alles (bijv. donkere materie). Er zijn talloze "Beyond Standard Model" (BSM) theorieën.
• Uitdaging: In niet-resonante zoektochten (waarbij hypothetische deeltjes via cascade-vervalprocessen uiteenvallen) is het uniek identificeren van een signaalhypothese complex.
• Specifiek geval: De auteurs onderzoeken een zoektocht naar vector-achtige leptonen (VLLs) in een eindtoestand met drie geladen leptonen (trilepton). Het doel is om de massa van het VLL ($m_L$) te bepalen op basis van een waargenomen excess, zelfs als er een mengsel van SM-achtergrond en BSM-signaal is.

2. Methodologie

De auteurs vergelijken twee benaderingen: een traditionele Multiclassifying Deep Neural Network (DNN) en een nieuwere aanpak met Self-Organizing Maps (SOM).

A. Data en Simulatie

• Model: Een dubbel VLL-model met geladen ($L$) en neutrale ($N$) deeltjes.
• Massahypothese: Training op $m_L = 500, 750, 1000, 1500, 2500$ GeV.
• Achtergrond: SM-processen $WZ$ en $t\bar{t}Z$.
• Variabelen: 8 kinematische variabelen (zoals $L_T$, $H_T$, invariant massa $m_{\ell\ell\ell}$, transverse massa's) worden gebruikt als input.
• Scenario's: Vier testgevallen worden geanalyseerd:
  1. Zuiver signaal (10 events, $m_L=1000$).
  2. Signaal buiten trainingsbereik (10 events, $m_L=2500$).
  3. Gemengd signaal/achtergrond (20 events, $m_L=500$ + SM).
  4. Gemengd signaal/achtergrond buiten trainingsbereik (15 events, $m_L=750$ + SM).

B. Benadering 1: Multiclassifying DNN

• Architectuur: Een toezicht (supervised) leermodel met 3 verborgen lagen (32, 16, 8 neuronen).
• Output: 4 neuronen met softmax-activatie, vertegenwoordigend voor de drie massahypotheseën en het SM.
• Training: Getraind op gelabelde data van zowel VLL-hypotheseën als SM-processen.
• Strategie: De mediane score van de output-neuronen voor een set waargenomen events bepaalt de meest waarschijnlijke hypothese.

C. Benadering 2: Self-Organizing Maps (SOM)

• Unieke aanpak: De SOM wordt alleen getraind op de VLL-massahypotheseën (500, 1000, 1500 GeV). Geen SM-processen worden gebruikt tijdens de training.
• Mechanisme:
  • De SOM is een 2D-rooster van neuronen (Best Matching Units - BMU) die de multidimensionale inputruimte clusteren.
  • De training is "toezicht" in de zin dat de labels bekend zijn, maar de algoritme gebruikt onbeheerde clustering (unsupervised clustering) om patronen te vinden.
• Analyse-strategie:
  • Voor een nieuw event wordt de BMU gevonden.
  • Rondom de BMU wordt een regionaal venster ($m \times m$ neuronen) gedefinieerd.
  • Een regionale scheidings-score (Regional SepScore) wordt berekend binnen dit venster. Deze score vergelijkt de populatie van de verschillende klassen (inclusief SM als een extra klasse in de testfase).
  • De hypothese met de hoogste mediane regionale score wordt als de juiste geïdentificeerd.
  • Voor gemengde scenario's kunnen events met een hoge "SM-score" worden uitgesloten om het signaal te zuiveren.

3. Belangrijkste Resultaten

Prestatie Vergelijking

• DNN: Presteert zeer goed met hoge AUC-waarden (Area Under Curve), variërend van 0.947 tot 0.977. Dit is te verwachten omdat de DNN expliciet getraind is op de achtergrond.
• SOM: Presteert verrassend competitief, met AUC-waarden tussen 0.864 en 0.926 (afhankelijk van roostergrootte $n$ en venstergrootte $m$).
  • De beste SOM-configuratie was een $40 \times 40$ rooster met een $3 \times 3$ regionaal venster.
  • Cruciaal: De SOM presteert goed zonder ooit SM-data te hebben gezien tijdens de training.

Analyse van de Testgevallen

1. Case 1 (Zuiver signaal, getraind): Beide methoden identificeren correct $m_L = 1000$ GeV.
2. Case 2 (Signaal buiten bereik, $m_L=2500$): Beide methoden identificeren dit foutief als $m_L = 1500$ GeV (de dichtstbijzijnde getrainde waarde). Dit toont de beperking van het trainingsbereik.
3. Case 3 (Gemengd, getraind): De SOM kan effectief SM-events filteren (door een drempel op de regionale score te leggen) en identificeert correct het overschot als $m_L = 500$ GeV.
4. Case 4 (Gemengd, buiten bereik, $m_L=750$): De SOM kan de SM-events filteren. Hoewel de regionale score suggereerde $m_L=500$, toonde een analyse van de kinematische verdeling ($m_{\ell\ell\ell}$) aan dat het signaal waarschijnlijk van een hogere massa kwam, wat extra scrutinie mogelijk maakt.

4. Bijdragen en Significatie

• Nieuwe Methode voor het Inverse Probleem: De paper introduceert een hybride aanpak waarbij SOMs (doorgaans onbeheerd) worden gebruikt in een semi-beheerde context voor het oplossen van het inverse probleem.
• Robuustheid tegen Onbekende Achtergronden: De belangrijkste bijdrage is dat de SOM methode werkt zonder dat de achtergrond (SM-processen) in de training zit. Dit is cruciaal voor scenario's waar:
  • De achtergrond volledig data-gedreven wordt geschat.
  • Er te weinig achtergronddata is voor training.
  • De achtergrond al sterk is onderdrukt door andere multivariate methoden, waardoor de resterende achtergrond moeilijk te onderscheiden is van het signaal.
• Visuele en Interpretatieve Voordelen: SOMs bieden een visuele clustering van de data. Door de grootte van het rooster en het regionale venster te variëren, kunnen fysici de kinematische eigenschappen van excessen op verschillende schalen analyseren.
• Toekomstperspectief: De auteurs suggereren een strategie waarbij een SOM wordt getraind op events die al zijn geselecteerd door een achtergronddempende DNN. Dit zou een krachtige tool kunnen zijn om subtiele excessen te karakteriseren die net niet significant genoeg zijn voor een ontdekking, maar wel verdacht zijn.

Conclusie

De auteurs concluderen dat Self-Organizing Maps een veelzijdig en krachtig hulpmiddel zijn voor het zoeken naar BSM-fenomenen. Hoewel de numerieke prestatie (AUC) iets lager is dan die van een gespecialiseerde DNN, biedt de SOM unieke voordelen in flexibiliteit, interpretatie en de mogelijkheid om te werken in situaties waar achtergrondmodellen onvolledig of afwezig zijn.