🤖 machine learning

Contrastive Learning for Interpretable Anomaly Detection at Collider Experiments

Il documento introduce ORCA, un framework a due stadi che combina l'apprendimento contrastivo supervisionato con gli autoencoder per ottenere sia una migliore sensibilità che interpretabilità nel rilevamento di anomalie nei collider, mappando gli eventi in uno spazio di embedding dove i campioni anomali possono essere quantitativamente attribuiti a processi fisici noti.

Autori originali: Haoyi Jia, Sagar Addepalli, Julia Gonski

Pubblicato 2026-08-17

📖 6 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Haoyi Jia, Sagar Addepalli, Julia Gonski

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immaginate il Large Hadron Collider (LHC) come il più potente distruttore di particelle al mondo. Spara protoni l'uno contro l'altro quasi alla velocità della luce, creando un'esplosione caotica di nuove particelle. I fisici sono alla ricerca della "nuova fisica": particelle o forze misteriose che non rientrano nel nostro attuale libro delle regole, noto come Modello Standard. Il problema è che queste nuove particelle sono come aghi in un pagliaio, nascosti tra miliardi di collisioni banali e ordinarie. Per trovarle, gli scienziati usano il "Rilevamento di Anomalie", un po' come una guardia giurata a una festa che ignora la folla consueta e ferma solo chi si comporta in modo strano.

Tuttavia, le guardie giurate tradizionali hanno due grandi difetti. Primo, spesso si confondono per quanto la festa sia rumorosa (l'energia della collisione) o per quante persone stiano ballando (il numero di particelle), segnalando eventi normali come sospetti solo perché sono energetici. Secondo, quando la guardia effettivamente ferma qualcuno, non sa spiegare il perché. Dicono solo: "Questa persona è strana", senza dirti se sia una spia, un turista smarrito o semplicemente qualcuno con un cappello buffo. Questo articolo presenta un nuovo sistema di sicurezza più intelligente chiamato ORCA, che non solo individua meglio i tipi strani, ma spiega anche esattamente che tipo di stranezza si tratta.

Il Metodo ORCA: Una storia di detective in due fasi

Gli autori, Haoyi Jia, Sagar Addepalli e Julia Gonski, propongono un nuovo framework chiamato ORCA (Organized Representation via Contrastive learning for Anomaly detection). Pensate a ORCA come a un processo in due fasi progettato per pulire il caos alla festa delle particelle prima ancora che la guardia giurata inizi a cercare.

Fase 1: Il "Smistatore" (Apprendimento Contrastivo)
Immaginate di avere un enorme mucchio di mattoncini LEGO mescolati provenienti da set diversi: un castello, un'astronave e un'auto da corsa. Se li buttate tutti in una scatola, è difficile capire a quale set appartenga ogni singolo mattoncino. I metodi tradizionali cercano di ricostruire l'intero mucchio, ma spesso si confondono per i mattoncini rossi che sembrano simili in tutti i set.

La prima fase di ORCA utilizza una tecnica chiamata Apprendimento Contrastivo (Contrastive Learning). È come un insegnante super intelligente che prende i mattoncini e li smista in pile distinte in base al loro tipo prima ancora di provare a costruire qualsiasi cosa. Il modello è addestrato su 48 diversi processi del Modello Standard (la fisica "nota"), raggruppandoli in 14 categorie come "Single Vector Boson" o "Top Pair". Impara a spingere i mattoncini di set diversi lontano l'uno dall'altro in uno spazio virtuale, mantenendo al contempo vicini i mattoncini dello stesso set.

Il risultato è uno "spazio di embedding" altamente organizzato. Inveve di un mucchio disordinato di dati grezzi, il modello ha ora una mappa ordinata dove ogni tipo noto di evento fisico ha il proprio quartiere distinto. Questo risolve il primo problema: il modello smette di confondersi per la pura energia o il numero di particelle perché ha già organizzato i dati in base a cosa sono le particelle.

Fase 2: La "Guardia Giurata" (Autoencoder)
Una volta che i dati sono stati smistati in questi quartieri ordinati, entra in gioco la seconda fase. Si tratta di un classico Autoencoder, che agisce come una guardia giurata. La guardia è addestrata solo sugli eventi di "background" (le cose noiose e normali). Impara a ricostruire perfettamente la struttura dei quartieri normali.

Quando arriva un nuovo evento, la guardia cerca di ricostruirlo. Se l'evento è normale, la guardia può ricostruirlo facilmente. Ma se l'evento è un'anomalia (un segnale di nuova fisica), non si adatta al pattern dei quartieri noti. La guardia fatica a ricostruirlo, e l'"errore di ricostruzione" diventa enorme. Questo punteggio di errore è il punteggio di anomalia. Poiché i dati sono già stati smistati dalla prima fase, questo punteggio è molto più accurato e meno propenso a essere ingannato da eventi ad alta energia o affollati.

Cosa hanno scoperto: Migliore rilevazione e una spiegazione più chiara

I ricercatori hanno testato ORCA su un dataset simulato di 750 milioni di collisioni protone-protone, imitando le condizioni dell'High-Luminosity LHC. Hanno confrontato ORCA con un autoencoder standard che analizza direttamente i dati grezzi senza la fase di smistamento.

1. Rilevamento più intelligente
I risultati hanno mostrato che ORCA è significativamente migliore nel individuare la nuova fisica. In quasi tutti i diversi tipi di segnali testati, ORCA ha trovato più anomalie "vere" ignorando al contempo più falsi allarmi. Nel linguaggio dell'articolo, ha migliorato sia la "ampiezza" (trovare più tipi di segnali) che la "profondità" (trovarli anche quando il rumore di fondo era enorme). L'unica leggera eccezione è stata una specifica risonanza a bassa massa, che il modello ha comunque trattato come simile al background, ma per quasi tutto il resto, il nuovo metodo è stato un chiaro vincitore.

2. Il "Perché" dietro lo "Strano"
La parte più entusiasmante dell'articolo è l'interpretabilità. In passato, se un rilevatore segnalava un evento come "strano", gli scienziati restavano a indovinare. Era una nuova particella? Era un guasto?

Con ORCA, poiché gli eventi sono smistati in quartieri distinti, gli scolenti possono ora guardare l'evento "strano" e chiedere: "A quale quartiere noto assomiglia di più?". Utilizzano una tecnica statistica chiamata template fit. Immaginate di avere un ospite misterioso alla festa. Invece di dire solo "è strano", potete dire: "Questo ospite somiglia all'80% a un turista smarrito del quartiere 'Top Pair' e al 20% a una spia del quartiere 'Di-Higgs'".

L'articolo dimostra questo concetto "iniettando" falsi segnali di nuova fisica nei dati. Quando lo hanno fatto, ORCA è stato in grado di contare accuratamente quanti falsi segnali c'erano e identificare correttamente a quale processo fisico noto somigliavano di più. Ad esempio, se avessero iniettato un segnale "Di-Higgs" senza dirlo al modello, il modello ha correttamente categorizzato gli eventi come simili ai processi "Top Pair", rivelando che il modello aveva appreso la struttura fisica sottostante (come il numero di particelle nello stato finale) anche senza essergli stato esplicitamente detto.

In sintesi

Questo articolo suggerisce che, aggiungendo una fase di "smistamento" prima della fase di "ricerca", possiamo rendere il rilevamento di anomalie ai collisionatori di particelle sia più potente che più comprensibile. Non si tratta solo di trovare l'ago nel pagliaio; si tratta di essere in grado di descrivere la forma, il colore e l'origine dell'ago una volta trovato.

Gli autori sottolineano che questo è un risultato basato su simulazioni. Lo hanno testato su un dataset di 750 milioni di collisioni simulate, non su dati reali provenienti dall'LHC. Tuttavia, il framework è progettato per essere modulare. Lo "smistatore" potrebbe essere sostituito con una versione più veloce per girare sull'hardware reale dei trigger, e la "guardia" potrebbe essere qualsiasi altro rilevatore di anomalie. Ciò apre la porta a futuri esperimenti reali che non si limitano a trovare la nuova fisica, ma possono immediatamente iniziare a capire di cosa si tratti.

Riepilogo Tecnico: Rappresentazione Organizzata tramite Apprendimento Contrastivo per l'Anomalia Detection (ORCA)

Problematica
L'anomaly detection (AD) generica a livello di evento nei esperimenti di fisica degli acceleratori affronta due sfide persistenti:

Interpretabilità: I punteggi di anomalia sono spesso difficili da interpretare fisicamente. La comprensione del comportamento di questi punteggi è tipicamente limitata all'esame delle correlazioni con gli input cinematici grezzi, e l'estrazione del segnale richiede spesso di restringere l'analisi a uno spazio delle fasi specifico e limitato (ad esempio, una specifica finestra di massa invariante), il che riduce la generalità della ricerca.
Correlazione con la cinematica: I tradizionali punteggi di AD correlano fortemente con le scale di energia e le molteplicità degli oggetti piuttosto che con reali deviazioni dal Modello Standard (SM). Le tecniche basate sulla compressione, come gli autoencoder standard addestrati su input a basso livello, possono essere sensibili alle caratteristiche della popolazione di addestramento, portando a una scarsa ricostruzione degli eventi normali o a una buona ricostrazione di anomalie rare a causa della topologia del dataset o di bias di interpolazione.

Metodologia
Gli autori propongono ORCA (Organized Representation via Contrastive learning for Anomaly detection), un framework in due fasi progettato per disaccoppiare l'apprendimento di una rappresentazione informata dalla fisica dal meccanismo di scoring delle anomalie.

Fase 1: Embedding Contrastivo Supervisionato
- Architettura: Il modello utilizza una rete encoder ispirata alle architetture transformer. Elabora gli eventi di input (composti da fino a 10 jet, 4 elettroni, 4 muoni, 4 fotoni e MET) mappando ogni tipo di oggetto in uno spazio di embedding comune tramite reti dedicate. Questi token di oggetto sono aumentati da embedding posizionali e processati attraverso blocchi di encoder transformer, seguiti da un livello di pooling multi-head attention per aggregarli in un singolo vettore di rappresentazione dell'evento $\vec{r}$ .
- Obiettivo di Addestramento: L'embedder è addestrato utilizzando una perdita contrastiva supervisionata (di tipo InfoNCE) su 48 processi distinti dello SM, che vengono accorpati in 14 gruppi di processi fisici. La perdita incoraggia gli eventi dello stesso gruppo di processi a raggrupparsi (allineamento) pur distribuendo le rappresentazioni attraverso lo spazio disponibile (uniformità). Un regolarizzatore di varianza viene aggiunto per prevenire il collasso rappresentativo.
- Output: Il modello produce un vettore di embedding a 128 dimensioni $\ell_2$ -normalizzato. Una testa di proiezione viene utilizzata solo durante l'addestramento per calcolare la perdita contrastiva; i compiti successivi operano sull'embedding $\vec{r}$ .
Fase 2: Anomaly Detection Non Supervisionata
- Architettura: Un autoencoder standard viene addestrato esclusivamente sugli embedding degli eventi di background (dati di minimum-bias).
- Obiettivo di Addestramento: L'autoencoder minimizza l'errore quadratico medio di ricostruzione tra l'embedding di input e la sua ricostruzione.
- Punteggio di Anomalia: Il punteggio di anomalia per un evento è definito come l'errore quadratico medio (MSE) tra l'embedding standardizzato e la ricostruzione dell'autoencoder. Poiché l'autoencoder impara a ricostruire solo la distribuzione del background, gli eventi provenienti da processi diversi dal background producono errori di ricostruzione elevati.
Framework di Interpretazione
- La natura strutturata dello spazio di embedding consente un fit di template basato sulla massima verosimiglianza. Le dimensioni dell'embedding vengono ridotte tramite Analisi delle Componenti Principali (PCA) e Analisi delle Componenti Indipendenti (ICA).
- Le Funzioni di Massa di Probabilità (PMF) sono costruite per ogni gruppo di processi noto nelle dimensioni ridotte.
- Viene eseguito un fit di verosimiglianza composita sulla distribuzione degli eventi in un campione anomalo per attribuirli a specifici processi di template, fornendo conteggi di segnale e background con incertezze quantificate (utilizzando uno stimatore sandwich per verosimiglianze composte).

Contributi Chiave e Risultati
Il metodo è stato valutato sul dataset COLLIDE-2V, che simula le condizioni dell'High-Luminosity LHC ( $\sqrt{s} = 13.6$ TeV, $\mu=200$ ) con oltre 50 processi distinti dello SM.

Miglioramento della Sensibilità:
- Rispetto a un baseline autoencoder addestrato direttamente sugli input di 110 dimensioni, ORCA ha dimostrato guadagni significativi sia nell'Area Sotto la Curva (AUC) che nel Tasso di Veri Positivi (TPR) a un tasso di Falsi Positivi (FPR) fisso di $10^{-4}$ .
- L'embedding contrastivo ha separato con successo diverse classi di segnale nello spazio latente (visualizzato tramite PCA), mentre lo spazio latente del baseline autoencoder mostrava distribuzioni ampie e sovrapposte.
Interpretabilità e Attribuzione del Segnale:
- Template Fitting: Gli autori hanno dimostrato che la geometria dell'embedding consente la decomposizione di un campione anomalo nei processi fisici noti.
- Test di Holdout: In test in cui un gruppo di segnale era escluso dall'addestramento dell'embedder, il fit cieco (senza il template del segnale) ha categorizzato correttamente gli eventi iniettati nei processi noti più simili (ad esempio, gli eventi di Di-Higgs sono stati categorizzati come eventi di Top Pair in assenza di un template di Di-Higgs).
- Recupero del Segnale: Nei test di iniezione del segnale, il fit multi-dimensionale contrastivo ha raggiunto un recupero quasi perfetto delle rese iniettate. Questa prestazione ha superato significativamente:
  - I fit eseguiti sul punteggio di anomalia monodimensionale (evidenziando il valore dell'informazione multidimensionale).
  - I fit eseguiti sullo spazio latente di un autoencoder non supervisionato standard (evidenziando il valore dell'obiettivo contrastivo).

Significatività e Rivendicazioni
L'articolo sostiene che ORCA stabilisce una via verso l'anomaly detection interpretabile nei collider. Strutturando lo spazio latente tramite l'apprendimento contrastivo, il framework:

Aumenta la sensibilità delle ricerche di AD a nuovi segnali di fisica attraverso una vasta gamma di processi.
Trasforma l'output dell'anomaly detection da un singolo punteggio interpretabile in una rappresentazione ad alta dimensione che trasporta informazioni fisiche.
Permette l'uso di tecniche statistiche standard (template fitting) per caratterizzare i campioni anomali, attribuendoli a processi noti o identificandoli come simili a processi noti specifici anche se il vero segnale è assente dalla libreria dei template.
Offre un'architettura modulare in cui l'embedder e l'anomaly detector possono essere ottimizzati o sostituiti indipendentemente (ad esempio, per ambienti di trigger a bassa latenza) senza perdere l'interpretabilità dei risultati finali.

Gli autori sottolineano che questo approccio non richiede di restringere l'analisi a una fase di misura dedicata, preservando così la generalità della ricerca di anomaly detection pur fornendo un meccanismo per l'analisi statistica a valle e la re-interpretazione del modello.

Il Metodo ORCA: Una storia di detective in due fasi

Cosa hanno scoperto: Migliore rilevazione e una spiegazione più chiara

In sintesi

Riepilogo Tecnico: Rappresentazione Organizzata tramite Apprendimento Contrastivo per l'Anomalia Detection (ORCA)

Articoli simili