Unsupervised domain adaptation for radioisotope identification in gamma spectroscopy

Questo studio dimostra che l'adattamento di dominio non supervisionato, in particolare mediante la minimizzazione della discrepanza massima del momento medio (MMD), migliora significativamente la capacità di generalizzazione dei modelli di identificazione di radioisotopi addestrati su dati sintetici quando applicati a dati sperimentali reali non etichettati.

L'essenziale

🌌 Il Problema: L'Autista che impara solo con il simulatore

Immagina di dover insegnare a un'auto a guida autonoma a riconoscere i pedoni. Hai due opzioni:

1. Fargli fare milioni di chilometri nella realtà: È costoso, pericoloso e ci vorrebbe un secolo per raccogliere abbastanza dati.
2. Fargli fare un corso in un simulatore virtuale: È veloce, sicuro e puoi creare infinite situazioni.

Il problema? Il simulatore non è perfetto. C'è sempre una differenza tra il mondo virtuale (dove l'auto si allena) e il mondo reale (dove deve guidare). Nel mondo della fisica nucleare, questo è esattamente il problema: i ricercatori usano computer per simulare come i materiali radioattivi emettono radiazioni (i "dati di addestramento"), ma quando provano a usare quel modello su un rilevatore reale, spesso fallisce. È come se l'auto avesse imparato a guidare su un'autostrada di plastica liscia e poi fosse stata messa su una strada sterrata e piena di buche: non sa più come reagire.

💡 La Soluzione: L'Adattamento "Senza Istruttore"

Gli autori di questo studio hanno trovato un modo geniale per colmare questo divario usando una tecnica chiamata Adattamento di Dominio Non Supervisionato (UDA).

Ecco la metafora:
Immagina che il tuo modello di intelligenza artificiale sia uno studente brillante.

• La Fase 1 (Addestramento): Lo studente studia su un libro di testo perfetto (i dati simulati dal computer). Impara la teoria alla perfezione.
• La Fase 2 (Il Problema): Lo studente deve sostenere un esame in una stanza diversa, con una luce diversa e un rumore di fondo (i dati reali). Se entra nella stanza, si confonde perché tutto è diverso dal libro.
• La Fase 3 (La Magia UDA): Non abbiamo un insegnante che può correggere lo studente durante l'esame (perché non sappiamo quali isotopi ci sono davvero nei dati reali, mancano le "etichette"). Tuttavia, abbiamo un tutor segreto.

Questo tutor prende lo studente e gli dice: "Guarda, le domande nel libro e quelle nella stanza reale sembrano diverse, ma la logica sottostante è la stessa. Non devi imparare le risposte a memoria, devi imparare a riconoscere lo 'stile' della domanda reale."

Il tutor fa allineare la mente dello studente (le sue "caratteristiche interne") tra il mondo del libro e il mondo reale, senza dirgli mai qual è la risposta giusta. Lo studente impara ad adattarsi all'ambiente nuovo.

🔍 Cosa hanno scoperto?

I ricercatori hanno provato diverse tecniche per fare questo "tutoraggio":

1. ADDA, DANN, Mean Teacher: Come diversi metodi di insegnamento.
2. DAN (Deep Adaptation Networks): Questa è stata la "star" dello spettacolo. È come se il tutor usasse un righello magico per misurare la distanza tra il mondo simulato e quello reale e tirasse delicatamente le due cose finché non si toccano.

Il risultato?

• Senza questo adattamento, il modello aveva un'accuratezza del 75% (quasi 1 errore su 4).
• Con l'adattamento (usando la tecnica DAN), l'accuratezza è salita al 90% (solo 1 errore su 10).

È un salto enorme! Significa che il modello, dopo essere stato "aggiustato" con i dati reali non etichettati, diventa molto più affidabile nel mondo reale.

🕵️‍♂️ Perché è importante? (L'esempio della "Falsa Allerta")

Il paper mostra un esempio affascinante.

• Il modello "vecchio" (senza adattamento): Guardava un rilevatore reale e pensava: "Vedo un picco di energia basso, deve essere questo isotopo!". In realtà, quel picco basso era solo un "rumore" o una caratteristica specifica di quel rilevatore (come un riflesso di luce su uno specchio sporco). Il modello si fidava troppo di questi dettagli falsi.
• Il modello "aggiornato" (con adattamento): Ha imparato a ignorare quel rumore di fondo e a concentrarsi sul segnale vero e proprio (la linea di energia corretta). È come se un detective esperto imparasse a ignorare le distrazioni e a guardare solo le prove fondamentali.

🚀 In sintesi

Questo studio ci dice che non serve avere un manuale di istruzioni perfetto per ogni situazione reale. Possiamo addestrare un'intelligenza artificiale su dati simulati (facili da creare) e poi usare un po' di dati reali "grezzi" (senza sapere cosa contengono) per insegnarle ad adattarsi.

È come insegnare a un nuotatore a nuotare in una piscina coperta e poi mandarlo in mare: con la tecnica giusta, impara a gestire le onde e le correnti senza bisogno che qualcuno gli spieghi ogni singola onda. Questo apre le porte a sistemi di sicurezza nucleare più intelligenti, veloci e affidabili per il mondo reale.

Sommario tecnico

1. Il Problema

L'identificazione dei radioisotopi tramite spettroscopia gamma è fondamentale per applicazioni di sicurezza nazionale, rilevamento di fonti mobili e caratterizzazione dei materiali. Tuttavia, l'addestramento di modelli di Machine Learning (ML) per questo scopo presenta sfide critiche:

• Carenza di dati etichettati: La raccolta e l'etichettatura di grandi dataset sperimentali sono costose e laboriose.
• Divario Sim-to-Real: I modelli addestrati su dati sintetici (simulati) spesso falliscono quando vengono distribuiti in ambienti operativi reali a causa di differenze nelle distribuzioni dei dati (spostamento di dominio o domain shift).
• Tipi di Spostamento: Il divario può derivare da:
  • Covariate Shift: Cambiamenti nella distribuzione degli spettri (es. rumore, schermature).
  • Prior Shift: Squilibrio nelle classi di isotopi tra sorgente e target.
  • Concept Shift: Cambiamenti fondamentali nella relazione tra etichetta isotopica e forma dello spettro (es. risposta del rivelatore, geometria).

L'obiettivo è migliorare la generalizzazione di un modello addestrato su dati sintetici verso un dominio target reale (o simulato diverso) utilizzando solo dati non etichettati del dominio target.

2. Metodologia

Gli autori propongono un approccio di Adattamento di Dominio Non Supervisionato (UDA). Il flusso di lavoro si articola come segue:

A. Architettura dei Modelli

Vengono confrontate diverse architetture neurali per l'estrazione di caratteristiche dagli spettri gamma:

• MLP (Multilayer Perceptron): Reti fully-connected semplici.
• CNN (Convolutional Neural Networks): Utilizzano kernel convoluzionali 1D per catturare strutture locali.
• TBNN (Transformer-Based Neural Networks): Sfruttano il meccanismo di attention per catturare correlazioni a lungo raggio nello spettro. Vengono testate varianti con embedding lineari e non lineari.

B. Strategie di Adattamento di Dominio

Dopo un pre-addestramento sul dominio sorgente (dati etichettati), vengono applicate diverse tecniche UDA per allineare le rappresentazioni delle caratteristiche tra dominio sorgente e target (non etichettato):

1. ADDA (Adversarial Discriminator): Addestra un estrattore di caratteristiche per il target ingannando un discriminatore di dominio.
2. DAN (Deep Adaptation Networks): Minimizza la discrepanza massima media (MMD) tra i vettori di caratteristiche sorgente e target in uno spazio di Hilbert a kernel (RKHS).
3. DANN (Domain Adversarial Neural Networks): Addestra l'estrattoore di caratteristiche per produrre rappresentazioni invarianti al dominio tramite un approccio minimax con un discriminatore.
4. DeepCORAL: Allinea le statistiche del secondo ordine (matrici di covarianza) delle distribuzioni.
5. DeepJDOT: Utilizza il trasporto ottimo (Optimal Transport) per allineare le distribuzioni congiunte di caratteristiche ed etichette.
6. Mean Teacher & SimCLR: Metodi basati su apprendimento semi-supervisionato e contrastivo per la consistenza predittiva sotto rumore/aumentazione.

C. Dataset e Scenari

Lo studio valuta tre scenari di adattamento:

1. Sim-to-Sim (HPGe): Da GADRAS (simulazione semi-empirica) a Geant4 (Monte Carlo). Dominato principalmente da concept shift.
2. Sim-to-Real (LaBr3): Da GADRAS a dati sperimentali reali con rivelatori al Bromuro di Lantanio.
3. Sim-to-Real (NaI(Tl)): Da GADRAS a dati sperimentali reali con rivelatori allo Ioduro di Sodio.

3. Risultati Chiave

Performance di Classificazione

• Scenario Sim-to-Real: L'UDA ha portato a miglioramenti significativi e consistenti.
  • L'uso di DAN e DANN ha generato i migliori risultati medi.
  • Esempio specifico: Utilizzando una rete Transformer (TBNN-LinEmb) con adattamento DAN, l'accuratezza sul set di test sperimentale LaBr3 è passata da 0.754 ± 0.014 (solo sorgente) a 0.904 ± 0.022 (dopo adattamento).
  • Per le CNN, DeepCORAL ha mostrato le migliori prestazioni.
  • Il miglioramento medio è stato di circa 14.9 punti percentuali rispetto ai modelli addestrati solo sulla sorgente.
• Scenario Sim-to-Sim: I miglioramenti sono stati più modesti ma statisticamente significativi, confermando che l'allineamento non supervisionato fatica a risolvere il concept shift puro (differenze nella fisica di risposta del rivelatore).

Analisi Diagnostica e Interpretabilità

• Metriche di Calibrazione: I modelli adattati (DAN) mostrano una migliore calibrazione (minore Expected Calibration Error), una migliore separazione dei margini di predizione e una maggiore affidabilità nell'incertezza predittiva.
• Analisi SHAP: L'analisi delle attribuzioni delle caratteristiche rivela che i modelli "solo sorgente" tendono a focalizzarsi su picchi spurii o intrinseci al rivelatore (es. picchi a 32 keV del LaBr3), confondendoli con segnali reali. I modelli adattati (DAN) imparano invece a ignorare questi artefatti e a concentrarsi sulle righe energetiche fisicamente rilevanti (es. 1460 keV per il Potassio-40), migliorando drasticamente l'accuratezza di classificazione specifica (da 17% a 83% per il K-40).
• Visualizzazione UMAP: Mentre nello scenario Sim-to-Real l'allineamento geometrico delle feature in 2D non appare drasticamente diverso, i risultati indicano che l'adattamento risolve incongruenze complesse nello spazio delle feature ad alta dimensionalità rilevanti per il confine decisionale.

4. Contributi Principali

1. Validazione dell'UDA nella Spettroscopia Gamma: Dimostrazione empirica che l'adattamento di dominio non supervisionato è una soluzione pratica ed efficace per colmare il divario tra dati sintetici e reali nell'identificazione di radioisotopi.
2. Confronto Estensivo: Valutazione sistematica di 7 diverse tecniche UDA su 5 diverse architetture neurali in tre scenari di dominio distinti.
3. Identificazione delle Tecniche Migliori: Evidenzia che la minimizzazione della discrepanza (MMD via DAN) e l'adversarial training (DANN) sono le strategie più robuste per questo dominio specifico, superando metodi basati su trasporto ottimo o contrasto in molti casi.
4. Interpretabilità Fisica: Fornisce prove che l'UDA non solo migliora le metriche numeriche, ma corregge anche il comportamento del modello, spostando l'attenzione su caratteristiche fisicamente significative piuttosto che su artefatti del simulatore o del rivelatore.

5. Significato e Implicazioni

Questo lavoro è significativo perché offre una via d'uscita pratica al problema della scarsità di dati etichettati nella spettroscopia gamma. Consente di:

• Sfruttare grandi quantità di dati sintetici per l'addestramento iniziale.
• Adattare rapidamente i modelli a nuovi rivelatori o ambienti operativi senza richiedere nuove etichette costose.
• Migliorare l'affidabilità e la sicurezza dei sistemi di rilevamento nucleare in scenari reali, riducendo i falsi positivi causati da artefatti strumentali.

In sintesi, l'articolo stabilisce che l'UDA è uno strumento fondamentale per il dispiegamento di modelli di intelligenza artificiale avanzati (come i Transformer) in applicazioni di spettroscopia gamma reali, trasformando i dati sintetici in risorse utilizzabili per il mondo reale.