Inverse Critical Experiment Design via Gradient Optimization and a Multigroup Attention-Based Neural Network Architecture

Sintesi Tecnica: Progettazione Inversa di Esperimenti Critici tramite Ottimizzazione del Gradiente e una Rete Neurale basata su Attenzione Multigruppo

Definizione del Problema
La validazione di progettazioni avanzate di reattori nucleari e concetti di combustibile, in particolare quelli che utilizzano l'uranio ad alto arricchimento e basso contenuto di $^{235}$U (HALEU), richiede esperimenti critici con un'elevata somiglianza neutronica rispetto alla tecnologia target. Questa somiglianza è quantificata dal coefficiente di correlazione, $c_k$, che misura il bias condiviso nel fattore di moltiplicazione efficace ($k_{eff}$) indotto dalle incertezze nei dati nucleari. Un valore di $c_k \geq 0,9$ è generalmente richiesto affinché un esperimento sia considerato sufficientemente simile a un sistema target. Tuttavia, per applicazioni specifiche come la cassa da trasporto TN-Americas TN-LC, i benchmark esistenti per esperimenti critici spesso non riescono a soddisfare questa soglia (ad esempio, nessun esperimento esistente ha raggiunto un $c_k \geq 0,9$ per determinate configurazioni TN-LC). I metodi di progettazione tradizionali sono limitati dall'elevato costo computazionale delle simulazioni Monte Carlo necessarie per valutare le geometrie candidate, rendendo intrattabile l'esplorazione dell'intero spazio di progettazione combinatoria.

Metodologia
Gli autori propongono una metodologia per la progettazione inversa di esperimenti critici che combina la modellazione surrogata tramite reti neurali profonde (DNN) con l'ottimizzazione del gradiente non parametrica.

1. Modellazione Surrogata:

   • Generazione dei Dati: È stato creato un dataset di 5.000 geometrie di esperimenti 2D generate proceduralmente tramite un algoritmo di automa cellulare. Queste geometrie sono state modellate in OpenMC per calcolare i vettori di sensibilità per quattro reazioni ($^{235}$U fissione, $^{12}$C scattering elastico, $^{1}$H scattering elastico e $^{58}$Ni assorbimento) attraverso 252 gruppi di energia.
   • Architettura: Il modello surrogato impiega un'architettura eterogenea che combina un encoder-decoder convoluzionale U-Net con un nuovo livello di Multigroup Attention Pooling.
     • La U-Net estrae le caratteristiche spaziali dalla geometria di input (codificata come un quarto-griglia 32x32 di assegnazioni di materiale).
     • Il livello di Multigroup Attention Pooling apprende mappe di attenzione distinte per ogni gruppo di energia, pesando le caratteristiche spaziali in base alla loro importanza per quel gruppo specifico. Ciò introduce un bias induttivo che riflette le diverse dipendenze spaziali del trasporto neutronico a varie scale energetiche.
     • Un regressore convoluzionale 1D elabora i descrittori di gruppo per predire il profilo di sensibilità finale.
   • Addestramento: Il modello è addestrato per predire i profili di sensibilità (anziché direttamente $c_k$) utilizzando una perdita di errore quadratico medio (MSE) normalizzata, consentendo una valutazione fine attraverso reazioni e gruppi di energia.

2. Ottimizzazione basata sul Gradiente:

   • La differenziabilità del modello surrogato consente l'ottimizzazione diretta dell'assegnazione dei materiali nella griglia geometrica per massimizzare $c_k$.
   • Per gestire la natura discreta delle assegnazioni di materiale, il problema viene rilassato nell'ottimizzazione di logit di materiale continui ($\ell$). Una softmax scalata per temperatura converte questi logit in probabilità, che vengono poi discretizzate utilizzando un Estimatore Straight-Through (STE) per il passaggio in avanti (forward pass), mantenendo la differenziabilità per il passaggio all'indietro (backward pass).
   • L'ottimizzazione minimizza il coefficiente di correlazione predetto negativo ($-\hat{c}_k$) utilizzando l'ottimizzatore AdamW. Viene applicato un programma di annealing coseno alla temperatura della softmax per passare dalla fase di esplorazione a quella di sfruttamento (exploitation).

Contributi Chiave

• Framework di Progettazione Inversa: Il lavoro stabilisce un framework per generare geometrie di esperimenti critici che massimizzano la somiglianza neutronica ($c_k$) rispetto a un sistema target, ottimizzando direttamente le assegnazioni di materiale tramite discesa del gradiente.
• Meccanismo di Attenzione Multigruppo: L'introduzione di un livello di pooling di attenzione multigruppo permette alla rete di catturare le distinte dipendenze spaziali delle sensibilità neutroniche attraverso diversi gruppi di energia. Gli autori dimostrano che questa architettura supera il pooling max e average tradizionale in termini di accuratezza della predizione (minore Errore Assoluto Medio) e fornisce un comportamento interno interpretabile coerente con l'intuizione fisica (ad esempio, i neutroni termici che rimangono localizzati nel combustibile, i neutroni veloci che interagiscono con le regioni circostanti).
• Surrogati Differenziabili per la Neutronica: Lo studio dimostra la fattibilità dell'uso di modelli surrogati basati su deep learning differenziabili per navigare l'intero spazio di progettazione combinatoria di esperimenti critici, un compito precedentemente ostacolato dal costo computazionale dei calcoli di sensibilità Monte Carlo.

Risultati
La metodologia è stata applicata alla progettazione di esperimenti per tre configurazioni della cassa da trasporto TN-LC: una cassa a secco, una cassa allagata con veleno a bassa densità (Caso 1) e una cassa allagata con veleno ad alta densità (Caso 2).

• Performance: L'ottimizzazione ha generato con successo geometrie sperimentali con alti punteggi di $c_k$:
  • Cassa a secco: $c_k = 0,97757$
  • Caso 1: $c_k = 0,81324$ (superando la soglia di 0,8 richiesta per evitare penalità su $k_{eff}$)
  • Caso 2: $c_k = 0,93276$ (un risultato significativo, dato che nessun esperimento precedente aveva raggiunto un $c_k \geq 0,8$ per questa configurazione).
• Caratteristiche della Geometria: Le geometrie ottimizzate erano altamente eterogenee e di design "alieno", dando priorità a UO$_2$ e alluminio borato rispetto a acciaio inossidabile e polietilene. L'ottimizzatore si è concentrato principalmente sul far corrispondere l'ampiezza e la forma del profilo di sensibilità della fissione di $^{235}$U, che è il principale contributore all'incertezza di $k_{eff}$.
• Accuratezza del Modello: Il modello surrogato ha raggiunto un Errore Assoluto Medio (MAE) del set di test di 41,19 pcm, con la configurazione di pooling di attenzione multigruppo che mostrava l'errore più basso rispetto ai metodi di pooling tradizionali.

Significatività e Rivendicazioni
Il documento sostiene che questo approccio dimostra il potenziale del deep learning e dell'ottimizzazione del gradiente per accelerare lo sviluppo e la validazione di tecnologie nucleari avanzate. Nello specifico, affronta il divario critico nella copertura sperimentale per gli scenari di trasporto HALEU dove il benchmarking tradizionale fallisce.

Gli autori esplicitano esplicitamente i limiti e le rivendicazioni moderate:

• Vincolo di $k_{eff}$: L'attuale metodo non vincola il fattore di moltiplicazione efficace ($k_{eff}$) durante l'ottimizzazione. Sebbene gli esperimenti risultanti avessero valori di $k_{eff}$ vicini o superiori a 1, garantire la sottocriticità o specifici margini di criticità richiede vincoli aggiuntivi o modelli surrogati, identificati come lavori futuri.
• Ambito: Lo studio si concentra su geometrie 2D e una specifica tavolozza di materiali. L'estensione a geometrie 3D e all'intero spazio di progettazione dei materiali di strutture come SPARC è proposta come direzione per la ricerca futura.
• Interpretabilità: Sebbene le mappe di attenzione forniscano intuizioni qualitative coerenti con la fisica dei neutroni, gli autori riconoscono che è necessaria un'analisi di interpretabilità più rigorosa per quantificare pienamente il comportamento interno del modello.

In sintesi, il lavoro fornisce una prova di concetto del fatto che i modelli surrogati differenziabili possono essere utilizzati per risolvere problemi di progettazione inversa in ingegneria nucleare, generando nuove configurazioni sperimentali che raggiungono un'elevata somiglianza neutronica laddove prima non esistevano.