Inverse Critical Experiment Design via Gradient Optimization and a Multigroup Attention-Based Neural Network Architecture

기술 요약: 그래디언트 최적화 및 다중 그룹 어텐션 기반 신경망을 통한 역방향 임계 실험 설계

문제 정의
고순도 저농축 우라늄(HALEU)을 활용하는 첨단 원자로 설계 및 연료 개념의 검증에는 대상 기술과 중성자적 유사성이 높은 임계 실험이 필요합니다. 이러한 유사성은 핵 데이터의 불확실성으로 인해 유발되는 유효 증식 계수($k_{eff}$)의 공통 편차를 측정하는 상관 계수 $c_k$에 의해 정량화됩니다. 일반적으로 실험이 대상 시스템과 충분히 유사하다고 간주되기 위해서는 $c_k \geq 0.9$가 요구됩니다. 그러나 TN-Americas TN-LC 운송 용기와 같은 특정 응용 분야의 경우, 기존의 임계 실험 벤치마크는 이러한 임계치를 충족하지 못하는 경우가 많습니다(예: 특정 TN-LC 구성에 대해 $c_k \geq 0.9$를 달ian한 기존 실험이 존재하지 않음). 전통적인 설계 방식은 후보 기하 구조를 평가하기 위해 필요한 몬테카를로 시뮬레이션의 높은 계산 비용으로 인해, 전체 조합 설계 공간을 탐색하는 데 한계가 있습니다.

방법론
저자들은 딥러닝(DNN) 대리 모델링과 비매개변수 그래디언트 최적화를 결합한 역방향 임계 실험 설계 방법론을 제안합니다.

1. 대리 모델링 (Surrogate Modeling):

   • 데이터 생성: 셀룰러 오토마타 알고리즘을 사용하여 5,000개의 절차적으로 생성된 2D 실험 기하 구조 데이터셋을 구축했습니다. 이 기하 구조들은 OpenMC에서 모델링되어 252개 에너지 그룹에 걸친 4가지 반응($^{235}$U 핵분열, $^{12}$C 탄성 산란, $^{1}$H 탄성 산란, $^{58}$Ni 흡수)에 대한 민감도 벡터를 계산했습니다.
   • 아키텍처: 대리 모델은 U-Net 컨볼루션 인코더-디코더와 새로운 다중 그룹 어텐션 풀링(Multigroup Attention Pooling) 레이어를 결합한 이종 아키텍처를 채택합니다.
     • U-Net은 입력 기하 구조(재료 할당이 포함된 32x32 쿼터 그리드로 인코딩됨)로부터 공간적 특징을 추출합니다.
     • 다중 그룹 어텐션 풀링 레이어는 각 에너지 그룹에 대해 별도의 어텐션 맵을 학습하여, 특정 그룹에 중요한 공간적 특징에 가중치를 부여합니다. 이는 다양한 에너지 스케일에서의 중성자 수송의 서로 다른 공간적 의존성을 반영하는 유도 편향(inductive bias)을 도입합니다.
     • 1D 컨볼루션 회귀 모델은 그룹 디스크립터를 처리하여 최종 민감도 프로파일을 예측합니다.
   • 학습: 모델은 $c_k$를 직접 예측하는 대신 민감도 프로파일을 예측하도록 정규화된 평균 제곱 오차(MSE) 손실 함수를 사용하여 학습되며, 이를 통해 반응 및 에너지 그룹 전반에 걸친 세밀한 평가가 가능합니다.

2. 그래디언트 기반 최적화 (Gradient-Based Optimization):

   • 대리 모델의 미분 가능성 덕분에 $c_k$를 최대화하기 위해 기하 구조 격자의 재료 할당을 직접 최적화할 수 있습니다.
   • 재료 할당의 이산적 특성을 처리하기 위해, 이 문제를 연속적인 재료 로짓($\ell$)을 최적화하는 문제로 완화합니다. 온도 조절된 소프트맥스(temperature-scaled softmax)는 이 로짓을 확률로 변환하며, 순방향 패스(forward pass)에서는 Straight-Through Estimator(STE)를 사용하여 이산화하는 동시에 역방향 패스(backward pass)에서는 미분 가능성을 유지합니다.
   • 최적화는 AdamW 옵티마이저를 사용하여 음의 예측 상관 계수($-\hat{c}_k$)를 최소화합니다. 탐색에서 활용으로 전환하기 위해 소프트맥스 온도에 코사인 어닐링 스케줄이 적용됩니다.

주요 기여

• 역설계 프레임워크: 본 연구는 그래디언트 하강법을 통해 재료 할당을 직접 최적화함으로써, 대상 시스템과 높은 중성자 유사성($c_k$)을 갖는 임계 실험 기하 구조를 생성하는 프레임워크를 구축했습니다.
• 다중 그룹 어텐션 메커니즘: 다중 그룹 어텐션 풀링 레이어의 도입은 네트워크가 다양한 에너지 그룹에 따른 중성자 민감도의 독특한 공간적 의존성을 포착할 수 있게 합니다. 저자들은 이 아키텍처가 전통적인 max 및 average 풀링보다 예측 정확도(낮은 평균 절대 오차) 측면에서 우수하며, 물리적 직관과 일치하는 해석 가능한 내부 동작(예: 열중성자가 연료 내에 국부적으로 머무르고, 빠른 중성자가 주변 영역과 상호작용함)을 제공함을 입증했습니다.
• 중성자 역학을 위한 미분 가능한 대리 모델: 본 연구는 몬테카를로 민감도 계산의 계산 비용으로 인해 어려움을 겪었던, 임계 실험의 전체 조합 설계 공간을 탐색하는 데 있어 미분 가능한 딥러닝 대리 모델의 타당성을 입증했습니다.

결과
본 방법론은 TN-LC 운송 용기의 세 가지 구성(건식 용기, 저밀도 독물(poison)이 포함된 침수 용기(Case 1), 고밀도 독물이 포함된 침수 용기(Case 2))에 적용되었습니다.

• 성능: 최적화는 높은 $c_k$ 점수를 가진 실험 기하 구조를 성공적으로 생성했습니다:
  • 건식 용기 (Dry Cask): $c_k = 0.97757$
  • Case 1: $c_k = 0.81324$ ($k_{eff}$ 페널티를 피하기 위해 요구되는 0.8 임계치를 초과함)
  • Case 2: $c_k = 0.93276$ (기존에 $c_k \geq 0.8$인 실험이 존재하지 않았던 구성에 대한 상당한 성과임)
• 기하 구조 특성: 최적화된 기하 구조는 매우 이질적이고 "이질적인(alien)" 설계를 보였으며, 스테인리스강이나 폴리에틸렌보다는 $\text{UO}_2$와 붕산 알루미늄을 우선시했습니다. 옵티마이저는 $k_{eff}$ 불확실성의 주요 기여자인 $^{235}\text{U}$ 핵분열 민감도 프로파일의 크기와 형태를 일치시키는 데 집중했습니다.
• 모델 정확도: 대리 모델은 테스트 세트에서 41.19 pcm의 평균 절대 오차(MAE)를 달}{성했으며, 다중 그룹 어텐션 풀링 구성이 전통적인 풀링 방법보다 낮은 오차를 보여주었습니다.

의의 및 주장
본 논문은 이 접근 방식이 첨단 원자력 기술의 개발 및 검증을 가속화할 수 있는 딥러닝과 그래디언트 최적화의 잠재력을 보여준다고 주장합니다. 특히, 전통적인 벤치마킹이 실패하는 HALEU 수송 시나리오에 대한 실험적 범위의 결정적인 공백을 해결합니다.

저자들은 다음과 같은 한계점과 겸허한 주장을 명시했습니다:

• $k_{eff}$ 제약 조건: 현재 방법은 최적화 과정에서 유효 증식 계수($k_{eff}$)를 제약하지 않습니다. 결과적인 실험들이 $k_{eff}$ 값이 1에 가깝거나 그 이상이었으나, 하부 임계 상태 또는 특정 임계 마진을 보장하기 위해서는 추가적인 제약이나 대리 모델이 필요하며, 이는 향후 과제로 식별되었습니다.
• 범위: 본 연구는 2D 기하 구조와 특정 재료 팔레트에 집중하고 있습니다. SPARC와 같은 시설의 전체 재료 설계 공간과 3D 기하 구조로의 확장이 향-후 연구 방향으로 제안되었습니다.
• 해석 가능성: 어텐션 맵이 물리적 현상과 일치하는 질적 통찰을 제공하지만, 저자들은 모델의 내부 동작을 완전히 정량화하기 위해 더 엄격한 해석 가능성 분석이 필요함을 인정했습니다.

요약하자면, 본 연구는 미분 가능한 대리 모델이 핵공학의 역설계 문제를 해결하여, 기존에 존재하지 않았던 높은 중성자 유사성을 달성하는 새로운 실험 구성을 생성할 수 있다는 것을 보여주는 개념 증명(proof-of-concept)을 제공합니다.