Hybrid Unet-Transformer Model for Generating Stress and Strain Fields from Composite Geometrics

기술 요약: 복합재 기하학적 구조로부터 응력 및 변형률 장(Field) 생성을 위한 하이브리드 Unet-Transformer 모델

문제 정의
계층적 복합재 미세구조 내의 응력 및 변형률 장을 정확하게 예측하는 것은 물리 정보 기반 재료 설계에 있어 필수적이다. 그러나 이 작업을 위한 표준 계산 도구인 유한 요소법(FEM)은 대규모 스케일에서 계산 비용이 매우 높다. 단일 FEM 시뮬레이션에는 몇 분에서 며칠이 소요될 수 있는 반면, 설계 최적화 및 불확실성 정량화 과정에서는 수천 개의 후보 구성을 평가해야 하는 경우가 많으며, 이는 전수적인 FEM 평가를 불가능하게 만든다. 딥러닝이 FEM의 대리 모델(Surrogate)로 등장했음에도 불구하고, 기존 아키텍처는 주로 합성곱 유도 편향(국소 수용장)에 의존하여 기계적 장 예측에 중요한 장거리 공간 의존성 모델링을 제한한다. 또한, 표준 비전 트랜스포머(Vision Transformer)는 대규모 사전 학습 데이터셋을 필요로 하는데, 이는 FEM으로 생성된 데이터 볼륨이 제한적인 일반적인 상황과는 호환되지 않는다.

방법론
본 연구는 복합재 미세구조 기하학 이미지로부터 복잡한 기계적 장 분포를 직접 예측하도록 설계된 하이브리드 Unet-Transformer 아키텍처를 제안한다. 이 모델은 128×128 RGB 기하 이미지를 입력으로 받아 그에 대응하는 128×128 응력 또는 변형률 장 이미지를 출력하는 이미지 대 이미지 변환(Image-to-image translation) 문제로 프레임을 설정한다.

• 아키텍처:
  • 인코더(Encoder): 다중 스케일 공간 특징을 추출하기 위해 4단계 잔차 합성곱 인코더(Residual convolutional encoder)를 사용한다. 각 단계는 Group Normalization과 SiLU 활성화 함수를 갖춘 잔차 블록을 사용하여 입력을 8×8 공간 병목(Bottleneck) 지점으로 다운샘플링하면서 스킵 연결(Skip connection)을 보존한다.
  • 병목(Bottleneck): 8×8 특징 맵은 64개의 토큰(차원 256)으로 평탄화(Flatten)되며 고정된 2D 사인 함수 위치 임베딩(Sinusoidal positional embeddings)으로 증강된다. 이 시퀀스는 Pre-norm Layer Normalization, 멀티 헤드 셀프 어텐션(8개 헤드), 그리고 GELU 활성화 함수를 가진 2층 MLP를 특징으로 하는 6개의 트랜스포머 블록을 통과한다. 이 구성 요소는 국소성 제약 없이 전역적 공간 관계를 포착한다.
  • 디코더(Decoder): 다중 스케일 합성곱 디코더는 바이리니어 업샘플링(Bilinear upsampling)과 인코더로부터의 스킵 연결을 사용하여 전체 해상도의 장(Field)을 재구성한다. 이는 다양한 스케일의 특징을 통합하기 위해 FuseBlocks와 ResBlocks를 사용한다.
• 훈련 전략: 모델은 10개의 서로 다른 서브데이터셋을 포함하는 22,000개의 FEM 생성 쌍(Yang et al. 출처) 데이터셋을 통해 엔드 투 엔드(End-to-end)로 훈련된다. 훈련에는 세 가지 출력 스케일(128×128, 64×64, 32×32)에 걸친 구조적 유사도 지수(SSIM)와 L1 손실을 결합한 복합 손실 함수가 사용된다. 이는 픽셀 단위의 정확도와 구조적 충실도를 모두 보장하기 위함이다. 물리적 일관성을 유지하기 위해 물리적 특성을 변화시키는 증강(예: 회전)은 적용되지 않았다.

주요 기여

1. 아키텍처 혁신: 본 논문은 CNN의 국소 특징 추출 능력과 트랜스포머의 전역 문맥 모델링 능력을 결합한, 기계적 장 예측을 위한 하이브리드 Unet-Transformer를 도입한다. 이는 순수 CNN이 비국소적 하중 전달 경로를 포착하는 데 갖는 한계를 해결하는 동시에, 순수 비전 트랜스포머가 갖는 데이터 갈증 문제를 피한다.
2. 경험적 벤치마킹: 본 연구는 두 상(Two-phase) 복합재 기하학 벤치마크에서 합성곱 이미지 변환(구체적으로 Yang et al.의 조건부 GAN 베이스라인)과 전역 어텐션 기반의 장 예측 간의 직접적인 아키텍처 비교를 최초로 제공한다.
3. 해석 가능성: 연구는 Grad-CAM 및 Grad-CAM++를 사용하여 인코더 어텐션을 분석함으로써, 모델이 명시적인 구조적 감독 없이도 물리적으로 의미 있는 내부 표현(예: 상 경계 및 리가먼트 접합부에서의 어텐션 국소화)을 학습함을 입증한다.

결과
모델은 다양한 구성(정사각형, 육각형, 삼각형 테셀레이션, 다양한 경계 조건 및 고해상도 기하 구조)을 나타내는 8개의 서브데이터셋에 대해 평가되었다.

• 성능: 모델은 대부분의 서브데이터셋에서 강력한 예측 성능을 달acia 성취했다.
  • 최고 정확도: 경계 조건 및 삼각형 테셀레이션 서브데이터셋에서 모델은 각각 $R^2 = 0.9991$ 및 $R^2 = 0.9980$에 도달했으며, SSIM 점수는 0.98 이상, MAE는 0.006 미만이었다.
  • 일반화: 모델은 비정방형 테셀레이션(육각형: $R^2 = 0.9935$) 및 고해상도 기하 구조(Stitch/GEO MISES: $R^2 = 0.9929$)에 대해서도 효과적으로 일반화되었다.
  • 한계: 모델은 연성 상(Soft-phase) 포함물이 희소한 불규칙한 정사각형 격자 기하 구조(S11 서브데이터셋)에서 성능이 저하되어 $R^2 = 0.7735$ 및 SSIM = 0.7126을 기록했다. 저자들은 이를 매끄러운 손실(Smooth-loss) 기반 이미지 변환 모델이 날카로운 응력 불연속성을 재현하는 데 갖는 알려진 한계 때문이라고 설명했다.
• 효율성: 추론 시간은 FEM 시뮬레이션당 몇 분에서 며칠 걸리던 것에서 예측당 1초 미만으로 단축되었다.
• 정성적 분석: 어텐션 맵은 모델이 인덴터 접촉 구역 및 상 경계와 같이 기계적으로 중요한 영역을 물리적 기대치와 일치하게 올바르게 식별했음을 확인시켜 주었다.

의의 및 주장
본 논문은 하이브리드 Unet-Transformer 모델이 복합재 재료의 기계적 장 예측을 위한 실행 가능하고 효율적인 딥러닝 대리 모델임을 확립한다. 저자들은 이 접근 방식이 이전의 GAN 기반 방법들과 비교하여 더 단순한 단일 네트워크 훈련 절차를 제공하면서도 경쟁력 있는 정확도를 달성한다고 주장한다. 본 연구는 단일 통합 모델이 동일한 훈련 프레임워크 내에서 구조적으로 다양한 기하학 유형과 장(Field)의 양에 대해 일반화될 수 있음을 보여준다.

저자들은 이러한 아키텍처가 공학 설계 탐색을 위한 반복적인 FEM 솔버의 실질적인 대안 역할을 수행하며, 즉각적인 장 예측을 가능하게 한다고 결론짓는다. 향 향후 연구로는 3D 응력 및 변형률 방향을 예측하기 위해 트랜스포머 병목을 갖는 3D Unet 모델로 이 아키텍처를 확장하는 것이 제안된다.