기술 요약: 비침습적 축소 차원 모델 (ROM) 을 위한 머신러닝 기반 2 차 폐쇄 모델

문제 제기

축소 차원 모델 (ROM) 은 설계 최적화 및 제어와 같이 빠른 예측이 필요한 응용 분야에서 계산 유체 역학 (CFD) 시뮬레이션을 가속화하는 데 필수적입니다. 고유 직교 분해 (POD) 는 표준적인 선형 축소 기법이지만, 유지되는 모드 수가 복잡한 시스템 역학을 포착하기에 불충분한 과소해석 (under-resolved) 또는 한계해석 (marginally-resolved) 영역에서는 부정확한 근사치를 산출하는 경향이 있습니다.

이러한 부정확성을 보정하기 위한 기존 데이터 기반 접근법은 일반적으로 2 차 폐쇄 모델에 의존하며, 여기서 2 차 연산자는 최소제곱 최적화 (Quad-LS) 를 통해 학습됩니다. 그러나 이러한 최첨단 방법들은 두 가지 주요 한계를 겪고 있습니다:

1. 과적합 및 낮은 일반화 성능: 최소제곱 접근법은 훈련 매니폴드가 고정밀 모델의 전체 복잡성을 반영하지 못하거나 문제가 조건이 나쁠 (ill-conditioned) 때 특히 과적합되기 쉽습니다.
2. 이산화 의존성: 전통적인 연산자는 이산적이므로 훈련에 사용된 특정 메시에 종속됩니다. 따라서 다른 공간 이산화로 자연스럽게 일반화되거나 연속적인 장 (field) 보정을 제공할 수 없습니다.

방법론

저자들은 정적 최소제곱 연산자를 학습 가능한 연속 신경 연산자로 대체하는 새로운 완전 데이터 기반 비침습적 프레임워크를 제안합니다. 핵심 전략은 표준 POD 전개식에 2 차 보정항 $\tau(\hat{x}; \mu)$를 추가하는 것입니다:
$$u(\hat{x}, \mu) \simeq \sum_{i=1}^r a_i(\mu)\phi_i(\hat{x}) + \tau(\hat{x}; \mu)$$
여기서 $\phi_i$는 POD 모드, $a_i$는 축소된 계수, $\tau$는 보정항입니다.

본 논문은 POD 계수에 작용하는 2 차 연산자를 매개변수화하기 위해 두 가지 특정 신경 아키텍처를 소개합니다:

1. QuadNet (DeepONet 영감): 이 모델은 보정을 $\tau(x; \mu) = a^T(\mu)C(\Phi_r, x)a(\mu)$로 근사합니다. 이는 다음과 같은 Deep Operator Network (DeepONet) 아키텍처를 활용합니다:

   • POD 모드 ($\Phi_r$) 를 처리하는 브랜치 네트워크.
   • 공간 좌표 ($x$) 를 처리하는 트렁크 네트워크.
   • 출력을 결합하여 연속적인 2 차 연산자를 생성하는 세 번째 서브 네트워크.
   • 주요 특징: 연산자가 공간적으로 연속적이므로 훈련 메시와 무관하게 임의의 배치점에서 평가가 가능합니다.

2. QuadNet-$\mu$ (MIONet 영감): 이는 Multi-Input Operator Network (MIONet) 구조를 통해 문제 매개변수 ($\mu$) 를 추가 입력으로 포함함으로써 QuadNet 을 확장합니다.

   • 매개변수를 위한 두 번째 브랜치 네트워크를 포함합니다.
   • 주요 특징: 연산자가 공간과 매개변수 공간 모두에서 연속적이므로, 모델은 매개변수 영역에서 "국소적"이며 훈련 중 사용된 특정 매개변수 사례에 무관합니다.

훈련 전략:

• 모델들은 보정항의 다양한 크기 범위를 처리하기 위해 보정항을 정규화하는 상대 오차 손실 함수를 최소화하도록 훈련됩니다.
• 저자들은 신경망이 메시 노드의 부분 집합으로 훈련되는 "부분 데이터" 영역을 조사합니다. 균일한 무작위 샘플링 대신 보정항이 크고 급격하게 변화하는 영역을 우선시하는 볼츠만과 유사한 확률 분포를 노드 샘플링에 제안합니다.

주요 기여

1. 신경 연산자 폐쇄 모델: 전통적인 최소제곱 최적화를 넘어 비침습적 ROM 을 위한 2 차 폐쇄항을 학습하기 위해 DeepONet 및 MIONet 아키텍처를 도입했습니다.
2. 연속성 및 일반화: 공간 좌표와 매개변수 공간 모두에서 연속적인 모델을 개발했습니다. 이를 통해 모델은 영역 이산화에 독립적이 되며 보지 못한 매개변수 구성으로 효과적으로 일반화할 수 있습니다.
3. 효율적인 데이터 활용: 이러한 연속 모델이 선형 및 전통적인 2 차 기준선과 비교하여 정확도를 유지하거나 향상시키면서 축소된 공간 배치점 (부분 데이터) 과 적은 수의 매개변수 사례 (희소 데이터) 로 훈련될 수 있음을 입증했습니다.
4. 매개변수 효율성: 오프라인 훈련 비용이 증가했음에도 불구하고, 테스트된 문제들에 대해 텐서 기반 Quad-LS 접근법보다 신경 모델이 더 적은 수의 매개변수를 활용합니다.

결과

이 방법론은 뒤쪽 발걸음 (backward-facing step) (정상 상태, 입구 속도 변화) 과 리드 구동 공동 (lid-driven cavity) (시간 의존성, 레이놀즈 수 변화) 의 두 가지 표준 유체 역학 벤치마크에서 검증되었습니다.

• 정확도: QuadNet 과 QuadNet-$\mu$는 모두 기준선 POD-RBF(선형) 와 최첨단 Quad-LS(2 차 최소제곱) 모델을 크게 능가했습니다.
  • QuadNet-$\mu$는 가장 높은 정확도를 달성하여 특정 테스트 구성에서 POD-RBF 대비 최대 90%, Quad-LS 대비 최대 **80%**까지 오차를 감소시켰습니다.
  • 개선 효과는 매개변수 범위 전반에 걸쳐 유동 거동이 크게 변하는 뒤쪽 발걸음 사례에서 가장 두드러졌으며, 이는 QuadNet-$\mu$의 매개변수 국소적 특성의 이점을 강조합니다.
• 희소 데이터에서의 강건성: 매우 적은 수의 훈련 스냅샷 (예: $N_\mu < 30$) 과 높은 POD 모드 수를 가진 영역에서 Quad-LS 는 과적합으로 인해 종종 실패하거나 선형 기준선보다 낮은 성능을 보였습니다. QuadNet-$\mu$는 더 강건하게 유지되었으나, 보정항이 무시할 수 있을 정도로 작아질 때 (즉, 선형 POD 근사가 이미 매우 정밀할 때) 성능이 저하되기도 했습니다.
• 부분 데이터: 보정 영역을 우선시하는 샘플링 전략이 제공되는 경우, 메시 노드의 10% 에서 50% 만으로 QuadNet-$\mu$를 훈련하면 전체 메시로 훈련한 것과 비교 가능한 오차를 보였습니다. 이는 테스트된 설정에서 오프라인 훈련 시간을 약 10% 단축시켰습니다.
• 계산 비용: 신경 모델의 오프라인 훈련 시간 (8~25 분) 은 Quad-LS 의 거의 즉각적인 훈련 (<10 ms) 보다 현저히 길었으나, 저자들은 단일 전체 차원 시뮬레이션 비용 (예: 3 분) 이 훈련 오버헤드를 훨씬 초과하는 많은 쿼리가 필요한 산업 응용 분야에서 이 비용이 상쇄된다고 주장합니다.

중요성 및 주장

본 논문은 제안된 "보정된-ROM"이 기존 2 차 폐쇄 전략에 비해 정확도, 일반화, 데이터 효율성 간의 우월한 균형을 제공한다고 주장합니다. 신경 연산자를 활용함으로써 저자들은 다음과 같은 점을 입증했습니다:

• 해석 가능성과 비선형성의 공존: 2 차 구조는 모드 간의 상호작용과 같은 물리적 해석 가능성을 일정 부분 유지하면서 딥러닝의 비선형 근사 능력을 활용합니다.
• 이산화 독립성: 학습된 연산자의 연속적인 특성은 특정 메시 해상도에 대한 종속성을 제거하여, 메시 정제 또는 변경이 일반적인 실제 공학 응용 분야에서 중요한 이점을 제공합니다.
• 제한된 데이터에서의 실현 가능성: 이 접근법은 고정밀 데이터가 희소하거나 생성 비용이 비싼 시나리오에 특히 유용하며, 제한된 공간 및 매개변수 샘플로부터 효과적인 보정을 학습할 수 있습니다.

저자들은 오프라인 훈련 비용이 더 높지만, 결과적으로 생성된 모델은 보지 못한 구성에 대해 훨씬 더 정확한 예측을 제공하므로 실제 응용 분야에서 CFD 시뮬레이션을 가속화하기 위한 실현 가능하고 효과적인 도구라고 결론지었습니다. 향후 작업으로는 고차 보정 및 POD-NN 과 같은 더 정교한 기본 모델과의 통합을 탐구할 것을 제안합니다.