Tensor-based empirical interpolation method and its application in model reduction

기술적 요약: 텐서 기반 경험적 보간법 및 모델 축소 적용

문제 제기
모델 차수 축소 (MOR) 는 특히 비선형 편미분 방정식 (PDE) 에 의해 지배되는 대규모 동적 시스템의 시뮬레이션에 필수적입니다. Proper Orthogonal Decomposition (POD) 과 Galerkin 투영을 결합한 기법들은 선형 및 이차 시스템의 축소를 효과적으로 수행하지만, 비선형 항은 종종 전체 차수 모델 (FOM) 의 차원에 대한 의존성을 유지합니다. 이를 해결하기 위해 Discrete Empirical Interpolation Method (DEIM) 와 그 전신인 Empirical Interpolation Method (EIM) 가 개발되어 소수의 보간점을 사용하여 비선형 항을 근사화합니다.

그러나 비선형성이 행렬 값 함수 (예: 이산화된 3D PDE 에서 발생) 일 때 중요한 한계가 존재합니다. 기존 접근법은 DEIM 을 적용하기 전에 행렬을 고차원 벡터로 벡터화해야 합니다. 이 벡터화는 대규모 행렬의 경우 계산적으로 비효율적이며, 오프라인 및 온라인 계산 비용을 모두 증가시킵니다. 일부 연구자들은 행렬 기반 확장 시도를 해왔으나, 이러한 방법의 작동 원리, 한계 및 최적 구조를 설명하는 엄밀한 이론적 프레임워크는 부재했습니다.

방법론
저자들은 행렬을 벡터 형태로 변환하지 않고 행렬 값 함수를 근사화하도록 설계된 EIM 의 확장인 텐서 기반 경험적 보간법 (TEIM) 을 제안합니다. 방법론은 다음 단계를 거칩니다:

1. 텐서 POD 기저 구성: 표준 벡터 POD 대신, 해 공간을 spanning 하는 텐서 기저 (랭크 -1 행렬 $u_i \otimes v_j$ 의 집합) 를 생성하기 위해 고차 특이값 분해 (HOSVD) 를 사용합니다. 이는 대규모 행렬의 벡터화로 인한 계산 오버헤드를 방지합니다.
2. 보간점 선택 (TEIM 알고리즘): 이 논문은 보간점을 선택하는 수정된 알고리즘을 소개합니다. 표준 DEIM 이 그리드 위에서 임의로 점을 선택하는 것과 달리, TEIM 알고리즘은 중첩되고 구조화된 방식으로 인덱스를 선택합니다.
3. 직사각형 그리드 구조: 텐서 기저 (또는 랭크 -1 행렬 기저) 의 경우 TEIM 알고리즘이 본질적으로 직사각형 그리드를 형성하는 보간점들을 선택한다는 것이 중요한 이론적 발견입니다. 구체적으로, $m_1 m_2$ 개의 점이 필요할 때, 알고리즘은 $m_1$ 개의 행과 $m_2$ 개의 열을 선택하여 모든 교차점을 선택합니다.
4. 2D-DEIM 과의 동등성: 저자들은 TEIM 방법이 행 기저 행렬과 열 기저 행렬에 표준 DEIM 알고리즘을 독립적으로 적용하는 것 (양면 DEIM 접근법) 과 수학적으로 동등함을 증명합니다. 이를 통해 마스크 연산자를 벡터화된 행렬에 작용하는 하나의 큰 연산자가 아닌, 두 개의 작은 연산자 ($P_3$ 및 $P_4$) 로 분해할 수 있습니다.
5. 효율적인 근사 공식: 행렬 함수 $\tilde{A}(t)$ 의 최종 근사는 행렬 곱 형태로 유도됩니다:
   $$\tilde{A}(t) = U_1(P_5 U_1)^{-1} (P_5 A(t) P_6^T) (U_2(P_6 U_2)^{-1})^T$$
   여기서 $P_5$ 와 $P_6$ 는 각각 행 기저와 열 기저에서 유도된 마스크 연산자입니다. 이 공식은 온라인 단계에서 벡터화를 완전히 피합니다.

주요 기여

• 이론적 프레임워크: 이 논문은 텐서 기반 보간에 필요한 이론적 기초를 확립하여, 제안된 TEIM 과 각 방향에 적용된 DEIM 간의 동등성을 증명합니다.
• 직사각형 그리드 특성화: 저자들은 랭크 -1 기저에 의존하는 텐서 기반 보간법이 필연적으로 직사각형 그리드 상의 보간점들을 선택함을 보여줍니다. 이는 이러한 접근법의 근본적인 구조적 한계를 규명합니다.
• 계산 효율성: 직사각형 그리드 구조를 활용함으로써 온라인 계산 복잡도를 줄입니다. $n_1 \times n_2$ 크기의 행렬에 대해 $m_1$ 개의 행과 $m_2$ 개의 열이 선택될 경우, 복잡도는 $O(n_1 n_2 m_2 + n_1 m_1 m_2)$ (평가 순서에 따라 유사함) 로, 벡터화된 DEIM 접근법의 $O(n_1 n_2 m_1 m_2)$ 복잡도보다 훨씬 낮습니다.
• 알고리즘적 구현: 이 논문은 마스크 연산자의 가역성을 보장하는 중첩된 보간점 집합을 선택하는 구체적인 알고리즘 (알고리즘 1) 을 제공합니다.

결과 및 수치 실험
저자들은 두 가지 주요 응용을 통해 방법을 검증합니다:

1. 행렬 값 함수 근사:

   • 예제 1: 비선형 매개변수화된 2D 함수. 결과는 텐서 POD 기저가 표준 벡터 POD 기저보다 더 나은 근사 부분 공간을 제공할 때, TEIM 이 DEIM 보다 낮은 근사 오차를 달성함을 보여줍니다.
   • 예제 2: 표준 POD 기저가 텐서 기저보다 우수한 시간 의존 함수. 이 경우 DEIM 이 더 높은 정확도를 보입니다. 이는 TEIM 과 DEIM 간의 선택이 시스템의 역학을 더 잘 포착하는 기저 (텐서 대 벡터) 에 달려 있음을 강조합니다.
   • 시간 측정: 정확도가 유사할 때조차 TEIM 은 DEIM 에 비해 일관되게 더 낮은 평균 CPU 시간을 보여줍니다.

2. 준선형 행렬 미분 방정식의 모델 축소:

   • 이 방법은 2D Allen-Cahn 방정식에 적용되었습니다. 축소 차수 모델 (ROM) 은 상태에 대한 텐서 POD 와 비선형 항에 대한 TEIM 을 사용하여 구성되었습니다.
   • 정확도 대 효율성: 테스트된 Allen-Cahn 방정식의 특정 사례에서, 표준 POD-DEIM 접근법 (벡터 기반) 이 TEIM 접근법보다 약간 더 높은 정확도를 제공했습니다. 그러나 TEIM 접근법은 더 적은 계산 자원을 필요로 했습니다.
   • 벡터 미분 방정식: 행렬 방정식을 벡터 형태로 변환하고 비선형성에 TEIM 을 사용하여 축소했을 때, 결과는 POD-DEIM 과 비교 가능했으며, 방법의 선택은 다시 더 우수한 근사 부분 공간을 제공하는 기저에 달려 있었습니다.

의의 및 주장
이 논문은 TEIM 방법이 모델 축소를 위한 행렬 값 함수의 벡터화에 대한 계산적으로 효율적인 대안을 제공한다고 주장합니다. 주요 의의는 다음과 같습니다:

• 계산 부담 감소: 대규모 행렬의 벡터화를 피함으로써 오프라인 및 온라인 계산 시간을 크게 단축합니다.
• 구조적 통찰: 텐서 기반 보간이 직사각형 그리드로 구조적으로 제한됨을 명확히 하여, 구현을 양면 DEIM 접근법으로 단순화합니다.
• 맥락적 적용 가능성: 저자들은 TEIM 이 더 효율적이지만 정확도가 DEIM 대비 문제 상황에 의존한다고 겸손하게 지적합니다. 시스템의 역학이 텐서 기저 (예제 1 과 같이) 로 더 잘 포착될 경우, TEIM 이 정확도와 속도 모두에서 우월합니다. 반면 시스템이 표준 벡터 기저 (Allen-Cahn 예제와 같이) 로 더 잘 포착될 경우, DEIM 이 더 높은 정확도를 낼 수 있지만, TEIM 은 정밀도의 작은 타협과 함께 실행 가능하고 빠른 대안으로 남습니다.

이 연구는 행렬 값 함수에 초점을 맞추고 있지만, 이론적 프레임워크는 고차 텐서 값 함수로 확장 가능하다고 결론지었습니다.