On Data-Driven Koopman Representations of Nonlinear Delay Differential Equations

1. 연구 배경 및 문제 정의 (Problem)

• 지연 미분 방정식 (DDEs) 의 어려움: 네트워크 제어 시스템, 생물학적 조절, 기계적 피드백 등 다양한 공학 및 과학 분야에서 지연 미분 방정식 (DDEs) 이 자연스럽게 발생합니다. 그러나 DDE 는 현재 상태뿐만 아니라 과거의 상태 (히스토리) 에 의존하기 때문에 위상 공간이 무한 차원 (infinite-dimensional) 입니다. 이는 기존 유한 차원 ODE 기반의 모델링, 예측, 제어 기법을 적용하기 어렵게 만듭니다.
• 기존 방법론의 한계:
  • 신경망 기반 방법: 역전파를 통한 학습 비용이 높고 훈련 불안정성이 존재합니다.
  • 희소 식별 (SINDy 등): 해석 가능한 표현을 제공하지만 복잡한 지연 상호작용을 포착하는 데 한계가 있으며, 기저 함수의 자단에 따른 편향이 발생합니다.
  • 기존 쿠퍼만 (Koopman) 접근법: DDE 에 대한 쿠퍼만 연산자 확장은 제한적이며, 대부분 휴리스틱한 지연 임베딩에 의존하여 유도된 근사 오차를 정량화하지 못했습니다. 이로 인해 신뢰할 수 있는 예측 및 제어 설계에 필요한 이론적 보장이 부족했습니다.
• 핵심 문제: 무한 차원의 DDE 동역학을 유한 차원의 데이터 기반 모델로 변환하되, 명시적이고 해석 가능한 오차 보장 (error guarantees) 을 제공하는 프레임워크를 구축하는 것입니다.

2. 제안된 방법론 (Methodology)

저자들은 무한 차원의 DDE 동역학을 유한 차원 쿠퍼만 표현과 연결하는 샘플링 - 재구성 (Sampling-Reconstruction) 프레임워크를 제안합니다.

A. 유한 차원 실현 (Finite-Dimensional Realization)

• 히스토리 이산화 (History Discretization): 연속적인 히스토리 함수를 $M$ 개의 균일한 격자점 ($\Theta_M$) 에서 샘플링하여 유한 차원 벡터 ($Z \in \mathbb{R}^{nM}$) 로 변환합니다. 이를 위한 샘플링 연산자 ($Q$) 를 정의합니다.
• 재구성 연산자 (Reconstruction Operator): 이산화된 벡터를 다시 연속적인 히스토리 함수로 복원하는 선형 연산자 ($R$) 를 정의합니다 (선형 보간 기반).
• 오차 분석: $Q$ 와 $R$ 의 조합은 원래 함수에 대한 투영 (projection) 으로 작용하며, 이산화 격자 간격 ($\delta(M)$) 에 비례하는 오차 한계를 가집니다.

B. 데이터 기반 선형 서브레이트 모델 (Data-Driven Linear Surrogate)

• 커널 기반 확장 동역학 모드 분해 (kEDMD):
  • Wendland RBF (Radial Basis Function) 커널을 사용하여 재구성된 상태 공간에서의 동역학을 근사합니다.
  • 국소적인 데이터 포인트 ($X$) 주변에서 아핀 회귀 (affine regression) 를 수행하여 비선형 매핑을 국소적으로 선형화합니다.
  • 이를 통해 무한 차원 쿠퍼만 연산자를 유한 차원 행렬 표현으로 근사합니다.
• 상태 복원 (State Reconstruction): 학습된 쿠퍼만 좌표 (lifted coordinates) 에서 원래의 이산화된 상태 벡터를 복원하기 위해 커널 보간 기법을 사용합니다.

3. 주요 기여 (Key Contributions)

이 논문은 다음과 같은 네 가지 주요 이론적, 실용적 기여를 합니다:

1. DDE 를 위한 엄밀한 쿠퍼만 실현: 샘플링 - 재구성 프레임워크를 통해 무한 차원 DDE 와 유한 차원 쿠퍼만 표현 사이의 엄밀한 연결고리를 확립했습니다.
2. 데이터 기반 선형 서브레이트 모델: 커널 기반 kEDMD 를 사용하여 Banach 공간 (히스토리 함수 공간) 에 정의된 무한 차원 쿠퍼만 연산자를 데이터 기반 행렬로 근사하는 모델을 구축했습니다.
3. 결정론적 오차 보장 (Deterministic Error Guarantees): 학습된 예측기의 총 근사 오차를 세 가지 구성 요소로 분해하여 명시적인 상한을 유도했습니다:
   • 히스토리 이산화 오차: 격자점 수 ($M$) 가 증가함에 따라 감소.
   • 커널 보간 오차: 데이터 포인트의 밀도 (fill distance, $h_X$) 에 의존.
   • 데이터 기반 회귀 오차: 국소 반경 ($\rho$) 과 데이터 조건에 의존.
4. 보장된 상태 복원: 쿠퍼만 좌표에서 이산화된 상태를 복원하는 메커니즘을 개발하고, 이에 대한 상태 예측 오차에 대한 결정론적 상한을 증명했습니다.

4. 수치 실험 결과 (Numerical Results)

• 테스트 시스템:
  1. Hill-type 비선형성을 가진 스칼라 DDE.
  2. 종양 - 면역 상호작용 모델 (2 차원 시스템).
• 실험 설정: MATLAB dde23 솔버를 사용하여 생성된 시뮬레이션 데이터를 기반으로 학습 및 테스트를 수행했습니다.
• 주요 결과:
  • 수렴성: 이산화 해상도 ($M$) 가 증가하고 데이터 포인트 수 ($p$) 가 증가할수록 예측 오차 ($\mu_{z_k}$) 가 감소하는 것을 확인했습니다.
  • 정확도: 제안된 kEDMD 기반 모델은 이산화된 상태뿐만 아니라 현재 상태 ($x(t)$) 의 궤적도 정확하게 재구성했습니다.
  • 오차 분석: 이론적으로 유도된 오차 한계가 실제 수치 결과와 일치하며, 격자점 밀도와 데이터 양이 오차 감소에 결정적인 역할을 함을 보였습니다.

5. 의의 및 결론 (Significance & Conclusion)

• 이론적 토대: DDE 와 같은 무한 차원 시스템에 대해 데이터 기반 모델링에 신뢰할 수 있는 이론적 보장을 제공한다는 점에서 큰 의의가 있습니다. 기존에 오차 분석이 부재하거나 휴리스틱에 의존했던 접근법을 넘어서는 엄밀한 수학적 기반을 마련했습니다.
• 실용적 가치: 모델 기반 제어 (Model-based Control) 및 지연이 있는 네트워크 시스템의 안정성 분석에 직접적으로 적용 가능한 프레임워크를 제시합니다.
• 미래 전망: 이 프레임워크는 폐루프 제어 합성 (closed-loop control synthesis) 및 고차원 네트워크 시스템으로의 확장을 위한 기초를 제공합니다.

요약하자면, 이 논문은 무한 차원 지연 시스템의 복잡성을 유한 차원 데이터 기반 모델로 변환하면서도, 각 단계 (이산화, 보간, 회귀) 에서 발생하는 오차를 정량화하고 통제할 수 있는 첫 번째 엄밀한 프레임워크를 제시했다는 점에서 혁신적입니다.