Dictionary learning for Kernel EDMD

"Dictionary Learning for Kernel EDMD" 논문에 대한 상세한 기술적 요약입니다.

1. 문제 제기

비선형 동역학 시스템의 연구는 종종 비선형 동역학을 관측량의 선형적이고 무한 차원의 진화로 변환하는 Koopman 연산자 프레임워크에 의존합니다. 이 연산자를 유한 차원에서 근사하기 위해 **Extended Dynamic Mode Decomposition (EDMD)**이 일반적으로 사용됩니다. 그러나 EDMD 는 수동으로 선택된 관측량의 "사전 (dictionary)"을 필요로 합니다. 사전이 너무 작으면 근사도가 낮아지고, 너무 크면 높은 계산 비용과 수치적 불안정성 (스펙트럼 오염) 을 초래합니다.

**Kernel EDMD (kEDMD)**는 커널 함수를 통해 사전이 암시적으로 정의되도록 하여 계산 병목 현상을 해결합니다. 이를 통해 근사 크기를 사전 크기 ($M$) 가 아닌 스냅샷 수 ($N$) 로 제한할 수 있습니다. 그러나 kEDMD 는 새로운 과제를 도입합니다: 적절한 커널 선택과 하이퍼파라미터 튜닝. 전통적으로 이는 직관과 수동 튜닝에 의존합니다. 표준 EDMD 에서는 "사전 학습 (dictionary learning)" (경사를 통한 사전 파라미터 최적화) 이 존재하지만, kEDMD 의 사전은 암시적이며 표준 방식으로 명시적으로 평가하거나 미분할 수 없기 때문에 직접 적용할 수 없습니다.

핵심 문제: 명시적 사전에 접근하지 않으면서도 경사 기반 최적화 (사전 학습) 를 사용하여 kEDMD 에서 커널의 선택과 파라미터화를 자동화하고, 계산적 실현 가능성을 보장하는 방법은 무엇인가?

2. 방법론

저자들은 표준 사전 학습과 커널 방법 간의 간극을 연결하는 **kEDMD-DL (Dictionary Learning for Kernel EDMD)**이라는 프레임워크를 제안합니다.

A. 이론적 단순화 (단순화된 kEDMD)

저자들은 먼저 차원 감소를 위해 잘린 SVD 를 사용하는 표준 kEDMD 가 **단순화된 kEDMD (skEDMD)**와 수학적으로 동등함을 증명합니다.

• 표준 kEDMD: 큰 암시적 사전과 SVD 를 통한 $N \times N$ 행렬 ($\hat{K}$) 로의 투영을 사용합니다.
• 단순화된 kEDMD (skEDMD): 스냅샷 점에 중심을 둔 커널 함수 집합으로 사전이 명시적으로 정의됩니다: $\Psi = \{g(\cdot, x_1), \dots, g(\cdot, x_N)\}$.
• 동등성: 저자들은 (Proposition 2) 이 특정 사전에서 유도된 Koopman 근사 $K_{sk}$가 잘린 SVD 근사 $K_{tr}$과 선형적으로 관련됨을 증명합니다. 이 동등성을 통해 저자들은 복잡한 SVD 투영의 암시적 미분 없이 표준 EDMD 손실 함수를 커널 파라미터에 직접 적용할 수 있습니다.

B. 손실 함수 및 최적화

skEDMD 에서 사전이 데이터 점에서 명시적으로 평가되므로, 경사 하강을 위한 다양한 손실 함수를 정의할 수 있습니다:

1. 예측 손실 ($L_{pred}$): 미래 상태 예측 오차를 최소화합니다 ($Y^T \approx C_p K \Psi(X)$).
2. 사전 손실 ($L_{dict}$): Koopman 방정식의 잔차를 최소화합니다 ($\|\Psi(Y) - K\Psi(X)\|^2$).
3. 고유값 예측 손실 ($L_{eig-pred}$): Koopman 모드와 고유값을 사용하여 오차를 최소화합니다.

주요 발견: 실험 결과 **예측 손실 ($L_{pred}$)**이 훈련에 가장 강력하고 효과적이며, 표준 사전 손실은 특히 단일 파라미터 커널의 경우 자명한 해 (trivial solutions) 나 불안정성에 시달리는 것으로 나타났습니다.

C. 커널 혼합 및 희소성

"올바른" 커널 유형을 추측하는 어려움을 피하기 위해, 이 방법은 여러 커널의 가중 합을 사용합니다:
$$g_\theta(x, y) = \sum_{i=1}^{M_g} \tilde{w}_i^2 g_{\theta_i}(x, y)$$

• 외부 파라미터 ($w_i$): 각 커널 유형의 가중치.
• 내부 파라미터 ($\theta_i$): 개별 커널의 하이퍼파라미터 (예: RBF 폭 $\sigma$, 선형 계수).
• 가지치기를 통한 희소성: 저자들은 외부 가중치 ($w_i$) 에 $L_1$ 정규화를, 내부 파라미터에는 $L_2$ 정규화를 적용합니다. 이는 최적화 과정에서 중요하지 않은 커널의 가중치를 0 으로 밀어붙이도록 유도합니다. 훈련 후 가중치가 미미한 커널은 가지치기 (제거) 되어 희소하고 효율적인 커널 표현을 생성합니다.

D. 계산적 개선

대규모 데이터셋에 대한 훈련을 실현 가능하게 하기 위해:

• 확률적 경사 하강 (SGD): 일반화를 개선하고 거친 손실 지형을 탐색하기 위해 미니배치를 사용합니다.
• 부분 표집: Koopman 행렬은 계산 비용을 줄이기 위해 부분 표집된 점 집합 ($\tilde{N} \ll N$) 에서 계산됩니다.
• 정규화 스케줄러: Koopman 행렬 역산에 대한 정규화 상수를 동적으로 조정하는 스케줄러가 사용됩니다. 초기 커널이 좋지 않을 때 훈련을 안정화하기 위해 높게 시작하여 커널이 개선됨에 따라 감소시켜 손실 폭발이나 조기 평탄화를 방지합니다.

3. 주요 기여

1. 커널로의 사전 학습 확장: 표준 kEDMD 와 단순화된 커널 기반 EDMD 공식화 간의 동등성을 증명함으로써, 사전 학습 (이전에는 신경망과 같은 명시적 사전에 국한됨) 을 kEDMD 의 암시적 설정에 성공적으로 적용했습니다.
2. 자동화된 커널 선택: 커널의 유형 (가중 합을 통해) 과 하이퍼파라미터를 동시에 학습하는 방법을 도입하여 수동 커널 선택의 필요성을 제거했습니다.
3. 희소 커널 표현: 커널 가중치에 $L_1$ 정규화를 활용하여 불필요한 커널을 자동으로 식별하고 제거함으로써 간결한 모델을 도출합니다.
4. 초기화 내성: 제안된 스케줄러와 손실 함수는 "나쁜" 커널 (예: 단위 원 밖의 고유값을 생성하는 커널) 로 초기화되더라도 알고리즘이 수렴할 수 있게 하여, 이전 방법들의 일반적인 실패 지점을 해결합니다.

4. 실험 결과

이 방법은 세 가지 서로 다른 동역학 시스템에서 평가되었습니다:

• Duffing 진동자 (단일 커널):

  • 단일 RBF 커널을 훈련했습니다.
  • 결과: 알고리즘은 최적의 대역폭 $\sigma$를 성공적으로 학습하여, 초기의 열악한 선형 유사 커널을 시스템의 동역학과 고유값을 정확하게 포착하는 커널로 변환했습니다. 최적화 측면에서 예측 손실이 사전 손실보다 우월함이 입증되었습니다.

• Modulo 시스템 (커널 선택):

  • 불연속 점프가 있는 시스템 ($x_{t+1} = (x_t + \omega) \mod 2\pi$).
  • 결과: 알고리즘은 RBF, 선형, 코사인, 임베딩 기반 커널의 혼합으로 시작했습니다. 각도를 원에 매핑하는 임베딩 기반 커널만이 유용하다는 것을 올바르게 식별하여 나머지 세 커널의 가중치를 거의 0 으로 만들었습니다. 가지치기된 모델은 이론적 스펙트럼과 일치하도록 고유값을 정확히 단위 원 위에 배치했습니다.

• Kuramoto-Sivashinsky PDE (복잡한 시스템):

  • 혼돈적인 편미분 방정식.
  • 결과: 이 방법은 RBF, 코사인, 선형, Neural Network Gaussian Process (NNGP) 커널의 혼합을 학습했습니다.
  • 가지치기: 훈련 후 RBF (특정 $\sigma$ 포함) 와 NNGP 커널이 유지되었고, 나머지는 제거되었습니다.
  • 성능: 학습된 커널은 고유값의 잔차를 크게 줄이고 궤적을 정확하게 예측하여 초기 무작위 커널보다 우수한 성능을 보였습니다. 저자들은 비용과 정확도를 균형 있게 맞추기 위해 초기 학습/가지치기를 위한 작은 $\tilde{N}$과 그 후 더 큰 $\tilde{N}$에서의 미세 조정을 포함하는 2 단계 훈련 전략이 효과적이라고 언급했습니다.

5. 의의

이 연구는 비선형 동역학 시스템의 완전 자동화된 데이터 기반 모델링을 향한 중요한 걸음을 의미합니다.

• 이론과 실용의 연결: 커널 방법에서 사전 학습을 방해하던 이론적 격차를 해소하여, 사용자가 커널을 선택하기 위해 깊은 도메인 지식을 필요로 하지 않는 "블랙박스" 친화적 도구로 kEDMD 를 만듭니다.
• 효율성: 중요하지 않은 커널의 가지치기를 가능하게 하여 예측 및 제어에 계산적으로 효율적인 컴팩트한 모델을 생성합니다.
• 확장성: 부분 표집과 SGD 의 사용으로 전통적인 EDMD 가 처리 불가능한 고차원 시스템 (PDE 등) 에도 이 접근법을 적용 가능하게 합니다.
• 미래 영향: 이 프레임워크는 고급 커널 흐름과 비모수적 방법을 동역학 시스템 분석에 통합할 수 있는 문을 열어, 학습된 표현으로 수동 특징 공학을 대체할 가능성을 제시합니다.