Learning Dynamics from Input-Output Data with Hamiltonian Gaussian Processes

논문 요약: 입력 - 출력 데이터를 활용한 해밀토니안 가우시안 프로세스를 통한 동역학 학습

1. 문제 정의 (Problem Statement)

기존의 물리 정보 기반 머신러닝 (Physics-informed ML) 연구, 특히 해밀토니안 역학을 가우시안 프로세스 (GP) 에 통합하는 방법론들은 시스템의 전체 상태 (위치뿐만 아니라 속도 또는 운동량) 에 대한 측정을 전제로 합니다.

• 현실적 제약: 실제 응용 분야 (예: 로봇 공학, 제어 시스템) 에서는 운동량이나 속도를 직접 측정하기 어렵거나 노이즈가 심하여 수치 미분으로 추정하는 것은 신뢰할 수 없습니다.
• 연구 목표: 본 논문은 운동량이나 속도 데이터 없이 오직 입력 (Input) 과 출력 (Output, 예: 위치 데이터) 만을 사용하여 물리적으로 일관된 (물리 법칙을 준수하는) 비보존적 (non-conservative) 시스템의 동역학을 학습하는 방법을 제안합니다. 또한, 불확실성 정량화 (Uncertainty Quantification) 를 포함하는 완전 베이지안 (Fully Bayesian) 접근법을 목표로 합니다.

2. 방법론 (Methodology)

2.1. 비보존적 해밀토니안 가우시안 프로세스 모델링

• 시스템 표현: 시스템의 동역학을 강제된 해밀토니안 역학 (Forced Hamiltonian Mechanics) 으로 모델링합니다.
  • $\dot{x} = (J(x) - R(x)) \nabla_x H(x) + G(x)u + w$
  • 여기서 $H(x)$는 해밀토니안 (에너지), $J$는 연결 행렬, $R$은 소산 (감쇠) 행렬, $G$는 입력 행렬입니다.
  • 비보존적 특성: 외부 입력 ($u$) 과 소산 ($R$) 을 포함하여 환경과의 에너지 교환을 모델링합니다.
• 축차 차원 축소 GP (Reduced-Rank GP):
  • 기존 GP 는 학습 데이터 크기에 비례하여 계산 비용이 급증하는 단점이 있습니다. 이를 해결하기 위해 **축차 차원 축소 GP (Reduced-Rank GP)**를 도입했습니다.
  • 해밀토니안 함수 $H(x)$를 유한 차원의 고유함수 전개 (Eigenfunction expansion) 로 근사화합니다.
  • 장점: 계산 복잡도가 학습 데이터 수에 의존하지 않으며 ($O(M)$), 파라미터에 대해 선형 구조를 가져 폐쇄형 (closed-form) 그래디언트 표현이 가능합니다.

2.2. 완전 베이지안 추론 및 학습 (Fully Bayesian Inference)

• 목표: 은닉 상태 (위치, 운동량), GP 하이퍼파라미터, 구조적 하이퍼파라미터 (예: 감쇠 계수) 의 결합 사후 분포를 추정합니다.
• Particle Gibbs 알고리즘:
  • 고차원 문제 해결을 위해 Particle Markov Chain Monte Carlo (PMCMC) 기반의 Particle Gibbs 방법을 사용합니다.
  • Step 1 (잠재 변수 추정): 조건부 SMC (Sequential Monte Carlo) 를 사용하여 측정값과 고정된 파라미터 하에서 은닉 상태 ($x_{0:T}, h_{0:T}$) 의 샘플을 생성합니다.
  • Step 2 (파라미터 학습):
    • 모델 파라미터 ($\theta$): 켤레 사전 분포 (Conjugate Prior) 와 모델의 선형성을 활용하여 **폐쇄형 (Closed-form)**으로 사후 분포를 계산합니다.
    • 하이퍼파라미터 ($\vartheta$): 메트로폴리스 - 헤이스팅스 (Metropolis-Hastings) 알고리즘을 사용하여 Gibbs 샘플링 내에서 업데이트합니다.

3. 주요 기여 (Key Contributions)

1. 입력 - 출력 데이터 전용 학습: 기존 해밀토니안 GP 연구들이 운동량/속도 측정을 요구했던 한계를 극복하고, 위치 (출력) 데이터만으로 동역학을 학습하는 새로운 프레임워크를 제시했습니다.
2. 비보존적 시스템 모델링: 외부 힘과 마찰 (소산) 을 포함하는 비보존적 시스템을 정확히 표현할 수 있는 해밀토니안 GP 구조를 제안했습니다.
3. 계산 효율성 및 선형성: Reduced-Rank GP 를 도입하여 대규모 데이터셋에서도 계산 효율성을 유지하면서도, 파라미터 학습을 위한 폐쇄형 해를 제공했습니다.
4. 완전 베이지안 불확실성 정량화: GP 하이퍼파라미터뿐만 아니라 구조적 파라미터 (감쇠 계수 등) 에 대한 불확실성까지 정량화하는 완전 베이지안 추론 체계를 구축했습니다.
5. 성능 비교: 기존 상태 측정 기반 방법론 및 정밀 GP (Exact GP) 와 비교하여 동등한 정확도를 달성하면서도 입력 - 출력 데이터만으로도 유효함을 입증했습니다.

4. 실험 결과 (Results)

• 시나리오: 비조화 진동자 (Non-harmonic oscillator) 시스템을 대상으로 시뮬레이션 수행.
• 비교 대상:
  1. 전체 상태 (위치 + 운동량) 를 입력으로 받는 기존 방법.
  2. 정밀 GP (Exact GP) 기반 해밀토니안 학습.
  3. 제안된 방법 (입력 - 출력 데이터만 사용).
• 성과:
  • 정확도: 제안된 방법은 운동량 데이터가 없는 상황에서도 상태 공간의 흐름 지도 (Flow map) 를 정밀 GP 와 유사한 오차 (RMSE) 로 학습했습니다.
  • 물리 일관성: 학습된 모델은 에너지 보존 법칙과 소산을 물리적으로 일관되게 반영했습니다. 특히 입력 신호가 사라진 후 에너지가 단조롭게 감소하는 등 물리적 거동을 정확히 재현했습니다.
  • 불확실성 정량화: 베이지안 추론을 통해 감쇠 계수 ($d$) 와 같은 구조적 파라미터의 분포를 추정했으며, 이는 실제 값과 일치하는 경향을 보였습니다 (입력 - 출력 데이터의 경우 식별 가능성 문제로 약간의 편향이 있었으나 여전히 유효한 분포를 제공함).
  • 계산 효율성: Reduced-Rank GP 를 사용하여 예측 시 계산 복잡도가 $O(M)$으로 낮아져 실시간 적용 가능성이 높아졌습니다.

5. 의의 및 결론 (Significance & Conclusion)

• 실용성: 많은 실제 시스템에서 운동량 센서가 부재하거나 노이즈가 심한 상황에서, 물리 법칙을 준수하는 동역학 모델을 구축할 수 있는 길을 열었습니다.
• 제어 및 안전: 불확실성을 정량화할 수 있는 물리 기반 모델을 제공함으로써, 안전 강화 학습 (Safe Learning) 및 모델 기반 제어 (Model-based Control) 에 직접 활용 가능합니다.
• 한계 및 향후 과제: 고차원 문제에서 파티클 기반 방법의 계산 비용 증가와, 입력 - 출력 데이터만으로는 해밀토니안의 식별 가능성 (Identifiability) 문제가 발생할 수 있어 추가적인 제약 조건 (예: 대칭성) 이 필요할 수 있음을 지적했습니다.

결론적으로, 본 논문은 물리 정보 기반 머신러닝과 베이지안 시스템 식별을 결합하여, 제한된 센서 데이터 (입력 - 출력) 만으로도 정확하고 물리적으로 일관된 비선형 시스템 모델을 학습할 수 있는 강력한 프레임워크를 제시했습니다.