Joint Identification of Linear Dynamics and Noise Covariance via Distributional Estimation

1. 문제 정의 (Problem)

기존의 선형 시스템 식별 (System Identification) 연구는 주로 명목 동역학 (Nominal Dynamics, 즉 상태 전이 행렬 $A$) 에 초점을 맞추었으며, 노이즈는 등방성 가우시안 (Isotropic Gaussian) 이나 서-가우시안 (Sub-Gaussian) 과 같은 단순한 가정을 전제로 했습니다. 또한, 노이즈 공분산 ($\Sigma$) 을 추정하는 경우에도 시스템 동역학이 이미 알려져 있다고 가정하는 경우가 많았습니다.

이 논문이 해결하려는 핵심 문제는 다음과 같습니다:

• 동시 식별의 부재: 시스템 동역학 ($A$) 과 노이즈 공분산 ($\Sigma$) 을 동시에 식별하는 체계적인 방법이 부족합니다.
• 노이즈 분포의 한계: 기존 방법 (예: OLS) 은 노이즈 분포의 "모양 (Shape)" 정보 (꼬리 행동, 고차 모멘트 등) 를 무시하고 가우시안 분포를 가정합니다. 실제 시스템은 가우시안이 아닌 복잡한 노이즈 분포를 가질 수 있으며, 이때 기존 방법은 성능이 저하됩니다.
• 연구 질문: 일반적인 노이즈 분포 (가우시안 외) 하에서 동역학과 노이즈 공분산을 동시에 (Jointly) 식별할 수 있는가? (단순히 2 단계 방식, 즉 $A$ 를 먼저 구하고 $\Sigma$ 를 구하는 방식은 배제).

2. 방법론 (Methodology)

2.1. 문제 재구성 (Reparameterization)

저자는 선형 시스템 $x' = A^*x + \Sigma^{1/2}_*w$ 에서 단위 노이즈 $w$ 의 분포를 알려진 기저 분포 (Base Density) $\phi(\cdot)$ 로 모델링합니다. 이때 상태 전이 분포 $P(x'|x)$ 는 다음과 같은 $\phi$-밀도 가족 ($\phi$-density family) 에 속한다고 정의합니다.
$$f_{A,\Sigma}(x'|x) = \det(\Sigma)^{-1/2} \phi\left( \Sigma^{-1/2}(x' - Ax) \right)$$
이 재파라미터화를 통해 $A$ 와 $\Sigma$ 를 통합된 파라미터 집합으로 표현하여, 동시 식별 문제를 모수 추정 (Parameter Estimation) 문제로 변환합니다.

2.2. 제안된 추정기 (Proposed Estimators)

논문은 이 문제를 해결하기 위해 두 가지 새로운 추정기를 제안합니다.

1. 최대우도추정 (MLE, Maximum Likelihood Estimator):

   • 주어진 데이터 $D$에 대해 로그 우도 (Log-likelihood) 를 최대화하는 $(A, \Sigma)$ 를 찾습니다.
   • 타겟 분포와 모델 분포 간의 KL 발산을 최소화하는 원리에 기반합니다.
   • 타원형 분포 (Elliptical family, 예: Student-t) 의 경우, 가중치 재조정된 OLS 형태와 유사한 폐쇄형 해를 유도할 수 있습니다.

2. 스코어 매칭 추정 (SME, Score-Matching Estimator):

   • 모델의 스코어 함수 (Score function, $\nabla \log f$) 와 실제 데이터의 스코어 함수 간의 거리를 최소화합니다.
   • 실제 데이터의 밀도 함수가 알 수 없다는 단점을 우회하기 위해, [27] 의 적분 부분별 기법 (Integration-by-parts trick) 을 사용하여 계산 가능한 손실 함수를 유도합니다.
   • 이 또한 타원형 분포 가정 하에서 재가중된 OLS 형태의 해를 가집니다.

2.3. 타원형 분포 (Elliptical Family) 의 활용

계산의 편의성을 위해 기저 분포가 타원형 ($\phi(w) = \psi(w^\top w)$) 인 경우를 특별히 다룹니다. 이 경우 로그 밀도의 기울기와 헤시안이 간단한 형태로 표현되어 MLE 와 SME 의 해를 효율적으로 계산할 수 있습니다. (예: 가우시안의 경우 MLE/SME 는 OLS 와 일치함).

3. 주요 기여 (Key Contributions)

1. 이론적 프레임워크 정립:

   • 일반적인 확률적 노이즈를 받는 선형 시스템의 상태 전이와 $\phi$-밀도 가족 간의 연결을 최초로 수립했습니다.
   • 동역학 ($A$) 과 노이즈 공분산 ($\Sigma$) 의 동시 식별 문제를 모수 추정 문제로 재정의하는 적절한 모델을 제시했습니다.

2. 새로운 추정기 제안 및 분석:

   • MLE 와 SME 두 가지 추정기를 제안하고, 그 통계적 성질 (일관성, 점근적 정규성) 을 rigorously 분석했습니다.
   • 단일 궤적 (Single-trajectory) 샘플 복잡도 분석: 시스템이 안정적이고 노이즈가 서-가우시안일 때, 제안된 추정기들이 $O(\sqrt{d \log(d/\delta)/N})$ 의 수렴 속도를 가짐을 증명했습니다. 이는 표준 MLE 의 수렴 속도와 동일합니다.

3. OLS 와의 비교 및 우월성 입증:

   • 가우시안이 아닌 분포 (예: Student-t) 에서는 OLS 가 노이즈 분포의 "모양" 정보를 활용하지 못해 성능이 저하됨을 이론적으로 보였습니다.
   • 반면, 제안된 MLE 와 SME 는 분포의 모양 정보를 활용하여 OLS 보다 우수한 정확도를 달성함을 보였습니다.

4. 실험 결과 (Results)

시뮬레이션은 2 차원 Student-t 분포와 다양한 차원의 시스템을 사용하여 수행되었습니다.

• 샘플 복잡도: 샘플 수가 증가함에 따라 모든 추정기의 오차가 감소하지만, MLE 가 가장 낮은 오차를 보였습니다. 특히 공분산 $\Sigma$ 추정에서 OLS 는 가장 성능이 낮았고, MLE 가 가장 우수했습니다.
• 확장성 (Scalability): 시스템 차원이 커질수록 Student-t 분포와 가우시안 분포의 차이가 커지는데, 이 경우 MLE 의 OLS 대비 우월성이 더욱 두드러졌습니다.
• 계산 효율성:
  • OLS 는 폐쇄형 해를 가지므로 계산이 빠르지만 정확도가 낮습니다.
  • MLE 와 SME 는 최적화 문제를 풀어야 하므로 계산 비용이 높습니다.
  • 하지만 MLE 에 대해 제안된 반복 알고리즘 (Iterative Algorithm) 은 20 회 이내의 반복으로 높은 정밀도에 수렴하여 계산 효율성을 크게 개선했습니다.
• 오분류된 기저 분포에 대한 강건성: 실제 분포와 가정한 기저 분포 ($\phi$) 가 약간 다를 때, MLE 는 OLS 보다 동역학 $A$ 추정에서 일관되게 우월한 성능을 보였으나, 공분산 $\Sigma$ 추정 오차는 오차 수준이 커짐에 따라 점차 악화되었습니다.

5. 의의 및 결론 (Significance & Conclusion)

• 실용적 가치: 제어 (Control), 리스크 민감 제어 (Risk-sensitive control), 적응 칼만 필터링 (Adaptive Kalman filtering) 등 하류 작업에서 노이즈 공분산에 대한 정확한 정보가 필수적입니다. 이 논문은 가우시안 가정이 성립하지 않는 현실적인 시스템에서도 동역학과 노이즈 구조를 동시에 정확히 추정할 수 있는 방법을 제공합니다.
• 트레이드오프: 제안된 방법 (MLE/SME) 은 OLS 에 비해 계산 비용이 더 들지만, 샘플 효율성과 추정 정확도 측면에서 훨씬 우수합니다. 이는 "샘플 복잡성 vs 계산 효율성" 간의 트레이드오프를 명확히 보여줍니다.
• 미래 작업: 더 넓은 범위의 분포 가족을 다루는 추정기 개발과 계산 알고리즘의 효율성 향상이 향후 과제로 제시되었습니다.

요약하자면, 이 논문은 가우시안 노이즈 가정을 넘어선 일반적인 분포 하에서 선형 시스템의 동역학과 노이즈 공분산을 동시에 식별하기 위한 새로운 이론적 프레임워크와 추정기 (MLE, SME) 를 제안하며, 이를 통해 기존 OLS 기반 방법의 한계를 극복하고 더 정확한 시스템 모델을 얻을 수 있음을 입증했습니다.