Local Sensitivity Analysis for Kernel-Regularized ARX Predictors in Data-Driven Predictive Control

1. 연구 배경 및 문제 제기 (Problem)

• 데이터 기반 예측 제어 (DDPC) 의 한계: DDPC 는 명시적인 상태 공간 모델을 구축하지 않고 측정 데이터로부터 직접 예측기를 구성합니다. 그러나 유한하고 노이즈가 있는 데이터 환경에서는 예측기의 불확실성이 폐루프 성능에 결정적인 영향을 미칩니다.
• 구조적 ARX 기반 DDPC 의 모순:
  • 식별 단계: ARX (AutoRegressive with eXogenous inputs) 파라미터에 대한 식별 문제는 선형입니다. 따라서 정규화 하에서 사후 평균과 공분산을 폐쇄형 (closed-form) 으로 구할 수 있습니다.
  • 제어 단계 (MPC): MPC 에 사용되는 '리프트된 (lifted) 다단계 예측기'는 식별된 파라미터에 대해 암시적 (implicit) 이고 비선형입니다.
• 핵심 문제: 파라미터 식별의 선형성과 제어기 내 예측기의 비선형성 사이의 불일치로 인해, 파라미터 불확실성이 다단계 예측 및 제어 성능에 어떻게 전파되는지 분석하기 어렵습니다. 이는 불확실성 전파와 작업 인식형 (task-aware) 정규화를 어렵게 만듭니다.

2. 제안된 방법론 (Methodology)

저자들은 파라미터 불확실성과 제어 관련 예측 민감도 사이의 국소적 (local) 연결고리를 구축하기 위해 1 차 국소 선형화 (First-order Local Linearization) 기법을 도입했습니다.

A. 국소 선형화 및 야코비안 유도

• 암시적 예측기 맵의 선형화: 추정된 파라미터 $\bar{\theta}$ 주변에서 다단계 예측기 $\hat{y}_f(u_f; \theta)$를 1 차 테일러 전개하여 선형화합니다.
  $$\hat{y}_f(u_f; \theta) \approx \hat{y}_f(u_f; \bar{\theta}) + J(\bar{\theta}, u_f)(\theta - \bar{\theta})$$
• 야코비안 (Jacobian) 계산: 예측기 맵의 파라미터에 대한 편미분인 야코비안 $J$를 유도합니다. 이는 암시적 역행렬 $(I - \Phi_y)^{-1}$을 미분하는 과정을 포함하며, 과거 데이터, 미래 입력, 미래 출력 피드백 항으로 분해됩니다.
• 미래 입력에 대한 아핀 (Affine) 의존성: 야코비안의 각 열이 미래 입력 $u_f$에 대해 아핀 (선형 + 상수) 형태로 표현됨을 보여줍니다. 이는 불확실성 항을 MPC 목적 함수에 명시적으로 포함할 수 있게 합니다.

B. 불확실성 전파 및 FCE 비용

• 예측 공분산 추정: 파라미터 사후 공분산 $\Sigma_\theta$를 야코비안을 통해 전파하여 예측 출력의 공분산을 근사합니다.
  $$\Sigma_{yf}(u_f) \approx J \Sigma_\theta J^\top$$
• 최종 제어 오차 (FCE) 비용: 파라미터 불확실성으로 인한 예측 오차의 기대값을 MPC 목적 함수에 추가 항 ($L_\Omega$) 으로 포함시킵니다.
  $$L_{FCE} \approx L_{MPC} + \text{tr}(J^\top Q J \Sigma_\theta)$$

C. 민감도 기반 커널 정규화 (Sensitivity-based Kernel Design)

• 작업 인식형 민감도 메트릭: 제어 목적 함수에 미치는 파라미터 변화의 영향을 측정하는 가중치 행렬 $W(\xi)$를 정의합니다.
  $$W(\xi) = J(\bar{\theta}, \xi)^\top Q J(\bar{\theta}, \xi)$$
  여기서 $\xi$는 현재 작업 조건 (과거 데이터, 미래 입력 등) 을 의미합니다.
• 커널 설계: 식별 지향적인 기본 커널 (TC/SS 커널) 에 더해, 제어에 민감한 파라미터 방향을 더 강하게 억제 (shrinkage) 하도록 $W$를 기반으로 커널을 재설계합니다.
  • 새로운 정규화 항: $\mu(\theta - \bar{\theta})^\top \bar{W} (\theta - \bar{\theta})$
  • 이를 통해 식별 오차가 제어 성능에 치명적인 방향의 파라미터 변동에 대해 더 강력한 페널티를 부여합니다.

3. 주요 기여 (Key Contributions)

1. 국소 민감도 분석 도출: 구조화된 ARX 기반 DDPC 에서 암시적인 다단계 예측기에 대한 1 차 국소 민감도 분석을 유도하여, 선형 식별과 제어 관련 불확실성 전파를 연결했습니다.
2. 야코비안의 이중 활용: 유도된 야코비안을 두 가지 목적으로 활용했습니다.
   • MPC 목적 함수에 포함될 FCE 유형의 불확실성 항 근사.
   • 제어 작업에 민감한 방향을 고려한 커널 정규화 메트릭 구성.
3. 약한 여기 (Weak-excitation) 환경에서의 실용성 입증: 수치 시뮬레이션을 통해 제안된 방법이 특히 데이터가 제한적이고 여기 (excitation) 가 약한 환경에서 기존 SS 정규화보다 추가적인 성능 향상을 제공함을 보였습니다.

4. 실험 결과 (Results)

두 가지 시나리오 (정보 풍부한 데이터 vs. 약한 여기 데이터) 에서 2 차 시스템에 대해 몬테카를로 시뮬레이션을 수행했습니다.

• 정보 풍부한 데이터 환경:
  • 식별 문제가 잘 조건화 (well-conditioned) 되어 있어, 모든 ARX 기반 변형이 경쟁력 있는 성능을 보였습니다.
  • 추가적인 정규화나 FCE 항 도입으로 인한 성능 향상은 미미했습니다.
• 약한 여기 (Weak-excitation) 환경 (주요 관심사):
  • 기초 SS 정규화의 효과: 기본 SS 커널 정규화 (Baseline SS) 만으로도 OLS(최소제곱법) 대비 폐루프 안정성과 성능이 크게 향상되었습니다.
  • 제안된 민감도 쉐이닝의 효과: 기본 SS 정규화 위에 제안된 민감도 기반 커널 (SS+W) 을 적용하면 추가적인 성능 향상이 관찰되었습니다. 이는 식별 지향적 사전 분포만으로는 포착하지 못하는 작업 의존적 구조를 야코비안이 효과적으로 포착했음을 시사합니다.
  • FCE 항의 한계: FCE 항을 추가하는 것은 OLS 대비는 개선되었으나, 이미 정규화된 예측기 (SS) 에서는 추가적인 이득을 주지 못했습니다. 이는 국소 근사에서의 교차항 (cross-term) 무시가 편향된 추정기에서 정확도가 떨어질 수 있기 때문으로 분석됩니다.
  • 후사 공분산 감소: 제안된 방법 (SS+W) 은 파라미터 사후 공분산의 트레이스 (Trace) 를 가장 크게 감소시켜, 불확실성 감소와 성능 향상 사이의 일관성을 보여주었습니다.

5. 의의 및 결론 (Significance & Conclusion)

• 핵심 통찰: 데이터 기반 제어에서 파라미터 불확실성을 단순히 줄이는 것뿐만 아니라, 제어 목표에 중요한 방향으로 불확실성을 조절 (shape) 하는 것이 중요합니다.
• 실용적 가치: 제안된 국소 민감도 분석은 특히 데이터가 부족하거나 시스템 여기가 약한 상황에서 큰 가치를 가집니다. 이러한 환경에서는 기본 정규화만으로는 부족할 수 있으며, 제어 작업에 민감한 파라미터 방향을 식별하여 정규화 강도를 조절하는 것이 추가적인 안정성과 성능을 보장합니다.
• 향후 과제: 하이퍼파라미터 (특히 민감도 커널 가중치 $\mu$) 의 자동 튜닝 전략 및 다른 예측기 파라미터화 (예: Fundamental Lemma 기반) 로의 확장 가능성이 향후 연구 과제로 제시되었습니다.

이 논문은 데이터 기반 제어의 이론적 난제인 '식별의 선형성'과 '제어의 비선형성' 사이의 간극을 국소 선형화를 통해 효과적으로 메우며, 더 견고한 제어기 설계를 위한 새로운 정규화 패러다임을 제시했습니다.