On the Sharp Input-Output Analysis of Nonlinear Systems under Adversarial Attacks

기술 요약: 적대적 공격 하의 비선형 시스템에 대한 날카로운 입출력 분석 (Sharp Input-Output Analysis)

문제 정의
본 논문은 적대적 교란(adversarial disturbances)이 존재하는 일반적인 비선형 동적 시스템의 입출력 매핑을 식별하는 과제를 다룹다. 시스템은 다음과 같이 부분 관측 가능한 비선형 동적 시스템으로 모델링된다:
$$x_{t+1} = f(x_t, u_t, w_t), \quad y_t = g(x_t, u_t)$$
여기서 $x_t$는 상태, $u_t$는 제어 입력, $w_t$는 적대적 교란, $y_t$는 관측값이다. 가우시안 입력, 독립 항등 분포(i.i.d.) 교란, 또는 평균이 0인 노이즈를 주로 가정하는 기존 문헌과 달리, 본 연구는 훨씬 더 광범위한 설정을 고려한다:

1. 비가우시안, 비제로 평균 입력: 제어 입력은 가우시안 분포나 평균이 0인 것에 국한되지 않는다.
2. 상관관계가 있고 평균이 0이 아닌 적대적 교란: 교란 $w_t$는 시스템의 전체 정보 이력과 상관관계를 가질 수 있으며 평균이 0이 아닐 수 있다.
3. 부분 관측 가능성: 학습자는 전체 상태 $x_t$가 아닌 $y_t$만을 관측한다.

주된 목표는 이러한 일반화된 교란에도 불구하고, 절단된 입력 이력 $(u_t, \dots, u_{t-\tau})$에서 관측값 $y_t$로의 매핑을 결정하는 행렬 $G^*$를 학습하는 것이다.

방법론
저자들은 유한 메모리 근사를 사용하여 비선형 시스템 식별 문제를 선형 매개변수 추정 문제로 재구성하는 프레임워크를 제안한다.

1. 기저 함수를 통한 선형 매개변수화: 스톤-바이어슈트라스 정리(Stone-Weierstrass theorem)와 보편적 근사 성질(universal approximation properties)을 활용하여, 비선형 입출력 거동을 입력 이력에 적용된 기저 함수 $\Phi(\cdot)$의 선형 결합으로 근사한다:
   $$y_t \approx G^* \cdot \Phi(u_t, \dots, u_{t-\tau}) + \text{잔차(residuals)}$$
   잔차에는 근사 오차, "먼 과거" 상태의 영향, 그리고 메모리 윈도우 동안 누적된 교란의 효과가 포함된다.

2. 확률적 적대적 공격 모델: 본 논문은 적대자에 대한 특정 제약 조건을 도입한다. 적대자는 공격이 발생할 때 전체 정보 이력 $\sigma\{x_0, \dots, x_t\}$를 사용하여 $w_t$를 설계할 수 있지만, 공격은 **희소(sparse)**하다고 가정된다. 구체적으로, 임의의 시간 $t$에서 공격이 발생할 확률은 $p$이며, 이때 $p < \frac{1}{2\tau}$이다. 이는 높은 확률로 시스템이 공격 없이 $\tau$개의 연속된 시간 단계를 경험하게 되어, "깨끗한" 입출력 역학을 관찰할 수 있음을 의미한다.

3. $\ell_2$-노름 추정량: 저자들은 $\ell_2$-노름 최소화(최소 제곱법) 추정량을 사용하여 $G^*$를 추정할 것을 제안한다:
   $$\hat{G}_T = \arg \min_{G} \sum_{t=\tau}^{T-1} \| y_t - G \cdot \Phi(U^{(\tau)}_t) \|_2^2$$
   분석 결과, 크기가 크고 평균이 0이 아닌 적대적 공격이 존재함에도 불구하고, 공격 확률이 희소성 조건을 만족하면 $\ell_2$-노름 추정량이 성공적으로 $G^*$를 회복할 수 있음을 보여준다.

주요 기여 및 결과

• 일반화된 가정: 본 연구는 선형 시스템 및 표준 노이즈 가정(가우시안, 평균 0, i.i.d.)을 넘어, 비가우시안, 비제로 평균 입력을 포함하며 상관관계가 있는 적대적 교란을 갖는 립시츠 연속(Lipschitz continuous) 비선형 시스템으로 이론을 확장한다.
• 최적 추정 오차 경계: $\ell_2$-노름 추정량의 추정 오차가 $O(\rho^\tau)$로 유계됨을 증명한다 (여기서 $\rho \in (0,1)$는 시스템 역학 $f$의 수축 계수이다). 이 경계는 입력 메모리 길이 $\tau$에 따라 지수적으로 감소한다.
• 일치하는 하한(Matching Lower Bound): 결과의 날카로움(sharpness)을 확립하기 위해, 저자들은 어떤 추정량이라도 $\Omega(\rho^\tau)$의 오차를 겪게 되는 문제 사례를 구성한다. 이는 도출된 상한이 주어진 적대적 모델 하에서 최적이며, 최악의 경우 더 개선될 수 없음을 증명한다.
• $\ell_2$-노름의 우수성: 분석에 따르면, 이 특정 설정에서 $\ell_2$-노름 추정량은 $\ell_1$-노름 또는 $\ell_\infty$-노름 추정량보다 더 타이트한 오차 경계를 달성한다. 다른 노름들은 관측 차원 $r$에 의존하는 추가적인 요인을 도입하는 반면, $\ell_2$-노름 경계는 $r$과 무관하다.
• 실험적 검증: 합성 비선형 시스템 및 실제 전력망 스윙 역학 모델에 대한 수치 실험을 통해 이론적 발견을 검증한다. 실험 결과는 $\ell_2$-노름 추정량이 진정한 매핑으로 수렴하는 반면, 표준 최소 제곱법(제로 평균 노이즈를 가정하는)은 적대적 조건 하에서 실패함을 보여준다.

의의 및 주장
본 논문은 크게 일반화된 가정 하의 제네릭한 비선형 및 부분 관측 시스템에 대해 최초의 날카로운 입출력 분석을 제공한다고 주장한다. 주요 의의는 확률적 적대적 공격 하에서의 최적 추정 오차 경계를 확립한 데 있다.

저자들은 본 연구가 현실적인 적대적 환경에서 복잡한 비선형 시스템(예: 전력망, 자율 주행 차량)의 학습 안전성과 회복 탄력성을 향상시키기 위한 이론적 보장을 제공한다고 강조한다. 특히 정확한 식별이 가능한 문제의 클래스(구체적으로 공격 확률이 메모리 길이에 비해 희소할 때)를 규명함으로써, 본 논문은 이론적 시스템 식별과 사이버 물리 시스템의 실질적인 보안 요구 사항 사이의 간극을 메운다. 저자들은 무한 차원 최적화를 포함하는 비매개변수적 접근 방식으로의 확장은 미해결 과제로 남겨두며, 향후 연구 방향에 대해 겸허한 태도를 유지한다.