기술 요약: 존토픽 재귀 최소 제곱법을 이용한 온라인 데이터 기반 도달 가능성 분석

1. 문제 정의

현대 사이버 물리 시스템(CPS)은 안전하지 않은 상태에 진입하지 않음을 보장하기 위해 형식적 안전 검증을 필요로 한다. 도달 가능성 분석(Reachability analysis)은 불확실한 초기 조건, 입력 및 프로세스 노이즈가 주어졌을 때 시스템이 도달할 수 있는 모든 상태의 집합을 계산하는 것을 목표로 하는 주요 기법이다.

전통적인 모델 기반(model-based) 접근 방식은 정확하게 정의된 분석적 역학(analytical dynamics)에 의존한다. 그러나 실제 시나리오에서는 복잡하거나, 알려지지 않았거나, 시간에 따라 변하는 역학으로 인해 정확한 시스템 모델을 구축하는 것이 매우 어렵거나 불가능한 경우가 많다. 반대로, 기존의 데이터 기반(data-driven) 접근 방식은 일관된 모델 세트를 구축하기 위해 대량의 사전 수집된 오프라인 데이터가 필요한 경우가 많다. 이러한 배치(batch) 방식은 시스템 모델이 시간에 따라 변하는 경우(시변 역학)나 오프라인 데이터 수집이 불가능한 상황에서 어려움을 겪는다. 또한, 해밀턴-자코비(Hamilton-Jacobi) 편미분 방정식을 푸는 방식은 고차원 시스템에서 확장성 문제를 야기한다.

본 논문은 다음과 같은 조건에서의 이산 시간 시스템에 대한 **과대 근사된 도달 가능 집합(over-approximated reachable sets)**을 계산하는 문제를 다룬다:

1. 시스템 모델을 알 수 없음.
2. 온라인의 노이즈가 포함된 입출력 측정값만을 사용할 수 있음.
3. 시스템 역학이 시변(LTV)이거나 비선형(리프시츠 연속, Lipschitz continuous)일 수 있음.
4. 초기 모델 식별을 위한 사전 기록된 오프라인 데이터셋이 없음.

2. 방법론

제안된 프레임워크는 재귀적 파라미터 추정 방법과 데이터 기반 도달 가능성 전파 알고리즘의 두 가지 주요 구성 요소로 이루어져 있다.

2.1 지수 망각 존토픽 재귀 최소 제곱법 (EF-ZRLS)

알려지지 않은 시변 시스템 모델을 노이즈가 포함된 데이터로부터 추정하기 위해, 저자들은 EF-ZRLS 방법을 제안한다. 단일 점을 추정하는 표준 재귀 최소 제곱법(RLS)과 달리, EF-ZRLS는 실제 시스템 파라미터를 반드시 포함하는 모델 집합(행렬 존토픽으로 표현됨)을 추정한다.

• 집합 기반 추정: 이 방법은 시간 가변 행렬 존토픽 $\mathcal{M}_k = \langle C_k, G_k \rangle$를 유지하며, 여기서 $C_k$는 중심 행렬이고 $G_k$는 생성자 행렬이다. 실제 파라미터 행렬 $\theta_{tr,k}$는 이 집합 내에 존재함이 보장된다.
• 노이즈 및 변동 처리: 이 방법은 다음 사항들을 고려한다:
  • 측정 노이즈 ($v_k$): 알려진 존토픽에 의해 경계가 정해짐.
  • 파라미터 변동 ($\delta \theta_k$): 모델은 느리게 변화하는 시변 모델로 가정되며, 그 변화는 알려진 존토픽에 의해 제한된다.
• 지수 망각 (Exponential Forgetting): 망각 계수 $\lambda \in (0, 1]$가 도입된다. 이 계수는 공분산 업데이트에 대한 과거 데이터의 영향을 지수적으로 감소시켜, 추정기가 시변 역학에 적응할 수 있도록 한다.
• 최적 이득 (Optimal Gain): 저자들은 공분산 행렬의 트레이스(trace, 즉 추정된 집합의 크기)를 최소화하여 주어진 노이즈 경계 내에서 가장 타이트한 과대 근사를 보장하는 최적 보정 이득 $K_k^*$를 유도한다.
• 벡터 vs 행렬 형태: 이 방법은 행렬 존토픽을 사용하여 다중 출력 회귀 모델에 대해 공식화되었으며, 크로네커 곱(Kronecker products)을 통해 차원을 증가시키는 벡터-순열 형태로의 변환에 따른 계산 오버헤드를 피한다.

2.2 데이터 기반 도달 가능성 분석

추정된 시변 모델 집합을 사용하여 두 가지 시스템 클래스에 대한 순방향 도달 가능 집합을 계산한다:

1. 선형 시변 (LTV) 시스템:

   • 시스템은 $x_{k+1} = A_{tr,k}x_k + B_{tr,k}u_k + w_k$로 모델링된다.
   • 알고리즘(Algorithm 1)은 EF-ZRLS를 사용하여 모델 집합을 재귀적으로 업데이트한다.
   • 예측 호라이즌 동안 새로운 데이터가 부족한 상황을 처리하기 위해, 모델 변동이 알려진 상수($\sigma_{AB}$)에 의해 제한된다고 가정하고 이에 따라 모델 집합을 확장한다.
   • 연속적인 상태-입력 공간에 대한 데이터 밀도를 고려하기 위해 공간 일반화 오차 항($Z_\epsilon$)이 추가된다.

2. 비선형 리프시츠(Lipschitz) 시스템:

   • 비선형 함수 $f(x_k, u_k)$는 선형화 지점 주변의 1차 테일러 전개를 통해 근사되며, 이는 시변 선형 모델과 라그랑주 나머지 항 $L(z_k)$의 합으로 나타난다.
   • EF-ZRLS는 시변 선형화 모델 파라미터를 추정한다.
   • 나머지 항 $L(z_k)$는 슬라이딩 윈도우를 통한 데이터를 활용하여 리프시츠 연속성 가정을 바탕으로 한 존토픽($Z_L$)을 통해 과대 근사된다.
   • 추가적인 오차 항($Z_{\bar{\epsilon}}$)은 리프시츠 상수와 데이터 밀도를 고려한다.

3. 주요 기여

본 논문은 네 가지 주요 기여를 설명한다:

1. EF-ZRLS 방법: 유계 노이즈를 가진 시변 다중 출력 회귀 모델을 위한 새로운 집합 기반 재귀 추정기이다. 본 논문은 추정기의 최적성을 확립하고 최적 보정 이득을 유도한다 (Theorem 1).
2. LTV 도달 가능성 알고리즘: 유계 프로세스 노이즈 및 모델 변동이 있는 이산 시간 LTV 시스템에 대한 과대 근사된 도달 가능 집합을 계산하는 알고리즘 (Algorithm 1)이다 (Theorem 2).
3. 비선형 리프시츠 도달 가능성 알고리즘: 이산 시간 비선형 리프시츠 시스템 클래스에 대한 과대 근사된 도달 가능 집합을 계산하는 확장 알고리즘 (Algorithm 2)이다 (Theorem 3).
4. 검증: 수치 시뮬레이션과 자율 주행 차량에 대한 실제 실험을 통해 제안된 방법이 기존의 배치 최소 제곱법(LS) 접근 방식과 어떻게 다른지 종합적으로 검증한다.

4. 결과 및 평가

저자들은 세 가지 시나리오를 통해 제안된 방법을 참조 문헌 [2]의 배치 LS 방식과 비교 평가한다:

• LTV 시스템 (정적 파라미터): 파라미터 변화가 없는 시나리오에서, 제안된 EF-ZRLS는 충분한 반복 횟수 이후 배치 LS 방식과 동일한 도달 가능 집합으로 수렴하며, 이는 재귀적 접근 방식의 일관성을 입증한다.
• LTV 시스템 (시변 파라미터): 시스템 파라미터가 시간에 따라 변할 때, 배치 LS 방식은 (정적 오프라인 데이터에 의존하기 때문에) 실제 도달 가능 집합을 과대 근사하는 데 실패한다. 반면, 제안된 EF-ZRLS는 변화하는 역학을 성공적으로 추적하며 유효한 과대 근사를 유지한다.
• 비선형 리프시츠 시스템 (CSTR): 연속 교반 탱크 반응기(CSTR) 모델에 적용했을 때, 제안된 방법은 배치 LS 방식보다 덜 보수적인(less conservative) 도달 가능 집합을 생성한다. 이는 제안된 방식이 글로벌 오프라인 데이터셋 전체에 대해 글로벌 나머지를 계산하는 배치 방식과 달리, 국부적인 데이터 업데이트와 선형화된 모델을 사용하기 때문이다.
• 실제 실험 (자율 주행 차량): JetRacer 로봇을 사용하여 제안된 방법을 두 가지 조건에서 테스트하였다:
  1. 정적 환경: 제안된 방법은 사전 수집된 데이터 없이도 배치 LS 방식보다 덜 보수적인 집합을 생성하였다.
  2. 동적 환경 (페이로드 변화): 모델 변화를 시뮬레이션하기 위해 차량에 2kg의 페이로드를 추가하였다. 제안된 방법은 견고하고 유효하게 작동한 반면, 배치 LS 방식은 도달 가능 집합을 과대 근사하는 데 실패하였다.

5. 의의 및 주장

본 논문은 제안된 프레임워크가 정확한 모델을 사용할 수 없거나 시변하는 시스템의 안전 분석에 있어 중요한 진전을 제공한다고 주장한다. 핵심적인 의의는 다음과 같다:

• 온라인 동작: 이 방법은 실시간 데이터만을 사용하여 작동하므로, 역학이 진화하거나 오프라인 데이터 수집이 어려운 시스템에서 필수적인 사전 기록된 오프라인 실험의 필요성을 제거한다.
• 시변성에 대한 강건성: 지수 망각과 집합 기반 추정을 활용함으로써, 정적 배치 식별 방법의 한계인 느리게 변하는 역학 하에서도 강건함을 유지한다.
• 보수성 감소: 특히 비선형 시스템의 경우, 글로벌 오프라인 근사 대신 국부적 데이터 업데이트를 활용함으로써 기존 기술보다 덜 보수적인 도달 가능 집합 과대 근사를 생성한다.
• 확장성: 존토픽과 행렬 형식을 사용하는 것은 해밀턴-자코비 PDE를 푸는 방법과 비교하여 고차원 시스템에 대해 더 나은 확장성을 제공한다.

저자들은 이 방법이 효과적이지만, 향-후 연구로서 추정된 모델 집합의 보수성을 더욱 줄이기 위해 적응형 망각 계수($\lambda$)를 사용하는 방향으로 EF-ZRLS를 확장하는 데 집중할 것이라고 결론짓는다.