Latent Dynamics-Aware OOD Monitoring for Trajectory Prediction with Provable Guarantees

1. 문제 정의 (Problem Definition)

• 배경: 자율주행과 같은 안전 필수 사이버 - 물리 시스템 (CPS) 에서 궤적 예측 (Trajectory Prediction) 은 하위 계획 및 제어에 필수적인 입력을 제공합니다. 그러나 훈련 데이터 (In-Distribution, ID) 에서는 높은 정확도를 보이는 딥러닝 모델도, 실제 환경의 불확실성이나 드문 교통 상황 (Out-of-Distribution, OOD) 에서는 신뢰도가 급격히 떨어집니다.
• 핵심 과제:
  • OOD 감지의 어려움: 교통 조건과 상호작용 패턴의 변화는 예측 오차의 분포를 비정상적 (Non-stationary) 으로 만듭니다. 단순한 프레임 단위의 이상 탐지는 시간적 누적 오차를 포착하지 못합니다.
  • 보장 (Guarantees) 의 부재: 기존 불확실성 정량화 (UQ) 방법들은 계산 비용이 크거나, 분포 변화가 심할 때 과도하게 자신감 있는 (Over-confident) 예측을 하여 안전 위험을 초래할 수 있습니다. 또한, 탐지 지연 시간과 오탐 (False Alarm) 비율에 대한 엄격한 통계적 보장을 제공하는 방법이 부족합니다.
• 목표: 예측 오차의 시간적 진화를 모델링하여, 가장 빠른 변화점 탐지 (Quickest Change Detection, QCD) 프레임워크를 통해 OOD 이벤트를 탐지하고, 탐지 지연과 오탐률에 대한 이론적 보장을 제공하는 것입니다.

2. 방법론 (Methodology)

저자들은 궤적 예측 오차의 동적 특성을 **은닉 마르코프 모델 (Hidden Markov Model, HMM)**로 모델링하고, 이를 데이터 기반 누적 최대 평균 불일치 (Data-driven Cumulative Maximum Mean Discrepancy, DC-MMD) 알고리즘과 결합했습니다.

A. 예측 오차의 HMM 모델링

• 잠재 모드 (Latent Modes): 실제 주행 데이터에서 예측 오차는 단순히 하나의 분포가 아니라, '낮은 오차 모드 (Low-risk)'와 '높은 오차 모드 (High-risk)' 사이를 전환하는 잠재 상태를 가집니다.
  • Low-risk: 예측이 안정적인 일반 교통 상황.
  • High-risk: 복잡한 상호작용, 급격한 기동 등으로 인해 오차가 커지는 상황.
• 비정상성 (Non-stationarity): 이 모드 간의 전환은 마르코프 성질을 따르며, OOD 이벤트 발생 시 이 전환 확률이나 오차 분포 (Emission distribution) 가 변화합니다.

B. DC-MMD 알고리즘 (핵심 제안)

기존의 QCD 방법론 (CUSUM 등) 은 사후 변화 분포 (Post-change distribution) 에 대한 사전 지식을 요구하는 한계가 있습니다. 이를 해결하기 위해 DC-MMD를 제안했습니다.

1. 2 차 통계량 활용: 단순 오차 $e_t$가 아닌, 시간적 의존성을 포착하기 위해 2 차 오차 벡터 $x_t = (e_{t-1}, e_t)$를 사용합니다.
2. 참조 분포 구축: 사후 변화 분포를 알 수 없으므로, 훈련 데이터 (ID) 의 2 차 통계량을 기반으로 참조 분포 $\lambda^{(0)}$를 구성합니다.
3. 누적 MMD (Cumulative MMD):
   • 예측 오차 시퀀스를 블록 (Block) 단위로 나눕니다.
   • 각 블록의 경험적 분포와 ID 참조 분포 간의 **최대 평균 불일치 (MMD)**를 계산합니다.
   • CUSUM 스타일의 누적 통계량 $W_t$를 업데이트하며, 임계값 $b$를 초과하면 OOD 이벤트로 판단합니다.
   • $W_t = \max\{0, W_{t-1} + (D(\hat{\mu}_t, \lambda^{(0)}) - \zeta)\}$
4. 이론적 보장:
   • 탐지 지연 (Detection Delay): Lorden 의 WADD (Worst-case Average Detection Delay) 에 대해 상한 bound 를 증명했습니다.
   • 오탐률 (False Alarm): 평균 오탐 시간 (MTFA) 이 임계값에 대해 지수적으로 증가함을 보임으로써, 엄격한 오탐 제어 하에서도 빠른 탐지가 가능함을 입증했습니다.

3. 주요 기여 (Key Contributions)

1. 잠재 역학 인식 탐지 (Latent-aware Detection): 궤적 예측 오차의 비정상적 전환을 HMM 으로 모델링하고, 이를 QCD 프레임워크에 통합하여 경량화되면서도 최적의 탐지 성능을 제공합니다.
2. Heavy-Tailed 분포에 대한 강건성: 실제 주행 데이터는 종종 꼬리가 두꺼운 (Heavy-tailed) 분포를 따릅니다. DC-MMD 는 분포의 꼬리 가정을 위반하더라도 안정적인 성능을 유지함을 입증했습니다.
3. 알 수 없는 사후 변화에 대한 강건성: 사후 변화 분포에 대한 사전 지식 없이도, 데이터 기반 접근법을 통해 기존에 해당 설정을 위해 설계된 방법들과 경쟁력 있는 성능을 달성합니다.
4. 실제 데이터 검증: NGSIM, nuScenes, ApolloScape 등 3 개의 대규모 실제 주행 데이터셋에서 광범위한 실험을 수행하여 기존 방법 (UQ 기반, CUSUM 기반) 보다 우수한 성능을 입증했습니다.

4. 실험 결과 (Results)

• 데이터셋 및 모델: NGSIM (고속도로), nuScenes (혼합 도시), ApolloScape (비구조적 도시) 데이터셋과 GRIP++, FQA 등 다양한 예측 모델을 사용했습니다.
• 성능 비교 (Table II & Fig. 3):
  • 정확도: DC-MMD 는 모든 도메인에서 가장 높은 AUROC (0.84~0.93) 를 기록하고, 오탐률 (FPR@95) 은 기존 방법 대비 크게 감소시켰습니다.
  • 지연 시간: 탐지 지연 (WADD) 이 기존 최상위 시퀀스 기반 방법 (Mode-CUSUM 등) 대비 15~35% 단축되었습니다.
• 강건성 분석:
  • Heavy-Tailed 분포 (Table IV): 가우시안 분포를 가정하는 기존 방법들은 Laplace 나 Student-t 분포에서 성능이 급격히 저하되었으나, DC-MMD 는 지연 시간 증가가 6~9% 수준으로 매우 낮았습니다.
  • 알 수 없는 변화 (Table V): 사후 분포를 모르는 상황에서도 Robust CUSUM 과 유사한 수준의 빠른 탐지 지연을 보였습니다.
• 계산 효율성 (Table VI):
  • 모델 파라미터에 의존하지 않고 매 단계 $O(1)$의 계산 복잡도를 가지며, 실시간 적용 (10Hz 이상) 에 적합합니다.

5. 의의 및 결론 (Significance & Conclusion)

이 논문은 자율주행 시스템의 안전성을 보장하기 위해 예측 오차의 시간적 역학을 통계적으로 rigorously 모델링했다는 점에서 의의가 큽니다.

• 안전성 보장: 탐지 지연과 오탐률에 대한 **증명 가능한 수학적 보장 (Provable Guarantees)**을 제공하여, 안전 필수 시스템에 적용할 수 있는 신뢰성을 높였습니다.
• 실용성: 복잡한 분포 가정 없이 실제 데이터의 특성을 반영하며, 계산 비용이 낮아 실시간 시스템에 바로 배포 가능합니다.
• 미래 방향: 향후에는 인식 (Perception) 단계의 신호를 통합하고, 탐지 결과에 기반한 계획기 (Planner) 의 폴백 (Fallback) 전략과 연동하여 엔드 - 투 - 엔드 런타임 보장을 목표로 할 것입니다.

요약하자면, 이 연구는 딥러닝 기반 궤적 예측 모델의 신뢰성 저하를 잠재 상태 전환을 고려한 통계적 변화 탐지로 해결하여, 자율주행의 안전성 한계를 한 단계 높인 획기적인 접근법입니다.