Dynamic Aware: Adaptive Multi-Mode Out-of-Distribution Detection for Trajectory Prediction in Autonomous Vehicles

1. 연구 배경 및 문제 정의 (Problem)

• 배경: 자율주행차 (AV) 의 안전성을 위해 궤적 예측 (Trajectory Prediction) 은 필수적이지만, 실제 도로 환경은 훈련 데이터와 다른 분포 편이 (Distribution Shift) 를 겪습니다. 드문 교통 상황이나 환경적 불확실성은 모델이 위험한 예측을 하더라도 이를 과신하게 만드는 Out-of-Distribution (OOD) 시나리오를 유발합니다.
• 기존 연구의 한계:
  • 기존 OOD 탐지 연구는 주로 객체 감지나 분할과 같은 시각 (Perception) 작업에 집중되어 왔으며, 궤적 수준의 탐지는 상대적으로 간과되었습니다.
  • 최근 궤적 예측을 위한 OOD 탐지는 '가장 빠른 변화 탐지 (Quickest Change Detection, QCD)' 문제로 접근하여 CUSUM 알고리즘을 사용했습니다. 이는 경량화되고 모델과 무관하다는 장점이 있습니다.
  • 핵심 문제: 기존 CUSUM 기반 방법들은 시간적 역동성 (Temporal Dynamics) 을 간과합니다. 실제 데이터 분석 결과, 예측 오차는 단일 분포가 아니라 다중 모드 (Multi-modal) 분포를 보이며, 저오류 모드 (Low-error) 와 고오류 모드 (High-error) 가 운전 맥락에 따라 동적으로 변화합니다.
  • 결과: 고정된 전역 통계 (Global Statistics) 를 사용하는 기존 방법은 오차 모드의 변화를 반영하지 못해, 위험한 상황에서는 탐지 지연이 길어지거나 (안전성 저하), 안전한 상황에서는 오탐지 (False Alarm) 가 증가하는 문제를 야기합니다.

2. 제안 방법: Mode-Aware CUSUM (MA-CUSUM)

저자들은 예측 오차의 다중 모드 특성을 명시적으로 모델링하여 탐지 성능을 극대화하는 MA-CUSUM 알고리즘을 제안합니다.

• 핵심 아이디어: 예측 오차 분포가 두 가지 모드 (저위험/저오류, 고위험/고오류) 로 구성된 가우시안 혼합 모델 (GMM) 로 근사될 수 있다는 가설을 기반으로, 현재 활성화된 오차 모드를 실시간으로 추정하여 탐지 임계값을 동적으로 조정합니다.
• 알고리즘 흐름 (3 단계):
  1. 모드 추정 (Mode Estimation): 현재 시간 $t$의 예측 오차 $\epsilon_t$를 기반으로 사후 확률 (Posterior) 을 계산하여 현재 활성화된 모드 ($\hat{M}_t$) 를 MAP(Maximum A Posteriori) 방식으로 추정합니다. 이는 미래 관측치 없이 순차적으로 수행됩니다.
  2. 적응형 임계값 업데이트 (Adaptive Threshold Update): 추정된 모드에 해당하는 최근 $L$개의 시간 윈도우 내 오차 분산을 계산합니다.
     • 오차가 변동성이 큰 모드 (고오류) 에서는 임계값을 낮추고, 안정적인 모드 (저오류) 에서는 임계값을 높여 과도한 오탐지를 방지합니다.
     • 임계값은 $\theta_t = \lambda h_{\hat{M}_t} + (1-\lambda)\theta_{t-1}$ 형태로 스무딩 처리되어 급격한 변화를 완화합니다.
  3. CUSUM 업데이트 및 탐지: 추정된 모드를 기반으로 로그 가능도 비율 (Log-Likelihood Ratio) 을 계산하고, 이를 누적하여 CUSUM 통계량을 갱신합니다. 통계량이 적응형 임계값을 초과하면 OOD 상황으로 판단합니다.
• 지식 시나리오 대응:
  • Setting I (Full Knowledge): 사후 분포를 완전히 안다고 가정 (성능 상한선).
  • Setting II (Partial Knowledge): 사후 분포의 평균과 분산만 알 때.
  • Setting III (Unknown Knowledge): 사후 분포를 모를 때, 단순 이동 (Shift) 기반의 강건한 CUSUM 사용.

3. 주요 기여 (Key Contributions)

1. 실증적 발견: ApolloScape, NGSIM, nuScenes 등 여러 대규모 벤치마크를 통해 궤적 예측 오차가 시간에 따라 진화하는 다중 모드 분포를 가진다는 것을 최초로 체계적으로 증명했습니다.
2. MA-CUSUM 알고리즘 개발: 오차 모드를 추정하고 이를 기반으로 탐지 임계값을 동적으로 조정하는 새로운 알고리즘을 제안했습니다. 이는 기존 CUSUM 의 효율성과 분석적 엄밀함을 유지하면서 다중 모드 특성을 반영합니다.
3. 성능 우위: 다양한 벤치마크와 모델 (GRIP++, FQA) 에서 기존 비적응형 CUSUM, UQ(불확실성 정량화) 기반 방법, 비전 기반 OOD 탐지 방법보다 탐지 지연 (Detection Delay) 을 줄이고 오탐지 (False Alarm) 를 감소시켰습니다.
4. 실용성 및 효율성: 모델 내부 구조나 정답 레이블이 필요 없으며, 예측 잔차 (Residuals) 만으로 작동합니다. 계산 복잡도는 $O(1)$로 매우 낮아 실시간 온보드 배포에 적합합니다.

4. 실험 결과 (Results)

• 데이터셋 및 모델: ApolloScape (도시), NGSIM (고속도로), nuScenes (다중 모드 도시) 데이터셋과 GRIP++, FQA 모델을 사용하여 평가했습니다.
• 정확도 (AUROC/AUPR):
  • GRIP++ 모델에서 MA-CUSUM 은 AUROC 0.93, AUPR 1.11 을 기록하여 기존 Global CUSUM (0.87, 0.53) 보다 크게 향상되었습니다.
  • FQA 모델에서도 AUROC 0.95, AUPR 1.95 로 모든 베이스라인을 압도했습니다. 특히 희귀한 OOD 이벤트 발생 시 오탐지를 줄이는 데 탁월한 성능을 보였습니다.
• 탐지 지연 vs 오탐지 트레이드오프:
  • 고정된 임계값을 사용하는 Global CUSUM 대비 MA-CUSUM 은 동일한 오탐지율에서 더 빠른 탐지 지연을 달성했습니다.
  • 특히 마코프 (Markov) 및 임의 (Arbitrary) 모드 전환 시나리오에서 탐지 지연 (WADD) 을 30~40% 감소시켰습니다.
• 지식 불확실성 하의 강건성: 사후 분포에 대한 정보가 부족하더라도 (Setting III), 오탐지율 (FAR) 은 안정적으로 유지되며 탐지 지연만 점진적으로 증가하여 실제 배포 환경에서도 신뢰할 수 있음을 보였습니다.
• 계산 효율성: Deep Ensemble이나 MC-Dropout 같은 UQ 방법들은 여러 번의 순전파 (Forward Pass) 가 필요하지만, MA-CUSUM 은 단일 순전파 후 추가적인 경량 모니터링만 수행하여 약 5ms의 매우 낮은 지연 시간을 가집니다.

5. 의의 및 결론 (Significance)

• "일률적 접근 (One-size-fits-all)"의 한계 극복: 단순한 교통 상황과 복잡한 상황 모두에 동일한 임계값을 적용하는 기존 방식은 본질적으로 비효율적임을 증명했습니다.
• 안전성 향상: 오차 모드의 동적 변화를 인식함으로써, 위험한 상황에서는 민감하게 반응하고 안전한 상황에서는 불필요한 경보를 줄여 자율주행 시스템의 신뢰성 (Trustworthiness) 을 크게 높였습니다.
• 실시간 배포 가능성: 경량화된 구조와 모델 무관성 (Model-agnostic) 특성으로 인해 실제 자율주행 차량의 온보드 시스템에 즉시 적용 가능한 솔루션을 제시했습니다.

이 논문은 자율주행 궤적 예측의 안전성을 확보하기 위해, 단순한 통계적 이상 탐지를 넘어 맥락 인식 (Context-aware) 및 적응형 (Adaptive) 접근법의 중요성을 강조하는 중요한 연구로 평가됩니다.