Anomaly-Informed Confidence Calibration for Vision-Based Safety Prediction

기술 요약: 비전 기반 안전 예측을 위한 이상 정보 기반 신뢰도 보정

문제 제기
신뢰할 수 있는 신뢰도 추정은 자율 레이싱과 같은 안전-중요 자율 시스템에 비전 기반 제어기를 배포하는 데 필수적입니다. 현대 예측 모델은 테스트 시 분포 변화에 직면했을 때 종종 위험한 과신 (overconfidence) 을 보입니다. 본 작업에서 식별된 주요 장애물은 '지각 - 동역학 간극 (perception-dynamics gap)'입니다. 표준 이상 신호 (예: 오토인코더 재구성 오차) 는 관측 공간에서만 작동합니다. 이들은 어둠, 흐림과 같은 시각적 손상 (visual corruptions) 을 효과적으로 감지하지만, 이미지 스트림은 그럴듯하게 유지되는 반면 차량의 궤적이 조용히 이탈하는 동역학 이상 (예: 구동 편향, 제어 지연, 모델링되지 않은 마찰) 은 감지하지 못합니다. 표준 온도 스케일링과 같은 기존 사후 보정 방법은 단일 고정 스칼라에 의존하며 분포 변화 하에서 크게 저하됩니다. 반면, Deep Ensembles 나 MC Dropout 과 같은 더 풍부한 불확실성 정량화 기법은 실시간 제어와 양립할 수 없는 계산 비용을 발생시키며, 모든 이상을 단일의 불확실성 원천으로 취급합니다.

방법론
저자들은 기본 안전 예측기를 재학습하지 않고 안전 신뢰도를 조정하는 이상 정보 기반 온라인 보정 (Anomaly-Informed Online Calibration) 프레임워크를 제안합니다. 이 접근법은 고정된 '월드 모델 (world model)'의 신호와 테스트 시 증강 (TTA) 을 경량 보정기에 통합합니다. 파이프라인은 네 단계로 구성됩니다:

1. 이상 점수 추출: 프레임워크는 학습된 월드 모델 (잠재 동역학을 가진 VAE) 에서 두 가지 보완적인 연속 이상 점수를 추출합니다:

   • 지각 점수 ($\rho_i$): 컨텍스트 윈도우에 걸친 VAE 디코더의 평균 픽셀별 재구성 오차에서 유도됩니다. 이는 시각적 분포 변화를 포착합니다.
   • 동역학 점수 ($\delta_i$): 상태 전이 공간의 12 차원 특징 벡터의 마할라노비스 거리에서 유도됩니다. 이 벡터에는 몬테카를로 드롭아웃 불확실성 추정치, 동작 패턴 통계 (예: 정지율, 저크), 그리고 시간적 상관관계가 포함됩니다. 이 점수는 이미지상으로는 정상적으로 보이지만 전이 동역학에 존재하는 이상을 포착합니다.
     두 점수 모두 분포 내 통계를 사용하여 $[0, 1]$로 정규화됩니다.

2. 테스트 시 증강 (TTA): 시각적 견고성을 향상시키기 위해, 안전 예측기 $g$를 원본 이미지와 $M=8$개의 증강 버전 (무작위 광도 지터 및 가우시안 노이즈) 에 대해 평가합니다. 예측값을 평균화하여 부드러운 기본 예측 $\bar{p}_{i+k}$를 생성합니다. 이 단계는 작은 시각적 교란에 대한 민감도를 줄입니다.

3. 이상 조건부 온도 스케일링: 핵심 혁신은 이상 점수의 함수인 유효 온도 $T_{eff}$를 갖는 동적 온도 스케일링 메커니즘입니다:
   $$T_{eff} = T_k \cdot \exp(w_\rho \rho_i + w_\delta \delta_i)$$
   여기서 $T_k$는 예측 시간 구간별 기본 온도이며, $w_\rho, w_\delta$는 학습 가능한 가중치입니다. 이상 증거 ($\rho_i, \delta_i$) 가 증가함에 따라 $T_{eff}$가 증가하여 예측 확률을 0.5 쪽으로 끌어당겨 과신을 줄입니다. 이상이 없을 때, 이 방법은 표준 온도 스케일링으로 축소됩니다.

4. 학습 체계: 보정기는 분포 내 데이터와 테스트 프로토콜과 분리된 손상 유형을 사용하는 합성 증강 데이터의 혼합으로 학습됩니다. 기본 안전 예측기와 월드 모델은 보정 학습 동안 고정된 상태로 유지됩니다.

주요 기여

1. 온라인 보정 프레임워크: 기본 예측기를 재학습하지 않고 실시간으로 안전 신뢰도를 조정하기 위해 월드 모델의 이상 증거와 TTA 를 융합하는 방법.
2. 분리된 이상 점수화: 순전히 시각적 이상 신호가 남긴 '지각 - 동역학 간극'을 해결하기 위해 지각 점수와 동역학 점수를 분리하는 전략.
3. 물리적 검증: 합성 증강으로 학습된 보정이 질적으로 다른 현실 세계 손상에도 전이됨을 보여주는 물리적 DonkeyCar 플랫폼에서의 검증.

실험 결과
이 방법은 네 가지 보이지 않는 현실 세계 이상 프로토콜 하의 물리적 DonkeyCar 에서 평가되었습니다: 어둠 (시각), 흐림 (시각), 구동 편향 (동역학), 그리고 처리 지연 (동역학).

• OOD 감지: 융합된 이상 점수는 분포 내 데이터와 OOD 데이터를 구분하는 데 평균 AUROC 0.830을 달성하여, Feature Norm (0.658) 및 예측 유도 휴리스틱 (약 0.54) 과 같은 베이스라인을 크게 능가했습니다. 특히, 동역학 점수는 이미지 수준 방법들이 어려움을 겪는 구동 편향 및 지연 감지에서 상당한 향상을 제공했습니다.
• 보정 성능: 제안된 방법은 평균 기대 보정 오차 (ECE) 를 0.184(최고 베이스라인, DAC) 에서 0.116으로 줄여 37% 개선을 나타냈습니다.
• 애블레이션 연구:
  • 지각 점수 ($\rho$) 는 지배적인 보정 신호를 제공하여 TTA 에 추가될 때 OOD 평균 ECE 를 28% 감소시켰습니다.
  • 동역학 점수 ($\delta$) 는 교차 시드 분산을 줄이고 동역학 특이적 이상 감지를 개선하는 데 보완적인 견고성을 기여했으나, TTA+$\rho$에 추가될 때 평균 ECE 를 추가로 크게 낮추지는 않았습니다.
  • 이 방법은 분포 내 성능을 유지하여 홀드아웃 정상 테스트 세트에서 평균 ECE 0.121 을 달성했습니다.

의의 및 주장
본 논문은 안전-중요 로봇공학에서 신뢰할 수 있는 신뢰도 추정은 단일 스칼라 보정과 순전히 시각적 이상 감지를 넘어설 필요가 있다고 주장합니다. '지각 - 동역학 간극'을 명시적으로 모델링하고 보정 온도를 분리된 이상 증거에 조건부로 설정함으로써, 시스템은 분포 변화 하에서 과신을 선택적으로 줄이면서도 정상 성능을 유지할 수 있습니다. 이 작업은 합성 증강이 현실 세계 손상에 대한 구조적 대리 역할을 할 수 있음을 보여주며, 합성 데이터로 학습된 보정기가 기본 안전 예측기를 재학습하지 않고도 보이지 않는 물리적 이상 (예: 하드웨어 열화) 에 대해 일반화될 수 있음을 입증합니다. 저자들은 이 방법이 강력한 전이성을 보이지만, 학습 심각도 범위를 넘어선 외삽은 여전히 제한 사항이라고 지적합니다.