Can Attribution Predict Risk? From Multi-View Attribution to Planning Risk Signals in End-to-End Autonomous Driving

기술 요약: 종단간 자율주행에서 귀속도가 위험을 예측함

문제 제기
종단간 자율주행 모델은 원시 다중 뷰 센서 입력을 직접 계획 궤적으로 매핑하여 시스템 통합을 개선하지만, 불투명한 의사결정 과정을 도입합니다. 기존 해석 가능성 방법은 텍스트 설명을 생성하거나 보조 모니터링 모델을 훈련시키지만, 궤적 생성의 기반이 되는 구체적인 시각적 증거를 드러내지 못하거나 계획 과정과 분리된 채 머무는 경우가 많습니다. 귀속도 맵 (attribution maps) 이 사후 설명에 일반적으로 사용되지만, 계획 위험을 예측하는 신호로 기능할 수 있는지 여부를 판단하는 데 중요한 격차가 존재합니다. 구체적으로, 계획자가 6 개 카메라 뷰에 걸쳐 시각적 증거에 의존하는 분포가 궤적 오류나 충돌 위험과 상관관계가 있는지 여부는 명확하지 않습니다.

방법론
저자들은 다중 뷰 종단간 계획자를 위해 특별히 설계된 계층적 귀속도 프레임워크를 제안합니다. 방법론은 세 가지 주요 구성 요소로 이루어집니다:

1. 계층적 coarse-to-fine 귀속도:

   • 입력 및 분할: 시스템은 동기화된 6 개 뷰 카메라 이미지를 입력받아 SLICO 슈퍼픽셀 분할을 사용하여 각 뷰를 하위 영역으로 분할합니다.
   • 목적 함수: 클래스 신뢰도를 최대화하는 분류 기반 귀속도와 달리, 이 프레임워크는 L2 궤적 일관성을 목적 함수로 사용합니다. 이는 충분성 (영역 $S$를 유지하면 원래 궤적이 유지됨) 과 필요성 (영역 $S$를 제거하면 큰 편차가 발생함) 을 기반으로 한 집합 함수 $F(S)$를 정의합니다.
   • 검색 전략: 6 개 뷰 공간에 걸쳐 부분집합을 평가하는 계산 비용을 해결하기 위해 coarse-to-fine 탐욕적 검색이 사용됩니다.
     • Coarse 단계: 인접한 하위 영역이 그룹으로 병합됩니다. 알고리즘은 이러한 그룹을 전역적으로 순위 매겨 고 기여 클러스터를 식별합니다.
     • 정제 단계: 상위 순위 그룹 내에서 알고리즘은 이전 그룹을 조건부 접두사로 사용하여 개별 하위 영역에 대해 더 정교한 검색을 수행합니다. 이는 충실한 픽셀 단위 중요도 텐서 $T$를 생성합니다.

2. 위험 신호 도출:
   중요도 텐서를 결합 다중 카메라 픽셀 공간에 대한 확률 분포로 간주하여, 저자들은 "과도한 의존"을 정량화하기 위해 세 가지 보완적 통계를 추출합니다. 견고한 계획은 제한된 증거에 의존하는 것을 피해야 한다는 가설 하에 다음과 같은 통계가 사용됩니다:

   • 귀속도 엔트로피 ($H$): 전체 6 개 뷰 공간에 걸쳐 귀속도의 글로벌 집중도를 측정합니다. 낮은 엔트로피는 소수의 시각적 위치에 의존함을 나타냅니다.
   • 뷰 내 공간 분산 ($\sigma^2_{sp}$): 개별 카메라 뷰 내에서의 귀속도 공간적 확산을 특징화합니다. 낮은 분산은 뷰 내에서 매우 국소화된 의존을 나타냅니다.
   • 교차 카메라 지니 계수 ($Gini_{cam}$): 6 개 카메라에 걸쳐 귀속도 질량의 불균형을 정량화합니다. 높은 값은 특정 뷰에 불균형적으로 의존함을 나타냅니다.

3. 위험 예측 프레임워크:
   이러한 통계는 두 가지 계획 위험 대리 변수를 예측하는 데 사용되는 특징으로 활용됩니다:

   • 궤적 오류: 평균 변위 오차 (ADE) 로 측정됩니다.
   • 충돌 위험: 예측된 궤적이 장애물과 교차하는지 여부를 나타내는 이진 지표입니다.
     저자들은 ADE 에 대해 릿지 회귀를, 충돌 감지에 대해 로지스틱 회귀를 적합시켜 스피어만 상관관계와 AUROC 를 통해 성능을 평가합니다.

주요 기여

• 예측적 귀속도: 본 논문은 귀속도가 사후 설명을 넘어 종단간 자율주행에서 계획 위험을 예측하는 신호로 기능할 수 있음을 조사하고 검증합니다.
• 다중 뷰 귀속도 알고리즘: 6 개 카메라 뷰를 통합된 검색 공간으로 취급하고 분류 신뢰도 대신 L2 궤적 일관성을 활용하는 새로운 coarse-to-fine 귀속도 방법입니다.
• 위험 통계: 글로벌, 뷰 내, 그리고 교차 뷰 과도 의존을 각각 정량화하는 세 가지 통계 (엔트로피, 공간 분산, 지니) 의 정의입니다.
• 실증적 검증: 세 가지 다른 계획자 (BridgeAD, UniAD, GenAD) 를 사용하여 nuScenes 데이터셋에서 수행된 포괄적인 실험으로, 귀속도 패턴과 위험 간의 상관관계를 입증했습니다.

실험 결과
BridgeAD, UniAD, GenAD 를 사용하여 nuScenes 검증 세트에서 실험이 수행되었습니다:

• 위험 상관관계: 귀속도 통계는 계획 위험과 유의미한 상관관계를 보입니다. 충돌 예측의 경우, 결합 모델은 세 가지 계획자에 걸쳐 AUROC 0.77 ± 0.04를 달성했습니다. 궤적 오류의 경우 스피어만 상관관계는 0.30 ± 0.07에 달했습니다.
• 일반화: 위험 신호는 홀드아웃 장면 (80/20 분할) 에도 적용 가능하며, AUROC 0.77 ± 0.09 로 미미한 저하를 보였습니다. 이는 신호가 특정 장면 객체 배치보다는 귀속도 구조와 연관되어 있음을 나타냅니다.
• 견고성: 제안된 계층적 귀속도를 무작위 샘플링 베이스라인 (RISE) 으로 대체했을 때 더 약하지만 일관된 신호 (AUROC 0.67 ± 0.11) 가 생성되어, 위험 통계가 특정 귀속도 알고리즘의 인공물이 아님을 시사합니다.
• 통제 변수: 장면 객체 구성 (예: 객체 수, 공간적 확산) 을 통제하더라도 귀속도와 위험 간의 연관성이 지속되어, 신호가 단순한 장면 복잡도가 아니라 계획자의 시각적 의존성을 반영함을 확인했습니다.
• 효율성: 계층적 검색은 EAGLE 과 같은 정확한 탐욕적 검색보다 훨씬 빠르면서도 높은 충실도 (RISE 보다 EAGLE 에 더 근접함) 를 유지합니다.

의의 및 주장
본 논문은 귀속도 패턴이 종단간 주행 계획자의 의사결정 수준 위험에 대한 유용한 경고 신호를 제공한다고 주장합니다. 귀속도를 시각화 도구가 아닌 측정 대상으로 취급함으로써, 이 프레임워크는 확장 가능한 배포 전 감사를 가능하게 합니다. 개발자가 계획자의 시각적 증거 의존도가 집중적이거나, 공간적으로 확산되거나, 고위험과 공존하는 방식으로 불균등하게 분포된 장면을 식별할 수 있게 합니다.

저자들은 겸손한 입장을 유지하며, 이러한 통계가 안전 인증이 아닌 진단 신호임을 강조합니다. 신호가 인구 수준에서 위험과 상관관계가 있지만, 개별 샘플의 안전을 보장하지는 않는다고 지적합니다. 이 프레임워크는 궤적 오류 검사 및 폐루프 시뮬레이션과 같은 기존 출력 측 안전 평가에 보완적인 도구로 제시되며, 시각적 검사만으로는 더 효율적으로 실패 가능성이 높은 시나리오를 파악하는 데 도움을 줍니다. 인정된 주요 한계는 고충실도 귀속도의 계산 비용으로, 현재 실시간 온라인 모니터링을 불가능하게 하지만, 결과는 향후 실시간 고충실도 귀속도 방법의 가능성을 시사합니다.