기술 요약: 자율 주행 정책 프로빙 (Probing Autonomous Driving Policies)

문제 정의

대규모 데이터셋과 고속 시뮬레이터를 통한 자율 주행(AD)의 급격한 발전에도 불구하고, 명목적인 시나리오에서의 높은 성능은 결함이 있는 추론과 안전하지 않은 휴리스틱을 은폐할 수 있다. 표준적인 폐쇄 루프(closed-loop) 시뮬레이션 지표(예: 충돌률, 목표 진행도)는 집계된 점수를 제공할 뿐, 정책이 어떻게 의사결정을 내리는지는 밝혀내지 못한다. 구체적으로, 주행 에이전트가 주변 차량의 움직임을 진정으로 예측하고 적응형 계획을 생성하는 법을 배우는 것인지, 아니면 단순히 일반적이고 상호작용이 적은 시나리오(예: 직진 주행)에서는 성공하지만 안전이 중요한 상황에서는 실패하는 취약한 휴리스틱에 의존하는 것인지는 여전히 불분명하다. 본 논문은 주행 정책의 내부 표현(internal representations)을 조사하여, 이들이 진정한 예측 및 계획 능력을 인코딩하고 있는지 아니면 그 성공이 가짜(spurious)인지 결정하고자 한다.

방법론

저자들은 단순한 행동 복제(Behavior Cloning, BC)부터 강화 학습(RL) 및 최첨단 모방 학습(Imitation Learning, IL) 모델에 이르기까지, 주행 모델의 내부 상태를 조사하기 위해 다각적인 접근 방식을 채택한다. 방법론은 세 가지 핵심 기술을 중심으로 구조화되어 있다:

1. 선형 프로빙 (Linear Probing): 저자들은 훈련된 모델의 중간 표현으로부터 자차(ego vehicle)와 주변 차량 모두의 미래 위치를 디코딩하기 위해 선형 분류기를 훈련시킨다.

   • 주변 차량 프로빙 (Surrounding-Vehicle Probing): 모델의 내부 레이어가 다른 에이전트의 미래 궤적을 예측하는 능력을 측정한다. 이는 학습된 표현에 얼마나 많은 추가 정보가 인코딩되었는지 정량화하기 위해 원시 입력(raw-input) 베이스라인과 비교된다.
   • 자차 계획 프로딩 (Ego-Planning Probing): 자차의 계획된 미래 위치를 내부 표현으로부터 디코딩하여 계획의 적응성을 평가한다.
   • 스케일 분석 (Scale Analysis): 데이터셋 크기(100개에서 80,000개 장면까지)를 변화시키며 모델을 훈련시켜 예측 및 계획 능력이 어떻게 나타나고 확장되는지 관찰한다.

2. 섭동된 폐쇄 루프 시뮬레이션 (Perturbed Closed-Loop Simulation): 가짜 의존성(spurious dependencies)을 테스트하기 위해, 저자들은 시뮬레이션 환경에서 주변 차량을 무작위로 제거한다. 만약 정책이 실제 행동보다는 차량의 존재 자체를 안정성을 위한 근거로 삼는다면, 물리적으로는 더 단순해졌음에도 불구하고 성능이 저하될 것이다.

3. 표적 인과적 개입 (Targeted Causal Interventions): 저자들은 의사결정 시점에 주변 차량의 내부 표현에 직접 개입한다.

   • 적응성 테스트 (Adaptiveness Test): 주변 차량의 표현을 자차의 경로와 겹치도록 섭동시켜, 자차의 계획이 충돌을 피하기 위해 적응하는지 확인한다.
   • 복구 테스트 (Recovery Test): 주변 차량에 대한 잘못된 예측을 수정하여, 자차의 계획이 더 안전하고 지면 참값(ground-truth)에 부합하는 궤적으로 이동하는지 확인한다.

주요 결과

1. 스케일링 법칙과 내부 표현

• 성능 대 규모 (Performance vs. Scale): BC 및 RL 모델 모두 데이터셋 크기가 증가함에 따라 폐쇄 루프 성능(낮은 충돌률, 높은 목표 진행도)이 향상되며, 약 10k~20k 장면에서 정체되는 멱법칙(power-law) 추세를 따른다.
• 예측 능력: 선형 프로빙 결과, 모델이 주변 차량을 원시 입력보다 더 잘 표현하게 되기는 하지만, 예측력은 여전히 제한적임이 드러났다.
  • 무관함 vs. 중요성 (Irrelevant vs. Critical): 데이터가 확장됨에 따라 모델은 명백히 무관한 차량(예: 멀리 떨어진 차량)을 무시하는 데는 능숙해진다. 그러나 진정으로 안전에 치명적인 차량(가까이 다가올 차량)을 충분히 일찍 식별하고 우선순위를 정하는 데는 어려움을 겪는다.
  • 시간적 지평 (Temporal Horizon): BC 모델은 근거리 지평 예측에 집중하는 경향이 있으며, 이득은 즉각적인 미래에 집중된다. RL 모델은 단기 지평 표현은 더 강력하지만, 장기 지평에서는 이득을 유지하지 못한다.

2. 가짜 의존성 (Spurious Dependencies)

• 제거 프로토콜: 주변 차량을 무작위로 제거했을 때, BC와 RL 모델 모두 성능 저하(높은 도로 이탈률, 낮은 목표 진행도)를 보였다. 이 역설적인 결과는 정책이 실제 상호작용 추론을 위해 차량을 사용하는 것이 아니라, 차량의 존재를 가짜 단서로 부분적으로 활용하고 있음을 시사한다. 이러한 의존성은 더 큰 데이터셋을 통해 일부 완화되지만 완전히 제거되지는 않는다.

3. 근접 충돌 분석 (Near-Collision Analysis)

• 늦은 주의 (Late Attention): 충돌 발생 시, 프로빙 신호는 모델이 충돌 차량에 너무 늦게 주목한다는 것을 보여준다. 자차 근처에서 신호 집중도가 높아지는 것은 충돌 전 마지막 10단계에서만 나타나는데, 이는 효과적인 회피 계획을 세우기에는 불충분하다. 이는 의사결정 과정 초기에 중요한 상호작용을 예측하는 데 실패했음을 나타낸다.

4. 인과적 개입 및 적응성

• 예측-계획 연결 (Prediction-Planning Link): 개입 실험은 예측과 계획 사이의 인과 관계를 입증한다.
  • 적응성 (Adaptiveness): 주변 차량 예측이 충돌을 나타내도록 섭동되었을 때, 자차 계획 프로브는 대부분의 경우 변화하며, 종종 유도된 충돌을 피하기 위해 궤적을 변경한다.
  • 복구 (Recovery): 주변 차량에 대한 잘못된 예측을 바로잡으면 더 안전한 자차 계획으로 이어진다. 많은 실패 사례에서, 정확한 주변 차량 예측을 복구함으로써 모델이 지면 참값에 부합하는 궤적으로 회복할 수 있었다.
• 모델 간 차이: BC 모델은 경로 변경 및 감속 개입에는 신뢰할 수 있었으나, 가속 개입에는 어려움을 겪었다. RL 모델은 다양한 유형의 개입에 대해 더 균형 잡힌 반응을 보였다.

의의 및 주장

본 논문은 표준적인 폐쇄 루프 지표가 자율 주행 정책의 강건성을 평가하기에 불충분하다고 주장한다. 핵심 기여와 발견은 다음과 같다:

1. 현재 정책의 한계: 높은 폐쇄 루프 성능에도 불구하고, 주행 정책은 종종 안전에 치명적인 에이전트에 대한 적시 예측을 내재화하는 데 실패한다. 이들은 "명목적" 행동과 주변 차량의 존재에 대한 가짜 상관관계에 의존하는 경향이 있다.
2. 능력의 발현: 더 큰 데이터셋이 무관한 에이전트를 필터링하는 데 도움을 주기는 하지만, 충돌을 방지하기 위해 중요한 에이전트를 충분히 일찍 식별하는 문제를 완전히 해결하지는 못한다.
3. 인과 관계: 본 연구는 더 나은 내부 예측이 더 나은 계획으로 인과적으로 이어진다는 증거를 제공한다. 개입을 통해 예측 오류를 수정하면, 계획 모듈이 회복하고 더 안전한 궤적을 생성할 수 있다.
4. 방법론적 기여: 본 논문은 선형 프로빙, 섭동된 시뮬레이션, 그리고 인과적 개입을 결합하여 주행 정책의 "블랙박스" 특성을 진단하는 프레임워크를 도입하였으며, 이를 통해 강건한 안전을 위해서는 단순히 데이터를 확장하는 것뿐만 아니라 주변 차량 정보를 포착하고 활용하는 더 정밀한 메커니즘이 필요함을 밝혔다.

저자들은 향후 연구가 단순히 데이터를 확장하는 것에 의존하기보다, 연속 공간에서의 프로브 설계와 잠재적으로 공동 미래 예측 또는 보조 작업을 통합하여 모델의 핵심 상호작용 이해도를 높이는 방향으로 나아가야 한다고 결론짓는다.