기술 요약: ScenePilot

문제 정의

안전-중요 시나리오는 자율주행 (AV) 시스템을 평가하는 데 필수적이지만, 자연스러운 주행 로그에서는 극히 드물기 때문에 시뮬레이션 기반 스트레스 테스트가 필요합니다. 기존 시나리오 생성 방법들은 일반적으로 주변 에이전트들을 충돌을 유발하도록 훈련된 적대자로 취급합니다. 그러나 이러한 접근법은 두 가지 주요 한계를 겪습니다:

1. 물리적 무효성: 차량 - 도로 물리 한계를 명시적으로 모델링하지 않는 방법들은 종종 "시각적으로 극단적"이지만 물리적으로 해결 불가능한 충돌 (예: 무한 감속 필요) 을 생성합니다. 이러한 실패는 자율성 스택의 진정한 결함을 드러내기보다는 수치적 견고성을 테스트합니다.
2. 단일 제약에 대한 과도한 의존:
   • 물리 제약 방법은 에이전트를 물리적으로 실현 가능한 행동으로 제한하지만, 종종 물리 한계 근처의 극단적인 경계 돌파 기동으로 수렴하여, 물리적으로 해결 가능하지만 여전히 AV 실패를 초래하는 더 넓은 상호작용 영역을 놓칩니다.
   • 정책 제약 방법은 특정 제어기의 능력 한계로 생성을 유도합니다. 이는 해당 특정 스택을 진단하는 데 실행 가능하지만, 생성을 제어기 의존적 경계에 고정시키고 AV 가 환경의 근본적인 물리 한계와 얼마나 가깝게 작동하는지 드러내지 못합니다.

본 논문은 가장 정보 가치가 높은 영역이 "경계 대역 (boundary band)"이라고 주장합니다. 이는 원칙적으로 물리적으로 해결 가능 (충돌을 피할 수 있는 허용 가능한 동역학이 존재) 하지만 특정 제한으로 인해 배포된 자율성 스택이 여전히 실패하는 시나리오입니다.

방법론: ScenePilot

ScenePilot 는 이 경계 대역을 목표로 하는 타당성 유도, 경계 주도 프레임워크입니다. 강화 학습 (RL) 을 사용하여 시나리오 생성을 제약된 다목적 마르코프 결정 과정 (MDP) 으로 공식화합니다.

1. 이중 신호 공식화

이 프레임워크는 물리 타당성과 AV 정책 능력을 다음 두 가지 단계별 신호로 분리합니다:

• 물리 타당성 점수 ($\sigma$): 책임 민감 안전 (RSS) 모델의 물리 한계 변형에서 도출됩니다. 보수적인 반응 시간을 포함하는 표준 RSS 와 달리, 이 변형은 최대 실현 가능 감속을 기반으로 이론적 제동 한계 거리를 계산합니다.
  • $\sigma \geq 0$: 프레임은 물리적으로 타당합니다 (허용 가능한 제동/조향을 통해 충돌을 피할 수 있음).
  • $\sigma < 0$: 프레임은 물리적으로 비타당합니다 (충돌은 불가피함).
  • 이 점수는 차량 기하학과 충돌까지 시간 (TTC) 을 고려하여 종방향 및 횡방향 여유를 집계하여 직교 기동이 충돌을 방지할 수 있는지 여부를 결정합니다.
• AV-위험 예측기 ($\Phi$): ego 차량의 즉각적인 안전 위험을 추정하는 온라인 학습 경량 크리틱 네트워크입니다. 이는 특정 제어기의 정책과 독립적으로 충돌 확률의 밀도 있고 미분 가능한 신호를 제공하기 위해 잠재 기반 보상 형성을 통해 훈련됩니다.

2. 제약된 다목적 최적화

목표는 물리 타당성을 유지 ($J_\sigma \geq \epsilon$) 하면서 AV 위험 ($J_\phi$) 을 최대화하는 것입니다. 목적 함수는 다음과 같이 공식화됩니다:
$$\max_{\pi} J_\phi(\pi) \quad \text{s.t.} \quad J_\sigma(\pi) \geq \epsilon$$
여기서 $\epsilon$은 타당성 임계값을 스윕하는 제어 변수입니다.

3. 주요 메커니즘

• 단계별 타당성 인식 차폐: 정책이 물리적으로 비타당한 영역으로 이동하거나 경계 위반을 무시하는 것을 방지하기 위해, 저자들은 차폐 마스크를 도입합니다. 타당성 위반이 존재하거나 임박한 경우 ($h_t > 0$), 정책 업데이트는 타당성 이점 ($A_\sigma$) 을 우선시합니다. 그렇지 않으면 위험 ($A_\phi$) 을 최적화합니다. 이는 에이전트가 비타당한 아티팩트로 수렴하지 않고 경계 근처에 머무르도록 보장합니다.
• 타당성 임계값 스윕: 시스템은 물리 한계 근처에서 시작하여 여유를 점진적으로 증가시키는 가우시안 모양의 스케줄을 $\epsilon$에 적용합니다. 이를 통해 에이전트는 단일 좁은 극단 기동 집합으로 수렴하는 대신 경계 대역의 스펙트럼을 탐색할 수 있습니다.

주요 기여

1. 경계 대역 공식화: 물리 타당성과 AV 정책 능력을 분리하여 상호작용이 물리적으로 해결 가능하지만 정책 비타당한 영역을 명시적으로 목표로 하는 새로운 공식화.
2. 제약된 적대적 생성기: 물리 유도 점수 ($\sigma$) 와 온라인 학습 위험 예측기 ($\Phi$) 를 결합하고, 단계별 차폐와 임계값 스윕을 활용하여 근경계 타당 대역에 샘플을 집중시키는 다목적 RL 프레임워크.
3. 실증적 검증: ScenePilot 이 물리 타당성을 유지하면서 더 높은 충돌률을 가진 시나리오를 생성하며, 이러한 시나리오에 대한 적대적 미세 조정이 하류 견고성을 일관되게 향상시킨다는 것을 입증.

실험 결과

실험은 CARLA 시뮬레이터 내의 SafeBench 벤치마크에서 수행되었습니다.

• 안전-중요성: 최신 기법 (Learning-to-Collide, AdvSim, ChatScene, SCENGE 포함) 과 비교하여 ScenePilot 은 여덟 가지 기본 교통 시나리오에서 평균 충돌률 (CR) 0.893을 달성하고 전체 점수 (OS) 0.476으로 가장 낮았습니다.
• 전이성: 생성된 시나리오는 CARLA Autopilot, AIM-BEV, TransFuser, BehaviorAgent 및 다양한 심층 RL 제어기 (SAC, PPO, TD3) 를 포함한 이질적인 AV 스택 전반에 걸쳐 효과적이었습니다. ScenePilot 은 Unprotected Left-turn 시나리오에서 평균 CR 을 0.380 (기저 KING) 에서 0.490으로 증가시켰습니다.
• 물리 타당성: 분석 결과, ScenePilot 은 ChatScene 에 비해 물리적으로 비타당한 프레임을 현저히 적게 생성하여, 그 실패가 물리적으로 불가능한 행동에 의존하지 않음을 확인했습니다.
• 하류 유용성: ScenePilot 생성 시나리오를 사용한 ego 정책의 적대적 미세 조정은 하류 충돌률을 0.854 (사전 훈련) 에서 0.072로 감소시켜, 다른 생성기의 시나리오로 미세 조정하는 것보다 우수한 성과를 보였습니다.
• 커버리지: 이 방법은 기법들에 비해 "물리적으로 타당하지만 AV 비타당한" 갭 대역의 더 넓은 부분을 커버하여 (갭 커버리지 점수로 측정), 지나치게 온화하거나 극단적인 영역으로 수렴하는 것을 방지했습니다.

중요성과 주장

본 논문은 ScenePilot 이 현재 자율성 스택의 한계에서 비롯된 실패인 역량 격차를 분리함으로써 자율주행에 대한 더 엄격한 평가 도구를 제공한다고 주장합니다. "경계 대역"에 초점을 맞춤으로써, 이 방법은 다음과 같은 시나리오를 생성합니다:

• 정보 제공: 수치적 엣지 케이스가 아닌 진정한 알고리즘적 약점을 드러냅니다.
• 실행 가능: 배포된 시스템의 견고성을 향상시키는 표적 훈련 데이터를 제공합니다.
• 일반화 가능: 다양한 제어기 아키텍처 전반에 걸쳐 여전히 도전적입니다.

저자들은 이 작업을 단순한 실패 최대화를 넘어 물리적 가능성과 알고리즘 능력 사이의 미묘한 공간을 탐구하는 체계적인 안전 보장을 향한 한 걸음으로 위치시킵니다.