SaFeR: Safety-Critical Scenario Generation for Autonomous Driving Test via Feasibility-Constrained Token Resampling

이 논문은 자율주행 시스템 평가를 위해 물리적 실현 가능성과 행동적 현실성을 유지하면서 적대적 위험 시나리오를 생성하는 새로운 방법론인 SaFeR 을 제안하며, 이를 통해 기존 접근법의 한계를 극복하고 Waymo 및 nuPlan 데이터셋에서 우수한 성능을 입증했습니다.

핵심

SaFeR: 자율주행차를 위한 '안전한 위험' 시나리오 생성기

이 논문은 자율주행차를 테스트할 때 가장 중요한 두 가지 질문을 해결하는 새로운 방법을 제안합니다.
"어떻게 하면 차가 정말 위험한 상황을 겪게 할 수 있을까?" 그리고 "그 상황이 물리적으로 불가능한 허구가 아니라, 실제로 일어날 법한 현실적인 상황일까?"

기존 방법들은 이 두 가지 목표를 동시에 달성하기 힘들어 했습니다. 너무 위험하게 만들면 차가 피할 수 없는 '불가능한 사고'가 되고, 너무 현실적으로 만들면 테스트 의미가 없어집니다. 이 논문은 SaFeR이라는 새로운 시스템을 통해 이 문제를 해결했습니다.

이 시스템을 이해하기 쉽게 세 가지 비유로 설명해 드릴겠습니다.

---

1. 핵심 아이디어: "현실적인 무대 위에서 극한 연기하기"

자율주행차 테스트는 마치 연극과 같습니다.

• 배경 (현실성): 무대 배경과 배우들의 움직임은 실제 도로처럼 자연스럽게 보여야 합니다.
• 극적 긴장감 (위험성): 하지만 배우들 (주변 차량) 이 주인공 (자율주행차) 을 위협하는 극적인 장면을 만들어야 합니다.

기존 방법들은 "위험한 장면을 만들자!"라고만 외쳐서, 배우들이 물리 법칙을 무시하고 공중을 날아다니거나 벽을 뚫고 나오는 비현실적인 연기를 하곤 했습니다. SaFeR 은 **"현실적인 무대 (Trust Region) 안에서만, 가장 극적인 연기를 하되, 무너지지 않는 선 (Feasibility Constraint) 을 지키라"**고 지시합니다.

2. SaFeR 의 작동 원리: 3 단계 과정

SaFeR 은 크게 두 가지 핵심 기술과 하나의 전략으로 작동합니다.

① '현실적인 연기자' 양성 (Realism Prior & MDA)

먼저, 인공지능이 실제 도로에서 사람들이 어떻게 운전하는지 학습합니다.

• 비유: 마치 명품 연기 학교를 세운 것입니다. 수많은 실제 운전 데이터를 학습시켜, 인공지능이 "사람이라면 이렇게 운전할 거야"라는 자연스러운 행동 패턴을 완벽하게 익히게 합니다.
• 특이점 (MDA): 이 모델은 '주의력 (Attention)'이라는 기술을 사용하는데, SaFeR 은 여기서 소음 제거 필터를 달았습니다. 복잡한 도로에서 중요하지 않은 신호나 멀리 있는 차에 집중하는 '잡음'을 걸러내고, 정작 중요한 위험 요소 (예: 갑자기 튀어나오는 차) 에만 집중하도록 만들었습니다.

② '피할 수 있는 한계' 설정 (Largest Feasible Region - LFR)

이게 가장 중요한 부분입니다. 인공지능이 위험한 상황을 만들 때, **"이 상황은 차가 아무리 잘 운전해도 피할 수 없는 '불가능 사고'인가?"**를 미리 계산합니다.

• 비유: **안전 지대 (LFR)**를 그리는 것입니다.
  • 초록색 영역: "여기서 차가 급제동하거나 핸들을 꺾으면 피할 수 있어. (안전한 위험)"
  • 빨간색 영역: "여기서 차가 아무리 잘해도 충돌은 불가피해. (불가능한 사고)"
• SaFeR 은 인공지능이 빨간색 영역 (불가능 사고) 에는 절대 들어가지 못하게 막습니다. 오직 초록색 영역 안에서만 가장 위험한 상황을 만들어냅니다.

③ '두 단계' 시나리오 생성 (Token Resampling)

이제 실제 테스트 시나리오를 만듭니다.

1. 1 단계 (신뢰 구역): 위에서 학습한 '자연스러운 연기' 패턴 중에서 가장 확률이 높은 행동들만 모아서 후보를 뽑습니다. (너무 이상한 행동은 아예 제외)
2. 2 단계 (최적화): 이 후보들 중에서 가장 위험하지만, 동시에 '피할 수 있는 선'을 넘지 않는 행동을 골라냅니다.
   • 만약 "충돌이 불가피한 행동"이 후보에 있다면? -> 즉시 폐기!
   • "충돌 위험은 높지만, 차가 피할 수 있는 행동"이 있다면? -> 채택!

3. 왜 이것이 중요한가요? (결과)

이론적으로나 실험적으로나 SaFeR 은 기존 방법들보다 훨씬 뛰어납니다.

• 기존 방법의 문제: "충돌을 만들자!"라고만 해서, 차가 벽을 뚫고 들어가는 비현실적인 사고를 많이 만들어냈습니다. 이런 시나리오는 자율주행차의 능력을 평가할 수 없습니다. (충돌률 높음, 해결률 낮음)
• SaFeR 의 성과:
  • 충돌률 (CR): 차를 위협하는 능력은 기존 최고 수준과 비슷합니다.
  • 해결률 (SR): 하지만 차가 실제로 그 상황을 피할 수 있는 가능성이 훨씬 높습니다. (약 86% 이상)
  • 현실성: 생성된 차량의 움직임이 실제 인간 운전자의 움직임과 매우 비슷합니다.

요약

SaFeR은 자율주행차를 테스트할 때, "불가능하고 비현실적인 사고" 대신 **"실제 도로에서 일어날 법하지만, 운전자가 극한의 집중력으로 피할 수 있는 진짜 위험한 상황"**을 만들어내는 시스템입니다.

마치 안전한 훈련용 인형을 만들어서, 소방관에게 "불이 났을 때 가장 위험하지만, 그래도 구조할 수 있는 상황"을 연습시키는 것과 같습니다. 이렇게 해야만 자율주행차가 실제 도로에서 사람을 안전하게 보호할 수 있다는 것을 검증할 수 있습니다.

기술 요약

논문 요약: SaFeR (자율주행 테스트를 위한 실현 가능성 제약 토큰 재샘플링 기반 안전-임계 시나리오 생성)

1. 문제 정의 (Problem Statement)

자율주행 시스템 (ADS) 의 안전성을 검증하기 위해서는 '안전 - 임계 (Safety-Critical)' 시나리오, 즉 충돌 위험이 높은 상황을 생성하는 것이 필수적입니다. 그러나 기존 접근법들은 다음과 같은 세 가지 상충되는 목표를 동시에 달성하는 데 한계가 있었습니다:

• 적대적 임계성 (Adversarial Criticality): 자율주행 차량 (Ego) 을 위협할 만큼 위험한 시나리오 생성.
• 물리적 실현 가능성 (Physical Feasibility): 자율주행 차량이 이론적으로 회피할 수 있는 상황 (피할 수 없는 충돌 방지).
• 행동적 사실성 (Behavioral Realism): 실제 인간 운전자의 자연스러운 주행 패턴을 따름.

기존 방법들은 충돌률을 높이기 위해 과도하게 공격적인 시나리오를 생성하여 물리적으로 불가능한 '피할 수 없는 충돌'을 만들거나, 반대로 실현 가능성을 지나치게 강조하여 시나리오의 도전 과제가 약해지는 딜레마에 직면해 있었습니다.

2. 제안 방법론 (Methodology)

저자들은 SaFeR이라는 새로운 프레임워크를 제안하여 위 문제를 해결합니다. SaFeR 은 시나리오 생성을 이산적인 토큰 예측 문제로 모델링하고, 실현 가능성 제약 (Feasibility Constraint) 하에 토큰 재샘플링 (Token Resampling) 을 수행하는 2 단계 전략을 사용합니다.

가. 사실성 사전 모델링 (Realism Prior Modeling)

• 목표: 대규모 데이터셋에서 인간 운전자의 자연스러운 주행 분포를 학습합니다.
• 모델 구조: Transformer 기반의 Next-Token Prediction (NTP) 모델을 사용합니다.
• 토큰화: 가속도 ($a$) 와 요레이트 ($\psi$) 를 이산화된 모션 토큰으로 변환합니다.
• 핵심 기술 (MDA): 복잡한 공간 - 시간 상호작용을 모델링하기 위해 다중 헤드 차분 어텐션 (Multi-Head Differential Attention, MDA) 메커니즘을 도입했습니다.
  • 기존 어텐션 메커니즘의 노이즈 (불필요한 배경 차량이나 지도 요소에 대한 과도한 가중치) 를 제거하기 위해, 두 개의 병렬 소프트맥스 출력을 차분 (Subtraction) 하는 방식을 사용합니다.
  • 이를 통해 안전에 중요한 상호작용 신호만 선별하여 고충실도 (High-fidelity) 의 사실적 주행 분포를 확보합니다.

나. 실현 가능성 제약 토큰 재샘플링 (Feasibility-Constrained Token Resampling)

• 목표: 생성된 시나리오가 '충돌 위험은 높지만, 이론적으로 회피 가능'하도록 보장합니다.
• 최대 실현 가능 영역 (Largest Feasible Region, LFR):
  • 해밀턴 - 자코비 도달성 분석 (Hamilton-Jacobi Reachability Analysis) 을 기반으로, 자율주행 차량이 최적 제어 하에 충돌을 피할 수 있는 상태 공간의 집합을 정의합니다.
  • 이 계산은 오프라인 강화학습 (Offline RL) 을 통해 신경망으로 근사화하여 효율적으로 수행합니다.
• 2 단계 재샘플링 전략:
  1. 신뢰 영역 (Trust Region) 구성: 사실성 사전 모델이 예측한 확률이 높은 상위 $n$개의 토큰만 선택하여, 생성된 행동이 인간과 유사하도록 제한합니다.
  2. LFR 가이드 재샘플링: 신뢰 영역 내에서 적대적 임계성 (충돌 확률 최대화) 을 극대화하되, LFR 제약 ($V_h(s) \le 0$) 을 위반하지 않는 토큰을 선택합니다.
     • 만약 후보 토큰이 피할 수 없는 충돌 (LFR 외곽) 로 이어진다면, 이를 강력히 페널티하여 실현 가능한 상태로 되돌립니다.

3. 주요 기여 (Key Contributions)

1. SaFeR 프레임워크: 실현 가능성 제약 토큰 재샘플링을 통해 적대적 임계성, 물리적 실현 가능성, 행동적 사실성 간의 균형을 이루는 통합된 시나리오 생성 프레임워크를 제안했습니다.
2. MDA 메커니즘: 사실성 사전 모델 내에 차분 어텐션 모듈을 도입하여 배경 노이즈를 필터링하고, 복잡한 교통 환경에서의 인간과 같은 주행 행동의 정밀한 기초를 마련했습니다.
3. LFR 기반 제약: 오프라인 강화학습을 통해 LFR 을 근사화하고, 이를 재샘플링 과정에 명시적으로 적용하여 '피할 수 없는 충돌'이 생성되는 것을 방지하면서도 높은 난이도의 시나리오를 유도했습니다.

4. 실험 결과 (Results)

Waymo Open Motion Dataset (WOMD) 과 nuPlan 데이터셋을 활용한 폐루프 (Closed-loop) 실험에서 SaFeR 은 기존 최첨단 (SOTA) 방법론들을 압도했습니다.

• 실현성 평가 (Realism): WOMD 및 nuPlan 에서 사실성 메타 지표 (Kinematic, Interactive, Map-based) 에서 모든 베이스라인 (Diffusion, QCNet, GUMP 등) 보다 우수한 성능을 보였습니다. 특히 MDA 가 인터랙션 및 맵 기반 지표 향상에 크게 기여했습니다.
• 임계성 및 해결률 (Criticality & Solution Rate):
  • 충돌률 (CR): 기존 방법론들과 유사하거나 높은 수준을 유지하며 위협적인 시나리오를 생성했습니다.
  • 해결률 (SR): 가장 중요한 지표인 SR 에서 SaFeR 이 가장 높은 점수 (WOMD 기준 0.865) 를 기록했습니다. 이는 생성된 시나리오가 자율주행 차량이 실제로 회피할 수 있는 '유효한' 테스트 케이스임을 의미합니다. (반면, 다른 방법들은 SR 이 낮아 피할 수 없는 충돌을 많이 생성함).
  • 실제성 (Realism): 생성된 차량의 속도 및 가속도 분포가 실제 데이터와 가장 유사했습니다 (VJ, AJ 지표 최소화).
• 애벌레이션 연구: LFR 제약이나 MDA 모듈을 제거할 경우, 각각 SR 이 급격히 떨어지거나 사실성이 저하됨을 확인하여 두 요소의 필수성을 입증했습니다.

5. 의의 및 결론 (Significance)

SaFeR 은 자율주행 안전 테스트의 핵심 난제인 "위험하지만 피할 수 있는 (Challenging yet Solvable)" 시나리오 생성 문제를 해결했습니다.

• 이론적 기여: 토큰 단위에서 실현 가능성 (Feasibility) 을 명시적으로 제약하는 새로운 패러다임을 제시했습니다.
• 실용적 가치: 생성된 시나리오가 물리적으로 불가능한 '가짜 위험'이 아닌, 실제 자율주행 시스템의 의사결정 능력을 검증할 수 있는 고품질 테스트 데이터로 활용될 수 있음을 입증했습니다.
• 향후 영향: 이 연구는 대규모 시뮬레이션 기반 안전 검증 프로세스의 신뢰성을 높이고, 자율주행 기술의 상용화를 가속화하는 데 중요한 기여를 할 것으로 기대됩니다.