💻 computer science

DriveSafer: End-to-End Autonomous Driving with Safety Guidance

DriveSafer 는 훈련 시 제약과 추론 시 가이드를 통해 생성형 플래너를 명시적으로 안전한 행동으로 유도하여 종단간 자율주행을 위한 새로운 안전 프레임워크이며, 최첨단 모델에 비해 NAVSIM 벤치마크에서 치명적 실패와 규정 위반을 현저히 감소시킵니다.

원저자: Shounak Sural, Raj Rajkumar

게시일 2026-05-19

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Shounak Sural, Raj Rajkumar

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

새로운 도시 도로 주행용 로봇 드라이버를 가르친다고 상상해 보세요. '엔드 투 엔드(End-to-End)' 인공지능으로 구축된 이 로봇은 수백만 시간의 주행 영상을 시청한 천재와 같습니다. 복잡한 교통 상황 처리, 고속도로 합류, 보행자 대응 등에서 거의 누구보다 뛰어난 능력을 보입니다.

하지만 함정이 있습니다. 이 로봇은 평균적인 주행에서는 훌륭하지만, 가끔은 치명적인 사고로 이어지는 '뇌 정지(brain freezes)' 현상을 겪습니다. 갑자기 인도 위를 주행하거나, 보행자와 충돌하거나, '오른쪽 회전' 표지를 무시하고 반대편 차도로 직진하는 식입니다. 이는 사소한 실수가 아니라, 로봇을 실제 환경에서 사용할 수 없게 만드는 치명적인 실패입니다.

이 논문은 로봇을 전반적으로 '더 나은' 드라이버로 만드는 것을 넘어, 특히 이러한 위험한 뇌 정지 현상을 막기 위해 고안된 새로운 시스템인 DriveSafer를 소개합니다. DriveSafer는 로봇의 '학교' 기간 (학습) 과 실제 '주행' 기간 (추론) 에 걸쳐 작동하는 안전 코치와 같습니다.

문제: '평균'의 함정

저자들은 이전의 안전 점검이 학생의 평균 시험 점수만으로 평가하는 것과 같다고 지적했습니다. 학생이 평균 95 점을 받았더라도, 가장 중요한 '벽에 부딪히지 않기' 시험에서 낙제할 수 있습니다. DiffusionDrive와 같은 기존 최상급 로봇 드라이버들도 평균 점수는 높았지만, 드물고 위험한 상황에서는 여전히 추락했습니다.

해결책: DriveSafer

DriveSafer는 엄격하지만 도움이 되는 멘토처럼 두 가지 주요 도구를 사용합니다.

1. 학습 시간: '안전 숙제'

로봇이 학습할 때, DriveSafer는 커리큘럼에 특별한 '안전 숙제'를 추가합니다.

유추: 아이에게 자전거 타기를 가르친다고 상상해 보세요. 단순히 타게 하는 대신, 보조 바퀴 (제약 조건) 를 달고 아이가 너무 기울어지면 부드럽게 밀어주는 (손실 함수) 방식입니다.
작동 원리: 시스템은 로봇에게 세 가지 구체적인 규칙을 가르칩니다.
1. 도로 위를 유지하세요: 아스팔트나 인도 밖으로 나가지 마세요.
2. 거리를 유지하세요: 다른 차량이나 사람과 너무 가까이 가지 마세요.
3. 부드럽게 움직이세요: 승객을 멀어지게 할 갑작스럽고 경직된 움직임을 하지 마세요.
로봇이 이러한 규칙을 위반하는 경로를 학습하려 하면 '페널티' (수학적 점수 하락) 를 받아, 처음부터 더 안전한 습관을 학습하도록 강제합니다.

2. 추론 시간: '안전 이중 점검'

훌륭한 학습에도 불구하고, 실제 주행 시 로봇이 잠시 의심하거나 혼란을 겪을 수 있습니다. DriveSafer는 로봇이 행동을 결정하기 전에 '제 2 의 의견' 단계를 추가합니다.

유추: 번잡한 거리를 건너려 할 때를 상상해 보세요. 왼쪽을 보고, 오른쪽을 보고, 그다음 '잠깐, 왼쪽으로 한 걸음 더 옮기는 게 더 안전하지 않을까?'라고 생각합니다. 한 걸음을 내딛기 전에 머릿속에서 몇 가지 '만약에' 시나리오를 빠르게 생성하는 것입니다.
작동 원리:
- 로봇이 기본 계획 (예: '왼쪽으로 회전') 을 생성합니다.
- DriveSafer는 즉시 몇 가지 대안 계획을 생성합니다 (예: '왼쪽으로 회전하되 약간 더 천천히', 또는 '왼쪽으로 회전하되 약간 오른쪽으로 이동').
- 이 모든 옵션을 지도와 다른 차량의 위치와 대조하여 확인합니다.
- 원래 계획이 보행자를 치거나 도로 밖으로 나갈 것처럼 보이면, DriveSafer는 이를 거부하고 가장 안전한 대안 계획을 선택합니다.

결과: 사고 감소, 안전한 도로

저자들은 이 시스템을 NAVSIM 이라는 유명한 주행 벤치마크에서 테스트했는데, 여기에는 까다로운 실제 시나리오가 가득합니다.

큰 승리: 이전 최상급 로봇 드라이버와 비교했을 때, DriveSafer는 치명적인 실패(충돌 또는 도로 이탈) 를 48% 줄였습니다.
인도 문제: 특히 허용된 도로 영역 밖으로 나가는 실패는 65% 이상 감소했습니다.
시각적 증거: 논문은 이전 로봇이 보행자 무리나 인도 위로 직진했던 사례를 보여주지만, DriveSafer는 차량을 안전하게 정지시키거나 다른 경로로 유도하는 데 성공했습니다.

요약

간단히 말해, DriveSafer는 "로봇이 완벽하기를 기대할 수 없습니다. 생명을 위협하는 실수를 적극적으로 막아야 합니다"라고 인정하는 프레임워크입니다. 학습 중 엄격한 안전 규칙과 주행 중 '이중 점검' 시스템을 결합함으로써, 천재적이지만 무모한 로봇 드라이버를 훨씬 안전한 드라이버로 바꿉니다. 특히 실제 피해를 초래할 수 있는 최악의 시나리오를 구체적으로 타겟팅합니다.

기술 요약: DriveSafer

문제 정의

종단간 (End-to-End, E2E) 자율주행 모델이 복잡한 벤치마크에서 점점 더 뛰어난 능력을 보여주고 있지만, 안전이 중요한 시나리오에서는 여전히 상당한 수의 치명적인 실패를 일으키기 쉽습니다. 저자들은 이러한 실패 중 다수가 물리적 제약과 안전 요구사항 위반에서 비롯되며, 이로 인해 충돌, 허용된 지역 이탈, 또는 의도된 방향에서의 이탈과 같은 위험한 행동이 발생한다고 관찰했습니다.

L2 거리 오차와 같은 현재 평가 지표들은 종종 이러한 치명적인 실패를 가립니다. 모델이 궤적 오차 지표에서 최첨단 성능을 달성하더라도 여전히 위험한 "맹목적인" 행동을 보일 수 있습니다. 이 논문은 평균 계획 품질의 개선만으로는 부족하며, 주요 과제는 치명적인 실패의 "긴 꼬리 (long tail)" (예측 드라이버 모델 점수, PDMS, 가 0 으로 정의됨) 라고 주장합니다. 이러한 실패에는 다음이 포함됩니다:

이동하는 물체 (차량 또는 보행자) 와의 충돌.
허용된 주행 가능 지역 (예: 보도) 을 벗어난 주행.
의도된 주행 방향으로부터의 큰 이탈.

방법론

저자들은 생성형 E2E 플래너를 명시적으로 안전한 행동으로 유도하도록 설계된 실패 인식 안전 프레임워크인 DriveSafer를 제안합니다. 이 프레임워크는 기본 모델인 DiffusionDrive를 기반으로 하며, 두 가지 시너지 단계를 통해 안전 강화를 도입합니다:

1. 안전 인식 훈련

DriveSafer 는 기본 손실 ( $L_{base}$ ) 과 함께 특수한 물리 정보 기반 및 안전 인식 손실 함수를 통합함으로써 훈련 목적을 수정합니다. 총 손실은 다음과 같이 정의됩니다:
$L_{total} = L_{base} + \lambda_{DAC}L_{DAC} + \lambda_{Col}L_{Col} + \lambda_{Comf}L_{Comf}$

주행 가능 지역 준수 ( $L_{DAC}$ ): 기본 지도에서 파생된 주행 가능 지역 마스크를 벗어난 예측 궤적에 페널티를 부과합니다.
충돌 회피 ( $L_{Col}$ ): 주변 에이전트로부터 특정 거리 임계값 ( $d_{col}$ ) 이내로 접근하는 궤적에 페널티를 부과합니다.
편안함 ( $L_{Comf}$ ): 승객의 편안함을 보장하기 위해 갑작스러운 운동 변화 (저크) 를 줄입니다.

기저 모델이 미래 에이전트 위치를 예측하지 못해 추론 중 충돌 인식이 제한되는 문제를 해결하기 위해, 저자들은 가벼운 어댑터 레이어를 도입했습니다. 이 레이어는 미래 시간 단계에 대한 다른 도로 에이전트의 운동을 예측하여 공동 예측 및 계획을 가능하게 합니다.

2. 추론 시 안전 유도

확산 모델의 확률적 특성과 잠재적 센서 노이즈를 인식하여, DriveSafer 는 추론 중 실현 불가능한 궤적을 거부하기 위한 유도 전략을 사용합니다:

대안 가설 생성: 시스템은 확산 모델에서 예측된 최상위 모드에 기반하여 대체 궤적을 생성합니다. 이러한 대안에는 다음이 포함됩니다:
- headings 및 속도 변화 (5% 변동).
- 미터 미만 측방 궤적 이동.
- 확산 모델의 두 번째 및 세 번째로 높은 순위 모드 활용.
안전 점수 매기기 및 선택: 예측된 에이전트 위치와 기본 지도를 사용하여 이러한 대체 궤적에 안전 지표를 적용하여 점수를 매깁니다. 가장 안전한 궤적이 최종 출력으로 선택되어 차량을 위험한 행동에서 효과적으로 "밀어내는" 역할을 합니다.

주요 기여

이 논문은 네 가지 주요 기여를 제시합니다:

DriveSafer 프레임워크: 시너지 훈련 및 추론 시 안전 강화를 통해 치명적인 실패를 목표로 하는 E2E 계획을 위한 실패 중심 안전 강화 프레임워크.
안전 인식 훈련 전략: 주행 가능 지역, 충돌, 편안함과 같은 특수 손실의 도입 및 공동 예측 및 계획을 위한 통합된 가벼운 예측 모듈.
추론 시 유도: 플래너를 안전 준수 출력으로 유도하기 위해 대체 궤적을 생성하고 평가하는 방법.
성능 개선: 최첨단 기저 모델에 비해 NAVSIM 벤치마크에서 치명적인 실패가 감소한 것을 입증.

실험 결과

이 프레임워크는 밀집된 도시 교통과 복잡한 시나리오를 특징으로 하는 navtest 분할이 포함된 NAVSIM 벤치마크에서 평가되었습니다.

치명적 실패 감소: DriveSafer 는 DiffusionDrive 기저 모델 대비 치명적 실패 (PDMS = 0) 수를 48% 감소시켰습니다 (653 건에서 340 건으로 감소).
주행 가능 지역 준수: 주행 가능 지역 준수 실패가 65% 이상 감소했습니다 (448 건에서 154 건으로 감소).
전체 PDMS 점수: 모델은 90.3의 PDMS 점수를 달성하여 DiffusionDrive 기저 모델 (88.1) 보다 2.2 점 향상되었습니다.
하위 지표: 주행 가능 지역 준수 (DAC) 및 자차 진행 (EP) 하위 지표에서 주목할 만한 개선이 관찰되었습니다.
정성적 분석: 시각적 예시는 기저 모델이 도로를 벗어났거나, 의도된 방향을 위반했거나, 보행자 및 반대 방향 차량과 충돌했던 시나리오를 DriveSafer 가 수정하는 것을 보여줍니다.

중요성 및 주장

이 논문은 평균 성능 지표와 관계없이 상당수의 치명적 실패로 인해 E2E 자율주행의 실용성이 현재 제한되고 있다고 주장합니다. DriveSafer 의 중요성은 평균 궤적 오차의 미미한 개선보다 생명 위협 시나리오의 완화를 우선시하는 실패 중심적 관점에 있습니다.

저자들은 E2E 시스템의 명시적 안전 유도가 치명적 실패 사례의 직접적 감소를 목표로 해야 한다고 주장합니다. 훈련 시 제약과 추론 시 유도를 결합함으로써 DriveSafer 는 더 안전한 현실 세계 배포를 위한 경로를 제공합니다. 저자들은 향후 자율주행차 (AV) 에 대한 현실 세계 배포를 위해 DriveSafer 를 확장하여 현실 세계 조건에서의 영향을 평가하는 것을 목표로 하며, 궁극적인 목표는 치명적 실패를 제로로 줄이는 것이라고 밝히고 있습니다.