💻 computer science

RedLight-VLA: Models for traffic-rule grounding and behavioral emphasis in driving policies

RedLight-VLA는 궤적 유래 행동 재가중치 부여와 병렬 보조 헤드를 결합하여 신호 교차로에서의 규칙 준수 및 행동 강조를 개선함으로써, 추가적인 수동 규칙 주석 없이도 적색 신호 무시 및 궤적 오류를 크게 줄이는 시각-언어-행동(Vision-Language-Action) 주행 정책을 위한 새로운 학습 목적 함수이다.

원저자: Bala Murali Manoghar Sai Sudhakar, Sourab Bapu Sridhar, Sandipan Das, Rahul Ahuja, Meda Lazar, Ashish Garg, Pratik Likhar, Senthil Yogamani

게시일 2026-09-01

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Bala Murali Manoghar Sai Sudhakar, Sourab Bapu Sridhar, Sandipan Das, Rahul Ahuja, Meda Lazar, Ashish Garg, Pratik Likhar, Senthil Yogamani

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

도시에서 자동차를 운전하는 것은 매끄럽고 예측 가능한 움직임과 갑작스럽고 결정적인 정지 사이의 끊임없는 협상입니다. 대부분의 경우, 차량은 고속도로를 순항하거나 교통 흐름 사이를 부드럽게 헤치며 일정한 속도를 유지합니다. 이러한 일상적인 주행이 자동차가 도로 위에서 보내는 시간의 대부분을 차지합니다. 그러나 운전자의 기술과 안전을 진정으로 시험하는 순간은 드문 예외적인 상황들입니다. 보행자가 갑자기 튀어나올 때의 급브레이크, 신호등에서의 갑작스러운 출발, 또는 적신호에서의 주의 깊은 정지 같은 것들입니다. 엔지니어들이 컴퓨터에게 수천 시간의 기록된 인간 운전 데이터를 보여주며 자율주행을 가르칠 때, 컴퓨터는 주로 쉽고 지루한 부분들을 보게 됩니다. 컴퓨터는 순항하는 법은 잘 배우지만, 데이터에 너무 드물게 등장하기 때문에 희귀하고 위험도가 높은 기동에는 종종 어려움을 겪습니다. 이러한 불균형은 컴퓨터가 충분히 강하게 브레이크를 밟지 못하거나 다시 출발하는 것을 주저하게 만드는 사각지대를 만들어, 교차로에서 안전하지 않은 행동으로 이어질 수 있습니다.

Qualcomm과 Arriver의 연구진은 시각-언어-행동(Vision-Language-Action) 모델로 알려진 새로운 접근 방식을 통해 자율주행 소프트웨어의 이러한 특정 약점을 해결하는 방법을 개발했습니다. 이 시스템들은 시각적 세계를 이해하고, 교통 규칙을 해석하며, 자동차를 어떻게 움직일지 결정하도록 설계되었습니다. Bala Murali Manoghar Sai Sudhakar와 동료들이 이끄는 팀은 단순히 컴퓨터에게 더 많은 주행 데이터를 보여주는 것만으로는 충분하지 않다는 것을 깨달았습니다. 대신, 그들은 컴퓨터가 희귀하고 어려운 순간들에 특별히 더 집중하도록 강제하는 동시에, 교통 신호와 정지선을 명시적으로 인식하도록 가르치는 훈련 방법을 만들었습니다. 그들은 이 시스템을 RedLight-VLA라고 부릅니다. 컴퓨터가 실수로부터 배우는 방식을 조정하고 교통 신호를 "읽는" 전용 방식을 부여함으로써, 그들은 별도의 수동 라벨링 없이도 차량이 적신호에 훨씬 더 잘 멈추고 녹색 신호에 출발할 수 있도록 만들었습니다.

연구진이 다룬 핵심 문제는 표준적인 훈련이 모든 주행 영상의 매 초를 동일하게 취급한다는 점입니다. 일반적인 데이터셋에서 자동차는 98%의 시간 동안 순항하고 단 2%의 시간 동안만 급브레이크를 밟을 수 있습니다. 만약 컴퓨터가 이 모든 초에 걸쳐 평균 오차를 최소화하도록 훈련된다면, 희귀한 제동 이벤트는 수천 초의 부드러운 주행에 묻혀버리게 됩니다. 컴퓨터는 평균적인 경우에는 잘하도록 학습하지만, 결정적인 엣지 케이스(edge cases)에서는 실패하게 됩니다. 이를 해결하기 위해 팀은 '행동 재가중치(behavioral reweighting)'라고 불리는 기술을 도입했습니다. 마치 어려운 수학 문제 하나를 맞히는 것이 쉬운 문제 열 개를 맞히는 것만큼의 점수를 받도록 결정하는 선생님이 학생의 숙제를 채점하는 상황을 상상해 보십시오. 이와 마찬가지로, 연구진은 시스템이 희귀한 급브레이크나 급가속 순간에 훨씬 더 높은 중요성을 부여하도록 프로그래밍했습니다. 컴퓨터가 이러한 결정적인 순간에 실수를 할 때, 시스템은 스스로를 수정하려는 훨씬 더 강력한 "압박"을 느끼게 됩니다. 이 조정은 기록된 전문가 운전자의 속도와 가속도를 분석함으로써 자동으로 수행되므로, 사람이 일일이 어떤 클립이 중요한지 표시할 필요가 없습니다.

그들의 솔루션 중 두 번째 부분은 다른 문제를 다룹니다. 즉, 컴퓨터는 왜 멈춰야 하는지를 알아야 한다는 것입니다. 많은 현재 시스템에서 정지 결정은 자동차가 따라가려는 경로의 부산물일 뿐입니다. 연구진은 컴퓨터가 교통 신호의 상태와 정지선의 위치를 명시적으로 이해하기를 원했습니다. 그들은 컴퓨터가 이 정보를 담기 위해 메모리에 몇 개의 특정 내부 "슬롯(slots)"을 확보하는 시스템을 만들었습니다. 컴퓨터가 카메라 이미지와 지도를 살펴본 후, "적신호가 있는가?" 또는 "정지선까지의 거리는 얼마인가?"와 같은 질문에 대한 답으로 이 슬롯들을 채웁니다. 그러면 시스템의 별도 소규모 부분이 알려진 교통 규칙에 근거하여 이 슬롯 안의 답이 맞는지 확인합니다. 이는 컴퓨터가 단순히 자동차의 경로를 추측하는 것을 넘어, 교통 규칙에 대한 명확한 내부 표현을 구축하도록 강제합니다. 결정적으로, 이 과정은 컴퓨터가 자신의 추론을 설명하기 위해 말하거나 글을 쓸 필요 없이 빠르고 효율적으로 진행됩니다.

연구진이 대규모 실제 주행 기록을 통해 이 결합된 접근 방식을 테스트했을 때, 결과는 안전에 직결되는 행동에서 명확한 개선을 보여주었습니다. 희귀한 기동에 대한 추가적인 주의와 명시적인 규칙 검사를 모두 사용한 시스템은 적신호에서 정지선을 초과하는 횟수를 7.3%에서 6.8%로 줄였습니다. 또한 정지선에 접근할 때의 차량 속도 오차를 거의 13% 줄였습니다. 아마도 가장 중요한 점은, 이 시스템이 전반적으로 자동차의 미래 경로를 예측하는 능력이 향ward되어, 자동차가 예측한 위치와 실제로 있어야 할 위치 사이의 평균 거리를 줄였다는 것입니다. 그러나 연구진은 트레이드오프(trade-off)도 언급했습니다. 적신호에서의 안전을 높이려는 노력으로 인해, 시스템이 다소 신중해져서 녹색 신호에서 불필요하게 멈추는 횟수가 약간 증가했습니다. 결합된 방법이 단일 기술을 사용할 때보다 이러한 트레이드오프를 더 잘 관리하기는 했지만, 이는 시스템을 더 안전하게 만드는 것이 종종 서로 다른 유형의 오류 사이에서 균형을 잡는 과정임을 보여주었습니다.

이 연구는 자율주행 자동차를 더 신뢰할 수 있게 만드는 방법이 단순히 더 많은 데이터를 입력하는 것이 아니라, 흔하고 안전한 순간보다 희귀하고 위험한 순간의 가치를 더 높게 평가하도록 가르치는 데 있음을 입증합니다. 운전자가 급브레이크를 밟거나 출발하는 순간을 자동으로 식별하고, 교통 신호를 명시적으로 추적하도록 강제함으로써, 연구진은 도로의 규칙을 이해하는 인간처럼 행동하는 모델을 만들었습니다. 이 작업은 자율주행의 미래가 단순히 데이터를 쌓는 것이 아니라, 경험의 가장자리(edges)로부터 배우는 방식을 정교화하여 가장 중요한 순간들을 가장 잘 배울 수 있도록 보장하는 데 있다는 것을 시사합니다. 이 접근 방식은 새로운 센서나 교통 규칙에 대한 수동 라벨링을 요구하지 않으므로, 도시 주행의 예측 불가능한 특성을 처리할 수 있는 더 안전하고 견고한 자율주행 차량을 향한 실질적인 단계가 됩니다.

기술 요약: RedLight-VLA

문제 정의

행동 복제(Behavior-cloning) 기반의 시각-언어-행동(Vision-Language-Action, VLA) 주행 정책은 신호 교차로에서의 희귀하고 안전에 직결되는 기동을 처리하는 데 구조적 약점을 가집니다. 모방 학습(Imitation learning)은 일반적이고 속도가 거의 일정한 차선 유지에는 잘 확장되지만, "롱 테일(long tail)" 영역인 제어된 정지(lead vehicle 뒤에서의 정지), 녹색 신호 시 정지 상태에서의 출발, 그리고 끼어들기에 따른 제동과 같은 행동에는 어려움을 겪습니다.

두 가지 주요 한계점이 이러한 실패를 유발합니다:

희귀 역학(Rare Kinematics): 표준적인 평균 감소 회귀 목적 함수(mean-reduced regression objectives) 하에서는 희귀한 이벤트(예: 전체 프레임의 약 2%를 차지하는 급제동)가 그래디언트에 미치는 영향이 미미합니다. 이는 비대칭적 실패 모드로 이어집니다: 즉, 감속이 더딘 현상(under-braking)과 "정지는 잘 하지만 다시 출발하지 못하는" 문제(출발 시의 전환 과정을 과소적합하는 현상)가 발생합니다.
규칙 감독의 부재(Lack of Rule Supervision): 궤적(trajectory) 감독만으로는 교통 신호 또는 정지선 상태를 명시적으로 식별할 수 없습니다. 이러한 상태를 텍스트로 표현하는 것은 규칙 그라운딩(rule grounding)을 토크나이저 의존적인 자기회귀 디코딩(autoregressive decoding)에 결합시키는데, 이는 비효율적이며 제어를 위해 반드시 필요한 것도 아닙니다.

본 논문은 이러한 문제를 해결하기 위한 필수 신호들이 이미 트레이닝 스택(전문가 미래 궤적 및 인지 출력값) 내에 존재하며, 추가적인 수동 규칙 주석(manual rule annotation)이나 배포 시의 언어 생성 없이도 이를 활용할 수 있다고 주장합니다.

방법론: RedLight-VLA

제안된 프레임워크는 표준 VLA 궤적 예측기에 두 개의 분리된 손실 계층 메커니즘(loss-layer mechanisms)을 도입합니다. 네트워크 아키텍처(비전 인코더, LLM 백본, 액션 디코더)는 변경되지 않으며, 수정 사항은 엄격하게 학습 목적 함수(training objective)에만 적용됩니다.

1. 궤적 유도 행동 재가중치 부여 (Behavioral Reweighting, BR)

이 메커니즘은 희귀한 제동 또는 출발 기동을 포함하는 샘플에 더 높은 가중치를 할당함으로써 역학 데이터의 불균형을 해결합니다.

역학 추출 (Dynamics Extraction): 이 방법은 전문가의 실제 미래 궤적으로부터 종방향 역학(속도 $s$ 및 가속도 $a$ )을 직접 계산합니다.
트리거 로직 (Trigger Logic): 두 가지 복합 가중치 계산기(weighter)가 정의됩니다:
- 감속 가중치 계산기 (Deceleration Weighter, DCCL): 지속적인 감속( $<-1.5 m/s^2$ ), 급제동( $<-3.0 m/s^2$ ), 또는 상당한 속도 감소( $>30\%$ 속도 감소) 시 트리거됩니다.
- 가속 가중치 계산기 (Acceleration Weighter, ACCL): 정지 상태에서의 출발, 급가속( $>2.5 m/s^2$ ), 또는 상당한 속도 증가 시 트리거됩니다.
스케일 보존 감소 (Scale-Preserving Reduction): 재가중치가 의도하지 않은 학습률 증가로 작용하는 것을 방지하기 위해, 가중치는 유효한 배치 요소들의 평균이 1이 되도록 정규화됩니다. 이는 이 메커니즘을 비활성화했을 때 베이스라인 목적 함수와 정확히 일치하도록 보장합니다.

2. 보조 규칙 토큰 감독 (Auxiliary Rule-Token Supervision, AUX)

이 메커니즘은 궤적 디코더를 수정하거나 자기회귀적 언어 생성을 사용하지 않고도, 융합된 VLA 표현이 교통 규칙 상태를 명시적으로 인코딩하도록 강제합니다.

예약된 토큰 (Reserved Tokens): 모델은 언어 모델 융합 전, "토큰 버스(token bus, 입력 시퀀스)"에 학습된 플레이스홀더 토큰을 추가합니다.
병렬 헤드 (Parallel Heads): LLM이 시퀀스를 융합한 후, 이 예약된 슬롯의 은닉 상태(hidden states)는 경량 MLP 헤드에 의해 읽힙니다.
- 교통 신호 헤드 (Traffic-Light Head): 자차 관련 교통 신호의 존재 여부와 색상(빨강/초록)을 예측합니다.
- 정지선 헤드 (Stop-Line Head): 가장 가까운 유효한 정지선의 존재 여부, 종방향 거리, 및 방향을 예측합니다.
타겟 (Targets): 감독 타겟은 기존 인지 스택(교통 신호 텐서 및 도로 라인 폴리라인)으로부터 자동으로 생성되므로, 새로운 수동 주석이 필요하지 않습니다.

주요 기여

주석이 필요 없는 프레임워크 (Annotation-Free Framework): 레이블 유도 역학 및 인지 유도 규칙 상태를 추가적인 수동 규칙 주석 없이 손실 계층 메커니즘에 결합하는 방법입니다.
행동 재가중치 부여 (Behavioral Reweighting): 희귀한 종방향 역학(제동/출발)을 강조하면서도, 비활성화 시 베이스라인 목적 함수를 정확히 복구하는 회전 불변(rotation-invariant) 및 스케일 보존 방식의 재가중치 기법입니다.
감독된 규칙 레지스터 (Supervised Rule Registers): 예약된 토큰이 병렬 MLP 헤드를 통해 융합된 표현 내에 교통 신호 및 정지선 상태를 그라운딩하는 새로운 아키텍처로, 언어 디코딩의 오버헤드를 피합니다.
규칙 준수 평가 스 suites (Rule-Compliance Evaluation Suite): 레드라이트 오버슈트(red-light overshoot), 그린라이트 허위 정지(green-light false stops), 정지선 속도 오차를 측정하는 오픈 루프(open-loop) 평가 프레임워크를 제공하여 표준 변위 지표를 보완합니다.

결과

20초 시퀀스와 5초 예측 지평을 가진 큐레이션된 데이터셋에서 평가한 결과, 결합 모델(Full: BR + AUX)은 표준 VLA 베이스라인 대비 다음과 같은 개선을 보였습니다:

규칙 준수 (교통 신호 슬라이스):
- 레드라이트 정지선 오버슈트가 7.3%에서 6.8%로 감소.
- 정지선 속도 오차가 12.7% 감소 (0.816에서 0.712 m/s로).
- 트레이드오프: 그린라이트 허위 정지가 3.2%에서 3.9%로 약간 증가함 (AUX 단독 사용 시의 4.0% 증가보다는 완화됨).
궤적 정확도:
- 교통 신호 슬라이스 기준 3초 평균 변위 오차(ADE)가 0.274 m에서 0.247 m로 개선.
- 3초 최종 변위 오차(FDE)가 0.964 m에서 0.897 m로 개선.
- 비-교통 신호 장면의 ADE/FDE가 0.268/0.956 m에서 0.241/0.876 m로 개선되어, 개선 효과가 규칙 지배 장면 너머로 일반화됨을 보여줌.
절제 연구 및 비교 (Ablation & Comparison):
- 결합 모델은 네 가지 모든 슬라이스 변위 측정치에서 각각의 메커니즘(BR 또는 AUX) 단독 모델보다 우수한 성능을 보였습니다.
- 동일 데이터셋에서 Full 모델은 다른 오픈 소스 VLA 플래너(SimLingo, ORION, Alpamayo-R1)보다 뛰어난 성능을 보였습니다.
- 보조 작업 정확도는 교통 신호 존재 여부 95.3%, 색상 정확도 93.7%로 높게 나타나, 예약된 토큰이 규칙 상태를 성공적으로 인코딩했음을 확인했습니다.

의의 및 주장

본 논문은 RedLight-VLA가 트레이닝 스택 내의 기존 신호를 활용함으로써 "주행 롱 테일" 문제에 대한 실용적인 접근법을 제공한다고 주장합니다. 그 의의는 다음과 같습니다:

표현과 목적 함수의 분리: 핵심 궤적 디코더를 변경하거나 복잡한 자기회귀적 규칙 생성을 요구하지 않고도 안전에 직결된 행동을 개선합니다.
효율성: 추가적인 수동 주석이나 새로운 센서 없이, 인지 결과물과 전문가 궤적 역학에 의존하여 이득을 달ей합니다.
모듈성: 두 가지 메커니즘(재가중치 및 보조 감독)은 독립적으로 켜고 끌 수 있으며, 결합하여 복합적인 이득을 얻을 수 있습니다.

저자들은 핸드캐프트 임계값에 대한 의존성, 횡방향 희귀성 타겟팅의 부재, 그리고 이 방법이 데이터 큐레이션을 대체하는 것이 아니라 보완한다는 점(로그에 없는 행동을 생성할 수는 없음)을 한계점으로 언급했습니다. 또한 평가는 엄격히 오픈 루프 방식으로 이루어졌으며, 그린라이트 허위 정지 증가라는 관찰된 트레이드오프는 향후 규칙 조건부 가중치 부여(rule-conditioned weighting)가 해결할 수 있는 보수적인 편향성을 시사합니다.