Vision and Language: Novel Representations and Artificial intelligence for Driving Scene Safety Assessment and Autonomous Vehicle Planning

이 논문은 자율주행의 안전 평가 및 계획에 비전 - 언어 모델이 어떻게 활용될 수 있는지 세 가지 시나리오를 통해 연구하며, 단순한 특징 주입이 아닌 체계적인 시스템 설계와 구조화된 그라운딩을 통해 의미적 위험과 행동 제약을 효과적으로 표현할 때 비로소 안전성 향상이 가능함을 보여줍니다.

핵심

이 논문은 **"자율주행차가 인간의 눈과 언어를 이해하게 하면, 정말로 더 안전해질까?"**라는 질문을 던지며, 세 가지 다른 실험을 통해 그 답을 찾아냅니다.

간단히 말해, 최근 인공지능이 **이미지 (눈)**와 **말 (언어)**을 동시에 이해하는 능력이 뛰어나졌는데, 이 능력을 자율주행차에 어떻게 적용해야 사고를 막을 수 있는지 연구한 내용입니다.

이 복잡한 내용을 세 가지 비유로 쉽게 설명해 드릴게요.

---

1. 실험 1: "위험 감지기" (눈이 아닌 '느낌'으로 위험을 감지)

비유: "비 오는 날, 우산 없이 다니는 사람"

기존 자율주행차는 "사람", "차", "신호등"처럼 정해진 이름의 물건만 찾아다녔습니다. 하지만 세상은 정해지지 않은 위험 (예: 길에 떨어진 이상한 쓰레기, 갑자기 튀어나온 사슴, 안개) 으로 가득 차 있습니다.

연구진은 CLIP이라는 AI 모델을 이용해, "도로에 위험이 있나?"라는 질문을 이미지와 비교하게 했습니다.

• 결과: AI 는 "안개 낀 날"이나 "동물"이 나올 때 위험을 잘 감지했습니다. 하지만 "작은 쓰레기"나 "깜빡이는 비상등"처럼 작거나 움직이는 위험은 놓치는 경우가 많았습니다.
• 교훈: 이 기술은 완벽한 감지기가 아니라, "아, 뭔가 이상한 것 같다!"라고 미리 경고하는 초인종처럼 쓰는 것이 가장 좋습니다. 모든 것을 다 찾아내려 하지 말고, 큰 위험을 먼저 잡는 '스크리닝' 용도로 쓰면 효과적입니다.

2. 실험 2: "길 찾기 지도" (전체적인 느낌 vs 구체적인 좌표)

비유: "운전사에게 '여기가 위험해'라고만 말하기"

두 번째 실험은 자율주행차가 길을 계획할 때, AI 가 보는 **전체적인 장면의 느낌 (의미)**을 그대로 주입하면 어떨까를 테스트했습니다.

• 상황: 운전사에게 "저기 앞이 위험해"라고만 말하고, 구체적인 차의 위치나 거리, 도로 폭은 말해주지 않는다면 어떨까요?
• 결과: 오히려 운전 실력이 떨어졌습니다. AI 가 "위험하다"는 느낌만 가지고 구체적인 핸들 조작을 하려니, 오히려 길을 잘못 들거나 덜 안전한 길을 선택했습니다.
• 교훈: 자율주행의 '길 찾기 (계획)'에는 **구체적인 숫자와 좌표 (기하학적 정보)**가 가장 중요합니다. "위험하다"는 추상적인 느낌만 주입하면 오히려 혼란을 줍니다. 추상적인 의미는 구체적인 정보와 잘 섞어서, 어떤 부분에서 위험한지 알려줘야 합니다.

3. 실험 3: "동승자의 지시" (사람의 말로 운전 스타일 바꾸기)

비유: "택시 손님의 말"

세 번째 실험은 승객이 운전자에게 직접 말을 걸어 운전 방식을 바꾸는 경우를 시뮬레이션했습니다.

• 상황: "저기 횡단보도 있는 사람 때문에 멈춰줘"라고 승객이 말합니다.
• 결과: 평소에는 지나가도 될 것 같은 모호한 상황에서, 승객의 말 한마디가 치명적인 사고 (사람을 치거나 위험한 곳으로 가는 것) 를 막아주었습니다.
• 교훈: AI 가 스스로 판단하기 어려운 모호한 상황에서, 사람의 언어는 **"안전한 운전 습관"**을 강제하는 강력한 도구가 됩니다. 특히 "멈춰라", "기다려라" 같은 지시는 AI 가 너무 과감하게 운전하는 것을 막아줍니다.

---

🎯 결론: 이 연구가 우리에게 주는 메시지

이 논문의 핵심은 **"AI 가 말을 잘한다고 해서 바로 안전한 운전이 되는 건 아니다"**입니다.

1. 위험 감지: AI 의 언어 능력을 이용해 "뭔가 이상해"라고 경고하는 용도로는 훌륭하지만, 모든 것을 다 찾아내는 감지기로 쓰면 안 됩니다.
2. 운전 계획: AI 가 보는 '전체적인 느낌'을 운전자에게 바로 주입하면 오히려 운전이 나빠집니다. 구체적인 좌표와 거리 정보가 먼저 필요합니다.
3. 인간과의 협력: 사람이 직접 **"여기 조심해"**라고 말하면, AI 는 모호한 상황에서 더 안전하게 운전할 수 있습니다.

한 줄 요약:

자율주행차에 '말'을 가르치는 것은 좋지만, 어디에, 어떻게 그 말을 넣느냐가 중요합니다. 단순히 말을 주입하는 게 아니라, 위험을 미리 알리는 경보로 쓰거나, 사람의 안전 의식을 반영하는 제약 조건으로 쓸 때 가장 효과적입니다.

이 연구는 기술 자체의 발전보다는, 그 기술을 어떻게 자동차 시스템에 안전하게 설계할 것인가에 대한 엔지니어링의 중요성을 강조합니다.

기술 요약

1. 연구 배경 및 문제 정의 (Problem)

자율주행 시스템은 구조화된 환경에서는 뛰어난 성능을 보이지만, 오픈 월드 (Open-world) 조건에서의 안전성 확보는 여전히 큰 과제입니다.

• 기존 접근법의 한계: 전통적인 자율주행 파이프라인은 사전 정의된 객체 클래스 인식, 기하학적/운동학적 기반 예측, 명시적 제약 조건 하의 계획에 의존합니다. 이는 정형화된 상황에서는 잘 작동하지만, 모호성 (ambiguity), 새로운 상황 (novelty), 인간의 의도 (intent) 가 개입되는 안전 임계 상황 (edge cases) 에서는 취약합니다.
• VLM 의 잠재력과 도전 과제: CLIP 과 같은 시각 - 언어 모델은 시각적 관찰과 자연어 개념을 정렬하여 "위험", "차단된 도로", "양보 상황"과 같은 추상적 개념을 이해할 수 있습니다. 그러나 이러한 전역적 (global) 이고 추상적인 의미론적 표현을 기하학적 정밀도가 요구되는 하위 수준의 궤적 계획 (trajectory planning) 에 직접 주입할 때, 오히려 성능이 저하되거나 안전성이 해칠 수 있다는 엔지니어링적 의문이 제기됩니다.

2. 방법론 (Methodology)

저자들은 VLM 의 역할을 검증하기 위해 세 가지 상보적인 시스템 사례 연구를 수행했습니다.

1) 개방형 어휘 위험 스크리닝 (Open-Vocabulary Hazard Screening)

• 목표: 명시적인 객체 탐지나 시각적 질문 답변 (VQA) 없이도 다양한 분포 외 (out-of-distribution) 위험을 저지연으로 감지.
• 방식:
  • CLIP 기반 이미지 - 텍스트 유사도를 활용합니다.
  • 차량 전방 카메라 프레임과 "도로 위의 위험 (hazard on the road)", "동물 (animal)", "보행자 (pedestrian)" 등의 프롬프트를 입력받아 유사도 점수를 계산합니다.
  • 부정 프롬프트 (Negative prompt) (예: "정상 주행 장면") 와의 마진 (margin) 을 계산하여 위험 확신 신호로 사용합니다.
  • COOOL 벤치마크 (예상치 못한 도로 위험이 포함된 200 개 비디오) 와 일반 주행 영상을 사용하여 평가했습니다.
  • 평가 지표: 시간적 교차율 (temporal Intersection-over-Union, tIoU) 을 기반으로 최적의 임계값을 탐색했습니다.

2) 궤적 계획용 전역 시각 - 언어 임베딩 통합 (Global Representation Learning)

• 목표: 전역적 의미론적 표현이 궤적 계획 성능에 미치는 영향 분석.
• 방식:
  • Waymo End-to-End Driving Dataset을 기반으로 한 Motion Transformer (MTR) 프레임워크를 사용했습니다.
  • 기존 MTR 모델 (카메라 이미지, 과거 운동 이력, 의도 입력) 에 CLIP 및 DINOv2에서 추출한 장면 수준의 임베딩을 추가하여 계획 쿼리 (planning query) 를 보강했습니다.
  • 기하학적 정보와 고수준 의미론적 정보가 어떻게 상호작용하는지 분석했습니다.

3) 자연어 기반 행동 제약 (Natural Language as a Behavioral Constraint)

• 목표: 승객의 지시 (instruction) 를 명시적 행동 제약으로 활용하여 계획 결정 유도.
• 방식:
  • doScenes 데이터셋 (nuScenes 에 승객 지시문을 추가한 데이터) 과 OpenEMMA (Waymo EMMA 기반 오픈소스 계획 프레임워크) 를 결합했습니다.
  • 모델 입력에 승객 지시문 (예: "저 사람 옆에 멈춰") 을 주입하여, 시각 정보만 있는 베이스라인과 비교했습니다.
  • 모델은 승객의 요청을 따르되, 안전하지 않은 경우 이를 무시하고 안전한 대안을 선택하도록 프롬프트를 설계했습니다.

3. 주요 결과 (Key Results)

1) 위험 스크리닝 결과

• 성능: "저시야 (Low visibility)" 및 "동물 (Animal)" 프롬프트가 가장 높은 성능 (Global tIoU: 0.765, 0.657) 을 보였습니다. 반면, "도로 잔해 (Road debris)"나 "긴급 상황 (Emergency scene)"은 성능이 낮았습니다.
  • 이유: 저시야나 동물은 장면 전체에 영향을 주거나 명확한 특징을 가지나, 잔해는 작고 국소적이며, 긴급 상황은 시간적 맥락 (깜빡이는 불빛 등) 이 필요하여 단일 프레임 기반 CLIP 은 한계가 있었습니다.
• 융합 전략: 단일 "위험" 프롬프트만 사용하는 것보다, **범주별 프롬프트 (Category prompts)**를 독립적으로 평가하거나, "일반 위험" 프롬프트와 하나 이상의 범주 프롬프트가 모두 임계값을 넘을 때만 경보를 발령하는 이중 위험 (Dual-Hazard) 전략이 오탐 (False Positive) 을 줄이는 데 효과적이었습니다.

2) 궤적 계획 통합 결과

• 부정적 결과: CLIP 및 DINOv2 임베딩을 계획 모델에 직접 주입한 경우, 베이스라인 모델 (MTR-VP) 대비 궤적 정확도 (ADE) 와 인간 평가 점수 (RFS) 가 모두 저하되었습니다.
• 원인: 전역적 의미론적 임베딩은 공간적 위치나 기하학적 관계를 명시적으로 보존하지 못합니다. 이를 계획기에 직접 주입하면 오히려 노이즈가 되어 안전한 궤적 생성을 방해합니다. 이는 의미론적 표현이 자동으로 제어 기능으로 전환되지 않음을 시사합니다.

3) 언어 기반 행동 제약 결과

• 성공: 승객 지시문을 활용한 계획은 **치명적인 실패 사례 (Catastrophic failures)**를 억제하는 데 효과적이었습니다.
  • 시각-only 베이스라인에서는 주행 가능 영역을 벗어났거나 정지해야 할 상황에서 계속 전진하는 등 극단적인 오류가 발생했으나, 언어 지시문이 이를 교정했습니다.
  • 평균 ADE 감소: 이상치 (outliers) 를 제거한 후에도 평균 ADE 가 5.1% 감소했습니다.
• 지시문의 중요성: 구체적인 장면 요소 (보행자, 횡단보도 등) 를 언급한 명확한 지시문이 성능 향상에 기여했으며, 모호한 지시문은 오히려 성능을 저하시켰습니다.

4. 주요 기여 및 시사점 (Contributions & Significance)

1. 엔지니어링 문제로서의 통합: VLM 을 자율주행에 통합하는 것은 단순히 모델을 추가하는 것이 아니라, **표현의 범위 (scope), 그라운딩 (grounding), 작업 정렬 (task alignment)**을 고려한 신중한 시스템 설계가 필요함을 강조합니다.
2. 역할의 명확화:
   • 위험 감지: VLM 은 객체 탐지기를 대체하기보다, **저지연 의미론적 위험 신호 (Semantic risk signal)**를 제공하는 '스크리닝 레이어'로 활용하는 것이 효과적입니다.
   • 계획 (Planning): 전역 임베딩을 직접 주입하는 것은 비효율적일 수 있으며, 의미론적 정보는 **중간 표현 (intermediate representations)**이나 **구조화된 제약 (structured constraints)**으로 변환되어야 합니다.
   • 상호작용: 자연어는 명시적 행동 제약으로 작용하여 모호한 상황에서 안전 정렬된 행동을 유도하고 치명적 오류를 방지할 수 있습니다.
3. 안전 중심의 설계 원칙: VLM 은 인간의 의도와 맥락을 이해하는 강력한 기반이 되지만, 이를 안전에 기여하게 하려면 신뢰 영역 (Trust boundary), 안전 중재 (Safety arbitration), 그리고 지시문의 불확실성 처리 메커니즘이 필수적입니다.

5. 결론

이 연구는 시각 - 언어 표현이 자율주행의 안전성을 높일 수 있는 잠재력을 보여주지만, 그 실현 여부는 어떻게 통합하느냐에 달려 있음을 증명했습니다. 의미론적 위험, 의도, 행동 제약을 표현하는 도구로서 VLM 을 활용하는 것은 유망하지만, 이를 기하학적 계획과 통합할 때는 단순한 특징 주입이 아닌, 구조화된 그라운딩과 엔지니어링적 설계가 필수적입니다. 이는 오픈 월드 환경에서 자율주행이 안전하고 인간과 조화롭게 작동하기 위한 핵심 과제를 제시합니다.