💻 computer science

Compositionally Safe Construction of Autonomous Driving Systems

이 논문은 다양한 주행 환경에서 안전성을 수학적으로 보장하는 자율 주행 시스템을 구축하기 위해, 주행 조작을 구성 요소로 나누고 각 구성 요소별 제어 정책을 설계하여 위험 상황을 관리하고 탈출하는 두 단계의 자동 조종 장치를 제안합니다.

원저자: Marius Bozga, Joseph Sifakis

게시일 2026-02-24

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Marius Bozga, Joseph Sifakis

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

이 논문은 **"자율주행차를 어떻게 하면 수학적으로 완벽하게 안전한 상태로 만들 수 있을까?"**라는 거대한 질문에 대한 새로운 해법을 제시합니다.

기존의 두 가지 방식 (AI 가 모든 것을 혼자 해결하는 방식 vs. 전통적인 공학 방식) 이 가진 한계를 극복하기 위해, 저자들은 **"자율주행은 복잡한 미션이 아니라, 작은 블록들을 조립하는 레고 놀이와 같다"**는 아이디어를 제안합니다.

이 복잡한 논문을 일상적인 비유로 쉽게 풀어 설명해 드리겠습니다.

1. 문제 상황: 왜 기존 방식은 부족할까?

현재 자율주행차 개발은 두 가지 극단으로 나뉩니다.

AI(딥러닝) 방식: 인간이 운전하는 것을 보고 학습시켜서, "이런 상황에서는 이렇게 운전해"라고 가르칩니다. 하지만 AI 는 "왜 그렇게 했는지" 설명할 수 없고, 예상치 못한 실수를 할 수 있어 안전을 100% 보장하기 어렵습니다.
전통적 공학 방식: 모든 상황을 미리 수학 공식으로 다 짜두는 방식입니다. 하지만 세상은 너무 복잡하고 변수가 많아, 모든 경우의 수를 다 계산하는 것은 불가능에 가깝습니다.

저자들은 이 두 가지의 중간을 찾았습니다. **"운전은 거창한 지능이 아니라, '합치기', '건너기', '지나가기' 같은 작은 기술 (스킬) 들을 조합하는 것"**이라고 가정합니다.

2. 핵심 아이디어: "운전 블록"과 "안전 구역"

이 논문은 자율주행차를 레고 조립에 비유합니다.

A. 운전 상황은 '블록'으로 나뉜다

차량이 마주치는 모든 복잡한 상황은 크게 세 가지 기본 블록으로 나뉩니다.

도로 주행 (Road): 앞차만 따라가면 되는 평범한 상황.
합류 (Merging): 고속도로 진입이나 차선 변경처럼, 다른 차의 길을 비켜주거나 끼어드는 상황.
교차로 (Crossing): 신호등이나 정지선 앞에서 다른 차와 길을 나누는 상황.

저자들은 "이 세 가지 블록 각각에서 안전하게 운전하는 법만 만들면, 그걸 조합해서 어떤 복잡한 길에서도 안전하게 운전할 수 있다"고 증명했습니다. 마치 레고 블록 하나하나가 튼튼하기만 하면, 어떤 모양이든 튼튼한 성을 지을 수 있는 것과 같습니다.

B. '안전 구역 (Free Space)'이라는 개념

가장 중요한 비유는 **'안전 구역'**입니다.
자율주행차는 자신의 앞쪽과 옆쪽을 '보이는 범위'로 나눕니다. 그리고 "내 차가 멈출 수 있는 거리"만큼의 공간을 자신의 '안전 구역'으로 설정합니다.

규칙: "내 차는 이 안전 구역 안에서만 움직여야 한다."
원리: 만약 앞차가 갑자기 멈추더라도, 내 차는 이미 '멈출 수 있는 거리' 안에 있기 때문에 충돌하지 않습니다.
계약: 이 논문은 각 차량이 자신의 안전 구역만 지키면, 전체 교통 시스템이 자동으로 안전해진다고 말합니다. 마치 모든 사람이 자신의 발걸음 범위 안에서만 춤을 추면, 서로 부딪히지 않고 춤을 출 수 있는 것과 같습니다.

3. 작동 원리: '조심 모드'와 '진행 모드'

각 블록 (상황) 에 따라 차는 두 가지 모드 사이를 오갑니다.

조심 모드 (Caution Phase):
- 앞차나 신호등이 가까워질 때입니다.
- 차는 **"내가 멈출 수 있을까?"**를 계산하며 속도를 줄입니다. 마치 무서운 고릴라가 다가오면 천천히 뒤로 물러서며 눈을 피하는 것처럼 조심스럽게 행동합니다.
- 이때는 절대 무리해서 전진하지 않습니다.
진행 모드 (Progress Phase):
- 안전이 확보되었을 때입니다.
- "이제 갈 수 있어!"라고 판단되면, 차는 앞차나 신호를 피해 빠르게 지나갑니다.
- 전환 조건: "앞차가 멈출 수 있을 만큼 충분히 멀어졌고, 내 차도 멈출 수 있는 상태라면"이라는 수학적 조건이 충족되어야만 조심 모드에서 진행 모드로 바뀝니다.

4. 왜 이 방법이 안전한가? (수학적 증명)

이 논문은 단순히 "안전해 보인다"가 아니라, 수학적으로 증명했습니다.

가정: 모든 차는 자신의 '안전 구역'을 지키고, 교통 규칙을 따릅니다.
증명: 만약 모든 차가 자신의 안전 구역 안에서만 움직인다면, 두 차의 안전 구역이 겹칠 수 없습니다. (겹친다는 것은 이미 충돌 직전이라는 뜻이니까요.)
결론: 따라서, 충돌은 절대 발생하지 않습니다.

이는 마치 각자 자신의 방 (안전 구역) 안에만 있으면, 집안 전체가 안전하다는 것과 같은 논리입니다.

5. 요약 및 의의

이 연구는 자율주행차를 만들기 위해 "AI 가 모든 것을 알아서 하라"거나 "모든 상황을 미리 다 짜두라"는 식의 무리한 시도를 버렸습니다. 대신 다음과 같은 접근을 취했습니다.

운전은 작은 블록들의 조합이다: 복잡한 상황을 '도로', '합류', '교차로' 같은 작은 블록으로 쪼개서 각각 안전하게 만들자.
안전은 '계약'이다: 각 차량은 자신의 '멈출 수 있는 거리'를 지키는 계약을 맺고, 그 안에서만 움직이자.
수학이 지키는 안전: AI 의 블랙박스처럼 예측 불가능한 것이 아니라, 명확한 수학적 규칙 (제동 거리, 가속도 등) 으로 안전을 보장하자.

마무리 비유:
기존의 AI 자율주행은 "천재 운전사에게 모든 상황을 맡기는 것"이라면, 이 논문의 방식은 **"모든 운전자가 '내 차가 멈출 수 있는 거리'라는 규칙을 철저히 지키는 교통 시스템"**을 만드는 것입니다. 이렇게 하면 천재가 아니더라도, 규칙만 지킨다면 누구나 안전하게 운전할 수 있다는 것이 이 논문의 핵심 메시지입니다.

1. 문제 제기 (Problem)

자율주행 시스템 (ADS) 의 개발은 안전성을 보장해야 하는 주요 과학적, 기술적 과제입니다. 현재 존재하는 두 가지 주요 접근 방식은 각각 한계가 있습니다.

AI 기반 엔드 - 투 - 엔드 (End-to-End) 솔루션: 신경망을 사용하여 센서 데이터에서 직접 궤적을 생성하지만, 안전성 보장을 위한 수학적 근거가 부족하고 설명 불가능 (non-explainability) 한 문제가 있습니다.
전통적인 시스템 엔지니어링 (다중 모듈) 접근: 해석 가능성과 검증 가능성은 높으나, 모듈 간의 복잡성으로 인해 결합 오류 (compound errors) 가 발생하거나 정보 손실이 발생할 수 있어 전체 시스템의 안전성을 보장하기 어렵습니다.

이 논문은 이러한 한계를 극복하고, 수학적으로 엄밀하며 안전성이 '구현 단계에서 보장되는 (safe by construction)' 자율주행 시스템을 구축하는 방법을 제안합니다.

2. 방법론 (Methodology)

저자들은 자율주행 능력을 "주어진 일련의 주행 조작 (driving operations) 의 조율된 실행"으로 간주하고, 이를 구성적 (compositional) 안전성을 통해 해결합니다. 핵심 방법론은 다음과 같습니다.

2.1. 기본 가정 및 원칙

국소성 (Locality): 차량은 전역적인 지식이 아닌, 가시성 영역 (visibility zone) 내의 국소적 정보와 교통 규칙에 기반하여 주행합니다.
권리 기반 책임 (Rights-based Responsibility): 각 차량은 교통 규칙에 의해 정의된 '자신의 공간 (free space)' 내에서 안전하게 주행할 책임이 있으며, 모든 차량이 이 공간 내에서 안전하면 전체 시스템은 안전합니다.
구성성 (Compositionality): 복잡한 주행 상황을 몇 가지 기본 '주행 구성 (Driving Configuration)' 유형으로 분해하고, 각 유형에 대한 안전 제어 정책을 설계한 후 이를 조립하여 전체 안전성을 증명합니다.

2.2. 주행 구성 (Driving Configurations)

차량의 센서 데이터와 환경 모델을 기반으로 3 가지 기본 주행 구성 유형으로 분류합니다.

도로 구성 (Road Configurations): 교차로가 없는 구간. 앞차나 속도 제한 신호를 따라가는 상황.
합류 구성 (Merging Configurations): 차량의 경로가 우선권이 있는 도로 (본선) 에 합류하거나 차선 변경을 하는 상황. (예: 합류, 추월)
교차 구성 (Crossing Configurations): 차량의 경로가 다른 차량의 경로와 교차하는 상황. (예: 신호등이 있는 교차로, 정지 표지판이 있는 교차로)

2.3. 제어 정책 및 안전 증명

각 구성 유형에 대해 2 단계 제어 정책을 설계합니다.

주의 단계 (Caution Phase): 위험 상황을 대비하여 속도를 줄이고 정지할 수 있는 상태를 유지합니다.
진행 단계 (Progress Phase): 충돌 위험이 없음을 확인한 후 가속하여 장애물을 통과합니다.

안전성 증명 (Safety Proof):

제어 함수: 차량의 제동 능력 ( $B(v)$ ) 과 가속/감속 제어 능력 ( $C(v, V_L)$ ) 을 정의하여 차량의 동역학을 단순화합니다.
자유 공간 (Free Space): 각 차량이 충돌 없이 주행할 수 있는 최대 거리를 계산합니다. 이는 앞차의 위치, 속도 제한, 그리고 정지 거리를 고려하여 결정됩니다.
Assume-Guarantee 계약: 환경이 특정 조건 (Assume) 을 만족하면, 차량은 안전 조건 (Guarantee) 을 만족함을 보장합니다.
구성성 정리: 각 주행 구성 유형에서 안전성이 보장되고, 구성 간 전환 (transition) 시에도 안전 조건이 유지되면, 임의의 복잡한 시나리오에서도 전체 시스템이 안전함을 수학적으로 증명합니다.

3. 주요 기여 (Key Contributions)

구성적 안전 구축 프레임워크: 복잡한 자율주행 문제를 소규모의 기본 주행 구성으로 분해하고, 각 구성에 대한 안전 제어 정책을 독립적으로 설계 및 검증한 후 조립하는 방법론을 제시했습니다.
수학적 안전성 증명: AI 기반의 확률적 접근이 아닌, 'Assume-Guarantee' 계약과 불변식 (invariant) 을 기반으로 한 엄밀한 수학적 증명을 통해 안전성을 '구현 단계에서' 보장합니다.
실용적인 제어 정책 설계: 복잡한 동역학 모델 대신 차량의 제동 및 가속 특성을 나타내는 간단한 함수 ( $B, C$ ) 를 사용하여 실제 구현이 용이하면서도 안전성이 보장되는 제어 알고리즘을 제안했습니다.
다양한 시나리오 커버리지: 본선 진입, 차선 변경 (추월), 신호등 교차로, 정지 표지판 교차로 등 주요 주행 조작을 모두 포괄하는 정책들을 설계하고 검증했습니다.

4. 결과 (Results)

안전성 보장: 제안된 방법론을 통해 설계된 자율주행 시스템은 초기 상태가 안전하다면, 임의의 시간 단계에서도 충돌이 발생하지 않고 교통 규칙을 준수함을 증명했습니다 (Theorem 1).
효율성: 복잡한 시뮬레이션 없이도 간단한 수학적 함수와 논리적 조건을 통해 안전성을 검증할 수 있어 계산 비용이 낮고 예측 가능성이 높습니다.
구현 가능성: 제어 정책이 단순한 프로그램 (guarded commands) 형태로 표현되어 실제 자율주행 제어기에 직접 적용 가능합니다.

5. 의의 및 중요성 (Significance)

이 논문은 자율주행 시스템의 안전성 확보를 위한 제 3 의 길을 제시합니다.

AI 의 불확실성 극복: 블랙박스인 AI 모델에 의존하지 않고, 수학적 엄밀함을 바탕으로 안전성을 보장합니다.
전통적 방법의 복잡성 해결: 과도하게 단순화된 물리 모델에 의존하지 않고, 실제 주행 상황 (교차로, 합류 등) 을 세분화하여 현실적인 안전 정책을 수립합니다.
미래 지향성: 이 접근법은 자율주행의 검증 및 인증 (V&V) 에 새로운 패러다임을 제시하며, 향후 U-turn, 주차 등 더 복잡한 조작으로 확장 가능하고, 시뮬레이션 및 실제 도로 적용을 위한 강력한 이론적 기반을 제공합니다.

요약하자면, 이 논문은 자율주행 시스템을 '안전한 구성 요소들의 조합'으로 설계함으로써, 수학적 증명을 통해 시스템 전체의 안전성을 보장하는 혁신적인 방법론을 제시했습니다.