Risk-Aware Rulebooks for Multi-Objective Trajectory Evaluation under Uncertainty

Each language version is independently generated for its own context, not a direct translation.

🚗 핵심 비유: "불확실한 날씨 속의 운전사"

상상해 보세요. 당신은 자율주행차의 AI 입니다. 앞에는 보행자가 있고, 당신은 길을 가야 합니다. 하지만 문제는 보행자가 갑자기 뛰어들지 않을지, 아니면 그냥 걷기만 할지 알 수 없다는 점입니다.

기존의 방법들은 "보행자가 뛰어들 확률이 1% 라면, 그냥 무시하고 가자" 혹은 "1% 라도 위험하니까 무조건 멈추자"처럼 이분법적으로 접근하거나, 모든 규칙을 하나로 합쳐서 복잡하게 계산했습니다.

이 논문은 **"규칙장 (Rulebook)"**이라는 새로운 지도를 제안합니다. 이 지도는 단순히 '규칙'을 나열하는 게 아니라, 각 규칙의 중요도와 위험의 정도를 정교하게 다룹니다.

📜 1. 규칙장 (Rulebook): "우선순위 카드"

이 시스템은 여러 가지 규칙을 가지고 있습니다. 예를 들어:

사람을 치지 마라 (가장 중요 ⭐⭐⭐)
차선에서 벗어나지 마라 (중요 ⭐⭐)
승객이 편안하게 타게 하라 (보통 ⭐)
빨리 가라 (보통 ⭐)

기존 방식은 이 모든 규칙을 섞어서 점수를 매겼다면, 이 논문은 **"규칙들 사이의 우선순위"**를 명확히 합니다.

"사람을 치는 것"은 "차선을 살짝 벗어나는 것"보다 훨씬 나쁜 일입니다.
하지만 "승객이 불편한 것"과 "차선을 살짝 벗어나는 것"은 비교할 수 없는 (Incomparable) 다른 차원의 문제일 수 있습니다.

이러한 복잡한 관계를 우선순위 카드처럼 정리해서, 어떤 규칙을 위반하더라도 더 중요한 규칙을 지키는 방향으로 결정을 내립니다.

🎲 2. 위험 인식 (Risk-Aware): "날씨 예보와 우산"

여기서 핵심은 **'불확실성'**입니다. 보행자가 뛰어들지 않을지 알 수 없죠.

기존 방식: "보행자가 뛰어들지 않을 거야 (100% 확신)"라고 가정하고 계획합니다. (실제론 위험할 수 있음)
이 논문의 방식: "보행자가 뛰어들 확률이 0.1% 일 수도 있고, 1% 일 수도 있어. 그 모든 가능성을 고려해서 계획을 세운다."

이를 위해 위험 측정 도구를 사용합니다.

평균 (Expectation): "보통은 괜찮겠지?" (평균적인 상황)
최악의 경우 (Worst-case): "만약 보행자가 갑자기 뛰어들면? 그 최악의 상황을 대비해."
꼬리 위험 (Tail-risk): "거의 일어나지 않지만, 한 번 일어나면 끔찍한 재앙이 되는 상황 (예: 100 년에 한 번 있는 큰 사고) 을 얼마나 잘 감당할까?"

이론은 이 모든 위험 측정 방식을 하나의 시스템에 통합합니다. 운전자가 "우산은 챙겨야 하지만, 비가 올 확률이 1% 라면 우산을 들고 다니는 게 불편하니까..."라고 고민할 때, 어떤 위험을 감수하고 어떤 불편함을 견딜지를 수학적으로 계산해 줍니다.

⚖️ 3. 합리적인 타협 (Rational Tradeoff): "왜 이 길을 선택했을까?"

가장 중요한 점은 결정의 이유를 설명할 수 있다는 것입니다.

예를 들어, 자율주행차가 갑자기 급정거를 했다고 가정해 봅시다.

질문: "왜 급정거를 했어? 승객이 멀미할 텐데."
이 논문의 답변: "승객이 멀미할 위험 (규칙 4) 은 감수했지만, 보행자가 튀어나올 최악의 경우를 대비하지 않으면 **사람을 칠 위험 (규칙 1)**이 생기기 때문입니다. 사람을 치는 것보다 멀미하는 게 훨씬 낫습니다."

이처럼, 어떤 규칙을 희생해서 어떤 규칙을 지켰는지가 명확하게 드러납니다. 이를 통해 "왜 이 길로 갔는지"를 인간이 이해할 수 있게 설명 (Explainability) 할 수 있습니다.

🧩 4. 실제 예시 (자율주행차와 보행자)

논문에서는 실제 시나리오를 들어 설명합니다.

상황: 보행자가 길가에 있습니다.
선택지:
1. 속도 유지: 보행자가 뛰어들면 사고 (위험 높음).
2. 서서히 감속: 보행자가 뛰어들면 사고 위험은 줄지만, 차선 이탈이나 승객 불편함 발생.
3. 급정거: 사고는 100% 피하지만, 승객이 크게 놀람 (불편함 극대화).
4. 차선 변경: 보행자가 뛰어들어도 피할 수 있지만, 차선 이탈 (규칙 위반).

이 시스템은 **사용자가 설정한 '위험 허용 수준'**에 따라 답이 달라집니다.

"사고 확률 0.1% 라도 싫어!"라고 설정하면 -> 급정거를 선택합니다.
"사고 확률 1% 까지는 괜찮아. 승객 편안함이 중요해."라고 설정하면 -> 서서히 감속하거나 속도 유지를 선택합니다.

💡 결론: 왜 이 논문이 중요한가?

이 논문은 "완벽한 안전"과 "완벽한 효율" 사이에서 고민하는 자율주행차에게, "어떤 위험을 감수하고 무엇을 선택할지"에 대한 논리적인 지도를 줍니다.

불확실성을 인정합니다: 세상은 예측할 수 없으니, 모든 가능성을 고려합니다.
우선순위를 명확히 합니다: "사람의 생명 > 편안함 > 속도"처럼 규칙의 중요도를 정합니다.
설명이 가능합니다: "왜 이 결정을 내렸는지"를 규칙과 위험 분석을 통해 투명하게 보여줍니다.

마치 현명한 운전사가 비가 올지 모를 날에, "비가 오면 차가 미끄러질 수 있으니 (위험), 조금만 더 천천히 가자 (타협)"라고 생각하며 운전하는 것과 같은 원리입니다. 이 논문은 그 '생각의 과정'을 수학적으로 증명하고, AI 가 그 과정을 따라 하도록 돕는 것입니다.

Each language version is independently generated for its own context, not a direct translation.

1. 문제 정의 (Problem Statement)

안전이 중요한 자율 시스템 (예: 자율주행차) 은 충돌 회피, 교통법규 준수, 지역 운전 규범 따르기 등 여러 안전 요구사항을 충족해야 하는 동시에, 이동 시간 최소화, 승객 편안함 극대화 등 다양한 목적을 최적화해야 합니다. 그러나 이러한 요구사항과 목적은 종종 상충되며, 때로는 모든 안전 요구사항을 동시에 만족하는 것이 불가능한 상황 (예: 고속도로에서 제한속도 준수 vs 교통 흐름 적응) 이 발생합니다.

기존의 접근 방식들은 다음과 같은 한계가 있었습니다:

불확실성 처리의 부재: 대부분의 기존 방법 (Temporal Logic 등) 은 환경을 외부 잡음으로 간주하거나, 실행 후 결과만 평가하는 사후 평가 (retrospective evaluation) 에 그쳤습니다.
요구사항 간 관계의 단순화: 모든 요구사항을 단일 공식으로 통합하거나, 단순한 총선순위 (total preorder) 를 부여하여 복잡한 계층적 우선순위나 비교 불가능한 관계 (non-comparability) 를 제대로 반영하지 못했습니다.
환경 상호작용의 간과: 시스템의 궤적이 환경 (예: 보행자, 다른 차량) 의 반응을 어떻게 변화시키는지에 대한 인과관계를 명시적으로 모델링하지 못했습니다.

이 논문은 불확실한 환경 상호작용 하에서 시스템 궤적을 사전에 평가하고 비교할 수 있는 위험 인식 (Risk-Aware) 형식적 체계를 필요로 합니다.

2. 방법론 (Methodology)

저자는 기존 'Rulebook(규칙집)' 형식주의를 확장하여 불확실성 하의 위험을 정량화하고 평가하는 새로운 프레임워크를 제안했습니다.

A. 위험 인식 규칙 (Risk-Aware Rules)

시스템 - 환경 상호작용 모델링: 시스템 궤적 ( $\tau$ ) 이 환경의 반응 분포 ( $E_\tau$ ) 에 영향을 미친다고 가정합니다. 즉, 시스템의 행동이 환경 시나리오 ( $\omega$ ) 의 확률 분포를 변경합니다.
확률적 위반 측정: 각 규칙 $r$ 은 시스템 궤적 $\tau$ 에 대해 확률 변수 $r_\tau(\omega)$ 를 유도합니다. 이는 환경 불확실성 하에서의 규칙 위반 정도를 나타냅니다.
위험 측정치 (Risk Measure) 적용: 각 규칙에 대해 사용자 정의 위험 측정치 ( $\rho_r$ $ρ_{r}$ , 예: 기대값, 최악의 경우, VaR, CVaR) 와 임계값 ( $\gamma_r$ $γ_{r}$ ) 을 적용합니다.
- 위험 인식 규칙 함수: $r_{risk}(\tau) = \max\{\rho_r(r_\tau) - \gamma_r, 0\}$
- 이 값이 0 이면 해당 궤적은 규칙에 대해 '안전 (Safe)'하다고 판단됩니다.

B. 위험 인식 규칙집 (Risk-Aware Rulebook)

규칙의 전순서 (Preorder): 규칙들은 단순한 총선순서가 아닌, 전순서 (Preorder) 관계를 가집니다. 이는 다음과 같은 관계를 허용합니다:
1. 엄격한 우선순위: $r_1 > r_2$ (예: 충돌 회피 > 방향지시등 사용)
2. 비교 불가능성: $r_1$ 과 $r_2$ 가 서로 비교할 수 없음 (예: 재산 안전 vs 동물 안전)
3. 동일 순위: $r_1 \sim r_2$
궤적 간 비교: 위험 인식 규칙집은 시스템 궤적 집합 위에 전순서 관계 ( $\lesssim_{R_{risk}}$ ) 를 유도합니다. 궤적 $\tau$ 가 $\tau'$ 보다 '나쁘지 않다'는 것은, $\tau$ 가 $\tau'$ 보다 더 많이 위반하는 규칙이 있다면, 그보다 더 높은 우선순위를 가진 규칙에서 $\tau'$ 가 더 많이 위반함을 의미합니다.

3. 주요 기여 (Key Contributions)

불확실성 하의 계획 단계 평가 체계: 기존 규칙집이 실행 후 평가에 국한되었던 것과 달리, 환경 시나리오가 완전히 실현되기 전 (계획 단계) 에 확률 분포를 고려하여 후보 궤적을 평가하고 비교할 수 있는 체계를 정립했습니다.
일관된 최적성 (Optimality) 보장: 제안된 위험 인식 규칙집이 시스템 궤적 집합 위에 **전순서 (Preorder)**를 유도함을 수학적으로 증명했습니다. 이는 선호 관계의 순환 (A>B, B>C, C>A) 을 방지하여 '최적 궤적'의 개념이 잘 정의됨을 보장합니다.
합리적 트레이드오프 (Rational Tradeoff) 성질 증명:
- 최적 궤적은 한 규칙에서 엄격하게 개선되더라도, 우선순위가 같거나 더 높은 다른 규칙에서 보상되는 열화를 겪어야 함을 증명했습니다.
- 이는 선택된 궤적이 불확실성 하에서도 투명하고 구조적으로 일관된 타협을 기반으로 함을 의미하며, **설명 가능성 (Explainability)**의 기초를 제공합니다.
안전성과 최적성의 연결: 안전 궤적 (모든 규칙의 위험이 임계값 이하) 은 항상 최적 궤적이며, 안전 궤적이 존재하는 경우 최적 궤적은 반드시 안전 궤적임을 증명했습니다.

4. 결과 및 사례 연구 (Results & Example)

자율주행차와 보행자 상호작용 시나리오를 통해 제안된 프레임워크를 검증했습니다.

상황: 보행자가 있는 횡단보도 근처에서 자율주행차 (AV) 가 주행 중이며, 보행자의 행동 (합리적, 비합리적, AV 의 감속 반응 등) 에 따라 4 가지 환경 시나리오 ( $\omega_1 \sim \omega_4$ ) 가 존재합니다.
후보 궤적:
- $\tau_1$ : 현재 속도 유지 (일반적인 인간 운전 패턴)
- $\tau_2$ : 편안하게 감속
- $\tau_3$ : 급정거 (완전 정지)
- $\tau_4$ : 차선 변경하여 횡단 방지
규칙: 충돌 회피 ( $r_1$ ), 차선 유지 ( $r_2$ ), 교통 흐름 ( $r_3$ ), 승객 편안함 ( $r_4$ ).
분석 결과:
- 위험 측정치 선택의 중요성: 사용하는 위험 측정치 (VaR, CVaR, Worst-case 등) 와 임계값에 따라 최적 궤적이 달라집니다.
  - 예: 충돌 확률을 0.1% 이하로 허용 (VaR) 하면 $\tau_1$ 이 최적일 수 있음.
  - 예: 충돌 위험을 매우 엄격하게 통제 (Worst-case 또는 높은 VaR) 하면 $\tau_3$ 또는 $\tau_4$ 가 최적.
- 설명 가능성: 특정 궤적이 선택된 이유를 규칙 간의 우선순위와 위험 임계값을 통해 명확히 설명할 수 있습니다. (예: "충돌 위험이 임계값을 초과하므로 차선 변경 ( $\tau_4$ ) 이 선택됨")

5. 의의 및 중요성 (Significance)

통합적 프레임워크: 기존의 확률적 시간 논리 (Probabilistic STL), 기회 제약 (Chance Constraints), 위험 인식 제어 등을 하나의 전순서 규칙집 구조로 통합하여 일반화했습니다.
설명 가능한 AI (XAI) 기반: 자율 시스템의 의사결정 과정을 "어떤 규칙이 우선시되었고, 어떤 위험이 허용되었는지"라는 명확한 논리로 설명할 수 있어, 규제 기관 및 대중의 신뢰를 얻는 데 기여합니다.
유연한 위험 관리: 시스템 설계자가 상황 (예: 날씨, 도로 환경, 규제 요구사항) 에 따라 위험 측정치와 임계값을 유연하게 조정하여 다른 최적 궤적을 도출할 수 있게 합니다.
미래 연구 방향: 위험 인식 규칙집과 호환되는 계획, 제어, 검증 알고리즘 개발을 위한 새로운 연구 방향을 제시합니다.

요약하자면, 이 논문은 불확실한 환경에서 자율 시스템이 여러 상충되는 목표를 어떻게 합리적으로 타협하며 안전한 결정을 내릴 수 있는지에 대한 수학적 기반을 마련하고, 그 결정 과정을 투명하게 설명할 수 있는 강력한 도구를 제시했습니다.