Safe Probabilistic Planning for Human-Robot Interaction using Conformal Risk Control

이 논문은 제어 장벽 함수 (CBF) 와 순응적 위험 제어 (Conformal Risk Control) 를 결합하여 인간 행동의 복잡성을 고려하면서도 충돌 위험을 통계적으로 보장하는 새로운 확률적 안전 제어 프레임워크를 제안하고, 이를 통해 인간 - 로봇 상호작용 시 충돌률을 크게 낮추면서도 목표 도달 성공률을 유지하는 것을 입증합니다.

핵심

🤖 로봇과 사람의 '춤'을 위한 새로운 규칙

상상해 보세요. 로봇이 사람들과 좁은 복도나 거리를 함께 이동해야 합니다. 여기서 로봇은 두 가지 딜레마에 직면합니다.

1. 너무 무서워하면 (과도한 안전): 로봇이 "사람이 어디로 갈지 모르니까!"라고 생각하며 너무 멀리서 빙빙 돌거나 멈춰 서면, 목적지에 늦게 도착하거나 사람 흐름을 막게 됩니다. (효율성 저하)
2. 너무 담대하면 (안전 부족): 로봇이 "아마 저쪽으로 가겠지?"라고 추측만 하고 지나가다가, 사람이 갑자기 방향을 틀면 부딪힐 수 있습니다. (위험)

기존의 방법들은 보통 "사람은 항상 예측 불가능하니까, 최악의 경우를 가정해서 아주 멀리서 움직여라"라고 가르쳤습니다. 하지만 이 방법은 로봇을 너무 비효율적으로 만들었습니다.

이 논문은 **"상황을 보고 적당히 겁을 내거나, 담대하게 행동하는 지능형 안전 필터"**를 개발했습니다.

🛡️ 핵심 기술: "예측 오차 보험" (Conformal Risk Control)

이 논문이 제안한 방법은 **'Conformal Risk Control (CRC)'**이라는 통계학적 도구를 사용합니다. 이를 쉽게 비유하자면 다음과 같습니다.

1. 로봇의 "눈"과 "안전 장벽"

로봇은 사람의 움직임을 예측하는 AI 모델을 가지고 있습니다. 하지만 이 예측은 100% 정확하지 않습니다.

• 기존 방식: "예측이 틀릴 수도 있으니, 사람과 5 미터는 떨어져 있어라." (일괄 적용)
• 이 논문의 방식: "지금 상황이 얼마나 불확실한지 계산해서, 안전 거리를 동적으로 조절해라."

2. "안전 마진 (Safety Margin)"이라는 조절 다이얼

이 시스템에는 **'안전 마진 (λ)'**이라는 조절 다이얼이 있습니다.

• 사람의 행동이 예측하기 어려운 상황 (예: 사람이 갑자기 멈추거나 방향을 틀 것 같을 때): 다이얼을 높여서 안전 거리를 넓힙니다. 로봇은 "조심해, 위험해!"라고 생각하며 더 멀리서 기다립니다.
• 사람의 행동이 명확한 상황 (예: 사람이 일직선으로 걸어가고 있을 때): 다이얼을 낮춰서 안전 거리를 좁힙니다. 로봇은 "괜찮아, 지나가도 돼!"라고 생각하며 더 효율적으로 움직입니다.

이 다이얼을 어떻게 조절할지 결정하는 것이 바로 CRC입니다. CRC 는 과거 데이터를 학습하여 "지금 이 상황에서는 예측이 얼마나 틀릴 확률이 있는가?"를 계산하고, 그 확률에 맞춰 안전 거리를 자동으로 조절합니다.

🎮 실제 실험 결과: "겁쟁이" vs "무모한 자" vs "현명한 자"

저자들은 실제 사람들과의 시뮬레이션 실험을 통해 이 방법을 검증했습니다.

• 기존 로봇 (CBF-QP): 예측을 안 하고 그냥 지나가려다 부딪히는 경우가 많았습니다. (38.8% 충돌)
• 과도한 안전 로봇 (Fixed CRC): 무조건 너무 멀리서 돌아다녀서 목적지에 거의 도착하지 못했습니다. (효율성 31.6%)
• 이 논문의 로봇 (Online CRC-SF):
  • 충돌률: 3.0% 로 매우 낮았습니다. (안전함)
  • 목적지 도달률: 84.8% 로 높았습니다. (효율적임)
  • 특징: 사람이 다가올 때는 "잠시 멈추고 기다렸다가" (안전 마진 증가), 사람이 멀어지면 "빠르게 지나가서" (안전 마진 감소) 하는 현명한 행동을 보였습니다.

💡 한 줄 요약

이 논문은 로봇에게 "상황을 잘 파악해서, 위험할 때는 조심하고, 안전할 때는 과감하게 움직이는" 지능을 심어주었습니다. 마치 스마트한 운전 기사가 교통 상황에 따라 차간 거리를 조절하듯, 로봇도 사람과의 상호작용 상황에 맞춰 안전 거리를 스스로 조절함으로써 안전함과 효율성을 동시에 잡은 것입니다.

이 기술은 자율주행차, 서비스 로봇, 공장 로봇 등 사람이 있는 모든 곳에서 로봇이 더 안전하고 자연스럽게 행동할 수 있는 길을 열어줍니다.

기술 요약

1. 문제 정의 (Problem Statement)

• 배경: 자율 주행 차량이나 서비스 로봇과 같은 로봇이 인간이 있는 환경에 안전하게 배포되기 위해서는 인간 행동의 불확실성을 처리할 수 있어야 합니다.
• 핵심 난제:
  • 다중 모드 및 역사 의존성: 인간의 행동은 여러 가지 가능한 모드 (예: 왼쪽 또는 오른쪽으로 지나가기) 를 가지며, 과거의 상호작용 이력에 의존합니다.
  • 보수성과 안전성의 트레이드오프: 기존의 안전 제어 방법들은 불확실성을 처리하기 위해 과도하게 보수적인 (conservative) 접근을 취하거나, 확률론적 안전 보장을 제공하지 못하는 경우가 많습니다.
  • 기존 방법의 한계: 가우시안 분포와 같은 단순한 분포 가정을 하거나, 샘플링 기반 방법은 계산 비용이 높고 형식적 안전 보장을 제공하지 못합니다. 또한, 기존 CBF(제어 장벽 함수) 기반 방법들은 인간 행동의 확률적 특성을 고려할 때 안전 마진을 어떻게 동적으로 조정해야 할지 명확하지 않습니다.
• 목표: 인간 행동의 복잡한 불확실성을 고려하면서도, **형식적 안전 보장 (Formal Safety Guarantees)**을 제공하여 충돌을 방지하고 목표 도달 효율을 유지하는 확률론적 안전 제어 프레임워크를 개발하는 것.

2. 방법론 (Methodology)

이 논문은 **제어 장벽 함수 (Control Barrier Functions, CBFs)**와 **합의 위험 제어 (Conformal Risk Control, CRC)**를 결합한 새로운 프레임워크를 제안합니다.

가. 핵심 개념: CRC 기반 안전 마진 동적 조정

• CBF 와 안전 마진: 로봇의 안전성은 CBF 를 통해 정의된 안전 집합 (Safe Set) 을 유지함으로써 보장됩니다. 그러나 인간 행동이 불확실하므로, 예측된 안전 값과 실제 값 사이의 오차를 보상하기 위해 **안전 마진 (Safety Margin, $\lambda$)**이 필요합니다.
• CRC 의 적용:
  • 기존 합의 예측 (Conformal Prediction) 은 예측 집합의 커버리지를 보장하지만, 직접적으로 안전 위반의 '위험 (Risk)'을 제어하지는 못합니다.
  • 이 연구는 **Conformal Risk Control (CRC)**을 사용하여 예측 오차의 기대 손실 (Expected Loss) 을 제어합니다. 이를 통해 안전 제약 조건 위반 확률을 사용자가 정의한 수준 ($\gamma$) 이하로 보장합니다.
  • 비교환성 (Non-exchangeability) 처리: 로봇 제어 시스템의 데이터는 시계열적 의존성을 가지므로 (현재 상태가 과거에 의존), 기존 CRC 의 교환성 가정을 만족하지 않습니다. 이를 해결하기 위해 **비교환성 CRC (Non-exchangeable CRC)**를 적용하여 기하급수적으로 감소하는 가중치 (geometrically decaying weights) 를 사용하여 시간적 의존성을 보정합니다.

나. 알고리즘 흐름

1. 오프라인 보정 (Offline Calibration):
   • 실제 보행자 데이터로 학습된 확률적 인간 행동 모델과 로봇의 명목 제어 정책 (Nominal Policy) 을 사용하여 상호작용 궤적을 생성합니다.
   • 생성된 궤적에서 실제 장벽 값 ($B$) 과 예측 장벽 값 ($\hat{B}$) 의 차이를 계산하여 손실 함수를 정의합니다.
   • CRC 를 적용하여 각 시간 단계별 최적의 안전 마진 ($\hat{\lambda}$) 을 계산하고, 이를 학습 데이터로 저장합니다.
2. 온라인 적응 (Online Adaptation):
   • LSTM 모델: 현재 상황 (로봇/인간 상태, 거리, 예측 장벽 값 등) 을 입력받아 적절한 안전 마진 $\lambda_k$를 예측하는 LSTM 모델을 학습합니다.
   • 안전 필터 (Safety Filter): 실시간으로 예측된 $\lambda_k$를 사용하여 CBF 제약 조건을 동적으로 조정합니다.
     • 불확실성이 높은 상황: $\lambda$를 증가시켜 안전 마진을 넓히고 로봇을 더 보수적으로 만듭니다.
     • 불확실성이 낮은 상황: $\lambda$를 감소시켜 로봇이 더 효율적이고 유연하게 행동하도록 합니다.
   • 최종 제어 입력은 명목 제어 입력과 최소한의 편차를 가지면서 안전 제약 ($\hat{B} - \lambda \ge 0$) 을 만족하도록 2 차 계획법 (QP) 을 통해 계산됩니다.

3. 주요 기여 (Key Contributions)

1. 새로운 안전 제어 프레임워크: CBF 와 CRC 를 결합하여 인간 - 로봇 상호작용에 대한 고확률 안전 보장을 제공하는 최초의 프레임워크입니다.
2. 이론적 엄밀성: CRC 기반 불확실성 정량화와 확률론적 안전 보장 간의 연결을 엄밀하게 수학적으로 증명했습니다.
3. 가정 최소화 알고리즘: 분포 가정이나 최악의 경우 (worst-case) 경계에 의존하지 않고, 데이터 기반의 동적 안전 마진 적응 알고리즘을 제안했습니다.
4. 실제 데이터 기반 검증: 실제 보행자 데이터로 학습된 인간 행동 모델을 사용하여 복잡한 다중 에이전트 시나리오에서 방법론의 유효성을 입증했습니다.

4. 실험 결과 (Experimental Results)

연구진은 단일 에이전트 (1:1) 및 다중 에이전트 (로봇 vs 군중) 시나리오에서 실험을 수행했습니다.

• 비교 대상:

  • CBF-QP: 불확실성을 고려하지 않는 기존 방법.
  • Fixed CRC-SF: 고정된 안전 마진을 사용하는 방법.
  • MPPI: 샘플링 기반 방법 (형식적 보장 없음).
  • Proposed (Online CRC-SF): 제안된 동적 안전 마진 방법.

• 주요 성과 (Table I 참조):

  • 안전성 (Safety): 제안된 방법은 **충돌률 (Collision Rate)**이 가장 낮았습니다.
    • 단일 에이전트: 충돌률 2.0% (CBF-QP 는 16.0%, MPPI 는 34.4%).
    • 다중 에이전트: 충돌률 3.0% (CBF-QP 는 38.8%).
  • 효율성 (Efficiency): 고정된 안전 마진 (Fixed CRC-SF) 은 안전하지만 과도하게 보수적이어서 목표 도달 성공률이 매우 낮았습니다 (다중 에이전트 31.6%). 반면, 제안된 방법은 안전성과 효율성의 최적 균형을 이루며 목표 도달 성공률이 높았습니다 (다중 에이전트 84.8%).
  • 적응성: 불확실성이 높은 상황에서는 로봇이 미리 멈추거나 속도를 줄이는 등 예방적 행동을 보였으며, 상황이 명확해지면 효율적으로 이동했습니다.

5. 의의 및 결론 (Significance & Conclusion)

• 안전과 효율의 동적 균형: 이 연구는 로봇이 인간의 불확실성을 단순히 '최악의 경우'로 가정하여 비효율적으로 행동하거나, 무작위로 행동하여 위험을 감수하는 두 가지 극단을 피하게 합니다. 대신, 실시간 불확실성 수준에 따라 안전 마진을 동적으로 조정함으로써 상황에 맞는 최적의 행동을 유도합니다.
• 형식적 보장: 통계적 검증 기법 (CRC) 을 제어 이론 (CBF) 에 접목함으로써, 복잡한 인간 행동 하에서도 수학적 확률로 안전이 보장됨을 입증했습니다.
• 실용성: 계산 효율성이 높아 실시간 제어에 적용 가능하며, 실제 보행자 데이터를 기반으로 학습되어 실제 환경 적용 가능성이 높습니다.

결론적으로, 이 논문은 인간과 공존하는 로봇 시스템의 안전성을 확보하기 위해 통계적 학습과 제어 이론을 융합한 획기적인 접근법을 제시하며, 자율 로봇의 안전한 배포에 중요한 기여를 합니다.