Inverse Safety Filtering: Inferring Constraints from Safety Filters for Decentralized Coordination

1. 문제 정의 (Problem Statement)

• 배경: 불확실한 환경에서의 다중 에이전트 (Multi-agent) 시스템의 안전한 조정은 필수적입니다. 하지만 중앙 집중식 계획은 통신 대역폭 부족, 신뢰성 없는 통신, 계산 병목 현상 등으로 인해 비현실적일 수 있습니다.
• 핵심 문제: 분산형 에이전트들이 환경에 대한 비대칭 정보 (예: 한 에이전트는 장애물을 알고 다른 에이전트는 모름) 를 가진 상태에서, 명시적인 통신 채널 없이 어떻게 안전하게 협력할 수 있는가?
• 기존 접근법의 한계:
  • 기존 제어 장벽 함수 (CBF) 기반 안전 필터 연구는 에이전트들이 서로의 제약 조건을 이미 알고 있다고 가정합니다.
  • 역최적 제어 (Inverse Optimal Control) 나 역강화학습 (Inverse Reinforcement Learning) 은 주로 오프라인 전문가 시연 데이터를 필요로 하며, 온라인 실시간 추론에는 적합하지 않습니다.
• 목표: 다른 에이전트의 안전 필터링된 행동 (Safety-filtered actions) 을 관찰하여, 해당 에이전트가 인지하고 있는 환경 제약 조건 (예: 장애물 위치) 을 온라인으로 실시간 추론하고, 이를 바탕으로 안전한 분산 계획을 수립하는 방법론 개발.

2. 방법론 (Methodology)

이 논문은 제약 조건 역추론 (Constraint Inference) 과 분산 계획 (Decentralized Planning) 을 결합한 새로운 프레임워크를 제시합니다.

A. CBF 안전 필터 역전 (Inverting CBF Safety Filters)

• 기본 원리: 에이전트는 명목 제어 입력 ($u_{nom}$) 을 안전 제약 조건을 만족하도록 최소한으로 수정하여 안전 제어 입력 ($u_{safe}$) 을 생성합니다. 이 과정에서 발생하는 제어 편차 ($\Delta u = u_{safe} - u_{nom}$) 는 안전 필터의 최적성 조건 (KKT 조건) 을 통해 제약 조건 파라미터 ($\theta$, 예: 장애물 위치) 와 연결됩니다.
• 폐쇄형 해법 (Closed-Form Solution):
  • 단일 장애물 제약 조건만 활성화된 경우, KKT 조건을 분석하여 장애물 위치 $\theta$ 에 대한 폐쇄형 해 (Closed-form solution) 를 유도합니다.
  • 제어 편차 벡터가 장애물 방향을 나타내며, 이를 통해 장애물의 정확한 위치를 기하학적으로 계산할 수 있습니다.
• 식별 가능성 (Identifiability): 제어 입력의 차원, 제어 가용성, 그리고 장벽 함수의 민감도가 특정 조건을 만족할 때 제약 조건 파라미터가 유일하게 식별됨을 수학적으로 증명합니다.

B. 다중 제약 조건 하의 추론 (Inference under Multiple Constraints)

• 문제: 실제 환경에서는 장애물 회피와 군집 유지 (Formation keeping) 등 여러 제약 조건이 동시에 활성화될 수 있어 폐쇄형 해를 구하기 어렵습니다.
• 해결: 뉴턴 방법 (Newton's method) 을 기반으로 한 수렴성이 보장된 솔버를 설계합니다.
  • 비선형 방정식 시스템을 정규화된 최소자승 문제 (Regularized Least-Squares) 로 변환합니다.
  • 폐쇄형 해를 초기값으로 사용하여 뉴턴 반복법을 적용함으로써, 여러 제약 조건이 공존하는 상황에서도 제약 조건 파라미터로 수렴함을 증명합니다.

C. 분산 라운드 - 로빈 추론 및 계획 (Decentralized Round-Robin Inference and Planning)

• 동시성 문제 해결: 모든 에이전트가 동시에 행동을 취하면 서로의 다음 상태를 알 수 없어 안전 필터를 풀 수 없습니다.
• 라운드 - 로빈 프레임워크:
  • 각 시간 단계에서 한 에이전트를 시연자 (Demonstrator), 나머지를 학습자 (Learner) 로 역할 분담합니다.
  • 시연자는 자신의 사적 정보 (Private constraints) 를 반영하여 행동하고, 학습자는 공개 정보 (Public constraints) 만을 기반으로 행동합니다.
  • 학습자는 시연자의 안전 필터링된 행동 ($\Delta u$) 을 관찰하여 제약 조건을 추론하고, 이를 자신의 제약 집합에 추가합니다.
• 안전성 보장 (Safety Guarantee):
  • 시연자가 확장된 안전 반경 (Inflated radius) 을 사용하여 CBF 조건을 만족하면, 학습자는 군집 유지 제약 조건과 삼각부등식을 통해 장애물로부터 안전한 거리를 유지함을 증명합니다.
  • 이동 장애물 (Moving obstacles) 에 대해서는 최악의 경우 (Worst-case) 속도 가정을 포함하는 강건한 CBF (Robust CBF) 를 적용하여 충돌을 방지합니다.

3. 주요 기여 (Key Contributions)

1. 수렴성이 보장된 제약 조건 추론 방법: 안전 필터의 구조를 역이용하여 제약 조건 파라미터를 폐쇄형 해 또는 수렴하는 뉴턴 솔버로 추론하는 방법을 제안했습니다.
2. 다중 에이전트 형성 제약 조건 확장: 단일 장애물뿐만 아니라 군집 유지 등 다중 제약 조건이 활성화된 상황에서도 추론이 가능하도록 일반화했습니다.
3. 직접 통신 없는 분산 조정 프레임워크: 에이전트 간 명시적 통신 없이도 안전성을 보장하는 분산 계획 및 추론 알고리즘을 설계하고, 이에 대한 수학적 안전성 증명을 제시했습니다.
4. 실제 하드웨어 검증: 4 족 보행 로봇 (Quadruped robots) 을 이용한 실험을 통해 제안된 방법론의 실시간 적용 가능성과 실제 환경에서의 안전성을 입증했습니다.

4. 실험 결과 (Results)

A. 시뮬레이션 (Monte Carlo Simulations)

• 성능 비교: 제안된 방법 (CBF+KKT) 은 기존 입력 매칭 (Input Matching, IM) 방법 및 비-CBF 기반 원형 제약 조건 (Circle) 방법과 비교했습니다.
• 결과:
  • 충돌 회피: 제안된 방법은 100 회 시뮬레이션에서 충돌이 거의 없었으며 (0.1 회), 다른 방법들은 충돌이 발생했습니다.
  • 정확도: 장애물 위치 추론 오차가 IM 방법보다 현저히 낮았으며, 장애물 발견률 (Discovery rate) 이 90% 로 매우 높았습니다 (IM 은 80%, Circle+KKT 는 19%).
  • 수렴 영역: 뉴턴 솔버는 초기값에 관계없이 넓은 영역에서 수렴하는 반면, IM 방법은 초기값이 참값에 매우 가까울 때만 수렴했습니다.

B. 하드웨어 실험 (Hardware Experiments)

• 설정: Unitree Go2 4 족 보행 로봇 2 대를 사용하여 장애물 회피 및 협동 이동 실험을 수행했습니다.
• 시나리오:
  1. 장애물 경로에 있는 원형 장애물 회피.
  2. 두 벽 사이의 좁은 간격 통과.
• 결과: 뒤따르는 로봇 (학습자) 은 앞쪽 로봇 (시연자) 의 안전 필터링된 행동 변화 (제동 또는 경로 변경) 를 관찰하여 장애물 위치를 추론하고, 충돌 없이 안전하게 장애물을 우회하여 목표 지점에 도달했습니다. 이는 제안된 알고리즘이 실시간으로 작동하며 실제 로봇 제어에 적용 가능함을 보여줍니다.

5. 의의 및 결론 (Significance and Conclusion)

이 논문은 안전 필터 (Safety Filter) 를 단순한 보호 장치가 아닌, 에이전트 간 정보 공유를 위한 통신 수단으로 재해석했다는 점에서 혁신적입니다.

• 통신 효율성: 고비용의 통신 채널 없이도 에이전트 간 행동을 통해 제약 조건을 공유함으로써, 통신 대역폭이 제한되거나 통신이 불안정한 환경 (예: 재난 구조, 군사 작전, 우주 탐사) 에서 다중 로봇 시스템의 안전성을 크게 향상시킵니다.
• 이론적 엄밀성: 단순한 경험적 접근이 아닌, 제약 조건 식별 가능성, 알고리즘 수렴성, 그리고 분산 제어 하의 안전성 보장에 대한 엄밀한 수학적 증명을 제공합니다.
• 실용성: 4 족 보행 로봇을 통한 하드웨어 실험을 통해 이론적 프레임워크가 실제 물리 시스템에서 실시간으로 작동할 수 있음을 입증했습니다.

결론적으로, 이 연구는 불완전한 정보 하에서도 에이전트들이 서로의 안전 의도를 이해하고 협력하여 안전한 다중 에이전트 시스템을 구축할 수 있는 강력한 방법론을 제시합니다.