Collaborative Altruistic Safety in Coupled Multi-Agent Systems

1. 문제 정의 (Problem Statement)

다중 에이전트 시스템 (Multi-Agent Systems) 에서 안전성 보장은 로봇 공학 및 사이버 - 물리 시스템 분야에서 핵심적인 과제입니다. 기존 연구들은 주로 개별 에이전트의 안전 제약 조건을 충족하거나, 전체 시스템의 안전을 위한 글로벌 목표를 설정하는 데 초점을 맞추었습니다.

그러나 동적으로 결합된 (dynamically coupled) 시스템에서는 다음과 같은 어려움이 존재합니다:

• 상호 의존성: 한 에이전트의 결정이 이웃 에이전트의 안전에 직접적인 영향을 미치고, 그 역도 성립합니다.
• 분산 제어의 한계: 각 에이전트가 자신의 안전만 고려할 때, 이웃의 동역학적 결합 (coupling) 으로 인해 전체 시스템이 안전 영역을 벗어날 수 있습니다.
• 충돌 가능성: 모든 에이전트가 자신의 안전을 최우선으로 지키려 할 때, 분산 최적화 문제의 실행 가능성 (feasibility) 이 떨어지거나 해가 존재하지 않을 수 있습니다.

이 논문은 이러한 문제를 해결하기 위해 생태학의 이타주의 (altruism) 개념을 도입하여, 에이전트가 자신의 안전 마진을 일부 희생하더라도 더 중요한 이웃의 안전을 보장하는 협력적 프레임워크를 제안합니다.

2. 방법론 (Methodology)

이 논문은 제어 장벽 함수 (Control Barrier Functions, CBF) 와 해밀턴의 법칙 (Hamilton's Rule) 을 결합한 새로운 프레임워크를 제시합니다.

A. 결합된 동역학 및 협력적 제어 장벽 함수 (CCBF)

• 동역학 모델: 각 에이전트 $i$ 의 상태는 이웃 에이전트의 상태에 의존하는 결합 동역학 ($\dot{x}_i = f_i(x_i, x_{N_i^+}) + g_i(x_i)u_i$) 으로 정의됩니다.
• CCBF 설계: 개별 에이전트의 안전성 ($h_i(x_i) \ge 0$) 을 보장하기 위해 고차원 동역학을 고려한 협력적 제어 장벽 함수 (Collaborative Control Barrier Function, CCBF) 를 도입합니다.
• 분산 최적화: CCBF 조건을 만족하는 제어 입력을 찾기 위해, 기존 연구 [10] 의 분산 최적화 프레임워크를 활용합니다. 각 에이전트는 2-hop 이웃과 정보를 교환하며 국소적인 최적화 문제를 풀어 안전 제어 입력을 도출합니다.

B. 이타적 안전성 조건 (Altruistic Safety Condition)

생태학의 포괄적 적합도 (Inclusive Fitness) 와 해밀턴의 법칙 ($r_{ij}B_j \ge C_i$) 에서 영감을 받았습니다.

• 안전 관련성 (Safety-Relatedness, $r_{ij}$): 에이전트 $i$ 와 $j$ 사이의 안전 중요도 비율로 정의됩니다.
  • $w_i(x_i) = \frac{\eta_i}{h_i(x_i)}$: 에이전트가 안전 한계에 가까울수록 ($h_i \to 0$) 중요도 $w_i$ 가 급격히 증가합니다.
  • $r_{ij} = \frac{w_j}{w_i}$: 이웃 $j$ 의 안전이 $i$ 보다 더 중요할 때 $r_{ij} > 1$ 이 됩니다.
• 이타적 조건: 에이전트 $i$ 가 자신의 안전 비용 $C_i$ 를 감수하더라도, 이웃 $j$ 에게 주는 안전 편익 $B_j$ 가 $r_{ij}B_j \ge C_i$ 를 만족하면, $i$ 는 $j$ 를 위해 자신의 안전 마진을 희생하는 행동을 선택할 수 있습니다.
  • 이는 선형 부등식 $\sum r_{ij} B_{ij} \ge C_i$ 로 변환되어 최적화 제약 조건에 추가됩니다.

C. 이타적 분산 최적화

기존의 안전 제어 입력 계산 문제 (15 번 식) 에 이타적 안전 조건 (23 번 식) 을 추가하여 새로운 최적화 문제 (28 번 식) 를 정의합니다.

• 목표: 중요도가 높은 에이전트 (안전 한계에 가까운 에이전트) 가 안전할 수 있도록, 상대적으로 덜 중요한 이웃 에이전트가 자신의 제어 입력을 조정하여 안전성을 확보합니다.
• 수렴성: 제안된 알고리즘은 분산 방식으로 수렴하며, 중앙 집중식 최적화 문제의 해에 점근적으로 접근함을 증명했습니다.

3. 주요 기여 (Key Contributions)

1. 협력적 CCBF 의 개선: 동적으로 결합된 다중 에이전트 시스템에서 국소적으로 정의된 안전 제약 조건을 가진 협력적 CCBF 조건을 합성하는 방법을 기존 연구 [14] 를 기반으로 개선하고, 이를 분산 최적화 프레임워크에 통합했습니다.
2. 생태학 기반 이타적 안전성 프레임워크: 해밀턴의 법칙을 차용하여 에이전트 간 상대적 안전 중요도를 정량화하고, 이를 기반으로 에이전트가 자신의 안전을 희생하여 고우선순위 이웃을 보호하는 이타적 안전 조건을 정의했습니다.
3. 실행 가능성 (Feasibility) 증대: 이타적 조건을 분산 최적화에 포함시킴으로써, 시스템 전체의 안전을 유지하면서도 고우선순위 에이전트가 취할 수 있는 안전한 행동 집합 (feasible safe actions) 을 확장함을 이론적으로 증명했습니다.

4. 실험 결과 (Results)

간단한 포메이션 제어 (Formation Control) 시나리오 (2 에이전트 시스템) 를 통해 시뮬레이션 결과를 제시했습니다.

• 시나리오: 두 에이전트가 서로의 동역학에 영향을 주며, 특정 영역 (안전 영역) 을 벗어나지 않도록 제어해야 하는 상황.
• 비교 실험:
  1. 기존 방법 (협력적 CCBF 만 적용): 모든 에이전트가 자신의 안전을 동등하게 고려할 때, 특정 조건에서 안전 제어 입력을 찾기 어려워지거나 보수적인 동작을 취함.
  2. 제안 방법 (이타적 조건 추가): 에이전트 2 의 안전 중요도 ($\eta_2$) 를 에이전트 1 보다 훨씬 높게 설정 ($\eta_2 = 1000, \eta_1 = 1$).
• 결과:
  • 제안된 방법을 적용했을 때, 에이전트 2 가 안전 한계에 매우 근접하더라도 에이전트 1 이 자신의 속도를 조절하여 에이전트 2 가 안전 영역을 벗어나지 않도록 돕는 행동을 보임.
  • 이론적 증명 (Theorem 1) 확인: 이타적 조건을 적용한 경우, 고우선순위 에이전트 (에이전트 2) 가 취할 수 있는 안전한 제어 입력의 범위가 기존 방법보다 넓어짐을 확인했습니다. 즉, 시스템 전체의 안전성을 유지하면서 실행 가능한 해의 공간이 확장되었습니다.

5. 의의 및 결론 (Significance & Conclusion)

• 안전성과 유연성의 균형: 기존 안전 제어 방식이 지나치게 보수적이거나 실행 불가능한 상황을 해결하기 위해, 에이전트 간의 상호 협력과 희생을 체계적으로 도입했습니다.
• 자연계에서 공학으로: 생태학의 진화론적 개념 (이타주의) 을 공학적 안전 제어 시스템에 성공적으로 적용하여, 복잡한 결합 시스템에서의 안전성 보장을 위한 새로운 패러다임을 제시했습니다.
• 확장성: 제안된 프레임워크는 스마트 그리드 제어, 대규모 사이버 - 물리 네트워크 등 더 복잡하고 상호 의존적인 시스템에 적용 가능한 잠재력을 가지고 있습니다.

요약하자면, 이 논문은 다중 에이전트 시스템이 개별적인 안전 제약 하에서도 서로 협력하고, 필요시 이타적으로 행동함으로써 전체 시스템의 안전성을 더욱 견고하고 유연하게 보장할 수 있음을 입증했습니다.