Agentic Workflows for Resolving Conflict Over Shared Resources: A Power Grid Application

이 논문은 공유 자원에 대한 다중 에이전트의 행동 충돌을 해결하기 위해 양자 협상, 구조화된 중재, 절차적 조정이라는 세 가지 모드를 도입하고 체인 오브 생각 추론과 반복적 가중 합의 메커니즘을 적용한 에이전트 워크플로우 프레임워크를 제안하며, 이를 비용 최적화와 복원력 간의 갈등이 있는 전력 배전 시스템 사례를 통해 검증했습니다.

핵심

🏠 비유: 한 집에 사는 두 명의 AI 친구

전력망을 하나의 큰 아파트라고 상상해 보세요. 이 아파트에는 **디젤 발전기 (비싼 기름을 쓰는 발전기)**와 **대형 배터리 (전기를 저장해 두는 통)**가 있습니다.

이 아파트에는 두 명의 똑똑한 AI 관리인이 살고 있습니다.

1. 비용 관리인 (Cost Agent): "전기세 아껴야지!"라고 생각합니다. 전기 요금이 비쌀 때는 배터리를 방전해서 쓰고, 요금이 쌀 때는 배터리를 충전합니다.
2. 재난 대비 관리인 (Resilience Agent): "비상상황에 대비해야지!"라고 생각합니다. 배터리를 항상 가득 채워두어야 하고, 비싼 디젤 발전기는 아껴서 쓰지 말아야 합니다.

문제: 어느 날, 두 관리인이 배터리를 두고 다투게 됩니다.

• 비용 관리인은 "지금 전기 요금이 비싸니까 배터리를 방전해서 써야 해!"라고 외칩니다.
• 재난 관리인은 "비상상황에 대비해 배터리를 충전해서 가득 채워야 해!"라고 맞서 말합니다.

이 두 AI 가 서로의 논리를 이해하지 못하면 아파트는 혼란에 빠집니다. 이 논쟁을 해결하기 위해 논문은 세 가지 방법을 제안합니다.

---

🤝 세 가지 해결 방법 (데코플리케이션 모드)

1. 직접 협상 (Bilateral Negotiation)

"두 사람이 직접 마주 앉아 커피 한 잔 하며 대화하는 방식"

• 방식: 두 AI 관리인이 중재자 없이 서로 직접 대화합니다.
• 과정: "내가 배터리를 좀 쓰게 해줘, 대신 너는 다음엔 충전해 줄래?"라고 서로 제안과 반제안을 주고받습니다.
• 결과: 아주 빠르게 (5 회 대화 만에) 합의에 도달했습니다. 서로가 양보할 수 있는 지점을 찾아냈기 때문입니다.
• 장점: 빠르고 효율적입니다.
• 단점: 때로는 한쪽이 너무 불공평하게 양보할 수도 있습니다 (공정성은 다소 떨어질 수 있음).

2. 중재자 있는 협상 (Structured Mediation)

"중립적인 중재자 (선생님) 가 두 학생의 주장을 듣고 타협점을 찾아주는 방식"

• 방식: 두 AI 관리인이 서로 직접 말하지 않고, 제 3 의 중재 AI에게 주장을 말합니다. 중재자는 두 사람의 이야기를 듣고 "이렇게 하면 어때?"라는 새로운 제안을 합니다.
• 과정: 중재자가 "너는 좀 양보하고, 너도 조금만 더 해보자"라고 조정합니다.
• 결과: 직접 협상보다 시간이 좀 더 걸렸지만 (9 회), 두 사람 모두에게 더 공평한 결과를 가져왔습니다.
• 장점: 공정성이 높고 결과가 안정적입니다.

3. 절차적 해결 (Procedural Deconfliction)

"컴퓨터가 정해진 공식대로 자동으로 계산해서 결정하는 방식"

• 방식: AI 가 대화하지 않고, 정해진 **수식 (공식)**에 따라 각자의 주장을 숫자로 변환하고 평균을 내는 방식입니다.
• 과정: "너는 100 점, 나는 80 점, 그럼 평균인 90 점으로 하자"라고 기계적으로 계산합니다.
• 결과: 이번 실험에서는 실패했습니다. 두 AI 의 주장이 너무 극단적이라 (하나는 방전, 하나는 충전) 공식적으로 계산해도 합의점에 도달하지 못했기 때문입니다.
• 단점: 인간의 유연한 사고나 '양보'가 필요한 복잡한 상황에서는 기계적인 계산만으로는 해결이 안 될 수 있습니다.

---

📊 실험 결과: 무엇이 가장 좋을까?

연구진은 이 세 가지 방법을 20 번이나 반복해서 테스트했습니다.

1. 성공 여부: 세 방법 모두 아무것도 하지 않고 그냥 '평균값'을 적용하는 것보다 훨씬 좋은 결과를 냈습니다.
2. 효율성 (파레토 효율성): 직접 협상이 가장 좋은 결과를 내는 '최적의 지점'에 가장 가까웠습니다. 서로가 최대한의 이익을 얻는 방향으로 갔기 때문입니다.
3. 공정성과 안정성: 중재자 있는 협상이 가장 공정했고, 결과가 들쭉날쭉하지 않았습니다. AI 가 매번 다른 생각을 할 수 있기 때문에, 중재자가 있으면 결과가 일정하게 유지됩니다.
4. 기계적 계산의 한계: 절차적 해결은 너무 딱딱해서, AI 들이 서로의 입장을 완전히 이해하지 못하면 합의에 실패할 수 있음을 보여주었습니다.

---

💡 핵심 메시지 (한 줄 요약)

"AI 들이 서로 싸울 때, 무조건 기계적으로 계산하기보다는 AI 들끼리 대화하게 하거나 (협상), 공정한 중재자를 두는 것 (중재) 이 훨씬 더 현명하고 효율적인 해결책을 찾는다."

이 연구는 앞으로 우리가 전력망뿐만 아니라 교통, 물류 등 다양한 분야에서 여러 AI 가 함께 일할 때, 서로의 이익을 해치지 않고 평화롭게 공존할 수 있는 새로운 규칙을 만들어준다는 점에서 매우 중요합니다.

기술 요약

1. 문제 정의 (Problem Statement)

현대 인프라와 소프트웨어 생태계는 공유 환경에서 감지, 결정, 행동을 수행하는 반자율적 에이전트들의 집합에 점점 더 의존하고 있습니다. 특히 대규모 언어 모델 (LLM) 의 발전으로 인해 이러한 에이전트들이 더욱 고도화된 의사결정자로서 도입되고 있습니다. 그러나 에이전트의 수와 복잡성이 증가함에 따라 **공유 자원 (Shared Resources) 과 목표에 대한 제안된 행동 간의 충돌 (Conflict)**이 빈번하게 발생합니다.

• 주요 갈등 원인: 다중 목표 또는 불일치하는 목표, 공유 자원에 대한 경쟁, 이질적/부분적 정보, 분산된 거버넌스, 타이밍 문제 등.
• 기존 접근법의 한계: 전통적인 갈등 해결 방식은 완벽한 정보, 중앙 집중식 제어, 또는 구조화된 에이전트 아키텍처를 가정합니다. 이는 대규모 이질적 시스템에서는 적용하기 어렵고, 에이전트가 내부 로직이나 목표를 공개하지 않는 프라이버시 제약 하에서는 작동하지 않습니다.
• 핵심 과제: LLM 기반 에이전트의 자연어 추론 능력과 분산 의사결정 특성을 유지하면서, 프라이버시를 보호하며 공유 자원 갈등을 체계적으로 해결하는 메커니즘이 필요합니다.

2. 방법론 (Methodology)

저자들은 LLM 기반 에이전트가 공유 자원에 대한 갈등을 해결하기 위한 탈충돌 (Deconfliction) 프레임워크를 제안합니다. 이 프레임워크는 응용 프로그램을 추상적인 에이전트로 간주하며, 세 가지 구체적인 탈충돌 모드를 제공합니다.

가. 클라이언트 에이전트 설계 원칙 (Design Principles)

• 관심 분리 (Separation of Concerns): 에이전트는 응용 프로그램의 내부 로직과 분리되어 있으며, 애플리케이션을 도구로 사용하여 후보 행동을 생성하고 테스트합니다.
• 프라이버시 하의 선호도 전달: 에이전트는 내부 목적 함수나 운영 제약을 공개하지 않고도 갈등 해결에 참여할 수 있어야 합니다.
• 목표 추구: 에이전트는 다중 에이전트 컨텍스트에 부합하는 방식으로 개별 최적 결과를 추구하되, 탈충돌 프레임워크가 부과하는 타협 유인을 균형 있게 고려해야 합니다.
• Chain-of-Thought (CoT): 에이전트의 추론 구조를 정의하고, 반복적인 가중치 합의 (Iterative Weighted-Consensus) 메커니즘을 통해 최적화 문제를 직접 풀지 않고도 합의를 도출합니다.

나. 세 가지 탈충돌 모드 (Deconfliction Modes)

1. 양자 협상 (Bilateral Negotiation):
   • 각 에이전트가 직접 상호작용하며 제안과 반제안을 교환합니다.
   • 공유 자원 갈등을 고려하여 제안들을 반복적으로 조정하며 상호 수용 가능한 합의에 도달합니다.
2. 구조화된 중재 (Structured Mediation):
   • 전용 중재 에이전트 (Mediator) 가 개입하여 각 에이전트의 제안된 설정값 (Setpoints) 을 수집하고 갈등을 평가합니다.
   • 중재자는 구조화된 탈충돌 과정을 통해 타협안을 제시하며, 에이전트의 자율성을 유지하면서 중립적인 조정자 역할을 수행합니다.
3. 절차적 (결정론적) 탈충돌 (Procedural Deconfliction):
   • 중재 에이전트 대신 결정론적 탈충돌기 (Deterministic Deconflictor) 를 사용합니다.
   • [11] 번 문헌의 게임 이론적 접근을 LLM 에이전트에 적용하여, 각 에이전트의 유연성 (Flexibility) 에 기반한 가중치를 계산하고 가중치 중심점 (Weighted Centroid) 을 반복적으로 계산합니다.
   • 에이전트가 타협할수록 가중치가 증가하도록 설계되어 수렴을 유도합니다.

3. 주요 기여 (Key Contributions)

1. 도메인 중립적 탈충돌 공식화: 응용 프로그램을 공유 자원에 대한 제안을 하는 추상 에이전트로 취급하는 도메인 중립적 프레임워크를 제시하고, 양자 협상, 구조화된 중재, 절차적 탈충돌이라는 세 가지 구체적인 워크플로우를 정의했습니다.
2. LLM 에이전트 설계 원칙 및 CoT: 탈충돌 에이전트를 위한 일반적 설계 원칙을 제시하고, 에이전트의 내부 의사결정 흐름을 체계화한 공식적인 Chain-of-Thought (CoT) 추론 구조를 정의했습니다.
3. 성능 비교 및 평가: 전력망 사례 연구를 통해 세 가지 모드를 비교 분석했습니다. 합의 궤적, 해결 벡터, 에이전트 최적 및 중심점 기반 기준선과의 편차를 평가하여 각 방식의 장단점을 규명했습니다.

4. 실험 및 결과 (Results)

실험 환경:

• 사용 사례: 전력 배전 시스템 (Advanced Distribution Management System, ADMS) 에서의 비용 최적화 (Cost Optimization) 와 회복탄력성 (Resilience) 유지 간의 갈등.
• 장치: 디젤 발전기 (DG), 태양광 (PV), 배터리 에너지 저장 시스템 (BESS).
• 모델: Claude 4.5 Sonnet 기반의 두 개의 독립적인 클라이언트 에이전트 (비용 에이전트 vs 회복탄력성 에이전트).
• 데이터: IEEE 123 버스 시스템 기반의 합성 데이터 (24 시간 부하, 발전, 가격 프로파일).

주요 결과:

1. 수렴 특성:
   • 양자 협상: 5 라운드 만에 빠르게 합의에 도달했습니다. 에이전트 간 직접 통신으로 인해 초기 전략적 타협이 신속하게 이루어졌습니다.
   • 구조화된 중재: 9 라운드가 소요되었으며, 중재자가 에이전트의 협력 행동에 따라 가중치를 동적으로 조정했습니다.
   • 절차적 탈충돌: 10 라운드 제한 내에서 합의에 실패한 경우가 있었습니다. 에이전트들이 배터리 충전/방전이라는 근본적으로 양립할 수 없는 입장을 고수할 때 유연성 인자가 급격히 감소하여 수렴이 멈췄기 때문입니다.
2. 성능 비교 (20 회 시뮬레이션):
   • 세 가지 방법 모두 초기 기하학적 중심점 (Initial Centroid) 보다 훨씬 더 나은 결과를 보여주었습니다.
   • 파레토 효율성 (Pareto Efficiency): 양자 협상이 파레토 프론트 (Pareto Front) 에 가장 근접했으나, 결과의 편차 (Variance) 가 크고 공정성 (Fairness) 이 낮았습니다.
   • 일관성 및 공정성: 구조가 더 많이 도입된 방식 (중재, 절차적) 은 편차를 줄이고 공정성을 높였으나, 파레토 최적성은 다소 떨어졌습니다.
   • 성공 지표: 모든 탈충돌 방식이 초기 제안의 단순 중심점을 선택하는 기본 방식보다 높은 성공 지표 (Cost 및 Resilience 목적 함수의 개선) 를 기록했습니다.

5. 의의 및 결론 (Significance & Conclusion)

• 자율성과 프라이버시 보호: 에이전트가 내부 로직이나 목표를 공개하지 않고도 공유 자원 갈등을 해결할 수 있는 체계를 마련했습니다.
• 유연한 의사결정: LLM 기반 에이전트가 정량적 최적화뿐만 아니라 정성적 판단과 자연어 기반 협상을 통해 복잡한 갈등을 해결할 수 있음을 입증했습니다.
• 트레이드오프의 명확화: 연구는 탈충돌 방식의 구조화 정도가 **일관성 (Consistency)**과 **공정성 (Fairness)**을 높이는 반면, **파레토 효율성 (Pareto Efficiency)**에는 부정적인 영향을 줄 수 있음을 보여주었습니다.
• 미래 전망: 구조화된 절차적 모드에서 파레토 효율성을 개선하기 위해 제약 조건 집합 변경이나 프롬프트 엔지니어링 등의 추가 연구가 필요함을 시사합니다.

이 논문은 LLM 기반 다중 에이전트 시스템이 복잡한 인프라 환경에서 안전하고 효율적으로 협업할 수 있는 실용적인 프레임워크를 제공한다는 점에서 중요한 의의를 가집니다.