Second MOASEI Competition at AAMAS'2026: A Technical Report

기술 요약: AAMAS'2026에서의 두 번째 MOASEI 경진대회

문제 정의
본 논문은 개방형 에이전트 환경(open agent environments) 내에서 다중 에이전트 의사결정 시스템을 평가하는 과제를 다룹니다. 이러한 환경은 전통적인 폐쇄형 시스템과 달리, 에이전트, 작업, 그리고 에이전트의 역량이 시간이 지남에 따라 나타나거나 사라지거나 진화할 수 있는 동적인 변화를 특징으로 합니다. 본 경진대회는 세 가지 차원의 개방성을 구체적으로 겨냥합니다:

• 에이전트 개방성 (Agent Openness, AO): 에이전트가 시스템에 진입하거나 떠나는 현상.
• 작업 개방성 (Task Openness, TO): 작업이 시간에 따라 나타나거나 사라지는 현상.
• 프레임 개방성 (Frame Openness, FO): 에이전트의 내부 상태나 역량의 변화 (예: 장비 성능 저하 또는 상태 변화).

2026년 경진대회는 2025년에 구축된 평가 인프라를 정교화하여, 새로운 형태의 개방성을 도입하고 협력, 강건성 및 적응 전략을 더 잘 평가하기 위해 보다 해석 가능한 작업 중심적 지표를 도입하는 것을 목표로 했습니다.

방법론 및 경진대회 설계
경진대회는 개방형 에이전트 시스템에서 영감을 받은 벤치마크 도메인을 구현한 free-range-zoo 환경 제품군을 활용했습니다. 2026년 에디션은 이전 해의 세 가지 핵심 트랙을 유지하면서 다음과 같은 특정 수정 사항을 도입했습니다:

1. 평가 트랙:

   • 산불 진화 (Wildfire Fighting, AO/TO): 에이절트들이 제한된 자원을 사용하여 번지는 불과 싸우며 협력합니다.
   • 보너스 산불 진화 (Bonus Wildfire Fighting, AO/TO/FO): 프레임 개방성을 도입한 새로운 트랙으로, 에이전트의 장비 상태(억제 용량 및 진화 범위)가 시간에 따라 변하여 그 효과와 도달 범위가 달라집니다.
   • 사이버 보안 (Cybersecurity, AO): 방어 에이전트들이 네트워크 노드를 보호하기 위해 휴리스틱 공격자와 경쟁합니다.
   • 승차 공유 (Ride-Sharing, TO): 에이전트들이 승객을 운송하기 위해 협력적 또는 경쟁적으로 움직이며, 승객이 시스템에 동적으로 유입되는 작업 개방성에 초점을 맞춥니다.

2. 지표:
   평가는 해석력을 높이기 위해 작업 중심적 지표로 전환되었습니다. 도메인 보상 외에도 경진대회는 다음 사항을 강조했습니다:

   • 총 작업 완료 횟수.
   • 평균 작업 완료 시간.
   • 완료된 작업의 평균 가치.
   • 승차 공유의 경우 특히: 승객 수, 대기 시간, 주행 시간 및 요금 가치.

3. 참여 및 제출:
   8개 팀이 등록했으나, 오직 한 팀인 DLC만이 승차 공유 트랙을 대상으로 최종 솔루션을 제출했습니다. 따라서 분석은 이 트랙에만 국한됩니다.

4. 제안된 접근 방식 (DLC):
   해당 팀은 계획 및 재계획(planning and replanning) 전략을 채택했습니다. 에이전트는 에이전트 플릿 전체에 걸쳐 최적의 라우팅 문제를 해결합니다. 결정적으로, 시스템은 새로운 승객이 환경에 진입할 때마다 재계획을 수행하여, 실시간으로 작업 개방성에 대응할 수 있도록 합니다.

5. 베이스라인 비교:
   DLC 제출물을 맥락화하기 위해, 저자들은 비경진대회 베이스라인 정책들과 비교 평가를 수행했습니다:

   • 무작위 동작 없음 (No-operation, noop)
   • 무작위 (Random)
   • 선입선출 (First-In-First-Out, FIFO) 변형 (포커스 및 글로벌)
   • 탐욕적 (Greedy) 변형 (포커스 및 글로벌)

주요 결과
DLC 정책은 213개의 에피소드에 걸쳐 6가지 승차 공유 구성(학습용 3개, 테스트용 3개)에 대해 평가되었습니다.

• 처리량 (Throughput): DLC는 평균 13.62명의 승객을 완료하여, FIFO(10.80)와 무작위(7.40) 베이스라인을 크게 상회했습니다. 이는 가장 강력한 탐욕적 베이스라인(15.38)과 유사한 성능을 보였습니다.
• 효율성 (대기 시간): DLC는 평균 대기 시간 24.13을 달성하였으며, 이는 FIFO 베이스라인(~36–39)보다 상당히 낮고 탐욕적 베이스라인(25.48)과 경쟁할 만한 수준이었습니다.
• 효율성 (주행 시간): 주목할 만한 트레이드오프가 관찰되었습니다. DLC의 평균 주행 시간은 34.87로, 탐욕적(12.14) 및 FIFO(14–17) 베이스라인보다 유의미하게 길었습니다.
• 구성 안정성: DLC는 모든 6가지 구성에서 안정적인 처리량(완료 승객 13.08 ~ 14.91 범위)을 유지했으나, 주행 시간은 공간적 및 작업 도착의 차이에 민감하게 반응하여 더 큰 변동을 보였습니다.

주요 기여 및 주장
본 논문은 다음과 같은 겸허한 기여와 주장을 담고 있습니다:

1. 개방형 시스템에서의 계획 검증: 주요 경험적 기여는 계획 기반의 재계획이 작업 개방형 환경에서 실행 가능한 접근 방식임을 보여주는 사례 연구라는 점입니다. DLC 에이전트는 동적인 승객 도착에 성공적으로 적응하여 안정적인 완료 횟수와 경쟁력 있는 대기 시간을 달려냈습니다.
2. 목표 간의 트레이드오프 식별: 결과는 승차 공유 도메인에서의 특정 트레이드오프를 강조합니다: DLC 정책은 주행 시간(주행 지속 시간)을 희생하는 대신 처리량과 대기 시간(더 많은 작업을 수용하고 더 빠르게 픽업함)을 우선시했습니다. 저자들은 현재의 리더보드 목적 함수가 이러한 상충하는 목표들(완료 횟수, 대기 시간, 주행 시간, 요금 가치) 사이의 균형을 명시적으로 조절하지 못하고 있음을 언급합니다.
3. 벤치마크의 진화: 본 경진대회는 보너스 산불 트랙을 통해 프레임 개방성을 성공적으로 도입하였고, 평가 지표를 더욱 작업 중심으로 정교화했습니다.
4. 공백 메우기: 2025년에 제출이 없었던 승차 공유 트랙에서 제출물을 확보함으로써, 2026년 경진대회는 2025년 결과와 결합되어 다양한 개방성 차원에 걸친 다중 에이전트 의사결정에 대한 더 포괄적인 관점을 제공합니다.

의의 및 한계
저자들은 최종 제출 건수가 제한적(단 한 팀)이었기 때문에, 본 경진대회가 서로 다른 학습 또는 계획 패러다임의 상대적 강점에 관한 광범위한 결론을 뒷받침하지는 못한다고 명시적으로 밝힙니다. 대신, 그 의의는 다음과 같습니다:

• 작업 개방형 환경에서 계획 기반 정책의 집중적인 사례 연구를 제공함.
• 새로운 프레임 개방성 트랙을 포함한 업데이트된 벤치마크 설계를 기록함.
• 상충하는 지표(예: 처리량 vs 주행 시간) 사이의 균형을 맞추기 위한 더 명확한 목적 함수의 필요성을 강조함.
• 보너스 산불 도메인과 같은 복잡한 트랙에 대한 참여를 독려하기 위한 온보딩 자료(스타터 정책, 문서화)의 개선 필요성을 식별함.

본 논문은 2026년 행사가 낮은 참여도를 보였음에도 불구하고, 승차 공유 트랙의 결과가 향려의 개방형 조건 하에서의 다중 에이전트 계획 연구를 위한 가치 있는 벤치마크를 제공한다고 결론짓습니다.