MonoScale: Scaling Multi-Agent System with Monotonic Improvement

기술 요약: MonoScale

문제 정의
대형 언어 모델 (LLM) 기반 다중 에이전트 시스템 (MAS) 은 일반적으로 작업을 분해하고 하위 작업을 전문 에이전트에 위임하기 위해 중앙 라우터에 의존합니다. 새로운 기능 에이전트나 도구를 통합하여 에이전트 풀을 확장하는 것은 시스템 능력을 높이기 위한 자연스러운 전략이지만, 단순한 규모 확장은 종종 성능 붕괴를 초래합니다. 이러한 실패는 라우터가 새롭고 이질적이며 잠재적으로 신뢰할 수 없는 에이전트를 마주할 때 '콜드스타트 (cold-start)' 문제에 직면하기 때문에 발생합니다. 에이전트의 구체적인 능력, 한계, 실패 모드에 대한 근거 있는 지식이 없으면 라우터는 잘못된 라우팅 결정 (예: 불안정한 에이전트에 고정밀 작업 할당 또는 인터페이스에 익숙하지 않은 에이전트에 복잡한 도구 호출 위임) 을 내릴 수 있습니다. 이러한 오류는 시스템 수준에서 증폭되어 에이전트 풀이 성장함에 따라 더 강력한 에이전트가 추가되더라도 종단 간 성능이 정체되거나 저하될 수 있습니다. 기존 방법들은 정적 에이전트 풀을 가정하거나 지속적인 확충 중 퇴보를 방지하기 위한 통제된 업데이트 메커니즘이 부족합니다.

방법론: MonoScale
저자들은 에이전트 풀이 성장함에 따라 성능이 단조롭게 비감소하도록 보장하기 위해 설계된 확장 인식 업데이트 프레임워크인 MonoScale을 제안합니다. 이 프레임워크는 새로운 에이전트가 통합될 때마다 다음 두 단계 프로세스로 작동합니다:

1. 확장 인식 작업 합성 (숙련화): 실제 사용자 트래픽이 실패를 드러낼 때까지 기다리는 대신, 시스템은 새로운 에이전트의 프로필 (에이전트 카드) 을 조건으로 하는 소수의 '워밍업' 작업을 능동적으로 생성합니다. 이러한 작업은 플래너 - 실행기 - 검증자 루프를 통해 합성되어 새로운 에이전트의 강점, 인터페이스 제약 조건 및 실패 모드를 구체적으로 탐지합니다. 라우터는 현재 정책에 따라 이러한 작업을 실행하여 성공 및 실패 상호작용 흔적을 모두 수집합니다.

2. 메모리 기반 라우터 업데이트: 수집된 증거는 감사 가능한 자연어 메모리 항목으로 정제됩니다. 이러한 항목은 다음을 포함하는 실행 가능한 라우팅 원칙을 인코딩합니다:

   • 긍정적 제약: 언제 그리고 어떻게 새로운 에이전트를 호출할지.
   • 부정적 제약: 에이전트를 호출하지 말아야 할 시기 또는 어떤 조건에서 실패하는지.
   • 인터페이스 주의 사항: 특정 도구 사용 패턴 및 오류 처리.

   라우터 정책은 후보 집합에서 안전한 메모리 상태를 선택하여 업데이트됩니다. 이 선택은 급격한 행동 변화를 방지하기 위해 **신용 영역 제약 (Trust Region Policy Optimization 에서 영감)**에 의해 통제됩니다. 중요한 점은 후보 집합이 항상 새로운 에이전트 호출을 금지하는 보수적 백업 (fallback) 옵션을 포함하여, 안전한 업데이트가 발견되지 않을 경우 시스템이 확장 전 동작으로 복귀할 수 있도록 보장한다는 것입니다.

이론적 형식화
저자들은 순차적 에이전트 증강을 **맥락적 밴딧 문제 (contextual bandit problem)**로 형식화합니다. 새로운 에이전트를 추가하는 것이 이를 사용하지 않는 계획의 보상을 변경하지 않는 비간섭적 확장 가정 하에, 그들의 신용 영역 메모리 최적화가 확장 라운드 전반에 걸쳐 단조로운 비감소 성능 보장을 산출함을 증명합니다. 이는 개방형 MAS 확장에 대한 검증 가능한 조건부 하한을 제공합니다.

주요 기여

1. 문제 형식화: 순차적으로 확장되는 MAS 에서 콜드스타트로 인한 성능 붕괴를 분석하기 위한 통합 모델 및 표기법.
2. 방법 및 프로토콜: 에이전트 조건부 작업 합성과 감사 가능하고 롤백 가능한 자연어 메모리를 활용하는 라우터 업데이트 프로토콜을 포함하는 확장 인식 전략.
3. 이론적 보장: 비간섭적 확장 및 보수적 백업 가정 하에 제안된 방법이 확장 중 단조로운 개선을 보장한다는 증명.

실험 결과
저자들은 에이전트 풀을 3 개에서 10 개로 확장하며 GAIA 벤치마크와 Humanity's Last Exam (HLE) 객관식 하위 집합에서 MonoScale 을 평가했습니다.

• 안정적인 확장: 에이전트가 5 개에서 10 개로 증가함에 따라 GAIA 에서 0.558 에서 0.491 로 떨어지는 등 단순 규모 확장이 성능 붕괴를 보인 것과 달리, MonoScale 은 일관된 성능 향상을 보여주었습니다.
• 경쟁력 있는 능력: 10 개 에이전트를 사용하는 작은 오픈 가중치 라우터 (Qwen-3-30B-A3B-Instruct) 를 활용한 MonoScale 시스템은 전체 GAIA 점수 55.15% 를 기록하여 3 에이전트 기준 DeepSeek-V3.2(51.52%) 를 능가했고, GPT-5 및 Gemini-2.5-Pro 와 같은 독점적 강력한 라우터 기준과 경쟁했습니다.
• 강건성: 신뢰할 수 없는 에이전트가 포함된 '고장 난 풀 (Malfunctioning Pool)' 설정에서 MonoScale 은 안정적인 성능을 유지한 반면, 메모리 업데이트 없이 강력한 라우터 기준 (예: Gemini-3-Pro) 은 심각한 저하를 겪었습니다.
• 전이성: 한 라우터 (Qwen) 가 증류한 라우팅 메모리는 적응 없이 다른 라우터 (Gemini-3-Flash) 로 효과적으로 전이되어, 해당 메모리가 라우터와 무관한 에이전트 프로필을 포착함을 시사했습니다.

의의 및 주장
이 논문은 MonoScale 이 신흥 '에이전틱 웹 (Agentic Web)'에서 대규모 개방형 에이전트 온보딩을 위한 안전하고 제어 가능한 확장 프로토콜을 제공한다고 주장합니다. 저자들은 단순히 라우터 모델을 업그레이드하는 것만으로는 실행 기반 증거의 부재를 해결할 수 없으며, 대신 새로운 에이전트를 탐지하고 성공과 실패를 모두 감사 가능한 제약 조건으로 정제하는 필수적인 워밍업 프로토콜이 확장 후 성능 붕괴를 방지하는 데 필수적이라고 논합니다.

이 연구는 범위가 제한적이며, 단조성 보장이 비간섭적 확장에 조건부라는 점 (지속적인 외부 환경 변화, 예를 들어 외부 API 변경과 같은 경우 실패할 수 있음) 을 지적합니다. 또한 10 개 에이전트까지 효과적이며 (20 개까지 예비 테스트 수행) 저자들은 웹 규모 설정 (수천에서 수백만 개의 에이전트) 에는 검색 기반 라우팅 및 명시적 메모리 관리 전략의 통합이 필요하며, 이는 향후 연구의 열린 과제로 남아 있음을 인정합니다.