💻 computer science

MANTA: Multi-Agent Network Topology Adaptation for Self-Evolving Multi-Agent Systems

MANTA는 협업 흔적을 기반으로 에이전트의 역할, 링크, 워크플로우를 동적으로 조정함으로써 멀티 에이전트 시스템이 추론 시점에 통신 네트워크 토폴로지를 스스로 진화시킬 수 있게 하는 새로운 프레임워크로, 이를 통해 정적 또는 오프라인 최적화 베이스라인 모델들과 비교하여 다양한 복잡한 작업 전반에서 탁월한 성능을 달성한다.

원저자: Mao-xun Huang, Jerry Wang, Yi-Cheng Lai, Zhengxin Zhang, Claire Cardie, Hen-Hsen Huang

게시일 2026-07-31

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Mao-xun Huang, Jerry Wang, Yi-Cheng Lai, Zhengxin Zhang, Claire Cardie, Hen-Hsen Huang

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

거대하고 복잡한 퍼즐을 푸는 것이 단 하나의 초지능적인 두뇌를 갖는 것만이 아니라, 전문가들로 구성된 팀 전체가 협력하는 것의 문제라고 생각되는 세상을 상상해 보십시오. 이것이 바로 인공지능 분야의 뜨거운 주제인 **멀티 에이전트 시스템(Multi-Agent Systems)**의 핵심입니다. 여기서 여러 AI '에이전트'(디지털 노동자라고 생각하면 됩니다)가 팀을 이루어 복잡한 문제를 해결합니다. 한 대의 로봇이 모든 것을 하려고 노력하는 대신, 기획자, 연구원, 비평가, 그리고 검사자가 서로 대화하며 노트를 주고받습니다. 오랫동안 과학자들은 이 팀을 조직하는 가장 좋은 방법은 게임이 시작되기 전에 고정된 지도를 그리는 것이라고 생각했습니다. "너는 너와 이야기하고, 그녀와는 이야기하되, 그와는 절대 이야기하지 마라"와 같은 식이죠. 이는 마치 어떤 제품이 벨트 위를 지나가더라도 바뀔 수 없는 경직된 조립 라인을 가진 공장을 짓는 것과 같습니다. 하지만 만약 공장이 고장 난 기계를 보고 즉석에서 조립 라인을 재설계할 수 있다면 어떨까요? 이것이 바로 이 논문이 던지는 질문입니다. AI 에이전트 팀이 작업을 수행하는 동안 스스로의 통신 구조를 재편할 수 있을까요? 마치 스포츠 팀이 경기가 어려워질 때 수비 대형에서 공격 대형으로 전환하는 것처럼 말입니다.

여기 MANTA(Multi-Agent Network Topology Adaptation, 멀티 에이전트 네트워크 토폴로지 적응)가 등장합니다. MANTA는 AI 팀이 과제를 해결하는 동안 자신의 통신 지도를 '자기 진화'시킬 수 있게 해주는 새로운 프레임워크입니다. MANTA를 단일 로봇이 아니라, 오케스트라가 연주하는 모습을 지켜보는 역동적인 지휘자로 생각해 보십시오. 만약 지휘자가 바이올리니스트가 템포를 따라가는 데 어려움을 겪는 것을 듣는다면, 단순히 바이올리니스트에게 더 열심히 노력하라고 말하는 대신, 즉시 좌석 배치도를 변경하거나, 해당 섹션에 두 번째 바이올리니스트를 추가하거나, 누가 누구의 소리를 들을지를 변경할 수도 있습니다. 논문에서 저자들은 MANTA가 과거의 경험을 바탕으로 계획을 시작하지만, 에이전트들이 작업하는 동안 특별한 '감사관(auditor)'이 대화를 관찰하며 문제의 징후를 포착한다고 설명합니다. 예를 들어, 사실 관계를 확인하지 않고 너무 빨리 합의에 도달하거나, 한 명의 작업자에게 너무 많은 업무가 과중되는 경우 등이 있습니다. 문제가 발견되면 MANTA는 팀 구조에 작고 안전한 변화를 줍니다. 바쁜 작업자를 작은 하위 팀으로 분리하거나, 답변을 재확인하기 위해 새로운 '비평가'를 추가하거나, 에이전트들이 말하는 순서를 변경할 수도 있습니다.

결과는 상당히 유망합니다. 연구진은 웹에서 정보를 검색하는 것부터 수학 문제를 풀고 복잡한 워크플로우를 계획하는 것에 이르기까지 다섯 가지 다른 유형의 도전 과제에 대해 MANTA를 테스트했습니다. 전반적으로 MANTA는 평균 점수 74.0을 기록하며, 그다음으로 좋은 방법을 5.8 퍼센트 포인트 차이로 앞섰습니다. 특히 MANTA는 PlanCraft라는 계획 과제에서 가장 높은 점수를 받았습니다. 논문은 이러한 향상이 단순히 고장 난 설정 그대로 더 열심히 노력하는 것이 아니라, 실시간으로 자신의 조직적 결함을 스스로 수정할 수 있는 능력 덕분이라고 시사합니다. 흥러운 점은, 이 시스템이 단순히 더 나아졌을 뿐만 아니라, 많은 복잡한 멀티 에이전트 시스템보다 더 적은 '토큰'(AI 사고의 디지털 통화)을 사용했다는 것이며, 이는 유연한 구조가 경직된 구조보다 더 효율적일 수 있음을 증명합니다.

하지만 논문은 MANTA가 아닌 것이 무엇인지도 신중하게 명시하고 있습니다. MANTA는 AI 모델 자체의 실제 '두뇌'나 가중치(weights)를 변경하지 않습니다. 즉, 에이전트들의 지능은 동일하게 유지됩니다. 대신, 그것은 오직 그들이 어떻게 조직되는지를 바꿀 뿐입니다. 저자들은 또한 시스템이 구조적 문제(예: 누락된 확인 절차나 중복된 노력)를 해결하는 데는 뛰어나지만, 모든 오류에 대한 마법 지팡이는 아니라는 점을 발견했습니다. 만약 에이전트들이 모두 동일한 단서를 놓쳐서 잘못된 답에 합의했다면, 과정 자체가 깔끔해 보였더라도 시스템은 이를 잡아내지 못할 수도 있습니다. 그러나 팀을 조직하고 적응력을 유지하는 특정 문제에 있어서, MANTA는 구조가 작업 중에 진화하도록 두는 것이 AI를 처음부터 다시 훈련시키지 않고도 더 나은 결과를 얻는 강력한 방법임을 시사합니다. 이는 AI 시스템이 단순히 생각하는 것을 넘어, 상황이 잘못될 때 자신의 팀워크를 어떻게 재편해야 하는지도 아는 단계로 나아가는 발걸음입니다.

기술 요약: MANTA (Multi-Agent Network Topology Adaptation)

문제 정의

현재의 대규모 언어 모델(LLM) 기반 멀티 에이전트 시스템은 작업 분해와 협업을 통해 복잡한 문제 해결 능력을 향상시킨다. 그러나 기존 프레임워크는 일반적으로 통신 토폴로지(누가 누구와 통신하는지, 정보가 어떻게 라우팅되는지, 검증이 어디에서 발생하는지를 정의하는 구조)를 고정된 설계 선택지 또는 오프라인 최적화 대상으로 취급한다. 이러한 구조는 실행 전에 결정되며, 과부하된 브랜치, 조기 합의(premature consensus), 또는 누락된 검증 단계와 같은 실패가 발생하더라도 실행 중에는 정적으로 유지된다.

본 연구가 다루는 핵심 질문은 다음과 같다: 멀티 에이전트 시스템이 개별 작업을 해결하는 동안 자신의 통신 토폴로지를 개선할 수 있는가? 훈련, 오프라인 탐색, 또는 실행 전 최적화에 의존하는 기존 방식과 달리, 이는 인스턴스 조건부 계획(instance-conditioned planning), 중간 협업 트레이스(collaboration traces)에 기반한 테스트 타임 토폴로지 변이(test-time topology mutation), 그리고 모델 가중치를 업데이트하지 않는 토폴로지 경험의 전이를 필요로 한다.

방법론: MANTA 프레임워크

MANTA(Multi-Agent Network Topology Adaptation)는 통신 구조가 추론 시점에 스스로 진화할 수 있도록 하는 프레임워크이다. 이 시스템은 LLM 기반의 메타 에이전트와 결정론적 코드(deterministic code)가 결합된 중첩된 오케스트레이션 루프를 통해 작동한다.

1. 시스템 아키텍처

시스템은 두 개의 계층으로 구성된다:

대상 멀티 에이전트 시스템(Target Multi-Agent System): 추론, 도구 호출, 메시지 교환을 통해 작업을 수행한다.
오케스트레이션 계층(Orchestration Layer): 작업을 직접 해결하지 않고 토폴로지와 실행 흐름을 관리한다. 이 계층은 세 가지 LLM 구성 요소와 결정론적 로직으로 이루어진다:
- 토폴로지 플래너(Topology Planner): 작업과 축적된 경험을 바탕으로 초기 팀 구조(상호작용 패턴, 에이전트 수, 역할)를 설계한다.
- 트레이스 감사자(Trace Auditor): 각 턴이 끝난 후 협업 트레이스를 모니터링하며, 정답의 정확성을 판단하는 대신 프로세스 이상 징후(예: 도구 오류, 조기 합의, 누락된 검증)를 식별한다.
- 스킬 리플렉터(Skill Reflector): 여러 실행 과정에서 얻은 프로세스 신호로부터 교훈을 추출하여 장기 플레이북(long-term playbook)을 주기적으로 재작성한다.
- 컨트롤러 및 결정론적 코드(Controller & Deterministic Code): 토폴로지를 검증하고, 메시지를 라우팅하며, 가시성 정책을 강제하고, 유계된 구조적 복구(bounded structural repairs)를 실행한다.

2. 토폴로지 표현 및 변이

토폴로지는 에이전트 역할(코디네이터, 워커, 검증자 등), 상호작용 패턴(스타, 체인, 디베이트, 투표), 그리고 컨텍스트 정책(정보 가시성)을 정의하는 버전 관리된 명세이다.

초기 계획: 플래너는 작업 조건에 맞는 토폴로지를 생성한다.
실행 및 감사: 에이전트가 한 턴을 실행한다. 감사자는 구조화된 아티팩트를 스캔하여 "프로세스 플래그"(예: tool_error_cascade, premature_consensus, duplicate_state_mutation)를 포착한다.
유계된 복구(Bounded Repair): 복구 가능한 플래그가 감지되면, 컨트롤러는 실행당 한 번의 유계된 변이를 허용한다. 플래너는 변이(예: 과부하된 워커를 하위 그룹으로 확장, 검증자 추가, 엣지 재연결, 또는 실행 순서 변경)를 제안한다. 결정론적 코드는 새로운 구조를 적용하기 전에 이를 검증한다.

3. 메모리 메커니즘

MANTA는 두 가지 시계(horizon)를 가진 플레이북 시스템을 활용한다:

단기 플레이북(Short-term Playbook): 즉각적인 복구 선택에 정보를 제공하기 위해 현재 실행 내의 토폴로지, 감사 플래그, 복구 결정을 기록한다.
장기 플레이북(Long-term Playbook): 일반적인 원칙과 여러 실행을 통해 얻은 교훈을 저장한다(예: "도구가 없는 추론에는 디베이트보다 투표가 선호됨"). 이는 $N$ 번의 실행마다 스킬 리플렉터에 의해 업데이트되며, 정답 벤치마크 데이터에는 접근하지 않고 오직 프로세스 신호(클린 트레이스 vs 플래그가 있는 트레이스)만을 사용한다.

주요 기여

새로운 문제 정식화: 본 논문은 **토폴로지 수준의 자기 개선(topology-level self-improvement)**을 공식화하며, 통신 구조가 정적인 설계 선택지가 아니라 실행 중에 적응 가능한 동적 변수여야 한다고 주장한다.
MANTA 방법론: 작업 조건에 맞는 토폴로지를 계획하고, 협업 프로세스를 감사하며, 실패가 감지될 때 표적화된 구조적 변이를 적용하는 프레임워크를 제시한다. 이는 가중치 업데이트 없이 각 작업으로부터 학습하여 미래의 토폴로지 선택을 개선한다.
실증적 증거: Gemma 4를 백본으로 사용하여 다섯 가지 벤치마크에서 성능을 입증하였으며, MANTA가 정적 멀티 에이전트 토폴로지, 단일 에이전트 방식, 그리고 자동 워크플로우 설계 베이스라인보다 우수한 성능을 보임을 보여준다. 사례 연구를 통해 과부하된 브랜치나 누락된 체크와 같은 실패로부터의 구체적인 회복 과정을 보여준다.

실험 결과

MANTA는 정보 탐색(BrowseComp), 도구 사용(StableToolBench), 계획(PlanCraft), 워크플로우 실행(WorkBench), 수학적 추론(MATH)을 아우르는 다섯 가지 벤치마크에서 Gemma 4를 백본으로 사용하여 평가되었다.

성능: MANTA는 가장 강력한 베이스라인인 ADAS보다 5.8 퍼센트 포인트 높은 74.0의 최고 평균 점수를 기록했다. 또한 PlanCraft에서 최고의 결과를 달성했다.
효율성: MANTA는 평가된 멀티 에이전트 시스템 중 가장 적은 토큰을 사용했다. 메타 레벨 연산은 추론 예산의 약 12%만을 차지했다.
절제 연구(Ablation Studies):
- 초기 계획: 작업 조건부 계획을 고정된 토폴로지로 대체했을 때 성능 저하가 가장 컸으며(71.7%에서 57.5%로), 이는 초기 구조 선택의 중요성을 강조한다.
- 복구(Repair): 토폴로지 복구를 제거하면 성능이 60.8%로 감소한다.
- 메모리: 장기 플레이북을 제거하면 성능이 작지만 일관되게 감소하며, 이는 교차 실행 간의 학습이 추가적인 가치를 제공함을 나타낸다.
변이 예산(Mutation Budget): 변이 예산을 0에서 3으로 늘림에 따라 성능이 향상되었으며, 첫 번째 변이가 가장 큰 이득을 제공했다.
전이성(Transferability): 장기 플레이북은 도메인 간(예: PlanCraft에서 WorkBench로) 지식을 성공적으로 전이하여 긍정적인 이득을 얻었으나, 다른 적응형 베이스라인으로부터 구조를 전이하는 것은 부정적이거나 중립적인 효과를 냈다.

의의 및 주장

본 논문은 추론 시점의 자기 개선이 협업 자체의 아키텍처로 확장될 수 있음을 주장한다.

구별되는 적응 계층: MANTA는 토폴로지를 출력, 프롬프트, 추론 트레이스 또는 에이전트 가중치를 적응시키는 것과는 별개의 수준(그들의 계층 구조에서 레벨 6)인 '토폴로지 수준의 자기 개선'으로 위치시킨다.
구조적 vs 양적: 결과는 효과적인 적응이 단순히 에이전트 수를 늘리는 것이 아니라, 통신을 재배선하거나, 실행 순서를 변경하거나, 검증을 추가하는 것과 관련이 있음을 시사한다. 예를 들어, 복구 과정은 주로 새로운 솔버를 추가하기보다는 병렬 동작을 직렬화하거나 비평가(critic)를 삽고하는 방식으로 이루어졌다.
프로세스 중심 학습: 이 시스템은 멀리 있는 정답 레이블이나 오프라인 탐색 없이도, 오직 프로세스 신호만을 사용하여 발생하는 실패에 대응해 협업 프로세스를 재구성하는 방법을 학습할 수 있음을 보여준다.

저자들은 토폴로지를 자기 개선의 실행 시점 객체로 취급함으로써 에이전트 시스템이 협업 프로세스를 동적으로 적응시킬 수 있으며, 이를 통해 더욱 견고하고 유연한 멀티 에이전트 시스템으로 나아가는 경로를 제시한다고 결론짓는다.