💻 computer science

Symphony-Coord: Adaptive Routing for Multi-Agent LLM Systems

Symphony-Coord는 정적 라우팅의 한계를 극복하기 위해 에이전트 선택을 2단계 비콘 프로토콜과 LinUCB 셀렉터를 활용한 적응형 온라인 멀티 암드 밴딧 문제로 변환함으로써, 실시간 피드백을 기반으로 작업 라우팅 및 결함 복구를 동적으로 최적화하는 멀티 에이전트 LLM 시스템을 위한 탈중앙화된 조정 프레임워크이다.

원저자: Zhaoyang Guan, Huixi Cao, Ming Zhong, Yin Wang, Guanyu Liu, Eric Yang, Lynn Ai, Yongxin Ni, Bill Shi

게시일 2026-06-02

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Zhaoyang Guan, Huixi Cao, Ming Zhong, Yin Wang, Guanyu Liu, Eric Yang, Lynn Ai, Yongxin Ni, Bill Shi

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신에게 엄청난 규모의 전문가 팀이 있다고 상상해 보세요. 하지만 그들은 모두 서로 다릅니다. 어떤 이들은 수학에 능숙하고, 어떤 이들은 코딩을 잘하며, 어떤 이들은 빠르지만 실수를 하고, 또 어떤 이들은 느리지만 매우 정확합니다. 그리고 매초마다 복잡한 작업들이 홍수처럼 밀려듭니다.

대부분의 기존 시스템의 문제는 고정된 규칙 책에 따라 업무를 배정하는 경직된 관리자처럼 행동한다는 점입니다: "수학 작업은 A에게, 코딩 작업은 B에게 보낸다." 이 방식은 A가 지치거나, 수학 문제가 약간 변형되거나, 혹은 B가 사실 이 특정 유형의 수학 문제에 대해 A보다 더 뛰어난 능력을 갖추고 있을 때도 그대로 유지됩니다. 결국 시스템은 정체되고, 비효전적이며, 쉽게 무너집니다.

Symphony-Coord는 이 팀을 운영하는 새로운 방식입니다. 경직된 관리자 대신, 지금 이 순간 이 작업에 가장 적합한 사람이 누구인지 실시간으로 학습하는 스마트하고 적응력 있는 "교통 관제사"를 사용합니다.

작동 원리는 다음과 같습니다 (쉬운 비유를 사용했습니다):

1. 문제점: 경직된 오케스트라

전통적인 시스템에서 모든 음악가(에이전트)는 콘서트가 시작되기 전에 고정된 악기(역할)를 배정받습니다. 만약 지휘자가 바이올린 솔로를 원한다면 바이올리니스트를 부릅니다. 하지만 만약 바이올리니스트가 아프다면 어떻게 될까요? 혹은 그 음악의 특정 음표가 사실 첼로를 필요로 하는 것이라면요? 시스템은 이에 적응할 줄 모르며, 다음 적임자를 찾기 위해 시간을 허비하거나 성능이 저하되는 결과를 초래합니다.

2. 해결책: 스마트 교통 관제사

Symphony-Coord는 팀을 역동적인 재능의 풀(pool)로 취급합니다. 새로운 작업이 도착하면 단순히 이름표를 보는 것이 아니라, "누가 사용 가능한가, 누가 빠른가, 그리고 이전에 이와 유사한 일을 성공적으로 수행한 적이 있는가?"를 묻습니다.

이는 저자들이 **"다이내믹 비콘 프로토콜(Dynamic Beacon Protocol)"**이라고 부르는 두 단계 과정을 통해 해결됩니다.

1단계: "라이트닝 라운드" (Top-L 필터링)

방 안에 100명의 전문가가 있다고 상상해 보세요. 100명 모두에게 일일이 "이 일을 할 수 있나요?"라고 묻는 것은 시간이 너무 오래 걸리고 시간을 낭비하는 일입니다.

Symphony-Coord가 하는 일: 빠르게 "비콘(beacon, 신호)"을 비춥니다(빠른 확인). 각자의 이력서(역량)와 현재 상태(바쁜지, 혹은 오류가 발생 중인지)를 살핍니다.
결과: 100명 중 가장 적합한 상위 3~5명을 즉시 추려냅니다. 이를 통해 엄청난 양의 시간과 비용(컴퓨팅 자원)을 절약합니다.

2단계: "도박사의 선택" (LinUCB 선택)

이제 상위 3명의 후보 명단이 생겼습니다. 이 중 단 한 명을 어떻게 고를까요?

기존 방식: 과거에 가장 많이 승리했던 사람을 고릅니다. (하지만 이는 위험합니다. 그 사람이 오늘 슬럼프에 빠졌을 수도 있기 때문입니다.)
Symphony-Coord 방식: LinUCB라고 불리는 전략을 사용하는데, 이는 두 가지 사이에서 균형을 잡는 스마트한 도박사와 같습니다:
1. 활용(Exploitation): "이 사람은 실적이 아주 좋습니다. 이 사람을 선택합시다."
2. 탐색(Exploration): "이 사람을 한동안 시도해보지 않았습니다. 어쩌면 이 까다로운 질문에 대해 이 사람이 실제로 최고일지도 모릅니다. 한번 기회를 줘서 배워봅시다."
학습: 작업이 완료된 후, 시스템은 피드백을 받습니다. 답이 맞았나요? 빨랐나요? 만약 그렇다면, 해당 에이전트에게 "하이파이브(점수 상승)"를 해줍니다. 만약 아니라면, 다음에는 더 주의하도록 학습합니다.

3. 왜 더 나은가: "살아있는" 시스템

이 논문은 이 시스템이 정적인 레이블에 의존하지 않기 때문에 우수하다고 주장합니다.

적응성: 만약 에이전트가 실수를 하기 시작하면(예: 지친 노동자처럼), 시스템은 피드백을 감지하고 즉시 그들에게 어려운 작업을 보내는 것을 중단합니다.
회복 탄력성: 만약 최고의 전문가가 갑자기 오프라인 상태가 되더라도, 시스템은 붕괴되지 않습니다. 시스템은 빠르게 다음으로 적합한 가용 인력에게 업무를 전달하는 법을 배웁니다.
효율성: 초기에 "가능성 있는" 후보들을 걸러냄으로써 자원을 절약하고, 시스템이 정체되지 않고 더 많은 작업을 처리할 수 있게 합니다.

4. 증거: "의학 퀴즈" 테스트

저자들은 이 시스템을 의학 질문이나 수학 문제와 같은 어려운 과업들을 통해 테스트했습니다.

그들은 Symphony-Coord를 단일 전문가 및 다른 다중 에이전트 팀들과 비교했습니다.
결과: Symphony-Coord는 일관되게 더 높은 점수를 기록했습니다. 이 시스템은 특정 "수학 에이전트"가 공식적으로 "의학 전문가"로 분류되어 있지 않음에도 불구하고, 특정 "의학적 논리" 질문에 대해 그 에이전트가 가장 적합하다는 것을 찾아내는 데 더 뛰어났습니다.
또한, 팀의 규모가 커짐에 따라(5명에서 100명으로), Symphony-Coord는 빠르고 정확한 상태를 유지한 반면, 다른 시스템들은 느려지고 혼란에 빠진다는 것을 보여주었습니다.

요약

Symphony-Coord를 단순히 악보를 읽는 지휘자가 아니라, 실시간으로 오케스트라의 소리를 들으며 현재의 음표에 가장 적합한 연주자를 빠르게 찾아내고, 누가 완벽하게 연주하고 있고 누가 음이 이탈하고 있는지에 따라 끊임없이 라인업을 조정하는 지휘자로 생각하십시오. 이 시스템은 경직되고 깨지기 쉬운 시스템을, 매 작업이 완료될 때마다 더 똑똑해지는 유연하고 자가 치유가 가능한 팀으로 변화시킵니다.

기술 요약: Symphony-Coord

문제 정의

멀티 에이전트 대규모 언어 모델(LLM) 시스템은 작업을 분해하고 전문화된 행동을 조정함으로써 복잡한 다단계 과업을 해결하는 것을 목표로 합니다. 그러나 기존의 조정 메커즘은 일반적으로 정적으로 할당된 역할과 중앙 집중식 제어기에 의존합니다. 에이전트 풀이 커지고 작업 분포가 진화함에 따라, 이러한 설계 선택은 다음과 같은 중대한 한계를 초래합니다:

비효율적인 라우팅: 정적 역할 레이블은 특정 모델 역량의 미세한 차이를 구별하기에는 너무 일반적이어서, 최적의 에이전트 선택을 저해합니다.
낮은 적응성: 설계 단계에서 확립된 고정된 작업-역할 매핑은 작업 분포가 변화할 때 더 적합한 에이전트로 전환하는 데 어려움을 겪습니다.
취약한 결함 복구: 매우 유능한 에이전트의 성능이 저하되거나 사용 불가능해질 경우, 정적 할당 방식은 신속한 교체 메커니즘이 부족하여 지속적인 성능 저하를 야기합니다.

일부 프레임워크는 프롬프트 기반의 "역할 수행(role playing)"(예: CAMEL)을 통해 역할의 경직성을 완화하려고 시도하지만, 이러한 접근 방식은 현재의 컨텍스트와 시스템 상태 하에서 어떤 에이전트가 서브태스크에 가장 적합한지를 경험으로부터 학습할 수 있는 원칙적인 결정 메커니즘이 부족합니다.

방법론: Symphony-Coord

저자들은 분산 실행을 특징으로 하는 태스크 로컬(task-local) 조정 프레임워크인 Symphony-Coord를 제안합니다. 이 시스템은 에이전트 선택을 정적인 매칭 문제가 아닌 온라인 컨텍스트 밴딧(online contextual bandit) 문제로 재정의합니다. 시스템은 각 에이전트를 하나의 "arm(팔)"으로 취급하며, 관찰 가능한 컨텍스트를 기반으로 실행자를 선택하고 피드백을 통해 라우팅 정책을 업데이트합니다.

이 프레임워크는 2단계 동적 비콘(Beacon) 프로토콜을 채택합니다.

1단계: 경량 후보 스크리닝 (Lightweight Candidate Screening)

통신 및 계산 오버헤드를 관리하기 위해, 시스템은 모든 서브태스크에 대해 전체 에이전트 풀을 쿼리하지 않습니다. 대신, 가용 가능한 각 에이전트 $j$ 에 대해 다음을 포함하는 경량 복합 점수( $s_{j,t}$ )를 계산합니다:

매치 점수(Match Score): 에이전트의 역량 텍스트와 서브태스크 요구사항 간의 코사인 유사도(또는 어휘적 폴백).
이전 성공 사례(Prior Success): 과거 성공률의 평활화된 추정치.
신뢰성(Reliability): 단기 운영 안정성(예: 최근 지연 시간, 에러 상태, 가용성).

시스템은 Top-L 에이전트를 선택하여 후보 집합 $C_t$ 를 형성함으로써 결정 공간을 크게 축소합니다.

2단계: 적응형 LinUCB 선택 (Adaptive LinUCB Selection)

선별된 후보 집합 $C_t$ 내에서, Symphony-Coord는 LinUCB 스타일의 온라인 셀렉터를 적용합니다. 각 후보에 대해, 다음을 융합한 컨텍스트 벡터 $x_{j,t}$ 가 구성됩니다:

태스크 요구사항 특징.
에이전트의 정적 역량 표현.
동적 런타임 신호(부하, 지연 시간, 평판, 가용성).

셀렉터는 상한 신뢰 구간(Upper Confidence Bound, UCB) 점수를 최대화합니다:
$UCB_{j,t} = x_{j,t}^\top \hat{\theta}_{t-1} + \beta_{t-1} \sqrt{x_{j,t}^\top A_{t-1}^{-1} x_{j,t}}$
이는 착취(exploitation)(높은 예상 보상을 가진 에이전트 선택)와 탐색(exploration)(불확실성을 줄이기 위해 불확실한 후보를 테스트) 사이의 균형을 맞춥니다.

피드백 및 업데이트 메커니즘

시스템은 지연된 실행 후 피드백(delayed post-execution feedback) 루프를 활용합니다. 보상은 다음을 기반으로 형성됩니다:

기본 유효성(에러 없는 완료).
실행 결과가 투표된 최종 출력과 일치할 경우의 "위너 보너스(winner bonus)"(합의 기반 프록시).
선택적 정답성 항(골드 라벨이 존재하는 경우).
효율성 페널티(지연 시간).

LinUCB 통계치( $A_t, b_t, \hat{\theta}_t$ )에 대한 업데이트는 태스크 수준의 투표가 해결된 후에 발생합니다. 이는 "지연 업데이트(deferred-update)" 효과를 도입하며, 파라미터는 약간의 지연을 두고 업데이트되지만, 라우팅 결정 자체는 현재의 컨텍스트와 상태에만 의존합니다.

주요 기여

문제 정식화: 서브태스크-에이전트 라우팅을 컨텍스트 특징에 태스크 요구사항과 에이전트 상태를 통합한 온라인 컨텍스트 밴딧 문제로 정식화했습니다.
2단계 동적 비콘 라우팅: 오버헤드 제어를 위한 Top-L 후보 필터링과 비정상성(non-stationarity) 처리를 위한 LinUCB 기반 적응형 선택을 결합한 실용적인 파이프라인을 제안합니다.
온라인 학습 폐쇄 루프: 피드백-투-업데이트 메커니즘을 설계하여 엔드 투 엔드로 라우팅 결정을 지속적으로 개선하며, 이는 순차적 의사결정 관점과 일치합니다.
이론적 범위: 표준적인 후보 조건부 선형 밴딧 가정 하에서 셀렉터에 대한 고확률 **아선형 후회 경계(sublinear regret bound)**를 증명했습니다. 이 분석은 Top-L 필터링과 지연된 투표 후 피드백의 효과를 명시적으로 분리합니다.
실증적 검증: 시뮬레이션, 실제 LLM 벤치마크(GSM8K, BBH, MedicalQA) 및 광범위한 절제 연구를 통해 프레임워크를 검증했습니다.

실험 결과

성능 향상: Symphony-Coord는 단일 에이전트 베이스라인을 일관되게 능가하며(GSM8K에서 8.5~~22.0%, BBH에서 16.5~~23.5%, MedicalQA에서 27.0~33.0%의 이득), 다양한 백본에 대해 멀티 에이전트 베이스라인(MetaGPT, AFLOW, GPTSwarm) 대비 최고의 평균 정확도를 달성했습니다.
이질성(Heterogeneity): 시스템은 이질적인 에이전트 풀로부터 큰 이득을 얻습니다. MedicalQA 실험에서 5개 에이전트 팀의 기술적 이질성이 가장 높은 정확도를 나타냈으며, 이는 역량 특화가 상호 보완성의 핵심 원천임을 시사합니다.
확장성: 에이전트 풀이 $N=5$ 에서 $N=100$ 으로 증가해도 프레임워크는 안정성을 유지합니다. 규모가 커질수록 성능 저하와 지연 시간이 발생하는 중앙 집중식 베이스라인(AutoGen, MetaGPT)과 달리, Symphony-Coord는 온라인 선택을 고정된 Top-L=3 후보군으로 제한함으로써 라우팅 오버헤드를 100ms 미만으로 유지합니다.
비용 효율성: Symphony-Coord는 유리한 파레토 프런티어(Pareto frontier)를 달성하여, 적절한 예산 내에서 단일 에이전트 베이스라인보다 높은 정확도를 제공하면서도, 멀티 에이전트 베이스라인과 비교하여 더 낮은 토큰 소비량과 지연 시간을 보여줍니다.
강건성: 에이전트 성능 저하를 포함하는 준실제 복구 실험에서, Symphony-Coord는 태스크를 건강한 에이전트로 성공적으로 재할당한 반면, 정적 및 고정된 UCB 변형 모델들은 복구에 실패했습니다.

의의 및 주장

본 논문은 Symphony-Coord가 확장 가능한 멀티 에이전트 LLM 조정이 정적인 역할 할당에 의존할 필요가 없음을 입증한다고 주장합니다. 대신, 효과적인 조정은 런타임 컨텍스트와 피드백에 의해 구동되는 적응형 라우팅을 통해 실현될 수 있습니다.

기존 연구와의 주요 차이점은 다음과 같습니다:

창발적 특화(Emergent Specialization): 플래너/솔버/체커의 정체성을 수동으로 할당하는 대신, 시스템이 태스크 특징과 피드백에 적응함에 따라 라우팅 특화가 점진적으로 나타납니다.
태스크 로컬 조정: 시스템은 워커들이 독립적이면서도, 경량화되고 제한된 라우팅 평면이 각 태스크 인스턴스에 대한 후보 선택 및 피드백 업데이트를 관리하는 분산 실행 모델로 작동합니다.
실용적 통합: 참신함은 새로운 밴딧 알고리즘 자체에 있는 것이 아니라, 이질적인 LLM-에이전트 풀을 위해 역량 인식 필터링, 컨텍스트 기반 선택, 피드백 기반 라우팅 특화를 통합한 데 있습니다.

저자들은 본 프레임워크가 태스크 분포 변화와 에이전트 실패에 강건하도록 설계되었으며, 이는 통신 오버헤드, 조정 복잡성 및 강건성과 관련된 LLM 기반 멀티 에이전트 시스템의 열린 과제들을 다루고 있다고 언급합니다. 향후 연구로는 더 큰 오픈 에이전트 풀, 더 풍부한 도구 사용 워크플로우, 그리고 더 긴 호라이즌의 태스크 스트림으로 프레임워크를 확장하는 것이 제안되었습니다.