1. 연구 배경 및 문제 정의 (Problem)

• LLM 성능 수렴 (Performance Convergence): 2026 년 현재, GPT-4o, Claude 3.5, Gemini 2.0 등 주요 LLM 들은 MMLU, HumanEval 등 표준 벤치마크에서 2~5% 이내의 매우 유사한 성능을 보여줍니다. 이로 인해 특정 모델 하나를 선택하는 것만으로는 시스템 성능 향상에 한계가 왔습니다.
• 기존 접근법의 한계:
  • 정적 오케스트레이션 (Static Orchestration): LangGraph, CrewAI 등은 고정된 실행 토폴로지 (순차, 병렬 등) 를 사용합니다. 작업의 특성에 따라 최적의 구조가 달라지는데도 이를 적응하지 못합니다.
  • 동적 모델 조합 (Dynamic Model Composition): MoA(Mixture-of-Agents) 등은 여러 모델의 출력을 선택하거나 합성하지만, 에이전트 간의 **구조적 토폴로지 (coordination topology)**는 고정되어 있습니다.
• 핵심 문제: 개별 모델의 성능이 수렴한 시점에서, 어떤 작업을 어떤 구조 (토폴로지) 로 에이전트들을 조율할 것인가가 시스템 성능을 결정하는 가장 중요한 변수가 되었습니다.

2. 제안 방법론: AdaptOrch Framework

AdaptOrch 는 작업의 의존성 그래프 (DAG) 구조를 분석하여 4 가지 기본 토폴로지 중 최적의 것을 동적으로 선택하는 프레임워크입니다.

A. 핵심 이론: 성능 수렴 스케일링 법칙 (Performance Convergence Scaling Law)

• 모델 간 성능 차이 ($\epsilon$) 가 0 에 수렴할 때, 시스템 성능의 분산은 모델 선택보다 오케스트레이션 토폴로지 선택에 의해 지배됨을 수학적으로 증명했습니다.
• 특히 병렬화 가능한 작업 (Parallelism Width, $\omega$) 이 많고 결합도 (Coupling, $\gamma$) 가 낮을수록 토폴로지 선택의 영향력이 기하급수적으로 커집니다.

B. 4 가지 기본 토폴로지 (Canonical Topologies)

1. 병렬 (Parallel, $\tau_P$): 모든 하위 작업을 동시에 실행. 결합도가 낮고 독립적인 작업에 적합.
2. 순차 (Sequential, $\tau_S$): 작업 간 의존성에 따라 순서대로 실행. 높은 결합도가 필요한 작업에 적합.
3. 계층적 (Hierarchical, $\tau_H$): 리드 에이전트가 작업을 분해하고 하위 에이전트에게 할당. 복잡한 조정과 충돌 해결이 필요한 경우.
4. 하이브리드 (Hybrid, $\tau_X$): DAG 를 위상적 레이어로 나누어, 레이어 내에서는 병렬, 레이어 간에는 순차 실행.

C. 시스템 파이프라인 (5 단계)

1. 작업 분해 (Task Decomposition): 입력 작업을 하위 작업 (Subtasks) 으로 분해하고, 각 작업의 복잡도와 의존성을 파악합니다.
2. DAG 구성 (DAG Construction): 하위 작업들을 방향성 비순환 그래프 (DAG) 로 변환합니다.
   • 노드: 하위 작업.
   • 에지: 의존성 및 결합도 (Context Sharing 필요도: $0 \sim 1$).
   • 구조적 특성 계산: 병렬화 폭 ($\omega$), 임계 경로 깊이 ($\delta$), 결합도 밀도 ($\gamma$).
3. 토폴로지 라우팅 (Topology Routing): 계산된 DAG 특성에 따라 최적의 토폴로지를 선택하는 알고리즘 (Algorithm 1) 을 실행합니다.
   • 시간 복잡도: $O(|V| + |E|)$ (선형 시간).
   • 예: 결합도가 높고 작업 수가 많으면 계층적 ($\tau_H$), 결합도가 낮고 병렬 폭이 크면 병렬 ($\tau_P$) 선택.
4. 실행 (Execution): 선택된 토폴로지에 따라 에이전트들을 실행합니다.
5. 적응적 합성 (Adaptive Synthesis): 병렬 에이전트들의 출력을 통합합니다.
   • 일관성 점수 (Consistency Score): 임베딩 유사도를 기반으로 출력 간의 모순을 감지합니다.
   • 재라우팅 (Re-routing): 일관성이 낮으면 결합도 추정을 높이고 토폴로지를 변경 (예: 병렬 $\to$ 계층적) 하여 재시도합니다.

3. 주요 기여 (Key Contributions)

1. 성능 수렴 스케일링 법칙: 모델 성능이 수렴하는 환경에서 토폴로지 선택이 모델 선택보다 성능에 미치는 영향이 $\Omega(1/\epsilon^2)$ 배 더 크다는 것을 이론적으로 정립했습니다.
2. 토폴로지 라우팅 알고리즘: 작업 의존성 DAG 의 구조적 속성 (병렬 폭, 결합도 등) 을 기반으로 $O(|V| + |E|)$ 시간 내에 최적의 토폴로지를 매핑하는 알고리즘을 제안했습니다.
3. 적응적 합성 프로토콜: 병렬 에이전트 출력의 모순을 감지하고, 임베딩 기반 일관성 점수와 재라우팅 메커니즘을 통해 수렴을 보장하는 프로토콜을 설계했습니다.
4. 실증적 검증: 코딩, 추론, RAG 등 다양한 도메인에서 정적 베이스라인 대비 12~23% 의 성능 향상을 입증했습니다.

4. 실험 결과 (Results)

• 평가 벤치마크:
  • 코딩: SWE-bench Verified (버그 수정)
  • 추론: GPQA Diamond (과학 질문)
  • RAG: HotpotQA (다단계 질문 답변)
• 주요 성과:
  • 성능 향상: 단일 최상위 모델 (Single Best) 대비 SWE-bench 에서 22.9%, GPQA 에서 14.9%, HotpotQA 에서 11.9% 향상.
  • 토폴로지 적응성:
    • SWE-bench(병렬성 높음): 62% 가 하이브리드, 24% 가 병렬로 라우팅됨.
    • GPQA(결합도 높음): 41% 가 순차, 35% 가 계층적으로 라우팅됨.
    • 참고: 고정된 병렬 토폴로지를 사용한 경우 (Static-Parallel) 오히려 성능이 저하되는 경우가 발생하여, 작업 특성에 맞지 않는 토폴로지가 해가 될 수 있음을 보여줌.
  • 효율성: MoA(모델 혼합) 나 LLM-Blender 와 같은 기존 다중 에이전트 방식보다 토큰 소비가 적으면서도 더 높은 정확도를 달성 (토큰 효율성 최적).
  • 파레토 최적: 지연 시간 (Latency) 대 정확도 (Accuracy) 트레이드오프 곡선에서 다른 모든 베이스라인을 지배 (Pareto optimal) 함.

5. 의의 및 결론 (Significance)

• 패러다임 전환: LLM 개발의 초점이 **"어떤 모델을 쓸 것인가 (Which Model?)"**에서 **"어떻게 에이전트들을 조율할 것인가 (Which Orchestration?)"**로 이동해야 함을 주장합니다.
• 실용성: Claude Code Agent Teams, LangGraph 등 기존 인프라에 쉽게 통합 가능하며, 라우팅 알고리즘의 오버헤드는 매우 낮음 (<50ms).
• 미래 전망: LLM 성능이 계속 수렴함에 따라, 토폴로지 설계와 적응적 오케스트레이션이 시스템 최적화의 핵심 요소가 될 것이며, AdaptOrch 는 이를 위한 이론적 및 실용적 기반을 제공합니다.

이 논문은 다중 에이전트 시스템의 구조적 설계가 개별 모델의 능력 이상으로 시스템 전체 성능을 결정할 수 있음을 체계적으로 증명하고, 이를 자동화하는 프레임워크를 제시했다는 점에서 큰 의의를 가집니다.