기술 요약: AgentFugue

문제 제기

최근 장거리 에이전트 작업의 발전은 주로 "확장 (scaling up)"에 의존해 왔습니다. 즉, 더 강력한 기반 모델, 더 나은 도구 통합, 그리고 더 효과적인 발판 마련을 통해 개별 에이전트를 개선하는 방식입니다. 이 접근법은 단일 궤적의 능력을 확장하지만, 탐구의 폭을 본질적으로 증가시키지는 않습니다.

본 논문은 **"확장 (scaling out)"**에 대한 질문을 다룹니다. 동일한 작업을 수행하는 여러 동등한 에이전트들이 명시적인 역할 전문화, 워크플로우 오케스트레이션, 또는 중앙 집중식 계획에 의존하지 않고도 집단적으로 능력을 향상시킬 수 있는지 여부입니다. 핵심 과제는 통신에 있습니다. 통신이 없으면 에이전트들은 고립된 탐색으로 작동하며, 제한 없는 통신이 이루어지면 유용한 신호는 종종 노이즈에 압도되고 탐구의 다양성이 붕괴됩니다. 저자들은 효과적인 확장을 위해서는 동등한 에이전트들이 선택적으로 중간 진행 상황을 교환하면서도 고유한 탐색 방향을 유지할 수 있는 집단적 추론 메커니즘이 필요하다고 주장합니다.

방법론: AgentFugue

저자들은 **공유 추론 허브 (shared reasoning hub)**를 중심으로 구축된 AgentFugue라는 집단적 추론 프레임워크를 제안합니다. 중앙 집중식 플래너나 토론 스타일의 다중 에이전트 시스템과 달리, AgentFugue 는 에이전트들을 동일한 작업을 병렬로 탐색하는 동등한 존재로 취급하며, 허브는 컨트롤러가 아닌 외부 통신 계층으로 작용합니다.

핵심 아키텍처

1. 공유 추론 허브 ($H$): 동등한 에이전트들과 함께 작동하는 플러그인 통신 계층입니다. 이는 로컬 추론을 대체하지 않지만, 한 궤적의 중간 발견 사항을 다른 궤적에 선택적으로 제공 가능하게 만듭니다.
2. 에피소드: 로컬 에이전트 궤적은 고정된 컨텍스트 예산을 기반으로 "에피소드"라고 불리는 연속적인 조각으로 나뉩니다.
3. 2 단계 허브 작업:
   • 에피소드 작성 ($M_{write}$): 에이전트의 컨텍스트가 작성 예산에 도달하면, 허브는 완료된 세그먼트를 간결한 에피소드 노트($z_{i,e}$)로 압축합니다. 이 노트는 무엇을 확립했는지, 시도했는지, 배제했는지, 그리고 어떤 증거를 수집했는지를 포착합니다. 원본 에피소드 콘텐츠는 허브에 저장되는 반면, 에이전트의 작업 컨텍스트는 노트로 교체되어 용량을 확보합니다.
   • 의도 기반 읽기 ($M_{read}$): 에이전트는 모든 노트를 수동으로 수신하지 않습니다. 대신, 에이전트는 현재 컨텍스트에서 보이는 노트를 기반으로 의도($q_{i,t}$)와 일련의 에피소드 참조($E_{i,t}$)를 포함하는 구조화된 요청을 발행합니다. 허브는 참조된 에피소드의 전체 원본 콘텐츠를 검색하여 에이전트의 현재 필요에 맞춘 집중된 안내나 증거 조각 ($r_{i,t}$) 을 생성합니다.

최적화

허브는 중간 크기의 언어 모델 (Qwen3.5-9B 에서 초기화됨) 로 인스턴스화되며 두 단계로 최적화됩니다:

1. 지도 미세 조정 (SFT): 허브는 교사 생성 데이터를 기반으로 참조 노트와 판독물을 생성하는 법을 학습합니다.
2. 그룹 상대 정책 최적화 (GRPO): 허브는 전체 다중 에이전트 루프 내의 강화 학습을 통해 하류 작업 성공과 더 정렬됩니다. 작업 에이전트는 고정되며, GRPO 압력은 통신 계층 자체를 최적화하여 더 짧고 성공적인 탐색 경로로 이어지는 허브 출력을 보상합니다.

확장 설정

이 프레임워크는 두 가지 설정에서 평가됩니다:

• 동질적 팀: 여러 에이전트가 동일한 백본과 구성을 공유하여 궤적 간 상호작용으로부터의 이득만을 테스트합니다.
• 이질적 팀: 에이전트들이 모델 백본이나 구성에서 서로 다르며, 허브가 상호 보완적인 추론 편향과 실패 모드를 중재할 수 있는지 테스트합니다.

주요 기여

1. 동등 에이전트 확장 식별: 본 논문은 역할 전문화가 아닌 궤적 간 재사용에서 능력이 도출되어야 하는 장거리 추론을 위한 고유한 설정을 식별합니다.
2. AgentFugue 프레임워크: 공유 추론 에피소드의 작성, 검색, 읽기를 기반으로 하는 통신 프레임워크입니다. 이는 중앙 집중식 계획 없이 병렬 궤적을 선택적으로 공유되는 추론 생태계로 변환하며, 서로 다른 목소리가 서로의 진행 상황을 발전시키는 바로크 푸가 (Baroque fugue) 의 구조에서 영감을 받습니다.
3. 실증 분석: 동질적 및 이질적 팀 모두에서 프레임워크에 대한 포괄적인 연구를 수행하여, 확장이 에이전트별 효율성을 향상시키는 시기, 팀 수준의 이득을 창출하는 시기, 그리고 메커니즘이 붕괴되는 지점을 분석합니다.

실험 결과

저자들은 BrowseComp(심층 멀티홉 웹 검색), WideSearch(폭넓은 증거 수집), HLE(전문가가 작성한 다중 도메인 추론) 의 세 가지 도전적인 장거리 벤치마크에서 AgentFugue 를 평가했습니다.

• 성능: AgentFugue 는 모든 벤치마크와 백본 구성 (Qwen3.5-35B-A3B 및 DeepSeek-v4-Flash) 에서 최첨단 결과를 달성했으며, 단일 에이전트 ReAct, DeepResearch 시스템, 그리고 기타 다중 에이전트 접근법 (Naive-Multi-Agent, Swarm-Multi-Agent) 을 포함한 강력한 베이스라인을 능가했습니다.
• 확장 행동:
  • 동질적 팀에서 팀 크기가 $N=1$에서 $N=5$로 증가함에 따라 에이전트별 정확도가 크게 향상되었으며, 그 후 정체되었습니다. 그러나 팀 수준 집계 (Pass@N) 는 더 큰 팀과 함께 계속 향상되었습니다.
  • 이질적 팀에서 약한 모델이 허브로부터 가장 큰 혜택을 받았으며, 강한 모델 또한 이득을 보았습니다. 이질적 팀은 동질적 팀에 비해 더 높은 허브 사용 (메모리 트래픽) 을 유발했는데, 이는 다양한 백본이 동료들에게 진정으로 새로운 중간 노트를 생성함을 나타냅니다.
• 효율성: 허브는 고립된 탐색을 공유된 조정으로 성공적으로 전환했습니다. 팀 크기가 커짐에 따라 에이전트별 검색 및 방문 호출은 감소한 반면 메모리 트래픽은 증가하여, 중복된 탐색에서 구조화된 정보 재사용으로의 전환을 나타냈습니다.

중요성과 주장

본 논문은 집단적 추론이 단순한 더 많은 컴퓨팅 자원 소비 방식이 아닌, 동등 에이전트 시스템의 확장을 능력 향상의 고유한 원천으로 바꿀 수 있다고 주장합니다.

• 기존 패러다임과 구별: 다중 에이전트 토론이나 그룹 채팅과 달리, AgentFugue 는 동기화된 턴 테이킹을 강제하지 않습니다. "Best-of-N"샘플링과 달리, 궤적들은 재사용 가능한 중간 진행 상황을 통해 탐색 중에 서로에게 영향을 미칩니다. 정적 코퍼스에 대한 RAG 와 달리, 읽기 경로는 의도 기반이며 필요에 따라 원본 콘텐츠를 합성합니다.
• 일반화: 검색 중심, 추론 중심, 그리고 폭넓은 작업 전반에 걸쳐 일관된 개선이 관찰되어 공유 추론 허브가 범용 조정 원시 (primitive) 임을 시사합니다.
• 한계: 저자들은 현재 구현이 중간 크기의 허브와 제한된 백본 세트를 사용한다고 지적합니다. 또한, 저품질 노트나 과도하게 자신 있는 중간 결론이 팀 전체에 오해의 소지가 있는 가설을 전파하여 다양성을 감소시킬 수 있는 실패 모드를 인정합니다.

저자들은 이러한 통신이 다양성을 유지할 만큼 선택적이고 오류 전파를 방지할 만큼 신뢰할 수 있도록 만드는 과제가 남아있지만, AgentFugue 는 동등 에이전트 확장이 장거리 에이전트 추론을 개선하기 위한 실현 가능하고 효과적인 축임을 입증한다고 결론지었습니다.