기술 요약: Sakana Fugu

문제 정의

프런티어 대규모 언어 모델(LLM)은 다양한 영역에서 전문가 수준의 성능을 달رش했으나, 점차 차별화된 전문성을 보이고 있습니다. 예를 들어, 어떤 모델은 수학적 추론이나 정리 증명에 탁월한 반면, 다른 모델은 소프트웨어 엔지니어링, 사이버 보안 또는 알고리즘 구현 분야를 지배합니다. 나아가 단일 도메인 내에서도 모델들은 미세한 강점(예: 직접적인 알고리즘 구현 vs 복잡한 계획 수립)을 가질 수 있습니다.

현재 AI 역량을 확장하는 접근 방식은 주로 더 크고 비싼 모델을 학습시키는 데 의존합니다. 그러나 본 논문은 다음의 프런티어가 단일 모놀리식(monolithic) 모델이 아니라, 여러 특화된 모델의 상호 보완적인 강점을 식별하고 결합하며 증폭할 수 있는 시스템을 통해 달성될 수 있다고 주장합니다. 또한, "에이전트 스캐폴드(agentic scaffolds)"(구조화된 프롬프팅, 도구 사용, 환경 피드백)는 개별 모델의 성능을 향려시켰지만, 이는 종종 고정된 작업 특정적 시스템에 머물러 있습니다. 각 쿼리의 요구 사항에 따라 워크플로, 통신 토폴로지, 도구 사용을 적응시켜 워크플로를 동적으로 오케스트레이션할 수 있는 시스템, 즉 집단 지성을 원시 모델 크기 이상의 확장 가능한 축으로 취급할 수 있는 시스템이 필요합니다.

방법론

Sakana Fugu는 단일 모델 인터페이스를 통해 멀티 에이전트 시스템을 노출하도록 설계된 학습된 오케스트레이터 모델 제품군입니다. 사용자가 워크플로를 직접 설계할 필요 없이, Fugu 모델은 프런티어 LLM 워커(worker) 풀 위에 "에이전트 스캐폴드"를 동적으로 구축합니다. 시스템은 서로 다른 운영 지점에 최적화된 두 가지 변형인 Fugu(지연 시간 고려)와 Fugu-Ultra(성능 우선)를 출시합니다.

1. Fugu: 성능과 지연 시간의 균형

Fugu는 지연 시간을 최소 जबकि 가장 유능한 에이전트를 선택할 가능성을 극대화하기 위해 입력당 단일 워커를 선택하도록 설계되었습니다.

• 파라미터화: Fugu는 경량 선택 헤드가 최종 은닉층(final hidden layer)에 부착된 사전 학습된 언어 모델 백본을 사용합니다. 역할을 할당하는 기존의 코디네이터와 달리, Fugu의 헤드는 $L$개의 워커 모델에 대한 로짓(logits)을 출력하여 하나를 워커로 선택합니다. 백본을 효율적으로 적응시키기 위해, 시스템은 선택된 파라미터 행렬의 특이값 스케일(singular-value scales)만을 학습시키는 **특이값 미세 조정(singular-value fine-tuning)**을 채택합니다.
• 학습 패러다임:
  • 지도 미세 조정(SFT): 모델은 단일 단계 작업(코딩, 수학, 추론)에 대해 학습됩니다. 레이블은 모든 워커 모델을 작업에 실행하고 정답(ground truth) 대비 성능을 기준으로 순위를 매겨 생성됩니다. 오케스트레이터는 단일 레이블 대신 워커들에 대한 소프트 확률 분포(softmax를 통해)를 예측하도록 학습되어 더 풍부한 신호를 제공합니다.
  • 진화적 최적화: SFT 이후, Fugu는 엔드 투 엔드 멀티 턴 작업(예: 도구 사용 및 환경 피드백이 포함된 코딩 어시스턴트)에 대해 sep-CMA-ES(분리형 공분산 행렬 적응 진화 전략)를 사용하여 최적화됩니다. 이 단계는 상호작용 궤적의 기대 종료 보상을 최적화하여, 정적인 벤치마크가 놓칠 수 있는 도구 신뢰성이나 반복적 디버깅과 같은 실질적인 능력을 학습하게 합니다.

2. Fugu-Ultra: 성능 우선

Fugu-Ultra는 답변의 품질이 지연 시간보다 중요한 복잡한 다단계 워크로드를 위해 설계되었습니다. 이는 자연어 에이전트 워크플로를 생성하는 Conductor 프레임워크를 기반으로 합니다.

• 워크플로 생성: 오케스트레이터는 하위 작업(subtask)을 정의하고, 특정 워커 에이절트를 할당하며, 액세스 리스트(이전 출력을 컨텍스트에 포함할 범위)를 지정하는 일련의 워크플로 단계를 출력합니다. 이를 통해 순차적 체인부터 병렬 트리까지 임의의 토폴로지가 가능해집니다.
• 학습: 포맷팅 오류에는 벌점을 주고 작업 완료에는 보상을 주는 보상 함수를 사용하여 GRPO(Grouped Relative Policy Optimization)로 학습됩니다.
• 고급 메모리 및 격리:
  • 워크플로 내 격리(Intra-workflow Isolation): 첫 번째 에이전트의 궤적이 후속 에이전트에게 편향을 주는 "오케스트레이션 붕괴(orchestration collapse)"를 방지하기 위해, 단일 워크플로 내의 에이전트들은 격리됩니다. 이들은 액세스 리스트에 의해 명시적으로 허용된 컨텍스트만 볼 수 있어 독립적인 솔루션 경로를 유지합니다.
  • 지속적 공유 메모리(Persistent Shared Memory): 에이전트는 중복된 도구 호출을 피하고 컨텍스트를 유지하기 위해 서로 다른 워크플로(멀티 턴 대화) 간의 상호작용 메모리를 보유하지만, 현재 워크플로 내에서는 격리된 상태를 유지합니다.
• 에이전트 풀: 시스템은 다양한 프런티어 모델(예: Gemini-3.1-Pro, Claude-Opus-4.8, GPT-5.5)을 오케스트레이션합니다.

주요 기여

1. 확장 축으로서의 학습된 오케스트레이션: 본 논문은 모델 오케스트레이션을 모델 크기를 키우는 것과 병행할 수 있는 보완적인 확장 축으로 제안합니다. 이는 새로운 학습 과정이나 파라미터 접근 없이도 기존의 특화된 모델들을 결합하여 개별 모델의 성능을 뛰어넘는 결과를 낼 수 있음을 보여줍니다.
2. 동적, 쿼리 적응형 스캐폴드: 고정된 에이전트 프레임워크와 달리, Fugu 모델은 각 쿼리에 특화된 스캐폴드(라우팅, 토폴로지, 통신 전략)를 동적으로 고안하는 법을 학습합니다. 여기에는 수학 중심 작업에는 수학 전문가 모델을, 사실 검색 작업에는 사실 검색 전문가를 사용하는 등의 최적의 애그리게이터(aggregator) 선택이 포함됩니다.
3. 프로덕션 준비 완료 시스템: 본 보고서는 단일 모델의 규모를 넘어 실제 상호작용 작업을 처리할 수 있는 프로덕션 시스템으로 변모시키는 인프라와 설계 원칙(예: 효율성을 위한 특이값 미세 조정, 견고성을 위한 진화 전략)을 상세히 설명합니다.
4. 이중 계층 릴리스: 저지연 단일 에이전트 선택을 위한 Fugu와 고성능 멀티 에이전트 워크플로를 위한 Fugu-Ultra의 도입은 다양한 사용 사례에 대한 실질적인 옵션을 제공합니다.

결과

Fugu 모델은 도전적인 벤치마크 세트에서 평가되었으며, 종종 최첨단 프런티어 모델 및 독점 "프리뷰" 모델들을 능가하는 성과를 보였습니다.

• 에이전트 코딩: Fugu-Ultra는 SWE-Bench Pro(73.7%) 및 Terminal Bench 2.1(82.1%)에서 최고 수준의 성과를 달성하며, 차순위 공개 모델들을 5~6 퍼센트 포인트 차이로 앞섰습니다. 또한 빌드에는 GPT-5.5를, 디버깅에는 Claude-Opus-4.8을 교대로 사용하는 정교한 적응력을 보여주었습니다.
• 과학적 추론: Fugu와 Fugu-Ultra 모두 GPQA-Diamond에서 **95.5%**를 기록하여, Gemini-3.1-Pro(94.3%)와 GPT-5.5(93.6%)를 능가했습니다. 시스템은 수학 중심 하위 작업은 GPT로, 과학 중심 작업은 Gemini로 성공적으로 라우팅했습니다.
• 기타 벤치마크:
  • LiveCodeBench Pro: 90.8% (Fugu-Ultra) vs 88.4% (GPT-5.5).
  • CharXiv Reasoning: 86.6% (Fugu-Ultra) vs 84.1% (GPT-5.5).
  • Humanity's Last Exam: 50.0% (Fugu-Ultra), 모든 베이스라인을 능가함.
• 정성적 작업:
  • AutoResearch: 자율 ML 학습 최적화에서 Fugu-Ultra는 단일 모델 베이스라인보다 낮은 검증 bits-per-byte(0.9774)를 달성하여, 장기적 탐색(long-horizon search)에서의 우수한 일관성과 정점 성능을 입증했습니다.
  • 고전 일본어 독해: Fugu-Ultra는 흩어진 고전 일본어 글자의 읽기 순서를 복구하는 데서 평균 정규화 편집 거리(NED) 0.776을 기록하여, 최고의 프런티어 베이스라인(0.642)을 크게 앞질렀습니다.
  • CAD 생성: Fugu-Ultra는 다른 모델들이 불완전하거나 구조적으로 약한 결과를 내놓는 상황에서도 기계적으로 유효하고 완전한 CAD 설계(예: 카메라 조리개 메커니즘)를 일관되게 생성했습니다.

의의 및 주장

본 논문은 Sakana Fugu가 프런티어 AI 역량에 접근하고 확장하는 방식의 변화를 나타낸다고 주장합니다.

• 역량의 민주화: 파라미터 수준이 아닌 행동 수준에서 모델을 구성함으로써, Fugu는 가중치에 대한 접근 권한 없이도 폐쇄형 소스 프런티어 모델과 이질적인 제공업체를 통합할 수 있습니다. 이는 프런티어 수준의 역량을 더욱 모듈화하고 접근 가능하게 만듭니다.
• 경제적 및 지정학적 함의: 저자들은 오케스트레이션을 하나의 확장 축으로 취급하는 것이 AI의 혜택을 더 넓게 분산시켜, 가장 큰 모델을 훈련하는 데 필요한 막대한 컴퓨팅 자원 없이도 조직이 높은 성능을 달 수 있게 한다고 제안합니다.
• 집단 지성: 이 연구는 "집단 지성"이 조정된 모델 집단의 창발적 속성이라는 가설을 검증합니다. 이는 시스템이 가장 강력한 코더처럼 소프트웨어를 설계하고, 가장 강력한 수학자처럼 추론하며, 각 모델을 언제 배치할지 동적으로 결정함으로써, 기존 구성 요소들로부터 "슈퍼 에이전트"를 만들어낼 수 있음을 입증합니다.

저자들은 Fugu를 미래의 AI 발전이 단순히 더 큰 모델을 훈련하는 것뿐만 아니라, 특화된 모델들이 동적이고 쿼리에 적응하는 스캐폴드를 통해 어떻게 협력할지를 배우는 것에 달려 있다는 방향을 향한 첫걸음으로 규정합니다.