기술 요약: 적응형 작업 그래프를 통한 언어 에이전트 팀의 효율성 향상

문제 제기

대규모 언어 모델 (LLM) 팀은 복잡한 협업 과제를 해결하기 위해 점점 더 많이 배포되고 있지만, 기존 조정 아키텍처는 구조와 적응성 사이의 근본적인 긴장 관계에 직면해 있습니다. 현재 접근 방식은 일반적으로 두 가지 극단 중 하나를 차지합니다:

1. 고도로 구조화된 시스템: MetaGPT 나 리더 - 작업자 계층 구조와 같은 프레임워크는 고정된 역할, 사전 지정된 파이프라인, 또는 사전에 할당된 정적 작업 분해에 의존합니다. 이러한 방식은 일관성을 보장하지만, 새로운 의존성이 발생하거나 작업 부하가 이동하거나 에이전트가 실패할 때 적응할 유연성이 부족합니다. 이러한 시스템은 종종 병목 현상, 단일 장애 지점 (예: 리더의 환각), 그리고 초기 계획이 최적화되지 않았을 때의 비효율성에 시달립니다.
2. 완전히 비구조화/분산 시스템: 이러한 시스템은 에이전트가 자율적으로 작동하도록 하여 적응성을 장려합니다. 그러나 오류 전파, 에이전트 간 충돌 (예: 파일 덮어쓰기), 중복 출력, 그리고 초선형 통신 오버헤드로 인해 빈번한 고통을 겪습니다. 조정 발판이 없으면 에이전트들은 종종 서로의 작업을 덮어쓰거나 순차적 의존성이 위반되었을 때 이를 감지하지 못합니다.

핵심적인 과제는 LLM 고유의 동적이고 문맥에 민감한 적응 능력을 유지하면서 전역 일관성과 효율성을 유지하는 조정 메커니즘을 설계하는 것입니다.

방법론: LATTE 프레임워크

저자들은 분산 시스템 프로토콜에서 영감을 받은 LATTE (작업 진화를 위한 언어 에이전트 팀) 라는 공식 오케스트레이션 프레임워크를 제안합니다. LATTE 는 에이전트 팀이 실행 중에 공유 동적 조정 그래프를 협력적으로 구축, 유지 및 적응할 수 있도록 합니다.

핵심 아키텍처

• 에이전트 역할: 팀은 리더($\ell$) 와 작업자($W$) 집합으로 구성됩니다.
  • 리더는 조정 그래프의 전역 가시성을 유지하며 그래프 전체에 영향을 미치는 연산자 (예: 작업 할당, 출력 검증, 정지된 작업 해제) 를 제어합니다.
  • 작업자는 할당된 하위 작업을 실행하고 지역적 가시성을 갖습니다. 그들은 구조적 변경 (예: 새로운 하위 작업 발견) 을 제안하고 사용 가능한 작업을 청구할 수 있습니다.
• 동적 조정 그래프 ($G_t$): 방향성 비순환 그래프 (DAG) 로서:
  • 노드는 하위 작업을 나타냅니다.
  • 간선은 의존성 제약을 인코딩합니다 (선행 노드가 완료될 때까지 노드는 시작할 수 없음).
  • 상태 ($\lambda_t$): 각 노드는 에이전트와 $\{pending, assigned, in\_progress, done, verified\}$ 집합에서 상태가 할당됩니다.
  • 프런티어 ($F_t$): 미해결 의존성이 없는 대기 중인 노드들의 집합입니다. 이들은 병렬 실행을 위해 즉시 사용 가능한 작업을 나타냅니다.

그래프 변이 연산자

LATTE 는 DAG 불변성을 보장하기 위해 사전 조건과 사후 조건을 가진 명시적 연산자 집합을 정의하여 그래프를 변이시킵니다:

• DISCOVER: 지정된 의존성을 가진 새로운 대기 중인 노드 (하위 작업) 를 추가합니다. 리더나 작업자가 호출할 수 있습니다.
• ASSIGN: 리더가 대기 중인 노드를 특정 작업자에게 할당합니다.
• CLAIM: 작업자가 유휴 상태일 때 프런티어 ($F_t$) 에서 노드를 능동적으로 청구하여 오버헤드를 줄이는 작업 도둑질 (work-stealing) 을 모방합니다.
• COMPLETE: 작업자가 할당된 노드를 완료로 표시합니다.
• RELEASE: 리더는 하트비트 모니터링을 통해 감지된 정지된 작업을 다시 대기 상태로 재할당합니다.
• CLOSE: 리더는 에이전트가 멈췄지만 테스트가 통과된 경우 작업자 신호를 기다리지 않고 노드를 완료로 강제합니다.
• VERIFY: 리더는 고위험 출력에 대한 검증 노드를 생성하여 하류 작업이 진행되기 전에 검토를 트리거합니다.

실행 프로토콜

실행은 라운드로 진행됩니다:

1. 계획: 리더가 작업을 분해하여 $G_0$를 초기화합니다.
2. 모니터링: 하트비트 점검이 지연자 (H 라운드 동안 비활성인 에이전트) 를 식별합니다.
3. 배포: 유휴 상태의 작업자가 $F_t$에서 작업을 청구하고, 리더는 나머지 작업을 할당합니다.
4. 병렬 실행: 선택된 에이전트들이 하위 작업을 실행합니다.
5. 그래프 업데이트: 에이전트들이 변이 (DISCOVER, COMPLETE, CLAIM) 를 제안하면, 리더가 이를 직렬화하고 병합하여 $G_t$를 업데이트합니다.

이 하이브리드 모델은 리더의 업데이트 직렬화를 통한 일관성과 작업자의 작업 발견 및 청구 능력을 통한 적응성 사이의 균형을 맞춥니다.

주요 기여

1. 공식 오케스트레이션 프레임워크: LATTE 는 명시적 그래프 변이 연산자를 가진 동적 작업 그래프를 사용하는 엄격한 실행 프로토콜을 도입합니다. 이 구조는 프런티어 노드를 통한 최대 병렬성과 같은 바람직한 런타임 속성을 유도합니다.
2. 하이브리드 중앙집중식 - 분산 모델: 이 프레임워크는 작업자가 구조적 변경을 제안하고 리더가 이를 평가하는 2 계층 모델을 사용합니다. 이는 작업 분해의 확률적 설명 (Metropolis-Hastings 샘플링과 유사) 에 기반하여 지역적 적응성과 전역 일관성 사이의 균형을 맞춥니다.
3. 해석 가능성 및 감사: 조정 결정을 진화하는 그래프로 외부화함으로써 LATTE 는 팀 행동을 관찰 가능하게 만듭니다. 저자들은 단순한 정확도 이상으로 다중 에이전트 시스템을 벤치마크하기 위해 오버라이드율, 동시 충돌, 낭비된 문자, 유휴 라운드, 지연자 꼬리 지연과 같은 조정 지표 세트를 도입합니다.
4. 실증적 검증: 광범위한 실험을 통해 LATTE 가 효율성과 정확성 측면에서 기존 프레임워크보다 우수함을 입증했습니다.

실험 결과

저자들은 Claude Sonnet 4-6 과 GPT-5.2 를 사용하여 탐색적 데이터 분석, 디버깅, 라이브러리 확장이라는 세 가지 작업에 대해 LATTE 를 네 가지 베이스라인 (MetaGPT, 리더 - 작업자, 분산, 정적 그래프 제거) 과 비교 평가했습니다.

• 효율성: LATTE 는 다음으로 좋은 방법 (정적 그래프) 대비 평균 토큰 비용을 **47.5%**로 달성하여 토큰 사용량을 거의 절반으로 줄였습니다. 또한 리더 - 작업자 및 MetaGPT 베이스라인에 비해 월클록 시간을 크게 단축했습니다.
• 정확도: LATTE 는 전체 작업 정확도 (79.7%) 에서 가장 높은 성과를 거두어 정적 그래프 (57.6%), 고정 파이프라인 (33.9%), 분산 팀 (73.9%) 을 능가했습니다.
• 조정 품질:
  • 충돌: LATTE 는 리더 - 작업자 대비 에이전트 오버라이드를 5.3 배, 분산 팀 대비 8.2 배 줄였습니다.
  • 낭비된 출력: 폐기된 문자 수는 실험당 약 45k(리더 - 작업자) 에서 약 5k 로 감소했습니다.
  • 통신: LATTE 에이전트는 더 적은 메시지 (20.4 대 31.4–34.8) 를 전송하고 더 간결한 콘텐츠를 교환했습니다.
  • 지연자: 하트비트 메커니즘을 통해 LATTE 는 정지된 에이전트에서 복구할 수 있어 정적 시스템 대비 노드의 95 백분위 완료 시간을 2.3 배 단축했습니다.
• 동적 적응: 분석 결과, LATTE 팀은 그래프 연산자의 전체 범위를 적극적으로 활용했으며, "Discover"가 가장 빈번하게 사용되어 실행 중 새로운 요구 사항이 발생함에 따라 팀이 조정 그래프를 확장했음이 확인되었습니다.

중요성 및 주장

이 논문은 에이전트 자체에 의해 유지되는 명시적 조정 구조가 동시에 더 효율적이고 해석 가능하며 적응적인 LLM 팀을 향한 실현 가능한 길이라고 주장합니다.

• 패러다임 전환: LATTE 는 조정 구조가 시스템 아키텍트에 의해 사전에 부과되어야 한다는 가정에 도전합니다. 대신, 에이전트들이 실행 중 축적된 증거에 적응할 수 있도록 팀이 자신의 조정 구조를 온라인으로 유지하고 수정할 수 있게 함을 보여줍니다.
• 비용 절감: 토큰 소비, 월클록 시간, 중복 통신을 줄임으로써 LATTE 는 LLM 팀과 관련된 계산 및 재정 비용을 직접적으로 낮춥니다.
• 견고성: 이 프레임워크는 조정 프로토콜에서 자연스럽게 도출되는 내결함성 (지연자 복구) 과 품질 관리 (선택적 검증) 메커니즘을 제공하며, 이는 하드코딩된 것이 아닙니다.

저자들은 단순한 작업에 대한 계획 오버헤드, 자연스러운 하위 작업 경계가 있는 도메인 (예: 코딩) 에 대한 현재 초점, 그리고 벤치마킹에 사용된 고정된 팀 크기를 포함한 한계를 지적합니다. 향후 연구로는 덜 구조화된 추론 작업으로 연산자를 확장하고, 그래프 구축 및 조정 프로토콜을 최적화하기 위해 강화 학습을 적용하는 것을 제안합니다.