기술 요약: TeamBench: 강제된 역할 분리에 따른 에이전트 조정 평가

문제 제기

현재 대규모 언어 모델 (LLM) 기반의 다중 에이전트 시스템은 종종 프롬프트를 통해 지정된 역할 (예: 기획자, 실행자, 검증자) 간에 작업을 분해합니다. 그러나 기존 벤치마크는 이러한 역할 경계를 강제하지 못해, 단일 모델이 모든 정보에 접근하고 작업 공간을 수정하며 솔루션을 동시에 인증할 수 있게 합니다. 이러한 "역할 붕괴"는 성능 향상이 진정한 조정에서 비롯된 것인지, 아니면 단일 에이전트가 여러 역할을 효과적으로 수행한 것인지를 모호하게 만듭니다. 또한, 특히 "검증자" 역할이 독립적인 품질 게이트가 아닌 단순한 추가 편집 과정으로 작용할 수 있을 때, 역할 분리가 가치를 제공하는 시점과 오버헤드나 실패 모드를 초래하는 시점이 명확하지 않습니다.

방법론

저자들은 강제된 운영체제 수준의 역할 분리 하에서 에이전트 조정을 평가하도록 설계된 벤치마크 TEAMBENCH를 소개합니다.

1. 강제된 역할 분리

프롬프트 기반 할당과 달리, TEAMBENCH 는 엄격한 파일 시스템 권한을 가진 컨테이너화된 샌드박스를 사용하여 세 가지 명확한 역할을 격리합니다.

• 기획자 (Planner): 전체 작업 명세 (spec.md) 를 읽을 수 있지만, 작업 공간을 수정하거나 명령을 실행할 수는 없습니다.
• 실행자 (Executor): 작업 공간을 편집하고 명령을 실행할 수 있지만, 전체 명세가 아닌 요약된 개요 (brief.md) 만 받습니다.
• 검증자 (Verifier): 전체 명세와 실행자로부터의 읽기 전용 증거 (로그, 작업 공간 상태) 를 검토하여 최종 통과/불통과 판정을 내립니다. 작업 공간을 수정하거나 명령을 실행할 수는 없습니다.

어떤 단일 역할도 세 가지 기능 (전체 명세 읽기, 작업 공간 편집, 답변 인증) 을 동시에 보유하지 않습니다. 작업 완료를 위해서는 역할 간에 정보가 전달되어야 합니다.

2. 작업 구성

• 규모: 851 개의 작업 템플릿이 확장되어 931 개의 시드 평가 인스턴스를 생성합니다.
• 출처: 650 개의 GitHub 버그 리포트 (예: Flask, Django, NumPy), 30 개의 데이터 과학 작업, 10 개의 사고 대응 작업, 그리고 161 개의 원래 작성된 템플릿.
• 설계: 작업은 정보 비대칭을 요구하도록 구성되었습니다. 중요한 제약 조건은 전체 명세에만 존재하므로, 기획자가 전달하지 않는 한 실행자에게는 보이지 않습니다.
• 실패 모드: 작업은 전달 요구 사항, 적대적 함정, 개방형 구현, 발견 작업, 그리고 합성 작업을 포함합니다.

3. 제거 실험 조건

벤치마크는 한계 기여도를 분리하기 위해 모델을 다섯 가지 조건 하에서 평가합니다.

• 솔로 (Solo): 전체 접근 권한을 가진 단일 에이전트.
• 제한됨 (Restricted): 전체 명세 없이 실행자 도구만 가진 단일 에이전트.
• 풀 팀 (Full Team): 기획자 + 실행자 + 검증자.
• 팀, 계획 없음 (Team, No Plan): 실행자 + 검증자 (검증자가 전체 명세를 보유).
• 팀, 평가 없음 (Team, No Evaluate): 기획자 + 실행자 (검증자 부재).

팀워크 필요성 지수 (TNI) 는 누락된 요구 사항이 팀을 통해 전달되어야 할 때 성능이 얼마나 회복되는지를 측정하도록 정의됩니다.

4. 실험 설정

• 모델: 4 개 계열 (Anthropic, Google, OpenAI, Alibaba) 에 속한 13 개 모델.
• 역할 혼합: 역할에 대한 서로 다른 모델 할당을 테스트하는 공급자 간 그리드 (27 가지 구성).
• 인간 연구: 동일한 역할 경계 하에서 솔로, 하이브리드 (인간 + 에이전트), 팀 (세 명의 인간) 모드에 참여하는 40 세션의 파일럿 연구.

주요 결과

1. 조건부 팀 가치

• 낮은 솔로 성능: 솔로 에이전트가 어려움을 겪을 때 (최저 솔로 점수 5 분위수), 팀이 단일 에이전트보다 훨씬 우수하게 수행합니다. 가장 어려운 작업에서 풀 팀은 솔로보다 15.7 점 더 높았습니다.
• 높은 솔로 성능: 솔로 에이전트가 이미 잘 수행하는 작업에서는 팀이 종종 성능을 악화시킵니다. 최고 5 분위수에서 풀 팀은 솔로보다 6.8–10.1 점 뒤처졌습니다.
• 메커니즘: 실행자가 구조가 부족할 때 기획자가 도움을 주지만, 검증자는 종종 실행자가 혼자 해결할 수 있었던 작업에서 "재작업"을 유발하거나 올바른 솔루션을 덮어씁니다.

2. 병목 현상으로서의 검증자 실패

• 오인정 (False Acceptance): 검증자는 결정론적 채점자가 실패한 제출물의 49.4% 를 승인합니다.
• 비대칭성: 검증자는 통과하는 작업을 거의 거부하지 않지만 (거부 오율 < 19%), 실패하는 작업을 자주 승인합니다.
• 영향: 제거 실험에서 검증자를 제거하면 평균 부분 점수가 5.5 점 향상되어, 현재 프로토콜에서 검증자가 품질 게이트가 아닌 병목 현상으로 작용함을 시사합니다.

3. 프롬프트 기반 대 강제된 역할

• 통과율: 프롬프트 기반 팀과 샌드박스 강제 팀은 통계적으로 구별할 수 없는 통과율을 보였습니다.
• 행동적 차이: 프롬프트 기반 실행에서는 검증자가 실행자의 코드를 편집하려는 시도가 3.6 배 더 많은 경우 발생했습니다 (역할 장악). 강제 조치는 이러한 위반을 줄여, 통과율만으로는 역할 준수 및 조정 행동의 중요한 차이를 가릴 수 있음을 시사합니다.

4. 공급자 간 혼합

• 혼합 공급자 팀은 훨씬 낮은 비용으로 유사하거나 더 나은 통과율을 달성할 수 있습니다. 예를 들어, 혼합 팀 (Google 기획자, Anthropic 실행자, Anthropic 검증자) 은 전체 Anthropic 팀 비용의 약 절반 수준에서 26.7% 의 통과율을 달성했습니다.
• 실행자와 검증자 모델의 선택이 기획자 선택보다 더 중요합니다.

5. 인간 연구 통찰

• 하이브리드 붕괴: 인간-AI 하이브리드 세션은 종종 "빠른 승인" 패턴 (중앙값 3 분) 으로 붕괴되었으며, 구조적 채점 실패에도 불구하고 인간들이 높은 비율로 통과를 스스로 인증했습니다.
• 인간 팀: 인간 팀은 역할 간 누락된 정보를 조정하는 데 더 많은 시간을 보냈으며 (중앙값 26 분), "역할 간 누락된 정보"를 주요 실패 요인으로 꼽았으며, 이는 벤치마크의 설계 제약과 일치합니다.
• 검증자 인식: 인간들은 검증자 역할을 매우 가치 있게 평가했으나, 이는 LLM 검증자에서 관찰된 높은 실패율과 대조됩니다.

주요 기여

1. 역할 분리 조정 벤치마크: 명세 접근, 작업 공간 편집, 인증의 엄격한 분리를 운영체제 수준 권한으로 강제하여 역할 붕괴를 방지하는 TEAMBENCH 도입.
2. 매칭된 제거 실험: 솔로, 제한됨, 풀 팀, 계획 없음, 평가 없음과 같은 통제된 제거 조건을 통해 기획, 검증, 명세 접근의 한계 가치를 분리하는 프레임워크.
3. 검증자 실패 분석: 현재 LLM 검증자가 신뢰할 수 없는 품질 게이트임을 보여주는 경험적 증거 (채점 실패 제출물의 거의 절반 승인) 및 단일 에이전트로 해결 가능한 작업에서 검증자 존재가 성능을 저하시킬 수 있음을 입증.
4. 통과율 이상의 행동 지표: 통과율이 역할 위반, 코드 편집 시도와 같은 고유한 상호작용 패턴을 숨길 수 있음을 보여주며, 팀의 가치는 기반 단일 에이전트의 능력에 조건부임을 입증.

중요성과 주장

이 논문은 다중 에이전트 시스템을 평가하는 데 통과율만으로는 부족하다고 주장합니다. 팀이 높은 통과율을 달성하는 것이 조정 때문이 아니라, 단일 모델이 모든 역할을 수행하거나 검증자가 오류를 거부하지 못했기 때문일 수 있습니다.

• 조정은 조건부입니다: 팀은 단일 에이전트가 진전을 이루기 위한 맥락이 부족할 때 주로 긍정적인 상향 효과를 제공합니다. 단일 에이전트가 유능할 때 역할을 추가하면 종종 오버헤드와 실패 지점이 추가됩니다.
• 강제가 중요합니다: 프롬프트 기반과 강제된 역할이 유사한 통과율을 낼 수 있지만, 강제는 역할 위반 (예: 검증자가 코드 재작성) 과 같은 빈도와 같은 중요한 행동적 차이를 드러냅니다.
• 검증자 신뢰성: 검증자의 높은 오인정률은 마일스톤 완성을 위해 LLM 심사를 의존하는 다중 에이전트 벤치마크가 출력을 과대평가할 수 있음을 시사합니다. 향후 시스템은 도구 지원 검사나 증거 기반 인증이 필요합니다.
• 인간-AI 비교: 인간 연구는 "빠른 승인"이 하이브리드 환경에서의 실패 모드임을 강조하며, 정보의 구조적 분할 (명세 대 작업 공간) 은 인간과 에이전트 모두에게 지배적인 장벽임을 보여줍니다.

저자들은 TEAMBENCH 가 추가된 에이전트가 고유한 작업을 수행하는지 아니면 기존 능력을 단순히 복제하는지 평가하기 위한 필수 인프라를 제공하며, 다중 에이전트 벤치마킹에 대한 더 엄격한 기준을 제시한다고 결론지었습니다.