What Should Agents Say? Action-state Communication for Efficient Multi-Agent Systems

기술 요약: 효율적인 다중 에이전트 시스템을 위한 PACT

문제 정의
대규모 언어 모델(LLM) 기반의 다중 에이전트 시스템(MAS)은 일반적으로 에이전트 간 통신을 위해 제약이 없는 자연어에 의존합니다. 에이전트들이 역할, 파이프라인 또는 턴 스케줄을 통해 협업하더라도, 그들이 교환하는 콘텐츠는 종종 자유로운 형식이며, 전체 추론 과정(reasoning traces), 장황한 설명, 중복된 재진술 등을 포함합니다. 이러한 방식은 심각한 비효율성을 초래합니다. 에이전트가 긴 내부 추론 과정을 전달함에 따라, 후속 에이전트는 공유된 대화 이력의 일부로서 이 콘텐츠를 반복적으로 처리해야 합니다. 이러한 "컨텍스트 누적(context compounding)" 현상은 토큰 사용량을 급격히 팽창시키고, 공유 컨텍스트 창을 소모하며, 특히 현대적인 추론 모델이 개입되는 다회차 설정에서 시스템 성능과 추론 비용을 모두 저하시킵니다.

현재의 MAS 연구는 주로 오케스트레이션(역할, 턴 테이킹, 도구 할당)에 집중해 왔으며, 에이전트 간 메시지 콘텐츠는 부차적이고 제약이 없는 변수로 취급해 왔습니다. 본 논문은 메시지의 콘텐츠가 성능과 비용을 직접적으로 결정짓는 핵심적인 설계 레버라고 주장합니다.

방법론: 진단 분석 및 PACT
저자들은 먼저 8B에서 32B 파라미터 규모의 모델들을 사용하여 두 가지 구별되는 MAS 토폴로지인 대칭적 **분할 증거 상호작용(Split-Evidence Interaction, 설정 A)**과 **순차적 파이프라인(Sequential Pipeline, 설정 B)**에 대해 진단 분석을 수행했습니다. 이들은 다섯 가지 일반적인 통신 전략을 평가했습니다:

1. 전체 콘텐츠(Full Content): 추론 과정을 포함한 전체 자유 형식 출력을 전달.
2. 간결한 생성(Concise Generation): 더 짧은 응답을 생성하기 위해 네이티브 비사고(non-thinking) 모드 사용.
3. 결론만 전달(Conclusion Only): 최종 답변/결론만을 전달.
4. 짧은 요약(Brief Summary): 명시적으로 짧은 자유 형식의 요약을 요청.
5. 아티팩트만 전달(Artifact Only): 역할별 아티팩트(예: 계획 또는 비평)만을 전달.

분석 결과:

• 단일 전략이 모든 토폴로지에서 보편적으로 최적일 수는 없었습니다.
• 전체 콘텐츠는 일관되게 비용이 많이 들고 중복적입니다.
• 간결한 생성과 짧은 요약은 불안정합니다. 이들은 후속 에이전트에게 필요한 작업 관련 정보를 누락하는 경우가 빈번합니다.
• 결론만 전달 방식은 파이프라인(역할 순서에 의해 컨텍스트가 공급되는 경우)에서는 작동하지만, 증거가 누락되는 상호작용 상황에서는 실패합니다.
• 아티팩트만 전달 방식은 유용한 콘텐츠를 포착하지만, 의도와 근거를 신호하기 위한 필수적인 프로토콜이 부족하여 때때로 상호작용 턴을 증가시킵니다.

PACT 프로토콜
효과적인 메시지는 사적인 추론이 아닌 **행동 중심 정보(action-centered information)**를 보존해야 한다는 발견을 바탕으로, 저자들은 **PACT(Protocolized Action-state Communication and Transmission)**를 제안합니다.

• 핵심 메커니즘: PACT는 에이전트 간 통신을 공적인 상태 업데이트 문제로 취급합니다. 에이전트의 가공되지 않은 출력($y_t$)이 공유 이력에 추가되기 전에, 이를 송신 측 함수($\Pi_{PACT}$)에 의해 압축된 구조적 기록으로 투영합니다.
• 메시지 구조: 공적 메시지는 세 가지 필드로 구성됩니다:
  1. ACTION (행동): 송신자가 무엇을 했는지 또는 다음 에이전트가 무엇을 해야 하는지를 명시적으로 기술 (의도 명확화).
  2. STATE (상태): 행동의 근거가 되는 증거, 관찰 또는 환경 피드백을 기록 (컨텍스트 제공).
  3. RESULT (결과): 실행 가능한 출력물(예: 정제된 솔루션, 검색된 사실 또는 도구 결과)을 포함.
• 프라이버시 경계: PACT는 사적인 계산과 공적인 통신을 엄격히 분리합니다. 에이전트는 고유의 전체 추론, 자기 점검 및 계획 능력을 유지합니다. 오직 결과물인 행동-상태 기록만이 공유됩니다. 이는 중간 단계의 숙고 과정이 컨텍스트 창에 누적되는 것을 방지합니다.
• 하네스 불가지론(Harness-Agnostic): PACT는 MAS 설계 선택(역할, 스케줄)과 무관하며, 기존 시스템에 경량화된 프록시 훅(proxy hook) 형태로 구현할 수 있습니다.

주요 기여

1. 체계적 분석: 고정된 통신 정책이 보편적으로 최적일 수 없음을 입증하였으며, 에이전트 간 메시지 콘텐츠가 미개척되었으나 중요한 설계 차원임을 확인했습니다.
2. PACT 프로토콜: 사적 계산과 공적 통신 사이의 경계를 정의하고, 공유 이력을 압축된 행동-상태 기록으로 제한하는 학습이 필요 없는(training-free) 하네스 불가지론적 프로토콜을 도입했습니다.
3. 실증적 검증: 통제된 MAS 설정 및 실제 코딩 하네스 전반에서 PACT가 성능-비용 프런티어를 개선함을 보여주었습니다.

실험 결과

• 통제된 MAS 설정:
  • 분할 증거(설정 A): PACT는 비제약 통신 대비 평균 **38.7%**의 토큰 사용량을 줄이면서도 기존 베이스라인과 대등하거나 더 우수한 F1 점수를 달ach했습니다.
  • 순차적 파이프라인(설정 B): PACT는 훨씬 적은 토큰을 사용하면서도 대등하거나 더 강한 정확도를 달성했습니다. 예를 들어, Qwen3-32B 모델에서 PACT는 Multi-Agent Debate 베이스라인이 요구하는 토큰의 약 19~23%만을 사용하면서도 정확도를 유지하거나 향상시켰습니다.
  • 어블레이션(Ablation): 세 가지 필드(Action, State, Result) 중 하나라도 제거하면 성능이 저하되고 토큰 사용량이 증가하여, 완전한 행동-상태 인계의 필요성을 확인했습니다.
• 실제 코딩 하네스:
  • OpenHands: PACT는 SWE-bench Verified 해결률을 19.40%에서 23.00%로 높였으며(+18건 해결), 해결당 토큰 수를 10.3% 감소시켰습니다.
  • SWE-agent: PACT는 입력 토큰을 50.4%(314.6M에서 156.0M으로) 줄였고, 해결당 토큰 수를 47% 감소시켰으며, 해결률에는 미미한 영향(25.6%에서 24.2%)만을 주었습니다.

의의 및 주장
본 논문은 에이전트 간 메시지의 내용을 규율하는 것이 중복된 컨텍스트 성장을 줄이는 효과적인 메커니즘이라고 주장합니다. PACT는 에이전트들이 효과적으로 협업하기 위해 반드시 전체 추론 과정을 공유할 필요는 없으며, 대신 구조화되고 근거가 명확한 행동-상태 기록을 공유하는 것만으로도 충분하다는 것을 보여줍니다.

저자들은 PACT가 학습이 필요 없고(training-free), **하네스 불가지론적(harness-agnostic)**이라는 점을 강조하며, 이는 기존 에이전트 애플리케이션에 대한 실용적인 추론 시점의 개입임을 시사합니다. 결과적으로, MAS의 "성능-비용 프런티어"는 단순히 모델을 확장하거나 오케스트레이션을 변경함으로써가 아니라, 공유 통신 채널에 들어가는 정보를 엄격하게 정의함으로써 개선될 수 있음을 보여줍니다. 결론적으로, 에이전트 간 통신을 제약 없는 자연어로 남겨두는 것은 비효율적이며, PACT와 같은 구조화된 프로토콜이 확장 가능하고 비용 효율적인 다중 에이전트 시스템에 필수적입니다.