기술 요약: 다중 에이전트 시스템에서의 잠재적 협업 (Latent Collaboration in Multi-Agent Systems)

1. 문제 정의

현재의 거대 언어 모델(LLM) 기반 다중 에이전트 시스템(MAS)은 추론과 통신을 위해 **텍스트 기반 중재(text-based mediation)**에 의존하고 있습니다. 이러한 시스템에서 에이전트들은 자연어 토큰을 통해 정보를 교환하며, 이는 일종의 "공용어(lingua franca)" 역할을 합니다. 효과적이기는 하지만, 이 방식은 다음과 같은 상당한 비효전성을 초래합니다:

• 연산 오버헤드: 텍스트 토큰을 생성하고 디코딩하는 것은 연산 비용이 많이 들며, 이는 높은 지연 시간과 토큰 사용량으로 이어집니다.
• 정보 손실: 연속적인 내부 표현을 이산적인 토큰으로 변환하고 다시 복원하는 과정에서 정보 손실이나 "재인코딩(re-encoding)" 비용이 발생할 수 있습니다.
• 표현력의 한계: 이산적 토큰은 모델의 연속적인 내부 사고 과정을 온전히 담아내지 못할 수 있습니다.

기존 연구들은 단일 모델의 내부 추론(예: 잠재적 연쇄 사고/latent Chain-of-Thought)이나 제한된 정보 교환(예: 두 모델 간의 KV 캐시 공유)을 위한 잠재 표현을 탐구해 왔습니다. 그러나 여러 에이전트 간의 순수 잠재 협업(pure latent collaboration)—즉, 중간 단계의 텍스트 디코딩 없이 연속적인 잠재 공간 내에서 추론과 통신이 완전히 이루어지는—을 가능하게 하는 포괄적인 프레임워크는 아직 미개척 영역으로 남아 있습니다.

2. 방법론: LatentMAS

저자들은 LLM 에이전트가 연속적인 잠재 공간 내에서 순수하게 협업할 수 있도록 하는 엔드 투 엔드(end-to-end), 학습 불필요(training-free) 프레임워크인 LatentMAS를 소개합니다. 이 프레임워크는 세 가지 핵심 메커니즘을 기반으로 작동합니다.

A. 자기 회귀적 잠재 사고 생성 (Auto-Regressive Latent Thoughts Generation)

토큰을 디코딩하는 대신, 각 에이전트는 마지막 레이어의 은닉 표현(last-layer hidden representations)($h_t$)을 자기 회귀적으로 생성함으로써 추론을 수행합니다.

• 프로세스: 입력 임베딩이 주어지면, 에이전트는 최종 은닉 상태를 계산합니다. 이 상태는 표준 소프트맥스(softmax)와 어휘 투영($W_{out}$)을 우회하여 다음 단계의 입력으로 처리됩니다.
• 입출력 정렬: 분포 드리프트(생성된 은닉 상태가 학습된 토큰 임베딩과 통계적으로 달라지는 현상)를 방지하기 위해, 저자들은 선형 정렬 연산자를 제안합니다. 투영 행렬 $W_a$ (근사치 $W_{out}^\dagger W_{in}$)는 출력 은닉 상태를 다음 단계로 전달하기 전, 유효한 입력 임베딩 공간으로 매핑합니다. 이는 실행 시 한 번만 계산되어 재사용됩니다.

B. 잠재 작업 기억 전송 (Latent Working Memory Transfer)

텍스트 없이 에이전트 간의 통신을 촉진하기 위해, LatentMAS는 키-값(Key-Value, KV) 캐시에 저장된 공유 잠재 작업 기억을 활용합니다.

• 메커니즘: 에이전트 $A_1$이 잠재 추론 단계를 완료하면, 축적된 KV 캐시(초기 입력 컨텍스트와 새로 생성된 잠재 사고를 모두 포함)가 추출됩니다.
• 전송: 이 KV 캐시는 후속 에이전트($A_2$)의 KV 캐시에 직접 결합(prepend)됩니다. 이를 통해 $A_2$는 정보를 텍스트로 재인코딩하지 않고도 $A_1$의 완전한 내부 상태를 조건(condition)으로 삼아 생성을 수행할 수 있습니다.
• 충실도: 이 메커니즘은 원시 연속 표현을 보존하고 직접 전달함으로써 무손실 정보 전송을 보장합니다.

C. 시스템 아키텍처

이 프레임워크는 특정 협업 전략에 구애받지 않으며, 두 가지 표준 MAS 설정에서 평가됩니다:

1. 순차적 MAS (Sequential MAS): 체인 형태의 에이전트 파이프라인(Planner $\to$ Critic $\to$ Refiner $\to$ Solver)으로, 잠재 사고가 순차적으로 흐릅니다.
2. 계층적 MAS (Hierarchical MAS): 도메인 특화 에이전트들(수학, 과학, 코드)이 독립적으로 추론하고, 요약(Summarizer) 에이전트가 이들의 잠재 작업 기억을 집계하여 최종 답변을 합성합니다.

파이프라인의 마지막 에이전트만이 결과를 텍스트로 디코딩하며, 모든 중간 추론과 통신은 잠재 상태로 유지됩니다.

3. 주요 기여

1. 순수 잠재 협업 프레임워크: LatentMAS는 중간 텍스트 생성 없이 연속 공간 전체에서 작동하며, 여러 에이전트 간의 잠재 추론과 잠재 통신을 통합한 최초의 프레임워크입니다.
2. 학습 불필요 설계: 이 방법은 추가적인 미세 조정(fine-tuning)이나 학습 데이터를 요구하지 않습니다. 기존의 사전 학습된 모델을 활용하며, 잠재 공간을 정렬하기 위해 단순한 선형 투영을 사용합니다.
3. 이론적 분석:
   • 표현력: 저자들은 잠재 사고가 텍스트 기반 추론보다 $O(d_h / \log |V|)$만큼 더 높은 효율성으로 정보를 표현할 수 있음을 증명했습니다 (여기서 $d_h$는 은닉 차원, $|V|$는 어휘 사전 크기).
   • 정보 보존: KV 캐시를 전송하는 것이 직접적인 입력 교환과 동등한 정보 충실도를 보장함을 입증했습니다.
   • 복잡도: LatentMAS는 동일한 표현력을 기준으로 할 때 텍스트 기반 MAS보다 낮은 시간 복잡도를 보이며, 토큰 디코딩 및 재인코딩의 오버헤드를 피합니다.
4. 경험적 검증: 9개의 벤치마크(수학, 과학, 상식, 코드)와 5가지 모델 규모(Qwen3 및 Llama3 제품군)에 걸친 포괄적인 평가를 수행했습니다.

4. 결과

LatentMAS는 모든 지표에서 단일 모델 베이스라인 및 텍스트 기반 MAS(TextMAS)를 상회하는 일관된 개선을 보여주었습니다.

• 정확도:
  • 단일 모델 베이스라인 대비 평균 14.6%(순차적) 및 13.3%(계층적) 높은 성능을 보였습니다.
  • 텍스트 기반 MAS 베이스라인 대비 2.8%(순차적) 및 4.6%(계층적) 높은 성능을 보였습니다.
  • 특정 작업에서는 최상의 텍스트 기반 베이스라인보다 최대 14.6% 높은 정확도를 달 기록했습니다.
• 토큰 효율성:
  • 텍스트 기반 MAS와 비교하여 총 출력 토큰 사용량을 **70.8%에서 83.7%**까지 줄였습니다.
  • 단일 에이전트와 비교했을 때 토큰 사용량을 **15.0%에서 60.3%**까지 절감했습니다.
• 추론 속도:
  • 텍스트 기반 MAS 대비 4.0배에서 4.3배 더 빠른 엔드 투 엔드 추론 속도를 제공합니다.
  • 작업 및 모델 규모에 따라 2.6배에서 7.7배의 속도 향상을 달성했습니다.
• 잠재 단계 분석: 성능은 **40~80회의 잠재 단계(latent steps)**에서 정점에 도달하며, 그 이후에는 이득이 정체됩니다. 이는 추론 깊이와 중복성 사이의 최적의 트레이드오프를 시사합니다.

5. 의의 및 주장

본 논문은 LatentMAS가 자연어의 제약을 초월하는 확장 가능하고 일반적인 에이전트 협업 패러다임을 구축한다고 주장합니다. 그 의의는 다음과 같습니다:

• 효율성-표현력 트레이드오프: 이 모델은 전통적인 트레이드오프를 재편하여, 계산 오버헤드를 대폭 낮추면서도 더 높은 추론 표현력(더 풍부한 의미 구조)을 제공합니다.
• 무손실 통신: 텍스트라는 이산적 병목 현상을 피함으로써, 전송 과정에서 에이전트의 내부 상태를 완벽하게 보존하여 더욱 견고한 다중 에이전트 추론을 가능하게 합니다.
• 실제 배포 가능성: 학습이 필요 없는 방법론으로서, 재학습 비용 없이 기존 LLM에 즉시 적용하여 시스템 수준의 지능을 높일 수 있습니다.

저자들은 텍스트 매개(text-mediated)에서 잠재 매개(latent-mediated) 협업으로 전환하는 것이 에이전틱 AI(Agentic AI) 시대에 효율적이고 고용량의 시스템 수준 지능을 실현하기 위한 결정적인 단계라고 결론짓습니다.