기술적 요약: 에이전트는 무엇을 전달하는가? 다중 에이전트 시스템에서의 정보 교환 특성 분석

문제 제기

대규모 언어 모델 (LLM) 은 다양한 추론과 반복적 정제를 통해 성능을 향상시키는 협력적 다중 에이전트 (MA) 시스템을 가능하게 했지만, 이러한 시스템은 여전히 오류 전파에 취약합니다. 이러한 시스템에서 잘못된 중간 정보는 successive interaction rounds(연속적인 상호작용 라운드) 를 통해 강화되고 증폭되어 종종 하류 추론을 저하시킵니다. 기존 완화 전략은 대부분 사후 대응적이며, 실패가 발생한 후에만 에이전트 행동이나 시스템 구조를 수정할 뿐, 작업 수행 중 에이전트 간 통신 내용의 구체적인 역할을 간과하고 있습니다. 에이전트가 교환하는 정보의 구체적인 유형과 이러한 정보 범주의 유무가 집단적 성능에 어떻게 영향을 미치는지에 대한 이해에는 중요한 격차가 존재합니다.

방법론

저자들은 5 개의 대표적인 MA 시스템, 6 개의 벤치마크, 3 개의 작업 도메인 (수학, 질문 응답, 코드), 그리고 2 개의 LLM 백본 (Qwen2.5-32B-Instruct 및 Qwen2.5-Coder-32B) 에 걸쳐 에이전트 간 통신에 대한 체계적이고 대규모의 실증 분석을 수행했습니다. 방법론은 세 단계로 진행됩니다:

1. 정보 분류 (RQ1)

저자들은 4,133 개의 샘플에서 41,330 개의 통신 흔적을 수집했습니다. 두 명의 전문가 평가자에 의한 수동 주석과 GPT-4o 를 판사로 활용한 LLM 기반 확장 (scaling) 을 결합하여, 에이전트 응답에서 교환되는 5 가지 고유한 정보 범주를 식별하고 정의했습니다:

• C1 (답변): 에이전트의 최종 답변 또는 결정.
• C2 (추론): 답변을 도출하는 일련의 논리적 단계.
• C3 (검증): 추론 과정이나 답변의 유효성에 대한 평가.
• C4 (참조): 다른 에이전트의 추론이나 답변을 확인, 도전, 또는 발전시키기 위한 직접적인 참조.
• C5 (변화 없음): 이전 턴과 답변이 변경되지 않았음을 명시적으로 진술하는 내용.

2. 가림 분석 (RQ2)

이러한 범주의 인과적 영향을 파악하기 위해, 저자들은 leave-one-out (LOO) 가림 (occlusion) 프레임워크를 적용했습니다. 에이전트 응답이 후속 에이전트에게 전달되기 전에 특정 정보 범주를 체계적으로 마스킹 (텍스트 구간을 [MASK] 토큰으로 대체) 했습니다. 성능 변화가 의미적 제거 때문인지 프롬프트 길이 변동 때문인지 확인하기 위해 길이 일치 제어 설정을 사용했습니다. 다양한 MA 아키텍처 (순차적, 논쟁, 집단 정제) 와 작업에 대해 각 범주의 작업 정확도 변화 ($\Delta C_x$) 를 측정했습니다.

3. 복구 증강 (RQ3)

가림 분석 결과를 바탕으로, 저자들은 **범주 인식 복구 증강 (CARA)**을 제안했습니다. 이는 통신 중 중요한 정보 범주의 존재를 강제하는 표적 개입 전략입니다. CARA 는 두 가지 계층으로 작동합니다:

1. 프롬프트 증강: 시스템 프롬프트를 확장하여 특정 범주 (추론, 검증, 참조) 를 명시적으로 요구하도록 합니다.
2. 응답 검증: 생성된 응답에서 이러한 필수 범주를 자동으로 확인합니다. 중요한 정보가 누락된 경우, 에이전트는 필요한 구조적 구성 요소가 나타날 때까지 응답을 수정하도록 최대 3 회까지 재호출됩니다.

주요 결과

정보 교환의 보편성

• **추론 (C2)**과 **답변 (C1)**이 가장 보편적인 범주로, 대부분의 시스템에서 응답의 90% 이상에 나타납니다.
• **검증 (C3)**과 **참조 (C4)**는 논쟁 (Debate) 이 아닌 시스템에서는 현저히 드물며 (종종 5% 미만), 논쟁 시스템에서는 이러한 범주의 prevalence(보편성) 이 더 높습니다 (최대 50%).
• **변화 없음 (C5)**은 가장 드문 범주로, 에이전트가 수정이 필요 없을 때 명시적으로 진술하는 경우는 드물다는 것을 시사합니다.

정보 제거 (가림) 의 영향

• 추론 (C2): 추론을 제거하면 협력적 솔루션 도출에서의 결정적 역할을 강조하며, 일관되게 성능이 저하됩니다 (최대 -18.63%).
• 검증 (C3): 영향은 작업에 따라 다릅니다. 검증 제거는 코드 작업에서는 성능을 향상시키지만 (+23.27%), 수학 작업에서는 저하시킵니다 (-18.08%). 이는 검증이 일부 맥락에서는 노이즈로 작용하지만 다른 맥락에서는 필수적임을 시사합니다.
• 참조 (C4) 및 변화 없음 (C5): 이러한 범주를 제거하면 종종 성능이 크게 저하됩니다 (예: 집단 정제 시스템에서 참조 제거 시 -38.69%). 이는 일관된 에이전트 간 통신과 결정 일관성을 유지하는 데 있어 이들의 중요성을 나타냅니다.
• 시스템 의존성: 정보 범주의 유용성은 시스템 설계와 밀접하게 연결되어 있습니다. 예를 들어, 추론 제거는 역할 기반 순차 시스템에는 해를 끼치지만 균일 순차 시스템에서는 성능을 향상시킬 수 있으며, 이는 역할 할당이 추론의 유용성을 안내함을 시사합니다.

CARA 의 효과성

• CARA 는 중요한 정보의 존재를 강제함으로써 실패한 사례를 성공적으로 복구합니다.
• 이 방법은 실패한 사례 중 최대 **86.2%**를 복구합니다 (특히 역할 기반 순차 시스템의 수학 작업에서).
• 복구율은 **True→False (TF)**사례 (기준선이 성공했으나 가림으로 실패한 경우) 가 **False→False (FF)**사례보다 일반적으로 높습니다. 이는 구조적 강제력이 도움이 되지만, 근본적인 후보 솔루션이 본질적으로 잘못되었다면 성능을 완전히 복구할 수는 없음을 시사합니다.
• instruction-tuned 모델 (Qwen2.5-Inst) 은 코드 전문 모델보다 더 높은 복구율을 보였으며, 이는 강제된 프롬프트 지시를 더 잘 준수하기 때문일 가능성이 높습니다.

중요성과 주장

본 논문은 MA 시스템 내 에이전트 간 교환되는 정보에 대한 체계적인 분류를 최초로 제시하며, 토큰 수나 라운드 수와 같은 정량적 지표를 넘어 통신의 내용을 분석합니다.

저자들은 다음과 같이 주장합니다:

1. 정보의 질이 중요하다: 효과적인 MA 협력은 시스템 토폴로지나 에이전트 수뿐만 아니라, 에이전트 간 교환에서 특정 정보 유형 (추론, 검증, 참조) 의 질과 존재 여부에 달려 있습니다.
2. 구조를 통한 복구: 기본 모델이나 아키텍처를 수정하지 않고도 필수 통신 범주의 존재를 강제함으로써 실패한 다중 에이전트 작업을 복구할 수 있습니다.
3. 현재 시스템의 한계: 현재 MA 시스템은 종종 충분한 검증이나 참조 없이 답변과 추론을 전파하여 오류 전파를 초래합니다. "검증"과 "참조"를 희생하면서 "답변"과 "추론"이 지배적인 현상은 더 균형 잡힌 통신 프로토콜이 필요함을 나타냅니다.

이 연구는 MA 시스템의 향후 개선은 에이전트 행동이나 시스템 구조만 최적화하는 것이 아니라, 중요한 정보 교환을 보장하는 통신 수준의 개입에 초점을 맞춰야 함을 시사합니다.