💻 computer science

Multi-Agent LLM Collaborative Reasoning and Task Planning for Complex Task Solving

이 논문은 보정된 파라미터와 공유 메모리 메커니즘을 바탕으로 의존성 인식 태스크 그래프 상에서 작동하는 별도의 플래너, 실행자, 검증자 역할을 특징으로 하는 멀티 에이전트 LLM 프레임워크를 제안하며, 이는 완료율, 정확도 및 사실적 일관성을 향상시키고 도구 오류를 줄임으로써 복잡한 태스크 해결에 있어 단일 에이전트 베이스라인보다 성능을 크게 향상시킨다.

원저자: Wentao Zhang, Tian Liao, Yihui Feng

게시일 2026-07-06

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Wentao Zhang, Tian Liao, Yihui Feng

원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

거대한 퍼즐을 푸는 상황을 상상해 보세요. 마치 눈을 가린 채 한 사람의 기억과 지시사항에만 의존하여 레고로 초고층 빌딩을 쌓아 올리는 것과 같습니다. 이것이 바로 우리가 단일 거대 언어 모델(LLM)에게 복잡한 문제를 해결하도록 요청할 때 발생하는 현상입니다. 모델은 구조를 계획하고, 벽을 세우고, 치수를 확인하고, 실수를 바로잡는 모든 일을 한꺼번에 처리하려고 시도합니다. 하지만 종종 혼란에 빠지며, 초기에 실수를 저지르면 그 오류 위에 나머지 탑을 쌓아 올리게 되어 결국 붕괴로 이어지곤 합니다.

이 논문은 더 나은 방법을 제안합니다. 한 사람이 모든 것을 다 하는 대신, 엄격하고 조직적인 라인 안에서 협력하는 세 명의 서로 다른 AI 에이전트로 구성된 전문 건설 팀을 만드는 것입니다.

이 "건설 팀"이 어떻게 작동하는지 쉬운 비유를 통해 설명하겠습니다.

1. 세 가지 역할 (팀원)

논문은 업무를 실제 현장의 프로젝트 팀처럼 세 가지 구체적인 직무로 나눕니다.

플래너 (설계사): 이 에이전트는 큰 그림을 봅니다. 단순히 "탑을 쌓아라"라고 말하는 대신, 의존 관계가 담긴 지도를 만듭니다. "먼저 기초가 필요하다. 그다음 기둥을 세워야 한다. 기둥이 완성되기 전에는 지붕을 올릴 수 없다"라고 말하는 식입니다. 또한 각 단계의 중요도와 위험도에 따라 "우선순위 점수"를 할당합니다.
실행가 (시공자): 이 에이전트는 실제 힘든 일을 수행합니다. 설계사의 지도를 따르며 계산기, 검색 엔진, 코드 해석기와 같은 필요한 도구들을 가져와 특정 부분을 구축합니다. 전체 건물을 걱정하는 것이 아니라, 오직 자신의 특정 과업을 정확하게 완수하는 데 집중합니다.
검증가 (검사관): 이 역할은 새롭고 매우 중요한 추가 요소입니다. 시공자의 작업이 수용되기 전에 검사관이 이를 확인합니다. 그들은 증거를 살핍니다. "올바른 도구를 사용했는가? 수학 계산이 맞는가? 설계도와 일치하는가?" 만약 검사관이 확신(신뢰 점수 0.72 미만)을 갖지 못한다면, 시공자에게 해당 부분만을 다시 수정하도록 돌려보냅니다. 건물 전체를 허무는 것이 아니라, 깨진 벽돌 하나만을 고치도록 하는 것입니다.

2. 공유 노트 (공유 메모리)

일반적인 대화에서는 사람들이 5분 전에 했던 말을 잊어버릴 수 있습니다. 이 시스템에서 세 에이전트는 디지털 노트를 공유합니다.

설계사가 계획을 그리면 노트에 기록됩니다.
시공자가 증거를 찾아내면 "출처 태그"와 함께 기록됩니다.
검사관이 아이디어를 거부하면, 그 거부 기록 역시 남겨져서 아무도 그 잘못된 아이디어 위에 다시 작업을 쌓지 않도록 합니다.
이를 통해 팀이 특정 구간을 다시 시작해야 할 때, 처음부터 모든 것을 다시 배울 필요 없이 노트만 보고 작업을 이어갈 수 있습니다.

3. "신호등" 시스템 (프로토콜)

에이전트들이 서로 말을 끊거나 끝없는 논쟁의 굴레에 빠지는 것을 방지하기 위해, 그들은 엄격한 규칙을 따릅니다.

초록불: 설계사가 과업을 부여합니다.
노란불: 시공자가 작업을 수행하고 증거를 제시합니다.
빨간불 또는 초록불: 검사관이 작업을 검토합니다.
- 초록불: "통과." 작업이 저장됩니다.
- 빨간불: "정지." 검사관은 왜 실패했는지 구체적인 이유(예: "잘못된 도구 사용" 또는 "데이터 누락")를 설명합니다. 그러면 설계사는 그 문제 하나만을 해결하기 위해 계획을 업데이트합니다.

4. 결과: 왜 더 효과적인가

연구진은 어려운 수학 문제, 다양한 도구 활용, 까다로운 사실 관계 질문 등 난도가 높은 과업을 대상으로 이 "팀(Crew)" 방식이 단일 "솔로 작업자(표준 GPT-4 모델)"보다 얼마나 뛰어난지 테스트했습니다.

솔로 작업자를 10페이지짜리 에세이를 한 번에 쓰려고 노력하는, 똑똑하지만 지친 학생이라고 생각해 보세요. 그 학생은 2번째 문단에서 작은 실수를 할 수 있고, 10번째 문단에 도달했을 때 에세이 전체가 궤도를 벗어나 있을 수 있습니다.

"팀" 방식은 작업이 진행되는 동안 서로의 작업을 체크하는 편집자와 작가의 팀처럼 작동합니다. 논문은 이 시스템을 사용함으로써 다음과 같은 결과를 얻었다고 밝혔습니다.

더 많은 과업을 완수했습니다: 성공률이 27.3% 상승했습니다.
정답을 더 자주 맞혔습니다: 정확도가 19.6% 향상되었습니다.
도구 사용 실수가 줄었습니다: 잘못된 계산기를 사용하거나 잘못된 것을 검색하는 등의 오류가 31.5% 감소했습니다.
더 정직해졌습니다: 사실 관계의 일관성이 24.8% 개선되어, 사실을 지어낼 가능성이 낮아졌습니다.

핵심 요약

이 논문은 어려운 문제를 해결하는 비결이 단순히 AI를 더 "똑똑하게" 만드는 것이 아니라, 조직화에 있다고 주장합니다. 계획, 실행, 검증의 역할을 분리하고, 구조화된 증证据 기반 시스템을 통해 소통하도록 강제함으로써, AI 팀은 단 하나의 실수가 전체 프로젝트를 망치는 "단일 인격 편향(one-person bias)"을 피할 수 있습니다. 이는 혼란스러운 브레인스토밍 세션을 규율 있고 감사 가능한 건설 프로젝트로 탈바꿈시킵니다.

기술 요약: 복잡한 과제 해결을 위한 다중 에이전트 LLM 협업 추론 및 작업 계획

1. 문제 정의

복잡한 오픈 도메인 과제는 대규모 언어 모델(LLM)이 장기적인 추론, 제어된 분해, 그리고 신뢰할 수 있는 도구 매개 실행을 수행할 것을 요구한다. Chain-of-Thought나 ReAct와 같은 기법을 통해 단일 에이전트 LLM 워크플로우가 발전해 왔으나, 이들은 세 가지 주요 한계점을 갖는다:

단일 관점 계획 편향(One-perspective planning bias): 단일 모델은 지배적인 관점을 따르는 경향이 있어, 초기에 발생한 잘못된 가정이 소리 없이 전파되어 오류를 야기한다.
오류 누적(Accumulated errors): 긴 추론 체인은 오류를 누적시키며, 전체를 재시작하지 않고는 이를 수정하기 어렵다.
취약한 도구 제어(Weak tool control): 단일 에이전트는 외부 도구 호출의 정밀한 시퀀싱, 파라미터 선택 및 검증에 어려움을 겪는 경우가 많다.

기존의 다중 에이전트 접근 방식(예: Generative Agents, Multiagent Debate, AutoGen)은 종종 제약 없는 대화에 의존하며, 이는 보장된 신뢰성 없이 중복된 대화나 통제되지 않은 확장을 초в을 초래할 수 있다. 본 논문은 계획, 실행, 검증을 분리하는 제어 가능하고, 감사 가능하며, 증거 기반인 다중 에이전트 프레임워크의 필요성을 다룬다.

2. 방법론

제안된 프레임워크는 계층적 작업 그래프와 순차적 상호작용 프로토콜에 의해 제어되는 Planner-Executor-Verifier(계획자-실행자-검증자) 협업 아키텍처를 도입한다.

A. 프레임워크 아키텍처

시스템은 컨텍스트 이해와 에이전트 협업을 분리한다. 구조화된 데이터 및 시각적 작업 신호(표, 다이어그램, 로그)를 자연어와 함께 모델링하기 위해 CNN 강화 컨텍스트 추출기를 활용하여, 작업 계획 전에 이러한 표현들을 융합한다.

핵심 루프는 에피소드 메모리를 공유하는 세 가지 특화된 에이전트로 구성된다:

Planner Agent (계획자 에이전트): 입력 쿼리를 의존성 인식 작업 그래프( $G_T = (V, E, \chi)$ )로 변환한다. 의존성 중심성, 사용자 목표 관련성, 불확실성, 자원 비용을 기준으로 우선순위를 할당한다.
Executor Agent (실행자 에이전트): 예정된 하위 작업을 수행하며, 도구를 호출하고, 결과물을 생성하며, 압축된 증거 추적(evidence traces)을 포함한 국소적 답변을 생성한다.
Verifier Agent (검증자 에이전트): 증거에 근거하여 주장을 평가하고, 모순을 탐지하며, 신뢰도가 보정된 임계값 미만으로 떨어질 경우 수정 요청을 발행한다.

B. 계층적 작업 계획

작업은 상태 튜플 $(priority, confidence, resource\_budget, status)$ 을 가진 노드(하위 작업)들로 이루어진 유향 그래프로 표현된다.
하위 작업의 스케줄링 우선순위( $p_i$ )는 다음과 같이 계산된다:
$p_i = \alpha d_i + \beta u_i + \gamma(1 - c_i) - \lambda r_i$
여기서:

$d_i$ : 의존성 중심성 (Dependency centrality)
$u_i$ : 사용자 목표 관련성 (User-goal relevance)
$c_i$ : 현재 신뢰도 (Current confidence)
$r_i$ : 예상 실행 비용 (Estimated execution cost)
$\alpha, \beta, \gamma, \lambda$ : 검증 세트에서의 그리드 서치(grid search)를 통해 결정된 계수

기본 파라미터: $\alpha = 0.35, \beta = 0.30, \gamma = 0.25, \lambda = 0.10$ .

C. 상호작용 프로토콜 및 메모리

시스템은 감사 가능성을 보장하기 위해 **타입화된 상호작용 프로토콜(typed interaction protocol)**을 강제한다:

Planner는 전제 조건과 종료 기준을 포함한 하위 작업을 발행한다.
Executor는 증거 추적과 함께 주장을 반환한다.
Verifier는 Accept(수락), Revise(수정), 또는 Split(분할) 신호를 출력한다.

공유 메모리: 업데이트는 타입화된 기록(긍정/부정 증거, 충돌)을 의미론적 및 그래프 기반 인덱싱과 함께 저장하는 함수 $\phi(\cdot)$ 를 통해 관리된다. 이를 통해 시스템은 검증된 정보를 재사용할 수 있으며, 특정 노드만 실패했을 때 전체 답변을 다시 생성하지 않고도 문제를 해결할 수 있다.

결함 인식 복구(Failure-Aware Repair): 검증자가 주장을 거부할 때, 시스템은 구체적인 실패 모드(증거 누락, 잘못된 도구 등)를 식서하고, 전체를 재시작하는 대신 영향을 받은 노드와 그 다운스트림 의존성만을 다시 활성화한다.

D. 도구 오류 분류 체계 (Tool Error Taxonomy)

본 논문은 비교 가능한 지표를 확보하기 위해 도구 오류에 대한 통합 분류 체계를 정의한다:

잘못된 도구 선택
유효하지 않은 파라미터
유효하지 않은 호출 순서
실행 실패
일관되지 않은 결과 통합

3. 주요 기여

엔드 투 엔드 협업 아키텍처: 작업 분해, 역할별 실행, 교차 검증 및 타겟팅된 복구를 통합하여 오픈 도메인 복잡한 과제를 수행하는 다중 에이전트 시스템을 제시한다.
계층적 계획 알고리즘: 명시적인 파라미터 선택 규칙과 우선순위 계수 및 검증자 임계값에 대한 민감도 분석을 포함하는 정형화된 계획 방법을 제공한다.
구체적인 공유 메모리 메커니즘: 정보 저장, 인덱싱, 검색 및 타입화된 기록을 사용한 충돌 처리를 명시하는 정의된 업데이트 함수를 제시한다.
통합 도구 오류 분류: 도구 사용 오류를 측정하기 위한 표준화된 분류 체계를 제공하여 방법론 간의 공정한 비교를 가능하게 한다.
실증적 검증: 논리적 추론, 도구 오케스트레이션, 오픈 도메인 문제 해결 측면에서 단일 에이전트 GPT-4 베이스라인 대비 일관된 성능 향상을 입증하는 비교 실험을 수행하였다.

4. 실험 결과

프레임워크는 다단계 논리 추론, 교차 도구 오케스트레이션, 오픈 도메인 문제 해결의 세 가지 벤치마크 카테고리에서 평가되었다. 베이스라인은 동일한 도구와 지침을 사용하는 단일 에이전트 GPT-4 인스턴스이다.

성능 향상 (베이스라인 대비):

과제 완료율 (Task Completion Rate): +27.3% (베이스라인: 63.0% $\to$ 제안 모델: 80.2%)
답변 정확도 (Answer Accuracy): +19.6% (베이스라인: 68.4% $\to$ 제안 모델: 81.8%)
추론 정확도 (Reasoning Accuracy): +22.1%
사실적 일관성 (Factual Consistency): +24.8%
도구 오류율 (Tool Error Rate): -31.5% (베이스라인: 25.7% $\to$ 제이안 모델: 17.6%)

민감도 및 절제 연구 (Sensitivity and Ablation):

파라미터 민감도: 우선순위 계수를 $\pm 0.10$ 변화시켜도 완료율은 2.6 퍼센트 포인트 이내로 변동하였다. 검증자 임계값( $\theta$ )을 0.65에서 0.80으로 변화시켜도 정확도는 3.2 퍼센트 포인트 이내로 변동하여 견고함을 입증하였다.
절제 연구 (Ablation Study): **Verifier(검증자)**를 제거했을 때 사실적 일관성이 가장 크게 감소(-11.6%)하였다. **Hierarchical Planning(계층적 계획)**을 제거하면 완료율이 감소하고 중복된 턴이 증가하였다. **Ordered Protocol(순차 프로토콜)**을 제거하면 불안정한 협업과 길고 비효율적인 대화가 발생하였다.

5. 의의 및 주장

본 논문은 제안된 프레임워크가 추론을 단일 패스 생성 이벤트가 아닌 제어 가능한 프로세스로 취급함으로써 단일 경로 추론의 한계를 해결한다고 주장한다.

제어 가능한 협업: 역할을 명시적으로 할당하고 타입화된 프로토콜을 강제함으로써, 시스템은 제약 없는 다중 에이전트 토론에서 흔히 나타나는 "통제되지 않은 대화 확장"을 방지한다. 각 에이전트의 메시지는 특정 기능(계획, 행동 또는 검증)을 수행한다.
오류 완화: 관심사의 분리를 통해 시스템은 최종 답변에 오류가 전파되기 전에 오류(예: 잘못된 도구 시퀀스)를 탐지하고 복구할 수 있어 도구 오류율을 크게 줄인다.
해석 가능성: 아키텍처는 최종 답변이 수락된 하위 작업 및 증거 기록으로 추적될 수 있도록 보장하여 추론 과정의 감사 가능성을 높인다.
확장성: 프레임워크는 초기 오류가 최종 출력의 품질을 침묵 속에 저하시킬 수 있는 장기적 과제(long-horizon tasks)를 위해 설계되었으며, 신뢰성과 상호작용 비용(평균 턴 수 ~8.6) 사이의 안정적인 트레이드오프를 제공한다.

저자들은 구조화된 통신과 역할 분리가 단순히 에이전트의 수를 늘리거나 대화량을 늘리는 것보다 성능에 더 중요하다는 결론을 내린다. 향과 연구 과제로 적응형 파라미터 튜닝 및 이질적인 도구를 갖춘 실제 워크플로우로의 배포를 제시하였다.