🤖 AI

A Two-Tier Perspective on Inference-Time Parallelism in Multi-Agent LLM Systems

이 논문은 토큰 소비량의 증가에도 불구하고, 특히 중간 정도의 복잡도를 가진 작업에 대해 추론 정확도를 크게 향상시키고 지연 시간을 줄이기 위해 멀티 에이전트 LLM 시스템에서 레플리카 병렬성과 구조적 병렬성을 조율하는 통합 프레임워크인 TIPEX를 소개한다.

원저자: Zihan Xu, Haolin Tian, Hai Jiang

게시일 2026-08-07

📖 5 분 읽기🧠 심층 분석

CC BY 4.0

원저자: Zihan Xu, Haolin Tian, Hai Jiang

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

천재적이고 매우 빠른 탐정 팀이 거대하고 복잡한 미스터리를 해결하려고 노력하는 모습을 상상해 보세요. 인공지능의 세계에서 이 탐정들은 거대 언어 모델(LLM)로 구동되는 "에이전트(Agent)"입니다. 이들은 읽고, 쓰고, 추론할 수 있는 초스마트 컴퓨터 두뇌입니다. 보통 이 에이전트들은 엄격한 순서대로 작동합니다: 탐정 A가 질문을 던지고, 답변을 기다린 다음, 그 답변을 적은 노트를 탐정 B에게 전달합니다. 그러면 탐정 B는 자신의 차례를 기다립니다. 이런 "직렬(serial)" 방식의 작업은 안전하지만 느립니다. 미스터리가 어려워질수록 줄은 길어지고, 노트는 엉망이 되며, 팀 전체가 사건을 해결하는 데 한참의 시간이 걸리게 됩니다.

속도를 높이기 위해, 과학자들은 탐정들이 병렬(parallel)로 작업하도록—즉, 여러 가지 일을 동시에 수행하도록—만드는 시도를 시작했습니다. 하지만 여기에는 까다로운 점이 있습니다. 단순히 모두를 방 안으로 몰아넣고 잘 되기를 바랄 수는 없습니다. 어떻게 협력할지를 결정해야 합니다. 세 개의 서로 다른 팀을 보내 전체 미스터리를 처음부터 다시 풀게 하여 그중 하나가 정답을 맞히기를 기대할 것인가요? 아니면 하나의 팀을 보내되, 그들이 도서관을 조사하고, 파일을 확인하고, 목격자를 심문하는 일을 동시에 수행할 수 있도록 나눌 것인가요? 이 새로운 논문은 최상의 결과를 얻으면서도 컴퓨터 자원을 낭비하지 않기 위해, 이 두 가지 서로 다른 협업 방식을 어떻게 혼합할 것인가라는 질문을 깊이 있게 파고들며, 이 두 방식의 조합을 탐구합니다.

2단계 탐정 대행사

이 논문은 TIPEX(Two-tier Inference-time Parallel EXecution)라고 불리는 새로운 프레임워크를 소개합니다. TIPEX를 우리 AI 탐정 팀의 매우 조직적인 매니저라고 생각해보세요. 저자들은 "협력한다"는 것이 단 한 가지 방식이 아니라, 실제로 동시에 일어나는 두 가지 서로 다른 수준의 팀워크라고 깨달았습니다. 그들은 이를 **복제 병렬성(Replica Parallelism)**과 **구조적 병렬성(Structural Parallelism)**이라고 부릅니다.

1단계: "다양한 경로" 전략 (복제 병렬성)
숨겨진 보물을 찾는 경로를 지도화한다고 상상해 보세요.

기존 방식: 한 명의 탐험가를 보내 전체 경로를 지도화하게 합니다. 만약 그가 길을 잃으면, 당신은 꼼짝 못 하게 됩니다.
복제 방식: 세 명 또는 다섯 명의 서로 다른 탐험가를 동시에 보냅니다. 한 명은 숲길을 가고, 다른 한 명은 산길을 가며, 세 번째는 강줄기를 따라갑니다. 그들은 모두 독립적으로 전체 퍼즐을 풀려고 노력합니다.
목표: 이것은 정확도에 관한 것입니다. 여러 가지 "해결 경로"를 동시에 탐색함으로써, 적어도 한 명의 탐험가가 보물을 찾을 확률을 높입니다. 논문은 정말 어려운 퍼즐의 경우, 단순히 한 팀이 운 좋게 맞히기를 바라는 것보다 여러 팀이 서로 다른 전략(예를 들어, 한 팀은 수학에 집중하고, 다른 팀은 웹 검색에 집중하는 방식)을 시도하게 하는 것이 더 낫다고 제안합니다.

2단계: "업무 분담" 전략 (구조적 병렬성)
이제 그 탐험가 중 한 명이 지도를 찾고, 책을 읽고, 수학 계산을 수행해야 하는 세 단계의 퍼즐을 풀려고 한다고 가정해 봅시다.

기존 방식: 탐험가는 지도를 찾은 후, 책을 읽기 위해 멈추고, 그 후 수학 계산을 하기 위해 멈춥니다. 이는 길고 느린 줄 형태입니다.
구조적 방식: 탐험가는 숫자를 계산하는 동안 도서관에 조수를 보내서 독서와 수학 계산을 동시에 할 수 있다는 것을 깨닫습니다!
목표: 이것은 속도에 관한 것입니다. 단일 작업을 동시에 일어날 수 있는 작은 조각들로 나눔으로써, 팀은 훨씬 더 빨리 업무를 마칩니다. 논문은 이것이 "실제 대기 시간(wall-clock time, 답변을 기다리는 실제 시간)"을 줄이는 데 특히 효과적임을 보여줍니다.

거대한 발견: "많을수록 좋다"는 것은 아니다

저자들은 GAIA라고 불리는 유명하고 까다로운 퍼즐 세트를 사용하여 대규모 실험을 진행했습니다. 그들은 자신들의 새로운 TIPEX 매니저를 매우 강력한 표준 AI 팀(Magentic-One이라 불림)과 비교하여, 이 두 전략을 섞었을 때 어떤 일이 일어나는지 테스트했습니다.

여기서 그들이 발견한 결과는 다음과 같으며, 다소 놀랍습니다:

속도 vs 비용: 이러한 병렬 기술을 사용하는 것은 AI 팀을 훨씬 빠르고 정확하게 만들었지만, 그에 따른 대가가 따랐습니다. 팀은 더 많은 "토큰"(AI가 사고하기 위해 태우는 화폐나 연료와 같은 것)을 사용했습니다. 예를 들어, 중간 난이도의 퍼즐에서 병렬 방식을 사용했을 때 AI는 약 **39%**의 확률로 정답을 맞혔으나, 기존 방식으로는 **26%**에 불근했습니다. 하지만 더 많은 연료를 소모하기도 했습니다.
난이도에 따른 "최적의 지점": 논문은 두 전략이 중간 난이도의 과제에서 가장 잘 작동한다는 것을 발견했습니다.
- 쉬운 과제의 경우, 팀이 많이 나눌 필요가 없었습니다. 기존 방식만으로도 충분히 빨랐습니다.
- 매우 어려운 과제의 경우, 업무를 나누는 것조차 큰 도움이 되지 않았습니다. 퍼즐이 너무 복잡하여 팀이 빠르게 협력하기 어려웠기 때문입니다.
- 하지만 중간 난이도의 과제에서는 이 조합이 마법 같았습니다. "다양한 경로" 전략은 정답을 찾아냈고, "업무 분담" 전략은 그 답에 빠르게 도달하게 했습니다.
과유불급: 저자들은 지나치게 공격적인 접근을 경계하라고 명시적으로 경고합니다.
- 너무 많은 팀(너무 많은 "복제본")을 보내면, 퍼즐을 푸는 데 큰 도움을 주지 못한 채 연료만 낭비하게 됩니다.
- 업무를 너무 잘게 쪼개면(너무 많은 "구조적 병렬성"), 팀이 혼란에 빠지기 시작합니다. 그들은 하지 않아도 될 일을 하거나, 단계 사이의 중요한 연결 고리를 놓칠 수 있습니다. 논문은 너무 공격적으로 행동하는 것이 오히려 팀을 더 빠르게 만들 수는 있어도, 퍼즐을 푸는 능력 자체는 악화시킨다는 것을 발견했습니다.

결론

논문은 모든 상황에 적용되는 하나의 "완벽한" 설정은 존재하지 않는다고 결론짓습니다. 대신, 가장 좋은 접근 방식은 균형 잡힌 혼합입니다. 저자들은 3개의 서로 다른 팀(복제본)을 운영하고, 업무를 적절하고 균형 잡힌 방식(너무 엄격하지도, 너무 무모하지도 않게)으로 나누는 것이 최상의 결과를 낸다는 것을 발견했습니다.

또한, 똑똑한 "판사(Judge)"를 두는 것이 매우 중요하다는 것도 발견했습니다. AI가 여러 경로를 동시에 실행하고 있기 때문에, 모든 답변을 살펴보고 최선의 것을 골라낼 누군가가 필요합니다. 만약 판사가 뛰어나지 않다면, 그 모든 추가적인 노력은 낭비될 것입니다.

요약하자면, 이 논문은 AI 팀을 더 잘 작동하게 만들기 위해서 단순히 더 많은 컴퓨터를 문제에 투입해서는 안 된다는 것을 가르쳐 줍니다. 대신, 얼마나 영리하게 조직할 것인지가 중요합니다: 모든 가능성을 다루기 위해 몇 개의 다양한 팀을 보내는 동시에, 시간을 절약하기 위해 각 팀이 자신의 업무를 조각으로 나누도록 하는 식의 전략이 필요합니다. 이것은 속도, 정확도, 그리고 비용 사이의 섬세한 춤이며, 저자들은 그 올바른 스텝을 보여주었습니다.

기술 요약: 멀티 에이전트 LLM 시스템에서의 추론 시점 병렬성에 관한 2단계 관점

문제 정의

대규모 언어 모델(LLM) 기반의 멀티 에이전트 시스템은 문제 분해, 도구 사용, 협업 실행을 필요로 하는 복잡한 작업을 수행하기 위해 점점 더 많이 사용되고 있습니다. 그러나 현재의 추론 시점 동작은 에이전트들이 순차적으로 LLM과 도구를 호출하고, 상태를 교환하며, 컨텍스트를 확장하는 **직렬적 조정(serial coordination)**에 의해 지배되는 경우가 많습니다. 이러한 직렬 실행은 긴 임계 경로(critical paths)를 생성하고, 컨텍스트 희석 및 오류 전파를 유발하며, 결과적으로 시스템의 정확도, 효율성 및 비용에 직접적인 영향을 미치는 높은 실시간 지연 시간(wall-clock latency)을 초래합니다.

기존 시스템들은 여러 에이전트 팀을 실행하거나 작업을 하위 에이전트로 분해하는 것과 같이 고립된 형태의 병렬 실행을 탐구해 왔으나, 서로 다른 형태의 병렬성이 어떻게 연관되는지, 정확도-지연 시간-비용 트레이드오프에서 각각의 구체적인 역할은 무엇인지, 그리고 이들을 결합했을 때 상호 보완적인지 혹은 충돌하는 효과를 내는지에 대한 체계적인 연구는 부족한 실정입니다.

방법론: TIPEX 프레임워크

저자들은 두 가지 뚜렷하고 조정된 의사결정 단계로 병렬성을 통합하는 제어 가능한 실행 프레임워크인 TIPEX(Two-tier Inference-time Parallel EXecution)를 제안합니다.

1단계: 레플리카 병렬성 (태스크 수준의 탐색)

이 단계는 병렬적으로 여러 개의 완전한 솔루션 경로를 탐색함으로써 추론의 불확실성을 해결합니다. 이는 두 단계로 구성됩니다:

솔루션 생성: 프레임워크는 $n$ $n$ 개의 솔루션 레플리카( $X = \{x_i\}$ $X = {x_{i}}$ )를 인스턴스화합니다. 여기서는 다음을 구분합니다:
- 무작위 동형 생성 (Random Isomorphic Generation, RIG): 동일한 생성 지침과 확률적 디코딩(temperature sampling)을 사용하여 다양한 궤적을 생성합니다.
- 직교 이종 생성 (Orthogonal Heterogeneous Generation, OHG): 방법론적 다양성을 확보하기 위해 의미론적으로 구별되는 전략(예: 서로 다른 경로, 정보원 또는 위험 선호도)을 합성합니다.
솔루션 선택: 메타 레벨 컨트롤러가 레플리카의 결과를 관찰하고 최종 출력을 선택합니다. 전략은 다음과 같습니다:
- 글로벌 선택 (Global Selection, GS): 모든 레플리카가 완료될 때까지 기다린 후 판단합니다.
- 최초 유효 후보 조기 종료 (First-Valid Early Stopping, FVES): 첫 번째 유효한 후보를 반환합니다.
- Top-K 선택 (Top-K Selection, TKS): $k$ 개의 유효한 후보가 모일 때까지 기다린 후 판단합니다.

2단계: 구조적 병렬성 (인스턴스 수준의 실행)

이 단계는 하위 태스크 간의 조건부 독립성을 활용하여 단일 솔루션 레플리카의 실행을 최적화합니다. 실행을 계산 단위(LLM 추론, 도구 호출)를 나타내는 노드와 의존성을 나타내는 엣지로 구성된 동적 유향 비순환 그래프(DAG)로 모델링합니다. 스케줄러는 다음 세 가지 정책에 따라 태스크를 할당합니다:

엄격한 순차 방식 (Strict Sequential, SS): 병렬 실행 없이 단계별로 하위 태스크를 처리합니다.
균형 잡힌 병렬성 (Balanced Parallelism, BP): 높은 수준의 태스크 분해를 유지하면서 자연스럽게 분리 가능한 하위 태스크들을 병렬로 실행합니다.
공격적 병렬성 (Aggressive Parallelism, AP): 동시 실행 공간을 최대화하기 위해 워크플로우를 더 세밀한 입도의 하위 태스크로 분해합니다.

TIPEX는 이 두 계층을 체계적인 조합(예: OHG와 TKS 및 BP의 결 조합)으로 허용하여, 기본 에이전트 파이프라인을 변경하지 않고도 상호 작용 효과를 분석할 수 있는 통일된 실행 시맨틱스를 제공합니다.

주요 기여

개념적 모델링: 논문은 추론 시점의 병렬성을 레플리카 병렬성(솔루션 공간 커버리지 확장)과 구조적 병렬성(실행 임계 경로 압축)을 구분하는 구조화된 2단계 설계 공간으로 모델링합니다.
TIPEX 프레임워크: 생성, 스케줄링 및 선택 전략의 유연한 조합을 지원하며 두 수준을 통합하는 제어 가능한 프레임워크를 제안합니다.
경험적 특성화: 다양한 병렬 전략의 정확도-지연 시간-비용 트레이드오프를 규명하고 각 전략의 적용 가능 경계를 식별하는 체계적인 실험을 수행합니다.

실험 결과

실험은 Magentic-One 아키텍처를 베이스라인으로 하여 GAIA 벤치마크(검색, 멀티모달 추론, 코드 실행 및 웹 브라우징 포함)에서 수행되었습니다.

성능 트레이드오프: 추론 시점의 병렬성은 토큰 소비를 증가시키지만 정확도를 향상시키고 엔드 투 엔드 지연 시간을 유의미하게 감소시킵니다. 예를 들어, 레벨 2 태스크에서 정확도는 약 26%(베이스라인)에서 최대 39%까지 향상되었으며, 지연 시간은 15~40% 감소했습니다.
최적의 구성: **직교 이종 생성 (OHG)**과 **Top-K 선택 (TKS)**의 조합이 가장 견고한 트레이드오프를 보여주었으며, 글로벌 선택보다 낮은 지연 시간으로 최적에 가까운 정확도를 달와냈습니다.
상보성: 두 계층은 비가산적(non-additive)이며 상보적인 효과를 보입니다.
- 레플리카 병렬성은 주로 솔루션 공간 커버리지를 높임으로써 정확도를 개선합니다.
- 구조적 병렬성은 주로 임계 경로를 압축함으로써 지연 시간을 줄입니다.
- 시너지: 시너지는 중간 난이도 태스크(레벨 2)에서 가장 두드러집니다. 이 단계에서는 구조적 병렬성이 어려운 태스크에서 보이는 한계 효용 체감 없이 효과적으로 지연 시간을 줄이고, 레플리카 병렬성이 커버리지를 정확도로 효과적으로 전환하기 때문입니다.
비단조성 (Non-Monotonicity): 공격적인 구성이 항상 더 나은 성능을 보장하는 것은 아닙니다.
- 레플리카 수를 $n=3$ 이상으로 늘리면 토큰 희석으로 인해 수익 체감이 발생하거나 오히려 정확도가 저하될 수 있습니다.
- **공격적 병렬성 (AP)**은 일부 경우 실행 시간을 단축함에도 불구하고, 중복 실행으로 인해 추론 품질을 저하시키고 토큰 소비를 증가시키는 경우가 많습니다.
태스크 의존성: 병렬성의 이점은 태스크 유형에 따라 다릅니다. 웹 및 파일 관련 태스크는 결합된 병렬성을 선호하고, 코드 태스크는 구조적 분해를 선호하며, 멀티모달 태스크는 레플리카 수준의 탐색에 더 의존합니다.

의의 및 주장

본 논문은 추론 시점의 병렬성이 단순히 독립적인 최적화의 집합이 아니라, 한 계층의 가치가 다른 계층의 설정에 따라 달라지는 구조화된 설계 공간이라고 주장합니다.

통합된 이해: TIPEX는 구성을 비교하고 상호 작용 효과를 분석하기 위한 통일된 시맨틱스를 제공하며, 과도하게 공격적인 병렬 전략이 해로울 수 있음을 밝혀냅니다.
적용 가능 경계: 본 연구는 적절한 레플리카 병렬성과 균형 잡힌 구조적 병렬성을 결합하는 것이 가장 견고한 트레이드오프를 제공함을 식별했습니다. 또한 이러한 기술들의 "황금기(golden stage)"가 중간 난이도의 태스크임을 강조합니다.
향후 방향: 본 연구의 결과는 고정된 병렬성 수준을 적용하는 대신, 태스크 구조와 자원 제약에 따라 병렬 실행을 동적으로 구성하는 **적응형 병렬 실행(adaptive parallel execution)**의 개발을 촉구합니다.

저자들은 병렬성이 성능을 향상시키기는 하지만, 선택을 위한 강력한 판단(judging) 메커니즘에 크게 의존한다는 점을 강조합니다. 신뢰할 수 있는 판단 기능 없이는 병렬 탐색의 이점을 완전히 실현할 수 없습니다.