기술 요약: XFlow – 신뢰할 수 있는 멀티 에이전트 워크플로우를 위한 실행 가능한 프로토콜 프로그래밍 시스템

1. 문제 정의

대규모 언어 모델(LLM) 기반의 멀티 에이전트 시스템은 단일 에이전트 프롬프팅에서 계획, 추론, 도구 사용 및 인간과의 상호작용을 포함하는 조정된 워크플로우로 진화해 왔습니다. 그러나 이들의 신뢰성은 여전히 제한적입니다. 본 논문은 이러한 제한의 핵심 원인으로 **미지정된 프롬프트-하네스 경계(underspecified prompt–harness boundary)**를 지목합니다.

현재의 시스템에는 어떤 워크플로우 약속(제약 조건, 상태 인터페이스, 정책, 프로세스 의무)을 자연어 프롬프트(비형식적 의미 작업) 내에 남겨두고, 어떤 것을 하네스 구조(형식적이고 통제 가능한 약속)로 격상시켜야 하는지 결정하는 원칙적인 메커즘이 없습니다. 결과적으로 다음과 같은 문제가 발생합니다:

• 암묵적 상태(Implicit State): 통제 가능한 지식과 제약 조건이 프롬프트 내에 내재되어 있어, 시스템이 이를 검사하거나 보존하는 대신 행위자(actor)가 이를 반복적으로 해석하고 강제해야 합니다.
• 오류 전파(Error Propagation): 멀티 에이전트 파이프라인에서 환각된 사실이나 잘못된 형식의 출력과 같은 오류는 공유된 상태가 되어, 다운스트림 동작을 트리거하고 후속 결정을 오염시킬 수 있습니다.
• 중간 지대의 부재(Lack of Middle Ground): 기존 프레임워크는 두 가지 극단에 치우쳐 있습니다. 즉, 체크는 가능하지만 의미적 상태에는 취약한 엄격한 마크업/설정 기반 시스템과, 유연하지만 상태와 약속을 암묵적으로 남겨두는 프롬프트 전용 오케스트레이션입니다. 이 두 사이의 경계를 그리고, 테스트하고, 조정할 수 있는 언어가 부족합니다.

2. 방법론: XFlow 시스템

저자들은 실행 가능한 프로토콜 프로그래밍 시스템인 XFlow와 그 도메인 특화 프로토콜 프로그래밍 언어인 **XPF (XFlow Protocol Format)**를 제시합니다. XFlow는 프로토콜이 "리터러트(literate)" 문서로서 읽힐 수 있으면서도 프로그램으로서 컴파일되고 실행되는 준형식적(semi-formal) 중간 지대를 점유합니다.

2.1 설계 철학

XFlow는 세 가지 핵심 원칙에 따라 작동합니다:

1. 중간 영역(Intermediate Regime): 엄격한 마크업과 프롬프트 전용 제어 사이의 간극을 메워 안정적인 프로토콜 표면을 제공합니다.
2. 명시적 경계(Explicit Boundaries): 형식적/비형식적(프롬프트/하네스) 경계를 명시화합니다. 비형식적인 의미 작업은 행위자에게 남겨두되, 통제 가능한 약속은 하네스 구조로 외재화합니다.
3. 불확실성 거버넌스(Uncertainty Governance): 신뢰성은 불확실성을 제거함으로써 얻어지는 것이 아니라, 불확실성을 관리함으로써 달성됩니다. 행위자의 출력은 다운스트림 결정에 영향을 미치기 전, **타입이 지정된 심볼(typed symbols)**과 그 생명주기 상태로 흡수됩니다.

2.2 아키텍처

XFlow는 세 가지 별도의 단계로 구성됩니다:

A. 명세 단계 (XPF)

저자는 XPF를 사용하여 프로토콜 문서를 작성하며, 이는 워크플로우를 다섯 가지 구성 요소($P = (\Sigma, \Delta, \Lambda, F, H)$)로 추상화합니다:

• 심볼 공간 ($\Sigma$): 공유 워크플로우 상태를 정의합니다. 심볼은 역할(입력, 작업 중, 판사 출력), 소스 정책(누가 제안할 수 있는지), 커밋 정책(언제 확정되는지)을 가진 타입 지정 상태 셀입니다.
• 유도 ($\Delta$): 결정론적 로직(예: 준비도, 신선도 또는 커버리지 계산)을 캡슐화하여, 행위자의 프롬프트로부터 북키핑(bookkeeping) 업무를 분리합니다.
• 행위자 인터페이스 ($\Lambda$): LLM 또는 인간 행위자를 스테이지에 바인딩하여, 읽기 가능한 입력과 쓰기 가능한 출력을 정의합니다. 행위자는 의미적 유연성을 유지하면서도 엄격한 I/O 경계 내에서 작동합니다.
• 제어 흐름 ($F$): 심볼에 대한 서술(predicate)을 기반으로 유효한 스테이지 전이와 프로토콜 호출을 선언하여, 자유 형식의 텍스트로부터 단계가 추론되는 것을 방지합니다.
• 책임 전이 ($H$): 조건(예: 승인, 검토, 에스컬레이션)에 따른 핸드오프를 명시적으로 정의하여, 소유권 변경이 감사 가능한 상태의 일부가 되도록 합니다.

B. 컴파일 단계

컴파일러는 리터러트 XPF 문서를 타입이 지정된 중간 표현(IR)과 런타임 객체로 변환합니다:

• 파싱(Parsing): 산문(컨텍스트)과 의미 블록(실행 가능한 로직)을 분리합니다.
• 해결 및 검사(Resolution & Checking): 심볼 이름, 스테이지 대상, 행위자 바인딩을 검증합니다. 실행이 시작되기 전에 인터페이스가 적법한지, 정책이 위반되지 않았는지 확인하기 위해 정적 검사를 수행합니다.
• 로어링(Lowering): 선언을 런타임이 재파싱 없이 실행할 수 있는 타입 지정 객체(예: IRSymbol, IRStage)로 변환합니다.

C. 실행 단계

런타임은 컴파일된 계약을 강제합니다:

• 인터페이스 매개 작용(Interface-Mediated Action): 행위자는 타입 지정된 입력과 출력을 가진 함수와 같은 단위로 호출됩니다. 내부 추론은 비형식적이지만, 경계 교차는 통제됩니다.
• 생명주기 관리 심볼: 행위자의 출력은 PROPOSED(제안됨) 값으로 들어옵니다. 이는 스키마/계약 검사를 거친 후 **VALIDATED(검증됨)**가 되며, 커밋 정책(예: 인간의 승인)을 충족한 후에만 COMMITTED(확정됨) 됩니다.
• 반응형 상태(Reactive State): 확정된 심볼이 변경되면, 종속된 유도 심볼은 무효화되거나 재계산됩니다.
• 세션 복구(Session Recovery): 실행 컨텍스트(프레임, 대기 중인 출력, 이벤트 로그)가 보존되어, 트랜스크립트로부터 컨텍스트를 재구성하지 않고도 재개 또는 감사가 가능합니다.

3. 주요 기여

1. XFlow 시스템: 프롬프트-하네스 경계를 일급 설계 객체로 취급하여, 저자가 어떤 약속을 행위자에게 남기고 어떤 것을 강제 가능한 워크플로우 구조로 만들지 명시적으로 결정할 수 있게 하는 실행 가능한 프로토콜 프로그래밍 시스템입니다.
2. XPF 언어: 심볼, 행위자 인터페이스, 흐름 규칙 및 생명주기 정책을 체크 가능하고 보존 및 강제 가능한 구조로 변환하는 컴파일러 및 런타임 지원을 갖춘 준형식적 프로토콜 포맷입니다.
3. 실증적 평가: 프로토콜 외재화가 행위자의 유연성을 유지하면서도 신뢰성을 향상시킨다는 것을 입증하는 세 가지 뚜렷한 벤치마크 클래스에 대한 종합적인 평가를 수행했습니다.

4. 실험 결과

저자들은 백본 모델으로 Qwen3.5-9B와 DeepSeek-V4-Flash를 사용하여 세 가지 설정에서 XFlow를 평가했습니다:

• 제약된 상호작용 ($\tau^3$-bench):

  • 목표: 명시적인 도메인 제약 조건(예: 자격 규칙, 공시 요구사항) 하에서의 에이전트 정확도를 테스트합니다.
  • 결과: XFlow는 $pass_1$과 유사한 작업 성공률을 유지하면서 **준수성(Compliance)**을 크게 향 향상시켰습니다 (예: Retail에서 96.5%에서 100.0%로, Telecom에서 77.2%에서 82.5%로).
  • 통찰: 베이스라인 에이전트들은 종종 유효하지 않은 경로를 통해 올바른 최종 상태에 도달했습니다(프로세스 제약 위반). XFlow는 올바른 실행 경로를 강제했습니다(예: 변형 전 명시적 확인 요구).

• 롱 컨텍스트 추론 (CorpusQA):

  • 목표: 긴 문서에 대한 증거 가시성과 답변 확정 능력을 평가합니다.
  • 결과: XFlow를 XpandA(검색/집계 베이스라인)와 결리했을 때 정확도가 향상되었습니다 (예: Qwen3.5-9B 사용 시 59.3%에서 61.7%로).
  • 통찰: XFlow는 도메인 특화 처리 규칙(예: 금융 데이터의 부호 규약)을 결정론적 유도로 인코딩할 수 있게 하여, 모델이 검색된 값을 오해하는 것을 방지했습니다.

• 에이전틱 소프트웨어 엔지니어링 (SWE-bench Verified):

  • 목표: 확장된 도구 상호작용 및 코드 편집에서의 신뢰성을 테스트합니다.
  • 결-과: XFlow는 패스율을 개선했습니다 (예: DeepSeek-V4-Flash를 사용하는 mini-SWE-agent의 경우 77.4%에서 79.8%로).
  • 통찰: 프로토콜 게이트는 에이전트가 로컬 검증 실패 후 패치를 제출하는 것을 방지하여, 타겟팅된 재시도를 강제하고 프로세스 규범이 준수되도록 했습니다.

5. 의의 및 주장

본 논문은 XFlow가 프롬프트-하네스 경계를 그리고 거버넌스를 구축하는 메커즘을 제공한다고 주장합니다. 재사용 가능한 제약, 사실, 워크플로우를 행위자의 메모리에서 프로토콜이 관리하는 구조로 외재화함으로써, XFlow는 에이전트의 유연성을 희생하지 않으면서도 멀티 에이전트 시스템을 더 신뢰할 수 있게 만듭니다.

• 운영 메커니즘: 이는 신뢰성의 초점을 순수하게 모델 측의 개선(예: 더 나은 프롬프팅)에서 워크플로우 측의 거버넌스(예: 명시적 상태 전이, 커밋 게이트, 복구 프레임)로 전환합니다.
• 클라우드-엣지 적용 가능성: 본 논문은 XFlow가 엣지 모델을 좁고 검증 가능한 행동으로 제한하고, 불확실한 로컬 출력이 글로벌 상태로 조용히 전파되는 것을 방지하는 클라우드-엣지 시스템에서의 유용성을 입증합니다.
• 감사 가능성: 약속들이 명시적인 프로토콜 구조이므로, 이들은 이질적인 워크플로우 전반에서 검사, 보존 및 강제가 가능합니다.

저자들은 XFlow가 프롬프트-하네스 경계를 일급 추상화로 다루어야 한다고 결론지으며, 이를 통해 검사하기 쉽고, 오류로부터 복구 가능하며, 신뢰할 수 있는 멀티 에이전트 시스템을 구축할 수 있다고 주장합니다. 또한 프로토콜 저작의 학습 곡선과 행위자 출력의 의미적 품질에 대한 공식적 보장의 부재를 한계점으로 인정하며, AI 보조 스캐폴딩 및 계약 기반 검증에 대한 향후 연구를 제안합니다.