기술 요약: EARS – 신뢰할 수 있는 서브 에이전트 모델링을 위한 설명 가능한 기권(Explanatory Abstention)

문제 정의

대규모 엔터프라이즈 멀티 에이전트 시스템(MAS)에서는 강력한 코디네이터가 경량화되고 도메인에 특화된 서브 에이전트에게 사용자 요청을 위임하는 중앙 집중형 아키텍처가 흔히 사용됩니다. 이러한 설계는 모듈성과 비용 효율성을 높여주지만, 심각한 신뢰성 문제를 야기합니다. 구체적으로, 소규모 미세 조정(fine-tuned) 모델로 구축된 서브 에이전트는 자신의 한계를 인식하는 교정(calibration) 능력이 부족한 경우가 많습니다. 이러한 서브 에이전트들은 모호하거나, 정보가 부족하거나, 잘못 전달되었거나, 지원되지 않는 요청에 대해 기권(abstain)하는 대신, 환각(hallucination)된 출력이나 불충실한 실행 결과를 생성하며 "과잉 응답(over-answer)"하는 경향이 있습니다.

기존 연구는 주로 코디네이터 계층의 신뢰성 개선(예: 더 나은 라우팅 또는 플래닝)에 초점을 맞추어 왔습니다. 그러나 서브 에이전트 수준에서 발생하는 실패, 즉 에이전트가 명확한 불능 신호를 보내는 대신 불충실한 결과를 반환하는 문제는 여전히 미개척 영역으로 남아 있습니다. 현재의 기권 방법론은 대개 단일 에이전트 시스템을 위해 설계되었으며, 여기서 거절(refusal)은 최종 사용자 대상의 행동인 반면, 본 연구의 맥락에서는 멀티 에이전트 프로토콜 내의 통신 신호 역할을 합니다.

방법론: EARS 프레임워크

저자들은 **EARS (Explanatory Abstention for Reliable Sub-Agent Modeling)**를 제안합니다. 이는 생산 지향적인 프레임워크로, 서브 에이전트의 기권을 단순한 요청 거절이 아닌 '상호 에이전트 간의 통신 프로토콜'로 재정의합니다. EARS에서 서브 에이전트는 단순히 요청을 거절하는 것이 아니라, 특정 실패 카테고리와 근거를 포함하여 실행 가능한 실패 상태를 코디네이터에게 노출합니다.

EARS는 다음과 같은 2단계 반복 파이프라인을 통해 작동합니다.

1. 오프라인 교정 단계 (Offline Calibration Stage)

• 인간 주석 및 분류 체계 (Human Annotation & Taxonomy): 저자들은 네 가지 상호 배타적인 실패 모드로 구성된 분류 체계를 정의했습니다:
  1. 모호한 쿼리 (Ambiguous Query): 정보가 불충러하여 사용자의 의도가 불분clear함.
  2. 불충분한 입력 (Insufficient Input): 의도는 명확하나 실행에 필요한 정보가 누락됨.
  3. 역량 부족 (Missing Capability): 서브 에이전트가 해당 요청을 지원할 기능이 없음.
  4. 오라우팅 (Misrouting): 요청이 다른 서브 에이전트의 소관임.
     인간 주석가들은 계층적 결정 절차를 사용하여 상호작용 데이터를 레이블링하였으며, 이를 통해 602개의 기권 인스턴스와 600개의 해결 가능한 쿼리를 생성했습니다.
• LLM-as-a-Judge 교정: 데이터 큐레이션을 확장하기 위해, 저자들은 인간이 레이블링한 시드 세트에 대해 앙상블 LLM(판사 역할)을 교정했습니다. 예측 오류를 분석하여 지침(instruction)을 업데이트하는 2차 LLM의 반복적 정제 과정을 채택하여, 판사 모델들이 과적합 없이 잘 일반화되도록 보장했습니다.

2. 온라인 데이터 플라이휠 단계 (Online Data Flywheel Stage)

• 합의 기반 데이터 큐레이션 (Consensus Data Curation): 교정된 판사들(OpenAI, Claude, Gemini 제품군)을 대규모 생산 상호작용 데이터에 적용합니다. 여기에는 보수적인 만장일치 합의(unanimous agreement) 전략이 사용됩니다. 즉, 모든 판사가 동일한 카테고리로 동의한 경우에만 해당 샘 샘플을 기권 케이스로 레이블링합니다. 이는 고정밀도의 훈련 데이터를 확보하기 위함입니다.
• 서브 에이전트 미세 조정 (Sub-Agent Fine-Tuning): 큐레이션된 데이터는 서브 에이전트의 지도 학습 기반 미세 조정(SFT)에 사용됩니다. 훈련 인스턴스는 사용자 쿼리, 컨텍스트, 그리고 기대되는 응답(해결 가능한 쿼리의 경우 작업 특정 출력, 또는 카테고리와 근거를 포함한 구조화된 기권 응답)을 포함합니다.
• 배포 루프 (Deployment Loop): 업데이트된 서브 에이전트는 MAS에 재배포되어 새로운 상호작용을 수집하며, 이는 지속적인 개선을 위해 다시 데이터 큐레이션 단계로 피드백됩니다.

주요 기여

1. 설명 가능한 기전의 정립: 본 논문은 서서브 에이전트의 기번을 단순한 사용자 대상 거절이 아닌, 특정 실패 카테고리와 근거를 제공하여 코디네이터가 실행 가능한 조치를 취할 수 있게 하는 '생산형 MAS를 위한 실행 가능한 조정 신호'로 정립했습니다.
2. 데이터 큐레이션 파이프라인: 만장일치 합의를 사용하는 교정된 LLM-as-a-Judge 앙상블을 활용하여, 기번이 필요한 상호작용 상태를 반복적으로 식별하는 파이프라인을 도입했습니다.
3. 대규모 평가: 본 프레임워크는 기업용 비즈니스 인텔리전스 워크플로우를 지원하는 실제 대규모 이커머스 플랫폼에서 평가되어 실질적인 생존 가능성을 입증했습니다.

실험 결과

시스템은 상점 운영에 관한 머천트 쿼리를 처리하는 이커머스 어시스턴트(Qwen3-32B-Instruct 기반의 BI 서브 에이전트가 SQL 유사 DSL 쿼리를 생성)를 대상으로 평가되었습니다.

• 판사 성능 (Judge Performance): 교정된 판사 앙상블은 기번 카테기 식별에 있어 높은 정확도(최고 단일 모델 90.4%, 4개 판사 합의 시 93.1%)를 달달성했으며, 비용과 정밀도 사이의 명확한 트레이드오프를 보여주었습니다.
• 서브 에이전트 성능 (Sub-Agent Performance):
  • 전체 통과율 (Overall Pass Rate): EARS는 전체 응답 통과율을 **68.5%(베이스라인)**에서 **78.9%**로 개선하여, **15.2%**의 상대적 이득을 얻었습니다.
  • 의미적 정확성 (Semantic Correctness): 기번 케이스가 빈번하게 발생하는 고객 세그멘테이션 쿼리에서 유의미한 개선이 관찰되었습니다(의미적 통과율이 61.9%에서 82.7%로 증가).
  • 구문 유효성 (Syntax Validity): 두 쿼리 유형 모두에서 구문 유효성이 높게 유지되었으며, 이는 기번 훈련이 유효한 DSL 생성 품질을 저하시키지 않았음을 나타냅니다.
• 인간 평가 (Human Evaluation): 섀도 디플로이먼트(shadow deployment)에서, 인간 전문가는 기번 신호가 트리거된 세션들에 대해 기존 시스템의 세션 레벨 성공률이 **2.4%**였던 것에 비해, EARS 시스템의 성공률을 **67.1%**로 높게 평가했습니다. 또한 모델은 전문가 판단 대비 **94.0%의 기번 정밀도(abstention precision)**를 달성했습니다.

의의 및 주장

본 논문은 EARS가 대규모 중앙 집중형 MAS의 신뢰성을 향상시키는 실질적인 메커니즘을 제공한다고 주장합니다. 하향식 조정에서 서브 에이전트 측의 설명 가능한 기번으로 초점을 전환함으로써, EARS 프레임워크는 서브 에이전트가 요청을 이행하지 못할 때 발생하는 통신 단절이라는 핵심적인 신뢰성 격차를 해결합니다.

저자들은 이 접근 방식이 서브 에이전트를 환각을 일으킬 수 있는 '블랙박스'에서, 특정 실패 모드를 신호하는 '투명한 구성 요소'로 변화시킨다는 점을 강조합니다. 이를 통해 코디네이터는 사용자에게 환각되거나 잘못된 답변을 제시하는 대신, 명확화(clarification), 재라우팅(rerouting) 또는 폴백(fallback)과 같은 후속 복구 조치를 수행할 수 있습니다. 실험 결과는 서브 에이전트에게 역량 제약에 맞춰 응답을 교정하는 능력을 부여하는 것이 멀티 에이전트 시스템 전체의 견고성을 크게 향상시킨다는 것을 입증합니다.