기술 요약: PluginEval

문제 정의

대규모 언어 모델(LLM)이 자율적인 에이전트로 기능함에 따라, 도구 라우팅(함수 호출)의 신뢰할 수 있는 평가가 매우 중요해졌습니다. 현재의 벤치마크는 세 가지 구조적 한계를 가지고 있습니다:

1. 데이터 분포 편향: 멱법칙(Power-law) 분포로 인해 희귀한 시나리오와 엣지 케이스가 과소 대표됩니다.
2. 적대적 엄격성 부족: 하드 네거티브(Hard negatives)의 부재로 인해 모델 간의 성능 차이를 명확히 드러내지 못합니다.
3. 검증되지 않은 어노테이션 파이프라인: 많은 벤치마크가 실제 실행을 통한 검증 없이 LLM의 판단에 의존하여 어노테이션을 수행하며, 이는 구조적 정확성에도 불구하고 의미론적 오류를 초래할 수 있습니다.

또한, 기존 벤치마크는 종종 총괄적인 성공률이나 호출 구문에만 집중하여, 놓친 도구 호출(Missed tool calls), 불필ic한 호출(Spurious calls), 또는 파라미터 그라운딩 오류(Parameter grounding errors)와 같은 구체적인 실패 모드를 진단하는 데 실패합니다. 특히 모호하거나 문맥 의존적인 중국어 쿼리에 대해, 실행에 기반한 신뢰할 수 있는 어노테이션과 트리거 및 제외 경계에 대한 구조화된 커버리지를 결면한 벤치마크에 대한 구체적인 필요성이 존재합니다.

방법론: PluginEval 폐쇄 루프 구축 프레임워크 (PCCF)

본 논문은 어노테이션의 신뢰성과 커버리지 요구사항을 분리하도록 설계된 2단계 폐쇄 루프 프레임워크(PCCF)를 통해 구축된 벤치마크인 PluginEval을 소개합니다.

태스크 정식화

도구 라우팅은 세 단계의 계층적 결정으로 정식화됩니다:

1. 필요성 ($f_1$): 도구가 필요한가?
2. 관련성 ($f_2$): 대상 플러그인이 관련이 있는가?
3. 호출 ($f_3$): 요청을 올바른 인자를 가진 유효한 호출로 그라운딩할 수 있는가, 아니면 거절되어야 하는가?

1단계: 실행 기반 앙상블 어노테이션

이 단계는 실제 및 합성 쿼리에 대한 신뢰할 수 있는 어노테이션을 구축하는 데 중점을 둡니다.

• 생성 (Generation): 여러 생성기가 독립적으로 완전한 호출을 제안합니다.
• 검증 (Verification): 제안된 내용은 다단계 검증 과정을 거칩니다:
  • 결정론적 스키마 검증: 구조적 유효성을 확인합니다.
  • 인자 평가: LLM 평가자가 인자가 쿼리에 의해 지원되는지, 그리고 플러그인의 의미론과 일치하는지 확인합니다.
  • 실행: 제안된 내용은 MCP(Model Context Protocol)를 통해 실행됩니다.
  • 결과 평가: 별도의 평가자가 실행 응답이 사용자 요청을 충족하는지 확인합니다.
• 정제 루프 (Refinement Loop): 검증(스키마 위반, 실행 오류 또는 의미론적 불일치로 인한 실패)에서 탈락한 제안들은 트레이스(Traces)로 유지됩니다. 이 트레이스들은 독립적인 평가자 점수와 함께 생성기로 피드백되어 정제 과정에 사용됩니다. 이 과정은 제안이 신뢰 임계값 $\tau$를 충족하거나 정당한 기권(Justified abstention)으로 거절될 때까지 최대 $R_{max}$ 회 반복됩니다.

2단계: 시나리오 기반 합성 및 행동 교정

이 단계는 커버리지 격차와 난이도 교정을 다룹니다.

• 시나리오 분해: 플러그인은 트리거 시나리오(지원되는 요청)와 제외 시나리오(도구가 필요 없거나, 다른 도구가 필요하거나, 능력을 초과하는 요청)로 분해됩니다.
• 타겟 합성: 시스템은 커버리지가 부족한 단위(능력, 의도, 경계의 조합)를 식별하고, 이러한 격차를 채우기 위해 새로운 쿼리를 합성합니다.
• 난이도 교정:
  • 긍정 예시 (Positive Examples): 난이도는 추론 깊이(0, 1, 또는 $\ge$2 단계)를 기준으로 합니다.
  • 부정 예시 (Negative Examples): 난이도는 행동 증거를 기반으로 교정됩니다. 고정된 참조 라우터가 합성된 부정 예시를 $K$번 평가합니다. 만약 라우터가 부정 예시를 지속적으로 거절하지 못하면(높은 허위 양성률), 해당 예시는 "Hard"로 간도됩니다. 쉽게 거절된다면 "Easy"로 간주됩니다.
• 폐쇄 루프: 합성된 예시는 검증을 위해 1단계로 반환됩니다. 이 루프는 커버리지 예산이 충족되거나 개선이 정체될 때까지 계속됩니다.

평가 프레임워크: 골드 앵커 기반 심사위원 (Gold-Anchored Judge)

총괄적인 정확도를 넘어, 본 논문은 골드 앵커 기반 LLM 심사위원을 채택합니다:

• 입력: 예측된 호출, 인간이 검증한 골드 호출, 그리고 사용자 쿼리.
• 제약 조건: 심사위원은 골드 호출 리스트를 유일한 앵커로 취급합니다. 골드 사양을 확장하거나 덮어쓸 수 없습니다.
• 계층적 검증:
  1. 도구 정렬 (Tool Alignment): 예측과 골드 사이의 도구 이름을 매칭합니다.
  2. 인자 필터링 (Argument Filtering): 비어 있지 않고 비교 가능한 인자 집합을 보장합니다.
  3. 의미론적 검증 (Semantic Verification): 예측된 인자가 쿼리 의도 하에서 골드 인자와 의미론적으로 동등한지 결정합니다(별칭 및 포맷 변형은 허용하되, 시간적 범위는 엄격하게 평가함).
• 오류 귀속 (Error Attribution): 실패는 상호 배타적인 범주로 분류됩니다:
  • 미스 리콜 (Miss Recall): 필수 도구를 놓침.
  • 파라미터 오류 (Parameter Error): 의미론적으로 잘못된 인자 (시간적 오류, 누락된 인자, 잘못된 값으로 재분류).
  • 오버 리콜 (Over Recall): 부정 쿼리에 대한 불필요한 도구 활성화.

주요 기여

1. PluginEval 벤치마크: 54개의 플러그인, 63개의 도구, 9개의 도메인을 다루며 3,000개의 인간 검증 인스턴스를 포함하는 중국어 함수 호출 벤치마크입니다. 이는 명시적인 트리거/제외 시나리오, 세 가지 유형의 경계 네거티브, 행동 기반 교정 난이도를 특징으로 합니다.
2. PCCF 프레임워크: 실행 기반 검증을 통해 어노테이션의 신뢰성을 확보하고, 시나리오 합성을 통해 커버리지 요구사항을 분리하는 폐쇄 루프 구축 방법입니다. 스키마 검증, 독립적 평가, 도구 실행을 활용하여 어노테이션을 수선합니다.
3. 세밀한 오류 귀속: 총괄적인 성공 지표에 의존하는 대신, 실패 원인을 특정 유형(미스 리콜, 파라미터 오류, 오버 리콜)으로 분류하는 평가 프레임워크를 제공합니다.
4. 경험적 분석: 프런티어 LLM 5종(독점 모델 및 오픈 웨이트 모델 포함)을 평가하여, 총괄 점수가 난이도 구성에 매우 민다는 점과 모델들이 뚜렷한 실패 프로필을 보인다는 점을 밝혀냈습니다.

결과

본 논문은 GPT-5.4, Claude 4.6, Gemini 3.1 Pro, DeepSeek-V4-Pro, Qwen3-235B-A22B 등 5개 모델을 평가합니다.

• 성능 민감도: 총괄 성능은 난이도 분포에 크게 의존합니다. 원래 분포(Easy 40%, Medium 40%, Hard 20%)에서 Claude Opus 4.6이 가장 우수한 성능(Recall 67.60%, Accuracy 68.17%)을 보였습니다. 그러나 Hard 인스턴스에서는 성능이 급격히 하락합니다(모델 전반적으로 Recall이 2.8%~10.8%로 떨어짐).
• 난이도 영향: 분포를 Easy 가중치(Easy 60%)로 변경했을 때 모든 모델의 성능이 실질적으로 향상되었습니다(Recall이 약 15~21포인트 상승). 이는 엄격하게 교정되지 않은 경우 현재의 벤치마크가 능력을 과대평가할 수 있음을 보여줍니다.
• 기존 벤치마크와의 비교: 모델들은 일반적으로 BFCL, APIBench 또는 NexusRaven보다 PluginEval에서 낮은 성능을 보였습니다. 예를 들어, Claude Opus 4.6의 Recall은 BFCL에서의 73.04%에서 PluginEval의 67.60%로 하락했습니다. 이는 PluginEval이 더 도전적이고 현실적이며 적대적인 시나리오를 포착하고 있음을 시사합니다.
• 오류 프로필:
  • GPT-5.4: 가장 높은 Miss Recall(33.72%)과 가장 높은 Over Recall(33.20%)을 기록하여, 필요한 도구를 식별하는 것과 불필요한 호출을 피하는 것 모두에서 상당한 어려움을 겪음을 보여주었습니다.
  • Claude Opus 4.6: 가장 낮은 Miss Recall(13.95%)을 기록했으나, 높은 Over Recall(29.10%)을 보였습니다. 이는 Gemini보다는 높지만 GPT-5.4보다는 낮은 수준입니다.
  • Gemini 3.1 Pro: 가장 낮은 Over Recall(18.55%)을 달성하여, 낮은 Recall에도 불구하고 경쟁력 있는 정확도를 확보했습니다.
  • 시간적 오류 (Temporal Errors): 모든 모델에서 시간적 그라운딩 오류가 가장 빈번한 파라미터 오류 하위 유형이었으며, 이는 시간 기반 제약을 처리하는 데 공통적인 약점이 있음을 나타냅니다.
• 신뢰성: 인간의 감사 결과, 참조 어노테이션 및 심사위원 귀속에 대해 높은 일치도(Fleiss' $\kappa$ 최대 0.9451)를 확인하여 벤치마크의 신뢰성을 검증했습니다.

의의 및 주장

본 논문은 PluginEval이 도구 라우팅을 위한 **진단적 평가(Diagnostic evaluation)**의 핵심적인 격차를 해결한다고 주장합니다. 총괄적인 성공률을 넘어 다음과 같은 사실을 밝혀냈습니다:

1. 총괄 점수는 뚜렷한 실패 모드를 은폐합니다: 유사한 전체 점수를 가진 모델이라도 완전히 다른 이유(예: 도구 선택 vs 파라미터 그로딩)로 실패할 수 있습니다.
2. 난이도 구성이 중요합니다: 성능 순위는 쉬운 예시와 어려운 예시의 비율에 따라 달라질 수 있으므로, 모델 행동에서 도출된 교정된 난이도 레이블이 필요합니다.
3. 실행은 신뢰를 위해 필수적입니다: 단순한 구문적 유효성을 넘어 의미론적 정확성을 보장하기 위해서는 실제 API 실행과 스키마 체크를 통한 어노테이션 검증이 필수적입니다.

저자들은 더 견고한 에이전트 시스템 개발을 가이드하기 위해 구조화된 오류 귀속이 필요하며, 자신들의 폐쇄 루프 프레임워크가 이러한 진단적 벤치마크를 구축하는 재현 가능한 방법을 제공한다고 결론짓습니다.