기술 요약: SynAE – 도구 호출 에이전트 평가를 위한 합성 데이터 품질 측정 프레임워크

1. 문제 제기

도구 호출 에이전트들은 increasingly 실행 추적 (사용자 입력, 에이전트 응답, 도구 호출, 최종 출력으로 구성) 의 정적 데이터셋을 사용하여 평가받고 있습니다. 그러나 실무자들은 개인정보 보호 제한, 독점적 우려, 또는 데이터 희소성으로 인해 실제 생산 데이터를 테스트에 활용하는 데 상당한 장벽에 직면합니다. 결과적으로 평가 목적으로 실제 데이터를 대체하거나 보강하기 위해 합성 데이터셋에 대한 의존도가 증가하고 있습니다.

식별된 핵심 문제는 이러한 합성 데이터셋과 이를 복제하려는 실제 데이터 간의 관계를 정량화할 수 있는 체계적인 방법이 부족하다는 점입니다. 합성 데이터로 에이전트를 테스트하는 것에 관한 기존 문헌은 그러한 데이터의 품질을 평가하기 위한 정량적 방법을 거의 제공하지 않아, 운영자에게 평가 격차에 대한 가시성을 거의 주지 않습니다. 기존 평가 지표는 일반적으로 에이전트가 벤치마크에서 올바르게 수행하는지에 초점을 맞추는 반면, 벤치마크 자체의 유효성 (validity), 충실도 (fidelity), 다양성 (diversity) 을 평가하는 데는 초점을 맞추지 않습니다.

2. 방법론: SynAE 프레임워크

저자들은 실제 데이터 트래젝토리의 특성을 얼마나 잘 복제하고 보강하는지 평가하도록 설계된 포괄적인 평가 프레임워크인 SynAE를 소개합니다. SynAE 는 실제 기준 데이터셋 ($D$), 합성 데이터셋 ($D'$), 그리고 선택적 메트릭 구성 (기존 지식 및 특정 LLM 에이전트 포함) 을 입력으로 받아 작동합니다.

이 프레임워크는 네 가지 distinct 평가 측면을 통해 측정되는 세 가지 주요 속성에 걸쳐 합성 데이터를 평가합니다:

1. 작업 지시사항 및 응답
2. 도구 호출
3. 최종 출력
4. 하류 평가 (Downstream Evaluation)

2.1 평가 기둥

SynAE 는 그 메트릭을 세 가지 기둥으로 나눕니다:

A. 유효성 (Validity)
유효성은 합성 도구 호출 및 출력이 주어진 지시사항을 성공적으로 수행하는지 평가합니다.

• 메트릭: 유효성률 (Validity Rate, VR).
• 방법: 기본적으로 도구 호출이나 출력이 작업을 수행하는지 여부를 판단하기 위해 LLM-as-a-judge(Mistral-7B-Instruct) 를 사용합니다. 사용 가능한 경우 규칙 기반 체커를 사용합니다. 샘플은 도구 호출이나 출력이 지시사항을 완전히 충족할 때만 유효한 것으로 간주됩니다 (부분적 정확성은 거부됨).

B. 충실도 (Fidelity)
충실도는 합성 데이터와 실제 데이터 간의 유사성을 측정하며, 개인정보 보호 제약으로 인해 합성 데이터가 실제 데이터를 대체할 때 특히 중요합니다.

• 지시사항 및 응답:
  • 주요 노드 의존성 (Key Node Dependency, KND): 임베딩 코사인 유사도를 통해 지시사항과 응답 간의 의미적 의존성을 측정합니다.
  • 속성 일치 (Attribute Match, AM): 턴 수 및 토큰 길이와 같은 속성들에 대해 분포 거리 (수치형은 Wasserstein-2, 범주형은 총변동) 를 계산합니다.
  • KNN-정밀도/재현율 및 FID: 임베딩 거리를 사용하여 의미적 품질과 커버리지를 측정합니다.
• 도구 호출:
  • 도구 사용 일치 (Tool Usage Match, TUM): 전체 도구 사용 분포를 비교합니다.
  • 도구 호출 수 일치 (Tool Call Number Match, TCNM): 샘플당 도구 호출 수의 분포를 비교합니다.
  • k-단계 도구 계획 일치: 이전 $k-1$개의 도구 호출에 따른 다음 도구의 조건부 분포 유사성을 측정합니다.
• 출력: 실제 데이터셋에 상대적인 KNN-정밀도, KNN-재현율, FID 를 사용합니다.
• 하류 평가:
  • 작업 난이도 차이 (Task Difficulty Difference, TDD): 여러 에이전트 간 실제 및 합성 작업의 작업 완료 성능 차이의 절대값을 측정합니다.
  • 순위 발산 (Ranking Divergence, RD): 에이전트 성능 순위가 보존되는지 여부를 결정하기 위해 스피어만 순위 상관관계를 계산합니다.

C. 다양성 (Diversity)
다양성은 합성 데이터가 커버리지를 개선하는 데 사용될 때 (예: 이상치 추가) 중요합니다. 이러한 메트릭은 참조가 필요 없습니다 (실제 데이터가 필요하지 않음).

• 벤디 점수 (Vendi Score): 유사성 행렬 (텍스트의 경우 코사인 유사도, 도구 호출 시퀀스의 경우 레벤슈타인 거리) 의 고유값에 대한 지수 엔트로피를 기반으로 다양성을 계산합니다.
• 속성 다양성 (Attribute Diversity, AD): 사용자가 지정한 속성 분포 (예: 매력 유형, 도시) 의 엔트로피를 측정합니다.

3. 실험 설정

저자들은 "실제" 데이터셋으로 간주되는 세 가지 최근 에이전트 벤치마크에서 SynAE 를 평가했습니다:

1. T1: 다중 턴 매력 추천 (225 개 샘플).
2. BFCL: 파일 작업 및 여행과 같은 도메인 전반에 걸친 다중 턴 함수 호출 (200 개 샘플).
3. ACP: 교통 및 로봇 동작을 포함한 계획 도메인 (260 개 샘플).

합성 데이터 생성 방법:
SynAE 의 민감도를 테스트하기 위해 저자들은 다음과 같은 합성 데이터셋을 구성했습니다:

• 제어된 수정:
  • 빈칸 채우기 (Blank Filling): 충실도를 저하시키기 위해 지시사항의 토큰을 무작위로 마스킹합니다.
  • 과다 샘플링 (Oversampling): 다양성을 줄이기 위해 샘플을 복제합니다.
  • 맥락 내 생성 (In-Context Generation): 맥락 내 예제의 수와 무작위성을 변화시킵니다.
  • 무효화 (Invalidation): 유효성을 저하시키기 위해 유효한 도구 호출/출력을 잘못된 것으로 대체합니다.
• 산업 표준: 다양한 백엔드 모델 (GPT-4o-mini, Llama3.1, Nemotron, Mistral) 과 온도를 사용한 NVIDIA NeMo Data Designer.

4. 주요 결과

• 세밀한 감지: SynAE 는 유효성, 충실도, 다양성의 세밀한 변화를 성공적으로 포착합니다. 예를 들어, "빈칸 채우기"에서 마스킹 확률을 높이면 충실도 메트릭 (KNN-정밀도) 은 저하되는 반면 다양성 (벤디 점수) 은 증가합니다. 반면, "과다 샘플링"은 다양성과 커버리지 (KNN-재현율) 를 감소시키지만 일부 충실도는 유지합니다.
• 무효화 민감도: 이 프레임워크는 무효 샘플의 비율이 증가함에 따라 유효성률이 단조 감소하는 것을 감지하여 사용 불가능한 데이터를 식별하는 능력을 확인했습니다.
• 트레이드오프: 실험은 단일 메트릭 카테고리가 합성 데이터를 완전히 특징짓지 못한다는 것을 드러냈습니다. 예를 들어, 맥락 내 예제 수 ($k$) 를 늘리는 것이 모든 충실도 메트릭을 균일하게 개선한 것은 아닙니다. 경우에 따라 KNN-정밀도는 개선되었으나 KNN-재현율은 낮아졌습니다.
• 하류 영향: 이 프레임워크는 지시사항에서 높은 충실도를 가진 합성 데이터셋이라도 도구 계획 패턴이 발산하면 하류 평가에서 실패할 수 있음을 보여주었으며, 이는 다축 평가의 필요성을 강조합니다.
• 반복적 개선 사례 연구: 시뮬레이션된 워크플로우에서 SynAE 는 실무자가 편향된 데이터셋 (낮은 다양성) 을 진단하고, "재레이블링 (Relabeling)"을 통해 수정을 시도 (다양성은 개선되었으나 유효성은 손상됨) 한 후, 최종적으로 유효성과 충실도를 유지하면서 다양성을 개선한 고용량 백엔드 (GPT-4o-mini) 를 사용한 NVIDIA NeMo 로 균형 잡힌 결과를 달성하는 데 도움을 주었습니다.

5. 중요성 및 주장

이 논문은 에이전트 테스트를 위한 합성 데이터 품질을 완전히 특징짓기 위해 단일 메트릭만으로는 충분하지 않다고 주장합니다. SynAE 의 중요성은 다음과 같은 다축 평가를 제공할 수 있는 능력에 있습니다:

1. 의미적, 구조적, 통계적 차원에 걸쳐 합성 데이터와 실제 데이터 간의 격차를 정량화합니다.
2. 단일 메트릭 접근법이 놓칠 수 있는 특정 실패 모드 (예: 환각된 도구 이름, 다양성 부족, 또는 저하된 계획 패턴) 를 감지합니다.
3. 반복적 개선을 지원하여 실무자가 정량적 피드백에 기반하여 병목 현상을 진단하고 생성 전략 (예: 모델 선택, 온도, 또는 증강 기술) 을 조정할 수 있게 합니다.

저자들은 SynAE 를 에이전트 워크플로우를 위한 플러그인 구성 요소로 위치시켜, 운영자가 배포 전에 합성 벤치마크 데이터셋의 품질을 자동으로 평가할 수 있도록 합니다. 그들은 현재 초점이 다중 턴 도구 호출 설정에 맞춰져 있음을 인정하며, 상호작용 환경이나 다중 에이전트 조율로 프레임워크를 확장하는 것이 향후 연구 방향이라고 명시합니다.