기술 요약: PAUSE – 사용자 중심의 개인용 AI 어시스턴트를 위한 벤치마크

문제 정의

개인용 AI 어시스턴트는 일상적인 사용자 활동을 지원하기 위해 통합된 서비스 환경 내에서 작동하는 도구 증강 에이전트(tool-augmented agents)로서 점점 더 많이 배치되고 있습니다. 현실적인 배포를 위해서는 이러한 에이전트가 지속적인 사용자 상태를 추론하고, 사용자별 구성(권한, 구독, 계정 설정)을 준수하며, 여러 서비스에 걸쳐 장기적이고 제약 사항을 인지하는 상호작용을 유지할 수 있어야 합니다.

기존의 도구 사용 대규모 언어 모델(LLM) 벤치마크는 이러한 맥락에서 상당한 한계를 보입니다. 초기 벤치마크는 API 커버리지와 도구 호출 정확도에 집중했으며, 최근의 노력들(예: MCP 기반 벤치마크)은 다양한 도구를 포함함으로써 규모를 확장했습니다. 그러나 이러한 접근 방식은 종종 서비스 컨텍스트를 파편화하거나 사용자 상태를 추상화하여 제거합니다. 이들은 권한에 의해 접근이 제한되고 시스템 구성에 의해 제어되는 통합된 사용자 중심 서비스 환경 내에서 운영되어야 하는 사용자 지향적 시스템으로서의 어시스턴트를 평가하는 데 실패합니다. 결과적으로, 현재의 벤치마크는 일관된 상태를 유지하거나, 숨겨진 구성 의존성을 추론하거나, 사용자 결합형 상호작용을 장기적으로 지속하는 에이전트의 능력을 완전히 평가하지 못합니다.

방법론

PAUSE 벤치마크

PAUSE는 상태가 존재하고 서비스가 통합된 환경에서 개인용 AI 어시스턴트를 평가하기 위해 설계된 사용자 중심 벤치마크입니다. 이 벤치마크는 이질적인 데이터 소스, 외부 장치 통합, 권한 민감형 리소스를 특징으로 하는 개인 건강 관리 도메인에서 구현되었습니다.

주요 시스템 특성:

• 통합 환경: 모든 서비스는 공유된 지속적 시스템 구성(권한, 지갑 상태, 구독) 하에서 작동하며, 이는 어시스턴트에게는 주로 보이지 않으며 추론되어야 합니다.
• 사용자 중심 제약 조건: 어시스턴트는 중요한 시스템 구성을 직접 수정할 수 없으며, 제약 사항을 해결하기 위해(예: 장치 연결을 위한 권한 요청 또는 지갑 충전) 사용자와 상호작용해야 합니다.
• 작업 다양성: 벤치마크는 세 가지 카테고리에 걸쳐 180개의 작업을 포함합니다:
  1. 데이터 및 로그 추적 (쉬움): 직접적인 데이터 검색.
  2. 데이터 및 로그 추적 (어려움): 시스템 구성 추론(예: 연결이 끊긴 소스 연결, 구독 업그레이드)이 필요한 다단계 실행.
  3. 쇼핑: 장기 문맥의 다중 제약 최적화(제품 선택, 예산 관리, 바우처 사용).

합성 파이프라인 (Synthesis Pipeline)

PAUSE는 일관된 환경과 주석이 달린 작업을 생성하기 위해 확장 가능한 멀티 에이전트 합성 파이프라인을 채택합니다:

1. 사용자 중심 작업 생성: 작업은 구체적인 사용자 소유 리소스를 나타내는 합성 템플릿 샘플링 데이터를 기반으로 합니다. LLM은 기저 상태를 바탕으로 고수준의 설명과 명시적인 목표 조건($\tau$)을 생성합니다.
2. 유도된 궤적 롤아웃 (Guided Trajectory Rollouts): 최신 LLM이 시스템 및 시뮬레이션된 사용자 에이전트와 상호작용하여 실제 실행 궤적을 수집합니다. 롤아웃 프롬프트($P_{rollout}$)는 행동을 가이드하는 오라클 정책 역할을 합니다.
3. 목표 정렬 검증: LLM 위원회가 궤적을 필터링하고, 선호되는 경로를 선택하며, 이를 사전에 정의된 목표 집합 $\tau$에 정렬합니다. 실행 가능한 참조 궤적이 없는 작업은 폐기됩니다.

평가 프레임워크

PAUSE는 작업 특성에 맞춘 다중 체제 평가 프레임워크를 채택합니다:

• 개방형 작업 (데이터/로그 추킹): 하이브리드 접근 방식을 사용하여 평가합니다.
  • 목표 기반: LLM-as-judge가 명시적 목표($\tau$)에 따라 작업 완료 여부를 평가합니다.
  • 궤적 수준: 결정론적 지표(Precision, Recall, F1)를 사용하여 모델의 도구 호출 시퀀스와 참조 궤적 간의 중첩도를 측정합니다.
• 제약 집약적 작업 (쇼핑): 참조 궤적에 의존하지 않고 결정론적 상태 기반 검증(예: 제품 ID, 수량, 예산 타당성)을 통해 평가합니다.

주요 기여

1. 총체적, 사용자 중심 벤치마크: PAUSE는 워크플로우 중심 및 도구 고립형 설정을 넘어, 지속적인 사용자 상태와 권한으로 제한된 리소스를 가진 통합 환경에서 어시스턴트를 평가하는 벤치마크를 도입합니다.
2. 다중 체제 평가 프레임워크: 개방형 작업에 대해 LLM 기반의 의미론적 판단과 궤적 수준의 행동 중첩을 결 조합한 원칙적인 전략과, 제약 집약적 작업을 위한 결정론적 상태 검증을 결합했습니다.
3. 확장 가능한 합성 파이프라인: 일관된 환경 상태, 현실적인 상호작용 궤적, 그리고 목표 정렬된 주석을 대규모로 생성하는 멀티 에이전트 파이프라인을 통해 벤치마크의 확장성을 지원합니다.

실험 결과

저자들은 다양한 최신 독점 및 오픈 소스 모델(GPT-5, Gemini-3, DeepSeek-V3.2 포함)을 평가했습니다.

• 성능 격차: 상태 추론 및 구성 인식이 필요한 시나리오에서는 최첨단 독점 모델조차 70%의 작업 완료율에 도달하지 못했습니다.
• 작업 난이도: "어려운" 작업은 "쉬운" 작업에 비해 성능이 크게 저하되었습니다. 최상위 모델들이 쉬운 검색 작업에서는 거의 포화된 성능을 보였으나, 암시적인 시스템 제약 추론이 필요한 어려운 작업에서는 눈에 띄는 하락을 보였습니다.
• 오류 분석:
  • 강력한 모델 (예: Gemini-3-Flash): 실패는 주로 시스템 구성 추론(예: 데이터 소스가 연결 해제되었음을 추론하지 못함)에 집중되었습니다. 기본적인 도구 사용은 견고하게 유지되었습니다.
  • 약한 모델: 데이터 일관성, 리소스 탐색, 시간적 추론뿐만 아니라 시스템 구성 오류에서도 근본적인 어려움을 겪었습니다.
• 절제 연구 (Ablation Study): 시스템 구성에 대한 명시적인 정책 가이드를 제공하는 것은 모든 모델에서 성능을 향상시켰으며, 특히 강력한 모델의 시스템 관련 오류를 줄였습니다. 이는 강력한 모델이 명시적 정책을 활용할 수는 있지만, 더 깊은 추론의 한계가 여전히 존재함을 시사합니다.
• 평가 신뢰도: LLM-as-judge 평가는 인간의 주석과 높은 일치도(80–87%)를 보여, 복잡하고 개방적인 에이전트 작업에 대한 신뢰할 수 있는 대리 지표로서의 유효성을 입증했습니다.

의의 및 주장

본 논문은 PAUSE가 현재의 AI 어시스턴트에서 일관되고 해석 가능한 실패 패턴을 드러낸다고 주장하며, 효과적인 도구 호출만으로는 실제 서비스 환경에서의 견고한 성능을 보장하기에 불충분하다는 점을 보여줍니다. 벤치마크는 다음과 같은 명확한 능력 격차를 강조합니다:

1. 암시적인 시스템 구성에 대한 추론 (예: 권한, 구독).
2. 사용자와 결합된 장기적 상호작용 유지 (에이전트가 상태 제약을 해결하기 위해 사용자와 협력해야 하는 경우).
3. 이질적인 서비스 전반에 걸친 일관된 상태 유지.

저자들은 PAUSE를 단순한 평가 도구가 아니라, 모델 분석, 증류(distillation), 그리고 통합된 사용자 중심 서비스 환경에서 작동할 수 있는 에이전트 개발을 위한 기초로서 제시합니다. 이 연구는 에이전트가 단순히 도구 호출을 실행하는 것을 넘어, 숨겨진 의존성을 추론하고 상태 전이를 관리할 수 있어야 함을 강조합니다.