$τ$-Knowledge: Evaluating Conversational Agents over Unstructured Knowledge

이 논문은 대규모 비정형 지식과 도구 사용을 통합하여 평가하는 새로운 벤치마크인 '$\tau$-Knowledge'와 이를 적용한 '$\tau$-Banking' 도메인을 소개하며, 최첨단 모델조차도 복잡한 지식 기반에서 높은 정확도를 달성하는 데 어려움을 겪고 있음을 보여줍니다.

핵심

🏦 비유: "새로 생긴 은행의 신입 사원 시험"

상상해 보세요. 거대한 은행이 새로 생겼습니다. 이 은행에는 700 권이 넘는 두꺼운 매뉴얼과 **수많은 비밀 금고 (데이터베이스)**가 있습니다. 이제 AI 비서 (신입 사원) 가 고객 (사용자) 을 응대해야 합니다.

기존의 AI 시험들은 보통 "책에서 정답을 찾아오기만 해" 혹은 "계산기를 잘 다루기만 해"를 따로 따로 시험했습니다. 하지만 현실은 다릅니다. 고객은 "내 카드가 도난당했는데, 어떻게 해야 해?"라고 묻고, AI 는 매뉴얼을 찾아보기도 하고, 비밀 규칙을 적용하기도 하며, 실제로 계좌를 동결시키는 작업까지 해야 합니다.

이 논문은 바로 이런 복잡한 현실 상황을 완벽하게 재현한 시험지를 만든 것입니다.

📚 핵심 내용 3 가지

1. 책상 위가 아닌, 도서관 속으로 (지식과 행동의 결합)

• 기존: AI 는 보통 정해진 도구만 주어졌습니다. 마치 "이 계산기만 써"라고 알려주고 문제를 푸는 것과 비슷합니다.
• 이 논문 (τ-Knowledge): AI 는 도구 이름조차 모릅니다. "어떤 도구가 있는지"를 매뉴얼 (지식 베이스) 에서 직접 찾아봐야 합니다.
  • 비유: 고객에게 "내 통장을 닫아줘"라고 하면, AI 는 먼저 "통장 닫는 법"이 적힌 책을 찾아보고, 그 책에 "도구를 잠금 해제 (Unlock) 하라"는 지시가 있는지 확인한 뒤, 그 도구를 꺼내서 실제로 통장을 닫아야 합니다.

2. 정답은 없지만, 정답은 있다 (불완전한 정보)

• 이 은행의 매뉴얼은 700 권이나 되고, 서로 얽혀 있습니다. "카드 분실 시 조치"를 찾으려다 보면, "사기 거래가 의심되면 통장을 아예 닫아야 한다"는 규칙을 발견해야 합니다.
• 문제점: AI 는 고객 말만 듣고 "카드 잠금"을 시도하려다 실패합니다. 매뉴얼을 제대로 읽지 못했기 때문입니다.
• 결과: 최신 AI 모델들 (GPT-5.2, Claude 등) 이 이 시험을 봤는데, 정답률 (Pass Rate) 이 고작 25% 정도였습니다. 즉, 4 번 중 3 번은 실패한 것입니다.

3. "정답"을 다 줘도 실패한다 (이해력의 부족)

• 연구자들은 "찾는 게 어렵다면, 필요한 책만 AI 에게 다 줘보자"라고 생각했습니다. (Golden Retriever 설정)
• 그런데도 AI 는 40% 만 성공했습니다.
• 이유: 책 (정보) 을 다 줘도, 그 내용을 이해하고 논리적으로 연결하는 능력이 부족하기 때문입니다.
  • 비유: 요리사에게 모든 재료를 다 줬는데, "소금과 설탕을 섞으면 맛이 망친다"는 레시피를 읽지 못해 요리를 실패하는 것과 같습니다.

📉 왜 중요한가요? (현실적인 문제점)

이 시험 결과는 AI 가 현실 세계에서 얼마나 비효율적인지 보여줍니다.

• 시간 낭비: AI 는 정답을 찾지 못하면 헤매다가, 같은 질문을 여러 번 하거나 엉뚱한 책을 뒤집니다.
• 고객 경험: 고객이 "내 카드 잠그고 싶어"라고 말했을 때, AI 가 10 분 동안 "잠시만 기다려주세요"라고 말하며 매뉴얼을 뒤적거린다면? 고객은 화가 날 것입니다.
• 결론: AI 는 단순히 "정답을 맞히는 것"뿐만 아니라, 얼마나 빠르고 정확하게 (효율적으로) 문제를 해결하는지가 매우 중요합니다.

💡 요약: 이 논문이 우리에게 주는 메시지

1. AI 는 아직 초보입니다: 복잡한 규칙과 방대한 정보를 가진 현실 세계에서는 최신 AI 모델도 자주 실수합니다.
2. 찾는 것보다 '이해'가 어렵다: 정보를 찾는 기술 (검색) 보다, 찾은 정보를 상황에 맞게 적용하는 능력 (추론) 이 더 큰 병목 현상입니다.
3. 새로운 기준이 필요하다: 앞으로 AI 를 평가할 때는 "정답을 맞혔는가"뿐만 아니라 "얼마나 효율적으로, 인간처럼 자연스럽게 해결했는가"를 봐야 합니다.

이 논문은 AI 가 우리 일상 (은행, 의료, 법률 등) 에 안전하게 들어오기 위해, 우리가 더 발전시켜야 할 방향을 정확히 짚어주었습니다.

기술 요약

$\tau$-Knowledge: 비정형 지식 기반 대화형 에이전트 평가에 대한 기술적 요약

이 논문은 $\tau$-Knowledge라는 새로운 벤치마크를 소개하며, 대화형 에이전트가 대규모 비정형 지식 (Unstructured Knowledge) 을 활용하여 복잡한 사용자 요청을 해결하는 능력을 평가하는 프레임워크를 제시합니다. 기존 벤치마크들이 정보 검색 (Retrieval) 과 도구 사용 (Tool Use) 을 분리하여 평가했던 한계를 극복하고, 실제 fintech(핀테크) 환경과 유사한 통합된 시나리오를 통해 에이전트의 성능을 종합적으로 검증합니다.

---

1. 문제 정의 (Problem)

현재 대화형 에이전트는 개인화된 비공개 지식 베이스 (Knowledge Base, KB) 와 상호작용하며 도구를 활용하는 지식 집약적 환경에 배포되고 있습니다. 그러나 기존 평가 기준은 다음과 같은 한계가 있습니다:

• 분리된 평가: 정보 검색 능력과 도구 사용 능력을 독립적으로 평가하여, 실제 환경에서 필요한 '지식 기반 추론'과 '동적 상태 변화'의 통합적 능력을 측정하지 못함.
• 비현실적 설정: 에이전트가 모든 도구를 미리 알고 있거나, 지식이 구조화되어 있는 경우가 많아, 실제 사용자 상호작용에서 발생하는 모호한 의도, 불완전한 목표, 그리고 비정형 문서 내의 복잡한 정책 추론을 반영하지 못함.
• 장기적 상호작용 부재: 긴 대화 흐름 (Long-horizon interactions) 에서 지식과 도구를 조율하여 검증 가능한 상태 변화를 만들어내는 능력을 평가하는 기준이 부족함.

2. 방법론 (Methodology)

2.1. $\tau$-Banking 도메인

$\tau$-Knowledge 는 $\tau$-Banking이라는 새로운 핀테크 고객 지원 도메인을 구축했습니다.

• 지식 베이스: 약 700 개의 상호 연결된 비정형 문서 (698 개) 로 구성되며, 21 개의 제품 카테고리 (계좌, 신용카드, 대출 등) 와 71 개의 주제를 다룹니다. 총 토큰 수는 약 19 만 개입니다.
• 발견 가능한 도구 (Discoverable Tools): 에이전트는 초기에 사용 가능한 도구를 알 수 없으며, 지식 베이스 내의 문서에서 도구 시그니처를 찾아야만 해당 도구 (예: freeze_debit_card, close_bank_account) 를 잠금 해제 (Unlock) 하고 사용할 수 있습니다. 이는 실제 시스템에서 문서화되지 않은 기능은 사용할 수 없다는 현실을 반영합니다.
• 작업 구조: 각 작업은 Decentralized Partially Observable Markov Decision Process (Dec-POMDP) 로 모델링됩니다. 에이전트는 사용자와의 다중 턴 대화를 통해 지식을 검색하고, 정책을 추론하며, 데이터베이스 상태를 변경하는 도구를 호출해야 합니다.
• 사용자 시뮬레이션: LLM 기반의 사용자 시뮬레이터가 현재 환경 상태에 따라 반응하며, 에이전트의 행동에 따라 의도나 상태가 변화하는 동적인 상호작용을 구현합니다.

2.2. 벤치마크 구축 파이프라인

1. 구조화된 데이터 생성: LLM 을 사용하여 제품, 정책, 도구에 대한 구조화된 스키마를 생성합니다.
2. 비정형 문서 변환: 구조화된 데이터를 자연어 문서 (FAQ, 정책서 등) 로 변환하되, 내부 일관성을 유지합니다.
3. 작업 및 데이터베이스 생성: 실제 핀테크 고객 지원 워크플로우 (계좌 개설, 분쟁 처리, 추천 등) 를 반영하여 작업을 설계하고, 각 작업에 필요한 '골드 문서 (Gold Documents)'를 정의합니다.
4. 인간-LLM 협업 정제: 생성된 콘텐츠의 명확성과 현실성을 높이기 위해 인간 전문가가 개입하여 수정합니다.

2.3. 평가 설정

• 검색 전략: 밀집 검색 (Dense Retrieval, 임베딩 기반), 희소 검색 (Sparse Retrieval, BM25), 터미널 기반 탐색 (Terminal-based search, grep, cat 등 명령어 사용) 을 비교 평가합니다.
• 모델: GPT-5.2, Claude-4.5 (Opus, Sonnet), Gemini-3 (Pro, Flash) 등 최첨단 모델들을 평가 대상으로 선정했습니다.
• 성능 지표: $pass^k$ (k 번의 독립적인 시도 모두에서 성공할 확률) 를 주요 지표로 사용하며, 성공률뿐만 아니라 해결 효율성 (Duration, 토큰 수, 도구 호출 횟수) 도 측정합니다.

3. 주요 기여 (Key Contributions)

1. 통합 평가 프레임워크: 검색, 추론, 도구 사용, 그리고 사용자 상호작용을 하나의 통합된 환경에서 평가하는 최초의 벤치마크 중 하나입니다.
2. 비정형 지식의 현실적 모델링: 에이전트가 도구를 '발견'해야만 사용할 수 있는 메커니즘을 도입하여, 지식 접근이 시스템 상태 변경에 직접적인 영향을 미치는 환경을 구현했습니다.
3. 효율성 (Efficiency) 의 중요성 강조: 단순한 성공 여부뿐만 아니라, 해결에 소요된 시간, 토큰 비용, 대화 턴 수 등 '해결 효율성'을 핵심 평가 요소로 부각시켰습니다.

4. 실험 결과 (Results)

4.1. 전반적인 성능 저조

• 최첨단 모델들도 $\tau$-Knowledge 에서 매우 낮은 성능을 보였습니다. 가장 성능이 좋은 설정 (GPT-5.2 High Reasoning + 터미널 검색) 에서도 **$pass^1$ (단일 시도 성공률) 은 약 25.5%**에 불과했습니다.
• 신뢰성 ($pass^4$, 4 번 시도 모두 성공) 은 급격히 하락하여 **13.4%**까지 떨어졌습니다.

4.2. 검색 vs 추론의 격차

• 골드 리트리버 (Golden Retriever) 설정: 필요한 문서를 직접 컨텍스트에 제공하여 검색 과제를 제거한 경우에도, 최강 모델 (Claude-4.5-Opus) 의 $pass^1$은 **39.69%**에 그쳤습니다. 이는 에이전트가 단순히 정보를 찾는 것을 넘어, 복잡한 정책과 문서 간 의존성을 추론하는 데 심각한 어려움을 겪고 있음을 시사합니다.

4.3. 검색 전략과 효율성의 트레이드오프

• 터미널 기반 검색: 최신 고추론 모델 (GPT-5.2, Claude Opus) 은 밀집/희소 검색보다 터미널 기반 자유형 검색 (Freeform search) 에서 더 높은 성능을 보였습니다. 하지만 이는 약 1.7 배 더 많은 토큰, 2.3 배 더 많은 명령어 실행, 9 배 더 긴 처리 시간을 요구했습니다.
• 효율성 차이: Claude 모델은 GPT 모델과 유사한 성능을 내면서도 더 짧은 시간과 적은 토큰으로 작업을 완료하는 등 효율성 면에서 우위를 보였습니다.

4.4. 주요 실패 모드 (Qualitative Analysis)

• 복잡한 상호의존성: 여러 문서에 걸쳐 있는 제품 정책과 조건을 종합하여 최적의 솔루션을 도출하는 데 실패 (약 14.5%).
• 작업 순서 무시: 선행 작업 (예: 분쟁 처리) 이 완료되지 않으면 후속 작업 (예: 한도 증가) 이 불가능하다는 내재적 의존성을 간과 (약 5%).
• 사용자 주장 과신: 시스템 상태를 확인하지 않고 사용자의 주장만 믿고 행동 (약 4%).
• 검색 비효율 및 가정: 모호한 요청을 명확히 하기보다 초기 가정에 매몰되어 비효율적인 검색을 반복 (약 23%).

5. 의의 및 결론 (Significance)

$\tau$-Knowledge 는 현재 AI 에이전트 기술이 실제 인간 중심의 배포 환경에 적용되기 위해 해결해야 할 핵심 과제를 명확히 보여줍니다.

• 현실적 병목 현상 규명: 단순히 검색 정확도를 높이는 것만으로는 부족하며, 비정형 지식에서의 추론 능력과 복잡한 정책 준수 능력이 주요 병목임을 입증했습니다.
• 효율성의 중요성: 인간과의 상호작용에서는 최종 성공뿐만 아니라, 신속하고 비용 효율적인 해결이 신뢰와 사용자 경험에 결정적입니다.
• 향후 연구 방향: 에이전트의 검색 전략, 추론 능력, 그리고 효율성 간의 균형을 맞추는 연구가 필요하며, 특히 터미널 기반 탐색과 같은 자유형 검색 환경에서의 에이전트 설계가 중요한 방향임을 제시합니다.

이 벤치마크는 AI 시스템이 단순한 자동화를 넘어, 인간과 협력하여 정책 준수와 신뢰할 수 있는 결정을 내리는 진정한 '지식 기반 에이전트'로 발전하기 위한 필수적인 평가 도구로 작용할 것입니다.