기술 요약: LLM 에이전트가 몇 개의 도구를 봐야 하는가? 확률 보정 답변

1. 문제 제기

대형 언어 모델 (LLM) 에이전트는 모델이 작업을 수행하기 전에 레지스트리에서 후보 도구 목록을 선택할 수 있도록 검색 시스템이 필요합니다. 중요한 설계 선택은 검색 깊이 $K$(제시되는 도구의 수) 를 결정하는 것입니다. 현재 시스템은 대부분 쿼리 난이도와 관계없이 고정된 $K$(예: 상위 5 개 또는 10 개 도구 표시) 를 사용합니다. 이 접근 방식은 두 가지 상충되는 과제에 직면해 있습니다:

• 도구가 너무 적음: 올바른 도구가 후보 목록에서 제외되어 즉각적인 실패로 이어질 수 있습니다.
• 도구가 너무 많음: 모델은 과도한 방해 요소들 사이에서 올바른 도구를 식별하는 데 어려움을 겪으며, 토큰 비용이 크게 증가합니다 (도구 100 개당 약 20k 토큰).

특정 쿼리나 레지스트리에 대해 선택된 깊이 $K$가 적절한지 평가할 표준 지표는 없습니다. 기존 검색 지표 (예: $nDCG@K$) 는 문서 검색을 위해 설계되었으며, 풀 크기 (50~500 개 도구) 가 작고 무작위 확률이 성공에 상당한 영향을 미치는 도구 선택의 특정 제약을 고려하지 않습니다.

2. 방법론

2.1 무작위 대비 비트 (Bits-over-Random, BoR) 지표

이 논문은 검색 깊이를 평가하기 위한 확률 보정 도구로 무작위 대비 비트 (BoR) 지표를 소개합니다. BoR 은 동일한 깊이에서 무작위 선택을 통한 성공 확률에 대한 시스템의 성공률을 측정합니다.

• 공식: $BoR = \log_2(P_{obs} / P_{rand})$
  • $P_{obs}$: 관찰된 성공률 (올바른 도구가 상위 $K$개 안에 포함된 쿼리의 비율).
  • $P_{rand}$: 우연히 적어도 하나의 관련 항목을 포함할 확률로, 초기하 분포를 사용하여 계산됩니다. 단일 도구 쿼리의 경우 ($R_q=1$), $P_{rand} = K/N$이며, 여기서 $N$은 레지스트리 크기입니다.
• 해석:
  • $BoR = 0$: 성능이 무작위 확률과 동일함.
  • $BoR > 0$: 성능이 무작위 확률을 초과함.
  • 자기 가지치기 (Self-Pruning) 특성: $K$가 증가함에 따라 $P_{rand}$도 증가합니다. 결과적으로 $P_{obs}$가 일정하게 유지되더라도 후보 목록이 커질수록 보상 신호 (BoR) 는 자연스럽게 감소합니다. 이는 설계된 깊이 패널티 없이도 불필요한 깊이에 대한 내재적 페널티를 생성합니다.

2.2 강화 학습 (RL) 공식화

저자들은 BoR 지표의 유용성을 테스트하기 위해 $K$ 선택을 마르코프 의사결정 과정 (MDP) 으로 구성했습니다:

• 상태: 에이전트는 지금까지 검토한 도구의 유사성 점수, 현재 깊이 $k_t$, 레지스트리 크기 $N$, 그리고 BoR 상한선을 관찰합니다.
• 행동: 이진 결정: STOP(현재 후보 목록을 LLM 에 제시) 또는 CONTINUE(다음 후보를 검토).
• 보상:
  • 에이전트가 멈추고 올바른 도구가 있는 경우: 보상 = $-\log_2(P_{rand})$.
  • 올바른 도구가 없는 경우: 보상 = 0.
  • 불필요한 탐색을 억제하기 위한 작은 단계 비용이 있지만, 특정 깊이 선호도를 인코딩하지는 않습니다.
• 에이전트: 이 연구는 생산 아키텍처를 제안하기보다는 지표의 특성을 탐구하기 위해 의도적으로 단순한 에이전트 (DQN 및 표 Q-학습) 를 사용합니다.

2.3 베이스라인

BoR 접근 방식은 다음과 비교됩니다:

1. 고정-$K$: 모든 쿼리에 대해 상위 $K$개 도구를 제시.
2. F1 제거 실험: 깊이 인식만으로는 확률 보정 없이 적응적 행동을 유도하는지 테스트하기 위해 F1 기반 보상 ($recall=1$일 때$F1 = 2/(K+1)$) 으로 훈련된 RL 에이전트.

3. 주요 결과

이 평가는 세 가지 벤치마크 (BFCL, MetaTool, ToolBench), 여러 스코어러 (BM25, MiniLM, BGE), 그리고 20 개에서 3,251 개까지 다양한 레지스트리 크기를 대상으로 수행되었습니다.

3.1 적응형 깊이 vs 고정 깊이

• BFCL (370 개 도구): BoR 에이전트는 평균 깊이 $K=7.4$로 **90.3%**의 커버리지를 달성하여, 7 배 적은 도구를 제시하면서도 $K=50$의 고정 깊이 (90.8%) 와 거의 동일한 커버리지를 보였습니다.
• ToolBench (3,251 개 도구): 고정 깊이 $K=5$는 BoR 에이전트 (61.9%) 보다 높은 집계 커버리지 (64.7%) 를 달성했습니다. 그러나 고정 베이스라인은 "어려운" 쿼리 (올바른 도구가 6 위~20 위 사이에 랭킹된 경우) 에서 완전히 실패했습니다. BoR 에이전트는 이러한 어려운 쿼리에 대해 깊이를 $K=5.7$로 적응시켜, 고정-$K$가 완전히 놓친 사례의 **16.7%**를 복구했습니다.
• MetaTool: BoR 에이전트는 레지스트리 크기와 스코어러 품질에 민감하게 반응했습니다. 약한 BM25 스코어러의 경우, 낮은 랭킹을 보상하기 위해 깊이를 크게 확장 ($K=80.7$) 했지만, F1 베이스라인은 스코어러 품질과 관계없이 얕은 깊이를 유지했습니다.

3.2 스코어러 품질과 적응

BoR 보상 신호는 기본 스코어러의 품질에 적응합니다:

• 강력한 임베딩 스코어러 (MiniLM) 의 경우, 올바른 도구가 상단에 나타나 에이전트가 일찍 멈췄습니다 ($K \approx 1.4$).
• 약한 스코어러 (MetaTool 의 BM25) 의 경우, 에이전트는 선택성을 유지하기 위해 검색을 확장 ($K \approx 80.7$) 했지만, F1 베이스라인은 적응하지 못하고 일찍 멈춰 올바른 도구를 놓쳤습니다.

3.3 하류 도구 선택 검증

저자들은 Claude Sonnet 4.6을 BFCL 에 적용하여 제시된 세트에서 올바른 도구를 선택하는 LLM 의 능력이 짧은 적응형 목록으로 인해 향상되는지 검증했습니다:

• 선택 정확도: 올바른 도구가 존재할 때, Claude 는 BoR 에이전트의 짧은 목록 ($K=2.2$) 으로 **93.1%**의 비율로 올바른 도구를 선택한 반면, 고정 $K=5$에서는 **87.1%**였습니다.
• 중간 난이도: 올바른 도구가 2 위~5 위 사이에 랭킹된 쿼리의 경우, BoR 에이전트는 선택 정확도를 **76.8%**로 향상시킨 반면, 고정 $K=5$는 **60.9%**였습니다.
• 결론: 집계 "발견"률이 높은 고정-$K$ 베이스라인보다 약간 낮더라도 방해 요소의 수 (방해 요소 부하) 를 줄이면 LLM 의 의사결정 정확도가 향상됩니다.

4. 중요성과 주장

이 논문은 다음과 같은 기여와 중요성을 주장합니다:

1. 최초의 확률 보정 깊이 지표: BoR 을 도입하여 표준 검색 지표에서 종종 무시되는 무작위 성공 확률을 보정함으로써, 도구 선택에서 검색 깊이를 평가하기 위해 특별히 설계된 최초의 지표를 제시합니다.
2. 자기 가지치기 보상: BoR 이 깊이에 따라 자연스럽게 감소하는 보상 신호를 제공하여, 설계된 깊이 패널티 없이도 RL 에이전트가 최적의 중단 지점을 학습할 수 있음을 보여줍니다.
3. 적응형 효율성: 이 연구는 적응형 정책이 대규모 고정 후보 목록과 비교 가능한 커버리지를 달성하면서도 토큰 소비와 모델 혼란을 크게 줄일 수 있음을 보여줍니다.
4. 진단 유틸리티: 이 지표는 에이전트가 도구를 찾기 위해 전체 레지스트리를 검색하도록 강요받는 경우 (스코어러가 비효율적임을 나타냄) 와 같이 고장 나거나 약한 스코어러를 식별할 수 있습니다.
5. 하류 영향: 적응형 깊이가 도구를 더 효율적으로 검색할 뿐만 아니라 인지 부하를 줄여 LLM 의 하류에서 올바른 도구를 선택하는 능력을 향상시킨다는 증거를 제공합니다.

인정된 한계:
저자들은 BoR 이 최대 재현율 (recall) 이 아닌 선택성 (selectivity) 을 최적화한다고 지적합니다. 따라서 대부분의 쿼리에 대해 균일한 깊이가 충분하다면 고정-$K$ 베이스라인이 때때로 더 높은 집계 커버리지를 달성할 수 있습니다. 사용된 RL 에이전트는 생산 시스템이 아닌 단순한 탐침이며, 평가는 도구가 제시되었는지 여부에 초점을 맞추고 도구 실행 인수의 정확성은 다루지 않습니다.