기술 요약: 읽을 수 없는 것의 색인화 (A2X)

1. 문제 정의

본 논문은 등장하는 "에이전트 인터넷 (Internet of Agents, IoA)"의 중요한 병목 현상을 다룹니다: 급격히 확장 중인 LLM 호출 가능 서비스 (MCP 서버, A2A 엔드포인트, 스킬) 의 규모와 대형 언어 모델 (LLM) 의 제한된 유효 컨텍스트 창 사이의 구조적 불일치입니다.

에이전트가 대규모 레지스트리에서 서비스를 발견하려 할 때 두 가지 주요 실패 양상이 발생합니다:

1. 토큰 과부하 (Token Bloat): 수천 개의 서비스 설명을 단일 프롬프트에 연결하면 컨텍스트 창을 초과하거나 금지할 정도로 높은 토큰 비용이 발생합니다. 예를 들어, 1,000 개의 도구를 가진 레지스트리는 약 50 만 토큰을 차지할 수 있습니다.
2. 중간 손실 (Lost-in-the-Middle, LIM): 컨텍스트 창이 명목상 충분히 크더라도 LLM 은 긴 입력의 중간에 있는 정보에 체계적으로 주의를 기울이지 못합니다. 최근 벤치마크는 검색 정확도가 컨텍스트 길이에 비례하여 선형적으로 확장되지 않음을 확인했습니다. 유효 컨텍스트가 원시 창 크기가 아닌 결합 제약 조건입니다.

기존 솔루션은 다음과 같은 트레이드오프에 직면해 있습니다:

• 전체 컨텍스트 덤프: 토큰 한계와 LIM 저하로 인해 실패합니다.
• 임베딩 기반 검색: 토큰 효율성이 높지만, 밀집 벡터 검색은 교차 어휘, 다중 제약 조건, 그리고 긴 꼬리 쿼리에 어려움을 겪으며, 깊은 의미 이해의 부재로 인해 관련 서비스를 종종 놓칩니다.
• 수동 분류 체계: 높은 유지보수 비용과 구조적 지연으로 인해 동적이고 급격히 성장하는 서비스 인구에는 적합하지 않습니다.

핵심 연구 질문은 다음과 같습니다: 대규모 동적 레지스트리를 어떻게 조직화하고 LLM 에게 선택적으로 공개하여 모든 결정이 짧고 매우 관련성 높은 후보 집합 위에서 이루어지도록 하면서, 레지스트리 전체는 여전히 발견 가능하게 할 수 있을까요?

2. 방법론: A2X (Agent-to-Anything)

저자들은 A2X를 제안합니다. 이는 점진적 공개를 통한 컨텍스트 관리로 문제를 재정의하는 LLM 네이티브 서비스 발견 시스템입니다. 전체 레지스트리를 제시하는 대신, A2X 는 서비스를 계층적 분류 체계로 조직화하고 쿼리 시에 계층별로 탐색합니다.

A. 자동 분류 체계 구축 (오프라인)

A2X 는 너비 우선 탐색 (BFS) 알고리즘 (알고리즘 1) 을 사용하여 원시 서비스 이름과 설명으로부터 분류 체계를 자율적으로 구축하며, 인간이 큐레이션한 온톨로지가 필요하지 않습니다.

• 컨텍스트 인식 분할: 구축 중 컨텍스트 오버플로우를 방지하기 위해, 임계값 ($\theta_{kw} = 500$개 서비스) 을 초과하는 노드는 키워드 우선 전략을 통해 처리됩니다. KeywordExtractor 는 빈도 가중 키워드 목록을 생성하기 위해 서비스를 배치하고, 이를 LLM 디자이너에게 전달합니다. 이를 통해 디자이너는 규모가 큰 원시 설명을 절대 보지 못하게 됩니다.
• 단일 축 제약: "축 혼합" (예: 기능적 도메인과 기술적 접근 방식의 혼합) 을 방지하기 위해, 설계 프롬프트는 노드 내의 형제 카테고리들이 단일 분류 축을 공유해야 한다고 강제합니다. 선호도 체인은 운영 또는 기술적 축보다 사용자 중심 기능 도메인 (예: "여행") 을 우선시합니다.
• 경계 정제: 형제 카테고리 간의 의미적 모호성 (예: "금융" 대 "비즈니스") 을 처리하기 위해, 시스템은 분류 - 정제 루프를 사용합니다. 서비스가 오분류되거나 할당되지 않은 경우, 시스템은 이러한 엣지 케이스를 디자이너에게 피드백하여 카테고리 정의와 "여기 아님 (NOT here)" 경계 절을 정제합니다.
• 교차 도메인 처리: 엄격한 트리 구조가 놓칠 수 있는 여러 최상위 도메인에 legitimately 걸쳐 있는 서비스를 처리하기 위해, CrossDomainAssigner 는 다중 부모 패스를 수행하여 서비스가 여러 관련 잎 (leaf) 아래에 나타나도록 합니다.

B. 점진적 공개 검색 (온라인)

쿼리 시, A2X 는 재귀적으로 (알고리즘 2) 분류 체계를 탐색하여 모든 LLM 호출이 소수의 후보 집합만 처리하도록 보장합니다.

1. 병렬 재귀 하강 (CategoryNavigator): 루트에서 시작하여 LLM 에게 현재 노드의 자식들 (일반적으로 약 8 가지 옵션) 을 제시하고 관련 분기를 선택하도록 요청합니다. 선택되지 않은 서브트리는 즉시 가지치기됩니다.
2. 서비스 선택 (ServiceSelector): 잎 노드에 도달하면 시스템은 후보 서비스를 수집합니다. 서비스를 중복 제거하고 최소 공통 조상 휴리스틱을 사용하여 작은 그룹을 병합하여 그룹 크기가 LLM 의 유효 컨텍스트 예산 내에 있도록 합니다.
3. 모드: 시스템은 재현율과 정밀도 사이의 트레이드오프를 조정하기 위해 시스템 프롬프트를 조정하여 다양한 검색 모드 (get_all, get_important, get_one) 를 지원하지만, 기본 탐색 메커니즘은 동일하게 유지됩니다.

쿼리당 총 토큰 비용은 레지스트리 크기 $N$에 대해 비선형적으로 증가하며, 호출 횟수는 $N$ 자체가 아니라 트리 깊이 ($d$) 와 분기 인자 ($b$) 에 비례합니다.

3. 주요 기여

1. 서비스 발견의 재정의: 저자들은 에이전트 측 서비스 발견을 컨텍스트 관리 문제로 재정의하며, 유효 컨텍스트 부족과 레지스트리 크기를 분리하기 위한 LLM 네이티브 점진적 공개를 솔루션으로 제안합니다.
2. A2X 시스템: 다음을 수행하는 완전 자율 파이프라인입니다:
   • 재귀적 분할 및 정제 루프를 사용하여 원시 서비스 설명에서 계층적 분류 체계를 자동으로 구축합니다.
   • 쿼리 시에 이 분류 체계를 계층별로 탐색하여 모든 LLM 호출이 작고 관련성 높은 후보 집합만 보도록 합니다.
3. 실증적 우위: ToolRet 벤치마크 (1,839 개 서비스, 1,714 개 쿼리) 에서 A2X 는 다음과 같은 성과를 거두었습니다:
   • 92.6% 히트율로, 전체 컨텍스트 덤프보다 6.2 절대 포인트 높고, 최첨단 임베딩 기반 베이스라인보다 20 포인트 이상 높습니다.
   • 전체 컨텍스트 덤프 대비 1/9 의 프롬프트 토큰 비용.
   • 언어별 엔지니어링 없이 중국어 변형 (ToolRet_CN) 에서도 유사한 성능을 유지하는 강력한 교차 언어 견고성.

4. 실험 결과

• 검색 효율성 (연구 1): 모든 1,839 개 서비스를 단일 프롬프트 (쿼리당 67,619 토큰) 에 덤프하는 순수 LLM 베이스라인과 비교하여, A2X 는 더 높은 히트율 (92.6% 대 86.4%) 과 재현율 (89.2% 대 84.7%) 을 달성하면서 쿼리당 7,069 토큰만 소비합니다.
• 구축 품질 (연구 2): 절단 연구는 키워드 압축, 정제 루프, 단일 축 제약을 갖춘 재귀적 BFS 구축이 필수적임을 보여줍니다. 모든 설명을 한 번에 읽는 "원샷" LLM 구축은 약 60% 의 히트율만 달성하는 반면, 재귀적 접근 방식은 92.6% 에 도달합니다.
• 임베딩 비교 (연구 3): A2X 는 밀집 벡터 검색 (MiniLM, BGE-M3 등) 과 쿼리 재작성 베이스라인 (MCP-Zero) 을 크게 능가합니다. 임베딩 방법은 특히 복잡하고 다중 제약 조건 시나리오에서 불충분한 재현율 (예: MiniLM 의 61.8% HR 대 A2X 의 92.6%) 로 고통받습니다.
• 모델 견고성: 최신 모델 (DeepSeek V4) 을 사용한 실험은 긴 컨텍스트 기능이 전체 컨텍스트 베이스라인을 개선하지만, A2X 는 비용 우위를 유지하고 많은 경우 정확도 우위도 유지함을 확인시켜 주며, 이 방법이 특정 모델 세대에 종속되지 않음을 증명합니다.

5. 중요성과 주장

본 논문은 추론 비용이 하락함에 따라 LLM 네이티브 발견이 임베딩 기반 검색의 자연스러운 후계자라고 주장합니다.

• 패러다임 전환: 고정 차원 벡터로 의미적 의미를 압축하는 임베딩 기반 방법과 달리, A2X 는 복잡한 쿼리를 추론하고 모호성을 제거하는 LLM 의 네이티브 능력을 활용합니다.
• 확장성: 계층적 분류 체계를 개입시킴으로써 A2X 는 재현율을 희생하지 않고 "중간 손실" 문제를 해결합니다. 에이전트가 토큰 비용의 선형적 성장 없이 수만 개의 서비스 레지스트리로 확장할 수 있게 합니다.
• 자율성: 이 시스템은 인간이 개입하는 온톨로지 유지보수가 필요 없으므로, 동적이고 급격히 진화하는 "에이전트 인터넷"에 적합합니다.
• 미래 전망: 저자들은 이 접근 방식이 이질적인 서비스와 플랫폼 간에 통합된 발견 계층 (에이전트 DNS) 으로 작용하여 벡터 검색이 쉽게 지원하지 못하는 더 풍부한 제약 조건 처리 (예산, 제외 등) 를 가능하게 할 수 있다고 제안합니다.

인정된 한계:

• 정적 분류 체계: 현재 구축은 서비스를 정적으로 취급합니다. 향후 작업은 쿼리 빈도에 기반하여 트리 깊이를 최적화하기 위해 사용 인식 정제를 제안합니다.
• 언어 커버리지: 교차 언어 결과는 기계 번역된 데이터에 기반합니다. 호환되지 않는 어휘를 가진 원시 비영어권 레지스트리는 완전한 재구축이 필요할 수 있습니다.
• 정밀도 보고: 도구 검색 벤치마크의 불완전한 그라운드 트루스 주석으로 인해, 전통적인 정밀도 지표는 A2X 와 같은 고재현율 방법의 품질을 과소평가할 수 있습니다.