🤖 AI

Indexing the Unreadable: LLM-Native Recursive Construction and Search of Service Taxonomies

Pour répondre aux limitations de la fenêtre contextuelle et au phénomène « perdu au milieu » dans l'émergence de l'Internet des agents, cet article propose A2X, un système natif aux LLM qui organise dynamiquement les services en une taxonomie hiérarchique et la parcourt couche par couche pour améliorer considérablement la précision de la récupération tout en réduisant drastiquement la consommation de tokens par rapport aux bases de référence existantes.

Auteurs originaux : Wei Zheng, Yang Yan, Yiyang Shao, Jinyang Li, Zeze Chang, Yukuang Jia, Qiming Mao, Chihyung Wang, Jingbin Zhou

Publié 2026-05-29

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Wei Zheng, Yang Yan, Yiyang Shao, Jinyang Li, Zeze Chang, Yukuang Jia, Qiming Mao, Chihyung Wang, Jingbin Zhou

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Le Problème : Le Dilemme du « Trop de Choix »

Imaginez que vous êtes un assistant très intelligent (un agent IA) essayant d'aider un utilisateur. Pour faire votre travail, vous avez accès à une bibliothèque massive d'outils — des milliers de différentes « applications » ou « services » comme réserver des vols, vérifier des soldes bancaires ou traduire des langues.

Le problème est que votre cerveau (la « fenêtre de contexte » de l'IA) ne peut contenir qu'une quantité limitée d'informations à la fois.

L'Ancienne Méthode : Si vous tentiez de lire les descriptions de tous les 1 000 outils à la fois pour trouver le bon, vous seriez submergé. C'est comme essayer de lire une encyclopédie entière en une seule séance. Même si vous pouviez tout lire, votre cerveau a tendance à ignorer les pages du milieu et à se concentrer uniquement sur le début et la fin. C'est ce qu'on appelle l'effet « Perdu au Milieu ». Vous pourriez manquer l'outil parfait parce qu'il était enfoui au milieu de la liste.
L'Alternative : Certaines personnes tentent d'utiliser un « index magique » (recherche par embeddings) qui devine quels outils sont similaires à votre question. Mais c'est comme utiliser une carte floue ; cela manque souvent les outils spécifiques et uniques dont vous avez réellement besoin, car cela ne comprend pas vraiment le sens des mots, seulement leur forme.

La Solution : A2X (Le Bibliothécaire Intelligent)

Les auteurs ont créé un système appelé A2X (Agent-to-Anything). Au lieu de déverser toute la bibliothèque sur le bureau de l'IA, A2X agit comme un bibliothécaire super organisé qui construit un système de classement personnalisé et guide l'IA étape par étape.

Voici comment cela fonctionne, en utilisant une analogie simple :

1. Construire la Carte (La Taxonomie)

Imaginez que vous avez un tas de 2 000 outils aléatoires. Un humain mettrait des jours pour les trier. A2X utilise l'IA elle-même pour faire le tri, mais le fait par petits lots gérables.

Division Récursive : Au lieu de demander à l'IA de trier 2 000 éléments d'un coup (ce qui provoque la « submersion »), A2X lui demande de trier 50 éléments, puis 50 autres, et ainsi de suite.
Le Résultat : Il construit un arbre hiérarchique (comme un arbre généalogique ou un menu de site web).
- Niveau 1 : Grandes catégories (par exemple, « Voyage », « Finance », « Santé »).
- Niveau 2 : Sous-catégories (par exemple, sous « Voyage » : « Vols », « Hôtels »).
- Niveau 3 : Outils spécifiques.
Pas Besoin d'Humain : L'IA construit cette carte automatiquement à partir de zéro, sans qu'un humain ait besoin d'écrire un manuel.

2. Trouver l'Outil (Révélation Progressive)

Quand un utilisateur demande : « Je dois réserver un vol pour Tokyo », l'IA ne regarde pas toute la bibliothèque. Elle suit la carte :

Étape 1 : L'IA regarde le niveau supérieur. Elle voit « Voyage », « Finance » et « Santé ». Elle ignore instantanément « Finance » et « Santé » et se concentre uniquement sur « Voyage ».
Étape 2 : Elle zoome dans « Voyage ». Elle voit « Vols », « Hôtels » et « Locations de voitures ». Elle ignore les autres et se concentre uniquement sur « Vols ».
Étape 3 : Elle regarde les outils de vols spécifiques. Maintenant, elle n'a plus qu'à choisir parmi une poignée d'options, et non 2 000.

Ceci s'appelle la Révélation Progressive. L'IA ne voit jamais qu'une petite liste d'options pertinentes à un moment donné. Elle n'est jamais submergée et ne manque jamais l'outil au milieu d'une longue liste.

Pourquoi C'est Mieux (Les Résultats)

Le document a testé ce système contre les anciennes méthodes et a constaté :

Meilleure Précision : A2X a trouvé les bons outils 20 % plus souvent que les meilleurs systèmes « d'index magique » (recherche par embeddings). Il les a également trouvés 6 % plus souvent que de simplement déverser toute la liste dans le cerveau de l'IA.
Moins Cher et Plus Rapide : Parce que l'IA ne lit que de petites listes au lieu de toute la bibliothèque, elle utilise 9 fois moins de mémoire informatique (tokens) pour obtenir le même résultat (ou meilleur).
Fonctionne dans D'Autres Langues : Le système fonctionnait tout aussi bien en chinois qu'en anglais, car l'IA comprend le sens des mots, et non seulement la traduction.

La Conclusion

Le document soutient que alors que nous entrons dans une ère où les agents IA doivent utiliser des milliers d'outils, nous ne pouvons pas simplement leur fournir toutes les données d'un coup. Au lieu de cela, nous devons leur apprendre à naviguer dans une carte structurée. A2X est un système qui construit automatiquement cette carte et guide l'IA à travers elle, un petit pas à la fois, garantissant qu'elle trouve le bon outil sans se perdre ni manquer de puissance cérébrale.

Résumé technique : Indexation de l'illisible (A2X)

1. Énoncé du problème

L'article aborde un goulot d'étranglement critique dans l'émergente « Internet des Agents » (IoA) : le décalage structurel entre la population en expansion rapide des services appelables par les LLM (serveurs MCP, points de terminaison A2A, compétences) et la fenêtre de contexte effective limitée des grands modèles de langage (LLM).

Deux modes de défaillance principaux surviennent lorsque les agents tentent de découvrir des services dans de grands registres :

Gonflement des jetons : La concaténation de milliers de descriptions de services dans un seul prompt dépasse les fenêtres de contexte ou engendre des coûts de jetons prohibitifs. Par exemple, un registre de 1 000 outils peut occuper environ 500 000 jetons.
Perte au milieu (LIM) : Même lorsque la fenêtre de contexte est nominalement suffisamment grande, les LLM accordent systématiquement moins d'attention aux informations situées au milieu des entrées longues. Des benchmarks récents confirment que la précision de la récupération ne s'échelonne pas linéairement avec la longueur du contexte ; le contexte effectif est la contrainte liante, et non la taille brute de la fenêtre.

Les solutions existantes font face à des compromis :

Vidage complet du contexte : Échoue en raison des limites de jetons et de la dégradation LIM.
Récupération basée sur les plongements : Bien que économe en jetons, la recherche par vecteurs denses lutte avec les requêtes inter-vocabulaires, multi-contraintes et à longue traîne, manquant souvent des services pertinents en raison d'un manque de compréhension sémantique profonde.
Taxonomies manuelles : Des coûts de maintenance élevés et un décalage structurel les rendent inadaptées à des populations de services dynamiques et en croissance rapide.

La question de recherche centrale est : Comment un grand registre dynamique doit-il être organisé et divulgué sélectivement à un LLM afin que chaque décision soit prise sur un ensemble de candidats court et hautement pertinent, tout en maintenant la découvrabilité du registre dans son ensemble ?

2. Méthodologie : A2X (Agent-to-Anything)

Les auteurs proposent A2X, un système de découverte de services natif pour les LLM qui reformule le problème comme une gestion du contexte par divulgation progressive. Au lieu de présenter l'intégralité du registre, A2X organise les services dans une taxonomie hiérarchique et la parcourt couche par couche au moment de la requête.

A. Construction automatique de la taxonomie (Hors ligne)

A2X construit la taxonomie de manière autonome à partir des noms et descriptions bruts des services en utilisant un algorithme de Recherche en largeur d'abord (BFS) (Algorithme 1), évitant ainsi le besoin d'ontologies curatées par l'humain.

Découpage conscient du contexte : Pour éviter le débordement de contexte lors de la construction, les nœuds dépassant un seuil ( $\theta_{kw} = 500$ services) sont traités via une stratégie priorisant les mots-clés. Un KeywordExtractor regroupe les services pour générer une liste de mots-clés pondérée par la fréquence, qui est ensuite fournie à un concepteur de LLM. Cela garantit que le concepteur ne voit jamais les descriptions brutes à grande échelle.
Contrainte d'axe unique : Pour éviter le « mélange d'axes » (par exemple, mélanger des domaines fonctionnels avec des approches techniques), l'invite de conception impose que les catégories frères au sein d'un nœud partagent un seul axe de classification. Une chaîne de préférences privilégie les domaines fonctionnels orientés utilisateur (par exemple, « Voyage ») par rapport aux axes opérationnels ou techniques.
Raffinement des limites : Pour gérer l'ambiguïté sémantique entre les catégories frères (par exemple, « Finance » vs « Entreprise »), le système emploie une boucle de raffinement de classification. Si des services sont mal classés ou non assignés, le système renvoie ces cas limites au concepteur pour affiner les définitions de catégories et les clauses de limites « PAS ici ».
Gestion des domaines croisés : Pour traiter les services qui s'étendent légitimement sur plusieurs domaines de premier niveau (ce qu'un arbre strict manquerait), un CrossDomainAssigner effectue un passage multi-parents, permettant aux services d'apparaître sous plusieurs feuilles pertinentes.

B. Recherche à divulgation progressive (En ligne)

Au moment de la requête, A2X navigue dans la taxonomie de manière récursive (Algorithme 2), garantissant que chaque appel LLM ne traite qu'un petit ensemble de candidats.

Descente récursive parallèle (CategoryNavigator) : En partant de la racine, le LLM se voit présenter les enfants du nœud actuel (généralement environ 8 options) et est invité à sélectionner les branches pertinentes. Les sous-arbres non sélectionnés sont élagués immédiatement.
Sélection de services (ServiceSelector) : Une fois les nœuds feuilles atteints, le système collecte les services candidats. Il déduplique les services et fusionne les petits groupes (en utilisant une heuristique de plus petit ancêtre commun) pour garantir que les tailles de groupe restent dans le budget de contexte effectif du LLM.
Modes : Le système prend en charge différents modes de recherche (get_all, get_important, get_one) en ajustant l'invite système pour arbitrer entre le rappel et la précision, mais le mécanisme de navigation sous-jacent reste identique.

Le coût total en jetons par requête croît de manière sous-linéaire avec la taille du registre $N$ , car le nombre d'appels est proportionnel à la profondeur de l'arbre ( $d$ ) et au facteur de branchement ( $b$ ), plutôt qu'à $N$ lui-même.

3. Contributions clés

Reformulation de la découverte de services : Les auteurs reformulent la découverte de services côté agent comme un problème de gestion du contexte, proposant la divulgation progressive native aux LLM comme solution pour découpler la pénurie de contexte effectif de la taille du registre.
Système A2X : Un pipeline entièrement autonome qui :
- Construit automatiquement une taxonomie hiérarchique à partir de descriptions de services brutes en utilisant des boucles de découpage et de raffinement récursifs.
- Navigue dans cette taxonomie couche par couche au moment de la requête, garantissant que chaque appel LLM ne voit qu'un petit ensemble de candidats pertinent.
Domination empirique : Sur le benchmark ToolRet (1 839 services, 1 714 requêtes), A2X atteint :
- Un taux de réussite (Hit Rate) de 92,6 %, surpassant le vidage complet du contexte de 6,2 points absolus et la référence de l'état de l'art basée sur les plongements de plus de 20 points.
- 1/9e du coût en jetons de prompt par rapport au vidage complet du contexte.
- Une forte robustesse interlinguale, maintenant des performances similaires sur une variante chinoise (ToolRet_CN) sans ingénierie spécifique à la langue.

4. Résultats expérimentaux

Efficacité de la recherche (Étude 1) : Comparé à une référence purement LLM qui verse les 1 839 services dans un seul prompt (67 619 jetons/requête), A2X atteint un taux de réussite plus élevé (92,6 % contre 86,4 %) et un rappel supérieur (89,2 % contre 84,7 %) tout en consommant seulement 7 069 jetons/requête.
Qualité de la construction (Étude 2) : Les études d'ablation montrent que la construction BFS récursive avec compression par mots-clés, boucles de raffinement et contraintes d'axe unique est essentielle. Une construction LLM « en un seul coup » (lecture de toutes les descriptions à la fois) n'atteint qu'environ 60 % de taux de réussite, tandis que l'approche récursive atteint 92,6 %.
Comparaison avec les plongements (Étude 3) : A2X surpasse nettement la récupération par vecteurs denses (MiniLM, BGE-M3, etc.) et les références de réécriture de requêtes (MCP-Zero). Les méthodes par plongements souffrent d'un rappel insuffisant (par exemple, 61,8 % de taux de réussite pour MiniLM contre 92,6 % pour A2X), en particulier dans des scénarios complexes et multi-contraintes.
Robustesse des modèles : Les expériences avec des modèles plus récents (DeepSeek V4) confirment que, bien que les capacités de long contexte améliorent les références de vidage complet, A2X maintient un avantage de coût et, dans de nombreux cas, un avantage de précision, prouvant que la méthode n'est pas liée à une génération spécifique de modèles.

5. Signification et revendications

L'article revendique que la découverte native aux LLM est le successeur naturel de la récupération basée sur les plongements à mesure que les coûts d'inférence diminuent.

Changement de paradigme : Contrairement aux méthodes basées sur les plongements qui compressent le sens sémantique en vecteurs de dimension fixe, A2X exploite la capacité native du LLM à effectuer un raisonnement sémantique et à désambiguïser des requêtes complexes.
Évolutivité : En interposant une taxonomie hiérarchique, A2X résout le problème de la « Perte au milieu » sans sacrifier le rappel. Il permet aux agents de s'étendre à des registres de dizaines de milliers de services sans croissance linéaire du coût en jetons.
Autonomie : Le système ne nécessite aucune maintenance d'ontologie avec humain dans la boucle, le rendant adapté à l'« Internet des Agents » dynamique et en évolution rapide.
Perspectives futures : Les auteurs suggèrent que cette approche peut servir de couche de découverte unifiée (un « DNS d'agents ») à travers des services et des plateformes hétérogènes, permettant un traitement plus riche des contraintes (budgets, exclusions) que la recherche par vecteurs ne peut facilement supporter.

Limites reconnues :

Taxonomie statique : La construction actuelle traite les services comme statiques ; les travaux futurs proposent un raffinement conscient de l'usage pour optimiser la profondeur de l'arbre en fonction de la fréquence des requêtes.
Couverture linguistique : Les résultats interlinguaux sont basés sur des données traduites par machine ; des registres natifs non anglais avec des vocabulaires incompatibles pourraient nécessiter des reconstructions complètes.
Rapport de précision : En raison d'annotations de vérité terrain incomplètes dans les benchmarks de récupération d'outils, les métriques de Précision traditionnelles peuvent sous-estimer la qualité des méthodes à haut rappel comme A2X.