Enrich-Retrieve-Rank: Scaling Capability Discovery Beyond In-Context Routing
Ce document présente « Enrich-Retrieve-Rank », un pipeline de découverte de capacités évolutif qui remplace le routage en contexte inefficace par une approche d'enrichissement hors ligne et de recherche-puis-classement en ligne, démontrant une précision nettement plus élevée et des coûts inférieurs aux méthodes de référence à mesure que les écosystèmes d'agents passent de centaines à des milliers de composants.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Dans le monde en évolution rapide de l'intelligence artificielle, une nouvelle génération de systèmes est apparue, qui ne se contente pas de répondre à des questions, mais exécute des tâches. Ces systèmes, souvent appelés agents, agissent comme des assistants numériques capables de naviguer sur le Web, d'écrire du code ou de gérer des flux de travail complexes. Pour ce faire, ils s'appuient sur une vaste bibliothèque d'outils numériques, de compétences et d'autres agents, tout comme un travailleur humain s'appuie sur une boîte à outils remplie de marteaux, de tournevis et de logiciels spécialisés. À mesure que ces écosystèmes croissent, ils contiennent désormais des milliers de capacités distinctes. Le défi central pour ces systèmes intelligents est la découverte : face à une tâche spécifique, comment le système sait-il quel outil choisir parmi une bibliothèque qui pourrait contenir des milliers d'options ? Pendant longtemps, l'approche standard consistait simplement à présenter la liste entière des outils disponibles à l'intelligence artificielle et à lui demander de choisir. Cette méthode fonctionnait bien lorsque la liste était courte, mais à mesure que les bibliothèques s'étendaient à des milliers, les systèmes ont commencé à éprouver des difficultés, échouant souvent à trouver le bon outil ou gaspillant temps et ressources en essayant les mauvais.
Une équipe de chercheurs chez Amazon AGI s'est donné pour mission de résoudre ce problème d'échelle en réimaginant la manière dont ces systèmes recherchent des capacités. Ils ont traité le problème non pas comme un simple choix, mais comme une requête de moteur de recherche. Au lieu de forcer l'intelligence artificielle à lire une liste massive et non organisée de tous les outils disponibles, ils ont construit un pipeline qui organise d'abord l'information, puis récupère les options les plus pertinentes avant de prendre une décision finale. Le processus commence par une étape hors ligne où le système prend les descriptions souvent brèves et éparses de chaque outil et les réécrit en profils riches et détaillés. Cela est fait une seule fois lorsqu'un outil est ajouté à la bibliothèque, créant un enregistrement interrogeable qui comprend un résumé, des mots-clés spécifiques et des exemples de la façon dont l'outil est utilisé. Lorsqu'un utilisateur pose une question, le système ne demande pas à l'intelligence artificielle de deviner à partir de toute la bibliothèque. Au lieu de cela, il recherche rapidement dans cet index enrichi pour extraire une liste restreinte des candidats les plus probables, puis utilise une vérification finale et ciblée pour les classer.
Les chercheurs ont testé cette approche par rapport à la méthode traditionnelle consistant à montrer la liste entière à l'intelligence artificielle, connue sous le nom de routage en contexte (in-context routing). Ils ont constaté qu'à mesure que la bibliothèque de outils croissait, la méthode traditionnelle s'effondrait. Lorsque la bibliothèque ne contenait que dix outils, le système était correct environ quatre-vingt-cinq pour cent du temps. Cependant, alors que le nombre d'outils atteignait près de sept mille, la précision de la méthode traditionnelle a chuté à seulement douze pour cent. Le système était submergé par le volume massif d'informations qu'il devait traiter à la fois. En revanche, le nouveau pipeline de recherche et de classement gérait la croissance de manière beaucoup plus fluide. Bien que sa précision diminue également à mesure que la bibliothèque s'agrandit, elle restait nettement plus élevée, tombant à trente-neuf pour cent à la plus grande échelle. Crucialement, les chercheurs ont découvert un point de bascule autour de cinq cents outils. En dessous de ce nombre, l'ancienne méthode consistant à montrer toute la liste fonctionnait encore bien. Au-dessus de celui-ci, l'approche basée sur la recherche est devenue essentielle, surpassant largement l'ancienne méthode.
L'étude a également révélé que le nouveau système était bien plus efficace. En récupérant d'abord une liste restreinte, le système utilisait environ la moitié des ressources informatiques requises par la méthode traditionnelle par rapport à un système qui recherchait les candidats un par un. Comparée à la méthode qui présentait la liste entière, la nouvelle approche réduisait les coûts d'un facteur soixante-dix. Cette efficacité est vitale car chaque fois qu'une intelligence artificielle essaie un outil et échoue, elle consomme de la puissance de calcul et du temps, et dans certains cas, elle peut même déclencher une action sur un système non fiable juste pour apprendre ce qu'il fait. Le nouveau pipeline évite ces tentatives inutiles en filtrant les options non pertinentes avant qu'aucune action ne soit entreprise.
Une découverte clé de la recherche est que l'amélioration provient principalement de l'étape de récupération, et non de l'étape de classement final. La capacité du système à trouver le bon outil lors de la recherche initiale était le principal goulot d'étranglement. Même lorsque le moteur de recherche trouvait le bon outil, l'étape de classement final était très fiable, plaçant correctement la meilleure option en tête de liste entre soixante-dix et quatre-vingt-sept pour cent du temps, quelle que soit la taille de la bibliothèque. Cela suggère que l'avenir de ces systèmes dépend moins de l'amélioration de l'intelligence du décideur final que de la construction de meilleurs moteurs de recherche capables de gérer des bibliothèques d'outils massives. Les chercheurs ont également noté que cette approche fonctionne mieux lorsque les descriptions initiales des outils sont éparses ou incomplètes. Pour les bibliothèques qui possèdent déjà des descriptions très détaillées, l'étape supplémentaire de réécriture des informations apportait peu de bénéfices. Cependant, pour les vastes bibliothèques d'outils du monde réel, où les descriptions sont souvent brèves, cette étape d'enrichissement était cruciale pour le succès.
L'équipe a déployé ce pipeline comme couche de découverte par défaut pour une plateforme multi-agents à grande échelle en production. Dans cet environnement réel, le système gère simultanément des milliers d'agents, d'outils et de compétences. Les résultats ont confirmé les conclusions de laboratoire : l'approche basée sur la recherche a permis au système de monter en charge efficacement là où les anciennes méthodes échouaient. Les chercheurs ont souligné qu'il ne s'agit pas d'un exercice théorique, mais d'une solution pratique à un problème qui survient à mesure que les systèmes d'intelligence artificielle deviennent plus complexes et capables. En traitant la découverte de capacités comme un problème de recherche plutôt que comme un problème de sélection, ils ont fourni un modèle de la manière dont ces systèmes peuvent continuer à croître sans perdre leur capacité à trouver les bons outils pour la tâche à accomplir. Ce travail démontre qu'à mesure que les écosystèmes d'intelligence artificielle s'étendent, l'architecture de la manière dont ils trouvent l'information doit évoluer, passant de simples listes à des processus de recherche sophistiqués et stratifiés capables de gérer la complexité du monde numérique moderne.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.