ProgRouter: Online Progress-Guided Orchestration for Multi-Agent LLM Workflows under Quality-Cost Tradeoffs

Dans le monde en évolution rapide de l'intelligence artificielle, une nouvelle génération de systèmes est apparue, capable de s'attaquer à des problèmes complexes en les décomposant en étapes plus petites. Ces systèmes, connus sous le nom de flux de travail multi-agents (multi-agent workflows), fonctionnent comme une équipe de spécialistes où différents programmes informatiques, chacun étant propulsé par un grand modèle de langage, collaborent pour résoudre une seule tâche. Un agent peut élaborer la stratégie, un autre peut écrire du code, et un troisième peut vérifier les résultats. Bien que cette approche permette aux machines de gérer des défis ouverts qui étaient auparavant impossibles, elle s'accompagne d'un prix significatif. Chaque fois que le système demande à un modèle de réfléchir ou d'agir, il consomme de l'énergie et de l'argent. Utiliser les modèles les plus puissants et les plus capables pour chaque étape est souvent une perte, tandis que s'appuyer uniquement sur des modèles plus petits et moins coûteux peut entraîner des erreurs nécessitant des corrections coûteuses ultérieurement. Le défi central pour les chercheurs a été de trouver un moyen de décider dynamiquement quel modèle utiliser à chaque moment spécifique, en équilibrant le besoin de résultats de haute qualité avec les limites de temps et de budget.

Une équipe de chercheurs a développé un nouveau système appelé PROGROUTER pour résoudre exactement ce problème. Au lieu de prendre une décision unique au début d'une tâche ou de passer aveuglément à des modèles plus puissants lorsque les choses tournent mal, PROGROUTER agit comme un chef d'orchestre intelligent qui écoute le flux de travail en temps réel. Il surveille constamment les progrès réalisés par l'équipe, la difficulté des étapes restantes et le budget dépensé. Sur la base de cette évaluation en direct, il sélectionne le modèle le plus appropriment pour l'étape suivante, garantissant que les modèles puissants et coûteux ne sont sollicités que lorsqu'ils sont véritablement nécessaires pour surmonter un obstacle spécifique. Cette approche permet au système de maintenir des performances élevées tout en réduisant considérablement l'énergie totale et le coût requis pour accomplir une tâche.

Les chercheurs ont testé ce système sur quatre types distincts de tâches difficiles : l'écriture de code informatique, la résolution de problèmes mathématiques et la réponse à des questions complexes qui nécessitent une recherche à travers de grandes quantités d'informations. Ils ont comparé PROGROUTER à plusieurs méthodes existantes, incluant des stratégies qui utilisent toujours le même modèle, des stratégies qui commencent petit et ne passent aux modèles plus grands que lorsqu'elles sont bloquées, et des stratégies qui reposent sur des prédictions passées de ce qui fonctionne le mieux. Les résultats ont montré que les stratégies fixes, qu'elles utilisent uniquement de petits modèles ou uniquement de grands modèles, ont systématiquement échoué à respecter les limites d'énergie et de coût fixées pour les expériences. Les petits modèles se sont souvent retrouvés bloqués et ont nécessité trop de tentatives de correction, tandis que les grands modèles ont consommé trop d'énergie à chaque appel. En revanche, PROGROUTER a réussi à naviguer dans le juste milieu. Sur les tests d'écriture de code, il a atteint un taux de réussite de 93 % tout en respectant un budget énergétique strict de 4 800 joules. Sur les problèmes mathématiques, il a terminé les tâches en seulement 19 secondes en utilisant seulement 6 112 joules d'énergie, surpassant toutes les autres méthodes respectant les contraintes budgétaires.

Ce qui rend PROGROUTER efficace, c'est sa capacité à comprendre l'« état » du travail au fur et à mesure qu'il se déroule. Le système utilise un mécanisme de notation qui examine le flux de travail sous plusieurs angles. Il vérifie si le plan global est valide, combien de sous-tâches ont été accomplies, si le travail progresse ou stagne, et la qualité des informations générées jusqu'à présent. En combinant ces différentes vues, le système peut dire si une tâche est presque terminée ou si elle fait face à un obstacle majeur. Lorsque le travail progresse sans encombre, le système opte pour des modèles plus petits, plus rapides et moins coûteux afin de limiter les frais. Cependant, si le système détecte que le flux de travail est bloqué ou qu'une étape difficile reste à accomplir, il passe immédiatement à un modèle plus puissant pour faire avancer la tâche. Cette décision est prise instantanément et de manière répétée tout au long du processus, garantissant qu'aucune énergie n'est gaspillée dans des efforts inutiles et qu'aucun temps n'est perdu sur des étapes qui nécessitent plus d'intelligence que ce que le modèle actuel peut fournir.

L'étude a également révélé que cette approche adaptative fonctionne même dans des situations ouvertes où il n'y a pas de réponse clairement droite ou fausse, comme lorsqu'un système doit rassembler des informations sur Internet pour rédiger un rapport long et détaillé. Dans ces scénarios, où la progression est plus difficile à mesurer, PROGROUTER a tout de même réussi à produire les résultats de la plus haute qualité parmi toutes les méthodes testées. Il a obtenu un score de précision de 92,1 % sur ces questions complexes tout en respectant ses limites énergétiques. Les chercheurs ont constaté que le système apprenait naturellement à se spécialiser, utilisant de petits modèles pour la majorité des étapes de routine et réservant les modèles les plus grands et les plus capables pour les moments critiques où leur puissance supplémentaire ferait une réelle différence. Ce comportement dynamique a permis au système d'éviter les pièges courants des autres méthodes, tels que l'enlisement dans des boucles avec des modèles faibles ou l'épuisement trop rapide d'un budget avec des modèles puissants.

En fin de compte, ce travail démontre que l'avenir d'une intelligence artificielle efficace ne réside pas seulement dans la construction de meilleurs modèles, mais dans la création de meilleures façons de les utiliser. En traitant la sélection d'un modèle comme une décision continue et basée sur les données plutôt que comme un choix unique, PROGROUTER montre qu'il est possible d'obtenir des résultats de haute qualité sans les coûts prohibitifs qui limitent actuellement la scalabilité de ces technologies. Le système prouve qu'avec une bonne orchestration, une équipe de modèles divers peut travailler ensemble plus efficacement que n'importe quel modèle unique travaillant seul, offrant ainsi une voie vers des systèmes d'IA plus durables et accessibles, capables de gérer des défis complexes du monde réel sans épuiser leurs ressources.