Résumé technique : Vive le bibliothécaire ! Un sous-agent de recherche persistant pour des systèmes d'ingénierie logicielle multi-agents écoénergétiques

Énoncé du problème

Bien que les systèmes multi-agents (SMA) aient considérablement fait progresser l'ingénierie logicielle autonome (SWE), leurs besoins croissants en énergie d'inférence soulèvent des préoccupations en matière de durabilité. La littérature existante sur la consommation énergétique des grands modèles de langage (LLM) se concentre largement sur des paramètres par appel ou des exécutions d'agent unique, ne parvenant pas à caractériser les dynamiques énergétiques uniques des SMA où une tâche unique s'étend sur de nombreux appels LLM répartis entre des sous-agents spécialisés.

Les auteurs identifient une inefficacité critique dans les conceptions actuelles de SMA : la génération redondante de tokens de sortie. Dans les architectures existantes, les sous-agents manquent de mémoire persistante de l'historique d'exploration de fichiers entre les invocations. Par conséquent, lorsqu'un orchestrateur émet différentes requêtes, les sous-agents parcourent à plusieurs reprises des régions de dépôt qui se chevauchent et régénèrent de longs extraits de fichiers. Ce cycle de ré-exploration amplifie la catégorie de tokens la plus énergivore : les tokens de sortie.

L'analyse empirique révèle une asymétrie énergétique marquée : un token de sortie consomme 30 à 1 000 fois plus d'énergie qu'un token d'entrée ou mis en cache. Malgré cela, les comptes de tokens agrégés et les proxies de tarification API sous-estiment souvent la consommation réelle d'énergie GPU car ils ne tiennent pas compte du coût disproportionné des tokens de sortie générés par une exploration redondante.

Méthodologie

1. Attribution et diagnostic de l'énergie

Les auteurs ont mené une étude d'attribution de l'énergie au niveau des tours sur SWE-Bench Verified en utilisant deux systèmes multi-agents (BOAD et HyperAgent) et deux modèles de base Qwen3.6 (35B-A3B et 27B) sur des GPU NVIDIA A100 et B200.

• Décomposition au niveau des tokens : Ils ont décomposé l'énergie GPU en trois catégories : entrée non mise en cache ($x_u$), entrée mise en cache ($x_c$) et sortie ($x_o$).
• Analyse de régression : Un modèle de régression linéaire ($E_t = \alpha + \beta_u x_u + \beta_c x_c + \beta_o x_o$) a confirmé que les tokens de sortie dominent la consommation d'énergie, avec des coefficients ($\beta_o$) allant de 660 à 3 512 mJ/token, contre environ 0,5–34 mJ/token pour les tokens d'entrée.
• Identification de la cause racine : L'étude a tracé l'excès de sortie vers des « réécritures dupliquées ». Les sous-agents relisent fréquemment des régions de fichiers qu'ils ou d'autres agents avaient déjà inspectées au cours du même épisode, régénérant le texte complet dans leurs réponses à l'orchestrateur.

2. Le sous-agent Bibliothécaire

Pour remédier à cela, les auteurs proposent Librarian (Bibliothécaire), un sous-agent de recherche persistant conçu pour éliminer l'exploration redondante et minimiser le volume de sortie. Il est intégré aux SMA existants en remplaçant le sous-agent standard de navigation de code.

Principes de conception clés :

• Session persistante : Contrairement aux sous-agents standard qui commencent avec un contexte neuf, le Bibliothécaire maintient une session unique de longue durée sur toutes les invocations au sein d'un épisode. Il conserve la trajectoire complète des recherches et réponses précédentes.
• Fraîcheur du contexte : Pour garantir que l'historique correspond à l'état actuel du dépôt, chaque invocation reçoit un « rapport de fraîcheur » listant les fichiers et les plages de lignes modifiés depuis l'appel précédent. Le Bibliothécaire est instruit de ne réexplorer que ces régions modifiées tout en réutilisant les extraits mis en cache pour les zones inchangées.
• Réponses par pointeurs uniquement : Au lieu d'intégrer de longs extraits de fichiers dans sa réponse, le Bibliothécaire renvoie de courts commandes de visualisation (pointeurs vers les chemins de fichiers et les plages de lignes). Les extraits de code réels sont récupérés par la couche d'outils du système et transmis à l'orchestrateur. Cela réduit considérablement le volume de tokens généré par le LLM lui-même.

Stratégie d'intégration :
L'intégration implique un « échange d'outils » où l'outil de délégation de l'orchestrateur pour la navigation de code est remplacé par un outil de délégation vers le Bibliothécaire. Le plan de résolution est réécrit pour formuler les étapes de navigation sous forme de requêtes de recherche en langage naturel (par exemple, « Où le symbole X est-il défini ? ») plutôt que d'exploration ouverte. Le Bibliothécaire est strictement limité à la recherche de fichiers et de code ; le raisonnement analytique et l'édition restent de la responsabilité de l'orchestrateur ou d'autres agents spécialisés.

Résultats clés

Les auteurs ont évalué le Bibliothécaire sur SWE-Bench Verified (500 tâches) à travers BOAD et HyperAgent avec les modèles de base Qwen3.6-35B-A3B et Qwen3.6-27B.

• Réduction de l'énergie : Le Bibliothécaire a réduit la consommation d'énergie GPU par épisode de jusqu'à 25 % (par exemple, de 25,64 kJ à 22,73 kJ pour HyperAgent avec 35B-A3B).
• Efficacité des tokens : La réduction a été principalement due à une diminution des tokens de sortie. Par exemple, HyperAgent avec le Bibliothécaire a réduit les tokens de sortie de 48,5K à 42,2K par épisode.
• Préservation des performances : Crucialement, le Bibliothécaire a préservé ou amélioré le taux de réussite des tâches. Dans la plupart des configurations, le taux de réussite est resté comparable ou légèrement supérieur à celui du SMA de base, démontrant que les économies d'énergie ne se sont pas faites au détriment de la résolution des tâches.
• Comparaison avec les références :
  • Méthodes d'efficacité des tokens : Des techniques comme « LastN Observation » (troncature de l'historique) et « Caveman prompting » (compression de texte) ont souvent dégradé les taux de réussite ou n'ont pas réduit l'énergie aussi efficacement car elles forçaient les agents à réexplorer un contexte perdu, gonflant les tokens de sortie.
  • Variantes basées sur la récupération : Le remplacement de l'historique persistant par un contexte basé sur la récupération (BM25 ou plongements denses) a entraîné une consommation d'énergie plus élevée et des taux de réussite plus faibles, suggérant que les requêtes de l'orchestrateur nécessitent une gestion active du contexte et un raisonnement que la simple récupération ne peut fournir.
• Évolutivité : La réduction de l'énergie a persisté à travers différentes difficultés de tâches. Bien que la fréquence d'invocation du Bibliothécaire ait augmenté avec la complexité des tâches, les économies d'énergie par épisode sont restées constantes, et le taux de réussite a été maintenu même sur des tâches plus difficiles.

Importance et revendications

L'article revendique l'identification et l'élimination d'une source majeure, précédemment négligée, de gaspillage d'énergie dans les systèmes SWE multi-agents. Son importance réside dans trois contributions principales :

1. Découverte empirique : Il confirme que, dans les environnements agentiques, les tokens de sortie dominent l'utilisation des ressources, et que les comptes de tokens agrégés sont de mauvais indicateurs de la consommation réelle d'énergie en raison du coût marginal élevé de la génération de sortie.
2. Diagnostic de la redondance : Il diagnostique la surcharge énergétique des conceptions de SMA existantes comme une conséquence de recherches de fichiers dupliquées au cours du cycle de débogage, une redondance qu'aucun sous-agent existant ne reconnaît.
3. Solution architecturale : Il propose Librarian, un sous-agent de recherche persistant qui s'intègre aux conceptions de SMA existantes pour fournir un rôle manquant (navigation d'état dans le dépôt). En renvoyant des pointeurs plutôt que du contenu et en réutilisant l'historique, il minimise la consommation d'énergie matérielle tout en correspondant aux performances des tâches.

Les auteurs concluent que la minimisation des tokens de sortie grâce à une recherche persistante et étatique est une stratégie plus efficace pour l'efficacité énergétique des agents SWE que la simple compression de prompt ou la troncature de contexte, qui dégradent souvent les performances. Ils reconnaissent des limites, notant que la solution est actuellement spécifique aux rôles de navigation de code et évaluée sur des modèles jusqu'à 27B de paramètres actifs, laissant l'évolutivité vers des modèles plus grands et des rôles orientés exécution comme des questions ouvertes.