Résumé Technique : Mise à Échelle Étape par Étape Guidée par l'Entropie (EGSS)

Énoncé du Problème

Les agents d'Ingénierie Logicielle Autonome (ASE) font face à des défis majeurs pour résoudre des problèmes logiciels complexes au niveau du dépôt, principalement en raison de la surcharge computationnelle élevée et de la fiabilité limitée des méthodes existantes de Mise à l'Échelle au Moment du Test (TTS). Les approches actuelles souffrent de deux inefficacités critiques :

1. Redondance Computationnelle : Les stratégies TTS dominantes emploient souvent une expansion de recherche uniforme ou un échantillonnage répétitif à grande échelle sans coordonner les décisions entre les trajectoires. Cela conduit à l'expenditure de ressources sur des étapes triviales, quasi-déterministes, tout en échouant à allouer une exploration suffisante aux points de décision à haute ambiguïté.
2. Sélection de Correctifs Non Fiable : Les mécanismes de sélection existants reposent fréquemment sur un classement en phase terminale ou un vote majoritaire, ce qui élimine les signaux de débogage intermédiaires informatifs. Ce phénomène de « débogage auto-illusionnant » se produit lorsque les agents exécutent des routines de vérification mais acceptent tout de même des correctifs invalides en raison de limitations cognitives ou d'un piégeage dans des optima locaux, manquant d'une évaluation multidimensionnelle de la correction.

Méthodologie : Mise à Échelle Étape par Étape Guidée par l'Entropie (EGSS)

EGSS est un cadre structuré conçu pour équilibrer dynamiquement l'efficacité et l'efficacité grâce à deux étapes principales : Recherche Étape par Étape Dynamique (DSS) et Augmentation de la Consolidation des Tests (TCA).

1. Recherche Étape par Étape Dynamique (DSS)

La DSS répond à l'inefficacité de l'exploration uniforme en allouant de manière adaptative les budgets d'inférence en fonction de l'incertitude décisionnelle.

• Élagage Guidé par l'Entropie : Le cadre quantifie l'incertitude par étape en utilisant l'entropie des outils ($H_{tool}$), définie comme l'entropie de la politique de l'agent sur un ensemble fini d'outils/actions. L'analyse empirique révèle que l'entropie des outils suit une distribution asymétrique à droite, où la plupart des étapes sont de faible entropie (routine) et une queue sparse représente des points de décision à haute entropie (critiques).
• Expansion Adaptative : Au lieu d'un échantillonnage uniforme, EGSS invoque un Juge basé sur un LLM auxiliaire uniquement lorsque $H_{tool}$ dépasse un seuil. Le juge évalue les continuations candidates et élague les branches de faible qualité.
• Mécanisme de Notation : Les trajectoires sont classées selon un score composite $S(\tau_t)$ qui combine la vraisemblance logarithique du modèle de base avec le signal d'évaluation du juge ($J$), normalisé par la longueur de la trajectoire pour atténuer le biais vers les chemins courts. Cela concentre le calcul sur les points de décision informatifs.

2. Augmentation de la Consolidation des Tests (TCA)

La TCA répond à la fiabilité de la sélection de correctifs en synthétisant les signaux de débogage de multiples trajectoires en un standard de vérification unifié.

• Extraction des Actions de Débogage : Le système collecte tous les nœuds de l'arbre de trajectoire qui invoquent des outils de débogage (par exemple, génération/exécution de tests).
• Génération de Suite de Tests Consolidée : Un Agent de Consolidation des Tests spécialisé synthétise ces signaux fragmentés, ainsi que les tests de régression existants et les cas limites identifiés, en une seule suite de tests exécutable. Cette suite offre une couverture plus large que n'importe quel ensemble de tests d'une seule trajectoire.
• Filtrage Robuste : Les correctifs candidats sont évalués par rapport à cette suite consolidée. Seuls les correctifs dépassant un seuil spécifique sont conservés.
• Vote d'Ensemble : Un ensemble multi-modèle (par exemple, Kimi-K2-Instruct, GLM-4.6, Qwen3-Coder) effectue une sélection par préférence via un vote majoritaire pour déterminer le correctif final, assurant la cohérence et réduisant les erreurs de consensus.

Contributions Clés

1. Paradigme de Mise à l'Échelle Structuré : L'article introduit un mécanisme guidé par l'entropie qui alloue dynamiquement les budgets d'inférence aux points de décision à haute ambiguïté, améliorant significativement l'efficacité de l'inférence sans compromettre la qualité de la solution.
2. Pipeline de Sélection de Correctifs Robuste : Les auteurs développent un pipeline qui consolide les signaux de débogage inter-trajectoires en une suite de tests à haute couverture, atténuant efficacement les faux positifs et le « débogage auto-illusionnant » en priorisant les correctifs candidats robustes.
3. Performance de l'État de l'Art : EGSS établit un nouvel état de l'art parmi les méthodes open-source sur le benchmark SWE-Bench-Verified, réalisant des gains simultanés en précision et en efficacité computationnelle.

Résultats Expérimentaux

Des expériences ont été menées sur les benchmarks SWE-Bench-Verified et SWE-Bench-Lite en utilisant des modèles de base incluant Kimi-K2-Instruct, GLM-4.6 et GLM-4.5-Air.

• Gains de Performance : EGSS a constamment amélioré le taux de résolution pour tous les modèles évalués de 5 à 10 %.
  • Kimi-K2-Instruct : Augmentation de 63,2 % à 72,2 % (avec une taille d'ensemble $K=8$).
  • GLM-4.6 : Augmentation de 65,8 % à 74,6 % (avec une taille d'ensemble $K=8$).
  • Avec GLM-4.6, EGSS a atteint la performance la plus élevée parmi les grands modèles de langage open-source rapportés dans l'étude.
• Améliorations de l'Efficacité :
  • Réduction des Tokens : EGSS a réduit l'utilisation de tokens au moment de l'inférence de plus de 28 % par rapport aux méthodes TTS existantes (par exemple, Repeat + Deibase Augmentation).
  • Efficacité de l'Échantillonnage : La DSS avec une taille d'ensemble de $K=4$ a atteint des performances comparables à l'échantillonnage répétitif avec $K=8$, démontrant une efficacité d'échantillonnage nettement supérieure.
• Performance Oracle : Le cadre a également amélioré les métriques Oracle (la proportion d'instances où au moins un correctif correct est généré), indiquant que le pool de candidats lui-même est de meilleure qualité.

Signification et Revendications

L'article affirme que EGSS représente un passage d'une mise à l'échelle par force brute à une optimisation en boucle fermée consciente des ressources. En reformulant l'exploration de code à grande échelle par le biais d'une sélection de trajectoires guidée par l'entropie et d'une synthèse de tests inter-trajectoires, EGSS permet d'exécuter des tâches d'ingénierie logicielle autonome de manière plus efficace et fiable. Les auteurs affirment que cette approche permet des gains de performance significatifs sans nécessiter d'ensembles excessivement grands ni de coûts computationnels accrus, améliorant ainsi l'applicabilité pratique des LLM aux défis réels de l'ingénierie logicielle.