Résumé Technique : Exploiter l'Évolution Agentique (AEVO)

Formulation du Problème

L'évolution agentique reformule la résolution de problèmes par les modèles de langage (LLM) comme un processus itératif de génération de candidats, de leur évaluation et d'utilisation des retours pour orienter la recherche future. Les méthodes existantes instancient généralement ce paradigme de deux manières, toutes deux confrontées à des limites dans la recherche à long horizon :

1. Évolution Basée sur les Procédures : Elle repose sur des boucles externes fixes et conçues à la main (par exemple, sélection, optimisation, règles de mise à jour). Bien que modulaires et reproductibles, ces méthodes sont rigides ; elles lient la recherche à long horizon à des heuristiques statiques qui peuvent exploiter répétitivement les mêmes motifs ou échouer à s'adapter aux nouvelles preuves.
2. Évolution Basée sur les Agents : Elle emploie des agents à usage général pour gérer dynamiquement le processus de recherche. Bien que flexibles, ces agents souffrent souvent de « dérive » à mesure que le contexte s'étend. Ils peuvent s'engager excessivement dans des preuves trompeuses, des hypothèses périmées ou des optima locaux car ils manquent d'une interface stable pour organiser l'historique accumulé et réviser leurs propres mécanismes de fonctionnement.

Le défi central identifié est que, bien que l'évolution accumule des preuves riches au fil du temps (candidats, retours, traces, échecs, coûts), les cadres existants manquent d'une interface unifiée et stable pour organiser ces preuves et, surtout, pour réviser le mécanisme qui pilote l'évolution future.

Méthodologie : Cadre AEVO

Les auteurs introduisent AEVO, un « cadre d'édition méta exploité » qui répond à ces limites en formulant l'évolution agentique comme un environnement interactif.

Concept Central : L'Évolution comme Environnement

Au lieu de considérer l'évolution comme une séquence linéaire de générations de candidats, AEVO traite le processus comme un environnement où :

• État ($s_r$) : Le contexte d'évolution accumulé ($C_r$), incluant tous les candidats, les résultats d'évaluation, les traces, les échecs et les coûts.
• Mécanisme de Transition ($\Pi_r$) : La procédure actuelle ou le contexte de l'agent qui dicte comment la prochaine série de candidats est générée.
• Méta-Agent ($M$) : Un agent externe qui observe un résumé de l'état ($o_r$) et agit non pas en générant directement le prochain candidat, mais en éditant le mécanisme de transition ($\Pi_r$).

La Boucle Exploitée

AEVO fonctionne via une boucle en deux phases :

1. Phase d'Édition Méta : Le méta-agent inspecte l'historique accumulé et l'espace de travail. Il produit une action méta composée de :
   • Éditions de l'Espace de Travail : Modification des fichiers définissant le mécanisme (par exemple, code de procédure, invites, compétences, outils, formats de retour ou contexte d'exécution).
   • Plan d'Exécution : Spécification de la manière dont le segment suivant doit s'exécuter (budget d'itération, conditions d'arrêt).
2. Segment d'Évolution : Le mécanisme mis à jour ($\Pi_{r+1}$) s'exécute selon le nouveau plan, générant plusieurs candidats. Ces candidats passent par un évaluateur protégé, isolé des agents pour prévenir le piratage de la récompense. Les résultats sont enregistrés dans un historique consultable.

Instantiation

AEVO unifie deux formes d'évolution sous ce cadre unique :

• Instantiation Basée sur les Procédures : Le méta-agent édite des composants de procédure explicites (par exemple, stratégies de sélection, opérateurs d'optimisation, résumés de retours).
• Instantiation Basée sur les Agents : Le méta-agent édite le contexte de fonctionnement d'un agent à usage général (par exemple, objectifs, compétences, fichiers de mémoire, notes partagées, définitions d'outils).

Une caractéristique de conception critique est le harnais, qui fournit une frontière stable. Il protège l'évaluateur, enregistre des preuves structurées et garantit que le méta-agent peut observer et éditer le processus sans compromettre l'intégrité de l'évaluation ou de la boucle de génération de candidats.

Contributions Clés

1. Formulation Environnementale : L'article propose une formulation novatrice de l'évolution agentique comme environnement interactif où l'état est le contexte accumulé et les actions sont des éditions du mécanisme de recherche lui-même, plutôt qu'une génération directe de candidats.
2. Édition Méta Exploitée (AEVO) : Un cadre qui standardise l'espace de travail d'évolution, protège l'évaluateur et permet une intervention à grain grossier. Il permet à un méta-agent de piloter à la fois des procédures rigides et des agents flexibles en modifiant leur logique sous-jacente ou leur contexte.
3. Instantiation et Évaluation Transversales : Le cadre est instancié avec succès pour l'évolution basée sur les procédures et celle basée sur les agents, démontrant que la même boucle d'édition méta peut réviser des procédures de recherche explicites ou des contextes de fonctionnement d'agents.

Résultats Expérimentaux

Les auteurs ont évalué AEVO sur deux benchmarks standard (Terminal-Bench, ARC-AGI-2) et trois tâches d'optimisation ouvertes (Empaquetage de cercles, Autocorrélation, Optimisation de noyau).

• Performance sur les Benchmarks : Sur les benchmarks standard d'agents et de raisonnement, AEVO a surpassé cinq bases de référence d'évolution (incluant ADAS, DGM, AFlow, SPO, GEPA) et une base de référence ReAct à agent unique. Il a réalisé une amélioration relative de 26 % par rapport à la base de référence la plus forte en moyenne.
• Optimisation Ouverte : AEVO a surpassé quatre bases de référence (Codex, Claude Code, OpenEvolve, HyperAgents) sur trois tâches ouvertes. Notamment, sur la tâche d'optimisation de noyau, AEVO a atteint 1138 cycles dans les 100 itérations, ce que les auteurs notent comme le meilleur résultat rapporté sous le même budget d'itération.
• Efficacité et Stabilité : AEVO a démontré sa capacité à dépasser les gains précoces. Alors que les agents de codage directs s'arrêtent souvent tôt lorsque les améliorations locales stagnent, AEVO a maintenu un progrès constant en utilisant l'intégralité du budget d'évolution. Le cadre a également montré que l'évolution basée sur les agents peut rester compétitive en termes de coûts lorsqu'elle est gérée via un harnais avec mise en cache des invites et contextes persistants.

Signification et Revendications

L'article revendique que l'évolution à long horizon bénéficie non seulement de générateurs de candidats plus performants, mais significativement d'une intervention au niveau du mécanisme. En traitant le processus d'évolution comme un environnement éditable, AEVO permet aux systèmes d'échapper aux optima locaux et d'adapter leurs stratégies de recherche en fonction des preuves accumulées.

Les auteurs soulignent que leur approche fournit une vue unifiée de l'évolution agentique. Que la recherche sous-jacente soit pilotée par une procédure fixe ou un agent à usage général, l'accumulation de preuves peut être exploitée pour réviser le mécanisme qui pilote cette recherche. Cette approche « exploitée » garantit que l'évolution reste observable, éditable et alignée sur l'objectif réel, empêchant la dérive et le piratage de la récompense souvent observés dans l'évolution basée sur des agents non structurés.

Ce travail suggère que les progrès futurs des systèmes agentiques pour la découverte scientifique, l'ingénierie logicielle et l'optimisation autonome de code dépendront de cadres capables d'organiser systématiquement les preuves et de réviser les mécanismes de recherche eux-mêmes, plutôt que de simplement générer davantage de candidats.