Résumé Technique : EvoArena et EvoMem

Énoncé du Problème

Les agents de modèles de langage étendu (LLM) ont démontré de solides performances sur des benchmarks impliquant la navigation web, l'ingénierie logicielle et l'utilisation d'outils. Cependant, ces évaluations supposent principalement des environnements statiques, où les interfaces, les règles, les états de code et les distributions de tâches restent fixes une fois le benchmark construit. Dans un déploiement réel, les agents opèrent dans des environnements dynamiques où les conditions évoluent de manière persistante au fil du temps (par exemple, mises à jour d'API, changements de flux de travail, refactorisation de code source et évolution des préférences des utilisateurs).

Les systèmes d'agents actuels échouent souvent dans ces contextes en raison de l'effondrement de l'état (state collapse). La plupart des agents basés sur la mémoire maintiennent un état unique et récent (par exemple, une banque de mémoire ou un magasin épisodique récupérée). Bien que cette conception soit efficace lorsque les nouvelles informations remplacent sans risque les anciennes, elle devient fragile lorsque différentes versions de l'environnement exigent des comportements différents. Par exemple, une mise à jour des permissions d'un flux de travail pourrait écraser une règle antérieure qui reste pourtant valide pour une version spécifique ou une organisation donnée. Par conséquent, les agents perdent le contexte expliquant quand les comportements précédents étaient valides, ce qui conduit à la réutilisation de procédures obsolètes. Il existe un fossé critique dans l'évaluation et l'amélioration de la robustesse des agents sous une évolution persistante de l'environnement.

Méthodologie

1. EvoArena : Une suite de benchmarks pour l'évolution persistante

Pour remédier au manque d'évaluation dynamique, les auteurs introduisent EvoArena, une suite de benchmarks qui modélise les changements d'environnement comme des séquences de mises à jour progressives à travers trois domaines :

• Terminal-Bench-Evo (Évolution de flux de travail exécutables) : Convertit les tâches de terminal statiques en chaînes versionnées. L'objectif sous-jacent reste constant, mais les contraintes opérationnelles évoluent à travers les versions, incluant des changements dans les chemins d'E/S, les interfaces CLI/API, les dépendances, les dispositions d'espace de travail et les politiques de sécurité. Chaque chaîne se compose de 4 à 5 versions où les versions ultérieures héritent de l'environnement réalisé des versions précédentes.
• SWE-Chain-Evo (Évolution logicielle) : Organise les dépôts de logiciels en chaînes chronologiques de jalons (milestones). Les agents doivent résoudre des objectifs de développement localisés (ex: corrections de bugs, ajouts de fonctionnalités) où le code source accumule des changements provenant des jalons précédents. L'évaluation teste si les agents peuvent implémenter de nouvelles exigences sans régresser les comportements précédemment établis (mesuré via des tests Pass-to-Pass).
• PersonaMem-Evo (Évolution de l'intelligence sociale) : Étend les benchmarks de personnalisation pour modéliser l'évolution des préférences des utilisateurs. Au lieu de profils statiques, les agents interagissent avec des conversations de longue durée où les préférences des utilisateurs évoluent au fil du temps (ex: changement de préférences de boissons basé sur de nouvelles expériences). Le benchmark inclut des questions nécessitant que les agents déduisent les préférences actuelles à partir de preuves historiques dispersées, en distinguant les états obsolètes des états valides.

EvoArena évalue les agents à l'aide de deux métriques :

• Précision par étape (Step Accuracy) : Succès sur des tâches évoluées individuelles.
• Précision de chaîne (Chain Accuracy) : Succès sur une séquence de tâches liées, exigeant que l'agent maintienne sa fiabilité sur l'ensemble de l'historique d'évolution sans erreur.

2. EvoMem : Un paradigme de mémoire basé sur les correctifs (patches)

Pour améliorer les performances des agents dans ces contextes dynamiques, les auteurs proposent EvoMem, un paradigme de mémoire léger de type "git-like". Contra-rent aux systèmes de mémoire standards qui consolident les mises à jour en un seul état, EvoMem traite les mises à jour de la mémoire comme un historique de correctifs en ajout uniquement (append-only patch history).

• Enregistrement des correctifs (Patch Recording) : Lorsqu'un agent met à jour sa mémoire, EvoMem capture les changements non additifs (révisions, écrasements, réinterprétations) sous forme de correctifs explicites. Chaque correctif $p_t$ enregistre :
  • $\tau_t$ : Métadonnées temporelles (tour, session).
  • $C^-_t, C^+_t$ : Contenu de la mémoire avant et après la mise à jour.
  • $r_t$ : La raison (rationale) de la mise à jour.
  • $z_t$ : Un résumé sémantique du changement.
  • $e_t$ : La preuve de soutien (contexte déclencheur, feedback).
• Récupération augmentée par correctifs (Patch-Augmented Retrieval) : Lors de l'inférence, l'agent récupère l'état de mémoire le plus récent par défaut. Cependant, si une requête dépend d'états écrasés, de changements temporels ou de comportements spécifiques à une version, le système récupère sélectivement les correctifs historiques pertinents. Cela permet à l'agent de raisonner sur pourquoi un état a changé et quand un état antérieur était valide.

EvoMem est instancié à travers différentes architectures d'agents (Terminus2, OpenHands, A-Mem, Memento-Skill) en définissant des schémas spécifiques pour ce qui constitue un "correctif" dans ce contexte (ex: changements de stratégie dans les tâches de terminal, révisions de logique de code dans l'ingénierie logicielle, ou mises à jour de préférences dans les conversations).

Contributions Clés

1. Benchmark EvoArena : Une suite complète évaluant les agents sous l'évolution persistante de l'environnement à travers les flux de travail terminaux, les dépôts de logiciels et les préférences sociales. Elle introduit la Précision de Chaîne comme une métrique plus stricte pour la fiabilité soutenue.
2. Paradigme EvoMem : Une architecture de mémoire qui préserve les traces de l'évolution de l'environnement. En enregistrant les mises à jour de la mémoire sous forme de correctifs structurés avec des justifications et des preuves, elle permet aux agents de raisonner sur des états dépendants de versions plutôt que de se fier uniquement au dernier état consolidé.
3. Analyse Empirique : Démonstrations que les agents existants peinent considérablement dans les environnements évolutifs et que EvoMem améliore systématiquement la robustesse, la rétention des preuves et la performance au niveau de la chaîne.

Résultats Expérimentaux

Performance sur EvoArena

Les expériences sur plusieurs modèles de base (GPT-5.5, Gemini-3.1-Pro, Kimi-K2.6, etc.) et frameworks d'agents révèlent :

• Difficultés des bases de référence (Baselines) : Les agents actuels atteignent une précision modérée au niveau des étapes (moyenne de ~43,6 % sur Terminal-Bench-Evo, ~27,9 % sur SWE-Chain-Evo et ~47,3 % sur PersonaMem-Evo) mais souffrent de baisses significatives de la Précision de Chaîne (ex: tombant à ~21,5 % sur Terminal-Bench-Evo). Cela indique que résoudre des étapes isolées ne garantit pas la fiabilité à travers des chaînes évolutives.
• Améliorations par EvoMem : L'intégration de EvoMem améliore systématiquement les performances :
  • Au niveau des étapes : Gains moyens de +2,4 % (Terminal), +0,4 % (SWE) et +1,7 % (Persona).
  • Au niveau de la chaîne : Des gains plus importants sont observés au niveau de la chaîne, avec des améliorations moyennes de +6,1 % (Terminal), +2,1 % (SWE) et +3,2 % (Persona). Cela suggère que EvoMem est particulièrement efficace pour maintenir la cohérence à travers des séquences de tâches dépendantes.

Généralisation aux benchmarks standards

EvoMem améliore également les performances sur des benchmarks standards et non évolutifs :

• GAIA : Amélioration moyenne de +6,1 %.
• LoCoMo : Amélioration moyenne de +4,8 %.
  Cela suggère que la préservation de l'historique des mises à jour en tant qu'évidence récupérable profite aux agents même dans des contextes statiques, probablement en améliorant le raisonnement à long horizon et en réduisant l'hallucination d'états passés.

Analyse Mécaniste

• Opérationnalisation : Dans Terminal-Bench-Evo, les gains sont les plus élevés lorsque les agents ne se contentent pas de récupérer des exemples de correctifs, mais les opérationnalisent — en incorporant l'information de transition dans leur raisonnement et leurs commandes exécutées.
• Réduction des régressions : Dans SWE-Chain-Evo, EvoMem réduit considérablement les échecs Pass-to-Pass (régressions), indiquant une meilleure préservation des contraintes de code historiques.
• Préservation des preuves : Dans PersonaMem-Evo, EvoMem améliore la capture de preuves au niveau de la ligne, ce qui signifie qu'il préserve mieux l'ensemble complet des preuves de préférence requises pour le raisonnement en aval, particulièrement pour les questions de trajectoire temporelle et de synthèse multi-patterns.

Signification et Revendications

L'article affirme que le déploiement fiable des agents dans des contextes réels nécessite de traiter la mémoire non pas comme un instantané statique, mais comme un historique évolutif de mises à jour ancrées.

• Combler le fossé : EvoArena répond au décalage entre les évaluations de benchmarks statiques et la nature dynamique du déploiement réel, où les API, les flux de travail et les besoins des utilisateurs changent continuellement.
• Raisonnement conscient des versions : Les résultats soulignent que les agents doivent conserver la mémoire la plus récente tout en étant capables de récupérer les états antérieurs pertinents et de raisonner sur les raisons pour lesquelles les mises à jour ont eu lieu.
• Implication de conception : Les auteurs postulent que les systèmes de mémoire d'agents robustes doivent préserver les historiques de mise à jour comme des preuves récupérables. Cette approche permet aux agents de distinguer la connaissance actuelle de la connaissance précédemment valide, empêant ainsi l'application de comportements obsolètes.

Le travail conclut que la modélisation de l'évolution, tant dans l'évaluation (via EvoArena) que dans l'architecture de la mémoire (via EvoMem), est essentielle pour construire des agents capables de s'adapter de manière fiable aux changements de conditions.