🤖 AI

ACM: Agentic Context Management for Long Horizon Tasks

Cet article introduit l'Agentic Context Management (ACM), un cadre qui permet aux agents de gérer de manière autonome des tâches à long horizon grâce à l'édition de contexte sans perte et à la récupération de mémoire externe, améliorant considérablement les performances dans les tâches de recherche et de codage tout en réduisant la pression sur les jetons.

Auteurs originaux : Xiaochuan Li, Ryan Ming, Meng Chu, Shuai Shao, Rong Jin, Chenyan Xiong

Publié 2026-07-28

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Xiaochuan Li, Ryan Ming, Meng Chu, Shuai Shao, Rong Jin, Chenyan Xiong

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous êtes un détective tentant de résoudre un mystère massif et complexe à plusieurs niveaux. Vous avez un carnet dans lequel vous notez chaque indice, chaque conversation et chaque impasse que vous rencontrez. Au début, votre carnet est petit et facile à gérer. Mais à mesure que l'enquête s'étire sur plusieurs jours, votre carnet se remplit. Bientôt, vous portez une pile de papiers si épaisse que vous ne pouvez plus les feuilleter assez vite pour trouver l'indice crucial d'il y a trois heures. Vous commencez à oublier des choses, à vous embrouiller et, finalement, le poids même de vos propres notes vous empêche de résoudre l'affaire. C'est le combat quotidien des « agents IA » — des programmes informatiques conçus pour agir comme des humains, en cherchant sur le web, en écrivant du code ou en résolvant des problèmes complexes. Ils sont excellents pour réfléchir, mais ils ont une limite de mémoire terrible : leur « carnet » (appelé fenêtre de contexte) finit par être plein, et quand c'est le cas, ils abandonnent souvent ou commettent des erreurs.

Pendant longtemps, les scientifiques ont tenté de corriger cela en forçant l'agent à résumer ses notes chaque fois que le carnet devenait trop lourd. Imaginez un professeur sévère qui crie : « Stop ! Résume tout ce que tu as écrit jusqu'à présent ! » chaque fois que le carnet atteint 90 % de sa capacité. Le problème est que le professeur ne sait pas ce que le détective est en train de penser. Il pourrait imposer un résumé juste au moment où le détective est sur le point de faire une percée, jetant ainsi l'indice crucial nécessaire pour résoudre l'énigme. Ce document présente une méthode plus intelligente : donner à l'agent ses propres outils de mémoire afin qu'il puisse décider lui-même quand nettoyer ses notes, quoi garder et comment récupérer les anciens indices sans les perdre définitivement.

L'agent doté d'un cerveau super organisé

Les chercheurs derrière ce papier, issus de l'Université Carnegie Mellon et de Meta, proposent un nouveau système appelé Agentic Context Management (ACM). Au lieu de compter sur une règle rigide ou un moniteur extérieur pour dire à l'IA quand résumer, ils équipent l'IA de deux « outils » spéciaux qui agissent comme la mémoire à court et à long terme d'un humain.

Considérez la mémoire de travail actuelle de l'IA comme un bureau. Lorsque vous travaillez sur un projet, vous gardez sur le bureau les documents dont vous avez besoin immédiatement. Mais à mesure que le projet grandit, le bureau s'encombre. Dans l'ancienne méthode, un robot se contenterait de tout fourrer dans une boîte et de jeter les papiers, ne gardant qu'une description vague de ce qui se trouvait dans la boîte. Si vous aviez besoin d'un détail spécifique plus tard, vous n'auriez plus de chance.

Avec l'ACM, l'IA possède un classeur juste à côté du bureau. Lorsque le bureau devient trop encombré, l'IA décide de ranger. Elle prend les documents dont elle n'a pas besoin immédiatement, en rédige une synthèse soignée et range les documents originaux dans le classeur. Crucialement, elle ne les jette pas ; elle les garde en sécurité. Si l'IA réalise plus tard : « Attendez, je dois vérifier ce que disait ce vieux document », elle peut ouvrir le classeur, sortir le fichier spécifique et lire les détails originaux. C'est une gestion sans perte : l'information n'est jamais perdue, elle est simplement déplacée du « bureau actif » vers le « classeur de stockage ».

Apprendre à l'IA à être un bon bibliothécaire

Donner ces outils à l'IA ne suffit pas. Les chercheurs ont découvert que même les modèles d'IA intelligents ne savent pas naturellement quand les utiliser. Parfois, ils nettoient trop tôt (jetant un indice dont ils ont encore besoin), et parfois, ils attendent trop longtemps (laissant le bureau devenir si désordonné qu'ils ne peuvent plus réfléchir).

Pour corriger cela, l'équipe a créé une méthode d'entraînement ingénieuse utilisant une approche « Enseignant-Étudiant ». Imaginez un maître détective (l'Enseignant) observant un stagiaire (l'Étudiant) tenter de résoudre une affaire.

L'erreur : L'Étudiant essaie de résoudre le problème sans utiliser le classeur et se retrouve bloqué ou échoue.
La leçon : L'Enseignant regarde les notes désordonnées de l'Étudiant et dit : « Hé, à ce moment précis, tu aurais dû mettre ces vieilles notes dans le classeur parce que tu tournais en rond. »
La correction : L'Enseignant observe également quand l'Étudiant utilise effectivement le classeur et dit : « Attends, tu n'avais pas encore besoin de ranger cela ! Tu étais sur le point de trouver la réponse. »

En montrant à l'Étudiant quand nettoyer et quand ne pas le faire, l'IA apprend le timing parfait. Elle apprend à reconnaître quand elle est « coincée dans une boucle » ou quand son bureau est trop plein, et elle agit de son propre chef.

Les résultats : plus d'indices, de meilleures réponses

Lorsque les chercheurs ont testé ce nouveau système, les résultats ont été impressionnants. Ils ont opposé leur « Agent ACM » aux agents d'IA standards sur trois types de tâches difficiles : la recherche web approfondie, les questions de recherche complexes et la correction de code informatique.

Une meilleure précision : L'agent ACM entraîné a résolu 27 % de questions de recherche difficiles et 8 % de problèmes de codage de plus que la version standard.
Moins de stress : Le système a réduit la « pression maximale de tokens » (la quantité maximale d'informations que l'IA devait jongler à la fois) d'environ 20 %. C'est comme réduire le poids de votre sac à dos pour pouvoir courir plus vite.
Plus d'exploration : Parce que l'IA ne craignait pas de manquer d'espace, elle était prête à essayer davantage de chemins de recherche. Elle a effectué plus d'appels d'outils et a exploré plus d'idées avant d'abandonner.

Le papier suggère que cette approche permet à l'IA de gérer des tâches plus longues et plus complexes sans se perdre. Elle transforme l'IA, passant d'un preneur de notes frénétique qui fait tomber ses papiers partout en un détective calme et organisé, qui sait exactement où trouver les preuves dont il a besoin, même après des heures d'investigation. Les chercheurs ont rendu leur code et leurs données disponibles, invitant d'autres à bâtir sur ce « système de classement intelligent » pour l'avenir de l'IA.

Résumé Technique : Gestion de Contexte Agentique pour les Tâches à Longue Horizon (ACM)

1. Énoncé du Problème

Les tâches agentiques exécutées par les modèles de langage de grande taille (LLM) sont intrinsèquement à long horizon et multi-étapes, nécessissant aux agents de formuler des plans adaptatifs, d'invoquer des outils et d'ajuster leurs actions en fonction du retour d'information de l'environnement. Cependant, les traces d'interaction produites par ces tâches accumulent un contexte verbeux et bruyant (incluant les tentatives infructueuses, les observations redondantes et les sorties d'outils). Même avec des modèles supportant des fenêtres de contexte nominales de millions de tokens, la capacité de contexte effective est souvent dépassée, entraînant une dégradation des performances.

Les solutions existantes présentent des limitations significatives :

Le pré-entraînement à contexte long et les mécanismes d'attention hybride étendent les fenêtres mais souffrent d'une dégradation mesurable des performances ou restent fondamentalement limités par les limites de la fenêtre de contexte.
Les pipelines de compression de contexte (par exemple, ReSum, ACON) reposent sur des règles heuristiques rigides et artisanales (telles que des seuils de tokens fixes) pour déclencher la compression. Ces moniteurs externes sont mal alignés avec l'évolution du focus de raisonnement de l'agent, compressant souvent l'information prématurément ou échouant à compresser quand cela est nécessaire. De plus, de nombreuses méthodes de compression sont destructives, écartant des données originales qui pourraient être nécessaires ultérieurement.

2. Méthodologie : Gestion de Contexte Agentique (ACM)

Les auteurs proposent l'ACM (Agentic Context Management), un cadre qui dote les agents d'outils dédiés pour gérer leur contexte de manière autonome, sans perte et en alignement avec leur état de raisonnement.

2.1 Cadre Fondamental

Inspiré par la séparation entre la mémoire à court terme et la mémoire à long terme humaine, l'ACM introduit deux outils spécifiques :

manage_context : Compresse le contexte de travail actuel (tous les messages depuis la dernière limite de résumé) en un résumé concis. Crucialement, les messages bruts originaux ne sont pas jetés mais déchargés vers un système de stockage persistant externe (ex: disque). Chaque résumé reçoit un identifiant unique le reliant aux données brutes.
query_memory : Permet à l'agent de récupérer des informations spécifiques des messages bruts déchargés en interrogeant le magasin externe à l'aide de l'identifiant du résumé.

Contra�à les travaux antérieurs où un moniteur externe force la compression, l'ACM est initié par l'agent. L'agent décide quand et comment compresser en fonction de son état de raisonnement interne (ex: détection de boucles, requêtes redondantes ou approche des limites de tokens), permettant une expansion ou une contraction dynamique du contexte effectif.

2.2 Pipeline de Post-Entraînement

Reconnaissant que les modèles de pointe peinent à déterminer le moment optimal pour la gestion de contexte, les auteurs développent un pipeline de post-entraînement enseignant-élève à double contrainte :

Phase 1 : Rollouts de l'Élève : Un modèle élève (Qwen3.5-9B) génère des trajectoires sous deux conditions :
- Sans les outils ACM ( $H^-$ ) : Pour refléter un comportement d'exploration ordinaire.
- Avec les outils ACM ( $H^+$ ) : Pour capturer l'usage non entraîné des outils.
Phase 2 : Annotation de l'Enseignant : Un modèle enseignant plus puissant (Qwen3.5-397B-A17B) examine ces trajectoires par rapport à une réponse de référence et applique deux contraintes complémentaires :
- Injection (sur $H^-$ ) : Identifie les tours où la gestion de contexte aurait dû être appelée (ex: quand l'élève entre dans une boucle de cul-de-sac ou accumule un contexte redondant) et insère l'appel d'outil approprié avec une trace de raisonnement.
- Raffinement (sur $H^+$ ) : Identifie les tours où les appels de gestion de contexte de l'élève étaient prématurés ou inutiles (ex: compression avant la synthèse d'une réponse) et les remplace par des actions plus productives (ex: recherche plus profonde ou finalisation d'une réponse).
Objectif d'Entraînement : L'élève est entraîné via une distillation on-policy pour correspondre aux distributions de next-token "soft" de l'enseignant, apprenant non seulement comment utiliser les outils mais aussi quand les invoquer ou s'en abstenir.

2.3 Contrôle de la Qualité des Données

Pour garantir des données d'entraînement de haute qualité, le pipeline utilise :

Échantillonnage de Rejet (Rejection Sampling) : Ne conservant que les trajectoires où l'élève a initialement échoué, garantissant que l'apprentissage se fait sur des problèmes réellement difficiles.
Filtrage de Contenu : Vérifiant que les traces de raisonnement de l'enseignant expliquent pourquoi la compression est justifiée (ex: "exploration cyclique") sans divulguer d'informations provenant de la réponse de référence.

3. Contributions Clés

Paradigme de Gestion de Contexte Agentique : Un passage d'une compression pilotée par des heuristiques externes à un système de gestion de contexte sans perte et autonome, où l'agent décide du moment et de la méthode de compression.
Pipeline de Post-Entraînement à Double Contrainte : Une méthode efficace pour internaliser les capacités de gestion de contexte dans le modèle lui-même, enseignant à l'agent le timing précis pour la compression et la récupération sans dépendre uniquement d'un apprentissage par renforcement massif.
Validation Empirique : Démonstration qu'une gestion de contexte efficace réduit la pression de pointe des tokens, étend les tours d'exploration lors des tests et améliore la cohérence des solutions à travers des essais indépendants.

4. Résultats Expérimentaux

Les auteurs ont évalué l'ACM sur trois benchmarks à long horizon : BrowseComp-Plus, DeepSearchQA et SWE-Bench Verified, en utilisant Qwen3.5-9B comme modèle de base.

Gains de Performance :
- BrowseComp-Plus : L'ACM-Post-Trained a atteint un Pass@1 de 72,7%, soit une amélioration relative de 27% par rapport au baseline ReAct (57,0%) et surpasse le modèle de pointe à 397 milliards de paramètres (65,3%).
- DeepSearchQA : Amélioration de 36,7% (ReAct) à 42,5% (ACM-Post-Trained).
- SWE-Bench Verified : Amélioration de 48,9% (ReAct) à 53,0% (ACM-Post-Trained).
Efficacité et Comportement :
- Réduction de Tokens : L'ACM a réduit l'utilisation de tokens de pointe d'environ 20% par rapport aux baselines, maintenant le contexte de travail bien en dessous de la limite, même pour de longues trajectoires.
- Exploration : Le framework a permis davantage d'appels d'outils et de tours d'exploration. Par exemple, les agents ACM-Post-Trained ont effectué plus d'appels de recherche et de récupération de documents que les baselines, leur permettant de traverser des chemins de raisonnement complexes qui auraient autrement atteint les limites de contexte.
- Cohérence : L'analyse des métriques Pass@K a révélé que l'ACM réduit significativement l'écart entre Pass@1 et Pass@4, indiquant des solutions plus cohérentes à travers des essais indépendants par rapport au baseline ReAct instable.
Études d'Ablation :
- La simple distillation à partir d'un enseignant fort (sans données ACM spécifiques) n'a pas réussi à surpasser le modèle entraîné par ACM, soulignant la nécessité de démonstrations dédiées à la gestion de contexte.
- Combiner la distillation générale avec les données ACM a donné les meilleurs résultats globaux, suggérant que les deux sources se renforcent mutuellement.

5. Signification et Revendications

L'article affirme que l'ACM représente un changement fondamental dans la manière dont les agents gèrent les tâches à long horizon. En traitant la gestion de contexte comme une action explicite initiée par l'agent plutôt que comme une contrainte externe, le cadre permet aux agents de :

Maintenir une mémoire de travail propre et compacte focalisée sur le raisonnement immédiat tout en préservant un historique sans perte dans un stockage externe.
Étendre leur horizon d'exploration effectif, résolvant des problèmes qui nécessitent des centaines de tours et des centaines de milliers de tokens, ce qui ferait échouer les agents standards par dépassement de contexte.
Atteindre une plus grande cohérence, car un contexte bien géré réduit le bruit et empêche l'agent de rester bloqué dans des boucles improductives.

Les auteurs soulignent que ces gains sont obtenus sans modifier l'architecture sous-jacente du modèle ni nécessiter un apprentissage par renforcement à grande échelle, en s'appuyant plutôt sur un pipeline de post-entraînement ciblé qui enseigne au modèle à gérer ses propres ressources cognitives.

Limites : Les auteurs notent que l'ACM présuppose un modèle de base doté de capacités de raisonnement à long horizon suffisantes ; les modèles plus petits (ex: 4 milliards de paramètres) qui s'arrêtent prématurément en raison d'un effondrement du raisonnement plutôt que de la pression de contexte ne bénéficient pas de ces outils. De plus, l'évaluation repose sur des baselines réimplémentées, bien que des efforts aient été faits pour assurer une comparaison équitable.