🤖 AI

Agent-Omit: Adaptive Context Omission for Efficient LLM Agents

Cet article présente Agent-Omit, un cadre d'entraînement unifié qui améliore l'efficacité des agents LLM en leur permettant d'omettre de manière adaptative les pensées et observations redondantes grâce à un fine-tuning à démarrage froid et à un apprentissage par renforcement conscient de l'omission, réalisant ainsi des compromis supérieurs entre efficacité et performance sur plusieurs benchmarks.

Auteurs originaux : Yansong Ning, Jun Fang, Naiqiang Tan, Hao Liu

Publié 2026-05-12

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Yansong Ning, Jun Fang, Naiqiang Tan, Hao Liu

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Le Problème : L'Agent « Sur-Explicateur »

Imaginez que vous engagez un assistant de recherche très intelligent, mais légèrement obsessionnel, pour trouver un fait précis sur Internet pour vous.

La Bonne Nouvelle : Il est brillant. Il trouve la réponse.
La Mauvaise Nouvelle : Pour y parvenir, il rédige une entrée de journal de 50 pages pour chaque étape qu'il effectue. Il écrit : « Je réfléchis au fait de cliquer sur le bouton bleu », puis il clique. Ensuite, il écrit : « Je lis le texte à l'écran », puis il lit. Même lorsqu'il clique simplement sur un bouton qui était évident depuis l'étape précédente, il rédige tout un paragraphe à ce sujet.

C'est exactement ce que font les agents IA actuels. Ils génèrent beaucoup de « pensées » (raisonnement) et d'« observations » (lecture des résultats de leurs actions). Bien que cela les aide à résoudre des problèmes difficiles, cela crée une quantité massive de « désordre numérique ». Ce désordre :

Coûte beaucoup d'argent (car les entreprises d'IA facturent au mot/jeton).
Ralentit tout.
Confond l'IA car l'historique de la conversation devient si long qu'elle oublie le début.

L'Insight : Toutes les Pensées ne se Valent Pas

Les chercheurs derrière ce papier se sont posé une question simple : « Avons-nous vraiment besoin de lire chaque page de ce journal de 50 pages ? »

Ils ont analysé le parcours de l'IA et ont constaté que l'importance de ces pensées et observations change selon le moment où elles se produisent :

Le Début : L'IA doit réfléchir intensément pour planifier son itinéraire. (Haute valeur).
Le Milieu : L'IA clique simplement sur des boutons ou lit des résultats de recherche simples. Souvent, elle n'a pas besoin d'écrire une entrée de journal pour cela ; elle peut simplement effectuer l'action. (Faible valeur).
La Fin : L'IA doit résumer les découvertes. Elle a besoin des résultats finaux, mais elle n'a pas besoin de relire les résultats de recherche d'il y a trois heures. (Faible valeur pour les anciennes données).

L'Analogie : Imaginez que vous suivez une recette. Vous devez lire les instructions attentivement au début (planification). Mais lorsque vous remuez la casserole pour la dixième minute, vous n'avez pas besoin d'écrire un roman sur la façon dont vous remuez. Vous remuez simplement. Si vous continuez à écrire sur le fait de remuer, vous manquez de papier avant d'avoir fini de cuisiner.

La Solution : Agent-Omit

L'équipe a construit un nouveau cadre d'entraînement appelé Agent-Omit. Imaginez cela comme enseigner à l'IA un nouveau super-pouvoir : L'Art de savoir quoi sauter.

Au lieu de forcer l'IA à tout écrire, Agent-Omit lui apprend à dire : « Je sais ce que je fais, je n'ai pas besoin d'écrire cela », ou « Je n'ai pas besoin de relire cette vieille note ».

Ils ont fait cela en deux étapes :

Étape 1 : Le « Démarrage à Froid » (Enseigner les Bases)

D'abord, ils ont créé un ensemble spécial de problèmes d'entraînement. Ils ont montré manuellement à l'IA des exemples de :

« Voici un moment où vous avez trop réfléchi. La prochaine fois, sautez simplement la pensée. »
« Voici un moment où vous avez lu une vieille observation qui n'a pas aidé. La prochaine fois, sautez sa lecture. »

Ils ont enseigné à l'IA les « signaux manuels » spécifiques (codes spéciaux) à utiliser lorsqu'elle veut sauter une étape. C'est comme enseigner à un étudiant que parfois, « Je connais la réponse » est une réponse valable, et qu'ils n'ont pas besoin de montrer leur travail pour chaque problème de mathématiques.

Étape 2 : Le « Système de Récompense » (Apprentissage par Renforcement)

Ensuite, ils ont laissé l'IA jouer à des jeux (comme naviguer sur un site web ou résoudre une énigme scientifique) et lui ont donné un système de récompense spécial :

Récompense pour obtenir la bonne réponse.
Récompense Bonus pour utiliser moins de mots.

Si l'IA essayait d'être paresseuse et sautait une étape nécessaire, elle obtenait une mauvaise note. Mais si elle identifiait correctement une étape redondante et la sautait, économisant ainsi de l'argent et du temps, elle obtenait une énorme prime. Avec le temps, l'IA a appris à être un « minimaliste intelligent » : faire le travail mais écrire moins à ce sujet.

Les Résultats : L'Agent « Juste Milieu »

Les chercheurs ont testé cette nouvelle IA (appelée Agent-Omit) contre sept autres agents IA de premier plan.

Performance : Elle a résolu les problèmes aussi bien que les géants « super-intelligents » (comme DeepSeek-R1 ou o3).
Efficacité : Elle a utilisé significativement moins de mots (jetons) pour y parvenir.
Le Compromis : Elle a trouvé l'équilibre parfait. Elle n'était pas si paresseuse qu'elle échouait, et pas si bavarde qu'elle gaspillait de l'argent.

L'Analogie : Imaginez deux conducteurs essayant d'arriver à la même destination.

Conducteur A (Vieille IA) : Conduit tout le long en racontant chaque virage, chaque feu de circulation et chaque nuage qu'ils voient. Ils arrivent, mais ils brûlent beaucoup d'essence et mettent beaucoup de temps.
Conducteur B (Agent-Omit) : Conduit tout le long, mais ne parle que lorsqu'ils doivent prendre une décision complexe ou consulter une carte. Ils arrivent aussi vite, mais ils utilisent beaucoup moins d'essence.

Pourquoi Cela Compte (Selon le Papier)

Le papier affirme qu'en enseignant à l'IA à « omettre » (sauter) le contexte inutile, nous pouvons rendre ces agents :

Moins chers à exécuter.
Plus rapides.
Tout aussi intelligents.

Ils ont prouvé mathématiquement que ce saut n'altère pas la capacité de l'IA à penser correctement, tant qu'elle saute les bonnes choses. Ils ont montré que l'IA a naturellement appris à sauter environ 3 à 4 tours de bavardage inutile au milieu d'une tâche, ce qui est exactement l'endroit où se produisent habituellement les parties « ennuyeuses » du travail.

En bref, Agent-Omit est une méthode d'entraînement qui enseigne aux agents IA à arrêter de sur-expliquer, économisant ainsi du temps et de l'argent sans perdre leur intelligence.

) ou émettre des commandes spécifiques pour omettre des observations historiques (par exemple, <omit tool response N ...>`).
* Omission Multi-tours : Construit des trajectoires complètes où les tours redondants identifiés sont remplacés par des comportements d'omission, contraignant l'agent à maintenir la continuité du raisonnement malgré l'absence de contexte.

Affinage (Fine-Tuning) : L'agent est affiné sur ces données synthétiques en utilisant une perte de modélisation du langage standard avec un masque appliqué aux observations de l'environnement.

Étape 2 : Apprentissage par Renforcement Agentique Conscient de l'Omission
Pour généraliser au-delà des données synthétiques et gérer les interactions dynamiques, les auteurs introduisent un cadre d'apprentissage par renforcement (RL) comprenant :

Stratégie d'Échantillonnage Dual : Pour résoudre le problème du « changement de contexte » (où un agent ne peut pas apprendre d'une décision prise après une omission), l'entraînement découple l'échantillonnage en :
- Trajectoire Complète (y) : Évalue l'efficacité globale et le succès final de la tâche.
- Trajectoire Partielle (y') : Échantillonne le contexte avant qu'une omission ne se produise, permettant à l'agent d'apprendre la politique d'omission conditionnée à l'état pré-omission.
Récompense Consciente de l'Omission : Une fonction de récompense composite équilibrant l'exactitude de la tâche ( $R_{task}$ ) et l'efficacité des tokens ( $R_{omit}$ ). La récompense d'omission est calculée sur la base du ratio de tokens économisés, mais est fixée à zéro si la récompense de tâche est nulle, empêchant ainsi le piratage de la récompense.
Optimisation de la Politique : La politique de l'agent est optimisée à l'aide de l'Optimisation de Politique Relative par Groupes (GRPO) pour maximiser les récompenses attendues sur les deux types de trajectoires tout en minimisant la divergence KL par rapport à une politique de référence.

2.3 Garantie Théorique

Les auteurs fournissent une preuve théorique selon laquelle l'écart entre la politique d'omission apprise et la politique optimale est borné supérieurement par la divergence KL entre elles. En supposant la continuité de Lipschitz sémantique des fonctions de récompense de tâche et de coût en tokens, le cadre garantit que lorsque la politique approxime la stratégie d'omission optimale, l'écart en termes d'efficacité et d'efficacité converge.

3. Contributions Clés

Cadre d'Analyse Unifié : L'article établit un cadre d'analyse au niveau des tours prouvant quantitativement que les mécanismes d'omission peuvent améliorer l'efficacité de l'agent sans sacrifier son efficacité.
Cadre Agent-Omit : Un paradigme d'entraînement novateur intégrant la synthèse de comportements d'omission (démarrage à froid) avec un apprentissage par renforcement agentique conscient de l'omission pour entraîner des agents capables d'une gestion adaptative du contexte.
Validation Empirique et Théorique : Des expériences extensives sur cinq benchmarks et une analyse théorique démontrant l'efficacité de l'approche pour atteindre des compromis efficacité-efficacité supérieurs.

4. Résultats Expérimentaux

Le cadre a été évalué sur cinq benchmarks divers : DeepSearch, WebShop, TextCraft, BabyAI et SciWorld.

Performance vs. Modèles de Pointe : Le modèle Agent-Omit-8B a atteint une précision comparable à celle de sept agents LLM de pointe (incluant DeepSeek-R1-0528, o3 et Qwen3-32B) tout en réduisant substantiellement les coûts en tokens.
Efficacité vs. Méthodes Existantes : Lorsqu'il est appliqué à Qwen3-8B, Agent-Omit surpasse systématiquement sept méthodes existantes de construction d'agents efficaces (incluant la Gestion de la Pensée, la Gestion des Observations et les approches basées sur la Résumé). Il a atteint la précision Pass@1 la plus élevée avec le coût moyen en tokens le plus faible sur tous les benchmarks.
Études d'Ablation : Les résultats ont confirmé que le démarrage à froid SFT (spécifiquement les données d'omission en tour unique) et l'étape RL (spécifiquement l'échantillonnage de trajectoire partielle et les récompenses d'omission) sont critiques pour la performance.
Analyse Comportementale : Les agents entraînés ont omis de manière adaptative en moyenne 3 à 4 tours de contexte redondant par trajectoire, les omissions se produisant principalement dans les tours intermédiaires, ce qui correspond aux résultats quantitatifs initiaux.

5. Signification et Revendications

L'article revendique qu'Agent-Omit offre un nouveau paradigme pour les agents LLM efficaces en s'éloignant de la compression de contexte statique et basée sur des heuristiques vers des politiques d'omission adaptatives et apprises.

Efficacité : L'approche réduit considérablement la consommation de tokens et les coûts de calcul, ce que les auteurs notent pouvant contribuer à réduire l'empreinte énergétique du déploiement d'agents de grands modèles de langage.
Évolutivité : En permettant à des modèles plus petits (par exemple, 8 milliards de paramètres) d'égaler les performances de modèles de pointe beaucoup plus grands tout en utilisant moins de ressources, la méthode améliore l'applicabilité pratique des agents LLM dans des environnements à ressources limitées.
Limites : Les auteurs reconnaissent modestement que l'approche actuelle engendre des échantillons d'entraînement supplémentaires lors de l'étape RL, ce qui limite l'évolutivité. Un travail futur est proposé pour mettre à l'échelle le pipeline de synthèse des données d'omission vers un pré-entraînement à grande échelle et étendre le paradigme à des LLM plus grands.

Les auteurs déclarent ne pas avoir de conflits d'intérêts financiers potentiels liés à ce travail.