🤖 AI

AGORA: Adapter-Grounded Observation-Action Retention for Inference-Free Prompt Compression in LLM Agents

Le papier AGORA propose une méthode de compression de prompts ancrée dans l'adaptateur et sans inférence pour les agents LLM, qui surmonte les limitations structurelles des compresseurs extractifs au niveau des tokens existants en isolant un plancher structurel comme goulot d'étranglement principal de la qualité et en obtenant une compression adaptative de 1,0 à 11,5 fois grâce à un scoreur appris, tout en maintenant des performances proches de celles du texte non compressé.

Auteurs originaux : Haoran Zhang, Zhaohua Sun

Publié 2026-05-27

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Haoran Zhang, Zhaohua Sun

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez un agent LLM comme un détective hautement qualifié tentant de résoudre une énigme. Pour résoudre l'affaire, le détective examine un long carnet rempli d'indices, d'actions qu'il a entreprises et de ce qu'il a observé ensuite. Au fur et à mesure que l'enquête progresse, ce carnet devient énorme — parfois plus de 100 000 mots. Si le carnet devient trop grand, le détective se sent submergé et ne peut plus penser clairement.

Le problème est le suivant : Comment réduire la taille de ce carnet sans supprimer les indices qui comptent vraiment ?

Le Problème : Le Réducteur du « Mauvais Genre »

Les chercheurs ont essayé d'utiliser des « résumés » standards (appelés compresseurs au niveau des tokens) qui fonctionnent très bien pour des tâches de lecture normales, comme résumer un article de presse. Ces outils fonctionnent en supprimant les mots qui semblent « prévisibles » ou « ennuyeux ».

Mais pour un agent-détective, cette approche est un désastre. L'article qualifie cela de « Destruction de la Grammaire d'Action ».

Voici l'analogie :
Imaginez que le carnet du détective contient une instruction spécifique : « Rechercher [chaussures rouges taille 44]. »

Les mots « Rechercher », « pour » et les crochets [ ] constituent la grammaire d'action. Ce sont les commandes qui indiquent à l'ordinateur quoi faire.
Cependant, comme ces mots sont si courants et prévisibles en anglais, le résumeur standard pense : « Oh, "pour" et les crochets sont ennuyeux. Je vais les supprimer pour économiser de l'espace. »
Le Résultat : Le carnet indique maintenant « chaussures rouges taille 44 ».
Le Plantage : L'environnement informatique le voit et dit : « Je ne sais pas quoi faire avec ça. Ce n'est pas une commande. » L'agent plante ou échoue.

L'article a testé 17 scénarios différents et a constaté que chaque fois qu'ils utilisaient ces résumeurs standards, les performances de l'agent s'effondraient presque à zéro, même s'ils avaient réussi à économiser de l'espace. L'outil fonctionnait parfaitement, mais il supprimait les seules choses qui faisaient fonctionner l'agent.

La Solution : AGORA (Le Système de Classement Intelligent)

Les auteurs ont créé un nouveau système appelé AGORA. Au lieu d'agir comme un nettoyeur de mots, AGORA agit comme un clerc de classement intelligent qui comprend la structure du carnet du détective.

AGORA fonctionne en trois couches simples :

L'Étage « Ne Jamais Toucher » (Analyseur Structurel) :
AGORA a une règle : « Ne jamais supprimer les Instructions Système, l'Indice Actuel ou les deux dernières étapes. »
- Analogie : Imaginez que le carnet du détective possède un post-it rouge sur les deux dernières pages et sur la page de couverture. AGORA dit : « Peu importe ce qui se passe, nous gardons ces pages exactement telles quelles. » Cela garantit que l'agent sait toujours ce qu'il fait et ce qui vient de se passer.
Le « Score de Pertinence » (Le Classificateur à 125 Millions de Paramètres) :
Pour les pages plus anciennes du carnet, AGORA utilise une petite IA rapide (un modèle de 125 millions de paramètres) pour demander : « Si nous supprimons cet ancien indice, le détective prendra-t-il une décision différente maintenant ? »
- Si la réponse est « Non, cet ancien indice n'a pas d'importance », il est supprimé.
- Si la réponse est « Oui, cet indice est critique », il reste.
- Point Clé : Cela se produit en environ 2 millisecondes. Il ne demande pas à une géante IA de réécrire l'histoire ; il vérifie simplement si la page est importante.
Le Remplisseur « Avide » :
Une fois que les pages « Ne Jamais Toucher » sont en sécurité, AGORA remplit l'espace restant avec les anciens indices les plus importants jusqu'à ce que le carnet soit assez petit.

Pourquoi C'est Important

Sans Coût Supplémentaire : La plupart des autres méthodes tentent de résumer le carnet en demandant à une deuxième géante IA de faire le travail. Cela coûte de l'argent et du temps supplémentaires pour chaque étape. AGORA le fait sans demander à une deuxième IA, économisant ainsi de l'argent et du temps.
Ça Marche : Dans 8 scénarios de test différents sur 9, AGORA a maintenu les performances de l'agent à 75 % ou plus de sa vitesse et de sa précision originales, même avec un carnet beaucoup plus petit.
Adaptatif : Il détermine automatiquement dans quelle mesure réduire le carnet. Parfois, il le réduit d'un facteur 1x (un peu), parfois d'un facteur 11x (beaucoup), en fonction de la quantité de « remplissage » dans l'historique.

La Conclusion

L'article prouve que vous ne pouvez pas traiter l'historique d'un agent IA comme un livre normal. Vous devez respecter la « grammaire » de ses commandes. AGORA est une méthode légère, rapide et gratuite pour maintenir la mémoire de l'agent propre sans supprimer accidentellement les instructions qui la font fonctionner. C'est la différence entre un résumeur qui supprime le panneau « Stop » d'une carte routière et un système de classement qui garde la carte lisible tout en supprimant les anciens noms de rues sans pertinence.

Résumé Technique : AGORA – Rétention d'Observation-Action Ancrée par Adaptateur pour une Compression de Prompt Sans Inférence dans les Agents LLM

1. Définition du Problème

Les agents de Modèles de Langage (LLM) accumulent de longues trajectoires d'actions et d'observations au fur et à mesure qu'ils interagissent avec des environnements. À mesure que les horizons de tâches s'étendent (par exemple, dépassant 100k tokens à l'étape 30 sur WebShop), la compression de ce contexte devient une nécessité pratique. Cependant, l'article soutient que les techniques de compression de prompt standard conçues pour les modèles de langage (LM) généraux à tour unique sont structurellement inappropriées pour les agents LLM.

Le problème central identifié est la destruction de la grammaire d'action. Dans les trajectoires d'agents, les tokens portant des sémantiques d'action critiques (identifiants, crochets, verbes d'action comme search[...] ou click[...]) sont souvent hautement prévisibles à partir du contexte naturel environnant. Par conséquent, les compresseurs extractifs au niveau des tokens, qui classent les tokens par auto-information ou perplexité et suppriment ceux ayant les scores les plus bas, effacent systématiquement ces tokens sémantiques. Le prompt « compressé » résultant contient un anglais grammatical mais des commandes d'agent non grammaticales, provoquant le rejet de l'action par l'environnement et l'échec de l'agent.

Les auteurs démontrent que sur 17 cellules expérimentales couvrant deux familles indépendantes de méthodes au niveau des tokens (Contexte Sélectif et LLMLINGUA-2), chaque configuration s'effondre vers une récompense moyenne ( $m_r$ ) de $\leq 0.05$ , malgré des taux de compression de 1,3 à 13,3×.

2. Méthodologie : AGORA

Pour y remédier, les auteurs proposent AGORA (Architecture de Rétention d'Observation-Action Ancrée par Adaptateur), un compresseur au niveau de l'étape sans inférence. Contrairement aux méthodes au niveau des tokens, AGORA opère à la granularité de paires complètes (action, observation), garantissant que la syntaxe d'action reste intacte.

AGORA se compose de trois composants principaux :

Analyseur de Prompt Structurel :
- Segmente la trajectoire de l'agent en blocs typés par rôle (Système, Tâche, Étapes Passées, Observation Actuelle, Réponse en Attente).
- Regroupe les interactions passées en paires d'étapes discrètes $(a_i, o_i)$ .
- Ce parsing est déterministe et agnostique à la tâche, reposant sur des marqueurs de rôle (par exemple, [ASSISTANT], [UTILISATEUR]).
Plancher de Conservation Obligatoire (Plancher de Qualité Déterministe) :
- Conserve inconditionnellement certains contenus critiques pour préserver le format et la récence :
  - Le message système ( $c_{sys}$ ) et l'instruction de tâche ( $c_{task}$ ).
  - L'observation actuelle ( $c_{now}$ ) et toute réponse en attente ( $c_{pend}$ ).
  - Les $K_{recent}=2$ étapes les plus récentes.
- Cette couche garantit que l'« invariant » requis pour que l'agent fonctionne (par exemple, connaître l'état actuel et l'histoire récente) n'est jamais perdu.
Scoreur de Pertinence des Étapes Appris :
- Un classificateur RoBERTa-base de 125M paramètres entraîné pour noter la pertinence des étapes passées restantes par rapport à l'observation actuelle.
- Signal d'Entraînement : Le modèle est entraîné sur des étiquettes de changement d'action suivante contrefactuelles. Pour chaque étape passée $s_i$ et l'observation actuelle $c_{now}$ , le socle de l'agent est interrogé $K=8$ fois (la moitié avec $s_i$ , la moitié sans). L'étiquette est la fraction de fois où l'action suivante canonisée change. Cela crée une étiquette douce $y_i \in [0, 1]$ indiquant la criticité de l'étape.
- Inférence : Le scoreur effectue un seul passage avant ( $\sim 2$ ms/étape) sans appels API. Il renvoie une probabilité $p_i$ que la suppression de l'étape $s_i$ changerait l'action suivante.
Remplissage Gourmand du Budget :
- Étant donné un budget de caractères cible (par exemple, 25 % de la longueur originale), le système remplit l'espace restant après le « Plancher de Conservation Obligatoire » en sélectionnant de manière gourmande les étapes hors plancher par ordre décroissant de leurs scores de pertinence $p_i$ .
- Les étapes supprimées sont remplacées par un seul marqueur d'omission (par exemple, [... N étape(s) omise(s) ...]).

3. Contributions Clés

L'article apporte trois contributions principales :

Identification de la Destruction de la Grammaire d'Action : Les auteurs diagnostiquent et nomment formellement le mode de défaillance structurel où les compresseurs au niveau des tokens échouent sur les agents. Ils fournissent des preuves systématiques (17 cellules) montrant que ces méthodes effondrent les performances des agents car elles suppriment des tokens à faible auto-information qui sont essentiels pour la syntaxe d'action.
Architecture AGORA : Un compresseur novateur au niveau de l'étape, sans inférence, qui combine un analyseur structurel, un plancher « conservation obligatoire » déterministe et un scoreur de pertinence appris entraîné sur des étiquettes contrefactuelles. Il atteint une compression adaptative (1,0–11,5×) avec zéro surcharge LLM par étape.
Attribution des Composants : Grâce à des études d'ablation, l'article isole la valeur spécifique de chaque choix de conception :
- Le Plancher de Conservation Obligatoire est le levier dominant pour la rétention de qualité (sa suppression fait chuter les performances de manière significative).
- Le Scoreur Appris est le moteur principal de la plage de compression adaptative, permettant au système de varier les ratios de compression en fonction de la complexité de la trajectoire tout en maintenant un ratio de conservation fixe.

4. Résultats Expérimentaux

Les auteurs ont évalué AGORA sur 9 cellules (3 environnements : ALFWorld, ScienceWorld, WebShop ; 3 socles : qwen3.5-flash, gpt-4o-mini, gpt-5-mini) par rapport à 10 bases de référence (incluant des méthodes extractives au niveau des tokens et des compresseurs abstraitifs basés sur LLM).

Rétention de Qualité : AGORA est la seule méthode sans inférence à conserver $\geq 75\%$ $\geq 75%$ des performances sans compression dans 8 cellules sur 9 (l'exception étant ScienceWorld avec gpt-5-mini à 73 %).
- Récompense moyenne ( $m_r$ ) moyenne avec AGORA : 0,387 (92 % de rétention par rapport à Sans-Compression).
- À l'inverse, les méthodes au niveau des tokens (Contexte Sélectif, LLMLINGUA-2) se sont effondrées vers une $m_r \leq 0.05$ .
Efficacité de Compression : AGORA atteint une plage de compression adaptative de bout en bout de 1,0–11,5× en utilisant une configuration fixe unique ( $\rho=0.25$ ), s'adaptant au régime de trajectoire spécifique sans ajustement par cellule.
Coût : AGORA engendre zéro coût supplémentaire de tokens LLM par étape (sans inférence). Bien que les compresseurs basés sur LLM (HiAgent, AgentDiet, ACON) atteignent souvent des coûts inférieurs par tâche dans les scénarios de trajectoires longues grâce à une compression agressive, ils paient 8–126k tokens supplémentaires par tâche pour leurs propres appels de compresseur. AGORA est supérieur dans les scénarios où la surcharge LLM par étape est prohibitive ou où la rétention est la contrainte limitante.
Ablation : La suppression du « Plancher de Conservation Obligatoire » a causé la plus grande baisse de performance ( $\Delta m_r \approx -0.088$ ). La suppression du scoreur n'a réduit les performances que légèrement ( $\Delta m_r \approx -0.031$ ) mais a éliminé la plage de compression adaptative, confirmant que le plancher gère la qualité tandis que le scoreur gère le volume de compression.

5. Signification et Revendications

L'article affirme qu'AGORA représente un changement nécessaire dans la manière dont nous abordons la compression de prompt pour les agents. Les auteurs soutiennent que le paradigme « classer et supprimer » de la compression au niveau des tokens est structurellement mal spécifié pour les agents car il optimise la densité d'information plutôt que l'intégrité structurelle des commandes d'action.

Signification :

Changement de Paradigme : Il déplace l'espace de conception de la compression au niveau des tokens vers la compression au niveau des étapes, préservant l'intégrité syntaxique des commandes d'agent.
Faisabilité Sans Inférence : Il démontre que la compression de haute qualité pour les agents ne nécessite pas d'appels LLM coûteux par étape, la rendant viable pour un déploiement avec des socles figés et boîtes noires.
Robustesse : En priorisant la préservation structurelle (le « plancher ») par rapport au résumé sémantique, AGORA évite les modes de défaillance catastrophiques observés dans les compresseurs à usage général.

Les auteurs restent modestes, notant qu'AGORA n'est pas un vainqueur universel de coûts (les méthodes basées sur LLM gagnent souvent sur le coût pur par tâche dans les paramètres de trajectoires longues) et que leur évaluation repose sur des estimations ponctuelles en raison de larges intervalles de confiance ( $n=30$ ). Cependant, ils affirment qu'AGORA fournit la seule solution sans inférence viable qui maintient de hautes performances dans divers paramètres d'agents sans briser la grammaire d'action.