Résumé technique : Modèles de langage auto-compactants (Self-Compacting Language Model Agents)

Problème : Décomposition du contexte et compaction rigide

Alors que les agents de modèles de langage (LM) s'attaquent à des tâches à long horizon — allant des mathématiques de compétition nécessitant des dizaines de milliers de jetons à la recherche agentique orchestrant des centaines d'appels d'outils — leurs trajectoires générées accumulent un « contenu obsolète ». Ce phénomène, nommé décomposition du contexte (context rot), se produit lorsque des raisonnements erronés précoces, des résultats de recherche obsolètes ou des programmes candidats abandonnés ancrent les générations suivantes, dégradant ainsi les performances.

Les solutions existantes gèrent cela via une compaction à intervalle fixe, déclenchant la summarisation lorsqu'un seuil de jetons (par exemple, 30 % de la fenêtre de contexte) est atteint. L'article soutient que cette approche est fondamentalement défectueuse car elle ignore la structure de la trajectoire. Un déclencheur fixe ne peut pas distinguer un modèle qui vient de résoudre un sous-problème (un moment sûr pour résumer) d'un modèle en pleine dérivation ou bloqué (un moment dangereux pour résumer). Comme l'illustre la Figure 1 de l'article, une summarisation mal synchronisée peut effacer des faits vérifiés en pleine dérivation, forçant le modèle à redériver l'information ou à deviner, gaspillant ainsi le budget computationnel et réduisant la précision.

Méthodologie : SELFCOMPACT

Les auteurs proposent SELFCOMPACT, un échafaudage (scaffold) sans entraînement qui permet à l'agent LM de décider quand et comment compacter son propre contexte. Le système fonctionne sans ajustement fin (fine-tuning) ni supervision externe, en s'appuyant sur deux éléments d'inférence couplés :

1. L'outil de compaction : Un outil de summarisation intégré ($S$) que le modèle peut invoquer pour résumer le contexte accumulé ($x, y_{1:t}$) en une version condensée ($\tilde{y}$). La génération reprend ensuite à partir du nouveau contexte $(x, \tilde{y})$.
2. La rubrique légère : Un ensemble de critères spécifiques à la tâche qui régule l'invocation de l'outil. À des intervalles de sondage périodiques (tous les $N$ jetons ou appels d'outils), le modèle est interrogé pour évaluer son état actuel par rapport à la rubrique.
   • Quand déclencher (COMPRESS) : Lorsqu'une sous-tâche est résolue (par exemple, une réponse finale est encadrée en mathématiques, ou une unité de recherche est clôturée avec des faits vérifiés) ou que la trajectoire converge.
   • Quand suspendre (CONTINUE) : Lorsqu'le modèle est en pleine dérivation, en pleine recherche ou bloqué dans une boucle.

Détails d'implémentation :

• Réutilisation du cache KV : Pour minimiser les coûts, le sondage de la rubrique et les prompts de la summarisation sont ajoutés au contexte existant plutôt que de le substituer. Cela préserve le cache Key-Value (KV) de la trajectoire ($y_{1:t}$), ce qui signifie que le modèle ne paie que pour le prefill de la nouvelle instruction, et non pour tout l'historique.
• Flux de travail : L'échafaudage exécute une boucle où le modèle génère, marque une pause à intervalles réguliers, évalue la rubrique et déclenche conditionnellement la summarisation. Si la rubrique renvoie COMPRESS, la summarisation est lancée ; sinon, le sondage est rejeté et la génération continue.

Contributions clés

1. Nouvel échafaudage : Introduction de SELFCOMPACT, qui expose la summarisation comme un outil intégré couplé à une rubrique dictant le moment de l'invocation. Cela ne nécessite aucune mise à jour de paramètres.
2. Validation empirique : Démonstration sur sept modèles (quatre variantes de Qwen pour les mathématiques ; trois agents déployés pour la recherche) et six benchmarks (IMO-Answerbench, HMMT, BrowseComp, etc.).
3. Aperçus d'ablation : Preuve que la rubrique est essentielle. Fournir l'outil seul conduit à un usage irrégulier et souvent peu utile (les modèles l'appellent au mauvais moment ou pas du tout). La rubrique comble ce « fossé métacognitif », permettant une compaction adaptative fiable.

Résultats

L'article rapporte que SELFCOMPACT égale ou dépasse la summarisation à intervalle fixe tout en réduisant considérablement les coûts en jetons.

• Mathématiques de compétition : Sur des benchmarks comme IMO-Answerbench et HMMT, SELFCOMPACT a amélioré la précision par rapport à une base de référence sans compaction jusqu'à 18,1 points. Il a surpassé la summarisation à intervalle fixe dans 11 cas sur 12 de configurations/modèles de benchmark.
• Recherche agentique : Sur BrowseComp et DeepSearch QA, SELFCOMPACT a ajouté 5 à 9 points de précision par rapport à la base de référence.
• Efficacité des coûts : Malgré la surcharge d'un appel LLM supplémentaire pour le sondage de la rubrique, SELFCOMPACT a atteint des coûts en jetons par question 30 à 70 % inférieurs par rapport à la base de référence sans compaction. Cela s'explique par le fait qu'il évite le coût massif du traitement d'un contexte obsolet et non résumé lors des tours ultérieurs.
• Analyse du timing : Contrairement aux méthodes à intervalle fixe qui compressent strictement à un seuil de 30 %, la rubrique de SELFCOMPACT déclenche la compression plus tôt (souvent lorsqu'un sous-objectif est résolu), empêchant l'accumulation de la « décomposition » avant qu'elle ne devienne nuisible.

Signification et affirmations

L'article affirme être le premier à introduire et évaluer le timing de compaction adaptatif basé sur une rubrique dans un cadre sans entraînement. Sa principale signification réside dans le recadrage du « quand compacter » non pas comme une capacité qui doit être ancrée dans les poids du modèle via l'ajustement fin ou l'apprentissage par renforcement, mais comme une capacité métacognitive qui peut être fournie via un échafaudage léger.

Les auteurs soulignent un « fossé métacognitif » : alors que les modèles non sollicités ne peuvent pas détecter de manière fiable quand leur propre contexte se décompose, une simple rubrique comble ce fossé. Cela suggère que des stratégies complexes de gestion de contexte peuvent être élicitées de modèles standards sans l'expense computationnelle de l'entraînement, offrant une solution pratique pour déployer des agents à long horizon sous les contraintes matérielles actuelles.

Le travail reste modeste dans sa portée, se concentrant sur des interventions sans entraînement et reconnaissant que les modèles de pointe dotés d'une introspection intrinsèque plus forte pourraient éventuellement nécessiter moins d'échafaudage. Cependant, pour la génération actuelle d'agents à poids ouverts et déployés, SELFCOMPACT offre un mécanisme robuste et rentable pour maintenir les performances sur des horizons de raisonnement étendus.