🤖 AI

Scoped Verification for Reliable Long-Horizon Agentic Context Evolution under Distribution Shift

Cet article introduit Graph-Regularized Agentic Context Evolution (GRACE), une méthode qui structure les instructions système persistantes sous forme de graphes sémantiques typés pour permettre la vérification locale des mises à jour, améliorant ainsi de manière significative la fiabilité à long terme des agents LLM face au décalage de distribution par rapport aux références en texte plat.

Auteurs originaux : Dan C. Hsu, Luke Lu

Publié 2026-07-13

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Dan C. Hsu, Luke Lu

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous formez un assistant robotique super intelligent pour gérer les appels clients d'une entreprise de téléphonie. Vous ne pouvez pas reprogrammer le cerveau du robot chaque jour, et vous ne pouvez pas changer les outils qu'il utilise. La seule chose que vous pouvez ajuster, c'est son « carnet de règles » — une longue liste d'instructions lui dictant comment se comporter, quoi dire et ce qu'il doit éviter.

Ce document, GRACE, pose une question simple mais délicate : Comment mettre à jour ce carnet de règles sur une longue période sans qu'il ne se transforme en un désastre chaotique et contradictoire ?

Le Problème : Le piège du « texte plat »

La plupart des gens essaient de mettre à jour le carnet de règles en réécrivant simplement tout ou en ajoutant de nouveaux paragraphes au bas d'un long document textuel. Les auteurs appellent cela la « maintenance de texte plat ».

Voyez cela comme un groupe de discussion où tout le monde continue d'ajouter de nouvelles règles à la fin. Au début, cela fonctionne très bien. Mais après quelques semaines, la discussion fait 500 pages. Vous avez une règle à la page 10 qui dit « Soyez toujours poli », et une nouvelle règle à la page 499 qui dit « Soyez brusque quand vous êtes en colère ». La discussion ne sait pas que ces deux règles se contredisent. Le robot est confus, commence à faire des erreurs, et finalement, tout le système s'effondre. L'étude montre que lorsque l'on se contente d'ajouter du texte, la fiabilité du robot finit par redescendre.

La Solution : La « Carte Intelligente » (GRACE)

Les auteurs proposent une nouvelle méthode appelée GRACE (Graph-Regularized Agentic Context Evolution). Au lieu d'une longue liste de texte, ils transforment le carnet de règles en une carte structurée (un graphe).

Imaginez que les règles ne sont pas seulement des lignes de texte, mais des nœuds (des points) sur une carte, reliés par des lignes qui montrent comment elles sont liées entre elles.

Un point est une « Règle » (ex: « Soyez poli »).
Un autre point est un « Fait » (ex: « Les clients sont fatigués »).
Une ligne les relie en disant : « Ce fait soutient cette règle ».

Lorsque le robot commet une erreur, le système ne se contente pas d'écrire un nouveau paragraphe. Il regarde la carte. Il trouve le point spécifique (la règle) qui a causé le problème et vérifie ses voisins immédiats.

Cette nouvelle idée entre-t-elle en conflit avec les règles situées juste à côté ? (Vérification de contradiction)
Cette nouvelle idée n'est-elle pas simplement une répétition d'une ancienne ? (Vérification de redondance)

Si la nouvelle idée s'insère bien dans le voisinage local de la carte, elle est ajoutée. Si elle brise la logique de la carte, elle est rejetée ou corrigée immédiatement. Enfin, le système traduit la carte mise à jour en texte que le robot peut réellement lire.

L'Expérience : Un bras de fer

Les chercheurs ont testé cela dans un environnement de télécom simulé (une fausse entreprise de téléphonie) en utilisant un modèle de robot spécifique (Gemini 2.5 Flash). Ils ont fait tourner la simulation cinq fois pour s'assurer que les résultats n'étaient pas dus à la chance. Ils ont changé les types d'appels clients auxquels le robot faisait face tous les quelques tours pour voir si le carnet de règles pouvait s'adapter sans s'effondrer.

Voici ce qui s'est passé :

Le point de départ : Avant toute mise à jour, le robot était très peu fiable. Il ne réussissait le test le plus strict (réussir le travail trois fois de suite) que 0,091 du temps (environ 9 % du temps).
L'équipe « Texte Plat » (HCE) : Ils ont essayé l'ancienne méthode consistant à simplement ajouter du texte. Le robot s'est un peu amélioré au début, atteignant 0,215, mais il a ensuite commencé à décliner. À la fin, il était redescendu à 0,191. Le carnet de règles était devenu trop désordonné, et le robot avait oublié comment être cohérent.
L'équipe « Carte sans vérifications » : Ils ont utilisé la carte mais sans vérifier les contradictions ou la redondance. Ils ont obtenu une bonne progression jusqu'à 0,458, mais ont ensuite subi un crash brutal, terminant à 0,248. La carte aidait à organiser les choses, mais sans la « vérification de voisinage », les règles s'accumulaient toujours en un désordre total.
L'équipe GRACE : Cette équipe a utilisé la carte et les vérifications de voisinage strictes. Ils sont partis de 0,091 et ont grimpé régulièrement. Au dernier point de contrôle, ils réussissaient le test strict 0,673 du temps (environ 67 %).

La grande comparaison : Même un modèle de robot beaucoup plus récent et plus intelligent (Gemini 3.1 Pro) partant de zéro sans aucune mise à jour n'a réussi qu'à atteindre 0,242. L'équipe GRACE, utilisant un modèle de robot plus ancien mais un système de mise à jour plus intelligent, a largement battu le nouveau robot.

Ce que cela signifie (et ce que cela ne signifie pas)

L'article suggère que pour qu'un robot puisse continuer à apprendre sur une longue période sans se briser, on ne peut pas simplement accumuler du texte. Il faut une structure (comme une carte) qui permet de vérifier si les nouvelles idées s'intègrent aux anciennes localement, là où elles se connectent.

Cependant, les auteurs précisent avec prudence que ce n'est pas un remède miracle pour tout.

Ils ont testé cela uniquement dans une simulation de service client de télécom. On ne sait pas encore si cela fonctionne pour le codage, les conseils médicaux ou la conduite automobile.
Ils ont testé cela avec un seul modèle de robot spécifique et un ensemble d'outils précis.
Les résultats sont basés sur des simulations (tests informatiques), et non sur des appels téléphoniques réels avec de vrais humains.

Mais la leçon est claire : si vous voulez qu'un robot fasse évoluer sa personnalité et ses règles sur des mois ou des années, vous devez arrêter de traiter ses instructions comme un journal intime et commencer à les traiter comme une carte bien organisée. Si vous ne vérifiez pas le voisinage avant d'ajouter une nouvelle maison, toute la ville finira par s'effondrer.

Résumé Technique : Vérification à Portée Délimitée pour une Évolution de Contexte Agentique Fiable (GRACE)

1. Formulation du Problème

Le papier traite du défi de l'évolution de contexte agentique à long horizon sous un harnais opérationnel fixe. Dans les systèmes d'agents de modèles de langage étendu (LLM) déployés, le « contexte de l'agent » est assemblé à partir des entrées de tâches, des observations d'outils et d'une instruction persistante au niveau du système qui définit le rôle, les contraintes et les hypothèses de domaine de l'agent.

Lorsque les distributions de tâches changent au fil du temps, cette instruction persistante doit être révisée en fonction de l'expérience opérationnelle pour rester efficace. Cependant, maintenir cette instruction sous forme de texte brut entraîne des modes de défaillance importants à mesure que l'artefact croît :

Effondrement du Contexte : Les incohérences s'accumulent, sapant les améliorations précédentes.
Difficulté de Vérification : À mesure que le document croît, la vérification des relations entre les règles, les contraintes et les procédures devient de plus en plus dépendante du traitement de contexte long, ce qui rend difficile la détection des contradictions ou de la redondance.
Croissance Illimitée : Sans gestion structurelle, le contenu de l'instruction peut croître de manière incontrôlable, entraînant des conflits de directives et une fiabilité dégradée.

Le problème central est d'isoler le substrat de représentation utilisé pour l'évolution. Le papier demande si une représentation structurelle peut soutenir l'efficacité de la vérification et la consolidation sur des horizons d'évolution étendus par rapport à la maintenance de texte brut, tout en gardant le modèle, les outils et le harnais fixes.

2. Méthodologie : GRACE

Les auteurs proposent la Graph-Regularized Agentic Context Evolution (GRACE), un cadre qui maintient l'instruction persistante sous la forme d'un graphe sémantique typé plutôt que de texte brut. L'artefact déployé reste textuel, mais le processus d'évolution opère sur le substrat du graphe.

2.1 Substrat Régularisé par Graphe

GRACE représente l'instruction comme un graphe orienté et typé $G_t = (V_t, E_t)$ :

Nœuds ( $V$ ) : Encodent des unités d'instruction atomiques, classées en trois types d'objets :
- identity (identité) : Statut de l'agent (mandat et sujet).
- norm (norme) : Règles de conduite (normes à satisfaire ou à enfreindre).
- knowledge (connaissance) : Prémisses du domaine (fondements du raisonnement).
Arêtes ( $E$ ) : Encodent les relations structurelles, classées en :
- supports (supporte) : Ancrage ou justification.
- refines (affine) : Spécialisation (ajout de conditions/exceptions).
- sequence (séquence) : Ordre procédural.
Contraintes de Schéma : Un schéma de réseau $\mathcal{T}_G$ définit les paires de types source-cible admissibles pour les relations, garantissant que toutes les mises à jour sont conformes au schéma.

2.2 Pipeline d'Évolution

L'opérateur d'évolution $F_{Evolve}$ transforme l'état précédent $(G_{t-1}, \ell_{t-1}, o_t)$ en l'état suivant $(G_t, \ell_t)$ à travers trois étapes :

Planification de l'Opération :
- Un planificateur médiatisé par un LLM convertit une observation diagnostique (dérivée d'échecs d'interactions de l'agent) en un ensemble de modifications de graphe typées $\Delta^{edit}_t$ (ex: AddNode, ModifyNode, AddEdge).
- Ces modifications sont appliquées de manière déterministe pour créer un graphe intermédiaire $\hat{G}_t$ .
- Un module de maintenance des relations examine les relations incidentes aux nœuds modifiés et propose des modifications supplémentaires au niveau des relations $\Delta^{rel}_t$ .
Validation Structurelle (Vérification à Portée Délimitée) :
- Au lieu de relire l'intégralité du texte, la validation se concentre sur des voisinages typés locaux.
- Un rayon de validation $k$ définit un voisinage $N_k$ autour des nœuds « touchés » (ceux modifiés lors de la phase de planification).
- L'Analyse Structurelle (SA) inspecte ce sous-graphe local pour deux problèmes sémantiques :
  - Contradiction : Détecte l'insatisfaisabilité conjointe où des unités d'instruction chevauchantes ne peuvent être satisfaites simultanément.
  - Redondance : Détecte l'absence de contribution sémantique marginale où une unité subsume une autre sans différenciation structurelle (ex: des voisinages de support distincts).
- Les problèmes détectés sont réparés à l'aide d'opérations conformes au schéma.
Reconstruction de Delta :
- Le graphe validé $G_t$ est reconverti en l'instruction textuelle de contrôle $\ell_t$ .
- Cela est fait via des modifications incrémentales alignées avec les changements au niveau du graphe, préservant le contenu et le formatage non affectés.

3. Configuration Expérimentale

Domaine : Service client télécom, dérivé de $\tau^2$ -bench.
Protocole : Un protocole de changement de distribution contrôlé sur 10 lots d'évolution. Les lots d'expérience alternent entre deux phases de mélange d'intentions (Phase A et Phase B) pour tester la rétention et l'adaptation.
Conditions :
1. GRACE : Méthode complète (substrat de graphe + Analyse Structurelle).
2. GRACE sans SA : Substrat de graphe sans Analyse Structurelle (ablation).
3. HCE (Holistic Context Evolution) : Baseline de texte brut avec une garde de cohérence intégrée.
Métriques :
- pass@k : Capacité (meilleur de k).
- pass^k : Fiabilité stricte (tous les k essais doivent réussir).
- Backward Transfer (BWT) : Rétention de la performance sur des intentions spécifiques après que les distributions ont dévié.
Modèle : Le modèle de l'agent est fixé à Gemini 2.5 Flash. Le diagnostic et l'évaluation utilisent des procédures fixes.

4. Résultats Clés

À travers cinq réplications indépendantes, GRACE a démontré une fiabilité et une rétention supérieures par rapport aux bases de référence :

Amélioration Soutenue : GRACE a amélioré la fiabilité stricte (pass^3) d'une baseline zero-shot de 0,091 à 0,673 ± 0,136 au dernier checkpoint ( $\ell_{10}$ ).
Comparaison avec les Baselines :
- HCE (Texte Brut) : S'est amélioré initialement mais s'est dégradé avec le temps, finissant à 0,191 ± 0,051. Il a souffert d'un « effondrement du contexte » à mesure que l'instruction croissait.
- GRACE sans SA : S'est amélioré initialement (0,458 à $\ell_6$ ) mais n'a pas réussi à consolider les gains, chutant à 0,248 ± 0,144 à $\ell_{10}$ .
Performance de Référence : Le dernier checkpoint de GRACE (0,673) a dépassé une référence zero-shot de Gemini 3.1 Pro de 0,242 sur le même ensemble test.
Analyse des Modes de Défaillance :
- HCE a accumulé un nombre élevé de contradictions (moyenne 3,35) et des tailles d'instruction importantes (82 592 caractères), menant à une perte de cohérence.
- GRACE sans SA a maintenu un faible nombre de contradictions mais a échoué à la consolidation, résultant en une redondance plus élevée (moyenne 4,85) et une croissance incontrôlée.
- GRACE a maintenu une faible contradiction (1,75–1,90) et une redondance moindre (4,15), consolidant efficacement le substrat d'instruction.
Rétention : GRACE a montré un transfert arrière (backward transfer) positif ou nul dans la plupart des cycles, tandis que HCE a présenté un transfert arrière négatif persistant, indiquant une perte de capacité lorsque les distributions changeaient.

5. Contributions et Signification

Le papier apporte trois contributions principales :

Substrat Régularisé par Graphe : Introduit un graphe sémantique typé comme représentation intermédiaire pour faire évoluer les instructions persistantes des agents, permettant une validation structurelle à portée délimitée qui se concentre sur les voisinages locaux plutôt que sur la relecture globale du texte.
Protocole d'Évaluation : Propose un protocole de changement de distribution contrôlé qui teste à la fois l'amélioration intra-phase et la rétention inter-phase, isolant les effets de la représentation et des mécanismes de vérification.
Aperçu Mécaniste : Par l'ablation, le papier identifie deux exigences distinctes pour une évolution à long horizon fiable :
- Substrat Structurel : Nécessaire pour rendre la vérification locale et prévenir les contradictions grossières.
- Mécanisme de Consolidation : Nécessaire (via l'Analyse Structurelle) pour fusionner les contenus qui se chevauchent et résoudre les tensions subtiles, empêissant la croissance illimitée et la redondance.

Signification :
Le papier soutient que pour une évolution de contexte à long horizon fiable, la représentation de l'artefact en évolution est critique. La maintenance en texte brut devient de plus en plus difficile à vérifier à mesure que l'artefact croît. GRACE démontre que maintenir les instructions sous forme de graphe typé avec une validation structurelle locale permet aux agents de soutenir leur fiabilité et de s'adapter aux changements de distribution plus efficacement que les approches de texte brut ou les approches de graphe dépourvues de consolidation. Le travail suggère que les « relations entre les unités d'instruction accumulées » doivent être explicites et suffisamment locales pour pouvoir être inspectées afin de garantir la durabilité.

Limites :
Les auteurs notent que les preuves sont actuellement limitées au domaine de la téléphonie de $\tau^2$ -bench avec un modèle d'agent et un harnais fixes. Des travaux futurs sont nécessaires pour évaluer GRACE sur d'autres domaines et contre des systèmes complets d'évolution de contexte sous des budgets d'implémentation équivalents.