Résumé technique : Continuation ancrée : un vérificateur d'exécution en temps linéaire pour les conversations de modèles de langage

Énoncé du problème

Les modèles de langage (LLM) déployés dans des conversations multi-tours génèrent souvent des continuations qui sont localement fluides et pragmatiquement plausibles, mais non ancrées dans l'historique établi de la conversation. Ces sorties peuvent reposer sur des prémisses, des observations ou des hypothèses que la conversation a déjà abandonnées ou révisées. Cet « écart d'ancrage » est empiriquement sévère : des études indiquent que les LLM ne parviennent pas à réviser des hypothèses incorrectes même lorsque les tours ultérieurs les contredisent, entraînant une baisse significative des performances dans les contextes multi-tours par rapport aux interactions en un seul tour. De plus, cet écart est activement exploité par des attaques de manipulation de contexte, où des agents produisent des continuations localement cohérentes mais déconnectées des engagements antérieurs, pouvant déclencher des actions non autorisées.

Les solutions existantes, telles que la génération augmentée par la récupération (RAG), traitent l'ancrage externe (retracer les affirmations vers des documents cités) mais échouent face à l'ancrage interactionnel (retracer les affirmations vers les engagements évolutifs propres à la conversation). Les systèmes de mémoire conversationnelle suivent généralement ce qui a été dit, mais manquent de la carte de dépendance structurelle reliant les énoncés aux conclusions qui en sont tirées.

Méthodologie

Les auteurs proposent un vérificateur d'exécution qui maintient un graphe de dépendance explicite pour suivre la provenance des affirmations tout au long d'une conversation. Le système fonctionne via une architecture hybride comprenant un interprète LLM et un moteur symbolique.

1. Fondement formel

Le vérificateur est construit sur quatre formalismes :

• Logique épistémique dynamique (DEL) : Modélise ce que les agents savent, croient et dont ils ont conscience.
• Raisonnement abductif : Génère des hypothèses pour expliquer des observations surprenantes.
• Logique de la conscience : Suit l'expansion des ensembles de conscience des agents.
• Cadres d'argumentation : Modélise les attaques et les soutiens entre arguments (style Dung).

Ces éléments sont unifiés en une Structure de dépendance $D_t = (M_t, AF_t, Cmt_t, Dep_t)$, où :

• $M_t$ : Modèle de plausibilité épistémique (états de connaissance/croyance).
• $AF_t$ : Cadre d'argumentation (arguments et relations d'attaque).
• $Cmt_t$ : Engagements publics des agents.
• $Dep_t$ : Une carte reliant les arguments aux propositions qui les soutiennent.

2. Taxonomie des 8 opérations

Un interprète LLM classe chaque énoncé en l'une des huit opérations de mise à jour, que le moteur symbolique applique pour mettre à jour la structure de dépendance :

1. OBSERVER : Annonce publique ferme (ajoute des faits).
2. HYPOTHÉTISER : Mise à niveau lexicographique souple (introduit des hypothèses explicatives).
3. SOUTENIR : Augmente la plausibilité d'une affirmation basée sur des preuves.
4. SAPE : Diminue la plausibilité d'une affirmation (par exemple, via des preuves contradictoires).
5. RÉVISER : Rétractation ferme ou ajout d'une arête d'attaque (abandonne une affirmation).
6. ÉTENDRE LA CONSCIENCE : Ajoute de nouvelles propositions aux ensembles de conscience des agents.
7. RÉSOLVRE : Engagement consensuel ou autoritaire à une conclusion.
8. QUESTIONNER : Signale une observation inexpliquée comme un problème abductif.

3. Vérification et rétractation

• Vérification de la continuation ancrée : Pour vérifier si une continuation candidate $c$ est ancrée, le système vérifie s'il existe un argument $\alpha_c$ dans le cadre d'argumentation actuel tel que $claim(\alpha_c) = \phi_c$ (la proposition affirmée par $c$). Cela se réduit à une marche sur le graphe sur la carte de dépendance.
• Rétractation sélective : Si une prémisse $p$ est rétractée, le système calcule $Affected(p)$, l'ensemble des conclusions qui perdent leur ancrage. Cela est calculé en parcourant la carte de dépendance pour trouver tous les arguments $\alpha$ où $p \in Dep(\alpha)$.
• Complexité : La vérification par tour et la propagation de la rétractation sont linéaires par rapport à la taille de la représentation du moteur ($O(|Args| + |Att|)$), évitant ainsi la croissance linéaire avec la longueur de la conversation typique des méthodes de relecture de l'historique.

Contributions clés

1. Vérificateur d'exécution pour l'ancrage interactionnel : Un système qui vérifie, à chaque tour, si une continuation candidate remonte aux engagements antérieurs via une structure de dépendance maintenue, opérant en un temps linéaire par rapport à la taille de l'état du moteur.
2. Substrat formel composable : Un cadre unifié combinant la DEL, l'argumentation et la logique de la conscience avec une garantie de validité pour la rétractation sélective (Proposition 2.1). Le système garantit que lorsqu'une prémisse est rétractée, l'ensemble des conclusions affectées est sans conflit et bien défini.
3. Décomposition Validité-Fidélité : Les auteurs séparent le problème en une vérification structurelle valide (la logique du moteur, qui est prouvée correcte) et la fidélité d'extraction (la capacité du LLM à classer correctement les opérations et à extraire les dépendances). Cela permet une mesure précise de l'endroit où les échecs se produisent.
4. Validation empirique : Le système est évalué sur des scénarios multi-agents contrôlés et des benchmarks externes, démontrant sa capacité à détecter des prémisses obsolètes et à s'abstenir de confabulation là où les lignes de base échouent.

Résultats

Scénarios contrôlés (Phases 2 et 3)

• Détection de prémisses obsolètes : Sur un sous-ensemble de 15 éléments de cas « prémisses obsolètes » (où une affirmation repose sur une prémisse rétractée plus tôt), le vérificateur a atteint 100 % de précision, contre 93,3 % pour la ligne de base LLM seule. Le vérificateur a correctement identifié qu'une recommandation reposant sur une hypothèse abandonnée était non ancrée, tandis que la ligne de base la traitait comme plausible.
• Latence de rétractation : Dans le régime borné (où les hypothèses résolues/abandonnées sont retirées), la latence du vérificateur se stabilise à mesure que la longueur de la conversation augmente, tandis que les lignes de base de relecture de l'historique croissent linéairement. À 2 000 tours, le vérificateur était 84 fois plus rapide que la relecture de la transcription complète.

Benchmarks externes

• LongMemEval-KU (Oracle) : Sur 78 éléments testant les mises à jour de connaissances avec remplacement, le vérificateur (avec contenu et récupération) a atteint 89,7 % de précision, surpassant la ligne de base LLM seule (88,5 %) et une ligne de base transcript-RAG (87,2 %). Les victoires étaient concentrées dans les cas où la ligne de base confabulait sur des éléments sans information de soutien, tandis que le vérificateur s'abstenait correctement.
• LoCoMo : Sur 60 éléments officiels de questions-réponses, le vérificateur était compétitif avec les lignes de base augmentées par la récupération, cohérent avec son accent sur l'ancrage interactionnel plutôt que sur le simple rappel d'entités-relation.

Robustesse et extraction

• Précision de classification : Avec des invites « Définitions » et « État-augmentées », l'interprète LLM a obtenu des scores F1 élevés (par exemple, 0,91 pour Claude Sonnet 4 sur la Phase 2).
• Analyse des goulots d'étranglement : La limitation principale est la fidélité d'extraction (la capacité du LLM à mapper correctement le langage naturel vers des opérations formelles), et non la vérification structurelle elle-même. Plus précisément, la récupération des arêtes de dépendance inter-hypothèses (par exemple, lorsqu'une nouvelle hypothèse englobe une ancienne) nécessitait une correction spécifique du schéma dans l'opération RÉSOLVRE, qui n'était pas réalisable par le seul ingénierie d'invite.

Importance et revendications

L'article revendique fournir le premier mécanisme d'exécution qui lie structurellement la continuation d'un agent à son historique d'interaction réel, traitant ainsi une vulnérabilité critique des agents LLM déployés.

• Sécurité : Il offre une défense contre les attaques de manipulation de contexte en garantissant que les actions ne sont entreprises que si elles sont soutenues par le graphe de dépendance actuel.
• Fiabilité : Il permet une abstention correcte. Lorsqu'une continuation manque de soutien, le système la signale comme « non ancrée » plutôt que d'halluciner une justification qui sonne plausible.
• Efficacité : En maintenant un graphe de dépendance symbolique, il réalise une vérification et une propagation de rétractation en temps linéaire, le rendant évolutif pour des conversations à long horizon où la relecture de l'historique est computationnellement prohibitive.
• Garanties formelles : Le système fournit une garantie sans conflit pour la rétractation sélective, assurant que l'état de la conversation reste logiquement cohérent après le retrait des prémisses.

Les auteurs restent modestes, notant que l'efficacité du système est limitée par la capacité du LLM à extraire fidèlement la structure formelle du langage naturel, et que l'implémentation actuelle se concentre sur l'ancrage interactionnel plutôt que sur la récupération factuelle externe (bien que le cadre puisse être étendu à ce dernier).