Résumé technique : Se souvenir de la décision, pas de la description

1. Énoncé du problème

Les agents linguistiques à horizon long opèrent sous des budgets de mémoire d'exécution stricts, pourtant les mécanismes de mémoire existants organisent généralement l'expérience selon des critères descriptifs (par exemple, la pertinence sémantique, la saillance, la récence ou la fidélité du résumé). Les auteurs soutiennent que ces critères échouent à capturer le véritable objectif de la mémoire dans un agent : soutenir les décisions.

Une analyse empirique sur le benchmark LoCoMo révèle une rupture critique : la similarité descriptive est un prédicteur statistiquement significatif mais faible de la compatibilité des preuves (Spearman $\rho = 0,103$, AUC = 0,548). Par conséquent, la récupération basée sur la description ne récupère que 66 % des preuves orales sous un budget équivalent, contre 83 % pour la méthode proposée. Le problème central est que les agents doivent compresser les historiques d'interaction en un nombre fixe de $K$ états de mémoire d'exécution sans dégrader la qualité des décisions en aval, une contrainte que l'organisation descriptive ne résout pas.

2. Méthodologie : Un cadre de distorsion de taux centré sur la décision

L'article reformule la mémoire de l'agent comme un problème de distorsion de taux centré sur la décision. Au lieu de minimiser l'erreur de reconstruction (description fidèle), l'objectif est de minimiser la perte de qualité de décision réalisable induite par la compression.

Formulation théorique

• Contrainte de mémoire : L'agent accède à l'historique uniquement par l'intermédiaire de l'un des $K$ états de mémoire internes (emplacements) au moment de la décision.
• Distorsion de décision : Définie comme la perte de valeur lorsqu'un historique $h$ est mappé à un état de mémoire $m$ et qu'une politique $\pi$ sélectionne une action basée sur $m$ plutôt que sur $h$.
• Frontière exacte d'oubli : Les auteurs dérivent une frontière théorique (Théorème 1) stipulant que deux historiques peuvent partager en toute sécurité un état de mémoire si et seulement s'ils admettent une action commune $\epsilon$-optimale pour une requête donnée. Cela se distingue de la similarité descriptive ; c'est purement décisionnel.
• Mesures de complexité : L'article introduit les nombres de couverture et d'emballage décisionnels pour caractériser le nombre minimum d'états de mémoire requis pour maintenir un niveau de distorsion cible.
• Difficulté computationnelle : Trouver la partition optimale des historiques en $K$ états pour minimiser la distorsion est prouvé comme étant NP-complet (Théorème 3), motivant ainsi le besoin d'un apprentissage en ligne et approximatif.

L'algorithme DeMem

Pour répondre à la NP-difficulté et au besoin d'apprentissage en ligne, les auteurs proposent DeMem (Mémoire consciente de la décision), un apprenant de mémoire en ligne avec les mécanismes suivants :

1. Incompatibilité certifiée : DeMem maintient un graphe « ne peut pas lier » sur les contextes observés. Il construit des certificats inférieurs pour les distances décisionnelles par paires. Si les données certifient que deux contextes $x, x'$ nécessitent des actions conflictuelles (c'est-à-dire que leur distance décisionnelle dépasse un seuil $\epsilon$), une arête est ajoutée au graphe.
2. Encodage budgétisé : Au début de chaque époque, DeMem effectue un coloriage glouton du graphe « ne peut pas lier » pour partitionner les contextes en $K$ emplacements. Cela garantit le respect du budget strict.
3. Raffinement en cas de conflit : Les emplacements de mémoire sont affinés (divisés) uniquement lorsque les données certifient qu'un état partagé induirait un conflit de décision. Cela évite une fragmentation inutile.
4. Garanties de regret : L'algorithme fournit des garanties de regret quasi-minimax (Théorème 4), séparant l'erreur de compression inévitable (due à la limite de $K$ états) de l'erreur d'apprentissage statistique.

3. Contributions clés

1. Théorie centrée sur la décision : L'article établit un cadre formel pour la mémoire d'agent budgétisée, définissant une frontière exacte d'oubli et une frontière mémoire-distorsion basée sur la qualité de décision plutôt que sur la fidélité descriptive.
2. Analyse de complexité : Il prouve que la partition optimale de la mémoire est NP-complète et fournit des bornes de couverture/emballage qui quantifient le compromis entre le budget de mémoire et la perte de décision.
3. Algorithme DeMem : Il introduit un apprenant en ligne qui affine les états de mémoire uniquement en cas de conflit de décision certifié, offrant des bornes de regret théoriques qui correspondent à la borne inférieure minimax jusqu'à des facteurs logarithmiques.
4. Validation empirique : La méthode démontre des gains constants par rapport à des bases de référence solides (y compris RAG, Mem0, Mnemis et LangMem) sur des diagnostics synthétiques et des benchmarks conversationnels à horizon long (LoCoMo, LongMemEval, MemoryArena).

4. Résultats expérimentaux

Les auteurs évaluent DeMem sous un budget de mémoire strictement équivalent au temps de réponse (mesuré par le nombre de caractères injectés dans le modèle).

• Diagnostics synthétiques : Dans un environnement « Bandit découplé » où les caractéristiques descriptives sont intentionnellement désalignées par rapport aux identités décisionnelles, DeMem atteint le regret cumulatif le plus bas et apprend la partition à distorsion la plus faible. Il surpasse les bases de référence conscientes de la description (Feature-KMeans, Feature-RAG) à mesure que le désalignement entre description et décision augmente.
• Benchmark LoCoMo : DeMem obtient le score global moyen le plus élevé (91,1 % avec GPT-4o-mini, 92,0 % avec GPT-4.1-mini), surpassant significativement les bases de référence. Les gains sont les plus prononcés dans les catégories Temporelle et Domaine ouvert, où la préservation des distinctions à travers des interactions distantes est critique.
• LongMemEval et MemoryArena : DeMem maintient une performance supérieure sur les tâches d'intégration inter-session (MS, TR) et les tâches d'agents multi-sessions, atteignant les taux de réussite les plus élevés dans les catégories de raisonnement formel et de recherche web.
• Analyse des mécanismes :
  • Ablations : La suppression du « fractionnement certifié » ou de l'« acheminement conscient de la décision » dégrade considérablement les performances, confirmant que les gains proviennent de l'organisation centrée sur la décision, et non simplement de la structure des emplacements.
  • Rappel des preuves : DeMem récupère 83 % des preuves orales sous un budget équivalent, contre 66 % pour la récupération basée sur la description.
  • Attribution des erreurs : 85 % des erreurs dans les bases de référence basées sur la description sont attribuées à une absence ou une dilution des preuves causées par le désalignement entre la similarité descriptive et la pertinence décisionnelle.

5. Importance et revendications

L'article revendique que l'unité fondamentale d'analyse pour la mémoire de l'agent doit être les décisions préservées, et non les informations préservées.

• Changement de paradigme : Ce travail remet en question la vision prévalente selon laquelle la mémoire devrait être organisée autour de la saillance descriptive ou de la similarité sémantique. Il soutient que de tels critères sont insuffisants pour des agents opérant sous des contraintes d'exécution strictes où l'objectif est l'action, et non la reconstruction.
• Oubli principé : Le cadre fournit un critère rigoureux pour « quoi oublier » : les historiques peuvent être fusionnés s'ils n'induisent pas de conflit de décision. Cela permet aux agents de conserver les distinctions qui importent pour l'action tout en éliminant les détails non pertinents.
• Agnosticisme architectural : Le critère de sélection conscient de la décision est modulaire et peut être intégré comme composant plug-and-play dans les systèmes de mémoire existants (par exemple, RAG, mémoire basée sur des graphes) pour améliorer les performances sans altérer les couches de stockage ou de génération sous-jacentes.
• Limites théoriques : En caractérisant les limites fondamentales de la mémoire budgétisée via la théorie de la distorsion de taux, l'article fournit un point de référence pour évaluer les futurs systèmes de mémoire et met en évidence l'irréductibilité computationnelle de l'allocation optimale de la mémoire.

Les auteurs concluent que « la mémoire doit préserver les distinctions qui importent pour les décisions, et non les descriptions », et que DeMem opérationnalise ce principe pour atteindre des performances de pointe dans les tâches d'agents à horizon long sous des budgets de mémoire fixes.