Contextual Agentic Memory is a Memo, Not True Memory

1. Énoncé du problème

Le papier identifie une erreur de catégorie fondamentale dans les architectures actuelles d'agents de modèles de langage (LLM). Le domaine a confondu la récupération (la consultation d'informations stockées) avec la mémoire (l'apprentissage internalisé).

• État actuel : La plupart des systèmes agissants (par exemple, MemGPT, Reflexion, Voyager) reposent sur l'ingénierie de contexte (C-engineering). Ils stockent les expériences dans des bases de données vectorielles externes ou des fenêtres de contexte et les récupèrent via une recherche de similarité (Génération Augmentée par Récupération, RAG).
• Le défaut : Cette approche traite la mémoire comme une table de recherche basée sur des exemples. Bien qu'elle permette aux agents de se souvenir d'événements passés, elle ne leur permet pas de développer une expertise ou des règles abstraites.
• Conséquences :
  1. Plafond de généralisation : Les agents ne peuvent pas résoudre des tâches « compositionnellement nouvelles » (nouvelles combinaisons de concepts connus) car ils manquent de règles internalisées.
  2. Novice figé : Les agents accumulent des notes indéfiniment mais ne mettent jamais à jour leurs poids de modèle sous-jacents ($\theta$), ce qui signifie qu'ils n'apprennent jamais véritablement.
  3. Vulnérabilité de sécurité : Les injections de prompt deviennent des « compromissions persistantes ». Une fois qu'un contenu malveillant est injecté dans le stockage externe, il est récupéré à chaque session future, détournant définitivement le comportement de l'agent.

2. Méthodologie et cadre théorique

Les auteurs adoptent une approche multifacette combinant la théorie des sciences cognitives, des preuves mathématiques formelles et l'interprétabilité mécaniste.

A. Distinction théorique : $\theta$ vs $C$

Le papier distingue deux voies structurelles pour modifier la sortie d'un agent :

1. Modifier $\theta$ (Mémoire paramétrique) : Modifier les poids du modèle via le pré-entraînement, le fine-tuning ou la consolidation. Cela comprime les connaissances dans l'espace des paramètres du modèle, permettant une généralisation basée sur des règles (application de principes abstraits à des entrées non vues).
2. Modifier $C$ (Ingénierie de contexte) : Injecter des données dans la fenêtre de contexte via des prompts, le RAG ou des brouillons. Cela repose sur une généralisation basée sur des exemples (similarité avec des cas stockés).

• Argument central : La mémoire agissante actuelle est entièrement de l'ingénierie $C$. Un véritable apprentissage nécessite une voie vers $\theta$.

B. Preuve formelle : Le fossé de généralisation

Les auteurs introduisent le Théorème 1 (Séparation de la complexité d'échantillonnage compositionnelle) pour prouver que la mémoire basée sur la récupération est structurellement inférieure à la mémoire basée sur les poids pour les tâches nouvelles.

• Configuration : Soit $F$ un ensemble de concepts de base et $\oplus$ un opérateur de composition. L'agent doit apprendre à appliquer $\oplus$ à des paires $(f_i, f_j)$.
• Récupération ($M_R$) : Pour généraliser à une paire nouvelle non présente dans l'ensemble d'entraînement $D$, l'agent doit s'appuyer sur la capacité du modèle de base figé à inférer la règle à partir de $K$ exemples récupérés.
• Paramétrique ($M_P$) : Affiner le modèle pour apprendre directement la règle $\oplus$.
• Résultat : La complexité d'échantillonnage pour la récupération évolue comme $\Omega(k^2)$ (où $k$ est le nombre de concepts), tandis que l'apprentissage paramétrique évolue comme $O(d)$ (où $d$ est la dimension VC de la classe d'hypothèses).
• Implication : Aucune augmentation de la taille de la fenêtre de contexte ou de la qualité de la récupération ne peut surmonter cet écart. La récupération fait face à un problème de couverture (nécessité de stocker chaque combinaison possible), tandis que l'apprentissage paramétrique fait face à un problème d'apprentissage (inférence de la règle).

C. Fondement en sciences cognitives

Le papier s'appuie sur la théorie des Systèmes d'Apprentissage Complémentaires (CLS) :

• Hippocampe (Rapide) : Stocke des traces épisodiques (analogue aux stockages vectoriels externes actuels).
• Néocortex (Lent) : Consolidation des traces en représentations distribuées et basées sur des règles (analogue aux mises à jour de poids).
• IA actuelle : Implémente uniquement l'« Hippocampe » (stockage rapide) sans le « Néocortex » (consolidation), empêchant la transition du novice à l'expert.

3. Contributions clés

1. Correction définitionnelle : Établit que la mémoire agissante est actuellement un « mémo » (recherche) et non une « véritable mémoire » (apprentissage). Elle formalise la distinction entre la cognition basée sur des exemples et la cognition basée sur des règles.
2. Le théorème du fossé de généralisation : Fournit une borne mathématique prouvable montrant que les systèmes basés sur la récupération ont un plafond de généralisation compositionnelle inférieur à celui des systèmes basés sur les poids, indépendamment de la taille de la fenêtre de contexte.
3. La dynamique du « Novice figé » : Démontre que les agents opérant uniquement sur l'ingénierie $C$ ne peuvent pas développer d'expertise au fil du temps ; ils restent le même modèle avec une base de données plus volumineuse.
4. Analyse de sécurité (Compromission persistante) : Prouve que la mémoire agissante convertit structurellement les injections de prompt transitoires en compromissions persistantes et irréparables. Contrairement aux attaques basées sur les poids (difficiles à exécuter), l'injection dans un stockage externe empoisonne toutes les sessions futures avec une forte probabilité.
5. Proposition architecturale : Propose une architecture de Canal de Consolidation qui associe une récupération épisodique rapide à un processus lent et asynchrone d'encodage de l'expérience distillée dans les poids du modèle (l'analogue biologique du sommeil chez l'IA).

4. Résultats et preuves

• Théorique : Le ratio de complexité d'échantillonnage $n_R / n_P = \Omega(k^2/d)$ prouve que, à mesure que la complexité du domaine ($k$) augmente, les données requises pour les agents basés sur la récupération augmentent de manière quadratique par rapport aux agents paramétriques.
• Interprétabilité mécaniste : Cite des preuves indiquant que les associations factuelles sont stockées dans des couches spécifiques de MLP (poids). Le fine-tuning standard ne met souvent à jour que les routeurs d'attention (comment accéder aux connaissances) plutôt que les circuits de connaissances eux-mêmes, renforçant la nécessité d'une consolidation ciblée.
• Corroboration empirique :
  • Fait référence à des études (par exemple, Yao et al., 2026) montrant que le stockage paramétrique surpasse le stockage externe, en particulier sur les transferts compositionnels nouveaux.
  • Les benchmarks comme SCAN et COGS montrent que les modèles basés sur les poids surpassent systématiquement les approches purement basées sur la récupération sur des splits systématiques.
  • Les benchmarks de sécurité (MINJA, PoisonedRAG) démontrent que les agents capables d'écrire en mémoire sont significativement plus vulnérables aux attaques par injection persistante que les agents sans état.

5. Importance et appel à l'action

Le papier soutient que le domaine a optimisé la mauvaise métrique (capacité de rappel) et ignoré la bonne (capacité d'apprentissage).

• Pour les constructeurs de systèmes : Arrêtez de traiter la récupération comme un substitut à l'apprentissage. Construisez un Canal de Consolidation (par exemple, fine-tuning périodique, édition des connaissances, autodistillation) pour déplacer l'expérience distillée des stockages externes ($C$) vers les poids du modèle ($\theta$). Assurez-vous que ce processus est sécurisé (points de contrôle versionnés, traçage de la provenance).
• Pour les concepteurs de benchmarks : Déplacez le focus du « Rappel » et de la « Taille de la fenêtre de contexte » vers la Généralisation Compositionnelle dans le Temps (CGT). Évaluez si la capacité d'un agent à gérer des combinaisons de concepts nouveaux s'améliore avec l'expérience.
• Pour la communauté de l'apprentissage continu : Réengagez-vous avec le contexte agissant. Le flux d'expérience de l'agent fournit la cible de déploiement idéale pour les méthodes d'apprentissage continu (rejeu, régularisation) afin de résoudre le problème de « consolidation ».

Conclusion :
Le papier conclut que « Les agents n'obtiennent pas de meilleures mémoires ; ils obtiennent de meilleurs systèmes de classement ». Une véritable expertise nécessite une consolidation basée sur les poids, et non simplement une meilleure récupération. La solution est une architecture qui imite le sommeil biologique : un stockage épisodique rapide suivi d'une consolidation lente et basée sur des règles dans les paramètres du modèle.