Résumé Technique : S3Mem – Mémoire Structurée Spatio-Temporelle d'Événements de Scène pour la Réponse à des Questions Interactives à Long Horizon

1. Énoncé du Problème

Les agents interactifs à long horizon accumulent d'importants historiques de trajectoires mais échouent fréquemment à répondre à des questions concernant des événements antérieurs. L'article soutient que le goulot d'étranglement principal n'est pas simplement la longueur du contexte, mais l'interface trajectoire-réponse de la mémoire à long terme.

Les approches actuelles externalisent généralement l'historique des trajectoires sous forme de blocs de texte brut et récupèrent les $k$ meilleurs extraits en utilisant la Génération Augmentée par Récupération (RAG) standard. Bien que efficaces pour des contextes courts, cette approche « plate » échoue dans les paramètres à long horizon pour trois raisons :

1. Effacement Structurel : L'écriture des trajectoires sous forme de texte plat détruit la structure de scène, d'événement, d'état et temporelle requise pour le raisonnement en aval.
2. Récupération de Chaîne Incomplète : La récupération basée sur la similarité de surface renvoie souvent des extraits localement pertinents qui manquent de complétude globale de la chaîne nécessaire au raisonnement multi-sauts (par exemple, « Que s'est-il passé deux étapes après la deuxième visite ? »).
3. Exposition Inefficace des Preuves : L'étape de réponse reçoit de longs fragments non structurés, forçant le modèle à reconstruire lui-même la chaîne de preuves, ce qui est inefficace en termes de jetons et sujet aux erreurs.

Le défi central est défini comme un problème de construction de preuves épisodiques : comment écrire, récupérer et exposer les bonnes preuves structurées de la propre trajectoire d'un agent dans le cadre d'un budget strict de jetons.

2. Méthodologie : S3Mem

S3Mem est un cadre de mémoire épisodique structurée d'événements de scène conçu pour convertir les longues trajectoires d'agents en une chaîne de preuves compacte et alignée sur la requête. Il fonctionne à travers quatre étapes distinctes :

2.1 Écriture Structurée d'Événements de Scène

Au lieu d'aplatir l'historique en un texte générique, S3Mem écrit chaque étape d'interaction (ou segment local) comme une unité de mémoire structurée.

• Schéma : Chaque unité $m_t$ contient des champs spécifiques : index de l'étape ($t$), action ($a_t$), objets saillants ($O_t$), types d'événements locaux ($E_t$), relations ($R_t$), état/inventaire local ($S_t$), lieu/contexte spatial ($L_t$), et un court résumé brut ($u_t$).
• Adaptation à l'Environnement : Le schéma varie selon l'environnement (par exemple, en mettant l'accent sur les relations spatiales dans Crafter versus l'inventaire et les gains d'objets dans ALFWorld), mais conserve toujours la représentation conjointe de la scène, de l'événement, de l'état et du contexte temporel.

2.2 Récupération Sensible aux Ancres

S3Mem va au-delà de la similarité de surface en effectuant une récupération sensible aux ancres. Il extrait explicitement un tuple d'ancre $A(q)$ de la question, comprenant :

• Ancres d'étape cible : Étapes directement référencées.
• Ancres d'occurrence : Occurrences spécifiques (par exemple, « deuxième visite », « dernière fois »).
• Ancres de transition d'état : Événements clés tels que les gains d'objets ou les changements de lieu.

La récupération se déroule en deux étapes :

1. Recherche Initiale : Recherche de candidats standard basée sur le texte.
2. Reclassement Sensible aux Ancres : Les candidats sont reclassés en utilisant une fonction de score qui privilégie les unités ayant une forte compatibilité d'ancre ($s_{anchor}$) et un soutien local de la chaîne ($s_{chain}$), et non seulement une similarité lexicale ($s_{text}$). Cela garantit la récupération de la chaîne de preuves complète entourant une ancre spécifique.

2.3 Interface de Preuves Sensible au Budget de Jetons

Pour répondre aux impératifs d'efficacité, S3Mem construit une interface de preuves compacte sous un budget de jetons fixe $B$.

• Stratégie de Conditionnement : Un algorithme de conditionnement glouton sélectionne les unités en fonction de la priorité : (1) les étapes porteuses d'ancres, (2) les voisinages locaux minimaux requis pour soutenir les décalages temporels ou les transitions d'état, et (3) les faits d'état manquants.
• Différenciation : Contrairement au résumé générique, cette étape ne compresse pas arbitrairement ; elle préserve la chaîne de preuves décisive tout en écartant les unités redondantes ou non pertinentes pour la chaîne.

2.4 Couche au Moment de la Réponse

Le système expose cet ensemble de preuves compact et structuré à une couche figée au moment de la réponse. L'article évalue cela sous un « protocole actuel de réponse figée », traitant S3Mem comme une interface de mémoire structurée plutôt que comme un système d'exploitation d'agent complet de bout en bout.

3. Contributions Clés

1. Méthodologique : Introduction de S3Mem, un cadre unifié pour l'écriture structurée, la récupération sensible aux ancres et l'exposition de preuves sensible au budget, conçu pour la réponse à des questions interactives à long horizon.
2. Empirique : Établissement d'une frontière précision-efficacité plus forte sur quatre environnements (Crafter, Jericho, ScienceWorld, ALFWorld). S3Mem surpasse constamment Vanilla RAG et Graph-NoReader tout en utilisant significativement moins de jetons de preuves.
3. Interprétative : Une affirmation bornée selon laquelle le gain de performance provient du harnais de preuves structurées (écriture + récupération + conditionnement) plutôt que du stockage générique de mémoire ou de l'augmentation de la longueur du contexte seule. Cela est validé par des contrôles étendus incluant des bases de référence récentes (A-MEM, MemoryOS, LightMem), des ablations côté écriture et des vérifications de compression générique.

4. Résultats Expérimentaux

L'évaluation couvre les environnements phares internes (Crafter, Jericho) et les environnements hors famille (ScienceWorld, ALFWorld).

• Précision vs Efficacité : S3Mem atteint des scores de Correspondance Exacte (EM) plus élevés que Vanilla RAG et Graph-NoReader tout en consommant drastiquement moins de jetons de preuves.
  • Sur Crafter, S3Mem (EM $\approx$ 0,72) surpasse Graph-NoReader (EM $\approx$ 0,70) avec ~140 jetons contre ~1600+ jetons.
  • Sur ALFWorld, S3Mem montre de fortes améliorations de précision et d'efficacité par rapport à toutes les bases de référence.
  • Sur ScienceWorld, S3Mem égale la précision de Graph-NoReader tout en utilisant une fraction des jetons, démontrant une généralisation de l'efficacité.
• Comparaison avec les Bases de Référence Récentes : Des versions adaptées de A-MEM, MemoryOS et LightMem améliorent Vanilla RAG dans certains paramètres mais ne parviennent pas à égaler la frontière globale de S3Mem.
• Études d'Ablation :
  • Côté Écriture : L'écriture complète d'événements de scène surpasse significativement les variantes utilisant uniquement des événements, des objets ou des blocs de texte brut, confirmant la nécessité d'une représentation structurelle conjointe.
  • Sensibilité aux Ancres : La suppression de la récupération d'ancres (« no_seed ») provoque la plus forte baisse de performance, identifiant la récupération d'ancres comme le moteur principal de la précision.
  • Compression Générique : La compression contrôlée de style RTK (réduction de texte générique) échoue à préserver la chaîne de preuves, provoquant un effondrement de la précision sur des familles complexes (multi-sauts, décalages temporels) même à des coûts de jetons similaires.
• Robustesse : La méthode reste robuste à travers quatre familles différentes d'acteurs de déploiement dans Crafter, maintenant un régime à faible coût de jetons et haute précision par rapport aux bases de référence à haut coût.
• Transfert Hors Famille : Sur ATM-Bench (une archive de mémoire personnalisée), S3Mem reste compétitif avec une utilisation de jetons significativement plus faible, bien que le classement soit moins dominant que dans les environnements interactifs.

5. Affirmations et Signification

L'article maintient une portée modeste et bornée concernant ses affirmations :

• Affirmation Principale : Dans le cadre du protocole actuel de réponse figée, l'écriture structurée et le routage de preuves sensible aux ancres offrent une frontière précision-efficacité plus forte pour la réponse à des questions interactives à long horizon que les interfaces de mémoire génériques (RAG texte brut, récupération uniquement par graphe, ou compression générique).
• Limites et Frontières :
  • L'article ne revendique pas une indépendance totale du protocole. L'analyse d'équité montre que les gains sont couplés à la couche de réponse ; un « répondeur générique » effondre la performance pour toutes les méthodes, tandis qu'un « gold_executor » ne reproduit pas parfaitement le classement.
  • La contribution est présentée comme un harnais de preuves structurées, et non comme un système d'exploitation d'agent général. L'objectif est d'améliorer l'interface trajectoire-réponse pour les questions épisodiques, et non de résoudre tous les défis de mémoire des agents.
  • La source restante la plus forte de non-généralité réside dans la consommation au moment de la réponse plutôt que dans la représentation de la mémoire elle-même.

Conclusion : L'article postule que pour les agents à long horizon, la clé de la mémoire n'est pas d'exposer plus d'historique, mais d'exposer les bonnes preuves structurées. S3Mem démontre que la conversion des trajectoires en unités structurées d'événements de scène et leur récupération via une logique sensible aux ancres produit un compromis supérieur entre précision du raisonnement et efficacité des jetons.