💻 computer science

MESA:Task-Adaptive Multi-Structure Evidence Selection for Long-Horizon Agent Memory

MESA est un cadre adaptatif aux tâches qui sélectionne et fusionne dynamiquement un sous-ensemble de structures de mémoire complémentaires et spécifique à la requête pour les agents à horizon long, améliorant considérablement les performances et l'efficacité sur l'AMA-Bench en évitant le bruit des approches à contexte fixe tout en permettant la composition de preuves diverses.

Auteurs originaux : Beidi Zhao, Yaoqi Chen, Yuru Feng, Menghao Li, Qianxi Zhang, Baotong Lu, Jianan Lu, Zhirui Wang, Xinjiang Wang, Shusen Xu, Zengzhong Li, Xiaoxiao Li, Qi Chen

Publié 2026-08-12

📖 8 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Beidi Zhao, Yaoqi Chen, Yuru Feng, Menghao Li, Qianxi Zhang, Baotong Lu, Jianan Lu, Zhirui Wang, Xinjiang Wang, Shusen Xu, Zengzhong Li, Xiaoxiao Li, Qi Chen

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous soyez un détective essayant de résoudre un mystère qui s'est déroulé sur plusieurs jours. Vous avez un immense carnet rempli de chaque chose que vous avez faite, vue, pensée et dite. Certaines pages ne sont que de brefs résumés de la journée, d'autres sont une liste brute de chaque pas que vous avez fait, d'autres encore sont une carte de qui vous avez rencontré, et d'autres sont une liste de mots-clés que vous avez recherchés. Si vous essayez de lire l'intégralité du carnet pour répondre à une question simple comme « À quelle heure ai-je perdu mes clés ? », votre cerveau sera submergé par trop d'informations. Mais si vous ne lisez qu'une page spécifique, vous pourriez manquer un indice crucial caché dans une autre section. C'est le défi auquel sont confrontés les « agents IA » modernes — des programmes informatiques qui agissent comme des assistants numériques. Ils doivent se souvenir de longues chaînes d'événements pour résoudre des problèmes complexes, mais ils se perdent souvent dans leurs propres souvenirs. Les scientifiques essaient de trouver la meilleure façon d'organiser ces mémoires : l'IA doit-elle tout lire ? Doit-elle choisir un seul type de note ? Ou existe-t-il une méthode plus intelligente ?

Ce document présente un nouveau système ingénieux appelé MESA (Multi-structure Evidence Selection for long-horizon Agent) qui agit comme un bibliothécaire super intelligent pour ces détectives de l'IA. Au lieu de forcer l'IA à lire l'intégralité de son carnet ou de deviner aveuglément quelle page unique regarder, MESA apprend à choisir la combinaison parfaite de notes pour chaque question spécifique. Pensez-y comme à un chef qui ne se contente pas de saisir le premier pot d'épices qu'il voit ou de verser tout le présentoir dans la marmite. Au lieu de cela, il goûte le plat, réalise qu'il a besoin d'un peu de sel et d'une pincée de poivre, et saisit exactement ces deux pots. Les chercheurs ont testé cela sur un benchmark appelé AMA-Bench, qui est un test géant de la capacité d'une IA à se souvenir et à raisonner sur de longues périodes. Ils ont découvert que MESA est bien meilleur pour répondre aux questions que les méthodes précédentes. En fait, il a donné la bonne réponse 8,5 % plus souvent que le meilleur système existant, et ce, en lisant 41 % de mots (ou « tokens ») en moins dans la mémoire. Cela suggère que le fait d'être sélectif et de mélanger différents types de vues mémorielles est la clé pour résoudre des énigmes à long terme, plutôt que de simplement tout lire ou de choisir une seule chose.

Le Problème : Trop de Bruit, Pas Assez de Signal

Imaginez que vous jouez à un jeu vidéo où vous devez résoudre une énigme qui nécessite de se souvenir de quelque chose que vous avez fait il y a 50 étapes. Votre personnage a couru partout, combattu des monstres, parlé à des PNJ et collecté des objets. Si vous demandez au jeu : « Pourquoi la porte est-elle verrouillée ? », la réponse pourrait être enfouie dans un minuscule détail d'il y a 40 étapes, comme une clé spécifique que vous avez fait tomber.

Dans le monde de l'IA, ces « étapes » sont appelées trajectoires. Ce sont de longues chaînes désordonnées d'actions, d'observations et de pensées. Le problème est que ces chaînes peuvent comporter des centaines d'étapes. Si vous injectez toute la chaîne à une IA, cela devient coûteux et déroutant. Si vous essayez de la résumer, vous risquez de perdre le petit détail qui compte.

Les scientifiques ont tenté de résoudre ce problème en organisant les mémoires en différentes « structures », ou formats, tout comme on organise une pièce en désordre dans différents bacs :

Résumés : Comme une entrée de journal qui donne l'« essence » de la journée mais saute les petits détails.
Magasins Temporels : Comme une chronologie ou un calendrier qui conserve les événements dans un ordre strict.
Graphes de Connaissance : Comme un réseau de connexions entre les personnes et les choses, montrant comment elles sont liées.
Bases de Données Vectorielles : Comme un moteur de recherche qui trouve des éléments basés sur l'« ambiance » ou le sens, même si les mots sont différents.
Traces Brutes : Comme un enregistrement de caméra de surveillance qui montre chaque mouvement, mais qui est plein de bruit et difficile à scanner.

La grande question était : Quel bac l'IA doit-elle ouvrir ?

Les Anciennes Méthodes : Trop ou Pas Assez

Avant MESA, il y avait deux manières principales dont l'IA tentait de gérer cela :

L'approche « Tout Lire » : L'IA ouvrait tous les bacs à la fois et déversait toutes ses notes dans son cerveau. C'est comme essayer de lire l'intégralité de votre journal, de votre calendrier, de votre carte et de vos images de surveillance en même temps pour savoir ce que vous avez mangé au petit-déjeuner. C'est trop d'informations, et les indices importants se perdent dans le bruit.
L'approche « Choisir Un Seul » : L'IA essayait de deviner quel bac unique était le meilleur et ne lisait que celui-là. C'est comme décider de ne consulter que votre calendrier pour savoir ce que vous avez mangé au petit-déjeuner. Vous pourriez manquer le fait que vous avez écrit une note à ce sujet dans votre journal.

Les chercheurs ont découvert que ni l'un ni l'autre de ces extrêmes ne fonctionne bien. Parfois, vous avez besoin de la chronologie ; parfois, vous avez besoin de la carte ; souvent, vous avez besoin d'un mélange des deux. Mais le « meilleur mélange » change selon la question. Une question sur « ce qui s'est passé en premier » nécessite la chronologie, tandis qu'une question sur « qui a parlé à qui » nécessite la carte.

La Solution : MESA, le Bibliothécaire Adaptatif

MESA est un système qui apprend à être un bibliothécaire dynamique. Il ne se contente pas de choisir un seul bac ou d'ouvrir tous les bacs. Au lieu de cela, il examine la question et dit : « Ah, cette question nécessite un peu de la chronologie et un peu de la carte, mais je peux ignorer les séquences vidéo brutes. »

Voici comment cela fonctionne en termes simples :

La Bibliothèque : D'abord, l'IA construit les cinq types différents de structures mémorielles (Résumé, Chronologie, Carte, Recherche et Vidéo Brute) à partir de son historique. Toutes sont créées au préalable et restent identiques.
Le Sélecteur : Lorsqu'une question arrive, une partie « sélectrice » du système (que MESA entraîne) décide quelles structures utiliser. C'est comme un assistant intelligent qui regarde la question et choisit les bons outils.
L'Apprentissage : La partie délicate est d'enseigner au sélecteur. Le système n'a pas de professeur pour lui dire exactement quels bacs choisir pour chaque question. Au lieu de cela, il apprend du résultat final : « L'IA a-t-elle donné la bonne réponse ? ». Si la réponse était fausse, le système ajuste sa stratégie de sélection. Il utilise une astuce mathématique ingénieuse appelée UCB (Upper Confidence Bound) pour équilibrer entre l'essai de nouvelles combinaisons (exploration) et l'utilisation de ce qui fonctionne (exploitation).

Ce Qu'Ils Ont Découvert

Les chercheurs ont testé MESA sur AMA-Bench, un ensemble de données rempli de tâches longues et complexes. Ils l'ont comparé aux meilleures méthodes existantes.

Une Meilleure Précision : MESA a donné la bonne réponse 65,1 % du temps, battant le meilleur système précédent (AMA-Agent) de 8,5 %.
Une Efficacité Plus Intelligente : Même si MESA était plus précis, il utilisait en réalité 41 % de mots (tokens) en moins de la mémoire pour y parvenir. Cela signifie qu'il ne se contentait pas de lire plus ; il lisait mieux.
Pas de Vainqueur Unique : L'étude a confirmé qu'il n'existe pas de structure de mémoire « taille unique ». La meilleure combinaison de types de mémoire change en fonction de la tâche spécifique et de la question spécifique.

Pourquoi Cela Importe

Ce document suggère que l'avenir de la mémoire de l'IA ne réside pas dans la construction de bibliothèques de plus en plus grandes ou dans le choix d'un seul type de note. Il s'agit de flexibilité. Tout comme un détective humain sait qu'il doit consulter le calendrier pour les dates, la carte pour les lieux et le journal pour les sentiments, une IA doit savoir mélanger et assortir ses différentes vues mémorielles pour résoudre un problème.

MESA montre qu'en apprenant à une IA à être sélective et adaptative, nous pouvons la rendre plus intelligente et plus efficace sans avoir besoin de changer sa façon de penser ou de stocker ses souvenirs. C'est une étape vers une IA qui ne possède pas seulement beaucoup de données, mais qui sait exactement comment trouver la bonne donnée au moment où elle compte le plus.

Résumé Technique : MESA – Sélection d'Évidences Multi-Structures Adaptée aux Tâches pour la Mémoire d'Agents à Longue Horizon

1. Formulation du Problème

Les agents à longue horizon accumulent des trajectoires comprenant des centaines d'étapes entrelacées de raisonnement, d'action, d'observation et de sortie d'outils. Répondre à une requête nécessite souvent de récupérer des évidences enfouies profondément dans cet historique. Bien que les systèmes de mémoire externe transforment ces historiques en représentations structurées (par exemple, des résumés, des graphes, des magasins vectoriels), les approches existantes sont confrontées à un dilemme fondamental :

Fusion de toutes les structures fixe : Les systèmes qui interrogent un ensemble statique et exhaustif de vues de mémoire pour chaque requête maximisent le rappel mais gonflent les fenêtres de contexte avec du bruit redondant ou distrayant, augmentant le coût sans garantir la performance.
Routage à structure unique : Les systèmes qui routent chaque requête vers une seule structure « optimale » limitent l'expressivité, empêchant la composition d'évidences complémentaires (par exemple, combiner des résumés de haut niveau avec des étapes épisodiques exactes) nécessaires pour des tâches complexes.

Les auteurs soutiennent que la configuration de mémoire optimale n'est ni une structure unique, ni l'union complète, mais une composition sur mesure de multiples structures de mémoire qui varie dynamiquement selon la requête spécifique et les exigences de la tâche. Cependant, l'apprentissage d'une telle politique de sélection est difficile en raison de la nature combinatoire des sous-ensembles de structures et de l'absence d'étiquettes de vérité terrain pour l'utilité par structure (supervision faible), où le feedback n'est disponible qu'au niveau de la réponse finale.

2. Méthodologie : Le Cadre MESA

Le papier propose MESA (Multi-structure Evidence Selection for long-horizon Agent), un cadre qui apprend une politique adaptative à la requête pour sélectionner et fusionner un sous-ensemble de structures de mémoire spécialisées.

2.1 Construction de la Mémoire Structurelle Multi-Vue

MESA maintient cinq structures de mémoire indépendantes et complémentaires pour chaque trajectoire $\tau_i$ , construites hors ligne :

Résumé (S) : Une mémoire d'état compressée préservant les changements d'état saillants et les transitions de sous-objectifs.
Magasin Temporel (T) : Un magasin indexé par tour préservant la séquence chronologique exacte des actions et des observations.
Graphe de Connaissances (G) : Un graphe relationnel capturant les connexions d'entités et les liens causaux à travers les étapes.
Base de Données Vectorielle (V) : Un index dense au niveau de l'étape pour la recherche par similitude sémantique.
Épisodique Brut (R) : Fenêtres chevauchantes non compressées de la trajectoire originale pour des évidences de forme de surface exactes.

2.2 Sélection Dynamique au Niveau de la Structure

Pour une requête donnée $q_i$ et un contexte $c_i$ , un sélecteur $S_\rho$ produit un vecteur binaire non vide $z_i \in \{0,1\}^5$ , indiquant quelles structures accéder. L'évidence récupérée des structures sélectionnées est composée et transmise à un modèle de réponse gelé $F$ pour générer une réponse. L'objectif est d'apprendre la politique $\rho$ qui maximise la précision de la réponse tout en minimisant le coût en jetons d'évidence.

2.3 Optimisation par Harnais Guidée par Priorité

Pour apprendre $\rho$ sous une supervision faible (feedback par réponse clairsemé), MESA emploie une stratégie d'Optimisation par Harnais Guidée par Priorité :

Espace de Recherche Restreint : Au lieu de chercher dans l'espace entier des politiques possibles, l'optimisation est contrainte à un ensemble de directions de priorité ( $A$ ). Ces directions définissent des classes de mécanismes pour le routage, comme l'inférence de la demande à partir du type de requête, l'estimation de la valeur backend, ou le contrôle de la construction de sous-ensembles (par exemple, priorité à la cardinalité, sélection de complémentarité).
Planification Guidée par UCB : Le système équilibre l'exploration et l'exploitation en utilisant un ordonnanceur UCB (Upper Confidence Bound). Chaque direction de priorité agit comme un « bras » de bandit. L'ordonnanceur sélectionne les directions qui ont historiquement produit des politiques fortes (exploitation) ou celles qui ont été évaluées moins fréquemment (exploration).
Raffinement Itératif : Un LLM proposeur génère des candidats de politiques exécutables basés sur la direction sélectionnée et l'analyse d'erreur actuelle. Ces candidats sont ajustés sur des traces d'entraînement, évalués sur un ensemble de validation, et la meilleure politique est sélectionnée sur la base d'un objectif régularisé : $J_{val}(\rho) - \lambda C_{val}(\rho)$ , où $C$ est le coût en jetons.

3. Contributions Clés

Formulation du Problème et Analyse Empirique : Les auteurs formalisent la « sélection dynamique au niveau de la structure » et démontrent, via un balayage contrôlé de tous les sous-ensembles de structures non vides sur AMA-Bench, que :
- Les sous-ensembles intermédiaires (combinaisons de 2 à 4 structures) surpassent généralement les structures uniques ou l'union complète.
- Aucun composé fixe n'est universellement optimal ; le meilleur sous-ensemble varie selon le domaine et la capacité.
Le Cadre MESA : Un nouveau cadre qui apprend une politique de sélection adaptative à la requête à partir d'un feedback clairsemé au niveau de la réponse, en utilisant l'optimisation par harnais guidée par priorité et l'ordonnancement UCB, sans modifier les constructeurs de mémoire sous-jacents ou le modèle de réponse.
Validation Empirique : Des expériences étendues montrant la supériorité de MESA par rapport aux meilleures lignes de base (SOTA) tant dans les tâches d'agents à longue horizon que dans la mémoire conversationnelle.

4. Résultats Expérimentaux

Les expériences ont été menées sur AMA-Bench (2 496 questions à travers 6 domaines agentiques) et LoCoMo (mémoire conversationnelle à long terme).

Performance sur AMA-Bench : En utilisant un backbone Qwen3-32B, MESA a atteint une précision globale de 65,1 %, surpassant la ligne de base la plus forte (AMA-Agent) de 8,5 % et le lecteur à contexte long de 12,5 %. MESA est le meilleur performeur dans trois des quatre catégories de capacités de mémoire : Rappel (69,2 %), Mise à jour d'état (65,8 %) et Abstraction d'état (57,8 %). Dans la catégorie Inférence Causale, MESA a atteint 63,6 %, se classant deuxième derrière AMA-Agent (65,0 %).
Efficacité : MESA a obtenu ces gains tout en utilisant 41 % de jetons d'évidence en moins (11,0k contre 18,7k) par rapport à l'alternative « toutes les structures », démontrant que la sélection adaptative réduit le bruit et le coût.
Généralisation : Sur LoCoMo, MESA a atteint un score F1 de 49,0 %, surpassant la ligne de base spécialisée de 1,8 %, prouvant que le cadre s'étend au-delà des trajectoires d'agents à la mémoire conversationnelle.
Études d'Ablation :
- Supprimer la composante d'apprentissage (utilisation d'une sélection aléatoire ou zero-shot) a entraîné des chutes de précision significatives.
- Restreindre la sélection à une seule structure (« Route-to-one ») a réduit la précision à 57,0 %, confirmant la nécessité de composer des structures complémentaires.
- Supprimer la guidance par priorité ou l'ordonnancement UCB a dégradé la performance et la stabilité, soulignant l'importance de la recherche structurée et de l'équilibre de l'exploration.

5. Signification et Revendications

Le papier affirme que MESA comble une lacune critique dans les systèmes de mémoire d'agents : l'incapacité d'adapter dynamiquement les stratégies d'accès à la mémoire aux besoins spécifiques des requêtes. En démontant que des sous-ensembles intermédiaires et adaptatifs aux tâches sont supérieurs aux stratégies fixes, ce travail déplace le paradigre de « plus de mémoire est mieux » vers « la bonne composition de mémoire est meilleure ».

Les auteurs soulignent que MESA atteint ces résultats en apprenant une politique de sélection qui est explicite et interprétable (par exemple, des règles de routage basées sur des mots-clés apprises pendant l'optimisation), plutôt qu'un sélecteur neuronal boîte noire. Le cadre offre un compromis pratique, améliorant à la fois la précision et l'efficacité sans nécessiter le réentraînement des modèles de langage sous-jacents ou des pipelines de construction de mémoire. Le papier conclut que les travaux futurs devraient explorer l'optimisation conjointe de la construction et de la sélection de la mémoire, ainsi que la modélisation plus explicite des dépendances entre les structures.