🤖 AI

QUMem: Personalized Memory for Query-Conditioned User-State Inference in LLM Agents

QUMem est un cadre de mémoire structurée qui améliore la personnalisation des agents LLM en segmentant les historiques d'interaction en épisodes sémantiques, en les décomposant en types de mémoire récupérables de manière indépendante, et en employant un processus de récupération multi-agents pour inférer des états d'utilisateur temporellement et contextuellement valides, atteignant ainsi des performances de pointe sur les benchmarks de personnalisation.

Auteurs originaux : Heng Wang, Yifei Li, Lingling Zhang, Pengyu Li, Xinyu Che, Xinyu Zhang, Zesheng Yang

Publié 2026-08-18

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Heng Wang, Yifei Li, Lingling Zhang, Pengyu Li, Xinyu Che, Xinyu Zhang, Zesheng Yang

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Dans le monde de l'intelligence artificielle en évolution rapide, une nouvelle génération de programmes informatiques est apparue, capable de faire plus que simplement répondre à des questions ; ils peuvent agir comme des assistants persistants, se souvenant des conversations passées et adaptant leur comportement au fil du temps. Ces systèmes, appelés agents, s'appuient sur une forme de mémoire numérique pour fonctionner efficacement. Tout comme un assistant humain se rappelle la commande de café préférée d'un client ou se souvient qu'une échéance de projet a été déplacée la semaine dernière, ces agents doivent stocker et récupérer des informations à partir de longs historiques d'interaction. Cependant, la mémoire humaine n'est pas un simple classeur où chaque conversation est stockée sous la forme d'un bloc unique et immuable. Au contraire, nous séparons naturellement les faits des sentiments, distinguons une humeur passagère d'une préférence durable, et comprenons que le contexte d'une conversation change avec le passage du temps. Pour que l'intelligence artificielle puisse véritablement comprendre une personne, elle doit être capable de faire de même : passer au crible des années de dialogue, séparer les détails pertinents du bruit, et reconstruire une image claire de qui est l'utilisateur en ce moment même.

Pendant longtemps, les chercheurs ont tenté de résoudre ce problème en construisant de meilleures manières de stocker et de rechercher ces conversations numériques. L'approche prédominante consistait à traiter la mémoire comme une bibliothèque où la requête d'un utilisateur sert de terme de recherche, extrayant les segments de texte les plus similaires. Bien que cela fonctionne pour des questions simples, cela pose problème lorsque la situation est complexe. Si un utilisateur change d'avis sur un sujet au cours de plusieurs semaines, ou si une seule conversation contient à la fois une plainte passagère et une règle permanente qu'il souhaite suivre, les systèmes standards s'embrouillent souvent. Ils peuvent mélanger des événements sans rapport ou ne pas voir comment une décision passée est liée à une requête actuelle. Le résultat est un assistant qui se souvient des mots mais manque le sens, incapable de faire la différence entre une préférence temporaire et une valeur fondamentale.

Une équipe de chercheurs de l'Université Jiaotong de Xi'an a proposé une nouvelle façon de gérer ce défi, en introduisant un système appelé QUMem. Plutôt que de simplement rechercher un texte similaire, ce système est conçu pour comprendre la structure d'une conversation et le rôle spécifique de l'information au sein de celle-ci. Les chercheurs soutiennent que pour construire un assistant véritablement personnalisé, l'ordinateur doit d'abord organiser l'historique brut des interactions en récits significatifs, ou « épisodes », basés sur le flux naturel de la conversation. Il décompose ensuite ces récits en trois types distincts d'informations : des faits concrets sur ce qui s'est passé, des préférences ou des règles spécifiques énoncées par l'utilisateur, et des perspectives ou principes plus larges qui peuvent être appliqués à de nouvelles situations. En séparant ces éléments, le système peut conserver le contexte complet d'un événement tout en permettant à l'assistant de ne sélectionner que le détail spécifique dont il a besoin pour l'instant présent.

L'innovation centrale réside dans la manière dont le système traite une nouvelle requête. Au lieu de demander à l'ordinateur de deviner ce qu'il doit chercher, QUMem utilise un processus de raisonnement en trois étapes. Premièrement, un agent analyse la question actuelle de l'utilisateur pour déterminer exactement quelles informations sont nécessaires pour y répondre correctement. Il se demande si la tâche nécessite un fait spécifique, une préférence passée ou une règle générale. Ensuite, un deuxième agent planifie une recherche, dirigeant le système vers les « étagères » spécifiques où ce type d'information est stocké, plutôt que de chercher dans tout l'historique à la fois. Enfin, un troisième agent prend les morceaux de preuves récupérés et les tisse ensemble pour former une image cohérente de l'état actuel de l'utilisateur. Cette image finale n'est pas seulement une liste de vieux souvenirs ; c'est une compréhension synthétisée de qui est l'utilisateur en ce moment précis, en tenant compte de la façon dont ses préférences ont évolué et des règles qui s'appliquent toujours.

Pour tester cette approche, les chercheurs ont comparé leur système à plusieurs méthodes existantes en utilisant deux benchmarks différents conçus pour mesurer la capacité d'une IA à se souvenir et à s'adapter à un utilisateur. Dans un test, le système devait répondre à des questions concernant l'évolution des préférences d'un utilisateur au fil de longues conversations. La nouvelle méthode a nettement surpassé les autres, atteignant des performances de pointe sur le benchmark PersonaMem. Avec le modèle GPT-4o-mini, QUMem a amélioré la précision globale à 61,02 %, et avec Gemini-3.5-flash, il a atteint 70,58 %, contre environ 53 % et 63 % respectivement pour les systèmes suivants les plus performants. L'amélioration était encore plus marquée lorsque la tâche exigeait que l'assistant suive comment une préférence avait changé au fil du temps ou applique une leçon passée à un scénario totalement nouveau. Dans un second test impliquant un assistant mobile devant accomplir des tâches basées sur les habitudes de l'utilisateur, le système a de nouveau obtenu le taux de réussite le plus élevé, prouisant que cette façon structurée de penser la mémoire aide l'ordinateur à mieux agir, et pas seulement à donner de meilleures réponses.

Les chercheurs ont également constaté que la structure du système le rend plus efficace. Les méthodes plus anciennes déclenchent souvent un processus de calcul lourd à chaque nouveau message, qu'il soit important ou non. Le nouveau système attend qu'une conversation conclue naturellement un sujet avant d'organiser la mémoire, puis il utilise un nombre fixe et restreint d'étapes pour trier l'information. Cela signifie qu'il utilise beaucoup moins de puissance de calcul pour construire sa mémoire, lui permettant de gérer de longs historiques sans ralentir. L'étude suggère que la clé de la personnalisation à long terme n'est pas seulement de stocker plus de données, mais de les organiser de manière à respecter la distinction entre un fait, une préférence et une leçon. En traitant l'historique de l'utilisateur comme une collection d'histoires structurées et évolutives plutôt que comme une liste plate de mots, le système peut déduire une compréhension beaucoup plus claire et plus précise de la personne qu'il sert.

Résumé Technique : QUMem

Énoncé du Problème

Les agents de Grands Modèles de Langage (LLM) s'appuient de plus en plus sur des systèmes de mémoire externe pour soutenir une personnalisation à long terme. Cependant, les cadres de mémoire existants font face à trois limitations critiques qui entravent l'inférence de l'état de l'utilisateur :

Frontières Rigides : Les frontières basées sur un nombre fixe de tours, de jetons ou de sessions mélangent souvent des dialogues sans rapport ou fragmentent un événement unique de ses causes, de ses décisions et de ses résultats. Cela perturbe le contexte au niveau de l'événement requis pour la récupération ultérieure.
Informations Couplées : Stocker plusieurs morceaux d'information issus d'une seule interaction comme une unité de mémoire unique lie des fonctions sémantiques distinctes (par exemple, une préférence générale versus une contrainte spécifique au contexte). Cela empêche le système de ne récupérer que les composants pertinents pour une requête spécifique.
Formulation de Requête Inadéquate : Traiter la tâche actuelle comme une simple requête de recherche de similitude top- $k$ produit souvent des fragments qui sont individuellement pertinents mais qui échouent à capturer conjointement l'évolution des préférences, la validité temporelle et l'applicabilité contextuelle.

Le défi central n'est pas simplement de récupérer des mémoires pertinentes, mais d'inférer un état utilisateur pertinent pour la tâche — une représentation structurée de l'information utilisateur soutenue par des preuves historiques, pertinente pour la requête actuelle et applicable dans le contexte actuel.

Méthodologie : QUMem

QUMem est un cadre de mémoire structuré conçu pour l'inférence de l'état de l'utilisateur conditionnée par la requête. Il opère via trois modules séquentiels :

1. Construction Dynamique d'Épisodes

Pour préserver le contexte au niveau de l'événement, QUMem abandonne les frontières fixes au profit de la continuité sémantique.

Mécanisme : Un classificateur léger et affiné ( $f_\theta$ ) analyse les énoncés consécutifs de l'utilisateur pour déterminer s'ils appartiennent au même événement ou à la même tâche.
Processus : Le système maintient un épisode candidat ouvert. Si le classificateur détermine une continuité ( $c_t=1$ ), l'énoncé est ajouté. Si la continuité est rompue ( $c_t=0$ ), l'épisode actuel est finalisé et un nouveau commence.
Bénéfice : Cela garantit que les causes, les décisions, les retours et les résultats d'un même événement sont conservés ensemble, évitant ainsi la rupture du contexte de l'événement avant le stockage de la mémoire.

2. Décomposition de Mémoire Typée

Une fois un épisode formé, il est décomposé en mémoires atomiques récupérables indépendamment basées sur trois rôles fonctionnels distincts :

Mémoires Factuelles ( $F$ ) : Expériences, comportements, activités ou états concrets de l'utilisateur sans tendances inférées.
Mémoires de Préférence ( $P$ ) : Choix, tendances, exigences et contraintes de l'utilisateur associés à des objets ou contextes spécifiques, incluant leurs justifications. Celles-ci ne sont pas supposées être valides indéfiniment ; leur position temporelle est suivie.
Mémoires d'Intuition Transférable ( $I$ ) : Principes de décision abstraits dérivés de choix concrets et de retours, applicables à de nouveaux objets ou contextes.
Stockage : Chaque mémoire conserve son contenu ( $v$ ), son type ( $d$ ), sa position temporelle ( $p$ ) et sa preuve source ( $E$ ). Cela permet une récupération fine et une traçabilité de la provenance.

3. Inférence de l'État de l'Utilisateur Conditionnée par la Requête

Au lieu d'une opération de récupération unique, QUMem emploie trois agents séquentiels pour transformer l'objectif de la tâche en un état utilisateur structuré ( $Z_q$ ) :

Agent de Besoin d'Information ( $A_1$ ) : Identifie quelle information historique doit être vérifiée pour la requête actuelle et explique sa pertinence, sans prescrire de requêtes de recherche spécifiques.
Agent de Planification de Récupération ( $A_2$ ) : Réécrit les besoins d'information en requêtes autonomes et sélectionne les magasins de mémoire appropriés (Factuel, Préférence ou Intuition) pour chaque requête. Il génère un plan de récupération $P_q$ .
Agent d'Inférence de l'État de l'Utilisateur ( $A_3$ ) : Récupère les mémoires candidates, sélectionne les preuves pertinentes à la tâche et les organise en un état utilisateur structuré $Z_q = (F_q, T_q, I_q)$ $Z_{q} = (F_{q}, T_{q}, I_{q})$ , où :
- $F_q$ : Faits organisés chronologiquement.
- $T_q$ : Évolution des préférences et des contraintes applicables au contexte.
- $I_q$ : Principes de décision abstraits appliqués à la tâche actuelle.

Cet état structuré est ensuite transmis au modèle de réponse en aval ( $\Psi$ ) pour générer une sortie personnalisée.

Contributions Clés

Cadre de Mémoire Structuré : QUMem organise les historiques d'interaction en épisodes sémantiques et les décompose en mémoires factuelles, de préférence et d'intuition complémentaires et récupérables indépendamment. Cela préserve le contexte de l'événement tout en permettant une réutilisation fine.
Mécanisme d'Inférence à Trois Agents : L'article introduit un pipeline conditionné par la requête qui sépare l'identification des besoins d'information, la planification de la récupération sur des magasins typés, et l'inférence d'état basée sur des preuves. Cela permet l'interprétation conjointe d'évidences distribuées et temporellement séparées.
Validation Empirique : Le cadre est évalué sur PersonaMem et KnowU-Bench, démontrant des performances de pointe dans les tâches de personnalisation à long terme.

Résultats Expérimentaux

L'article évalue QUMem par rapport à trois bases de référence : A-MEM, Mem0 et Zep.

Benchmark PersonaMem : QUMem a obtenu les meilleures performances sur toutes les longueurs de contexte (32K, 128K, 1M jetons) et catégories de requêtes en utilisant les modèles de base GPT-4o-mini et Gemini-3.5-flash.
- Avec GPT-4o-mini, QUMem a amélioré la précision globale de 52,99 % (meilleure base de référence) à 61,02 %.
- Avec Gemini-3.5-flash, il a amélioré la base de référence la plus forte de 63,29 % à 70,58 %.
- Les gains ont été les plus significatifs dans les tâches nécessitant le suivi de l'évolution complète des préférences, les recommandations alignées sur les préférences et le transfert inter-contexte.
KnowU-Bench : QUMem a atteint le taux de réussite le plus élevé (17,4 % global) et le score moyen le plus élevé (0,53) parmi les méthodes évaluées, améliorant le taux de réussite de 4,6 points de pourcentage par rapport à la base de référence la plus forte. Cela indique l'efficacité de la méthode pour traduire les préférences historiques en actions concrètes.
Efficacité : QUMem a démontré une efficacité supérieure dans la construction de la mémoire, nécessitant le moins d'appels LLM par 100 tours (81,4) et le coût en jetons le plus bas (1 221,2) par rapport aux bases de référence qui déclenchent la construction à chaque tour ou utilisent des boucles de vérification complexes.
Études d'Ablation : Supprimer l'un des trois composants principaux (Construction d'Épisode, Décomposition de Mémoire ou Reconstruction d'État) a systématiquement dégradé les performances, confirmant leurs rôles complémentaires. L'étude a également identifié une profondeur de récupération optimale ( $k=5$ ).

Signification et Revendications

L'article affirme que QUMem traite la déconnexion fondamentale dans les systèmes de mémoire actuels entre la récupération de faits isolés et l'inférence d'un état utilisateur cohérent. En séparant explicitement l'identification des besoins d'information, la planification de la récupération sur des magasins typés et l'interprétation conjointe des preuves, QUMem permet aux agents de gérer plus efficacement l'évolution des préférences et les contraintes dépendantes du contexte.

Les auteurs soulignent que la valeur du cadre réside dans :

La préservation du contexte au niveau de l'événement lors de la construction.
La distinction des rôles fonctionnels des preuves historiques (fait vs préférence vs intuition).
La réalisation d'une inférence d'état utilisateur pilotée par la tâche plutôt qu'une simple correspondance de similitude.

Les résultats suggèrent qu'une inférence structurée et conditionnée par la requête est une étape critique vers une personnalisation robuste à long terme, particulièrement à mesure que les historiques d'interaction deviennent plus longs et plus complexes. Cependant, l'article note modestement que bien que QUMem améliore l'inférence des préférences, générer des réponses qui soient simultanément nouvelles et parfaitement alignées sur les préférences reste un défi, particulièrement dans les tâches de "suggestion de nouvelles idées".