💬 NLP

MemWeaver: A Hierarchical Memory from Textual Interactive Behaviors for Personalized Generation

MemWeaver est un nouveau cadre qui améliore la génération personnalisée en transformant l'historique interactif textuel des utilisateurs en une structure de mémoire hiérarchique, comprenant des composantes comportementales et cognitives pour capturer à la fois l'évolution temporelle et les relations sémantiques afin de permettre un alignement plus profond avec les préférences latentes des utilisateurs.

Auteurs originaux : Shuo Yu, Mingyue Cheng, Daoyu Wang, Qi Liu, Zirui Liu, Ze Guo, Xiaoyu Tao

Publié 2026-01-27

📖 4 min de lecture☕ Lecture pause café

CC BY 4.0

Auteurs originaux : Shuo Yu, Mingyue Cheng, Daoyu Wang, Qi Liu, Zirui Liu, Ze Guo, Xiaoyu Tao

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous parlez à un assistant personnel très intelligent, mais légèrement distrait.

L'ancienne méthode : La liste plate
Pendant longtemps, les ordinateurs ont essayé de vous comprendre en examinant une simple liste plate de choses que vous avez cliquées ou achetées. C'est comme si votre assistant se souvenait seulement que vous avez acheté l'« Article A », puis l'« Article B », puis l'« Article C ». Il ne savait pas pourquoi vous les avez achetés, ni comment vos goûts ont évolué au fil du temps. Si vous demandiez une recommandation de cadeau, il pourrait simplement deviner en se basant sur la dernière chose que vous avez achetée, passant ainsi à côté de l'image globale de qui vous êtes.

La nouvelle méthode : MemWeaver (Le Maître Tisserand)
Le document présente MemWeaver, un nouveau système qui ne se contente pas de regarder une liste ; il tisse tout votre historique en une riche tapisserie de mémoire à deux couches. Considérez cela comme le fait de donner à votre assistant un cerveau doté de deux manières distinctes mais connectées de se souvenir :

1. La « Mémoire Comportementale » (L'album photo)

C'est la couche concrète et spécifique.

Ce que c'est : Imaginez un album photo de vos activités récentes. Il ne montre pas seulement les photos ; il les connecte entre elles.
Comment ça marche : MemWeaver examine votre historique et trace deux types de lignes entre vos actions :
- Les lignes temporelles : Connectant les choses que vous avez faites les unes après les autres (comme acheter un café, puis se promener dans un parc).
- Les lignes thématiques : Connectant les choses qui sont similaires, même si elles ont eu lieu à des mois d'intervalle (comme acheter un disque de jazz en janvier et un magazine de jazz en juin).
La magie : Lorsque vous posez une question, le système ne cherche pas simplement des mots-clés. Il effectue une « marche aléatoire » à travers cet album, suivant ces lignes temporelles et thématiques pour trouver les récits les plus pertinents et spécifiques pour vous répondre. C'est comme si votre assistant feuilletait l'album pour trouver le moment exact où vous avez parlé de café afin de vous aider à choisir un cadeau.

2. La « Mémoire Cognitive » (La biographie)

C'est la couche abstraite et globale.

Ce que c'est : Imaginez une courte biographie ou un profil de personnage écrit à votre sujet.
Comment ça marche : Au lieu de regarder chaque action individuelle, MemWeaver regroupe votre historique en chapitres (ex : « La phase Café », « La phase Artisanat DIY »). Il résume ce que vous aimiez durant ces périodes, puis rédige un résumé final de vos traits de personnalité fondamentaux et de vos valeurs à long terme.
La magie : Cela sert de « voix directrice ». Si votre album photo (Mémoire Comportementale) montre que vous avez acheté une cafetière à siphon, la Biographie (Mémoire Cognitive) dit à l'assistant : « Cet utilisateur aime les expériences artisanales et manuelles, et privilégie le processus plutôt que l'objet ».

Comment ils fonctionnent ensemble

Lorsque vous posez une question, MemWeaver combine ces deux couches :

La Biographie donne à l'assistant la « vibration » et les objectifs à long terme (ex : « Privilégier l'expérience, pas seulement l'objet »).
L'Album Photo fournit les détails spécifiques et récents pour appuyer cela (ex : « Ils viennent d'acheter un kit de travail du cuir »).

Le résultat :
Sans MemWeaver, une IA pourrait suggérer un « panier gourmand » générique pour un cadeau d'anniversaire. Avec MemWeaver, l'IA réalise que vous aimez les loisirs manuels et suggère un « kit de préparation de café » parce qu'elle comprend votre amour profond pour l'expérience de la création, et non pas seulement pour l'objet lui-même.

Pourquoi est-ce meilleur ?

C'est dynamique : Il se met à jour de lui-même. À mesure que vous faites de nouvelles choses, il ajoute de nouvelles pages à l'album et réécrit les chapitres de la biographie sans avoir à repartir de zéro.
C'est profond : Il comprend que vous pourriez être intéressé par le « jazz » aujourd'hui et par le « jazz » l'année prochaine, même si vous n'avez pas cliqué dessus entre-temps. Il relie les points que les autres systèmes ignorent.

En bref, MemWeaver transforme un amas désordonné de votre historique numérique en un récit structuré et intelligent de qui vous êtes, permettant à l'ordinateur de vous parler d'une manière qui semble véritablement personnelle et profondément comprise.

Résumé Technique : MemWeaver

Problématique

Le paysage de l'engagement des utilisateurs sur Internet passe d'une dépendance aux signaux de rétroaction implicites (ex. : clics, navigation) à l'utilisation de comportements interactifs textuels explicites et riches. Bien que ce changement fournisse un récit de haute fidélité des intérêts de l'utilisateur, les approches de personnalisation actuelles restent limitées. Les méthodes traditionnelles, ancrées dans le filtrage collaboratif basé sur l'ID, ne parviennent pas à interpréter le contenu sémantique du langage. Inversement, les approches actuelles de Génération Augmentée par Récupération (RAG) traitent souvent l'historique de l'utilisateur comme une liste plate et non structurée de segments de texte. Ces méthodes reposent généralement sur des heuristiques de récupération simplistes (ex. : récence ou similitude) et ne parviennent pas à modéliser l'évolution temporelle complexe des intérêts de l'utilisateur ainsi que les connexions sémantiques latentes entre des sujets disparates. Par conséquent, les systèmes existants peinent à atteindre une personnalisation profonde qui s'aligne sur les préférences dynamiques et nuancées des utilisateurs.

Méthodologie : MemWeaver

Pour remédier à ces limitations, les auteurs proposent MemWeaver, un cadre qui tisse l'intégralité de l'historique textuel d'un utilisateur en une mémoire hiérarchique composée de deux composants complémentaires : la Mémoire Comportementale et la Mémoire Cognitive.

1. Construction de la Mémoire

Le cadre transforme l'historique brut de l'utilisateur ( $H_u$ ), ordonné chronologiquement, en un système de mémoire double structuré :

Mémoire Comportementale (Contexte Concret) :
- Construction du Graphe : Les comportements de l'utilisateur sont représentés comme des nœuds dans un graphe. Des arêtes sont établies via des liens temporels (reliant les comportements consécutifs) et des liens sémantiques (reliant les comportements au sein d'un même cluster thématique, identifié via un partitionnement $K$ -means sur les plongements/embeddings).
- Extraction : Pour récupérer le contexte pertinent pour une requête spécifique, le système emploie une marche aléatoire sensible au contexte (context-aware random walk). Ce processus simule le rappel associatif humain, en transitant entre les nœuds selon un score qui équilibre la pertinence sémantique par rapport à la requête avec des biais temporels (récence et continuité). Cela produit un sous-ensemble dynamique de l'historique ancré dans des actions spécifiques et pertinentes pour la requête.
Mémoire Cognitive (Préférences Abstraites) :
- Abstraction Hiérarchique : L'historique de l'utilisateur est d'abord partitionné en phases temporellement cohérentes basées sur des points de rupture sémantiques.
- Synthèse : Un processus de LLM en deux étapes synthétise ces phases. D'abord, des résumés locaux sont générés pour chaque segment temporel. Ensuite, ces résumés sont intégrés dans un récit global unique qui abstrait les préférences à long terme et les traits fondamentaux évolutifs de l'utilisateur.

2. Génération Augmentée par la Mémoire

Le processus de génération final conditionne le Grand Modèle de Langage (LLM) sur trois entrées : la requête de l'utilisateur, la Mémoire Comportementale extraite et la Mémoire Cognitive abstraite.

La Mémoire Comportementale fournit des exemples concrets en contexte pour ancrer la réponse dans des actions spécifiques de l'utilisateur.
La Mémoire Cognitive offre des directives de haut niveau concernant les préférences à long terme pour assurer une cohérence globale.
Ce conditionnement conjoint permet au modèle de trouver un équilibre entre la pertinence à court terme et l'alignement à long terme avec l'utilisateur.

3. Mise à jour Incrémentale

Pour garantir l'évolutivité, MemWeaver emploie des mécanismes de mise à jour incrémentale légers. Les nouveaux comportements sont intégrés au graphe sans reconstruction complète, et la mémoire cognitive est mise à jour en synthétisant les nouveaux résumés locaux avec les anciens. Cette approche limite les coûts en jetons (tokens) et permet une adaptation en temps réel aux intérêts évolutifs.

Contributions Clés

Cadre Novateur : La proposition de MemWeaver, qui dépasse les journaux plats pour construire une mémoire hiérarchique à partir des comportements interactifs textuels.
Méthodologie de Double Mémoire : L'introduction d'une architecture spécifique présentant une Mémoire Comportementale extraite pour le contexte concret et une Mémoire Cognitive abstraite pour les préférences évolutives.
Validation Empirique : Des expériences approfondies sur le benchmark LaMP (Language Model Personalization) sur six jeux de données (couvrant des tâches de classification et de génération de texte) démontrent des performances de pointe (state-of-the-art).
Analyse de Synergie : Une analyse approfondie confirmant que la synergie entre l'ancrage comportemental concret et la guidance cognitive abstraite est essentielle pour une personnalisation profonde.

Résultats Expérimentaux

Les expériences ont été menées sur le benchmark LaMP en utilisant Qwen3-8B et Llama-3.1-8B comme LLM de base. MemWeaver a surpassé les bases solides, incluant Vanilla (sans historique), Random, Recency, BM25, BGE, et des méthodes de récupération avancées (ROPG, CFRAG).

Performance : MemWexver a obtenu la meilleure performance sur l'ensemble des douze métriques d'évaluation (Accuracy, F1, MAE, RMSE, ROUGE-1, ROUGE-L) sur les six jeux de données.
Études d'Ablation :
- La suppression de la mémoire comportementale ou de la mémoire cognitive dégrade significativement les performances, confirmant leurs rôles indispensables et synergiques.
- Au sein de la Mémoire Comportementale, les arêtes sémantiques se sont révélées plus critiques que les arêtes temporelles pour la performance, bien que les deux soient nécessaires. Le mécanisme de pondération des arêtes a été identifié comme le composant le plus critique.
- Au sein de la Mémoire Cognitive, la segmentation hiérarchique et les étapes de résumé global se sont toutes deux prouvées essentielles pour capturer l'évolution des intérêts et les traits fondamentaux.
Efficacité : La stratégie de mise à jour incrémentale a atteint des performances comparables à une reconstruction complète de la mémoire pour une fraction du coût computationnel, validant sa pertinence pour un déploiement continu.

Signification et Revendications

L'article affirme que MemWeaver comble une lacune critique de la personnalisation : l'absence d'un cadre capable de dériver une mémoire hiérarchique à partir des historiques d'interactions textuelles. En modélisant explicitement à la fois l'évolution temporelle des intérêts et les relations sémantiques entre les activités, le cadre permet aux LLM de raisonner sur les comportements concrets et les traits cognitifs abstraits.

Les auteurs soutiennent que cette approche de double mémoire conduit à une génération de contenu profondément alignée avec les préférences latentes de l'utilisateur, dépassant les limites des modèles basés sur l'ID et de la récupération de texte plat. Le travail démontre qu'une représentation complète de l'utilisateur nécessite la modélisation conjointe des corrélations temporelles et des relations sémantiques, la mémoire comportementale ancrant le modèle dans la réalité tandis que la mémoire cognitive fournit la guidance de haut niveau nécessaire pour des sorties personnalisées et cohérentes.