🤖 AI

QUMem: Personalized Memory for Query-Conditioned User-State Inference in LLM Agents

QUMem 是一个结构化记忆框架，它通过将交互历史分割为语义片段，将其分解为可独立检索的记忆类型，并采用多智能体检索过程来推断在时间与上下文层面均有效的用户状态，从而增强了大语言模型智能体的个性化能力，并在个性化基准测试中实现了最先进的性能。

原作者： Heng Wang, Yifei Li, Lingling Zhang, Pengyu Li, Xinyu Che, Xinyu Zhang, Zesheng Yang

发布于 2026-08-18

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Heng Wang, Yifei Li, Lingling Zhang, Pengyu Li, Xinyu Che, Xinyu Zhang, Zesheng Yang

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

在快速发展的人工智能领域，新一代计算机程序已经涌现，它们不仅能回答问题，还能作为持久的助手，记住过去的对话并随着时间的推移调整自身行为。这些被称为“智能体”的系统依赖于一种形式的数字记忆来有效运作。正如人类助手会记得客户喜欢的咖啡口味，或记得上周项目截止日期被更改了一样，这些智能体需要从长期的交互历史中存储和检索信息。然而，人类的记忆并非一个简单的档案柜，将每一次对话都存储为一个单一且不可更改的块。相反，我们自然地将事实与感受区分开来，将暂时的情绪与持久的偏好区分开来，并理解对话的语境会随着时间的流逝而改变。为了让人工智能真正理解一个人，它必须也能做到这一点：在数年的对话中进行筛选，从噪音中分离出相关的细节，并重构出一个关于用户当下真实面貌的清晰图景。

长期以来，研究人员一直试图通过构建更好的方式来存储和搜索这些数字对话来解决这一问题。主流的方法是将记忆视为一个图书馆，用户的查询充当搜索词，从而提取出最相似的文本块。虽然这对于简单问题行之有效，但在处理复杂情况时却显得力不从心。如果用户在几周内改变了对某个话题的看法，或者单次对话中既包含了一个转瞬即逝的抱怨，又包含了一条他们希望遵循的永久性规则，标准系统往往会感到困惑。它们可能会将无关的事件混在一起，或者无法理解过去的一个决定如何与当前的请求相联系。其结果是，助手记住了文字却忽略了含义，无法分辨什么是临时偏好，什么是核心价值观。

西安交通大学的一个研究小组提出了一种处理这一挑战的新方法，引入了一个名为 QUMem 的系统。该系统并非仅仅搜索相似的文本，而是旨在理解对话的结构以及信息在其中的特定角色。研究人员认为，要构建一个真正个性化的助手，计算机首先必须根据对话的自然流向，将原始的交互历史组织成有意义的故事，即“情节”（episodes）。随后，它将这些故事分解为三种截然不同的信息类型：关于发生了什么的具体事实、用户陈述的特定偏好或规则，以及可以应用于新情境的更广泛的洞察或原则。通过分离这些元素，系统可以在保留事件完整语境的同时，仍能让助手仅提取出当前时刻所需的特定细节。

其核心创新在于系统处理新请求的方式。QUMem 并没有让计算机去猜测要寻找什么，而是使用了一个三步推理过程。首先，一个智能体分析用户的当前问题，以确定为了妥善回答该问题究竟需要哪些信息。它会自问：这项任务需要的是一个具体事实、一个过去的偏好，还是一条通用规则？接着，第二个智能体负责规划搜索，指导系统去特定的“书架”中寻找该类型的信息，而不是在整个历史记录中进行全盘搜索。最后，第三个智能体将检索到的证据碎片编织在一起，构成一幅关于用户当前状态的连贯图景。这幅最终的图景不仅仅是一份旧记忆清单；它是一种综合性的理解，反映了用户在这一特定时刻的状态，并考虑了他们的偏好是如何演变的，以及哪些规则仍然适用。

为了测试这种方法，研究人员使用两个旨在衡量 AI 在记忆和适应用户方面表现的基准测试，将该系统与几种现有方法进行了对比。在一项测试中，系统必须回答关于用户在长对话中不断变化的偏好的问题。新方法表现优异，显著超越了其他方法，在 PersonaMem 基准测试中达到了最先进的性能水平。在使用 GPT-4o-mini 模型时，QUMem 将整体准确率提升至 61.02%；在使用 Gemini-3.5-flash 时，准确率达到 70.58%，而紧随其后的系统分别约为 53% 和 63%。当任务要求助手追踪偏好如何随时间变化，或将过去的教训应用于一个完全不同的新场景时，这种进步更为显著。在第二项涉及移动助手根据用户习惯执行任务的测试中，该系统再次取得了最高的成功率，证明了这种结构化思考记忆的方式有助于计算机更好地采取行动，而不只是给出更好的答案。

研究人员还发现，该系统的构建方式使其更加高效。旧方法通常无论新消息是否重要，都会在每次收到新消息时触发沉重的计算过程。而新系统会等待一个话题自然结束时才组织记忆，并且使用固定且少量的步骤来对信息进行分类。这意味着它在构建记忆时消耗的计算资源更少，使其能够在不减慢速度的情况下处理长期的历史记录。这项研究表明，实现长期个性化的关键不在于存储更多的数据，而在于以尊重事实、偏好与教训之间差异的方式来组织数据。通过将用户的历史视为一系列结构化的、演进的故事，而非平铺的文字列表，该系统能够推断出对所服务对象更清晰、更准确的理解。

技术摘要：QUMem

问题陈述

大型语言模型（LLM）智能体日益依赖外部记忆系统来支持长期个性化。然而，现有的记忆框架面临三个关键局限性，阻碍了有效的用户状态推理：

边界僵化： 固定轮次、固定 Token 数或基于会话的边界往往会将无关的对话混合在一起，或者将单个事件从其原因、决策和结果中割裂开来。这破坏了后续检索所需的事件级上下文。
信息耦合： 将单次交互中的多个信息片段作为单一记忆单元存储，会将不同的语义功能（例如，通用的偏好与特定上下文的约束）绑定在一起。这导致系统无法仅检索与特定查询相关的组成部分。
查询构建不足： 将当前任务视为单一的 top- $k$ 相似度检索查询，往往会得到在个体层面相关但无法共同捕捉偏好演变、时间有效性和上下文适用性的碎片。

核心挑战不仅在于检索相关记忆，而在于推断一个任务相关的用户状态——即一个由历史证据支持、与当前查询相关、且适用于当前上下文的结构化用户信息表示。

方法论：QUMem

QUMem 是一个旨在进行查询驱动型用户状态推理的结构化记忆框架。它通过三个顺序模块运行：

1. 动态情节构建 (Dynamic Episode Construction)

为了保留事件级上下文，QUMem 放弃了固定边界，转而采用语义连续性。

机制： 一个轻量级的微调分类器 ( $f_\theta$ ) 分析相邻的用户话语，以确定它们是否属于同一个事件或任务。
过程： 系统维护一个开放的候选情节。如果分类器判定具有连续性（ $c_t=1$ ），则追加该话语；如果连续性被打破（ $c_t=0$ ），则完成当前情节并开始一个新情节。
收益： 这确保了同一事件的起因、决策、反馈和结果被完整保留在一起，防止在记忆存储前破坏事件上下文。

2. 类型化记忆分解 (Typed Memory Decomposition)

一旦形成情节，系统会根据三种不同的功能角色将其分解为可独立检索的原子记忆：

事实记忆 ( $F$ )： 具体的用户经历、行为、活动或状态，不包含推断出的倾向。
偏好记忆 ( $P$ )： 与特定对象或上下文相关的用户选择、倾向、需求和约束，包括其背道之处。这些记忆不被假定为无限期有效；其时间位置会被追踪。
可迁移洞察记忆 ( $I$ )： 从具体的选择和反馈中抽象出的决策原则，适用于新的对象或上下文。
存储： 每条记忆保留其内容 ( $v$ )、类型 ( $d$ )、时间位置 ( $p$ ) 和来源证据 ( $E$ )。这实现了细粒度的检索和溯源追踪。

3. 查询驱动的用户状态推理 (Query-Conditioned User-State Inference)

QUMem 没有采用单一的检索操作，而是通过三个顺序执行的智能体将任务目标转化为结构化的用户状态 ( $Z_q$ )：

信息需求智能体 ( $A_1$ )： 识别针对当前查询必须验证哪些历史信息，并解释其相关性，而不预设具体的检索查询。
检索规划智能体 ( $A_2$ )： 将信息需求重写为自包含的查询，并为每个查询选择合适的记忆库（事实、偏好或洞察）。它生成检索计划 $P_q$ 。
用户状态推理智能体 ( $A_3$ )： 检索候选记忆，选择任务相关的证据，并将它们组织成结构化的用户状态 $Z_q = (F_q, T_q, I_q)$ $Z_{q} = (F_{q}, T_{q}, I_{q})$ ，其中：
- $F_q$ ：按时间顺序组织的实事。
- $T_q$ ：偏好的演变以及上下文适用的约束。
- $I_q$ ：应用于当前任务的抽象决策原则。

该结构化状态随后被输入到下游响应模型 ( $\Psi$ ) 以生成个性化输出。

核心贡献

结构化记忆框架： QUMem 将交互历史组织为语义情节，并将其分解为互补的、可独立检索的事实、偏好和洞察记忆。这既保留了事件上下文，又实现了细粒度的复用。
三智能体推理机制： 本文引入了一个查询驱动的流水线，将信息需求识别、基于类型化存储的检索规划以及基于证据的状态推理进行分离。这使得对分布式的、在时间上分离的证据进行联合解释成为可能。
实证验证： 该框架在 PersonaMem 和 KnowU-Bench 上进行了评估，证明了其在长期个性化任务中的最先进（SOTA）性能。

实验结果

论文将 QUMem 与三个基线模型进行了对比：A-MEM、Mem0 和 Zep。

PersonaMem 基准测试： 在所有上下文长度（32K, 128K, 1M tokens）和查询类别下，使用 GPT-4o-mini 和 Gemini-3.5-flash 基座模型，QUMem 均取得了最佳性能。
- 使用 GPT-4o-mini 时，QUMem 将整体准确率从 52.99%（最佳基线）提升至 61.02%。
- 使用 Gemini-3.5-flash 时，它将最强基线的表现从 63.29% 提升至 70.58%。
- 在需要追踪完整偏好演变、偏好对齐推荐以及跨上下文迁移的任务中，增益最为显著。
KnowU-Bench： QUMem 取得了评估方法中的最高成功率（总计 17.4%）和平均分（0.53），比最强基线提高了 4.6 个百分点。这表明该方法在将历史偏好转化为具体行动方面具有有效性。
效率： Q \text{umem} 展示了卓越的记忆构建效率，每 100 轮对话所需的 LLM 调用次数最少（81.4 次），Token 成本最低（1,221.2），优于那些在每一轮都触发构建或使用复杂验证循环的基线模型。
消融实验： 移除三个核心组件（情节构建、记忆分解或状态重建）中的任何一个，都会导致性能持续下降，证实了它们的互补作用。研究还确定了最佳检索深度（ $k=5$ ）。

意义与主张

论文声称 QUMem 解决了当前记忆系统中检索孤立事实与推断连贯用户状态之间的根本脱节问题。通过明确分离信息需求的识别、类型化存储的检索规划以及证据的联合解释，QUMem 使智能体能够更有效地处理演变的偏好和上下文相关的约束。

作者强调，该框架的价值在于：

在构建过程中保留事件级上下文。
区分历史证据的功能角色（事实 vs. 偏好 vs. 洞察）。
执行任务驱动的用户状态推理，而非简单的相似度匹配。

结果表明，结构化、查询驱动的推理是实现稳健长期个性化的关键步骤，尤其是在交互历史变得更长、更复杂的情况下。然而，论文也谦虚地指出，虽然 QUMem 改进了偏好推理，但在生成既具新颖性又完美符合偏好的响应（特别是在“建议新想法”类任务中）方面仍面临挑战。