💬 NLP

PraMem: Practice-derived Experiential Memory for Long-horizon Behavior Prediction

本文介绍了 PraMem，这是一个通过进行预先练习以构建经验记忆，从而将冗长的历史序列重新定义为宝贵资源的创新框架，进而克服了大语言模型和上下文压缩范式的局限性，实现了卓越的长程行为预测。

原作者： Zhuoqun Li, Boxi Cao, Jiawei Chen, Hanshu Zhou, Ruoxi Xu, Guiping Jiang, Ruotong Pan, Tingting Gao, Han Li, Xiangyu Wu, Hongyu Lin, Yaojie Lu, Xianpei Han, Le Sun

发布于 2026-07-07

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Zhuoqun Li, Boxi Cao, Jiawei Chen, Hanshu Zhou, Ruoxi Xu, Guiping Jiang, Ruotong Pan, Tingting Gao, Han Li, Xiangyu Wu, Hongyu Lin, Yaojie Lu, Xianpei Han, Le Sun

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

核心问题：“历史负担”陷阱

想象一下，你正试图猜测一位朋友接下来的行为。你的笔记本里记录了他们成千上万页的过往行为：他们买了什么、看了什么、跳过了什么。

目前的 AI 模型（大语言模型）试图阅读这整本笔记本来做出预测。但这带来了两个大问题：

“大海捞针”问题： AI 会被海量的文本量所淹没。它很难在数千条平庸的记录中发现细微的模式（例如：“他们只在周二买红色的鞋子”）。
“坏习惯”问题： 即使 AI 阅读了笔记，它也有自己的坏习惯。它可能会根据“大多数人”的行为进行猜测，或者会被朋友最后一次的行为所干扰，从而忽略了长期的趋势。

以往的解决方案试图通过总结笔记本或丢弃旧页面来节省空间。本文的作者说：“等等！丢弃页面或仅仅是总结它们并不是答案。我们把历史看作了一种负担，但它实际上是一个宝贵的‘练习素材库’。”

解决方案：PraMem（实践衍生记忆）

PraMem 不仅仅是阅读历史，它将历史视为 AI 的健身房。

想象 AI 是一个正在参加考试的学生。与其仅仅死记硬背教科书，PraMem 让学生利用教科书本身来进行练习。

这个“健身房”通过以下三个简单步骤运作：

1. 练习环节（现有经验尝试）

AI 获取用户历史的一个小片段（例如：“这是他们上周的行为”），并尝试预测他们下一步会做什么。

转折点： 在做出猜测之前，AI 必须利用其当前的“经验记忆”进行“出声思考”。这种记忆包含两个部分：
- 模式经验： “这个用户喜欢苹果产品。”
- 偏差警示经验： “我（AI）倾向于因为上一次动作是‘购买’就过快地猜测‘购买’。我需要慢下来。”

2. 反思（反思性提议生成）

在 AI 做出猜测后，它会检查答案解析（标准答案/真实情况）。

如果猜对了： 它会问：“我是靠运气猜中的，还是我的记忆帮了我？”
如果猜错了： 它会问：“我错过了什么？是我的记忆错了，还是我陷入了某种坏习惯？”
输出： AI 写下一份用于更新其记忆的“提议”。例如：“更新：这个用户其实更喜欢三星，而不是苹果，” 或者 “更新：不要仅仅因为昨天买了东西就猜测‘购买’。”

3. 质量控制（自我审查机制）

这是最聪明的部分。AI 不会立即接受每一个新想法。它扮演着严厉老师的角色，通过两个测试进行自我审查：

“落地性”测试（这是真实的吗？）： AI 想象完全改变用户的历史（例如：“如果这个用户讨厌苹果呢？”）。如果新的记忆规则在历史发生变化时仍然成立，那么这个规则就是虚假的（幻觉）并会被丢弃。如果该规则在历史变化时失效，则证明该规则确实是基于真实数据的。
“泛化性”测试（这是否过于具体？）： AI 创建虚构的、相似的情景（例如：“如果用户是在看不同品牌的耳机呢？”）。如果该规则仅适用于原始的特定场景，但在虚构场景中失效，那么它就过于具体，会被丢弃。

4. 共识（经验调整）

最后，AI 查看所有被批准的提议。只有当多个提议对同一个观点达成一致时，它才会更新其永久记忆。这防止了 AI 因为一次奇特的、偶然发生的事件而改变心意。

结果：更聪明、更轻量化的 AI

通过这个过程，AI 不需要携带整本 1000 页的笔记本。它携带的是一张高质量的**“经验卡”**，上面写着：

“这个用户喜欢 X。”
“我必须避免偏差 Y。”

为什么这更好？

准确性： AI 学习的是真实的模式，而不是仅仅根据近期历史进行猜测。
稳定性： 它不会因为一次性的错误而感到困惑，因为它只在多次“练习回合”达成一致时才会更新记忆。
效率： 它适用于不同的 AI 模型，因为“经验卡”是逻辑的浓缩总结，而非单纯的原始数据。

总结类比

把传统方法想象成一个图书管理员，试图通过把书压成粉末来把整个图书馆装进背包。这样你会失去故事。

PraMem 则像是一个阅读图书馆、参加模拟测试、为自己的答案评分，并写出一份包含最重要的规则和警告的**“小抄”**的学生。当真正的考试到来时，他们不需要整个图书馆，只需要他们努力换来的那张小抄。

论文声称，这种方法（PraMem）在预测长期用户行为方面击败了所有以往的方法，因为它将历史的“负担”转化为了练习的“资源”。