Continual Low-Rank Adapters for LLM-based Generative Recommender Systems

本文针对大语言模型推荐系统在持续学习中的挑战，提出了一种名为 PESO 的新方法，该方法通过引入将当前适配器锚定在最近冻结状态的近端正则化器，有效平衡了模型对新用户行为的适应与对旧知识的保留，从而在持续学习场景下显著优于现有基于 LoRA 的方法。

要点

这篇论文主要解决了一个非常有趣的问题：如何让一个“超级推荐员”（基于大语言模型的推荐系统）在不断学习新东西的同时，不忘记老用户喜欢的东西，也不被过时的喜好带偏？

为了让你更容易理解，我们可以把这个过程想象成一位老练的图书管理员（推荐系统）在管理一家不断变化的书店。

1. 背景：书店里的挑战

想象一下，你是一位图书管理员。

• 过去：你根据老顾客的历史记录，知道他们喜欢“科幻小说”。
• 现在：时间流逝，顾客的兴趣变了。有的老顾客突然开始迷上“浪漫小说”；有的新顾客只喜欢“悬疑剧”。
• 难题：如果你完全按照顾客最近的喜好来推荐，你可能会忘记他们长期的爱好（比如那个突然迷上浪漫小说的人，其实骨子里还是科幻迷，只是最近被新书吸引了）。如果你死守着过去的喜好，又无法推荐出他们现在真正想看的书。

在传统的推荐系统里，这就像是一个“遗忘”和“僵化”的拉锯战。

2. 现有的两种“笨办法”

论文里提到，之前大家尝试过两种主要方法，但都有缺陷：

• 方法 A：完全重写（Single Evolving LoRA）
  • 比喻：管理员每次看到新顾客，就把脑子里的旧规则全擦掉，只记现在的。
  • 结果：反应很快，能跟上潮流，但容易健忘。那个喜欢科幻的老顾客，因为最近看了几本浪漫小说，管理员就彻底忘了他爱科幻，以后只推浪漫书给他，这就错了。
• 方法 B：层层叠加（Cumulative LoRA）
  • 比喻：管理员每遇到一个新阶段，就保留一本旧的“喜好笔记”，然后加上一本新的。推荐时，把过去所有的笔记都拿出来一起看。
  • 结果：虽然记住了过去，但太死板了。笔记越积越厚，而且旧的笔记（比如顾客五年前喜欢的书）可能会干扰现在的判断。就像你明明现在想吃火锅，但脑子里还塞着五年前减肥时的沙拉食谱，导致你点菜时犹豫不决，甚至点错了。

3. 论文的新方案：PESO（带“锚点”的灵活管理员）

作者提出了一种叫 PESO 的新方法。它的核心思想是：只保留一本“活”的笔记，但这本笔记要有一个“锚点”。

• 核心比喻：橡皮筋与锚点
  想象管理员手里有一本正在写的笔记（当前的模型），这本笔记通过一根有弹性的橡皮筋，系在上一本写好的笔记（过去的状态） 上。

  • 当新数据（新喜好）很强时：比如顾客最近疯狂看悬疑小说，橡皮筋会被拉得很长，笔记会大幅度更新，迅速适应新喜好（可塑性）。
  • 当新数据很弱时：比如顾客只是偶尔翻了一下悬疑书，橡皮筋的拉力会把笔记拉回原来的位置，防止它乱跑，从而保留长期的喜好（稳定性）。

• PESO 的聪明之处：
  它不是简单地“记住”或“忘记”，而是通过一种数学上的“近邻约束”（Proximal Regularizer），让模型自己决定：

  • 哪些新变化是真的重要，值得大改？（橡皮筋拉断，去适应新趋势）
  • 哪些变化只是噪音，应该保持原样？（橡皮筋拉回，保持老习惯）

  而且，它不像“层层叠加”法那样把旧笔记全堆在一起，而是只保留最新的一版旧笔记作为锚点。这样既省空间，又不会让过时的信息干扰现在的判断。

4. 为什么这很重要？

在现实生活中，人的兴趣是流动的。

• 以前的方法：要么太容易变心（忘了老用户），要么太固执（推不出新东西）。
• PESO 方法：像是一个懂分寸的老朋友。他知道你最近迷上了摇滚乐，会给你推摇滚；但他也知道你骨子里还是喜欢爵士，不会因为你最近听了一首摇滚就彻底把你归类为摇滚迷。

5. 实验结果

作者在亚马逊（Amazon）的真实数据上做了测试（乐器、电影、书籍三个领域）。

• 结果：PESO 比之前的所有方法都更准。
• 表现：它既能抓住新出现的流行趋势（比如突然火起来的某类书），又能稳稳地守住用户长期的核心兴趣。

总结

这篇论文就像是在教我们的 AI 推荐系统如何优雅地变老：
它不再是一个只会死记硬背的机器，也不再是一个朝三暮四的墙头草。它学会了在“改变”与“坚守”之间找到完美的平衡点，就像一位经验丰富的图书管理员，既能跟上时代的潮流，又能读懂你内心深处不变的喜好。

一句话概括：PESO 给 AI 推荐系统装上了一根“智能橡皮筋”，让它既能灵活地适应新潮流，又不会在追逐潮流时弄丢了自己的初心。

技术摘要

这是一篇发表于 ICLR 2026 的论文，题为 《Continual Low-Rank Adapters for LLM-Based Generative Recommender Systems》（基于大语言模型的生成式推荐系统中的持续低秩适配器）。

以下是对该论文的详细技术总结：

1. 研究背景与问题定义 (Problem)

背景：
大型语言模型（LLM）在推荐系统中表现出色，通常将推荐任务视为序列生成问题（给定用户历史交互，自回归生成下一个物品 Token）。然而，现实世界的推荐数据是动态演变的：新用户/物品不断出现，用户偏好随时间漂移（Drift）。

核心挑战：
传统的持续学习（Continual Learning, CL）旨在平衡稳定性（Stability，保留旧知识）和可塑性（Plasticity，适应新知识）。但在推荐系统中，这一概念具有独特性：

• 目标差异： 推荐系统的目标不是预测过去的偏好，而是预测未来的偏好。过时的偏好（Outdated preferences）如果未被覆盖，反而会损害性能。
• 现有方法的局限：
  • 单一演化 LoRA (Single Evolving LoRA)： 直接微调同一个 LoRA 适配器。虽然可塑性强，但容易在微调新数据时“灾难性遗忘”有用的长期偏好。
  • 累积 LoRA (Cumulative LoRA)： 常见于计算机视觉领域，通过累加冻结的旧适配器和新适配器来增强稳定性。但在推荐场景中，由于用户偏好是连续演变的，累加冻结的适配器会导致新旧偏好纠缠（Entanglement），难以解耦，且随着时间推移存储成本增加，反而阻碍了对最新趋势的适应。

问题定义：
如何在 LLM 生成式推荐系统中，设计一种持续适应机制，既能灵活捕捉用户偏好的最新变化（高可塑性），又能保留具有预测价值的长期偏好（适度稳定性），同时避免遗忘和冗余存储。

2. 方法论：PESO (Methodology)

作者提出了 PESO (Proximally rEgularized Single evolving lOra，近端正则化单一演化 LoRA) 框架。

核心思想：

• 单一适配器策略： 摒弃累积多个适配器的做法，仅维护一个不断演化的 LoRA 适配器。
• 近端正则化 (Proximal Regularization)： 在每次更新时，通过一个轻量级的近端项（Proximal Term），将当前的适配器状态锚定（Anchor）在上一时刻的冻结状态上。

数学形式：
在时间步 $t$，优化目标函数 $L_t$ 包含两部分：
$$L_t = L_{D_t}^{ce} + \lambda \sum_{g=1}^{G} \text{Proximal}(v_t^{(g)}, v_{t-1}^{(g)})$$
其中：

• $L_{D_t}^{ce}$ 是当前数据块 $D_t$ 上的交叉熵损失（数据拟合项）。
• $v_t$ 是 LoRA 参数向量，$v_{t-1}$ 是上一阶段的参数。
• $\lambda$ 是正则化强度系数。
• 近端项设计： 作者提出了一种基于 Softmax-KL 散度 的近端正则化，而非简单的 L2 距离。
  • 公式：$K_{blk}(v_t, v_{t-1}) = \sum D_{KL}(\text{softmax}(v_t^{(g)}) \parallel \text{softmax}(v_{t-1}^{(g)}))$
  • 优势： 这种设计在局部等价于一个二次型，但具有**模块感知（Module-aware）**特性。它根据参数在上一状态中的分布（权重）来惩罚变化，能够更细腻地保留模块内部结构，而不是对所有参数一视同仁。

理论分析：

• 论文证明了该近端设计在 LoRA 子空间中提供了**数据感知（Data-aware）和方向感知（Direction-wise）**的指导。
• 在特征方向上，更新量是“新数据最优解”和“旧状态”的加权平均。权重由数据对该方向的支持强度（特征值 $\sigma^2$）决定：
  • 若新数据强烈支持某方向（$\sigma^2$ 大），模型倾向于向新最优解移动（高可塑性）。
  • 若新数据支持弱（$\sigma^2$ 小），模型倾向于保持旧状态（高稳定性）。

3. 主要贡献 (Key Contributions)

1. 问题洞察与分析： 揭示了持续推荐中稳定性与可塑性的独特矛盾。通过实验证明，源自计算机视觉的“累积 LoRA"方法在用户偏好连续演变的自然场景下表现不佳，甚至不如简单的单一演化 LoRA。
2. 方法创新 (PESO)： 提出了首个专为推荐场景设计的近端正则化单一演化 LoRA 方法。
   • 引入了Softmax-KL 近端项，实现了模块级的细粒度稳定性控制。
   • 提供了理论证明，表明该方法能根据数据信号强度自动平衡适应与保留。
3. 实证结果： 在多个真实世界数据集（Amazon Musical Instruments, Movies & TV, Books）上的实验表明，PESO 在 Hit@K 和 NDCG@K 指标上 consistently 优于现有的持续学习基线（包括单一演化 LoRA、多种累积 LoRA 变体、以及传统持续推荐方法）。

4. 实验结果 (Results)

• 数据集： 使用 Amazon Review 数据集的三个类别（乐器、影视、书籍），按时间顺序划分为预训练集 ($D_1$) 和四个增量阶段 ($D_2 \dots D_5$)。
• 对比基线：
  • 单一演化 LoRA (Single Evolving LoRA)
  • 累积 LoRA 家族 (SumLoRA, SD-LoRA, InfLoRA 等，包含所有/最新/继承等变体)
  • 传统持续推荐方法 (如 PISA, LightGCN 变体)
• 关键发现：
  • 性能提升： PESO 在平均指标上比最佳竞争对手（通常是 SD-LoRA 或 SumLoRA 的变体）高出 3.7% - 6.3%。
  • 稳定性 - 可塑性平衡： 在“休眠用户”（测试长期偏好保留）和“新用户”（测试对新信号的适应）的分组测试中，PESO 均取得了最佳表现，证明了其完美的平衡能力。
  • 正则化有效性： 消融实验显示，Softmax-KL 正则化优于 L2 正则化和正交约束，证明了对模块内部结构的保留至关重要。
  • 效率： PESO 仅存储一个适配器，存储复杂度为 $O(1)$，而累积 LoRA 为 $O(T)$。计算开销几乎为零。

5. 意义与影响 (Significance)

• 理论意义： 重新定义了推荐系统中的持续学习范式，指出“任务独立性”假设（累积 LoRA 的基础）在推荐领域不成立，提出了基于“近端演化”的新思路。
• 实践价值： 为基于 LLM 的生成式推荐系统提供了一种高效、低成本的持续更新方案。无需重新训练整个模型，也无需存储大量历史适配器，即可在动态变化的用户环境中保持高性能。
• 通用性： 该方法不仅适用于电商推荐，在 Yelp 等非电商数据集上也表现优异，证明了其鲁棒性。

总结：
PESO 通过引入一种智能的近端正则化机制，成功解决了 LLM 推荐系统在持续学习中的“遗忘”与“僵化”难题。它不再试图机械地保留所有过去，而是根据新数据的信号强度，动态决定保留什么、更新什么，从而实现了真正的“持续适应”。