💬 NLP

Beyond Isolated Behaviors: Hierarchical User Modeling for LLM Personalization

本文介绍了 PHF，这是一个受布尔迪厄实践理论启发、具有社会学基础的框架，通过利用实践、惯习和场域的层级结构对用户数据进行建模，从而增强了大语言模型的个性化能力，并在 LaMP 基准测试上实现了持续的性能提升。

原作者： Liang Wang, Xinyi Mou, Xiaoyou Liu, Tiannan Wang, Yuqing Wang, Zhongyu Wei

发布于 2026-06-02

📖 1 分钟阅读☕ 轻松阅读

原作者： Liang Wang, Xinyi Mou, Xiaoyou Liu, Tiannan Wang, Yuqing Wang, Zhongyu Wei

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正试图让一个非常聪明但略显平庸的通用 AI 助手理解“你”本身。目前，大多数 AI 个性化工作方式就像是一个零散瞬间的剪贴簿。如果你去年喜欢《哈利·波特》，上个月喜欢《复仇者联盟》，AI 只会看到两个独立的实事：“用户喜欢哈利·波特”和“用户喜欢复仇者联盟”。它并不能真正理解你的品味背后的“故事”，也无法理解你的兴趣是如何演变的。

这篇论文提出了一种全新的思考个性化方式，称为 PHF（实践-惯习-场域）。它借鉴了著名社会学家皮埃尔·布迪厄（Pierre Bourdieu）的思想，将用户行为组织成三个层级，就像一套俄罗斯套娃。

以下是这三个层级的工作原理，使用了简单的类比：

1. 实践 (Practice) —— 单一行为

类比： 把这想象成沙滩上的一个脚印。

定义： 你每次点击链接、评分电影或提问，都是一次“实践”。
问题： 脚印会被潮汐（噪声）冲走，或者因为角度不同而看起来形态各异。如果 AI 只看这一个脚印，它可能会认为你喜欢“沙子”，仅仅因为你曾在海滩上走过一次，即便你其实很讨厌海滩。
解决方案： 该论文提出的系统 PHFCompass 扮演了一个降噪过滤器的角色。它观察你的单一行为，并追问：“这个行为的本质是什么？”它将混乱、具体的行为转化为一个干净、清晰的“语义 ID”（就像条形码一样），代表真实的意图，从而忽略表层的杂质。

2. 惯习 (Habitus) —— 你的个人风格

类比： 把这想象成你的肌肉记忆或人格特质。

定义： 如果你每天都留下脚印，一年下来，这些脚印就会形成一条路径。这条路径就是你的“惯习”。它不仅仅是一份清单，而是你的稳定倾向。它能捕捉到你曾经热爱奇幻书籍，但现在已慢慢转向超级英雄故事这一变化过程。
运作方式： 系统会将所有经过清洗的“实践”随时间推移进行融合。它会对近期的行为赋予更高的权重（因为你的品味在变化），同时保留长期的模式。这创造了一个感觉像是一个拥有历史的真实人类，而非仅仅是数据点列表的“用户画像”。

3. 场域 (Field) —— 你的圈子

类比： 把这想象成加入了一个俱乐部或一个社区。

定义： 即使你是独特的，你也会与他人共享某些习惯。如果你和另外 100 个人都拥有“热爱科幻且讨厌恐怖片”的“惯习”，那么你就属于同一个“场域”。
作用： 有时，由于你的历史记录不够多，AI 可能无法理解你（比如你是新用户或非常低调）。但如果 AI 知道你属于“科幻场域”，它就可以借鉴该群体中其他人的见解来推测你可能喜欢什么。这就像是在说：“我还不了解你的具体品味，但既然你混迹于这个圈子，这里有他们通常会喜欢的元素。”

它们是如何协同工作的

论文引入了一个名为 PHFCompass 的工具来构建这个系统。它不需要重新训练庞大的 AI 模型（这既昂贵又缓慢）。相反，它像是一个坐在 AI 前方的智能翻译官。

它获取你的原始历史，并将其转化为干净的实践 (Practices)。
它将这些实践融合为你的个人惯习 (Habitus)。
它根据谁与你相似，找到你的场域 (Field)（即你的圈子）。
它将这三个层级同时喂给 AI。

结果：
当你向 AI 提问时，它看到的不仅仅是“用户询问了 X”。它看到的是：

“这是一个长期习惯于喜爱 X 的用户 (惯习)。”
“该用户属于一个普遍偏好 Y 的群体 (场域)。”
“这是该问题的、无噪声的真实意图 (实践)。”

论文的研究发现

作者在名为 LaMP 的基准测试上进行了测试（该测试涉及撰写新闻标题、电影标签或产品评分等任务）。

结果： 他们的这种方法（PHFCompass）始终优于旧方法。
原因： 旧方法像是观察一堆砖头（扁平的数据）；而 PHFCompass 建造了一座房子（层级化的结构）。它证明了理解行为如何随时间连接（惯习）以及你与谁相似（场域），能让 AI 在预测你的需求时表现得更出色。

简而言之，这篇论文认为，要实现真正的 AI 个性化，我们不能再把用户视为随机点击的列表，而应该开始将他们视为拥有历史、风格和社群的人。

技术摘要：超越孤立行为：面向 LLM 个性化的层级化用户建模

问题陈述

尽管大语言模型（LLM）在不同领域展现出了卓越的能力，但如何针对个体用户实现输出的个性化仍是一个重大挑战。现有方法主要采用扁平化行为范式，将用户交互视为无序的、孤立实例的集合。这种表述导致了两个关键局限性：

行为碎片化： 个体用户历史缺乏内部结构，无法将孤立的行为整合为稳定的长期模式。
用户孤立化： 用户被独立建模，忽略了具有相似特征的用户之间存在的共同行为规律。这限制了泛化能力，尤其是在用户历史稀疏的情景下。

本文认为，有效的个性化需要一种结构化的视角，既要建模行为如何在个体内部进行整合，也要建模行为如何在用户群体之间进行共享。

方法论：PHF 框架

借鉴皮埃尔·布迪厄（Pierre Bourdieu）的《实践理论》（Theory of Practice），作者提出了 PHF（实践-惯习-场域），这是一个具有社会学理论基础的、用于 LLM 个性化的层级化框架。该框架从三个层面概念化用户行为：

实践（Practice）： 个体的、片段式的行为（例如，单次查询-响应对）。
惯习（Habitus）： 实践随时间积累而形成的、属于用户独特的稳定长期行为倾向。
场域（Field）： 具有相似倾向的用户之间共享的行为规律和集体模式。

PHFCompass 实现

为了实例化 PHF，作者开发了 PHFCompass，这是一个轻量级、与模型无关的架构，运行在冻结的 LLM 之上。该系统通过四个关键阶段运作：

去噪实践提取（语义量化）：
对原始用户行为进行编码，并进行多级残差向量量化。这一过程将连续的交互抽象为离散的语义 ID（原型）。通过将具有不同表面形式但具有相似意图的行为映射到共享的原型，系统在保留核心行为语义的同时过滤了表面层面的噪声。
惯习构建（时间聚合）：
使用**时间融合器（Time Fusioner）**随时间聚合用户的去噪实践表示序列。为了在考虑近期效应的同时避免近期行为占据主导地位，模型采用了使用平方根缩放的时间加权聚合方案。由此产生的 惯习嵌入（Habitus embedding） 编码了用户的稳定长期行为倾向。
场域形成（协作聚类）：
根据惯习嵌入将用户组织到潜在的场域（Fields）中。利用 K-Means 聚类，将具有相似长期倾向的用户归为一类。每个聚类中心作为场域嵌入（Field embedding），捕捉集体行为规律。这使得用户能够受益于共享信号，特别是在冷启动或历史稀疏的情景下。
层级化生成：
在推理过程中，LLM 被约束在一个统一的输入序列上，该序列包含惯习嵌入（个体倾向）、场域嵌入（集体模式）和当前的查询嵌入（Query embedding）。仅训练轻量级的投影层，保持底层 LLM 处于冻结状态。

核心贡献

理论框架： 提出了 PHF，这是一个统一的层级化模型，它将个体行为形成（实践 $\to$ 惯习）与跨用户结构规律（场域）相结合，并植根于社会学理论。
PHFCompass 架构： 一个具体的、轻量级的实现，通过残差行为抽象、时间聚合和协作聚类，在无需修改基础 LLM 的情况下实现了这些概念的操作化。
实证验证： 大量的实验证明，通过层级化建模行为结构，其表现优于扁平化聚合和基于检索的基准方法。

实验结果

作者在 语言模型个性化（LaMP） 基准测试上评估了 PHFCompass，涵盖六项任务（三项分类，三项生成）。

性能： 与包括基于检索的方法（BM25, Dense）、基于聚合的方法（OPPU, PPlug）以及零样本模型在内的强基准相比，PHFCompass 在所有任务中均实现了持续的最先进（SOTA）提升。
- 在分类任务（LaMP-1 至 3）中，模型表现出显著增益，这归功于场域组件补偿了稀疏的个体历史。
- 在生成任务（LaMP-4, 5, 7）中，模型保持了竞争力的性能，受益于稳健的实践和惯习建模。
消融研究：
- 去除惯习组件导致性能下降最为严重，证实了细粒度个体行为表示的基础性作用。
- 去除场域组件导致性能出现中度下降，尤其是在分类任务中，验证了协作信号的效用。
- 将时间加权替换为均匀平均以及去除残差量化均导致了性能下降，凸显了时间敏感性和行为抽象的重要性。
可扩展性： 该框架在不同的编码器-解码器组合（如 Contriever/Qwen, RoBERTa/LLaMA）中展示了鲁棒性，证实了其与模型无关的特性。
可解释性： 对语义 ID 的分析表明，层级化量化成功地将用户特定意图与共享语义结构解耦，特定的代码对应于连贯的主题组（例如，奇幻浪漫与侧重身份认同的浪漫）。

意义与主张

本文主张 PHF 代表了一种范式转变，即从将用户数据视为扁平的实例集合，转变为将其建模为一个层级化的系统。通过显式捕捉个体行为内的时间连贯性以及用户间的共享规律，PHF 解决了当前个性化方法中固有的碎片化和孤立化问题。

作者强调，他们的方法提供了一个既具有可解释性（通过离散的语义原型和聚类场域）又具有可扩展性（模型无关）的统一视角。虽然目前的工作是在 LaMP 基准测试上进行的验证，但该框架被呈现为一种组织 LLM 个性化中用户行为的通用方法，为纯统计或基于检索的方法提供了一个植根于社会学的替代方案。

论文承认了局限性，指出目前的实验仅限于英文文本任务及静态历史，且 PHF 概念的具体实现（例如用于场域的 K-Means）仅是更广泛 PH de PHF 概念的一种可能实例化。