💬 NLP

Bridging Textual Profiles and Latent User Embeddings for Personalization

本文介绍了 BLUE，这是一个强化学习框架，它通过将基于语言的用户画像与嵌入空间中的奖励信号对齐，从而将可解释的文本用户画像与判别式潜在嵌入相统一，进而在零样本序列推荐和跨领域迁移中实现卓越性能，同时增强问答任务的个性化上下文。

原作者： Zhaoxuan Tan, Xiang Zhai, Yan Zhu, Meng Jiang, Mohamed Hammad

发布于 2026-05-11

📖 1 分钟阅读☕ 轻松阅读

原作者： Zhaoxuan Tan, Xiang Zhai, Yan Zhu, Meng Jiang, Mohamed Hammad

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是论文《Bridging Textual Profiles and Latent User Embeddings for Personalization》（BLUE）的通俗解读，辅以生动的类比。

核心难题：两种不同的“语言”

想象一下，你试图了解一位顾客，以便为他们推荐完美的产品。你有两种描述这位顾客的方式，但它们说着不同的“语言”：

“黑盒”向量（潜在嵌入）： 这就像一种秘密代码或密集的数字指纹。计算机非常喜欢它，因为它在寻找匹配项时极其快速高效。然而，对人类来说，它是一个谜。如果你问计算机“为什么推荐这个？”，它无法解释；它只能指向代码。这就像是一个 GPS，它确切知道该去哪里，却无法告诉你为什么选择了那条路线。
“故事”档案（文本档案）： 这是一份书面总结，就像顾客品味的传记。“这个人喜欢徒步旅行，讨厌辛辣食物，并且会给孩子买礼物。”人类喜欢它，因为它易于阅读和理解。但计算机往往难以有效地利用这些故事进行推荐，因为它们很难转化为快速搜索所需的数学形式。

鸿沟： 现有系统通常只选择其中之一。它们要么使用快速但神秘的代码（擅长排序，不擅长解释），要么使用可读的故事（擅长解释，难以针对结果进行优化）。

解决方案：BLUE（翻译官）

作者创建了一个名为 BLUE（Bridging textuaL profiles and latent User Embeddings，桥接文本档案与潜在用户嵌入）的系统。将 BLUE 想象成一位翻译官，它教导“故事”学会说“黑盒”的语言，反之亦然。

BLUE 采用强化学习方法。想象一名学生（AI）正在尝试撰写一份顾客摘要。

老师： 一位“教授”AI（大型语言模型）负责撰写故事。
裁判： 一位“数学”AI（嵌入模型）担任裁判。它不在乎故事是否优美；它只在乎这个故事是否有助于它找到正确的产品。

工作原理：训练健身房

BLUE 使用两种奖励来训练学生 AI，就像拥有两个记分牌的视频游戏：

数学分数（嵌入空间奖励）：
- 学生撰写一份档案。
- “数学裁判”将该档案转化为秘密代码。
- 裁判检查：“这个代码是否指向用户实际购买的下一个商品？”
- 如果代码接近正确的商品，学生获得高分；如果相距甚远，则获得低分。
- 类比： 这就像一名飞镖选手。学生投掷飞镖（档案）。裁判检查是否击中了靶心（正确的产品）。学生从而学会投掷更精准的飞镖。
故事分数（文本空间奖励）：
- 学生撰写一份档案。
- 系统提问：“仅基于这个故事，你能猜出用户接下来会买什么吗？”
- 如果故事包含足够的清晰线索以做出正确猜测，学生获得额外加分。
- 类比： 这确保了故事不仅仅是碰巧在数学上有效的胡言乱语。它必须是一个好故事，能够真正解释用户的偏好。

结果： AI 学会了撰写不仅对人类易读，而且对计算机用于推荐在数学上完美的故事。

研究发现（结果）

研究人员在来自亚马逊（服装、书籍、电子产品）和 Google 本地评论的真实数据上测试了 BLUE。

更优的推荐： 即使使用“冻结”（不可更改）的数学模型，BLUE 的文本档案也能帮助系统比直接将原始点击历史输入系统更好地推荐商品。这就像给计算机提供了一份完美总结用户习惯的“作弊条”。
跨领域魔力： 他们在服装数据上训练 BLUE，然后在书籍和电子产品上进行测试。BLUE 在这些新领域表现惊人地好。似乎它学到的“故事”捕捉到了跨不同产品类型都适用的通用人类偏好（如“喜欢舒适”或“为孩子购买”）。
更佳的对话： 当他们使用这些档案来回答问题（例如“这位用户接下来会买什么？”）时，答案比使用原始数据或其他方法更准确。这些档案充当了 AI 理解用户的完美“上下文”。

“秘密配方”

论文强调，BLUE 不仅让 AI 说得更好，还让 AI 在思考什么才是重要的方面表现更佳。

在一个案例研究中，一位用户购买了工作裤、凉鞋和一些婴儿服装。
其他方法感到困惑，认为该用户主要对工作装感兴趣，或者只是随机购买配饰。
BLUE 的档案正确识别出该用户对儿童服装有着强烈且一致的兴趣（尽管这在历史记录中占比较小），并正确预测了下一个婴儿用品。它学会了过滤掉“噪音”，专注于“信号”。

总结

BLUE 是一种构建用户档案的新方法。它迫使 AI 撰写既对人类可读又为数学优化的摘要。它弥合了计算机科学的“黑盒”与人类语言的“讲故事”之间的鸿沟，从而产生出既能推荐更好商品，又能更清晰地解释其选择的系统。

技术摘要：桥接文本画像与潜在用户嵌入以实现个性化（BLUE）

1. 问题陈述

个性化系统依赖用户表示，将行为历史与推荐和问答等下游应用连接起来。现有方法通常分为两个截然不同的类别，且各自存在显著局限性：

潜在用户嵌入：这些从序列交互历史中学习到的稠密向量，在检索和排序方面非常有效，但缺乏可解释性。它们将复杂的历史压缩为单个向量，充当一个“黑盒”，掩盖了高层偏好，使得难以理解推荐产生的原因。
文本用户画像：这些自然语言描述具有可解释性，并能捕捉丰富的语义。然而，生成它们颇具挑战性，因为通常不存在单一的用户真实画像（ground-truth profile）。因此，现有方法往往依赖人工设计的提示词或零样本生成，这可能无法很好地与下游效用或优化目标保持一致。

这就产生了一个差距：潜在嵌入在检索方面表现强劲，但在推理方面较弱；而文本画像具有可解释性，却难以针对下游性能进行优化。本文提出了BLUE（桥接文本画像与潜在用户嵌入，Bridging textuaL profiles and latent User Embeddings），旨在统一这两种表示。

2. 方法论

BLUE 是一个强化学习（RL）框架，将用户画像生成视为策略优化问题。它将基于语言画像的语义透明度与潜在嵌入的判别性排序能力联系起来。

核心框架

给定原始用户交互序列 $H_u$ ，一个**画像生成大语言模型（LLM）**生成文本用户画像 $p_u$ 。该画像发挥双重作用：

文本空间：作为下游语言任务（如个性化问答）的可解释摘要。
潜在空间：作为嵌入模型的输入，以生成用于物品检索的用户表示。

该框架利用两种不同的奖励信号对画像生成 LLM 进行优化：

A. 嵌入空间奖励（潜在监督）

为了确保生成的画像能提升检索性能，BLUE 利用一个冻结的嵌入模型提供对比奖励信号。

机制：将生成的画像（单独或与近期历史结合）编码为潜在用户嵌入。
目标：奖励基于用户嵌入与目标正样本物品嵌入之间的双向对比对齐（InfoNCE 风格）。
信号：该奖励鼓励画像诱导出的用户嵌入更接近正样本的下一个物品，同时远离负样本物品和批次中的其他用户。这引导画像生成器生成对排序功能上有用的表示，即使在没有真实文本摘要的情况下也是如此。

B. 文本空间奖励（语义监督）

为了确保画像在语义上具有意义且可在自然语言中使用，引入了文本空间奖励。

机制：将生成的画像用作上下文，执行一个形式化为多项选择题的下一项预测任务。
信号：如果画像生成器（作为预测器）仅基于生成的画像正确识别出下一项，则给予二元奖励。这确保画像包含足够的显式信息以支持基于语言的推理。

优化

画像生成模型使用**组相对策略优化（GRPO）**进行优化。

对于每个用户，采样一组候选画像。
总奖励是文本空间奖励与嵌入空间奖励之和。
优势值在组内进行归一化以减少方差。
KL 散度项对策略进行正则化，防止其偏离参考模型，从而确保流畅性。

嵌入模型适配（可选）

虽然主要设置涉及冻结的嵌入模型，但本文也探索了一种设置，即利用学习到的文本画像通过监督对比学习来微调嵌入模型。这旨在测试去噪后的结构化摘要是否能比原始交互历史提供更好的监督信号。

3. 主要贡献

统一框架（BLUE）：一种强化学习方法，联合优化文本用户画像与潜在嵌入对齐。它证明了潜在空间的对比奖励可以在不需要真实用户摘要的情况下，有效地监督画像生成 LLM。
双目标优化：该方法成功平衡了两个互补目标：提升嵌入空间中的检索质量，以及为下游语言任务保持高质量、可解释的上下文。
跨领域泛化：学习到的画像表现出强大的可迁移性，在不同领域的零样本序列推荐中优于基线方法（例如，在服装领域训练，在图书、电子、运动和谷歌评论领域测试）。

4. 实验结果

该框架在Amazon Reviews 2023和Google Local Reviews数据集的零样本序列推荐设置下进行了评估。

嵌入冻结设置：当嵌入模型固定时，BLUE 始终优于强大的基线方法（包括原始历史、基础画像以及其他基于 RL 的画像方法，如 RLAIF 和 RLPF）。
- 在跨领域迁移中观察到了显著提升（例如，Amazon Books 的 N@10 从 0.228 提升至 0.291）。
- 将近期历史与 BLUE 画像结合，在所有数据集上均取得了最佳性能。
嵌入自适应设置：当使用生成的画像微调嵌入模型时，BLUE+SCL 在跨领域迁移性能上优于标准序列推荐模型（SASRec, BERT4Rec）及其他基于画像的对比方法。
个性化问答：与原始历史或其他画像方法相比，生成的画像为下一项预测和评分预测任务提供了更好的上下文。BLUE 在所有领域均实现了最高的下一项预测准确率。
效率与结构：
- 质量 - 效率权衡：BLUE 在保持与其他基于画像的方法相当的推理时间的同时，实现了最高的质量分数，在质量上优于原始历史，在效率上优于其他画像方法。
- 潜在结构：T-SNE 可视化显示，与基线方法相比，BLUE 诱导的嵌入形成了更紧密的局部簇，且用户组之间的分离更清晰，表明其具有更具判别性且感知偏好的潜在结构。

5. 意义与主张

本文主张 BLUE 提供了一种有效的机制，将文本画像的可解释性与潜在嵌入的判别力统一起来。

互补性：它认为文本画像和潜在嵌入不应被视为相互竞争的表示，而应被视为可以联合优化的互补空间。
实用价值：该方法对于嵌入模型是专有或冻结的场景（例如现成的服务）尤为重要，因为它通过优化输入上下文（即画像）而非模型本身来提升个性化效果。
泛化能力：结果强调，针对下游效用（通过潜在奖励）优化画像，所产生的表示比仅针对语言流畅性或原始历史压缩进行优化的表示具有更好的跨领域泛化能力。
可解释性：生成的画像提供了简洁、人类可读的上下文，既提升了检索性能，也改善了下游生成式个性化任务（如问答）的质量，为黑盒潜在向量提供了一种“白盒”替代方案。

作者总结道，他们的方法弥合了嵌入“强排序、弱推理”特性与文本画像“可解释、难优化”特性之间的鸿沟，为下一代个性化系统提供了稳健的解决方案。