🤖 AI

HiGR: Industrial-Scale Hierarchical Generative Slate Recommendation Framework in Tencent

本文介绍了 HiGR，一种用于序列推荐（slate recommendation）的工业级层级生成框架，该框架通过利用基于 PCRQ-VAE 的结构化 SID 空间、用于高效规划的粗粒度层级序列解码器（Hierarchical Slate Decoder）以及基于 ORPO 的对齐机制，解决了现有方法的局限性，从而在腾讯平台的推荐质量、推理速度和实际用户参与度方面取得了显著提升。

原作者： Yunsheng Pang, Zijian Liu, Yudong Li, Shaojie Zhu, Zijian Luo, Chenyun Yu, Sikai Wu, Shichen Shen, Cong Xu, Bin Wang, Kai Jiang, Chengxiang Zhuo, Zang Li

发布于 2026-06-12

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Yunsheng Pang, Zijian Liu, Yudong Li, Shaojie Zhu, Zijian Luo, Chenyun Yu, Sikai Wu, Shichen Shen, Cong Xu, Bin Wang, Kai Jiang, Chengxiang Zhuo, Zang Li

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下你是一位日报编辑。你的工作不仅仅是挑选出单篇最好的新闻放在头版，而是要策划整个头版（即一个“列表”）。

挑战在于：如果你只是单纯挑选出前 10 个最热门的故事，你可能会得到 10 个关于同一个名人的故事，或者 10 个关于同一种类型的犯罪故事。读者会感到厌倦，或者感觉自己陷入了“信息茧房”。你需要一种组合：一点政治，一点体育，一点人文关怀，并进行合理的编排，让读者忍不住不断翻页。

这正是 HiGR 为腾讯新闻和视频平台等应用解决的问题。它是一种全新的“AI 编辑”，它不只是逐个挑选项目，而是同时规划整个页面。

以下是 HiGR 的工作原理，通过三个简单的步骤使用类比进行拆解：

1. 有序书籍的图书馆 (PCRQ-VAE)

在 AI 开始编写列表之前，它需要一种理解每个项目（视频、新闻文章、小说）主题的方法。

旧方法： 想象一个每本书都贴着随机数字标签的图书馆。如果你想找“科幻类”，你必须检查每一本书看数字是否匹配。这既混乱又低效。
HiGR 的方式： HiGR 构建了一个智能图书馆。它为每本书分配了一个特殊的代码（“语义 ID”），这个代码就像是一个层级化的地址。
- 代码的第一部分告诉你是类型（例如：“科幻”）。
- 第二部分告诉你是子类型（例如：“太空歌剧”）。
- 最后一部分标识的是具体的书。
神奇之处： HiGR 使用一种特殊的训练方法（称为 Prefix-Contrastive RQ-VAE），以确保所有“太空歌剧”类的书都共享其代码的第一部分。这使得 AI 可以轻松实现“我需要一部太空歌剧”的需求，而无需搜索整个图书馆。

2. 两步走的建筑师 (Hierarchical Slate Decoder)

现在，AI 需要构建头版。

旧方法（缓慢的建造者）： 想象一个建造者必须一块砖一块砖地铺设，才能盖好一栋房子。如果他在第一块砖上出了错，他就必须拆掉整面墙重新开始。这很慢，而且会让建造者对整体形状感到困惑。
HiGR 的方式（建筑师 + 泥瓦匠）： HiGR 将工作分成了两个角色：
1. 建筑师（粗粒度规划者）： 首先，建筑师观察用户并说：“好的，对于这个人，头版需要：1. 一个体育故事，2. 一个科技故事，3. 一个烹饪故事。”他们此时还不挑选具体的素材，只是规划页面的基调和结构。这很快，且能确保页面的平衡感。
2. 泥瓦匠（细粒度生成器）： 一旦建筑师说“我们需要一个体育故事”，泥瓦匠就会迅速找到最合适的特定体育故事来填补这个位置。
结果： 因为建筑师先规划了整体布局，所以 AI 不会陷入细节中无法自拔。它的构建速度快得多（快了 5 倍！），同时保持了完美的结构。

3. 编辑的评判 (ORPO Preference Alignment)

最后，AI 需要学习如何制作一个“好”的头版，而不只是一个“技术上正确”的头版。

问题所在： 如果你只教 AI 预测“下一个词”，它可能会写出一个语法完美但枯燥乏味的句子。同样，AI 可能会挑选出 10 个虽然都很热门但重复性极高的项目。
HiGR 的解决方案： HiGR 使用了一种名为 ORPO（Odds Ratio Preference Optimization，胜率偏好优化）的技术。你可以把它想象成一位严厉的编辑，负责评审两个版本的头版：
- 版本 A（优胜者）： 一个用户真正观看、喜欢并读完的页面。
- 版本 B（失败者）： 一个被随机打乱、内容枯燥或过于重复的页面。
教训： AI 通过对比这两个版本进行学习。它明白一个好的页面不仅仅关乎“流行度”，更关乎排序（把最好的内容放在前面）、真实兴趣（挑选用户真正喜欢的）以及多样性（确保页面不会全是同类内容）。

现实世界的影响力

论文报告显示，该系统已在腾讯平台上线，服务于数亿用户。

速度： 它比以往的方法快 5 倍，这意味着用户无需等待信息流加载。
质量： 在现实测试中，它使用户的视频观看时长增加了 1.22%，视频播放量增加了 1.73%。
规模： 它能够处理海量数据而不会崩溃，证明了这种“建筑师 + 泥瓦匠”的方法在工业级推荐规模下的有效性。

简而言之： HiGR 停止了尝试逐个挑选项目的做法。相反，它首先为整个列表绘制一个平衡且多样化的蓝图，然后快速填充细节，从而确保用户获得个性化、引人入胜且不重复的体验。

技术摘要：HiGR —— 工业级层级化生成式列表推荐框架

1. 问题陈述

列表推荐（Slate Recommendation）是指向用户展示一个排序后的项目列表，这对于视频流和新闻聚合器等平台至关重要。虽然近期使用语义 ID（Semantic IDs, SIDs）的生成式推荐方法展现出了潜力，但将这些方法直接应用于工业级规模的列表推荐时，面临着三个根本性的脱节问题：

纠缠的 SID 空间： 现有的语义 ID 方法生成的代码空间中，前缀往往无法可靠地捕捉共享语义。这种“纠缠”现象干扰了高层级的列表规划，使得引导相关性和多样性变得困难。
低效的自回归解码： 生成一个包含 $M$ 个项目的列表需要解码 $M \times D$ 个 token（其中 $D$ 是每个项目的 SID token 数量）。全序列自回归束搜索（Beam Search）会引入显著的延迟，并将项目内的语义与项目间的转换纠缠在一起，从而掩盖了全局列表结构。
目标不一致： 标准的 token 级似然训练并不能直接优化整体列表质量。现实世界的平台需要同时优化多个列表级目标：排序保真度、真实的兴趣以及列表内多样性。

2. 方法论：HiGR 框架

HiGR（层级化生成式推荐）通过一个由三个紧密耦合的组件组成的协同设计流水线来解决这些挑战：

A. 前缀对比残差量化 VAE (PCRQ-VAE)

为了创建一个可用于规划的可控离散空间，HiGR 使用改进的残差量化 VAE 来学习结构化 SIDs。

全局量化： 不同于优化各层独立的标准 RQ-VAE，PCRQ-VAE 引入了全局量化目标。这使得聚合后的量化表示与原始潜在嵌入保持一致，在代码本层之间保留了信息丰富的残差，并防止了残差消失。
前缀级对比对齐： 为了注入语义和协同信号，模型对前 $D-1$ 层代码本层（即前缀）应用对比学习（InfoNCE 损失）。这迫使语义或协同相似的项目共享高层级的 SID 前缀，同时将最后一层代码本层留作精细化的项目辨识。

B. 层级化列表解码器 (HSD)

HSD 将生成过程从 token 级解码转变为由粗到精的层级化方法，以降低延迟并实现全局规划。

粗粒度列表规划器： 规划器不再顺序解码 $M \times D$ 个 token，而是首先生成 $M$ 个“偏好嵌入（Preference Embeddings）”。每个嵌入代表了列表中特定位置的预期语义。此阶段对列表的全局结构进行建模。
细粒度项目生成器： 一个轻量级的生成器随后解码每个项目的 $D$ 个 token 的 SID 序列，并以其对应的偏好嵌入为条件。
效率： 通过将昂贵的束搜索限制在短小的、以项目为条件的解码过程中（而非完整的列表序列），HSD 在保持全局结构的同时，显著降低了推理延迟。
多样性正则化： 规划器包含一个列表内多样性（ILD）项，用于最小化规划的偏好嵌入之间的成对相似度，从而在无需事后估计的情况下鼓励多样化列表。

C. 列表级偏好对齐 (ORPO)

为了弥合 token 生成与用户体验之间的差距，HiGR 使用基于几率比偏好优化（ORPO）的列表级多目标对齐机制。

三目标优化： 模型针对三个互补的目标进行优化：
1. 排序保真度 (O1)： 确保排序符合用户参与度。
2. 真实用户兴趣 (O2)： 通过关注具有正向反馈的项目，过滤掉曝光噪声。
3. 列表多样性 (O3)： 防止重复推荐和“信息茧房”。
偏好对构建： 正向列表通过重排的用户参与序列构建。负向列表通过排列顺序、用负反馈项目替换项目或添加语义相似的项目来生成，以测试多样性约束。
无参考性： ORPO 被用作一种无参考方法，以降低计算成本并减轻目标漂移，直接将模型与关键业务指标对齐。

3. 核心贡献

HiGR 框架： 一个端到端的生成式列表推荐框架，统一了结构化 token 化、高效层级化生成和列表级偏好对齐。
PCRQ-VAE： 一种新型 token 化方法，通过强制执行前缀级对比对齐，创建了结构化的 SID 空间，使高层前缀能可靠地编码语义，从而促进可控规划。
层级化列表解码器 (HSD)： 一种两阶段解码架构，将全局列表规划与项目生成解耦，实现了相比基准模型 5 倍的推理加速，同时保持了质量。
三目标 ORPO： 一种列表级对齐机制，无需辅助参考模型即可联合优化排序、兴趣和多样性。

4. 实验结果

离线性能

质量： 在大规模工业级腾讯数据集和公开的 KuaiRec 数据集上，HiGR 在推荐质量指标（NDCG@5, Hit Rate, Recall）上超过了最先进的基准模型（包括 ListCVAE, SASRec, TIGER, HSTU 和 OneRec）超过 10%。
消融实验：
- 移除 PCRQ-VAE 中的前缀级对比约束会显著增加 SID 碰撞率（从 ~2.4% 升至 ~8.7%），证实了结构化前缀的必要性。
- 移除列表内多样性（ILD）正则化会降低多样性指标，而移除上下文嵌入则会导致性能显著下降。
- 同时优化所有三个目标（排序、兴趣、多样性）可获得最佳整体性能，证明了准确性和多样性是互补的。
缩放法则（Scaling Laws）： 跨不同模型规模（0.05B 到 2B 参数）的实验揭示了模型容量与性能之间清晰的幂律关系，表明通过扩展规模可以获得可预测的收益。

效率

延迟： 与 OneRec（一个强大的生成式基准）相比，HiGR 实现了 5 倍的推理加速，同时保持了更高的准确度。
资源使用： 在在线部署中，HiGR 与 OneRec 相比减少了约 60% 的 GPU 需求，同时将 P99 延迟保持在 50ms 以下。

在线 A/B 测试

HiGR 已部署在腾讯多个平台表面（新闻、视频、网络小说），服务于数亿用户，展示了显著的实际效果提升：

观看时长： +1.22%
视频播放量： +1.73%
停留时长： +1.03%
请求数： +1.57%

5. 重要性与主张

本文主张 HiGR 成功弥合了工业环境下项目级生成与整体列表优化之间的脱节。通过引入结构化 SID 空间和层级化解码机制，它解决了现有生成式推荐器的效率和可控性瓶颈。该框架证明了生成式建模可以扩展到工业规模，既能提供卓越的推荐质量，又能实现显著的计算效率。在腾讯平台上的成功部署验证了其在满足数亿用户复杂、多目标推荐需求方面的适用性。