🤖 machine learning

Heterogeneous Ranking in Industrial-Scale Recommender Systems: A Case Study

本文展示了一个关于 Google Discover 中异构内容流排序的端到端工业案例研究，引入了用于自适应多任务学习的 HA-MoE 架构以及用于有效管理内容多样性并提升线下指标和线上用户参与度的 LENS 可观测性框架。

原作者： Di Bai, Jintao Liu, Zhenwei Tang, Peifan Wu, Nada Al-Thawr, Luoshu Wang

发布于 2026-07-31

📖 1 分钟阅读☕ 轻松阅读

原作者： Di Bai, Jintao Liu, Zhenwei Tang, Peifan Wu, Nada Al-Thawr, Luoshu Wang

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正走进一座巨大且混乱的图书馆，那里的书架在不断地自我重组。一个书架摆放着严肃的历史书籍，另一个放着搞笑的猫咪视频，第三个是食谱，第四个则是突发新闻。在一个完美的世界里，图书管理员会准确知道你接下来想读什么，无论你是想看个简单的笑话，还是想深入钻研历史。但在现实世界的互联网中，这座“图书馆”就是 Google Discover 信息流，而这位“图书管理员”则是一个被称为推荐系统的计算机程序。

这些计算机图书管理员面临的挑战在于，它们过去是在组织严密、主题单一的图书馆中工作的，比如一个只放音乐或只放短视频的地方。在那些地方，所有事物看起来和表现起来都一样。但 Google Discover 不同；它从整个开放网络中抓取内容。这意味着计算机必须同时决定是要推送一篇长篇文章、一段 10 秒钟的视频、用户的一条个人动态，还是一段 AI 生成的摘要。这就像是要求一位厨师为同一位顾客烹饪完美的牛排、精致的舒芙蕾和辛辣的塔可，同时还要使用同一套食材和工具。如果厨师过于专注于牛排，塔可可能就会被毁掉。这篇论文探讨了一个棘手的问题：如何教一个计算机大脑处理所有这些不同的内容“风味”，而不至于感到困惑，或者偏袒那些最响亮、最热门的内容。

这篇论文的作者是来自 Google 的一个团队，他们面临着一个特定的问题：他们目前的系统就像一个“一刀切”的厨师。它试图用一套统一的规则来对所有内容进行排序，这导致了错误。有时，它会仅仅因为点击量高就推送低质量的标题党文章，同时埋没了人们真正想看的优质视频。为了解决这个问题，他们构建了一个名为 HA-MoE（异质性自适应专家混合模型）的新系统。

把 HA-MoE 想象成不仅仅是一个单一的厨师，而是一个拥有聪明经理和专业厨师团队的繁忙厨房。在旧系统中，一个厨师试图包揽一切。在新的系统中，“经理”（门控网络）会观察订单和食物类型（即内容），并决定哪位专业厨师应该处理它。如果订单是视频，经理会将它交给“视频专家”。如果是文本文章，它会被交给“作家”。至关重要的是，经理并不只是靠猜测；它使用一种特殊的“异质性信号”——一张小纸条，上面写着：“嘿，这是一个视频，请以不同的方式对待它！”这确保了视频专家能够大放异彩，而不会被文章专家所淹没。

但是，你如何知道这个厨房是否运作良好呢？团队意识到，仅仅观察顾客满意的总数是不够的。你可能整体表现很好，但如果视频专家表现不佳，你仍然错失了机会。因此，他们发明了一种衡量成功的新方法，称为 DL-AUC（双层 AUC）。想象一下，不仅根据服务的餐食总数来给厨房评分，还要看视频专家与文章专家的表现相比如何。这个新分数有助于他们发现那些某种类型的内容被不公平忽视的问题。

为了确保系统随着时间的推移保持健康，他们还构建了一个名为 LENS 的工具。这就像是厨房的一副 X 光眼镜。它让工程师们可以窥视计算机的大脑内部，看看哪个“专家”正在做什么。如果系统开始变得懒惰，所有的专家都开始做同样的事情，LENS 会立即察觉。这有助于团队在问题破坏用户体验之前将其修复。

结果非常令人振奋。当他们在海量的真实用户交互数据集上测试这个新系统时，它在对正面行为（如点击和点赞）和负面行为（如忽略帖子）的排序方面，都比旧系统做得更好。它成功地遏制了“多数派偏差”，即在过去，热门的内容类型会压制较少见的内容类型。在针对真实用户的在线测试中，新系统带动了更多人打开应用、向下滚动以及探索更多样化的内容。论文表明，通过明确教导计算机去尊重不同内容类型的差异，而不是强迫它们变得一致，我们可以为每个人构建更智能、更公平、也更有趣的信息流。

技术摘要：工业级推荐系统中的异构排序

1. 问题陈述

本文探讨了 Google Discover 中统一排序面临的挑战。该系统聚合了来自开放网络（如网页文章、长/短视频、用户生成内容、体育卡片和 AI 摘要）的高度异构内容，并将其整合到单一的个性化信息流中。与内容模态和交互模式高度统一的封闭生态系统平台（如仅限音乐或视频的应用）不同，Google Discover 面临两个主要的异构维度：

数据异构性 (Data Heterogeneity)： 内容缺乏统一的特征，导致特征密度、元数据结构以及非对称信号可用性存在差异。
交互异构性 (Interaction Heterogeneity)： 用户参与模式和意图随内容类型而异。例如，虽然“点赞”和“忽略”是通用的，但文章主要驱动点击，而 UGC 和体育卡片则驱动较长的停留时间。

核心挑战：

分布失配 (Distribution Mismatch)： 针对全局指标（如整体 CTR）优化的模型可能会不成比例地偏向占主导地位的低质量内容类型（如标题党文章），从而损害高质量少数类型（如视频）的表现，降低用户体验。
负迁移（跷跷板现象，Negative Transfer / Seesaw Phenomenon）： 在共享表示中联合优化冲突的目标（例如，最大化点击量 vs. 最小化忽略率）通常会导致一个任务的改进对其他任务产生负面影响。
少数类型塌陷 (Minority-Type Collapse)： 共享架构往往倾向于具有丰富特征或高流量的主导内容类型，导致代表性不足的内容类型被“淹没”。

现有的生产基线使用共享的多层感知机 (MLP) 骨干网络配合 11 个特定任务的头部，这迫使单一的潜在表示去服务所有内容类型，未能有效解决上述异构问题。

2. 方法论

作者提出了一个由新模型架构 (HA-MoE)、观测框架 (LENS) 和专门评估指标 (DL-AUC) 组成端到端工作流。

2.1 HA-MoE：异构自适应多门控专家混合模型 (Heterogeneity-Adaptive Multi-gated Mixture-of-Experts)

为了在不违反严格工业约束（模型大小、训练速度和推理延迟）的前提下解决这些挑战，作者引入了 HA-MoE。该架构将显式的异构信号 ( $h$ ) 集成到门控网络和专家表示中。

架构： 它利用了一个基于专家的稠密多任务学习框架，包含 $N$ 个共享专家（前馈网络）。
异构感知门控 (HA-Gating)： 门控机制将异构信号 ( $h$ ) 与稠密特征 ( $x$ ) 结合，以确定每个任务的专家利用情况。这使得模型能够引导特定的专家处理特定的内容片段，保护少数类片段不被忽视。
$g_t(x, h) = \text{Softmax}(W_t \Phi(x, h) + b_t)$
异构驱动线性调制 (HDLM)： 为了将专家容量与特定分布的偏差解耦，每个专家的输出通过源自 $h$ 的缩放因子 ( $\gamma$ ) 和偏移向量 ( $\beta$ ) 进行动态调整。这使得网络能够实现“上下文切换”（例如，从视频的视觉模式转向对已关注创作者的偏好），而无需大规模扩展参数。
$\tilde{E}_n(x, h) = \gamma_n(h) \odot E_n(x) + \beta_n(h)$
优化： 模型使用结合了逐点二元交叉熵 (BCE) 和成对 RankNet 损失的组合损失函数，旨在校准绝对概率的同时保持相对排序。

2.2 LENS：潜在专家网络专业化 (Latent Expert Network Specialization)

为了缓解统一模型“黑盒”性质的问题，作者引入了轻量级观测框架 LENS：

激活切片 (Activation Slicing)： 通过将门控激活切分为“内容-专家”矩阵，可视化模型的内部分工，揭示不同专家如何专注于不同的内容类型。
排列不变专家匹配 (PIEM)： 由于 MoE 专家的排列是不变的，直接进行参数比较是不可行的。PIEM 通过行为剖析向量（跨任务的相对贡献）来刻画每个专家，并使用匈牙利算法在模型快照之间寻找最优的一对一匹配。它通过计算基于 Jensen-Shannon 散度 (JSD) 的得分，来追踪功能稳定性并检测持续重训过程中的“功能性塌陷”（即专业化能力的丧失）。

2.3 DL-AUC：双层 AUC (Dual-Level AUC)

标准的全局 AUC 可能会掩盖结构性失效，即模型在提升多数类细分领域得分的同时，却抑制了少数类细分领域的表现。作者提出了 DL-AUC 来平衡全局效用与跨细分领域的正确性：
$\text{DL-AUC} = \lambda \cdot \text{Micro-AUC} + (1 - \lambda) \cdot \text{Macro-xAUC}$

Micro-AUC： 在经验流量分布下衡量全局排序质量。
Macro-xAUC： 所有内容片段对之间 xAUC 的非加权平均值。这确保了来自少数类细分领域（如视频）的正样本能被正确地排在来自多数类细分领域（如网页文章）的负样本之上，防止了多数类主导。

3. 核心贡献

HA-MoE 架构： 一种生产就绪的、异构自适应的 MoE 设计，通过将内容上下文显式注入门控和专家层，实现了有效的专业化，且无需显著的运营开销（模型大小增加 <5%，延迟增加 <0.5%）。
LENS 框架： 一种新型的可观测性工具，能够“拆解”内部模型动态，允许工程师解释专家专业化程度，并通过 PIEM 量化追踪持续训练周期中的功能异构性。
DL-AUC 指标： 一种具备异构感知能力的评估指标，防止部署那些以牺牲生态系统健康为代价来换取全局增益的模型（即保证跨细分领域的正确性）。

4. 结果

离线评估

性能： 在大规模工业数据集（1000 万样本）上，HA-MoE 实现了最高的聚合 DL-AUC（pInterest 为 0.691，pDisinterest 为 0.949），优于 Shared MLP 基线和标准 MMoE。
消融实验： HA-Gating 和 HDLM 组件均对增益有所贡献。完整模型成功扭转了基线模型中出现的负迁移现象，在保持正向收益的同时，改善了负向参与度（pDisinterest）的预测。
跨类型修正： HA-MoE 显著缩小了网页文章与视频之间的排序差距。跨类型 xAUC（Vid+ vs. Web−）的差距从 0.141（Shared MLP）降至 0.060（HA-MoE），证明了模型防止低质量文章压制高质量视频的能力。

在线 A/B 测试

在 Google Discover（数亿日活用户）的 1% 实时流量中部署后，HA-MoE 模型显示出显著的提升：

信息流活跃度： DAU +0.22%，观看曝光量 (Viewed Impressions) +0.48%。
探索性： 滚动深度 +0.34%，多样化信息流率 +0.36%，多样化参与率 +0.54%。
稳定性： 未观察到核心运营指标的退化。结果验证了改进异构排序能转化为切实的生态系统健康收益。

5. 意义与主张

本文的主张是提供了一个生产案例研究，验证了在统一排序系统中显式建模异构性的有效性。其意义在于：

工业可扩展性： 证明了在严格的生产约束（延迟、存储、训练速度）下，可以实现复杂的异构自适应，从而超越了理论提议，走向了部署现实。
生态系统健康： 证明了通过 DL-AUC 和 HA-MoE 平衡全局效用与跨细分领域的正确性，可以防止通常会降低开放网络信息流体验的“多数类偏差”。
运营透明度： 将 LENS 确立为维护持续训练流水线中结构稳定性的关键工具，确保模型更新不会无意中导致功能专业化的塌陷。

作者总结道，尽管在大规模场景下管理异构性仍是一个不断演进的挑战，但他们的方法为工业级推荐系统提供了一个稳健的设计模式，弥合了统一建模与开放网络多样化现实之间的鸿沟。未来的工作重点在于更具表达力的门控、稀疏路由，以及将异构建模扩展到用户级上下文和列表级优化。