📊 statistics

Causal Representation Learning for Generalisable Recommendation

本文提出了一种实用的因果表示学习方法，该方法利用信息论解耦准则，仅借助现有的混杂日志即可提升推荐系统的分布外泛化能力，这一主张在大规模 Spotify A/B 测试中通过显著的在线参与度提升得到了验证，并在公开基准和合成基准上得到了进一步证实。

原作者： Yorgos Felekis, Michael O'Riordan, Oriol Corcoll, Ciarán M. Gilligan-Lee

发布于 2026-05-27

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Yorgos Felekis, Michael O'Riordan, Oriol Corcoll, Ciarán M. Gilligan-Lee

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正在训练一个音乐推荐 AI 为你挑选歌曲。你向它输入了数百万条人们过去点击记录的数据。问题在于，这些过去的点击并非对全球所有音乐的随机采样。它们是经过过滤的列表，既包含了旧AI 决定向人们展示的内容，也混杂了人们当时恰好喜欢的内容。

这就像试图找出镇上最好的披萨，但你只能尝到送货员恰好送到你家门口的那些切片。如果送货员总是因为觉得你喜欢而给你送意大利辣香肠披萨，你可能会开始认为意大利辣香肠是唯一好吃的披萨，即使如果你有机会看到蔬菜披萨，你其实也会非常喜欢它。

这篇题为《用于可泛化推荐的因果表示学习》（"Causal Representation Learning for Generalisable Recommendation"）的论文，正是为了解决这一确切问题。作者与 Spotify 合作，提出了一种训练推荐系统的新方法，使其不会被这些“送货员”式的偏差所迷惑。

以下是使用简单类比进行的拆解：

问题：虚假信号

在数据世界中，存在两类线索：

真实原因：某人喜欢一首歌的实际原因（例如，他们热爱爵士乐）。
虚假信号：看起来像原因但实际并非如此的相关性（例如，这首歌被播放是因为用户身处某个特定城市，而旧算法恰好在那里推送了爵士乐）。

标准的 AI 模型就像考试作弊的学生。它们死记硬背“虚假信号”（作弊条），因为这有助于它们在练习考试（训练数据）中获得高分。但当它们参加真正的考试（拥有新用户的实时应用）时，它们会失败，因为作弊条不再适用。

解决方案：因果解缠器

作者提出了一种名为因果表示学习（CRL）的方法。将他们的方法想象成一个因果解缠器。

他们希望 AI 学习歌曲的“纯净”表示。这个纯净版本应仅包含真正导致用户点击的信息（即“真实原因”）。它必须主动丢弃“虚假信号”（即偏差）。

为此，他们为 AI 制定了一条新规则，称为解缠准则。你可以将这条规则想象成一位严格的老师给 AI 下达的两项指令：

要有用：“你必须仍然能够预测用户是否会点击。”（保留好的部分）
要独立：“但你必须不能仅通过观察歌曲就猜出用户的背景或旧算法的偏差。”（丢弃坏的部分）

如果 AI 试图利用“作弊条”（虚假信号）进行预测，这条规则就会惩罚它。AI 会明白，获得高分的唯一途径是理解人们喜欢音乐的真实原因，而不是那些偶然出现的模式。

他们如何证明其有效性

这篇论文并非凭空猜测；他们在三个不同的“竞技场”中进行了测试：

模拟（实验室）：他们构建了一个计算机模拟的虚假世界，在那里他们确切知道哪些线索是真实的，哪些是伪造的。“因果解缠器”AI 成功忽略了虚假线索，仅使用真实线索，而普通 AI 则被虚假线索搞糊涂了。
公开数据集（教室）：他们使用了一个名为KuaiRand的公开数据集。该数据集包含两部分：一部分具有严重偏差（就像旧的送货员），另一部分是随机的（就像公平的口味测试）。新方法在偏差数据上的表现与旧方法相当，但在公平、随机的数据上测试时，其表现要好得多。这证明了 AI 学到了真实的规则，而不仅仅是偏差。
现实世界（体育场）：这是最重要的一项。他们在拥有数百万真实用户的Spotify上进行了测试。他们进行了一项实时实验（A/B 测试），一半用户使用旧 AI，另一半用户使用新的“因果解缠器”AI。
- 结果：新 AI 不仅在纸面上表现良好，实际上还让人们听了更多的音乐，跳过的歌曲更少。它实现了流媒体播放量增加 0.75%和收听时长增加 0.50%。

关键要点

最重要的发现是，仅凭推荐系统在其训练数据上的表现，无法判断该系统是否“失效”。

这就像一个死记硬背特定练习测试答案的学生。他们在练习测试中得了 100 分，但这并不意味着他们理解了该学科。该论文表明，标准指标往往会撒谎。唯一能知道系统是否真正聪明的方法，是观察它如何处理新情况，即那些旧偏差不存在的情况。

通过使用这种“因果解缠器”方法，AI 学会了忽略噪音并专注于信号，使其在接触现实世界时更加稳健和有效。

它不做什么

该论文非常具体地说明了该方法不是什么：

它不试图猜测如果用户看到了不同的歌曲，他们本来会点击什么（没有“如果……会怎样”的情景）。
它不需要公司运行昂贵、随机的实验来获取数据。它利用他们已有的杂乱、有偏差的日志即可工作。
它不需要 AI 理解用户喜欢爵士乐的深层、隐藏的“物理”原理。它只需要将真实原因与虚假原因区分开来，以做出更好的预测。

简而言之，这篇论文教导 AI 停止通过死记硬背偏差模式来作弊，转而学习人们做出选择的实际原因。

技术摘要：面向泛化推荐的可解释因果表征学习

问题陈述
推荐系统中的预测模型面临一个根本性的泛化差距：它们是在受部署策略、过去用户行为以及平台过滤混淆的观测交互日志上进行训练的。这种现象被称为曝光偏差（exposure bias），导致训练数据（其中物品由特定策略选择）与服务端候选集（范围更广且分布不同）之间出现分布偏移。因此，离线指标往往无法预测在线表现。虽然因果表征学习（CRL）通过针对因果机制提供了一种原则性解决方案，但经典 CRL 需要强假设（例如干预数据、多环境或已知锚定变量），而这些在观测性推荐日志中很少满足。现有的推荐 CRL 方法通常依赖复杂的机制，如标注的对比对或特定的偏差机制，限制了其实用性。

方法论
作者提出了一种受 CRL 启发的方法，旨在无需完全识别潜在因果因子或干预数据的情况下，实现分布偏移下的泛化。该方法基于结构因果模型（SCM），其中观测到的处理变量 $T$ （一个物品）是潜在因果分量 $T_C$ 和非因果分量 $T_{nC}$ 的纠缠混合体。非因果分量产生了一个虚假的后门路径 $T \leftarrow T_{nC} \leftarrow Z \rightarrow Y$ （其中 $Z$ 是观测到的混淆因子，例如用户特征， $Y$ 是结果）。

该方法的核心是一个新的解耦准则，这是一个信息论目标，旨在学习一个表示 $g(T)$ ，使其：

最大化效用：保留在给定混淆因子 $Z$ 下对结果 $Y$ 具有预测性的信息（ $I(g(T); Y | Z)$ ）。
最小化对混淆因子的依赖：惩罚与混淆因子 $Z$ 共享的、但对预测 $Y$ 非必需的信息（ $I(g(T); Z)$ ）。

目标函数定义为：
$J(g) = I(g(T); Y | Z) - \lambda I(g(T); Z)$
其中 $\lambda \geq 0$ 控制权衡。

理论保证
论文证明，在特定的结构假设下（即给定混淆因子后，结果仅通过因果潜在变量依赖于处理变量，且非因果潜在变量保留关于混淆因子的独特虚假泄露）：

该准则下的最优表示会丢弃非因果信息，同时保留因果内容。
存在一个“无损区间”，对于足够小的 $\lambda$ ，只要压缩带来的惩罚减少不超过效用损失，最优表示就能在不压缩的情况下保留完整的因果分量 $T_C$ 。

可处理的实现
由于互信息项在有限数据下是不可处理的，作者推导了一个用于优化的变分下界：

效用项：使用 InfoNCE 估计器的下界进行近似（等同于标准的批内交叉熵排序损失）。
惩罚项：使用 NCE-CLUB 估计器的上界进行近似，通过对抗性判别网络实现，该网络被训练以区分联合样本 $(g(T), Z)$ 与独立样本。
优化：最终目标是对标准监督模型的直接修改，增加了一个互信息惩罚项。它不需要随机化数据，不需要倾向性得分，且不增加推理时的成本。

主要贡献

解耦准则：一个新的信息论目标，被证明在总体层面上倾向于保留因果内容并丢弃依赖于混淆因子的非因果信息的表示。
可处理的变分界：一种推导方法，使得仅使用标准深度学习组件（InfoNCE 和 NCE-CLUB）即可从有限的观测数据中优化该准则。
可部署方案：一种修改任何标准监督模型以提高分布偏移下鲁棒性的方法，仅需现有的混淆日志。
实证验证：在三个尺度上进行了验证：合成 SCM、KuaiRand 基准测试以及 Spotify 上的在线 A/B 测试。

结果

合成 SCM：该方法成功分离了因果分量，显示出接近零的干预敏感性（对非因果变化具有不变性），同时保持了与基线相当的可预测准确性（MAE）。
KuaiRand 基准测试：在一个具有已知分布偏移（算法曝光与随机曝光）的真实世界数据集上，CRL 变体在偏差训练分布上（分布内 AUC）与基线持平，但在保留的随机曝光分割（无混淆分布）上显著优于基线。这证明了“有效的鲁棒性”。
Spotify A/B 测试：在拥有数百万用户用于个性化歌单生成的生产环境中，一个容量匹配的 CRL 变体在离线指标上与生产基线表现相当，但带来了显著的在线收益：+0.75% 的曲目播放量、+0.50% 的播放时长，以及**-0.61% 的曲目跳过率**（均在 95% 置信度下显著）。

意义与主张
论文主张，基于训练分布的标准离线评估通常无法提供关于模型泛化到服务端分布能力的信息。所提出的方法通过直接抑制虚假相关性，解决了曝光偏差这一特定的失效模式。其意义在于，该方法实现了鲁棒性和在线收益，而无需传统 CRL 的繁重要求（例如干预数据或复杂的因果图识别）。结果表明，在标准监督模型中添加因果解耦目标，可以有意义地改善生产推荐系统中的分布外泛化能力，弥合离线指标与在线表现之间的差距。作者指出了局限性，包括无法在真实数据上实证验证结构假设，以及当前评估仅限于单一产品界面。