← 最新论文
💻 computer science

FedCGR: Federated Cross-Domain Generative Recommendation

FedCGR 是一个联邦跨域生成式推荐框架,它通过将物品表示为源自公共元数据的离散语义 ID,从而克服了数据隐私和稀疏性限制,进而通过共享词表实现跨域对齐,同时利用可靠性感知接口和原型个性化聚合来有效地整合局部协同信号并减轻负迁移。

原作者: Zhuodong Liu, Hugen Lv, Xiangyu Li, Bohan Guo, Peiyu Hu

发布于 2026-08-12
📖 1 分钟阅读☕ 轻松阅读

原作者: Zhuodong Liu, Hugen Lv, Xiangyu Li, Bohan Guo, Peiyu Hu

原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明

想象一下,你正试图构建一个超级智能的推荐引擎,就像那种会向你推荐下一部心仪电影或歌曲的系统。通常,这类引擎需要看到你点击过的所有内容才能学习你的品味。但在现实世界中,你的数据散落在不同的应用和公司中,隐私法(以及常识)意味着没有人可以就这样把你的私人历史与陌生人的数据进行交换。这产生了一个谜题:如何在从未真正看到他们私人清单的情况下,教会系统理解“喜欢辣味食物”的人可能也会“喜欢辣味音乐”?

这就是联邦学习(在不共享原始数据的情况下共同训练模型)和跨域推荐(利用一个领域的知识来辅助另一个领域)所面临的挑战。这篇论文探讨了一个特定且棘手的版本:如果每个领域用来描述物品的“语言”都不一样,该怎么办?这就像是试图把一位法国厨师的食谱翻译给一位日本厨师,而他们对“盐”和“热度”的表达方式完全不同。作者提出了一种解决此问题的新方法:通过创建一个大家公认的、共享且稳定的字典,同时仍让每位厨师保留其私家秘方。

问题所在:“翻译丢失”的困境

在推荐系统的世界里,计算机通常试图通过观察用户行为中的模式来进行学习。但当你将这种学习分散在不同的公司之间时(联邦学习),情况就会变得混乱。通常,为了连接两个不同的世界(比如“杂货”和“运动”),系统需要找到共同点,比如在两处都有购物行为的用户。但在一个注重隐私的设定下,这些重叠的用户非常稀少或处于隐藏状态。

以往试图修复这一问题的尝试,通常是试图强行对齐不同领域的内部“想法”(嵌入/embeddings)。但作者认为,这就像是通过眯起眼睛看两张不同的地图,试图让它们看起来相似——这种做法很脆弱,而且经常会导致混乱。如果“地图”稍有差异,推荐结果就会变得支离破碎。

解决方案:一个共享的“秘密代码”

作者朱东刘(Zhuodong Liu)及其团队引入了 FedCGR(联邦跨域生成式推荐)。他们的核心构想是:不再试图去对齐那些混乱且私密的“想法”,而是先达成一个共享且稳定的语言

想象一下,世界上每件产品(一个烤面包机、一双跑鞋、一袋咖啡豆)都被赋予了一个由字母组成的独特短码,就像条形码一样。这个代码是根据物品的公开描述(标题、类别和特征)生成的,而不是根据谁购买了它。这被称为语义 ID(Semantic ID, SID)

  • 神奇之处在于: 因为代码是基于公开文本生成的,所以“杂货店”里的“烤面包机”和“厨房用品店”里的“烤面包机”会获得完全相同的代码。这创造了一个所有人都能达成共识的通用字典,而无需任何人分享他们私人的购物清单。

FedCGR 如何运作:“信任并验证”系统

现在既然大家都说同一种代码语言了,团队还需要解决两个新问题:

  1. “静态字典”问题: 由于字典(代码)为了保持一致性是固定的,系统无法从字典本身学习新的“细微差别”。它需要一种添加“局部风味”的方法。
  2. “翻译错误”问题: 如果你盲目地将所有领域的训练数据混合在一起(一种被称为 FedAvg 的标准方法),不同领域之间的差异(如“运动”与“美容”)可能会干扰模型,使其效果甚至不如单独学习。这被称为负迁移(negative transfer)

FedCGR 通过两个聪明的技巧解决了这些问题:

1. “可靠性感知”注入
把固定的 SID 代码看作是物品的“骨架”。但骨架并不能告诉你用户是否真的喜欢这个物品。为了添加“血肉”,每个本地计算机(客户端)会根据自己的私有数据添加一个小提示。

  • 然而,并非所有的提示都是好的。如果一个物品非常受欢迎,提示就很强;如果它是一个很奇怪、很少被购买的物品,提示可能就会带有噪声。
  • FedCGR 使用了一个置信度门控(confidence gate)。它会询问:“这个本地提示可靠吗?”如果该物品在本地很受欢迎,提示就会被允许进入;如果它很冷门,提示就会被减弱。这确保了系统只在数据可靠时才使用本地数据,防止“噪声”破坏共享模型。

2. “个性化团队”(原型聚合)
FedC根据不强迫所有领域都达成一个单一的“平均”模型,FedCGR 表现得像一个聪明的团队领导。

  • 它会观察每个领域的“个性”(一个数学上的总结,称为原型/prototype)。
  • 如果“杂货”领域与“厨房”领域非常相似,系统就会大量融合两者的知识。
  • 如果“杂货”与“运动”差异巨大,系统则会保持它们的知识独立,仅分享那些真正通用的部分。
  • 这就像一个学习小组:来自相似专业(生物学和化学)的学生会深入交换笔记,而艺术史专业的学生则只分享通用的学习技巧,从而保护了其特定的艺术知识不被泄露。

研究发现

团队利用真实的亚马逊数据(混合了食品、厨房、美容、运动和杂货等领域)在六种不同的场景下对 FedCGR 进行了测试。

  • 效果更好: FedCGR 始终优于其他联邦学习方法。在最混乱、混合程度最高的情景下(即领域差异巨大的情况下),与标准方法相比,它将推荐准确度提高了近 20%
  • 处理冷启动: 对于几乎没有历史记录的新用户(即“冷启动”问题),共享的 SID 语言提供了一个坚实的基础,即使在数据很少的情况下,也能帮助系统做出准确的预测。
  • 权衡取舍: 该系统确实需要更多的计算机间通信(每轮传输的数据量增加了约 18%),因为它需要发送这些个性化的摘要。然而,由于它学习得更快且能避免错误,它实际上能以更少的总通信量达成目标。

总结

FedCGR 表明,你不需要以牺牲隐私为代价来获取智能推荐。通过对物品达成一个稳定且公开的“代码”共识,并仅在本地数据可靠时才谨慎地融入局部知识,你可以构建一个既能向所有人学习,又能让每个人都守住秘密的系统。它将一个混乱且受隐私限制的问题,转化成了一场干净、协作的游戏——在这里,每个人都说着同一种语言,但各自保留着自己的秘密。

您所在领域的论文太多了?

获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。

试用 Digest →