Atomic Intent Reasoning: Bringing LLM Semantics to Industrial Cross-Domain Recommendations
本文提出了 AIR(原子意图推理),这是一个工业级的跨域推荐框架,通过利用离线大语言模型(LLM)推理和高效的在线检索,弥合了内容与电子商务之间的语义鸿沟,并在快手的实际部署中实现了显著的推理加速和大幅度的 GMV 提升。
原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
想象一下,你有一位非常聪明、但反应极其缓慢且极其昂贵的私人购物顾问,名叫“LLM”。这位顾问非常擅长理解人类的欲望。如果你告诉他:“我刚才看了一个可爱的猫咪视频,然后买了一份猫粮,”他能瞬间推断出:“啊,这个人热爱猫,接下来可能想要一个猫爬架。”
然而,这里有一个问题:这位顾问给出答案需要 8 秒钟。在在线购物的世界里(比如像快手这样的大型 App),你需要的是毫秒级的响应。如果购物顾问太慢,用户早就离开商店了。此外,为每一次用户交互都聘请这样一位顾问,成本将是天文数字。
这篇论文介绍了一个名为 AIR (Atomic Intent Reasoning,原子意图推理) 的新系统来解决这个问题。你可以把 AIR 想象成一位优秀的建筑师兼图书管理员,他在客户到达之前就完成了所有的繁重思考工作,从而让实际的购物过程变得瞬时完成。
以下是 AIR 的运作方式,分为简单的几个步骤:
1. “赛前”准备(离线阶段)
AIR 不会在用户实时访问时去询问那个缓慢的“LLM 购物顾问”,而是在离线状态下(即没人观看的时候)完成所有繁重的思考工作。
- 原子化拆解: 系统会将用户杂乱无章的历史记录(观看视频、点击广告、购买商品等)进行处理,并要求 LLM 将其拆解为微小且清晰的“意图原子”。
- 类比: 系统不会简单地说“我看了猫咪视频,然后看了汽车视频,接着买了猫粮”,而是将其转化为具体的、带有标签的卡片:
[动作:观看] + [对象:猫咪视频] = 意图:爱猫人士。
- 类比: 系统不会简单地说“我看了猫咪视频,然后看了汽车视频,接着买了猫粮”,而是将其转化为具体的、带有标签的卡片:
- 图书馆: 这些“意图卡片”被组织成一个庞大且高度有序的库(一个意图树)并存储起来。这就像是在顾客下单前预先烹饪好食物并将其冷冻,这样当顾客下单时,就不需要从零开始烹饪。
2. “闪电”服务(在线阶段)
当用户真正访问 App 时,系统并不会去调用那个缓慢的 LLM。相反,它表现得像一位动作极快的图书管理员。
- 搜索: 系统会观察用户此时此刻正在做什么(例如,他们正在看一个“羽毛球”拍)。
- 检索: 它会瞬间冲向图书馆,只取出与“羽粉球”相关的“意图卡片”。它会忽略那些无关的信息(比如用户上个月看的猫咪视频,除非它们现在与羽毛球相关)。
- 组装: 它会迅速将这些相关的卡片堆叠在一起,从而勾勒出用户当下的需求全貌。
3. “噪声过滤器”
用户行为数据通常是杂乱且巨大的(就像一个拥有数百万本书籍的图书馆,其中大部分与当前顾客无关)。
- 隐喻: 想象你要在干草堆里找一根特定的针。传统的方法是观察整个干草堆,而 AIR 使用了一块磁铁(目标感知检索/Target-Aware Retrieval),它只吸出“针”(相关的意图),而忽略“干草”(噪声)。
- 这使得系统能够处理海量数据,而不会感到困惑或变慢。
4. 结果:速度与智慧并存
通过将“思考”过程提前,并将“检索”过程变为瞬时,AIR 实现了两个惊人的成就:
- 速度: 它比直接调用 LLM 快了 400 倍。它将时间从 8 秒缩短到了仅 20 毫秒。
- 准确性: 因为它利用了 LLM 的“大脑”来理解行为背后的“含义”(而不只是数字),所以它预测用户想买什么的准确度比旧系统要高得多。
现实世界的证明
作者在快手上测试了该系统,这是一个拥有数亿用户的巨型平台。
- 测试: 他们进行了一项真实的实验(A/B 测试),一半用户使用旧系统,另一半使用 AIR。
- 胜出: 使用 AIR 的用户组为公司带来了 3.4% 的额外收入(GMV)。在大型商业领域,这是一个巨大的胜利。同时,通过利用 LLM 创建的“意图卡片”来推测兴趣,它还帮助解决了那些历史行为较少的用户(即“冷启动”问题)。
总结:
AIR 是一个聪明的策略,它让公司能够使用大语言模型(LLM)这种“超级聪明”的大脑,却无需支付“缓慢且昂贵”的代价。它预先消化了用户数据,将其转化为易于阅读的卡片,因此当用户点击时,系统可以在眨眼之间立刻说出:“我完全知道你想要什么。”
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。