Intent-Driven Semantic ID Generation for Grounded Conversational News Recommendation
本文提出了一种在“先生成后匹配”范式下的意图驱动语义标识生成框架,利用两阶段训练和画像感知双信号推理来克服对话式新闻推荐中的检索瓶颈,实现了零幻觉,并以显著更低的成本取得了优于基于 GPT-4 基线的性能。
原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
想象一下,你有一个像私人助理一样的新闻应用。通常,如果你问“给我看看关于奥运会的新闻”,该应用会在其数据库中搜索包含这些词语的文章。但如果你说一些模糊的话,比如“我无聊了,给我看点不一样的”,或者“我不想再看体育新闻了”呢?或者,如果你是一个从未点击过任何内容的全新用户呢?
传统应用在这里会陷入困境。它们依赖“先搜索”的策略,当你没有具体关键词或点击历史时,这种策略就会失效。本文介绍了一个名为NewsRec-Chat的新系统,它通过“反其道而行之”来解决这个问题。AI 不再搜索答案,而是先构想答案,然后再检查该答案是否存在。
以下是其工作原理,分解为几个简单的概念:
1. 问题:“明日的图书馆”
新闻与电影或产品不同。电影会在目录中留存数年,而新闻文章往往在 24 小时内就会过时。
- “冷启动”问题:如果你是新用户,应用完全不知道你喜欢什么。如果你是老用户却要求“看点不一样的”,应用也不知道对你而言“不一样”意味着什么。
- “隐性意图”陷阱:我们大多数真实的对话都很模糊。我们不会说“我想看一篇关于医疗人工智能的文章”,而是说“给我讲点酷的东西”。由于没有关键词可供搜索,标准搜索引擎无法找到任何内容。
2. 解决方案:“先猜测,后检查”
作者提出了一种名为**“先生成,后匹配”(Generate-then-Match)**的新思维方式。
- 旧方法(先检索):你提出问题 -> 应用搜索其库 -> 如果没找到,它就放弃或随机猜测。
- 新方法(先生成,后匹配):AI 就像一个熟记菜单的厨师。它不会先问 pantry(储藏室)“你有西红柿吗?”,而是先根据你的心情构想一道完美的菜肴(“哦,他们想要点辣的和不一样的”)。它为这道菜创建一张“食谱卡”(语义 ID,Semantic ID)。然后,它检查储藏室,看食材是否真的存在。如果存在,它就端上这道菜;如果不存在,它就尝试稍微不同的食谱。
魔法成分:语义 ID(SID)
把每篇新闻文章想象成不是文本文件,而是一个由数字组成的条形码。
- 条形码的前几位数字代表大类(例如“科技”)。
- 接下来的数字变得更加具体(例如“人工智能”)。
- 最后的数字标识具体的文章。
AI 并不试图写出整篇文章;它只是生成前几位数字,这些数字应该与你的请求相匹配。
3. “智能路由器”(PADR)
该系统拥有一个名为PADR(基于用户画像的双信号推理,Profile-Aware Dual-Signal Reasoning)的特殊大脑,它针对不同类型的用户采取不同的处理方式:
- 常规用户(暖路径):如果你有历史,路由器会查看你昨天点击的内容,并将其与你的用户画像结合,以猜测你接下来想要什么。
- 新用户(冷路径):如果你没有任何历史,路由器不会放弃。它会查看你的用户画像(年龄、地点、声明的兴趣),并利用逻辑来猜测像你这样的人可能会喜欢什么。
- 混合路径:如果你只有少量点击记录,它会结合这两种策略。
4. 他们如何训练 AI
为了教会 AI 做到这一点,他们采用了两步训练过程:
- 学习条形码:首先,他们教导 AI 理解新闻文章与其条形码(语义 ID)之间的关系。
- 学习思考(思维链):他们使用超级智能 AI(GPT-4)来编写“思维过程”,说明如何在不同情境下选择正确的条形码(例如“用户感到无聊,所以选择一个他们尚未见过的类别”)。然后,他们教导自己更小、更快的 AI 去模仿这些思维过程。
5. 结果:快速、准确且诚实
该论文在一个拥有 163,000 篇文章的真实中国新闻平台上测试了该系统。
- 无幻觉:最大的胜利在于,该系统从不推荐不存在的文章。因为它先生成条形码,然后检查该条形码是否存在于当前的新闻池中,所以它在物理上不可能编造虚假故事。
- 优于竞争对手:其表现与使用庞大的 GPT-4 模型结合传统搜索相当(有时甚至更好),但成本却只是其一小部分(便宜约 100 倍)。
- 新用户超能力:对于没有任何历史的新用户,该系统实现了 18% 的成功率,这比随机猜测高出 6 倍,并且显著优于其他任何测试方法。
- 速度:它运行得极快(不到 100 毫秒),感觉是即时的,这要归功于一个“双轨”系统,该系统在 AI 于后台构思新答案的同时,缓存了常见答案。
总结
简而言之,这篇论文提出了一种新闻推荐系统,它不再试图“搜索”答案,而是开始“推理”你可能喜欢什么。通过将新闻文章转化为智能条形码,并采用“先猜测后检查”的策略,它能够处理模糊的请求和新用户,且从不编造虚假新闻,同时运行速度极快且成本极低。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。