Implicit Reasoning for Large Language Model-based Generative Recommendation
该论文提出了 PauseRec，一种用于基于大语言模型的生成式推荐的轻量级隐式推理范式，它通过避免高昂的理由生成成本，规避了显式推理流水线的局限性，从而以显著降低的训练成本和更快的推理速度实现了卓越的性能。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你拥有一位才华横溢、博学多才的图书管理员（即大语言模型，或称 LLM），他通晓世界万物。你想让这位图书管理员根据你已经读过的书，为你推荐下一本你最喜欢的书。
然而，这里有一个难点：图书馆并不使用真实的图书名称。相反，每本书都由一组奇怪的符号组成的秘密代码（称为语义 ID 或 SIDs）来标识。这位图书管理员以前从未见过这些代码；他只懂得用正常的英语进行思考和交流。
问题所在：“翻译官”失灵了
研究人员尝试教这位图书管理员在猜出下一个秘密代码之前先“大声思考”。他们要求图书管理员写一段英文，解释为什么他们选择了特定的代码（例如：“用户喜欢科幻小说，所以我会选代码 #404”）。这被称为显式推理（Explicit Reasoning）。
研究发现，这种“大声思考”的方法之所以失败，主要有三个原因：
- 图书管理员感到困惑： 当被迫用英文写一段关于这些奇怪代码的文字时，图书管理员实际上遗忘了一些它原本拥有的世界知识。这就像要求一位厨师用一种刚学会的外语来解释食谱；他可能会磕磕绊绊，甚至忘记食材原本的味道。
- 两种不同的语言： 图书管理员的大脑将正常的英文单词与这些秘密代码视为处于两个完全不同的房间。即使经过训练，这个“英文房间”和“代码房间”也无法很好地连接。图书管理员写出了精彩的英文解释，但这并不能真正帮助他选出正确的秘密代码。
- 过于脆弱： 该系统变得极其脆弱。如果图书管理员的“思考”段落中出现了一个微小的拼写错误或漏掉了一个词，整个推荐过程就会失败。这就像一座纸牌屋，只要有人在旁边打个喷嚏，它就会坍塌。
解决方案：“静默暂停”（PAUSEREC）
与其强迫图书管理员写一段冗长且脆弱的英文解释，作者提出了一种名为 PAUSEREC 的新方法。
你可以把它理解为给图书管理员一个静默思考的停顿。
- 它是如何工作的： 在图书管理员猜出下一个秘密代码之前，允许他们插入几个特殊的“暂停”标记（例如
<pause><pause><pause>）。 - 神奇之处： 这些暂停并不是单词。它们就像是图书管理员大脑里的一个“草稿本”。图书管理员利用这个草稿本来进行数学运算，并将用户的历史记录与秘密代码联系起来，而无需先将这些想法转化为笨拙的英文句子。
- 结果： 图书管理员不再浪费精力去写一段可能出错的段落。相反，他们利用“暂停”在内心默默地将自己的知识与秘密代码对齐，然后直接给出答案。
为什么这种方法更好
论文声称，这种新方法在三个方面实现了巨大的升级：
- 更聪明： 它推荐的物品比“大声思考”的方法更准确（准确率提升了高达 6.22%）。
- 更快： 因为图书管理员不需要打出长篇大论的解释，整个过程要快得多（速度提升了高达 71%）。
- 更便宜： 它在训练时需要的计算能力显著降低（节省了高达 65% 的时间和能量）。
简而言之： 论文认为，当处理秘密代码时，强迫聪明的 AI 对其推理过程进行“表达”是一个坏主意。相反，让它通过特殊的暂停标记进行“静默思考”。这样做更快、更便宜，而且效果更好。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。