CRAMER: Control via Request-Aware Masking for Editing Recommenders
本文介绍了 CRAMER，这是一个使序列推荐模型能够通过请求感知掩码（request-aware masking）来调节冻结的骨干参数，从而实现对自然语言用户请求的即时适应，进而以无需重训练或大语言模型计算开销的方式实现高性能与可控性的框架。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在数字时代，推荐系统充当着我们日常生活的隐形策展人，建议下一首该播放的歌曲、下一段该观看的视频或下一件该购买的产品。这些系统通过研究一个人的选择历史，随着时间的推移学习模式，以预测他们接下来可能想要什么。多年来，这些系统中最先进的版本在识别行为的长期趋势方面表现得非常出色。然而，它们在处理一种特定的“人类瞬间”时却显得力不从心：即突然的、自发的改变主意。当用户看到一系列建议并立即想到“其实，我想看点有趣的”或者“不，给我看点严肃的”时，系统往往无法足够快地做出转向。它被困在旧有的方式中，无法在不经历对其整个大脑进行大规模且缓慢重构的情况下，融入这种新的、即时的指令。
这种局限性在“机器根据用户的过去所认为的需求”与“用户当下真正需求”之间制造了一个鸿沟。解决这一问题的传统方法往往显得笨拙。一些方法要求每次用户改变主意时都要从头开始重新训练整个系统，这对于实时使用来说既太慢又太昂atique（昂贵）。另一些方法则依赖庞大而复杂的语言模型来解释请求，这增加了沉重的计算负担，从而降低了服务的速度。核心挑战在于，如何找到一种方法，让用户的自然语言请求能够瞬间引导一个强大的、预训练好的推荐引擎，而不破坏其效率或需要对其进行彻底重建。
一组研究人员推出了一种名为 CRAMER 的新框架，它为这个问题提供了一种不同的处理方式。该研究并不试图重新训练系统，也不试图在现有系统之上添加一层沉重的处理层，而是将用户的文本请求视为一种控制信号，用于临时调整系统的思考方式。想象一下，推荐引擎是一个拥有数百万条内部路径的庞大且冻结的机器。当用户输入类似“我想玩更多刺激的游戏”的请求时，系统并不会重写其代码。相反，它会生成一组临时的“开关”，用来开启或关闭机器的特定部分。这些开关是根据用户输入的词汇含义瞬间生成的，使系统能够在保持其对用户历史深度理解的同时，将注意力转向新的请求。
该方法首先通过将用户的句子转化为其意图的一个简单摘要来实现。这个摘要随后被用于创建一个“稀疏门控”模式——本质上是开或关的二进制开关。这些门控被应用于推荐模型的内部层，特别是针对存储过去偏好记忆的部分以及组合不同信息的部分。通过选择性地阻断或允许信息流经这些门控，系统可以瞬间抑制与用户新请求相矛盾的建议，并放大那些与之相符的建议。这个过程在不到一秒钟的时间内即可完成，所需的额外计算能力极低，并且在处理完请求后，原始模型保持完全不变。
为了测试这个想法在现实世界中是否有效，研究人员将该框架应用于包含数百万次用户交互的四个大型数据集，涵盖了从电影推荐到短视频观看等领域。他们将这种方法与几种试图解决同一问题的最先进技术进行了对比。结果显示，这种新方法始终优于其他方法。无论用户是要求特定的内容（如“浪漫喜剧”），还是试图避开某种类型的内容，它都能更准确地预测用户下一个想要的项。该系统比以往任何方法都更好地平衡了用户的长期习惯与即时欲望，同时几乎没有增加响应延迟。
其中一个最重要的发现是该系统的运行效率。虽然其他使用大型语言模型进行推理的方法增加了显著的时间和内存占用，但这个新框架仅增加了极小的一部分秒数。它证明了你不需要一台庞大、缓慢的计算机来理解用户的快速请求；你只需要一种精确的方式来引导现有系统走向正确的方向。研究人员还发现该系统具有鲁棒性，这意味着即使用户的请求很模糊或使用了不寻常的措辞，它也能很好地工作。它可以解读细微的差别，例如“减少对爱情关注”之类的请求，并据此调整推荐，而不会产生困惑。
研究还探讨了系统在不同条件下的表现，例如当用户的请求非常具体与非常宽泛时。他们发现，该系统可以通过调整激活的内部开关数量，来处理各种各样的请求，从清晰的命令到模糊的暗示。当请求强烈且明确时，系统会做出更锐利的调整；当请求较弱时，调整则更为微妙。这种灵活性表明，该方法可以适应人类语言的复杂性，而无需为每种新型句子进行重新训练。
此外，研究人员还证明了这种方法并不局限于单一类型的推荐引擎。他们在两个广泛使用的、构成现代推荐系统骨干的候选模型上进行了测试，并且在两个模型上都有效。这表明该技术是一种通用的解决方案，可以插入各种现有系统中，赋予它们倾听即时用户反馈的能力。该方法的成功表明，个性化推荐的未来可能不在于构建更大、更复杂的模型，而在于寻找更聪明、更轻量化的方式来控制我们现有的模型。
通过将用户请求视为直接的控制信号而非仅仅是另一种需要分析的数据，这项研究为人类与计算机的交互提供了一种全新的思考方式。它不再认为机器必须通过重新学习来理解新语境，而是展示了机器可以被暂时引导以适应该语境。研究结果表明，我们可以拥有既能深度了解我们的过去，又能对我们当下的需求做出即时响应的推荐系统，从而为那些希望其数字助手能理解其当下需求的消费者，创造一种更加流畅、自然的体验。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。