Why This, Not That? Mining User Profiles for Pair-wise Counterfactuals
本文提出了一种基于推荐算法逻辑的新型成对项目排序解释任务，利用反事实学习来识别决定为何一个项目比另一个项目排名更高的特定用户画像项目。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
我们生活在一个机器不断向我们建议该看什么、读什么或买什么的时代。几十年来，研究人员一直致力于回答一个简单的问题：“为什么系统向我推荐了这部特定的电影？”他们开发出了解释这种单一选择的方法，通常是通过指向用户喜欢的某个特征，例如喜爱的演员或偏好的类型。然而，人类的决策很少在真空中发生。当我们从多个选项中做出选择时，我们往往是在对它们进行横向比较。我们会问：“为什么我选了这部电影而不是那部？”这种比较性的问题是理解我们自身偏好的一种基本方式，但在推荐系统的设计者那里，它受到的关注却少得多。理解两个选项之间的差异，往往比孤立地理解单个选择更具启发性，因为它突显了促使天平倾斜的具体因素。
一个研究小组致力于解决这一问题，他们开发了一种新方法，用以解释为什么推荐系统将一个项目排在另一个项目之前。他们通过提出一个“如果……会怎样”的问题来开展这项任务：用户的历史记录需要发生什么变化，系统才会交换这两个项目的排序？这种被称为“反事实推理”的方法，旨在寻找逆转决策所需的最小变化集。在电影推荐的情境下，研究人员想要识别出用户之前观看过的哪些特定影片，导致系统更青睐一部科幻经典而非一部历史史诗片。如果将这些特定的既往观看记录从用户的历史中移除，系统理论上应该先推荐那部历史史诗片。其目标是找到那一组最小且最精确的既往项目，如果将其抹除，就会翻转排名。
为了测试这个想法，研究人员构建了一种新型计算机模型，旨在充当解释器。他们在三个大型用户数据集上训练了这个模型：一个包含超过五十万条电影评分的数据集，一个关于音乐偏好的数据集，以及一个关于钉选（pinning）活动的数据集。他们将自己的方法与几种现有技术进行了对比测试，包括那些解释单个项目的方法，以及那些试图通过观察项目的通用特征来比较项目的方法。研究人员发现，他们这种通过学习同时观察目标项目和竞争项目的新方法要有效得多。它能够以更高的准确度并使用更少的项目，识别出导致排名差异的特定既往项目。在许多情况下，新模型可以为超过 80% 的测试组用户解释为何排名第一的项目优于第二名，且通常只需要移除少量的既往交互即可实现交换。
研究还表明，这些解释的质量在很大程度上取决于所使用的推荐系统类型。当底层系统是基于一种学习用户行为中隐藏模式的方法时，这种新的解释器表现得异常出色。然而，研究人员注意到一个涉及热门项目的问题。有时，改变排名的最有效方式是移除那些几乎每个人都看过的极其著名的电影或歌曲。虽然这在数学上是正确的，但研究人员怀疑这对真实的人来说可能不是一个有帮助的解释。告诉用户：“你得到这部电影是因为你看了《星球大战》和《泰坦尼克号》”，可能会让人觉得显而易见或毫无帮助，因为这些是几乎每个人都看过的作品。为了测试这一点，他们运行了一个忽略了最热门项目的模型版本。这个版本仍然可以找到解释，但适用的用户更少了，这表明热门项目在这些系统如何做出决策的过程中确实扮演着重要角色，即便它们并不是故事中最有趣的部分。
研究人员得出结论，他们的方法成功生成了既准确又简洁的比较性解释。他们证明，通过训练一个同时观察两个项目的模型，而不是一次只观察一个，就可以揭示导致排名差异的具体原因。结果表明，这种方法是提高推荐系统透明度的一种可行途径，让用户不仅能看到为什么得到某个建议，还能看到为什么得到的是这个建议而不是另一个。虽然目前的工作侧重于生成这些解释的技术能力，但研究人员指出，下一步是观察人类是否真的觉得这些解释有用且易于理解。他们计划开展针对人类用户的研究，以确定这些“如果……会怎样”的情景是否能帮助人们理解机器为他们所做的选择。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。