One of the Above, None of the Above: Why the Same Model Should Not Predict Both
本文认为，新颖性预测需要在一个定义良好的语境中，将类别吸收与类别开启进行明确分离，并证明了当任务结构被妥善考虑时，一个简单的组合零模型往往优于像 Pitman-Yor 过程这样复杂的富者愈富模型。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
每天，我们的思维都在忙于将世界进行分类。当你听到一个新词、看到一种奇特的动物或注意到一种新型汽车时，你的大脑必须做出决定：这是我以前见过的东西，还是一个完全陌生的事物？这种瞬间的判断是识别熟面孔与发现陌生人的区别。几十年来，研究我们如何学习和分类的科学家们，通常将这种决策视为一次单一的“硬币投掷”。他们假设，如果一个项目不符合现有的组别，它就一定会自动开启一个新组别，并且描述我们如何坚持旧组别的数学逻辑，与描述我们如何开启新组别的数学逻辑是相同的。
然而，一项新的研究表明，这种简单的观点可能是错误的。这项由华沙医科大学的 Lukasz Konowalek 进行的研究认为，大脑很可能针对这两项任务使用了两种不同的策略。一种策略用于识别你已知的事物，而另一种策略则用于决定何时创建新类别。研究表明，试图使用单一模型来解释这两种行为会导致错误，而且我们学习时的语境——即我们是在观察一组封闭的选择，还是在观察一个开放且无穷无尽的流——会完全改变游戏规则。
为了理解这个实验，请想象一个信息流，比如一段对话、一段视频或一份单词列表。当你穿过这个信息流时，你一直在自问：下一个项目是刚才见过的重复出现，还是一个全新的发现？研究人员使用了五种不同类型的现实世界数据来进行测试。他们观察了人们在文档中如何使用词汇，在故事中如何引用人物和物体，人们在对话中如何说话，以及视频编辑如何标记场景的变化。在这些信息流中，有些项目的列表是固定且有限的，比如特定软件程序中使用的有限对话标签；而在另一些流中，列表是开放且可能无限的，比如我们会遇到的无穷无尽的词汇或名字。
研究人员构建了计算机模型来预测这些流中接下来会发生什么。他们测试了两种主要方法。第一种方法被称为“组合”模型（combinatorial model），这是一种简单的计数方法。它只关注到目前为止出现了多少个不同的项目以及总共有多少个项目，而忽略了特定项目重复出现的频率。它提出了一个基本问题：鉴于我已经见过的东西的数量，有多少种组织它们的方式？第二种方法是“强者愈强”模型（rich-get-richer model）。该模型假设，如果一个项目之前已经出现过多次，那么它再次出现的可能性就更大。它给予热门项目额外的权重，假设流行度会带来更多的流行度。
研究发现，哪种模型效果最好，完全取决于计算机试图预测什么。当任务是预测一个项目是否为已知事物的重复（吸收/absorption）时，简单的计数模型在开放、无限的流中表现最好。但当任务是预测一个项目是否为全新的发现（开启/opening）时，“强者愈强”模型通常更好。令人惊讶的是，当信息流具有一个较小的、固定的列表时，这种模式会发生反转。在这些封闭系统中，“强者愈强”模型更擅长识别重复，而简单的计数模型更擅长识别新项目。
这种“交叉”模式是核心发现。这意味着没有任何单一的数学规则可以完美地解释既识别熟悉事物又发现新事物。那个非常擅长预测某个词会被重复使用的模型，往往在预测新词出现时表现糟糕，反之亦然。研究人员还在一个受控实验中测试了这一想法，要求人们对项目进行分类，发现一个仅仅检查任务是否允许“新”答案的模型，其表现优于试图根据过去频率进行猜测的复杂模型。
结果表明，我们的思维并不将“新颖性”视为识别过程中的简单剩余物。相反，大脑可能运行着两个独立的进程。一个进程旨在适应当前情境的结构，检查一个项目是否符合现有模式；另一个进程则旨在应对未知之可能，决定何时当前的模式不再足够，从而必须开启一个新的类别。这种区别至关重要，因为它改变了我们构建人工智能的方式以及我们理解人类学习的方式。如果我们希望机器像人类一样学习，它们不能仅仅擅长识别模式，还必须拥有一个独立的机制，用来知道何时打破模式并开始新的事物。研究结论指出，任务的语境——即世界是封闭且有限的，还是开放且无穷的——决定了我们在任何给定时刻应该使用哪种心理工具。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。