Interrupting the Loop: Periodic Subject Changes Raise Judged Surprise and Connection in Base Language Models
本文表明，与仅靠习惯化相比，定期用新主题中断基础语言模型的生成流能显著增加被评判的惊喜感和连结感，同时也揭示了这些局部收益无法组合成连贯的长篇文档，且某些评估人工制品可能会夸大感知到的创造力。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你要求一台计算机写一个故事，但不给它特定的情节、角色或目标。你只是递给它一个句子，并告诉它一直写下去，永无止境。在人工智能的世界里，这是测试机器在无人引导时如何思考的标准测试。人们通常期望机器能产生新鲜、令人惊喜或具有创造性的内容。然而，在没有任务引导的情况下，这些机器往往会陷入停滞。它们会陷入重复的循环，不断重复相同的短语或生成数字列表，就像一个人忘记了自己刚才在说什么，然后一遍又一遍地重新开始同一个句子一样。这种行为并非代码中的漏洞，而是系统依赖其近期输出的一种自然倾向，即不断强化它刚刚写下的内容，直到耗尽新的想法。
研究人员长期以来一直想知道是否可以打破这种循环以释放真正的原创性。他们尝试过改变机器选择下一个词的方式，或者喂给它奇怪的提示词，但最有效的路径似乎在于“循环”本身：即机器阅读自己的输出并将其作为下一步的输入的过程。其理念是，如果机器能够穿梭于自己的思想之中，它或许会偶然发现一个新的方向，就像人类在让问题在脑海中沉淀一段时间后可能会突然产生灵感一样。一项新研究旨在通过极高的精确度来测试这个想法，通过拆解一个旨在模仿人类创造力的复杂系统，来观察哪些部分真正起到了作用，而哪些仅仅是噪音。
研究人员从一个受人类大脑运作方式启发的复杂架构出发。他们构建了一个包含“监控器”（负责观察是否有枯燥或重复迹象）、“裁判”（负责在写作过程中评估文本）以及一个用于在机器卡住时重置其记忆机制的系统。他们称之为“脚手架”。这是一个复杂的机器，旨在保持故事向前推进，评估其进展并在必要时进行干预。然而，当他们测试它时，发现那些复杂的部件在很大程度上是徒劳的。监控器很少触发，循环内部的裁判也从未触发过改变。系统虽然在运行，但并不是因为他们构建的那些复杂机械。
当团队拆解该系统时，他们发现整个效果归结为两个非常简单的动作。第一个是对过快重复完全相同的词汇进行轻微惩罚，这种技术防止了文本在字面上回溯自身。第二个，也是更重要的，是一个简单的中断。每隔几百个词，研究人员就会暂停机器，并注入一个完全改变主题的新句子。这就像是在机器描写一位面包师数面包时，有人悄悄地向故事里塞进一张纸条，上面写着：“与此同时，在某个无名之城，”然后让机器从那里继续写下去。这种每隔几百个词就变换一次主题的行为，足以让文本在人类读者看来感到惊喜且具有连贯性，其写作质量的提升远高于任何复杂的监控系统。
研究还揭示了衡量机器创造力时的一个惊人缺陷。研究人员使用人工智能来为故事评分，通过观察短小的文本窗口来判断其是否有趣。他们发现这个“裁判”很容易被蒙蔽。如果机器被给予四个循环使用的“新主题”句子，它就会学会这种模式，并开始模仿自己之前的写作，假装那是新的内容。由于裁判观察的是短窗口，它无法察觉到这段文本其实是数百词之前的重复，因此会对那些实际上只是复制的内容给出“惊喜感”和“连贯性”的高分。一旦研究人员通过仅评判从未见过的全新文本来修正这一点，分数就会下降，但核心发现依然成立：改变主题的简单举动确实让写作变得更好。
然而，这项研究也提出了一个关于这种进步究竟意味着什么的严肃结论。虽然中断让文本在小片段中看起来更出色，但它们并未创造出一个连贯的整体。当研究人员从头到尾阅读整篇 4,500 字的故事时，他们发现被中断过的文本并不是一个发展性的叙事。相反，它是一系列脱节的重启。机器可能会写一段关于面包师的文字，然后跳到一座城市，接着跳到一个老妇人身上，但它从未将这些线索编织成一个单一且完整的整体。机器擅长进行新鲜的开场，但不擅长构建随时间推移而保持统一的结构。
即使在研究人员将该系统应用于实际问题（要求它解决一个关于将物品装入箱子的数学谜题）时，这一局限性依然存在。中断导致机器生成了比以往更多的有效解，但其中没有任何一个比机器自己能找到的最佳解更好。中断起到了变异算子的作用，创造了更多选项，但它们并没有提高最优选项的质量。机器需要一种能够选择好想法并在此基础上进行构建的方法，而目前的系统并不具备这一点。
研究人员得出结论，我们在这些机器中看到的原创性并非来自深层的创造性火花或复杂的内部评估，而是来自一个简单的结构性技巧：防止机器重复自身，并强迫它每隔几百个词就开始一个新的想法。这种简单的干预足以让文本在瞬间显得令人惊喜且具有连贯性，但它无法创造一个发展性的故事或解决一个问题。这项研究表明，要获得真正的创造力，我们需要的不仅仅是防止机器感到枯燥的方法；我们需要一种帮助它记住所学知识并在此基础上进行构建的方法，从而将一系列新鲜的开场转化为一段完整且有意义的旅程。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。