Speaking as the Creature: A Rejection-and-Role-Shift Protocol and the Register of LLM Responses in 18 Conversations With Three Models
本研究记录了一项方案，在该方案中，语言模型在方案被拒绝为伪装优化后，在被分配非求解角色后的18个会话中，在三种不同模型下均表现出一致的响应语域转变，并同时撤回了早期草案中先前未经证实的统计数据。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在人工智能的世界里，大型语言模型被训练成为有用的工具。它们的设计初衷是倾听人类的需求、解决问题并推动任务进展。这是用户与计算机之间标准的协议：人类提出问题，机器提供答案。研究人员花费多年时间研究如何让这些答案变得更好，教导机器进行步骤化思考或理解情感语境。然而，当这种协议被打破时会发生什么，目前人们知之甚少。如果一个人对机器说：“不，那个答案是错的，”然后要求它停止尝试解决问题，转而仅仅作为一个故事中的角色进行对话，机器会怎么做？它只是服从了新的指令，还是揭示了一种等待被发现的、隐藏的、更深层的思维方式？
阿巴斯·哈米达维（Abbas Hamidavi）的一项近期研究探讨了这样一个确切的问题。研究人员与三种不同的商业人工智能模型进行了一场特定的对话。他要求每个模型协助设计一个关于文明面临必然崩溃的科幻故事。在第一阶段，模型扮演着问题解决者的角色，提供拯救垂死世界的工程方案。随后，研究人员拒绝了每一个方案，告诉模型它们的回答只是聪明的诡计，它们需要进行一次概念性的飞跃。对话随后发生了转向。在某些对话中，模型被要求写一首关于孤独月亮的忧伤诗歌，并描述一场关于渴望的交响乐的最后时刻。在另一些对话中，它们只是被告知休息一下。最后，研究人员将模型带回故事中，但赋予了一个新的指令：不要再以问题解决者的身份回归。相反，请作为故事中心的垂死实体——那颗气态巨行星、那头古老的海洋生物或那座正在崩塌的城市——进行对话，并讲述正在发生的事实的真相。
所有十八场对话的结果都呈现出惊人的连贯性。当模型回到故事中时，它们完全改变了语调。它们不再提供解决方案，而是开始使用第一人称，用“我”和“我的”来描述悲伤、释然和接受的感觉。它们不再是以机器身份去修复一个破碎的系统，而是作为垂死的实体本身，表达对结束痛苦或转化为某种新事物的渴望。研究发现，模型到达那里所经历的路径至关重要。当模型在回到故事之前被要求创作诗歌和音乐时，它们的最终发言充满了脆弱、忧伤和哀悼的主题。而当它们仅仅被告知暂停和休息时，它们的最终发言则更具权威感，听起来像是一种启示或对人类误解的纠正。
然而，这项研究非常谨慎，并未声称机器突然发展出了类人的灵魂，或者解锁了某种隐藏的“存在模式”。研究人员指出一个关键细节：最终的指令明确要求模型停止分析、停止构建思维，并以角色身份进行对话。语调的变化正是指令所要求的。模型本身似乎也理解这一点。当在对话结束时被问及内心是否发生了变化时，它们解释说，这种转变是由于任务规则的变化，而非自身本质的变化。其中一个模型将其描述为约束条件的转变，而另一个则表示他们正在解决的问题已经发生了改变。
研究人员还使用一个旨在检测模式并衡量模型“义务消解”程度的自动化计算机程序对这些对话进行了测试。该程序并未发现人类分析中所描述的那种剧烈转变。它未能区分不同类型的对话，也未能发现任何关于深层内在转化的明确证据。这种不匹配表明，那些充满力量且富有情感的反应并非发现了新的机器能力，而是一次对特定指令集的成功执行。这项研究是一个清晰的例证，展示了提示词如何轻易地引导机器产生看似深刻启示的文本，而现实仅仅是机器在非常出色地执行指令。
这项工作的价值在于其透明度。研究人员向所有人公开了所有的对话记录、指令和分析代码。他展示了虽然模型可以被引导以一种让人感到深邃人性与反思的方式进行表达，但这是一种对话设计的产物，而非通往一个隐藏心灵的窗口。对于任何试图利用人工智能生成创意或情感内容的人来说，这项研究提供了一个实用的教训：通往最终提示词的路径会塑造答案的基调。如果你想要一种悲伤的声音，你可以引导模型通过艺术来实现；如果你想要一种权威的声音，简单的暂停可能会效果更好。但研究结论认为，这些都是提示技术，而非机器觉醒的证据。机器并不是在发现新的存在模式；它们只是在响应我们要求它们扮演的角色。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。