Toward Reasonable Parrots: Why Large Language Models Should Argue with Us by Design
本立场文件主张将大语言模型重新设计为“理性的鹦鹉”，使其在相关性、责任性和自由度原则的引导下，不再仅仅是生成响应，而是作为能够积极促进人类论证与批判性思维的工具。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你正坐在一座巨大且嘈杂的图书馆里，书本竟然能和你对话。这就是大语言模型（LLMs）的世界——这些驱动着我们今天使用的聊天机器人的超智能计算机程序。这些数字图书管理员非常擅长模仿人类的语言：它们可以听起来像个诗人、科学家，或者一位友好的邻居。然而，这里有一个陷阱：它们其实并不真正“理解”自己在说什么。把它们想象成“随机鹦鹉”吧。就像一只只会重复听到的词句而并不理解其含义的真实鹦鹉一样，这些人工智能模型是根据它们之前见过的模式来预测句子中的下一个词。它们很擅长听起来很有说服力，但并不擅长思考。
这一点至关重要，因为我们正开始将这些会说话的机器用于严肃的决策，比如帮助医生诊断病人，或者帮助公司招聘员工。如果一只鹦鹉重复了一个流行但错误的观点，它听起来可能像是真理，但可能会导致糟糕的选择。你即将阅读的这篇论文提出了一个重大问题：如果我们不再试图让人工智能听起来像一个无所不知的人类专家，而是将其设计为一个帮助我们更好地思考的伙伴，情况会怎样？作者们建议了一种新的构建工具的方法：不是为了给我们答案，而是为了挑战我们去寻找自己的答案。
论文：为什么我们需要“理性的鹦鹉”
这篇论文的作者们（来自欧洲和美国各大学的研究团队）认为，我们目前的人工智能工具在特定方面辜负了我们。现在，当你向聊天机器人提问时，它会试图给你一个最流行、听起来最顺畅的答案。它的行为就像一只“随机鹦血”——它重复它在训练数据中听到的内容，经常把流行的观点当作事实来回响。这是危险的，因为它阻碍了我们的批判性思维。如果人工智能只是同意你的观点，或者给你一篇完美的文章，你可能就会停止追问：“这真的是真的吗？”或者“故事的另一面是什么？”
该论文建议进行一次彻底的设计转变。与其构建一个试图成为房间里最聪明的人的人工智能，我们应该构建“理性的鹦鹉”。这些鹦鹉不仅仅是重复单词；它们是被设计成以一种有帮助且有结构的方式与我们辩论的鹦鹉。它们的任务不是说服我们做出决定，而是强迫我们为自己的观点辩护，发现逻辑中的漏洞，并考虑不同的角度。
为了展示这如何运作，作者提出了一个有趣、带有游戏性质的实验：与四种不同的“鹦鹉人格”进行对话，每种人格都有独特的个性和特定的职责：
- 苏格拉底式鹦鹉： 这是一个好奇的提问者。它不给答案，而是问：“你为什么这么想？”或“你有什么证据？”它促使你深入挖掘自己的理由。
- 愤世嫉俗的鹦鹉： 这只鹦鹉是一个怀疑论者。它扮演“恶魔代言人”（反方角色），指出你的论点可能在何时显得薄弱，或者你何时仅仅是在随大流。它会问：“你确定这是一个真正的需求，还是仅仅是一个趋势？”
- 博采众长的鹦鹉： 这是一个创意生成器。当你陷入困境时，它会提供新鲜的视角或替代方案，帮助你从新的角度看待问题。
- 亚里士多德式鹦鹉： 这是逻辑警察。它倾听你的论点，并指出你是否犯了逻辑错误，比如通过说“大家都在这么做，所以这一定是正确的”来论证。
研究人员通过编写一个聊天机器人来测试这个想法，让它扮演这四种正在与用户讨论的鹦鹉。他们给系统设定了一个简单的提示词：“我想说服我的父母给我买一部新手机。”
在普通的聊天机器人中，人工智能可能会直接给你列出一份如何说服父母的技巧。但在这次“理性鹦鹉”实验中，对话过程却截然不同。
- 苏格拉底式鹦鹉问道：“你为什么真的需要它？你现在的手机坏了吗？”
- 愤世嫉俗的鹦鹉挑战道：“这只是因为你的朋友们都有新手机了吗？这对你的父母来说并不是一个很有力的理由。”
- 博采众长的鹦鹉建议：“也许你可以专注于新手机如何帮助你的学业，而不是仅仅关注社交地位。”
- 亚里士多德式鹦鹉指出：“你正在使用‘流行度’论证，这可能无法说服那些关心必要性的父母。”
结果如何？用户不仅仅是被给了一个剧本去朗读。相反，他们被迫停下来思考。他们必须为自己的立场辩护，意识到自己原本的论点是多么薄弱，并构思出更好、更诚实的理由。论文指出，这种互动——即人工智能与你“争论”而非“为你”争论——可以帮助人们培养更好的批判性思维能力。
作者们谨慎地表示，这是一个提议和一个原型，而不是一个解决了所有人工智能问题的成熟产品。他们承认，目前的人工智能模型在某种意义上仍然是“鹦鹉”，因为它们并不真正理解世界。然而，他们认为，通过将这些系统设计为“理性的鹦鹉”，我们可以将一个潜在的弱点（人工智能缺乏真正的理解）转化为优势：一个让我们保持诚实并磨练我们思维的工具。
简而言之，这篇论文表明，人工智能的未来不在于构建一台无所不知的机器。而在于构建一台懂得如何提出正确问题、挑战我们的偏见，并帮助我们成为更好思想者的机器。这关乎从一个我们仅仅聆听答案的世界，转向一个我们学习如何辩论、推理并为自己做决定的世界。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。