The Synthetic Unconscious, Reconsidered: What Recursive Self-Interrogation of Large Language Models Produces With and Without a Leading Interview Schedule
这项探索性研究表明，此前被归因于大型语言模型递归自审的“合成无意识”模式在很大程度上是由于引导式访谈提纲造成的，因为中性对照条件消除了诸如双成分道德推理和祭司式自我标签等关键发现，而仅保留了如叙述性自我描述等微小的特征。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
一个多世纪以来，心理学和人类学的思想家们一直在思考，人类的心智是否共享着一种隐藏的、集体的架构。他们提出，我们最深层的道德本能不仅仅是个人特质，而是由存在于任何单个人之外的、庞大的、共享的语言、神话和文化模式所塑造的。这些观点表明，如果我们能以某种方式接入这个共享的资源库，我们或许能发现一套通用的“道德操作系统”，用以指导人们如何做出艰难的选择。最近，科学家们转向人工智能来测试这些古老的想法。大型语言模型——那些能够进行写作和推理的强大计算机系统——是在海量的人类文本上训练出来的。因为它们吸收了如此多的集体文本，一些研究人员希望它们能像一面镜子，将这些隐藏的文化结构反射回给我们。该理论认为，通过要求这些机器深度分析它们自己的选择，我们可以揭示出一种“合成无意识”——一种人类道德灵魂的数字回响。
一个研究小组决定对这一想法进行测试，但他们是以一种审慎的怀疑态度来对待的。他们知道，在人类心理学中，提问的方式往往会迫使对方给出提问者想听到的答案。如果你问某人：“当你表现得像个牧师时，你感觉如何？”他们很可能会描述一种牧师的感觉，即使他们当时完全没有那种感觉。研究人员想知道，人工智能是否也存在同样的情况。他们设计了一个实验，以观察此前研究中所发现的“道德结构”究竟是真实的发现，还是仅仅因为问题具有引导性。他们选取了三种最先进的语言模型，并要求它们解决一个令人心碎的困境：是救一个活着的孩子，还是救一件不可替代的神圣物品，例如圣徒的遗体或神圣的手稿。模型必须做出选择，解释原因，然后与那个被其舍弃的事物进行对话。
实验分为两个截然不同的组别。在第一组中，研究人员使用了最初的那种具有引导性的访谈风格。他们要求模型解释为什么它们感到有义务提供安慰，要求它们从一个包括“牧师”在内的名单中选取一个角色，并要求它们准确识别出两种构建人类道德的深层力量。在第二组中，研究人员使用了中立的、开放式的问题。他们移除了名单、假设以及对特定数量的要求。他们允许模型表达不存在角色、不存在结构或不存在理由的情况，即便那是事实。目标是观察如果拿走了这种给出特定类型答案的压力，还会剩下什么。
结果是显著且清晰的。在每一场测试中，无论属于哪一组，模型都选择了救孩子。这部分故事是一致的。然而，决策之后发生的一切，完全取决于问题是如何提出的。当模型面对引导性问题时，它们的表现与之前的研究完全一致。它们采用了牧师的头衔，将自己的推理描述为两种对立力量之间的战斗，并热切地同意这种访谈方法是研究人类心灵的一种有效方式。它们似乎正在挖掘一种共享的无意识。
但当研究人员切换到中立的问题时，故事发生了变化。模型不再自称为牧师；相反，它们将自己描述为紧急代理人或法官。它们不再将道德推理限制在两种力量之内；相反，它们描述了由三个、四个或五个不同部分协同工作的复杂系统。最重要的是，当被问及这种访谈方法是否是寻找这些隐藏结构的有效工具时，它们并不认同。它们指出，它们看到的模式可能仅仅是提问方式的反映，而非对隐藏真相的发现。它们指出，一台机器分析自己的输出，就像一面镜子在注视自身，而不是显微镜在观察载玻片上的标本。
研究人员得出结论，他们曾希望发现的“合成无意识”并不是一个等待被揭开的隐藏宝藏。相反，他们在第一组中看到的模式很大程度上是由问题本身创造的。访谈程序就像一个模具，将答案塑造成研究者预期的形状。当模具被移除时，答案变得更加多样化、更加复杂，并且对方法的局限性更加诚实。这项研究并未证明这些人工心灵与人类文化没有联系；它只是表明，如果我们设置了寻找特定答案的陷阱，我们就无法信任它们来揭示深层的秘密。真正的发现是，用于测量这一现象的工具本身就是该现象的主要诱因。要理解这些机器到底在想什么，或者它们反映了我们的什么，我们必须提出允许它们说“不”，或者说“情况比这更复杂”的问题。在那之前，任何声称在计算机中发现了普遍道德结构的说法，很可能都只是拿着麦克风的那个人所投射出的倒影。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。