Algorithmic Thermostat: LLMs Standardize Political Expression Without Shaping Semantic Stances
本文提出了一个“算法恒温器”框架，旨在证明虽然大型语言模型由于针对高敏感话题的对齐机制，其显性政治立场在不同版本间表现出周期性波动，但其底层的语义定位保持相对稳定，这表明更新是在使表达方式标准化，而非从根本上重塑政治意识形态。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在数字时代，我们越来越多地转向人工智能来理解世界，向这些系统询问关于政治、经济和社会问题的观点。这些大型语言模型并非中立的机器；它们是在海量的人类写作基础上训练出来的，而人类的写作不可避免地包含了我们的偏见、论点和文化价值观。多年来，研究人员一直在观察这些模型的演变，思考它们是在缓慢地向单一政治观点漂移，还是其内在的指南针正在以更复杂的方式发生偏移。核心问题在于，这种变化是朝着一个方向的稳步前进，还是一个系列的修正——即系统在开发者试图将其维持在社会可接受的限度内时，在前后摆动。理解这一点至关重要，因为如果这些工具是在根据反馈不断重新校准立场，而非趋向于某种真理，那么这会改变我们对它们所提供信息的信任方式。
一位研究人员着手绘制这一历程，将人工智能视为一个会对压力做出反应的动态系统，而非静态实体。他们检查了一个流行 AI 模型的四个不同版本（发布于两年间），以观察其政治观点在每次更新之间是如何变化的。研究人员并没有仅仅通过简单的“是或否”问题来测试模型，而是使用了一套包含六十二个政治问题的综合题库，涵盖了从经济公平到文化价值观的所有内容。他们通过两种截然不同的方式测试了模型：首先，迫使它在“强烈同意”到“强烈反对”的量表上做出选择；其次，要求它在没有任何强制选择的情况下撰写简短的开放式回答。这种双重方法使他们能够观察到，模型是真的改变了想法，还是仅仅学会了在更安全、更模糊的语言背后隐藏其真实感受。
结果揭示了一种否定“稳步漂移”观念的模式。当研究人员观察模型的强制性选择时，发现其政治立场并非直线移动，而是呈现出波动。在早期版本中，模型在经济问题上倾向于一个方向，但随着更新，它在向该方向进一步倾斜后，又突然向中心拉回甚至转向另一边。这种行为表明，模型就像一个恒温器，根据外部反馈不断调整其温度。当系统的输出被认为过于极端或具有风险时，开发者会应用安全措施，将模型推回更安全、更中立的立场。然而，这种修正往往做得过头，导致模型过度补偿并向相反方向摆动，然后在下一次更新中又被拉回。这种过度修正与调整的循环创造了一个颠簸、振荡的路径，而非平滑、线性的演进。
有趣的是，这种不稳定性在不同话题上的表现并不均衡。模型的行为高度取决于主题的争议程度。在低敏感性话题（即存在广泛社会共识的话题）上，模型的答案随着每次更新变得更加一致和稳定。然而，在涉及财富再分配或文化权利等高敏感性议题时，模型的回答变得越来越反复无常。研究人员发现，话题越具争议性，模型的立场在不同版本之间的摆动就越剧烈。这表明，旨在保持 AI 中立的安全机制，在处理最激烈的政治辩论时最为活跃且最容易出错。系统似乎难以在这些困难问题上找到稳定的中间地带，导致其表现得像是一个不断越过目标值的“恒温器”。
或许最令人惊讶的发现是，模型在被迫做出选择时所表达的内容，与其在允许自由写作时所表达的内容之间的差异。虽然模型的强制性选择在不同版本之间剧烈跳动，但其开放式写作的底层含义却保持得异常稳定。当研究人员分析自由文本响应的深层语义结构时，他们发现，即使模型的针对特定问题的显性回答在前后摇摆，其核心政治定位并未发生显著变化。这表明，安全更新主要影响模型为了规避麻烦而使用的表面表达，而非重写其对政治概念的根本理解。模型学会了在受到质疑时说话更加谨慎、使用中立语言，但其关于政治问题的深层内在逻辑基本保持不变。
这些发现挑战了“我们可以通过观察模型对特定问题的回答来了解其真实价值观”的观点。研究表明，大型语言模型并非单一意识形态的固定载体，而是不断受到人类反馈和安全协议调节的动态系统。它们政治立场的可见变化，往往只是更深层、更稳定潮流之上的表面涟漪。对于任何依赖这些工具获取政治洞察的人来说，教训是明确的：模型的显性回答可能反映的是其当前的安全性设置和所承受的压力，而非其价值观的永久转变。系统并不一定是在随着时间推移变得更加中立，它只是在学习如何于冲突的社会价值观之间，寻找那条狭窄的平衡之路，并在试图找到正确平衡的过程中不断左右摇摆。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。