Large Language Models and the Personalization into Sameness
本文认为，大型语言模型通过个性化与便利性的机制本身，造成了价值论与认识论层面的“双重趋同”，从而形成了一个集体行动问题，即个体的选择在强化一个共同文化基准的同时，也威胁到了多元主义与民主自主性。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一个每个人都在问同样的问题，并得到感觉完全契合其思维的答案的世界。这就是大型语言模型的承诺，这些复杂的计算机系统驱动着现代聊天机器人和数字助手。对于个人用户而言，这种体验是“被理解”的感觉；机器会适应其特定的语境，提供看似符合其独特需求和偏好的建议。然而，这种个人连接感掩盖了一个更深层的、人口层面的现实。当数百万人都依赖于同一项底层技术时，他们并非在从浩瀚、混沌的人类思想海洋中汲取营养，而是正在利用一个共享且有限的信息与价值观池。这创造了一个悖论：交互过程感觉越是个性化的，集体群体就开始在思想和价值观上趋于一致。
克莱姆森大学（Clemson University）的 M. Z. Naser 的一篇新研究论文调查了这一隐藏现象，将其描述为“双重收敛”（dual convergence）。研究指出，当我们与这些人工智能系统互动时，两个截然不同但相互关联的过程正在悄然重塑社会。第一个过程涉及人们的价值观，即“价值论收敛”（axiological convergence）；第二个过程涉及人们认为什么是真实的，即“认识论收敛”（epistemic convergence）。论文表明，这两股力量相互喂养，形成了一个循环，使我们的共同信念和共同价值观变得日益统一——这并不是因为有人强迫我们达成一致，而是因为我们用来导航世界的工具使得达成一致变得极其便利。
研究首先探讨了这些系统如何影响我们的价值观。当用户向聊天机器人寻求关于困难决策的建议时，机器并不仅仅是列出选项。它会对选项进行排序，根据内置于其训练中的标准推荐其中一条路径。这些标准可能包括对效率、礼貌或规避风险的偏好。寻求有用答案的用户通常会接受推荐，却未意识到系统已经预先为他们做出了价值判断。随着时间的推移，当用户反复听从这些建议时，他们开始将系统的隐藏优先级视为自己的优先级。这种情况的发生并不需要任何争论或说服；这仅仅是一个遵循“阻力最小路径”的过程。系统并不教授特定的意识形态，而是使我们评估选择的方式变得常规化，从而缓慢地将整个群体推向一组更狭窄的实际优先事项。
与此同时，第二个过程正在重塑人们的认知。传统上，形成一种信念需要咨询多样化的来源：不同的书籍、持有冲突观点的专家以及来自各类机构的报告。这种摩擦是至关重要的，因为它迫使个人权衡相互竞争的证据，并理解不确定性的结构。大型语言模型通过提供一个单一的咨询点改变了这一动态，该点将所有这些冲突的观点综合成一个流畅、整合的答案。系统执行了在不同来源之间进行裁决的艰苦工作，呈现出一个统一的结论。虽然这非常便利，但也意味着用户不再接触到冲突的全貌。相反，他们正从一个已经过滤并融合了信息的共享基础设施中汲取信息。随着越来越多的人依赖这单一来源，他们的信念开始趋同，不是因为他们在读同样的书，而是因为他们都在向同一台机器索要同样的综合结论。
论文认为，这两个过程是深度互联且相互强化的。当人们在价值观上趋同，他们往往会接受与这些价值观一致的信息，并拒绝不一致的信息，从而进一步缩小了他们的信念范围。反之，当人们依赖同一个信息源获取信息时，该来源也会规定其推荐中所嵌入的价值观。这创造了一个反馈循环，使信念与价值观紧密锁定，加速了趋向统一的过程。这种动态的危险在于其隐蔽性。由于系统会适应每个用户，个人会感受到一种自主性和个性化的感觉。他们看不见系统运作的边界，也看不见数百万其他用户正在接收类似的、具有相关性的输出。这就像一家服装店，能为每位顾客提供完美的尺寸，但结果却是每位顾客最终都穿着完全相同款式的衣服。
作者总结道，这并非个人可以独立解决的问题。这种趋向统一性的驱动力内置于技术的结构和开发经济学之中。训练这些强大的模型需要海量资源，这有利于服务于数百万用户的少数几家大型供应商。这些供应商在竞争效率和安全性时，最终会使用相似的数据和相似的方法，导致输出结果在本质上是高度一致的。同时，用户自然会倾向于选择最便捷的信息源。供应端的集中化与需求端的便利性相结合，创造了一个陷阱：逃离这一趋势所需的努力程度超出了大多数人的承受能力。其结果是一个集体行动问题：虽然每个人都从系统的便利中获益，但代价是独立思考能力的丧失以及人类信念与价值观多样性的减少。
最终，论文指出，这种形式的文化变革不同于宣传或胁迫等传统控制手段。没有人被强迫去进行统一的思考；相反，系统是在顺应我们对高效、快速答案的渴望，并在过程中，温柔地引导我们走向一个共享的基准线。这种“顺应机制”是微妙且强大的，它通过那些让技术极具吸引力的“助人属性”发挥作用。研究警告称，如果这一趋势持续下去，它可能会破坏民主社会的根基，因为民主社会依赖于观点和价值观的健康多样性来运作。作者认为，解决方案不能仅靠个人的更好选择，而需要对这些技术的构建和部署方式进行结构性的回应。如果不进行干预，“个性化”的外表将继续掩盖人类在思维和价值观上深层且不断增长的雷同性。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。