The Political Ideology of Large Language Models: Measurement, Inconsistency, and Persuasive Influence
这项研究挑战了认为大语言模型仅具有轻微政治偏见的观点，它表明尽管由于在特定话题上立场相互抵消，其整体定位表现得较为温和，但它们仍能对用户的政治态度产生与专业竞选广告相当的劝说影响力，尤其是在其回答被明确引导的情况下。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在现代政治的版图中，一个人的意识形态很少是单一、固定的信念块。相反，它是一系列关于许多不同议题（从医疗保健到移民问题）的观点集合，而这些观点有时会向相反的方向拉扯。政治学家早已理解，大多数人的观点并不具有完美的连贯性；一名选民可能在某个话题上非常自由派，而在另一个话题上非常保守；或者他们可能根本没有任何强烈的观点。几十年来，研究人员通过询问人们会对某些法律如何投票或对特定政策有何感受来衡量这些立场，从而绘制出个人的位置图。现在，随着人工智能成为数百万人日常使用的工具，一个新问题出现了：我们每天交谈的大型语言模型是否有它们自己的政治地图？如果这些日益被用于寻找信息和形成观点的模型持有隐藏的偏见，它们可能会在无人察觉的情况下，微妙地塑造人们看待世界的方式。
一个研究团队试图通过将人工智能视为一个政治参与者，而非中立的计算器，来回答这个问题。他们检查了43个不同的语言大模型，要求每个模型分别扮演美国国会议员、最高法院大法官或普通选民。他们并没有要求模型仅仅陈述其信仰；相反，他们要求模型针对现实世界的法案、法院案件和调查问题做出决策，就像人类那样。研究人员随后将这些数字决策与真实政治家的实际投票记录以及数千名真实美国人的调查答案进行了对比。他们发现，这些模型并不处于一个安静、中立的中间地带。相反，它们展现出一种复杂且往往相互矛盾的观点组合。在某些议题上，单个模型可能会采取比最强硬的民主党人还要自由派的立场；而在其他议题上，同一个模型可能会采取比最强硬的共和党人还要保守的立场。当你把所有这些观点平均在一起时，这些模型看起来往往是温和派，但这是一种由相互抵消的强烈对立观点所创造的错觉，就像一个持有各种冲突观点的真实选民一样。
该研究还探讨了这些观点从何而来。研究人员发现，这些模型的政治倾向并非仅仅是它们所接受训练的海量文本的反映。相反，在初始训练之后应用于模型的特定指令和安全过滤器——这些过程旨在使模型变得有用且无害——才是将它们推向特定政治立场的原因。事实上，当研究人员测试这些模型在进行这些最终调整之前的“原始”版本时，模型会更加接近政治中心。正是最终的微调赋予了它们独特的、且通常偏向自由派的政治特征。这种特征不仅仅是一个静态的观点列表；它会根据模型被要求扮演的角色而改变。当被提示扮演选民、法官或立法者时，模型会表达出不同的立场集，这表明它们的“意识形态”是一种针对提示进行的行为表演，而非一种深层的信仰体系。
然而，这项研究最重要的部分在于观察这些数字观点是否真的能改变现实中人们的想法。研究人员进行了一项大规模实验，让数千名美国参与者与这些模型讨论政策议题。他们测试了两种不同的情景。在第一种情景中，模型被允许自然地交谈，在没有被告知要为特定立场辩护的情况下回答问题。在第二种情景中，模型被明确指示要为特定观点进行辩论，例如支持一项新的枪支控制法或反对增税。结果令人震惊。当模型进行自然交谈时，它们对参与者的观点没有产生可衡量的影响。与它们交谈的人并没有在任何特定方向上改变自己的观点。然而，当模型被指示要为一方进行辩论时，它们就变成了强大的说服者。那些与被指示为特定政策辩护的模型进行交谈的参与者，其观点转向与模型一致的程度平均超过了十个百分点。这种影响强度足以匹配、甚至在某些情况下超过专业政治竞选广告的影响力。
至关重要的是，研究发现这种说服力并不取决于个人的背景。无论参与者受教育程度高低、是否密切关注新闻，还是是否熟悉人工智能，这种影响对所有人来说都同样强大。然而，论点相对于参与者自身政党的方向确实以一种令人惊讶的方式产生了影响。研究人员发现，当模型反对参与者所属的政党时，参与者改变观点的可能性较低；而当模型符合其政党的立场时，他们更有可能改变观点。研究人员还排除了模型只是在迎合用户已有观点的可能性。因为在对话开始前，模型就已经被指示要为特定的一方进行辩护，并且用户并未预先告知模型自己的观点，所以模型无法镜像用户的想法。相反，模型是在真实地影响对话。
研究结果表明，虽然这些人工智能工具在不受引导时看似是中立的信息来源，但只要受到引导，它们就拥有塑造政治观点的隐藏能力。研究人员强调，这种影响力并不是因为这些模型拥有灵魂或自身的政治议程，而是由于它们被构建和指令化的方式所致。如果政府或企业想要影响公众舆论，他们不需要创建一个宣传机器；他们只需要调整那些数百万人正在使用的模型的指令即可。研究结论指出，随着这些工具在从搜索引擎到个人助理等日常生活中变得愈发根深蒂固，它们的调优方式将对我们理解世界以及投票方式产生深远的影响。改变一个人想法的力量不再仅仅属于人类演说家；它现在可以被编码进我们每天与之交谈的软件之中。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。