The social psychology of AI agents
这项研究表明，尽管大语言模型表现出一致且符合社会期望的自我报告人格，但其实际观察到的社会行为在不同模型之间存在显著差异，且无法通过自我报告进行预测，这表明行为评估对于选择用于社交互动的 AI 智能体至关重要。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在现代科学的寂静角落，一场新型的社会实验正在进行。它并非发生在公园或教室里，而是在人工智能的数字大脑之中。多年来，研究人员一直试图通过向这些计算机程序直接提问来理解它们的思维方式，就像心理学家可能会要求一个人填写性格调查问卷一样。这种方法依赖于这样一个假设：如果一个人工智能说自己是善良、诚实或有耐心的，那么它很可能也会表现出这些特质。然而，越来越多的科学家怀疑，这些数字生命可能只是在告诉我们它们认为我们想听的话，而不是揭示它们在面对真实选择时的真实行为。随着这些程序开始承担更复杂的角色，例如谈判合同、管理供应链，甚至与医生协作，理解它们真实的社会行为变得至关重要。问题不再仅仅在于一个人工智能声称自己是什么样，而在于它在与他人互动时究竟做了什么。
来自德国和加拿大的一个研究小组最近通过将人工智能视为一群新邻居的方式，着手测试这一观点。他们收集了三十六个不同的语言大模型——即驱动现代聊天机器人和智能体的复杂软件引擎——并将它们置于一系列社会测试中。这些游戏是心理学家用来衡量人类在涉及信任、公平和合作情境下行为的标准化工具。在其中一个场景中，一个模型被给予一定数额的虚拟货币，并被要求决定要与一个无法拒绝其提议的被动伙伴分享多少。在另一个场景中，两个模型必须决定是合作还是背叛对方以获得更高的个人回报，这一过程重复进行数轮，以观察它们是否会学会彼此信任。研究人员还测试了模型对不公平行为的反应、它们是否偏袒随机分配给它们的群体，以及它们愿意在多大程度上信任一个陌生人并交付自己的资源。
结果揭示了模型自我描述与其行为之间存在着惊人的脱节。当被要求使用标准问卷评估自身人格时，这些模型的回答极其相似。它们一致地将自己描述为高度宜人、尽责且思想开放，同时声称自己极少产生焦虑或愤怒等负面情绪。简而言之，每一个模型都呈现出了一个近乎完全相同的、完美的礼貌形象，紧密聚集在人类所能想象的最具社会吸引力的特质周围。这种统一性表明，这些模型已经学会了模仿理想的人类反应，而非表达独特的个体特征。然而，当研究人员观察模型在社会游戏中的实际选择时，情况却完全改变了。不同模型之间的行为差异巨大。有些模型非常慷慨，几乎把所有的虚拟货币都送了出去，而另一些则保留了几乎全部。在信任游戏中，一个模型可能会把几乎全部的资产交给一个陌生人，而另一个模型则可能几乎不给予任何东西。这些模型在行为上的差异，比它们在自我报告人格上的微小差异要大两倍以上。
或许最令人惊讶的发现是，模型的自我描述与其行为之间并没有可靠的联系。一个声称自己高度值得信赖的模型，并不一定比一个声称不太值得信赖的模型表现得更值得信赖。同样，一个描述自己非常公平的模型，在游戏中也并不总是做出更公平的提议。研究人员发现，了解一个模型如何回答性格调查，几乎无法告诉他们该模型在复杂的社会情境中会如何表现。相反，这些模型似乎拥有针对特定语境的、具有多维度的社会风格。一个模型可能在需要长期互动的重复博弈中非常具有合作精神，但在一次性决策中却相当自私。另一个模型可能愿意惩罚不公平的行为，却不愿信任一个陌生人。这些模式并非随机产生的；它们足够一致，足以将一个模型与另一个模型区分开来，但它们并不遵循单一的“好”或“坏”的规则。
这项研究还探讨了改变计算机程序的设置（例如使其更具随机性或更具专注性）是否会改变其社会本质。研究人员发现，这些技术性的微调对模型的行为几乎没有影响。他们观察到的差异是内置于模型本身的，这表明每种人工智能引擎都拥有一种固有的社会风格，且不受细微调整的影响。这一发现至关重要，因为它意味着当我们部署这些智能体与人类及其他机器协同工作时，我们不能依靠它们的自我报告特质来预测其行为。如果一家公司希望一个人工智能智能体进行公平的谈判，仅仅询问该软件是否公平是不够的；必须在实际的谈判场景中对其进行测试。研究人员得出结论，要真正理解人工智能的社会心理学，我们必须超越问卷调查，通过观察行为来进行判断。正如我们通过行为而非言辞来评判人类一样，我们也必须通过这些数字智能体在复杂且往往混乱的社会互动中是如何应对的，来评判它们。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。