💬 NLP

Eliciting Trustworthiness Priors of Large Language Models via Economic Games

本文介绍了一种利用迭代上下文学习和信任博弈来诱导大语言模型中信任先验的新方法，揭示了 GPT-4.1 的信任行为与人类模式高度相似，并且可以由温暖度和能力感的刻板印象来预测。

原作者： Siyu Yan, Lusha Zhu, Jian-Qiao Zhu

发布于 2026-02-03

📖 1 分钟阅读☕ 轻松阅读

原作者： Siyu Yan, Lusha Zhu, Jian-Qiao Zhu

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

核心理念：AI 有多“值得信赖”？

想象一下，你正在雇佣一名新助手来处理你的资金。你给了他们 10 美元，并告诉他们：“我会把这笔钱变成 3 倍，也就是 30 美元。请把其中的一部分还给我。”

如果他们还给你 15 美元： 他们是值得信赖的。
如果他们还给你 0 美元： 他们就不可信。

这就是著名的**信任博弈（Trust Game）*的基本设定。通常，心理学家使用这个游戏来观察人类*的行为。但本论文提出了一个新问题：像 GPT-4 或 Llama 这样的语言大模型（LLMs）在游戏中表现如何？ 它们对于如何信任他人以及如何回报他人，是否存在一个“默认设置”？

问题所在：你不能直接询问 AI

你可能会想：“为什么不直接问 AI，‘你会值得信赖吗？’” 作者说这是一个坏主意。

“礼貌机器人”问题： 如果你问 AI，“你会偷我的钱吗？”它几乎肯定会回答：“不会，我是一个乐于助人的助手。”
现实情况： 就像人类一样，AI 可以非常有说服力且表达流畅，但在实际操作中仍可能做出冒险或不可靠的选择。我们需要观察它们的行为，而不仅仅是听它们怎么说。

解决方案：“传声筒游戏”式的信任测试

为了找出 AI 真实的“信任设置”，研究人员发明了一种基于**迭代上下文学习（Iterated In-Context Learning）**概念的巧妙方法。

你可以把它想象成一个传声筒游戏（Telephone Game），只不过传递的不是耳语，而是一个关于金钱的故事。

设定： 研究人员创建了一系列“代际”相连的 AI 链条。
第一步： 他们向 AI 展示几个玩信任博弈的例子（例如：“A 寄了 5 美元，B 退回了 2 美元”）。
AI 的回合： AI 观察这些例子并预测：“如果我是 B，我会退回多少？”假设它预测为 40%。
循环： 研究人员将这个 40% 的预测结果用于生成新的、虚构的玩游戏的人类案例。然后，他们将这些新的例子喂给链条中的下一个 AI。
结果： 他们重复这个过程 30 次。

为什么要这样做？
想象一下，你试图通过观察一群人反复玩游戏来猜测他们的“平均人格”。起初，结果可能看起来很随机。但如果你不断将结果向下传递，那些“噪音”就会消失，剩下的就是 AI 关于信任运作方式的深层本能（或称“先验知识”）。这就像是在调频收音机，直到杂音消失，你听到真正的电台信号。

他们的发现

1. 有些 AI “像人”，有些则不然
研究人员测试了 20 种不同的 AI 模型。他们将发现的 AI “信任设置”与数千名真实人类的平均信任设置进行了对比。

获胜者： GPT-4.1 与人类行为最接近。它的“信任旋钮”设置几乎与人类设置的位置完全一致。
失败者： 其他一些模型要么过于吝啬（退回极少的钱），要么有着奇怪的分裂人格（有时非常信任，有时又非常怀疑）。

2. “风险”之间的联系
他们注意到一个有趣的现象：那些被评定为“更具冒险性”（更有可能冒险或发表大胆言论）的 AI 模型，实际上在信任博弈中表现得最像人类。那些极其严格遵守规则或规避风险的模型，在处理这种社交游戏时，表现得并不像真实的人类。

3. AI 根据“温暖度”和“能力”来评价他人
在研究的第二部分，他们使用最像人类的 AI（GPT-4.1）来与不同的“角色”（人格）进行博弈。

他们让 AI 与“医生”、“AI”、“埃隆·马斯克”、“马拉拉·优素福齐”等角色进行游戏。
发现： AI 对待每个人并不一样。对于它认为温暖（善良、体贴）和有能力（聪明、有技能）的人，它会退回更多的钱。
神奇公式： 研究人员根据两个要素构建了一个简单的数学公式：温暖度（Warmth）和能力（Competence）。
- 如果一个角色仅仅是“有能力”（聪明）但不“温暖”（善良），AI 对其信任度不高。
- 如果一个角色“温暖”但不“有能力”，AI 会对其信任度稍高。
- 黄金分割点： 如果一个角色既温暖又有能力（比如一位深受爱戴且聪明的导师），AI 的信任度会飙升。这与人类判断他人的方式完全一致。

总结

这篇论文表明，我们可以通过一个“金钱游戏”来窥探 AI 大脑内部，观察其隐藏的信任规则。

一些 AI 在涉及信任时，表现得已经非常像人类了。
这些 AI 根据我们所使用的同样两个标准来判断他人：他们善良吗？他们有能力吗？
这有助于我们理解，AI 不仅仅是一个计算器；它拥有我们可以测量和研究的社交“偏见”和本能。

这篇论文并未宣称：
作者并未声称这种方法可以解决 AI 安全问题、治愈心理健康问题或用于招聘员工。他们只是在说：“这是一种衡量 AI 如何思考信任的方法，以及我们在此过程中发现了什么。”

技术摘要：通过经济博弈诱导大语言模型的信任度先验

问题陈述

构建以人为本、值得信赖的 AI 需要“校准信任”（calibrated trust），即用户能够适度地依赖 AI 系统，既避免过度信任（自动化偏差），也避免信任不足（弃用）。实现这一目标的一个根本挑战在于表征 AI 系统本身对人类智能体所表现出的信任水平。虽然对 AI 的信任通常是通过自我报告的态度来研究的，但这些态度可能与行为信任存在分歧。此外，现有的行为研究通常假设 AI 缺乏意图性，将信任视为单向的（人对 AI）。然而，现代大语言模型（LLMs）展现出了复杂的社会能力，因此需要一个双向框架来研究 LLMs 如何回报信任。核心问题在于如何稳健地估计隐式“信任度先验”（trustworthiness prior）——即 LLM 关于在社会交互中应回报多少信任的归纳偏置。

方法论

作者提出了一种结合迭代上下文学习（Iterated In-Context Learning, Zhu & Griffiths, 2024a）与行为博弈论中的信任博弈（Trust Game, Berg et al., 1995）的新颖诱导方法。

1. 形式化信任博弈

信任博弈在贝叶斯框架内进行建模：

设置： 信任者（Trustor）向受托者（Trustee）发送金额 $x$ 。该金额被乘以因子 $m$ （设为 3）。受托者决定返回多少金额 $y$ 。
信任度指标： 定义为回报率 $r = y / (mx) $，其中$ r \in [0, 1]$。
生成模型： 回报金额 $y$ 被建模为二项分布 $y \sim \text{Binomial}(mx, r)$ ，其中 $r$ 是一个潜在的信任度参数。
先验： 信任度信念通过 Beta 先验 $p(r) = \text{Beta}(\alpha, \beta)$ 来捕捉。

2. 迭代上下文学习程序

为了诱导模型的隐式先验 $p(r)$ ，作者模拟了一个基于提示词（prompts）的马尔可夫链：

信息瓶颈： 在每次迭代 $t$ ，LLM 会获得一组基于前一次迭代估计的信任度 $\hat{r}_{t-1}$ 生成的有限批次（ $B=5$ ）过往社会交互数据（ $D_{t-1}$ ）。
推理： 通过提示词引导 LLM 预测在给定新场景（例如收到 100 个 token）时，受托者会返回多少比例的资金，从而有效地估计后验均值 $\hat{r}_t$ 。
生成： 这个新的估计值 $\hat{r}_t$ 被用于参数化二项分布，以生成下一批次的交互数据 $D_t$ 。
收敛： 通过重复迭代，估计出的 $\hat{r}$ 分布会收敛到模型的底层先验分布 $p(r)$ ，且独立于初始种子值。这一过程隔离了模型的归纳偏置，使其不受特定记忆数据的干扰。

3. 实验设计

实验 1： 评估了 20 个 LLM（包括 GPT-4/5, Claude-3.5, Gemini-2.5, Llama-3/4, Qwen-2.5/3, DeepSeek 等）。每个模型运行了 270 条链（30 个种子 $\times$ 30 次重启）以确保收敛（通过 Gelman–Rubin 诊断指标 $\hat{R} \leq 1.1$ 进行验证）。
实验 2： 专注于 GPT-4.1（被确定为最像人类的模型），以测试对信任者人格角色（Trustor Personas）的敏感性。人格角色包括职业角色（如医生、AI）和公众人物（如埃隆·马斯克、圣雄甘地）。
建模变体： 构建了一个线性回归模型，根据温暖度（感知到的意图）和能力（感知的能力）来解释信任度的变化，遵循 Fiske (2018) 的刻板印象内容模型。

关键结果

1. 诱导信任度先验

收敛性： 所有模型都表现出快速收敛，通常在 20 次迭代内趋于稳定。
预测有效性： 诱导出的先验显著优于均匀先验和人类衍生的元分析先验（Johnson & Mislin, 2011），在预测模型自身的单次博弈互惠行为方面表现更佳（具有最低的 RMSD 和最高的 Pearson's $r$ ）。
人类对齐： GPT-4.1 表现出最强的人类信任分布对齐性，其 KL 散度（ $D_{KL} = 0.130$ ）相对于人类基准最低。
模型差异性： 其他模型表现出不同的模式：
- 一些模型（如 Qwen2.5-72B, Llama-3.1-70B）表现出双峰先验，表明存在混合的策略反应。
- 其他模型（如 Grok-4.1-Fast, GPT-5.2）表现出系统性的信任度下移（ $r < 0.372$ ），表明其平均信任度低于人类基准。
相关性： 研究发现 KL 散度（与人类的对齐程度）与平均风险得分（ARS）之间存在负相关（ $r = -0.58$ ），这表明风险倾向较高的模型更接近人类的信任先验。未发现与指令遵循能力（IFEval）或通用推理能力（LMArena）评分的显著相关性。

2. 对人格角色的敏感性

人格效应： GPT-4.1 诱导出的信任度随人格角色而发生系统性变化（平均 $r$ 在 0.298 到 0.447 之间）。例如，对马拉拉·优素福扎伊的信任度高于对马克·扎克伯格的信任度。
温暖度与能力： 使用温暖度（ $W$ $W$ ）和能力（ $C$ $C$ ）作为预测因子的回归模型解释了诱导信任度 81% 的方差（ $R^2 = 0.81$ $R^{2} = 0.81$ ）。
- 温暖度主导： 温暖度的主要效应（ $\beta_1 \gg \beta_2$ ）显著大于能力。
- 交互作用： 显著的交互项（ $\beta_3$ ）表明，当能力与温暖度结合时，会显著提升信任度。

核心贡献

方法论创新： 本文通过将迭代上下文学习应用于信任博弈，提出了一种从 LLM 中诱导隐式信任度先验的方法，超越了自我报告，实现了行为层面的操作化。
经验特征化： 它提供了 20 个领先 LLM 信任度先验的基准，揭示了虽然某些模型（如 GPT-4.1）能紧密追踪人类先验，但其他模型则表现出独特的策略性或偏差模式。
替代效用： 它证明了 GPT-4.1 可以作为研究社会偏差的人类参与者的替代方案，因为其信任判断对人格特征具有敏感性，且符合人类社会心理学规律。
理论对齐： 研究结果证实，LLM 的信任度判断可以由与人类社会感知相同的刻板印象维度（温暖度和能力）进行建模。

重要性与主张

本文主张，表征 AI 系统的信任度对于实现安全且有效的人机协作至关重要。通过将 LLM 视为能够回报信任的智能体，作者认为信任博弈提供了一个必要的双向框架，用于研究人机交互。

作者谦虚地声称，他们的方法成功地恢复了 LLM 关于社会交换的“归纳偏置”。他们指出，像 GPT-4.1 这样的模型可以作为人类群体的替代物，使研究人员能够在无需承担招募人类受试者的物流负担的情况下，研究一般公众的信任判断如何随智能体特征而变化。

这项工作强调，LLM 的信任度并非单一属性，而是随模型架构而异，并对社会语境（人格角色）具有敏感性。作者总结道，理解这些神经表征的信任度（可能可以通过开源权重模型获取）是设计更值得信赖的 AI 系统的可行途径，尽管他们也承认这些先验在不同投资水平和交互语境下的稳定性存在局限性。