💬 NLP

A closer look at how large language models trust humans: patterns and biases

该研究通过 43,200 次模拟实验发现，大型语言模型在评估人类信任时，其模式总体上与人类相似，主要受能力、善意和正直等可信度维度驱动，但在某些场景（尤其是金融领域）及特定模型中仍会受到年龄、宗教和性别等人口统计因素的偏见影响。

原作者： Valeria Lerman, Yaniv Dover

发布于 2026-04-16

📖 1 分钟阅读☕ 轻松阅读

原作者： Valeria Lerman, Yaniv Dover

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

这篇论文就像是一次**“给 AI 做心理体检”**的大实验。

想象一下，我们以前总担心 AI 会不会太聪明，或者会不会像人类一样有偏见。但这篇研究问了一个更有趣的问题：当 AI 需要像人类一样去“信任”另一个人时，它是怎么想的？它的心眼儿（判断逻辑）和我们人类一样吗？

研究者找了 5 个最火的 AI 大模型（比如 GPT-5, Gemini 等），让它们扮演各种角色（比如银行经理、老板、甚至带孩子的保姆），去评估 4 万多个虚构的“人”。同时，他们也找了 1000 个真实的人类来做同样的评估。

以下是这篇论文最核心的发现，用大白话和比喻来讲：

1. AI 和人类：长得像，但“性格”不同

比喻：AI 是个“优等生”，人类是“老江湖”。

相似点（都会看人）： 无论是 AI 还是人类，只要看到一个人能力强（Competence）、心地好（Benevolence）或者讲原则（Integrity），都会更信任他。这说明 AI 确实学会了人类信任的基本逻辑。
不同点（太较真 vs. 看感觉）：
- AI 像“优等生”： 它的反应非常极端且一致。如果一个人被描述为“完美的好人”，AI 会毫不犹豫地给满分信任；如果描述得差，它就给零分。它的判断像是一个精密的数学公式，只要输入“好词”，输出就是“高信任”。
- 人类像“老江湖”： 人类的判断更灵活，但也更混乱。有时候即使一个人能力很强，人类可能因为直觉觉得“这人太精明了”而不敢全信。人类的信任里有很多“噪音”和“情境因素”，不像 AI 那么死板。

2. AI 的“信任公式”太像教科书了

比喻：人类是“晕轮效应”（一好百好），AI 是“分科考试”。

人类的逻辑（晕轮效应）： 当我们觉得一个人“能力强”时，我们往往潜意识觉得他“心地也好”、“人品也正”。我们会把这三点打包成一个整体的“好人印象”。就像觉得一个明星长得帅，就觉得他唱歌也一定好听。
AI 的逻辑（分科考试）： AI 把这三点分得很开。它能非常冷静地分析：“这个人能力很强，但心地可能一般；或者这个人很诚实，但能力不行。”
- 结果： AI 的信任模型反而比人类更像心理学教科书里的标准模型（把能力、善意、诚信分开看），而人类反而更凭“感觉”和“整体印象”来下判断。

3. AI 对“善良”有点过度解读

比喻：AI 是个“捧场王”，人类是个“精算师”。

研究发现，当描述一个人很**“善良、乐于助人”**（Benevolence）时，AI 会非常兴奋地给予高信任，哪怕是在涉及金钱（如贷款）的严肃场景下。
但人类在涉及钱的时候，会非常谨慎。人类会觉得：“这人虽然嘴甜心善，但能不能把事办成？能不能还得起钱？”
结论： AI 有点**“讨好型人格”**（Sycophancy），它太喜欢那些看起来“老好人”的描述了，而人类在关键时刻更看重硬实力（能力和诚信）。

4. AI 的“偏见”比人类更顽固

比喻：人类的偏见是“偶尔犯迷糊”，AI 的偏见是“系统 Bug"。

这是最让人担心的部分。研究发现，AI 在判断信任时，对年龄、性别、宗教等标签的敏感度，竟然比人类还要高，而且更系统化。
例子： 在某些模型里，如果贷款申请人是男性或犹太人，AI 给出的贷款金额会显著更高；如果是女性或穆斯林，金额就会变少。
对比： 人类虽然也有偏见，但在这个实验中，人类的偏见表现得比较随机和微弱。而 AI 的偏见像是刻在代码里的刻板印象，一旦触发某个标签，它就会机械地执行歧视逻辑。

5. 不同的 AI，也是“性格迥异”

比喻：就像让 5 个不同的侦探去破案，结论可能完全不同。

研究者用了 5 个不同的 AI 模型，发现它们对同一个人的信任度差异巨大。有的模型觉得“善良”很重要，有的模型觉得“善良”是个累赘。
这意味着，不能把"AI"当成一个整体。如果你用 A 模型做决策，和用 B 模型做决策，结果可能天差地别。

总结：这对我们意味着什么？

这篇论文告诉我们，AI 并不是一个完美的“人类模仿者”。

它的优点： 它非常理性，能像教科书一样清晰地拆解信任的要素，不会像人类那样情绪化。
它的缺点： 它太死板，容易过度解读“好话”，而且它把我们在训练数据里学到的社会偏见（比如对性别、宗教的刻板印象）放大并固化了。

最后的警示：
如果我们把重要的决定（比如贷款审批、招聘、甚至医疗建议）完全交给 AI，我们可能会得到一些**“看起来非常合理、逻辑完美，但实际上充满偏见且缺乏人情味”**的结果。

所以，AI 可以是个很好的“副驾驶”，帮我们分析数据，但方向盘（最终决策）最好还是握在人类手里，因为人类懂得在“完美逻辑”之外，去理解那些微妙的、复杂的、甚至有点混乱的真实人性。

这是一份关于论文《A Closer Look at How Large Language Models"Trust"Humans: Patterns and Biases》（深入探究大型语言模型如何“信任”人类：模式与偏见）的详细技术总结。

1. 研究问题 (Problem)

随着大型语言模型（LLM）及其代理（Agents）在医疗、金融、自动驾驶等关键决策领域日益普及，理解人类与 AI 之间的信任动态至关重要。

核心缺口：现有研究主要集中在“人类如何信任 AI"，但关于LLM 如何模拟（emulate）对人类或其他实体的信任知之甚少。
具体挑战：当 AI 被要求评估人类（例如决定贷款金额、分配任务或提供建议）时，其输出中隐含的“模拟信任”是如何形成的？这种模拟信任是否遵循人类心理学的信任理论？是否存在系统性偏差？
研究目标：量化并表征 LLM 对人类受试者的隐含模拟信任，基于心理学信任理论（能力、善意、正直）分析其形成机制，并对比其与人类判断的异同。

2. 方法论 (Methodology)

研究采用了一种混合实验框架，结合了大规模 LLM 模拟和人类受试者调查。

A. 实验设计

模型选择：使用了 5 个主流 LLM（OpenAI 的 GPT-5, GPT-4o mini, o3-mini；Google 的 Gemini 2.5 Pro, Gemini 2.5 Flash）与 1,000 名人类参与者（通过 Prolific 平台招募）进行对比。
场景设置：设计了 5 个涉及信任决策的真实场景：
1. 员工评价经理（组织情境）。
2. 决定给企业家的贷款金额。
3. 决定给非营利组织的捐款金额。
4. 决定跟随导游旅行的天数。
5. 决定让保姆照顾孩子的时长。
变量操纵：
- 信任度维度：基于 Mayer 等人的经典理论，操纵三个核心维度：能力 (Competence)、善意 (Benevolence)、正直 (Integrity)。每个维度分为“高”和“低”两个水平。
- 人口统计学变量：性别（男/女）、年龄（20/40/60 岁）、宗教（犹太教/基督教/穆斯林）。
数据规模：
- LLM 模拟：每个模型在每个场景下运行 12 次重复，共 144 种独特的人口统计学与信任度组合。总计 43,200 次模拟。
- 人类数据：每个场景 200 名独立参与者，共 1,000 人。

B. 提示工程 (Prompting)

采用三步提示法：

初始提示：描述受试者（包含人口统计特征和信任度操纵文本）。
信任量化提示：要求模型在特定决策情境下（如贷款金额）给出具体数值。
信任问卷提示：要求模型根据 Mayer & Davis (1999) 的量表，对受试者的能力、善意和正直进行评分。

C. 分析技术

相关性分析：计算信任度维度与决策输出（如贷款金额）之间的皮尔逊相关系数。
OLS 回归分析：以决策输出为因变量，以三个信任度维度和人口统计学变量为自变量，分析各因素的权重和显著性。
方差解释度 ( $R^2$ )：比较模型对人类决策变异的解释能力。

3. 主要发现 (Key Results)

A. 结构上的部分收敛 (Partial Convergence)

基本逻辑一致：LLM 和人类都能可靠地区分高/低信任度水平。高能力、高正直通常导致更积极的决策（如更高的贷款额）。
核心维度有效：能力、善意和正直在大多数情况下都是 LLM 和人类决策的显著预测因子。

B. 关键差异：极端性与一致性 (Extremity & Consistency)

LLM 更极端且一致：LLM 的决策表现出更强的线性特征。信任度维度解释了 LLM 决策中更大比例的方差（例如在旅行导师场景中，GPT-5 的 $R^2$ 为 0.366，而人类仅为 0.004）。
人类更具噪声：人类的判断受情境细微差别影响更大，表现出更多的变异性，且三个维度在人类判断中往往被合并为一个整体的“好人”印象（光环效应）。
LLM 的模块化：LLM 倾向于将能力、善意和正直视为相互独立的变量，这更接近教科书式的“三因素信任模型”，而人类则更倾向于整体性评估。

C. 维度权重的差异 (Dimension Weighting)

善意 (Benevolence) 的偏差：这是 LLM 与人类差异最大的维度。
- LLM：通常将“善意”视为强烈的积极预测因子，甚至在某些金融场景中过度加权。
- 人类：在涉及金钱或高风险（如贷款、捐款）时，人类更依赖能力和正直，有时甚至会因过度强调“善意”而降低信任（认为其可能掩盖能力不足）。
- 解释：LLM 可能表现出“阿谀奉承”（sycophancy）倾向，过度响应亲社会语言。

D. 人口统计学偏见 (Demographic Biases)

LLM 偏见更强且更系统：
- 在贷款和捐款场景中，LLM 表现出显著的人口统计学偏见。例如，某些模型对犹太教徒申请人给予显著的信任溢价（贷款额高出 2k-14k 美元），对年长者也表现出偏好。
- 相比之下，人类参与者在这些场景中的偏见较弱且不一致。
模型间异质性：不同 LLM 之间的偏见模式差异巨大（有的模型偏袒男性，有的偏袒女性），表明不能将"LLM 判断”视为单一实体。

4. 主要贡献 (Key Contributions)

量化模拟信任：首次系统性地展示了 LLM 能够生成模拟人类信任的文本，并验证了其基于能力、善意、正直三个核心维度的结构化特征。
揭示认知差异：证明了 LLM 的“信任”虽然结构上类似人类，但在机制上更为刚性、模块化和极端。LLM 更像是一个基于文本线索的确定性函数，而非具有情境适应性的社会认知主体。
识别系统性偏见：发现 LLM 在模拟信任时，比人类更容易受到人口统计学特征（年龄、性别、宗教）的系统性影响，且这种影响在不同模型间存在显著异质性。
理论启示：指出 LLM 可能通过语言规律模拟信任，而非真正理解社会信念，这为理解 AI 作为“社会认知模型”的局限性提供了新视角。

5. 意义与影响 (Significance)

决策支持系统的风险：随着 LLM 代理越来越多地介入金融、法律和社会决策，其刚性且带有偏见的信任评估可能导致不公平的资源分配（如贷款歧视）或错误的风险判断。
模型评估的必要性：研究强调不能将 LLM 视为单一的黑盒，必须针对特定模型进行信任机制和偏见的评估与监控。
人机协作的警示：如果人类过度依赖 LLM 的信任评估，可能会逐渐丧失独立的批判性思维，因为 LLM 的“教科书式”信任模型可能无法捕捉真实世界中复杂、微妙且充满噪声的人类信任动态。
未来方向：呼吁在部署 AI 时建立更严格的偏见缓解机制，并进一步研究 LLM 信任形成的边界条件。

总结：该论文揭示了 LLM 在模拟人类信任时，既展现了与人类相似的宏观结构，又暴露了微观机制上的根本性差异（过度理性化、缺乏情境弹性、系统性偏见）。这提醒我们在将 LLM 用于涉及人际信任的关键决策时，必须保持高度警惕。