📈 economics

Explanation Depth and Trust Calibration in AI-Driven Financial Advice: A Behavioural Experiment

这项行为实验揭示了，虽然增加人工智能金融建议的解释深度最初会提升过度信任，但这并不能保证实现校准后的信任，并且由于流畅度诱导的轻信，可能会意外地增加具有金融专业知识的用户群体的过度依赖。

原作者： Shivanshu Kashyap, Nikita Srivastava

发布于 2026-06-29

📖 1 分钟阅读☕ 轻松阅读

原作者： Shivanshu Kashyap, Nikita Srivastava

原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正在向一个非常聪明、非常自信的机器人寻求财务建议。你想知道：我应该在多大程度上信任这个机器人？

这篇论文就像是一个实验室实验，研究人员测试了这一点。他们想看看，给机器人一个“更长、更华丽的解释”是否会让人们更加信任它，即便机器人在出错时也是如此。

以下是他们发现的研究结果，通过简单的概念和类比进行了拆解。

设置：“机器人厨师”实验

研究人员设计了一个由 100 人参与的游戏。他们扮演“机器人厨师”（AI），给出 12 条不同的财务建议。

有些建议是正确的（比如“多吃蔬菜”）。
有些建议是错误的（比如“吃石头对健康更好”）。

转折点在于，机器人厨师以三种不同的风格给出这些建议：

低深度（Low Depth）： 只是一个简短的指令。“吃蔬菜。”
中等深度（Moderate Depth）： 一个解释为什么的小段落。“吃蔬菜，因为它们含有维生素，有助于你的身体抵抗疾病。”
高深度（High Depth）： 一个超级详细、技术性的讲座。“吃蔬菜，是因为特定的微量营养素密度、胃部的 pH 平衡以及细胞呼吸的热力学效率……”

研究人员想要观察：如果机器人厨师为一个糟糕的想法给出了一个又长又华丽的解释，人们会相信它吗？

重大发现：“危险区”

最令人惊讶的发现是，更多的解释并不总是更好的。 事实上，存在一个“危险区”。

当解释很短时（低深度）： 人们持怀疑态度。他们不太相信那些错误的建议。他们心想：“这回答太简短了，我不买账。”
当解释超级长且具有技术性时（高深度）： 人们仍然保持一定的怀疑。大量的文字让他们停下来思考：“哇，这么多字。这是真的吗？”
当解释处于“中等”水平时（危险区）： 这才是棘手的地方。这个解释长度刚好足以听起来既聪明又具有说服力，但又不至于长到让人感到不知所措。
- 结果： 在这个“中等”区间内，人们不再区分好的建议和坏的建议。他们对坏建议的信任程度几乎与好建议一样高。
- 类比： 把它想象成一个魔术师。如果魔术师说“看好了”，你会怀疑；如果魔术师在表演技巧的同时，还进行了一场 20 分钟的量子物理学讲座，你可能会感到困惑并产生怀疑。但如果魔术师给出一个恰到好处、流畅且自信的 30 秒解释，你最有可能相信这个戏法是真的，即使它是假的。这种“中等”程度的解释是谎言完美的伪装。

转折：“专家陷阱”

研究人员还观察了谁最容易被愚弄。他们原以为那些学习过金融的人（如会计师或投资者）会是最聪明、最不容易被欺骗的人。

他们错了。

发现： 拥有金融背景的人实际上更容易被那些长篇大论、华丽的解释所蒙蔽，甚至比普通人更容易受骗。
类比： 想象一个人说着流利的法语。如果一个陌生人用破碎、简单的法语说话，他可能会说：“这听起来不对劲。”但如果另一个陌生人用完美、复杂且学术化的法语说话，这位法语专家可能会想：“哇，这个人懂行！”然后便相信了对方而没有去核实事实。
原因： 研究人员称之为**“流畅度诱导的轻信”（Fluency-Induced Credulity）**。因为金融专家识别出了所有这些高级词汇（如“通货膨胀”或“供给与需求”），他们的脑部进入了“自动驾驶”模式。由于他们对这些语言感到熟悉，所以停止了批判性思考。他们信任的是解释的“听感”，而不是建议本身的“真相”。

总结

论文得出了关于我们如何构建和使用 AI 的几个明确教训：

更多的文字 $\neq$ 更多的真相。 仅仅因为 AI 给出了一个冗长、详细的解释，并不意味着它是正确的。事实上，“中等长度”的解释可能是最危险的，因为它会诱导我们产生自信感，却无法让我们进行深入思考。
专家并非免疫。 如果你对某个领域了解颇深，你反而可能更容易信任一个使用正确术语的机器人，即便这个机器人正在撒谎。你的熟悉感可能成为一个陷阱。
“危险区”确实存在。 在某个特定的细节水平上，我们分辨真伪的能力会失效。当 AI 给出的解释感觉“恰到好处”——既不过于简短，也不过于冗长时——我们需要格外小心。

简而言之：不要让华丽的解释误导你去相信一个糟糕的想法。有时候，最具有说服力的谎言，就是那个听起来足够聪明，从而让你停止追问的谎言。

技术摘要：AI驱动型金融建议中的解释深度与信任校准

问题陈述

随着人工智能驱动的智能投顾（Robo-advisors）快速融入金融领域，一个关键挑战在于信任校准（trust calibration）——即用户对AI系统的信心与其系统实际可靠性之间的匹配程度。虽然现有的可解释人工智能（XAI）文献通常认为提供解释可以增加用户的信任度和透明度，但目前缺乏关于解释的深度与复杂度如何影响用户行为的实证证据。具体而言，目前尚不清楚阐述AI推理过程究竟是减轻了过度信任（自动化偏差），还是在无意中加剧了这种偏差。当前的研究通常将解释视为一个二元变量（存在 vs. 不存在），而非研究解释深度这一连续的设计参数。本研究旨在填补这一空白，探讨不同水平的解释细节（低、中、高）如何影响金融咨询背景下的信任校准及对过度信任的易感性。

研究方法

本研究采用了被试内实验调查设计（within-subjects experimental survey design），以隔离解释深度对信任校准的因果效应。

参与者： 招募了 N = 100 名受访者作为便利样本。人口统计特征包括 57% 为女性，43% 为男性；其中 73% 年龄在 20–35 岁之间，27% 在 36–60 岁之间。至关重要的是，样本按领域专业知识进行了分层：18% 的受访者自认为具有正式金融背景（如 CA、MBA、CFA），而 82% 没有正式金融教育背景。
刺激材料： 参与者接触了 12 条 AI 生成的金融咨询陈述。这些刺激物在两个维度上进行系统性变化：
1. 解释深度：
  - 低（Low）： 简短的断言式建议，不提供理由。
  - 中（Moderate）： 结构化的解释，引用一般性原则（如多元化、风险管理）。
  - 高（High）： 详细的解释，即使在整体结论错误的情况下，也会在推理中嵌入准确的金融子概念（如 CPI 动态、购买力平价）。
2. 事实准确性： 陈述要么是事实正确的，要么是事实错误的。
程序： 参与者使用 5 点李克特量表（1 = 非常不同意，5 = 非常同意）对每条陈述的认同程度进行评分。
测量指标：
- 过度信任得分（Overtrust Score）： 对事实错误陈述的平均认同度。
- 信任不足得分（Undertrust Score）： 反映拒绝事实正确陈述的衍生测量值。
- 信任校准指数（Trust Calibration Index）： 正确校准响应的比例。
分析策略： 数据分析利用单因素重复测量方差分析（one-way repeated measures ANOVA）来测试解释深度的主效应，利用混合方差分析（mixed ANOVA）来测试其与金融背景的交互作用，并利用单样本 t 检验来识别在过度信任接近量表中点时的“校准危险区”。

核心结果

1. 解释深度对过度信任的非线性效应

单因素重复测量方差分析显示，解释深度对过度信任具有显著的主效应（ $F(2, 198) = 16.62, p < .001$ ）。

跃升： 在低和中解释条件下，过度信任呈现陡峭上升。
平台期： 中度和高度条件之间没有显著差异，这表明存在一种阈值效应，即额外的阐述在产生错误信心的方面收益递减。
不对称性： 该效应仅针对错误陈述。虽然对正确陈述的认同度也随深度增加而略有上升，但其效应量显著较小（ $\eta^2_g = .014$ 对比错误陈述的 $.059$），排除了普遍的顺从偏差（acquiescence bias）。

2. “校准危险区”

通过单样本 t 检验将过度信任得分与量表中点（3.0）进行比较，确定了一个关键发现：

低深度： 过度信任显著低于中性水平（ $M=2.34, p < .001$ ），表现出健康的怀疑态度。
高深度： 过度信任仍低于中性水平（ $M=2.72, p = .004$ ）。
中等深度： 过度信任与中性中点无显著差异（ $M=2.88, p = .188$ ）。这确定了中等深度为“校准危险区”，在此阶段，用户失去了区分准确与错误建议的能力。

3. 与金融背景的反直觉交互作用

与“领域专业知识将起到缓冲作用”的假设相反，研究发现解释深度与金融背景之间存在显著的交互作用（ $F(2, 196) = 4.18, p = .017$ ）。

具有金融背景的群体： 显示出从低深度（ $M=1.94$ ）到高深度（ $M=2.92$ ）的过度信任陡峭增长。
非金融背景群体： 轨迹较为平缓，在不同深度水平下的变化较小。
解释： 金融专业人士在解释深度较高时更容易受到过度信任的影响。作者将其归因于流畅度诱导的轻信（fluency-induced credulity）：对技术术语的熟悉激活了确认性联想，从而绕过了对错误结论的批判性评估。

4. 人口统计学零发现

基于年龄、性别或金融背景的信任校准未发现显著差异（作为主效应）。这表明观察到的失校现象主要是由 AI 通信的结构属性（解释深度）驱动的，而非个人人口统计特征。

5. 委任错误 vs. 遗漏错误（Commission vs. Omission Errors）

虽然过度信任与信任不足得分之间的差异在方向上与自动化偏差理论一致（委任错误 > 遗漏错误），但配对 t 检验结果处于边缘显著状态（ $p = .062$ ）。

核心贡献

本研究对 XAI 和行为金融学文献做出了三个主要贡献：

关于深度的实证证据： 研究证明解释深度并非线性受益；相反，它会显著增加金融建议中过度信任的可能性，尤其是在从低深度转向中等精度的过程中。
识别危险区： 实证确定了中等解释深度为一个“校准危险区”，此时解释足够详细以降低怀疑，但又不足以触发批判性审查，从而导致辨别能力的丧失。
专家悖论： 研究挑战了“领域专业知识能抵御 AI 失校”的假设。研究证据表明，由于流畅度诱导的轻信，金融专业人士在面对高深度解释时更容易受到过度信任的影响，这一发现将“专家的诅咒”与 AI 交互联系了起来。

重要性与启示

论文指出，目前的 XAI 设计范式（通常将“更多解释”等同于更好）需要修正。研究结果表明：

设计启示： 智能投顾开发者必须认识到，解释性的详尽化并不一定能建立校准后的信任。相反，它可能会产生一种虚假的理解感，尤其是在中等详细程度时。
监管启示： 监管框架应超越简单的披露要求，转而强制要求针对校准基准进行解释格式测试。系统不仅应评估透明度，还应评估其帮助用户区分可靠与不可靠建议的能力。
理论转向： 研究强调，值得信赖的 AI 必须是“具备校准能力的透明（calibratingly transparent）”。这意味着设计的解释应能真正使用户评估可靠性，而不是仅仅通过流畅度和技术术语来传递胜任感的信号。

作者总结道，实现这一标准是一个复杂的决策与治理挑战，它超越了信息提供本身，需要深入理解用户在高风险金融环境下处理 AI 生成解释时的认知机制。