📈 economics

Sensitivity to Subjective Expected Utility Maximization: A Methodological Study, with an Illustrative Application to LLM Decision-Making

本文介绍了一个通过使用 softmax 选择模型来衡量智能体对主观期望效用（SEU）最大化敏感度的 metodological 框架，通过严谨的贝叶斯验证建立了可识别性结果和有限样本限制，并证明了该方法在检测大型语言模型在保险任务和瓮中选择任务中存在结构化决策差异方面的实际效用。

原作者： Jeff Helzner

发布于 2026-07-15

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Jeff Helzner

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正在给一个学生的数学测试评分，但你手里没有标准答案。你不能只看他们是否得到了正确的数字，你必须观察他们的思考方式。他们是遵循了逻辑规则，还是仅仅在瞎猜？这篇论文构建了一个特殊的“逻辑检测器”来精确测量这一点，只不过它测试的对象不是人类学生，而是巨大的 AI 大脑（如 GPT-4o 和 Claude），甚至是人类决策者。

问题所在：缺失的标准答案

通常，要判断一个决策是否“好”，我们会看结果。这场赌博赢了吗？保险理赔通过了吗？但作者认为这是一个陷阱。一个好的结果可能是因为运气，而一个坏的结果也可能发生在你做出了完美选择之后。这就像抛硬币：如果你猜“正面”而结果确实是正面，你只是运气好，并不一定代表你聪明。

因此，作者问道：我们能否在不知道结果的情况下判断过程？他们说可以，方法是通过检查一致性（consistency）。如果一个智能体（人或 AI）声称遵循“主观期望效用”（Subjective Expected Utility，一种高级说法，意为“我选择基于我的信念具有最佳平均回报的选项”）的规则，那么他们的选择应该呈现出特定的、可预测的模式。

工具：“灵敏度旋钮”

为了衡量这一点，作者发明了一个叫做 $\alpha$ (alpha) 的旋钮。你可以把它想象成一个“逻辑灵敏度旋钮”。

旋钮调到最低 ( $\alpha = 0$ )： 智能体完全是随机的。他们选选项的方式就像蹒跚学步的孩子在转轮盘。他们根本不在乎数学逻辑。
旋钮调到最高 ( $\alpha = \infty$ )： 智能体是一个完美的机器人。他们总是选择数学上的最优选项，每一次都是。
旋钮在中间： 这是现实生活（以及真实的 AI）所处的状态。他们试图保持逻辑，但有时会被分心、困惑，或者仅仅是犯了错误。

这篇论文的主要任务是构建一台机器，能够转动这个旋钮并准确读取数值，即使我们不知道该智能体实际的信念或偏好。

大惊喜：“盲点”

在这里，论文变得非常有趣了。作者试图弄清楚，他们是否也能同时测量智能体的信念（他们认为会发生什么）和价值（他们对结果有多喜爱）。

他们运行了数千次计算机模拟来进行测试。结果如何？这台机器在测量“逻辑旋钮” ( $\alpha$ ) 时表现出色，但在面对信念和价值时却撞到了墙。

想象一下，你试图仅通过观察一位面包师烤蛋糕的过程，来弄清楚这位面包师对糖的热爱程度与对面粉的热爱程度之间的比例。如果他们每次都能做出味道完美的蛋糕，你知道他们是一位优秀的烘焙师（高灵敏度）。但你无法分辨他们是用了大量的糖和少量的面粉，还是用了少量的糖和大量的面粉，因为这两种组合都能做出同样的蛋糕。

论文证明了，仅凭“不确定性选择”（即概率不明确的情况），数据就像那个蛋糕一样。你可以精确测量逻辑旋钮，但信念和价值的设置却陷入了“迷雾”之中。它们如此混杂在一起，以至于计算机无法将它们区分开来，即使拥有大量数据也是如此。论文明确排除了这样一种可能性：即我们仅通过在黑暗中观察人们的选择，就能轻松分离这三者。

“风险”实验

作者们想到了：“如果我们给智能体一些概率明确（例如已知的彩票）的选择呢？也许这能拨开迷雾？”

他们构建了第二个模型来测试这一点。

理论上： 是的，在一个完美的、无限的世界里，通过了解明确的概率，我们应该能够推断出价值。
现实情况（模拟）： 在现实世界中，在具有现实规模的数据量下，增加这些明确的选择几乎没有任何帮助。这就像试图通过增加一个微小的、清晰的像素来修复一张模糊的照片。这种提升甚至不到 1%。论文表明，拥有不同类型的数据远不如拥有更多的数据重要。

测试 AI 大脑

最后，他们将他们的“逻辑检测器”应用于两个著名的 AI 模型：GPT-4o 和 Claude 3.5 Sonnet。他们让这些 AI 在两种场景下做出决策：

保险理赔： 决定调查哪些保险理赔。
瓮中博弈（Urn Gambles）： 在装有彩色球的罐子之间进行选择（有些罐子里的混合比例是已知的，有些则是神秘的）。

他们还调整了 AI 的“温度”（Temperature，一个让 AI 变得更随机或更有创造力的设置）。

他们的发现如下：

GPT-4o： 当他们让 AI 变得更加随机（提高温度）时，其“逻辑旋钮” ( $\alpha$ ) 会持续下降。它变得不再逻辑化，而是更加随机，这完全符合数学预测。这在保险任务和瓮中博弈任务中都发生了。
Claude： 当他们对 Claude 进行同样的操作时，其“逻辑旋钮”并没有呈现出清晰的模式。它忽高忽低地波动。

结论： 论文非常谨慎，并没有说“GPT-4o 更聪明”。相反，它指出：“当我们让 GPT-4o 变得更随机时，其逻辑一致性会呈现出可预测性的下降，但我们无法在 Claude 中检测到同样的模式。”然而，他们也警告说，对于 Claude 来说，测试可能过于模糊，以至于无法观察到答案。这就像是在嘈杂的房间里试图听清一声细语；如果你没听到，要么是因为它确实很安静，要么是因为它对你的耳朵来说太小声了。论文明确排除了他们已经证明 Claude 是“不合逻辑”的观点；他们只是无法证明 Claude 是“合逻辑”的。

总结

这篇论文为我们提供了一种新的、严谨的方法，来衡量一个智能体（人类或机器）在多大程度上遵循理性决策的规则。

它是有效的： 我们可以非常精确地测量“逻辑灵敏度” ( $\alpha$ )。
它有局限性： 我们无法仅通过观察选择行为，就轻易分离出智能体的信念与价值，除非我们拥有海量的、非常特定的数据。
它是诚实的： 论文拒绝声称它已经解决了 AI 理性性的谜团。它只说：“这里有一个行之有效的工具，这里是它能看到的，这里是它变盲的地方。”

作者们并没有找到一个能让 AI 变得完美理性的魔法开关，但他们制造了一把非常好的尺子，用来衡量 AI 离理性有多近。而有时候，准确知道你到底不知道什么，才是最有价值的发现。

技术摘要：对主观期望效用最大化的敏感性

问题陈述
在标签化结果稀缺、成本高昂或受运气干扰时，评估不确定性下决策的质量是极其困难的。传统的“基于标签”的评估依赖于一个关于正确选择或实现结果的外部标准（key）。然而，这类标准往往难以构建（例如在保险理赔分诊或新颖领域中），并且作为决策质量的衡量标准存在根本缺陷，因为好的结果并不保证好的决策（结果取决于偶然性，而非仅仅取决于决策过程）。

本文提出了一种“基于一致性”的评估框架。它不再询问智能体是否选择了“正确”的选项，而是询问智能体的选择是否与一个既定的理性标准保持一致：即主观期望效用（SEU）最大化。其目标是衡量智能体的选择追踪 SEU 排名的程度，并将这种“敏感性”从智能体特定的信念内容、效用内容以及它们偶然实现的实际结果中分离出来。

方法论
本文开发了一个以应用于 SEU 值备选方案的 softmax 选择模型为核心的方法论流程。

模型： 核心载体是一个 Luce–McFadden softmax 规则，其中选择备选方案 $r$ 的概率与 $\exp(\alpha V(r))$ 成正比。这里， $V(r)$ 是备选方案的期望效用， $\alpha \ge 0$ 是一个标量敏感性参数。
- $\alpha = 0$ ：均匀随机选择（对效用不敏感）。
- $\alpha \to \infty$ ：确定性 SEU 最大化（完美敏感）。
- 中间值 $\alpha$ ：衡量选择追踪期望效用的程度的梯度度量。
参数化：
- 信念 ( $\beta$ )： 主观概率通过从特征向量到线性-softmax 映射生成。
- 效用 ( $\delta$ )： 效用由具有固定端点（0 和 1）的有序增量构建，以解决仿射不确定性问题。
- 敏感性 ( $\alpha$ )： 我们最感兴趣的核心量，代表智能体执行其承诺的倾向。
两种模型：
- 模型 $m_0$ （仅限不确定性选择）： 智能体在具有主观概率的备选方案中进行选择。
- 模型 $m_1$ （扩展至风险选择）： 智能体还在具有客观概率（随机性）的备选方案（赌注）中进行选择。这允许通过“无风险”方式识别效用 ( $\delta$ )，因为客观随机性不依赖于信念参数 $\beta$ 。
计算验证： 作者使用 Stan 实现了这些模型，并使用严谨的贝叶斯工作流进行了验证：
- 先验预测检查： 确保先验分布允许合理的行为范围。
- 参数恢复： 通过从已知参数生成模拟数据来测试模型能否恢复这些参数。
- 模拟基于校准 (SBC)： 验证后验分布是否经过校准（真实参数的排名是否呈均匀分布）。

核心贡献与发现

1. 可识别性与可估计性的差距
本文提供了一个形式化的可识别性分析，揭示了在现实样本量下，理论上的可识别性与实际上的可估计性之间的关键区别。

对于 $\alpha$ （敏感性）： 给定非恒定值， $\alpha$ 从期望效用向量 $\eta$ 中是可识别的。在实践中，即使在其他参数难以识别的情况下， $\alpha$ 也能以高精度和低偏差被恢复。
对于 $\delta$ （效用）： 在仅含不确定性选择的模型 ( $m_0$ ) 中，信念 ( $\beta$ ) 与效用 ( $\delta$ ) 仅受到数据的弱信息驱动；它们相互权衡，导致后验分布呈现宽泛且相关的特征。
扩展模型 ( $m_1$ ) 的局限性： 虽然增加风险选择在理论上可以识别 $\delta$ （通过打破 $\beta$ - $\delta$ 的耦合），但本文发现，在现实样本量下，这种理论上的可识别性带来的实际收益微乎其微。 $\delta$ 置信区间宽度的缩减不足 1%，且 RMSE 保持不变。
对于 $\alpha$ 的精度： 与“更好的”数据类型（风险型 vs 不确定型）能提高精度的直觉相反，研究发现， $\alpha$ 的有限样本精度是由数据量驱动的，而非选择类型。将不确定性选择的数量翻倍会显著提升 $\alpha$ 估计值的精确度，而将等量的选择替换为风险类选择则不会产生可检测到的精度增益。

2. 边缘 SBC 的界限
作者提出了一个至关重要的诊断性见解：边缘 SBC 通过并不意味着联合后验校准。

标准的 SBC 检查（排名均匀性）对所有参数 ( $\alpha, \beta, \delta$ ) 在两种模型中均通过了测试。
然而， $(\beta, \delta)$ 的联合后验分布仍然表现为弱收缩且高度相关（即弱信息驱动）。
结论： 一个模型可以在边缘层面是完美校准的（每个参数在孤立状态下看起来都是正确的），但其联合分布可能仍然是未解决的。边缘 SBC 对这种弱联合信息性是盲目的。

3. 对 LLM 的说明性应用
该框架被端到端地应用于 GPT-4o 和 Claude 3.5 Sonnet 在两项任务（保险理赔分诊和 Ellsberg 式瓮中博弈）中的决策数据。

工作流： 该流程成功恢复了真实 LLM 选择中的 $\alpha$ ，并通过诊断确认了模型的充分性（除了对扰动参数 $\beta, \delta$ 的弱推断外）。
结果：
- GPT-4o： 在两项任务中均表现出随着采样温度增加，敏感性 ( $\alpha$ ) 呈现结构性的、单调的下降趋势。该效应在统计上是稳健的 ( $P(\text{slope} < 0) \approx 0.99$ )。
- Claude 3.5： 在两项任务中均未表现出单调模式。
- 关键提示： 本文明确指出，Claude 缺乏模式的表现是一个不确定的零结果（inconclusive null），而非证明了效应不存在。本研究的分辨率（最小可检测效应）不足以排除 Claude 存在与 GPT-4o 规模相当效应的可能性。该工具是“拒绝支持”某种效应，而非“证实”其不存在。
解释： 结果支持一个设计内的比较性主张（在特定条件下，GPT-4o 比 Claude 对 SEU 更敏感），但不支持关于哪个模型在脱离语境的意义上“更理性”的绝对性主张。

意义与范畴
本文定位为一项方法论贡献，而非 LLM 行为科学或决策理论方面的实质性突破。

概念层面： 它将“对 SEU 最大化的敏感性”提供了一种原则性的阐释，将其视为一种渐进的、可测量的倾向，并将其与信念、效用及结果区分开来。
方法论层面： 它证明了可识别性分析是必要的，但对于设计实验而言是不充分的；有限样本的精度取决于数据量和设计的具体细节，而非仅仅取决于理论上的可识别性。它还澄清了边缘 SBC 在诊断联合后验几何结构方面的局限性。
局限性： 本文明确避免了对规范性问题（例如，SEU 是否是正确的标准）的评判，也避免了测试模糊性规避（模型会将模糊性吸收进信念或噪声中）。它并不声称是在测量绝对意义上的“理性”，而仅是测量在特定设计下对既定标准的符合程度。

总而言之，本文提供了一个透明且可复用的框架，用于根据理性标准评估决策者，在严格验证测量工具的同时，也明确报告了其有限样本下的局限性与分辨率限制。