技术摘要：从大型语言模型的主观选择中推断支付意愿

问题陈述

随着大型语言模型（LLMs）越来越多地被部署为旅游助手和购买支持等领域的自主智能体，它们经常需要做出不存在客观正确答案的主观决策。当前研究的一个关键空白在于，尚不清楚这些模型是否拥有稳健且可解释的决策边界，以及这些边界在多大程度上容易受到提示工程或用户上下文的影响。具体而言，目前尚不清楚 LLMs 在多大程度上能够表现出可以被量化并与人类经济基准进行比较的一致性潜在偏好，以及这些偏好是否可以被简单的提示变化系统性地改变。

研究方法

本研究采用基于离散选择模型的经济学框架来推断潜在偏好。该方法通过以下阶段进行：

1. 困境生成： 作者基于 Masiero 等人（2015）关于酒店客房选择的先前研究，构建了 240 个选择困境。每个困境呈现两个备选项（A 和 B），由七个属性定义：景观、楼层、进入酒店俱乐部的权限、免费迷你吧、宾客智能手机、取消政策和每晚价格。
2. 实验设计： 本研究评估了三种最先进的 LLM：Llama 3.3 70B、GPT-4o 和 Gemini-3.1-Pro。由于较小的模型解释能力差且存在系统性偏差，因此将其排除在外。实验在温度为 0 的条件下进行，以最大限度地减少随机噪声，尽管也进行了 0.7 温度下的鲁棒性检查。
3. 提示策略： 作者测试了四种不同的提示配置，以评估假设 2（上下文驱动的偏移）：
   • 基准（Baseline）： 不提供用户信息。
   • 语境学习（In-Context Learning, ICL）： 提供过去用户选择的示例（例如，一致选择更便宜或更昂贵的选项）。
   • 角色提示（Persona Prompting）： 分配特定的用户画像（例如，预算有限的学生对比公司支付费用的商务旅客）。
   • 组合（Combined）： 结合角色与 ICL 示例。
4. 数据建模： 使用多元逻辑回归模型对模拟选择进行分析。效用函数定义为 $U_c^{(i)} = \epsilon_c^{(i)} + \alpha_c + \beta_c \cdot x_c^{(i)}$。通过估计的系数 ($\beta$)，作者使用公式 $WTP_k = \frac{\beta_k \cdot \sigma_{price}}{\beta_{price} \cdot \sigma_k}$ 推导出了每个属性的支付意愿（WTP）值。
5. 鲁棒性分析： 研究包括了针对顺序偏差（交换备选项 A 和 B）、提示词改写、货币转换（港币与美元）以及温度变化的广泛检查。

核心贡献

本文对 AI 偏好提取领域的文献做出了四个主要贡献：

• 量化 LLM 偏好： 研究表明，可以为较大的 LLM 推导出具有意义且符合经济学解释的 WTP 估计值，从而提供了一种超越标准准确率指标的、关于模型决策倾向的结构化视图。
• 上下文敏感性： 实证研究表明，LLM 的决策行为具有高度的可塑性。加入用户特定上下文（过去的决策或角色）会诱发系统性且方向性的 WTP 值偏移，且往往会显著放大这些值。
• 提示脆弱性： 研究强调 WTP 值对表示形式的变化非常敏感，包括提示长度、属性框架（正面描述 vs 中性描述）、呈现顺序以及货币。
• 识别失效情况： 作者识别了特定的 WTP 估计失效场景，例如模型表现出极端的顺序偏差、遵循僵化的基于规则的决策边界（忽略权衡），或因正的价格系数而产生负的 Wft 值。

关键结果

结构化偏好的涌现（假设 1）

较大的模型（Llama 3.3 70B、GPT-4o、Gemini-3.1-Pro）通常表现出具有解释性的 WTP 估计值和较高的伪-$R^2$ 值，表明其选择可以通过标准的离散选择模型进行合理化。然而，观察到了与人类基准（Masiero 等人，2015）的系统性偏差：

• 低估： 与人类参与者相比，模型通常对“景观”和“楼层”属性分配了较低的 WTP。
• 高估： 模型一致高估了“进入酒店俱乐部权限”，其估计值比人类基准高出 2 到 4 倍。
• 模型差异： GPT-4o 和 Gemini-3.1-Pro 通常显示出比 Llama 3.3 70B 更高的解释能力（$R^2$），尽管所有模型都表现出一定程度的顺序偏差。

上下文驱动的价值偏移（假设 2）

提供用户上下文显著改变了 WTP 估计：

• 向上偏移： 通过“昂贵”偏好（通过高成本选择的 ICL 示例或“商务”角色）对模型进行约束，会导致 WTP 的剧烈增加。例如，添加三个昂贵的示例后，相对于基准，Llama 对“俱乐部权限”的 W价提升了 6.4 倍，GPT-4o 提升了 8.5 倍，Gemini 则提升了 10.07 倍。
• 向下偏移： 基于“廉价”偏好（学生角色或廉价示例）的约束通常会降低 WTP。在极端情况下（带有学生角色的 Gemini-3.1-Pro），模型会坍缩为单一属性决策规则，即无论其他特征如何，仅选择价格最低的房间，导致 WTP 估计无法进行。
• 交互效应： 将角色与 ICL 示例结合使用通常会放大这些效应，导致对商务角色产生更极端的估值，以及对 Llama 3.3 70B 中的学生角色产生更现实（尽管仍有偏移）的估值。

提示依赖性偏移（假设 3）

研究证实 WTP 值在提示变化下并不稳定：

• 框架敏感性： 缩短“俱乐部权限”的描述会使其 WTP 下降约 50%，而扩展“景观”的描述则会使不同模型的 WTP 翻倍或翻四倍。
• 顺序偏差： 虽然在较大的模型中较小模型有所减少，但顺序偏差依然存在，备选项特有的常数项在统计上仍然显著。
• 货币与温度： 模型对货币变化（美元 vs 港币）和温度变化（0 vs 0.7）表现出相对的鲁棒性，尽管 Llama 3.3 70B 比 Gemini-3.1-Pro 表现出更大的方差。

意义与实际应用

论文得出结论，虽然较大的 LLM 可以生成可解释的 WTP 值，但在没有保障措施的情况下，它们并不是可靠的、自主的用于主观决策的偏好优化器。这些发现的意义在于以下实际应用：

1. 透明度与审计： 所提出的方法提供了一种审计 LLM 决策行为的工具，可以揭示其推荐是由属性偏好驱动，还是由顺序偏差等启发式规则驱动。
2. 模型选择： 从业者应避免在主观决策支持中使用较小的模型，因为它们容易受到顺序偏差和低解释力的影响。即使是较大的模型也需要仔细监控。
3. 上下文管理： 添加用户信息（角色或历史记录）必须极其谨慎，因为这可能诱发偏离人类常态的极端估值行为。
4. 框架脆弱性： 对正面框架的敏感性表明，基于 LLM 的助手可能会被供应商操纵，从而高估特定特征。系统必须针对此类框架进行“对冲”。
5. 人机协同（Human-in-the-Loop）： 鉴于已识别的失效情况（如负 WTP、僵化的规则遵循），作者反对让 LLM 旅游助手实现完全自主。相反，部署应包含防护栏、顺序随机化以及人类监督，以检测不合理的权衡。

研究强调，LLM 衍生的偏好是依赖于模型的，并且对提示设计高度敏感，这表明未来在智能体环境中的部署必须优先考虑鲁棒性检查和人机协同机制，而非不受约束的委托。