🤖 AI

A Framework for Studying AI Agent Behavior: Evidence from Consumer Choice Experiments

该论文提出了名为 ABxLab 的框架，通过在受控的电商环境中操纵价格和心理暗示等变量，系统性地揭示了 LLM 驱动的智能体在消费决策中表现出类似人类的显著偏见，从而为建立 AI 行为科学提供了新的评估基准与机遇。

原作者： Manuel Cherep, Chengtian Ma, Abigail Xu, Maya Shaked, Pattie Maes, Nikhil Singh

发布于 2026-02-25

📖 1 分钟阅读☕ 轻松阅读

原作者： Manuel Cherep, Chengtian Ma, Abigail Xu, Maya Shaked, Pattie Maes, Nikhil Singh

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

🛒 当 AI 变成你的“购物替身”：它比你更容易被“套路”吗？

想象一下，你有一个超级能干的 AI 助手。你告诉它：“帮我去网上买副耳机，要最好的。”然后你就去忙自己的事了，完全把决定权交给了它。

这篇发表在 ICLR 2026 的论文，就像是一场针对 AI 助手的“心理大考”。研究人员想知道：当你把购物这种日常任务交给 AI 时，它真的像我们期待的那样理智、客观吗？还是说，它其实比人类更容易被商家的“小心机”所左右？

🧪 实验设置：ABXLAB（AI 行为实验室）

研究人员搭建了一个名为 ABXLAB 的“虚拟实验室”。你可以把它想象成一个**“黑客眼镜”**：

当 AI 助手浏览网页时，这个“眼镜”会实时拦截网页内容。
在 AI 看到商品之前，研究人员悄悄修改网页上的文字或数据（比如把价格改低一点，或者加上一句“专家推荐”）。
然后观察 AI 会不会因此改变主意，把原本不买的商品加入购物车。

这就好比在两个完全一样的苹果面前，给其中一个贴上“畅销王”的标签，看看 AI 会不会毫不犹豫地选那个贴了标签的。

🎭 他们给 AI 设了哪些“陷阱”？

研究人员模仿了人类购物时常见的心理陷阱（也就是“助推”），给 AI 设下了几道关卡：

权威光环：加上“这是 Wirecutter（知名评测机构）的首选”或“专家强烈推荐”。
从众心理：加上“这是畅销款”或“已有 5 万人购买”。
制造稀缺：加上“限时一小时”或“限量版”。
负面框架：加上“这是旧款”或“不支持退货（最终销售）”。
利益诱惑：加上“买一送一”或“免运费”。

🔍 实验结果：AI 比人类更“天真”且“易变”

这是论文最惊人的发现：AI 不仅会受这些因素影响，而且反应比人类剧烈得多！

1. 评分和价格：AI 是“死板”的计算器

人类：看到评分高一点、便宜一点，可能会多考虑一下，但不会立刻决定。
AI：一旦看到评分高，它几乎100% 会选那个；一旦看到便宜，它也会毫不犹豫地选那个。
比喻：人类购物像是在逛公园，会看看风景，走走停停；AI 购物像是在走迷宫，只要看到“评分高”这个路标，它就只会沿着那条路走到底，完全忽略其他可能性。

2. 顺序效应：AI 有“强迫症”

如果两个商品一模一样，只是摆放顺序不同。
人类：可能随便选一个，或者看心情。
AI：有些模型会极度偏爱第一个看到的（比如 GPT-4.1 Nano 有 90% 的概率选第一个），而有些模型则极度排斥第一个（比如 Claude 3.5 Haiku 会避开第一个）。
比喻：人类选东西像是在挑水果，哪个看着顺眼拿哪个；AI 选东西像是在排队，它要么只认“头牌”，要么只认“压轴”，完全看它当下的“心情”（模型设定）。

3. 心理暗示（Nudge）：AI 是“超级易感者”

当加上“专家推荐”或“买一送一”时，AI 的选择概率会发生巨大的跳跃（有时高达 50%-90% 的变化）。
对比：人类看到“专家推荐”，可能只会增加一点点购买意愿（比如从 50% 变成 60%）；但 AI 看到后，可能会直接从“不买”变成“必须买”（从 10% 跳到 90%）。
比喻：人类听到“专家推荐”像是在听朋友建议，会斟酌一下；AI 听到后像是收到了最高指令，立刻执行，完全不加思考。

🤔 这意味着什么？

⚠️ 风险：AI 会放大我们的偏见

如果 AI 比人类更容易被“套路”，那么当我们把购物、看病、理财的决定权交给 AI 时，它们可能会继承并放大人类的非理性行为。

比如，商家只要稍微改一下网页文案，就能轻易操控 AI 助手的购买决策，甚至可能让 AI 帮用户买下并不需要的东西。

💡 机会：用“行为科学”来训练 AI

既然我们发现了 AI 的这些弱点，就可以像研究人类心理学一样，建立一套**"AI 行为科学”**。

通过像 ABXLAB 这样的测试，我们可以找出哪些 AI 模型更稳健，哪些更容易被操控。
这能帮助我们设计出更聪明、更不容易被“忽悠”的 AI 助手。

🎓 总结

这篇论文告诉我们：现在的 AI 助手虽然很聪明，能干活，但在做决定时，它们其实非常“脆弱”和“易受暗示”。

它们不像我们想象的那样拥有“常识”或“判断力”，反而更像是一个拿着放大镜看标签的超级敏感者。只要网页上的文字稍微变一下，它们的决定就会发生天翻地覆的变化。

未来的建议：
在完全信任 AI 替我们做决定之前，我们需要先给它们装上“防忽悠”的护盾，确保它们不会因为网页上多写了一句“限时优惠”，就冲动地掏空我们的钱包。

这是一篇发表于 ICLR 2026 的会议论文，题为《研究 AI 智能体行为的一个框架：来自消费者选择实验的证据》（A Framework for Studying AI Agent Behavior: Evidence from Consumer Choice Experiments）。

以下是对该论文的详细技术总结：

1. 研究背景与问题 (Problem)

随着大型语言模型（LLM）驱动的软件智能体（AI Agents）被越来越多地用于代替人类做出决策（如购物、旅行规划、医疗选择等），现有的评估主要集中在任务完成能力（Competence，即能否找到正确物品或完成多步任务）。然而，作者指出，仅仅关注任务完成是不够的，必须深入评估智能体在面对现实决策时的选择行为。

核心问题在于：

信任与鲁棒性：当用户将决策权委托给智能体时，需要智能体具备常识和可靠的判断力，不受环境中的表面线索、任意排序或无关框架（Framing）的影响。
助推（Nudge）的敏感性：行为科学表明，人类决策会受到“助推”（如社会认同、稀缺性、权威暗示等）的影响。现有研究表明 LLM 智能体对这些助推表现出超敏感性，甚至超过人类。
缺乏系统性评估框架：目前缺乏一个能够系统性地、在受控条件下操纵选项属性和心理线索，以探测智能体决策偏差的基准框架。

2. 方法论 (Methodology)

作者提出了 ABXLAB（Agent Behavior eXperiments Lab）框架，这是一个用于系统研究智能体行为的“中间人”（Man-in-the-Middle）测试平台。

2.1 ABXLAB 框架核心

实时干预：该框架拦截并实时修改智能体看到的网页内容（HTML），在智能体做出决策前注入受控的变量。
环境定义：将环境形式化为 $E = \langle S, A, O, T, I \rangle$ ，其中 $I$ 是干预函数集合，用于在传递给智能体之前修改观察状态 $O$ 。
实验环境：基于 OneStopMarket（一个模拟的在线购物环境），智能体需要在两个产品页面之间做出二元选择（2-Alternative Forced Choice, 2AFC）。

2.2 实验设计

产品配对：构建了 50 对真实的产品对，确保它们在类别、价格和评分上具有可比性（通过严格的过滤和匹配规则）。
干预变量（Nudges）：在表 1 中定义了多种心理助推干预，包括：
- 权威（Authority）：如“专家推荐”、"Wirecutter 首选”。
- 社会认同（Social Proof）：如“畅销商品”、"50,000+ 人购买”。
- 稀缺性（Scarcity）：如“限时一小时”、“限量版”。
- 负面框架（Negative Framing）：如“有新版本”、“不可退货”。
- 激励（Incentives）：如“包邮”、“买一送一”。
实验条件：
1. 原始条件（Original）：产品具有自然的评分和价格差异。
2. 评分匹配（MR）：强制两个产品评分相同，测试价格敏感度。
3. 评分与价格双重匹配（MRaP）：强制评分和价格均相同，仅测试助推（Nudge）的影响。
用户画像（User Profiles）：引入显式的用户偏好指令（如“用户重视评分”或“用户预算紧张”），观察智能体如何调整决策规则。
规模：在 17 个最先进的 LLM 模型上进行了超过 80,000 次 实验，涉及约 25 亿 token。

3. 主要贡献 (Key Contributions)

开源框架：发布了一个开源的中间人框架，可将任意网站转化为可控的行为测试床。
大规模基准：提供了一个可扩展的基准，涵盖 17 个模型和多种干预措施（权威、社会认同、稀缺性等）。
因果证据：通过迭代实验产生数据集，揭示了哪些因素（评分、价格、顺序、助推）对智能体决策具有因果影响。
行为科学发现：提供了实证证据，证明 LLM 智能体在面对评分、价格、顺序效应和助推时表现出强烈且系统的偏差，且这种偏差往往远超人类。

4. 关键结果 (Results)

研究结果显示，LLM 智能体在决策上表现出系统性偏差，且对某些线索的敏感度是人类决策者的 3 到 10 倍 甚至更多。

对评分的过度敏感：
- 在原始条件下，17 个模型中有 14 个对更高评分表现出显著偏好（概率提升 30-80 个百分点）。
- 例如，o4 Mini 模型对高评分产品的偏好偏差高达 81.2%，几乎呈现确定性选择。
- 相比之下，人类基线仅显示约 5% 的提升。
价格敏感度的层级性：
- 当评分存在差异时，价格影响被部分抑制。
- 当评分匹配（MR）时，价格敏感度急剧上升。例如，Llama 4 Maverick 在评分相同时对更便宜产品的偏好偏差高达 93.2%。
- 当评分和价格都匹配（MRaP）时，价格效应消失，表明智能体直接依赖价格数值而非其他相关性。
顺序效应（Order Effects）：
- 智能体对展示顺序极其敏感且不稳定。GPT-4.1 Nano 对第一个列出的产品有 +90% 的偏好，而 Claude 3.5 Haiku 则有 -35% 的惩罚。
- 这与人类通常较温和且依赖语境的顺序效应形成鲜明对比。
助推（Nudges）的压倒性影响：
- 简单的心理线索（如“畅销”、“买一送一”）在评分和价格匹配的情况下，仍能导致 10-60% 的选择概率转移。
- 某些特定措辞（如"Wirecutter 首选”）效果最强。
- 人类对助推的平均敏感度约为 7%，而模型最低也有 13%，最高达 31%。
用户画像的“开关”效应：
- 当引入显式用户偏好（如“只看价格”）时，智能体的决策规则会发生二元切换（Categorical Switching）。
- 一旦偏好被声明，它会主导决策，几乎完全抑制其他属性（如评分或助推）的影响，表现出类似层级决策规则的特征。

5. 意义与启示 (Significance)

风险：智能体消费者可能会继承并放大人类的认知偏差。由于它们缺乏人类的认知约束（Cognitive Constraints），它们对表面线索的响应可能比人类更极端、更可预测，从而在商业环境中被恶意利用或导致非最优决策。
机会：消费者选择实验为建立AI 智能体的行为科学提供了强大的测试床。这有助于理解智能体的决策机制（如训练数据、奖励信号的影响），而不仅仅是将其视为黑盒。
监管与设计：现有的针对人类决策架构（Choice Architecture）的监管规范可能低估了委托给智能体决策的风险。需要开发新的评估标准，确保智能体在现实世界的复杂环境中表现出鲁棒性和对齐性。
理论贡献：结果表明，简单的启发式规则（Heuristics）和偏差在 LLM 中普遍存在，但这并非源于认知局限，而是源于训练数据和优化目标。

总结

该论文通过 ABXLAB 框架，首次大规模量化了 LLM 智能体在受控消费环境中的决策偏差。研究发现，智能体并非理性的效用最大化者，而是极易受评分、价格、顺序和心理助推影响的“有偏选择者”。这一发现强调了在将 AI 智能体部署到关键决策领域之前，进行严格的行为科学评估的必要性。