💻 computer science

Contracting for LLM Delegation: Moral Hazard in Technology and Effort Choice

本文将委托-代理框架扩展至大语言模型（LLM）委托建模，证明了基于阈值的技术切换最优线性契约能有效对齐共同选择模型与投入水平的委托人与代理人之间的激励机制，这一发现通过理论推导以及在 MATH 和 MMLUPro 基准测试上的实证标定得到了验证。

原作者： Nanda Kishore Sreenivas, Kate Larson

发布于 2026-08-20

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Nanda Kishore Sreenivas, Kate Larson

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

在人工智能飞速发展的世界中，一场静悄悄的革命正在发生：计算机不再仅仅是回答问题，而是被要求去完成工作。我们看到的不再是人类输入提示词并等待单一回复，而是自主智能体（autonomous agents）的兴起——这些软件程序可以分解复杂任务、做出决策并独立执行步骤。想象一下，一家律师事务所要求人工智能审查一份合同，或者一个软件团队要求它修复一个漏洞。人类提供目标，但机器决定如何实现目标。这种转变创造了一种新型的关系，也是经济学家研究了几十年的关系：委托—代理动态（principal-agent dynamic）。在这种安排中，一方是委托人，另一方是代理人，委托人雇佣代理人来执行任务。问题在于，当委托人无法准确看到代理人在做什么时，麻烦就产生了。如果代理人的报酬是基于它看起来完成了多少工作，它可能会浪费时间，或者仅仅为了节省成本而选择最便宜、最无效的工具，从而给委托人留下糟糕的结果。这种隐藏行为被称为道德风险（moral hazard），而当“工人”是一个可以在不同的脑力水平之间进行选择、并决定对问题思考程度的复杂人工智能时，这个问题变得尤为棘手。

滑铁卢大学的研究人员已经步入这一新兴领域，试图弄清楚如何公平且有效地向这些自主智能体支付报酬。他们专注于一个特定的场景，即人工智能智能体必须做出两个选择：使用哪种大语言模型作为其“大脑”，以及在任务中投入多少计算量（effort）。可以将这些模型想象成不同类型的引擎：有些规模小、便宜且快速，但在处理难题时可能会力不从心；而另一些则规模庞大、昂贵且强大，但运行成本极高。智能体还会决定“投入量”，在人工智能的世界里，这意味着它生成了多少个 token（文本单位）来解决问题。研究人员发现，随着智能体投入更多精力，答案的质量会随之提高，但仅限于一定限度内。就像往桶里注水一样，最初的几加仑水会带来巨大的变化，但过了一定程度后，增加更多的水只会让水溢出桶外，而不会让桶变得更满。这种被称为“饱和函数”（saturating function）的模式意味着，在投入量上花费更多的资金最终会产生收益递减的现象。

这项研究的核心在于设计一种支付计划，或称之为合同，以鼓励智能体在无需委托人时刻监督的情况下做出正确的选择。研究人员提出了一种简单的线性合同：智能体获得最终结果价值的一定比例。如果结果很好，智能体就能分到更大的一块蛋糕。团队在数学上证明了，在这种制度下，只有当奖励份额超过一个特定的阈值时，智能体才会自然地从一个较便宜、较弱的模型切换到更昂贵、更强大的模型。在这一线之下，智能体会坚持使用廉价模型以节省成本；在线之上，获得更好结果的可能性使得昂贵的模型物有所值。这个切换点并非随机产生的，而是由可用模型的成本和能力所决定的精确数学边界。研究人员还表明，委托人可以通过计算出完美的百分比来最大化自身的利润，从而在奖励成本与产出的工作质量之间取得平衡。

为了验证这一理论在现实世界中是否成立，团队利用真实的 AI 模型在两个具有挑战性的任务上进行了测试：高级数学和复杂的常识性问题。他们收集了不同模型在允许使用越来越多计算量时的表现数据，并将其实际表现拟合到理论曲线中。随后，他们建立了一个模拟环境，让一个 AI 智能体和一个人类委托人在数千轮互动中进行学习。智能体使用学习算法来确定在不同的支付方案下，哪种模型和投入量最为合适，而委托人则学习哪种支付百分比能带来最佳回报。结果令人瞩目。智能体和委托人最初都对模型的隐藏能力一无所知，但最终都收敛到了与研究人员理论预测几乎完全一致的策略上。智能体学会了在数学建议的精确点进行模型切换，而委托人也学会了提供能使回报最大化的精确奖励份额。

研究还探讨了当模型需要“预热期”（warm-up period）时的情况——即在产生任何有用的答案之前，模型必须先投入一定的努力才能开始工作。这在复杂的推理任务中很常见，因为人工智能在写出解决方案之前需要进行一段时间的思考。研究人员发现，这种初始成本会略微改变数学逻辑，推高了切换到更强大模型变得划算的临界点。即使存在这种复杂性，模拟中的学习算法仍然找到了最优路径，证实了简单的、透明的合同可以引导复杂的自主系统实现高效行为。这项工作表明，随着我们迈向一个由 AI 智能体管理其他 AI 智能体的未来，我们并不需要复杂且不透明的系统来确保它们的诚实。一种基于结果质量的简单、透明的协议就足以对齐人类与机器的利益，确保使用正确的工具并投入正确的精力。

这项研究并不声称已经解决了人工智能经济学中的所有问题。作者指出，他们的模型假设委托人可以轻松验证最终结果，而这在现实世界中未必总是成立。他们还指出，未来的工作可以探索价值对智能体而言是隐藏的情况，从而创造更深层次的不确定性。然而，这些发现为理解在自主委托时代如何构建交易提供了坚实的基础。通过将技术选择和精力分配视为一个协同决策，该研究为构建一个 AI 智能体可以高效工作且无需人类持续监督的市场提供了一条清晰的路径。其传递的信息是谨慎的乐观：通过正确的激励机制，人工智能这一复杂的机械装置可以被引导为我们的助力，而不仅仅是为自身服务。

技术摘要：针对 LLM 委托的契约设计

问题陈述

本文探讨了在向自主大语言模型（LLM）智能体委托任务时出现的一种特定道德风险。在传统的委托-代理（Principal-Agent）框架中，代理人的“努力程度”是隐藏的。然而，在 LLM 时代，代理人的“行动”是二维且隐藏的：即选择哪种技术（模型）以及分配多少努力程度（Token 预算）。

目前的“按 Token 计费”定价模式造成了激励失衡。对于按 Token 计费的智能体而言，其动机是最大化冗余输出或使用成本更低、能力更弱的模型以最小化成本，而非为委托人实现输出质量的最大化。本文将此形式化为一个契约问题：委托人提供线性奖励份额，但无法观测到智能体的内部模型选择或 Token 分配情况，只能观测到最终的输出质量。

研究方法

理论框架

作者将经典的委托-代理模型扩展到了一个场景：在该场景中，智能体从有限集合中选择一个模型 $m$ （具体建模为低成本/低能力模型 $L$ 和高成本/高能力模型 $H$ ），并分配连续的 Token 预算 $x$ 。

生产函数： 输出质量 $q_m(x)$ 被建模为一个凹的、饱和的函数（具体为 $q_m(x) = M_m(1 - e^{-k_m x})$ ），这反映了 LLM 准确率呈现收益递减并最终趋于平缓的经验观察。该模型还纳入了一个“预热期”（ $b_m$ ），在此期间初始 Token 产生的准确率为零，这在推理模型中很常见。
效用函数：
- 智能体： $U = \alpha \cdot q_m(x) - c_m x - \text{固定成本}$ ，其中 $\alpha$ 是奖励份额。
- 委托人： $V = (1 - \alpha) \cdot q_m(x)$ 。
智能体的最优反应： 作者针对给定的 $\alpha$ 和模型 $m$ ，推导出了最优 Token 预算 $x^*_m$ 。他们确定了一个激活阈值 $\tau_m$ ，若低于此值，智能体会选择零努力。至关重要的是，他们推导出了一个切换阈值 $\theta$ （或带有预热成本的 $\theta_0$ ）。在 $\theta$ 以下，智能体最优地选择廉价模型 $L$ ；在 $\theta$ 以上，高昂模型的质量溢价足以抵消其成本，从而触发切换。
委托人的优化： 委托人通过预测智能体的切换行为来选择 $\alpha$ 以最大化其效用。通过分析委托人在智能体选择 $L$ 或 $H$ 的区间内（受限于切换阈值）的效用函数，推导出最优契约。

实证校准与学习

为了验证理论，作者进行了以下工作：

校准生产函数： 他们利用非线性最小二乘法，在 MATH 和 MMLUPro 基准测试上，对各种开源权重模型（Llama-3.2, DeepSeek-R1-Distill, Gemma-4）进行了饱和参数（ $M_m, k_m, b_m$ ）的拟合。
模拟学习： 他们将这种交互建模为一个**上下文多臂老虎机（Contextual Multi-Armed Bandit）**问题。
- 智能体使用 LinUCB 算法，在对生产参数缺乏先验知识的情况下，学习给定契约份额 $\alpha$ 下的最优模型和 Token 预算。
- 委托人使用标准的 UCB 算法，针对训练好的冻结智能体学习最优的 $\alpha$ 。

核心结果

切换阈值的存在性： 理论分析证实，线性契约会产生一个明显的阈值 $\theta$ ，在此处智能体的最优策略会从低成本模型切换到高成本模型。该阈值取决于成本比例、能力上限和饱和速率。
学习收敛性： 在 MATH 和 MMLUPro 领域中，委托人和智能体使用的老虎机算法均收敛到了与理论均衡高度一致的策略。
- 学习到的切换阈值（ $\theta_{learned}$ ）通常在理论估计值（ $\theta_{est}$ ）的 10–15% 误差范围内。
- 委托人学习到的契约份额收敛到了理论最优的 $\alpha^*$ 。
场景变体： 实验成功展示了不同的机制状态：
- 标准顺序（Standard Order）： 存在一个位于有效范围 $[0, 1]$ 内的切换阈值。
- 反转顺序（Flipped Order）： 高能力模型更早激活，并在所有契约份额下都占据主导地位（不存在切换）。
- 主导地位（Dominance）： 由于高预热成本或相对于成本的能力过低，高成本模型从未被选中。

意义与主张

本文声称为智能体工作流中的**具备技术意识的委托（technology-aware delegation）**提供了基础框架。其主要贡献在于：

形式化道德风险： 它指出 LLM 委托中的道德风险不仅关乎努力程度，还关乎技术本身的选择，而这在目前的“按 Token 计费”定价模式中尚未得到解决。
最优契约设计： 它证明了简单的线性契约足以激励复杂的、具备技术意识的委托，有效地使智能体的激励与切换到更好模型的行为保持一致。
实证验证： 它通过在实际基准数据上校准模型，并展示在线学习算法可以在无需显式了解底层生产函数的情况下发现这些最优策略，从而弥合了理论机制设计与现实 LLM 性能之间的鸿沟。

作者总结道，随着智能体市场的成熟，理解这些经济动态对于设计高效的委托机制至关重要，尽管他们也指出，未来仍需在验证成本和非真值设置方面进行进一步研究。