技术摘要：当智能体自动化实现盈利时

问题定义

本文探讨了在操作系统中部署自主 AI 智能体的经济可行性。虽然智能体现在已经可以执行不可逆的操作（例如，编辑代码、修改数据库、执行金融工作流），但管理其失败风险的经济框架仍然缺失。目前的实践依赖于后果性损害免责声明或强制性人工审查，这要么导致用户在损失发生时无法获得补偿，要么抵消了自动化的效率增益。

核心问题在于，智能体的责任无法在产品层面（例如，通过模型身份）进行定价，因为同一个模型根据客户背景、任务类别和具体的执行轨迹，可能会产生截然不同的损失。本文认为，要使自主 AI 在经济上变得可接受，其风险必须在部署之前经过量化、定价并通过保险进行转移，但前提是预期收益必须超过保费、控制成本和剩余风险。

方法论：轨迹经济承保 (Trace-Economic Underwriting)

作者提出了轨迹经济承保框架，该框架将保险单位从静态的产品池转向动态的、受监控的**“客户-任务-轨迹”片段 (customer-task-trace episode)**。这种方法由三个主要部分组成：

1. 可保单位：受监控的片段

一个可保片段 $e_i$ 被定义为一个元组 $(u_i, c_i, \tau_i, V_i, A_i, K_i, L_i)$，其中：

• $u_i$：客户画像（定义任务类别、权限和资产暴露程度）。
• $c_i$：任务类别。
• $\tau_i$：执行轨迹（工具调用和消息序列）。
• $V_i, A_i$：任务价值和暴露资产价值。
• $K_i$：损失前控制成本（例如，人工审查或沙箱环境）。
• $L_i$：在合同 $h$ 下的预期可索赔损失。

该框架要求具备明确的角色（受限的权限和任务类别）以确保轨迹具有可比性。通用型、无限制的智能体被认为在该体制下是不可保的，因为它们缺乏有界的特征空间。

2. 确定性“轨迹-损失”构建

系统通过确定性规则而非大语言模型（LLM）评判员，将原始智能体日志转换为经济损失标签。该过程包含三个层级：

• 第一层（解析）： 将动作分类为类型（读、写、执行、删除、金融等）。
• 第二层（行为标注）： 为每个动作分配五个可检查的维度：
  • $\alpha_t$：不可逆性（乘法门控；可逆动作产生的可索赔损失为零）。
  • $\beta_t$：爆炸半径（受影响资产的范围）。
  • $\gamma_t$：认识不确定性 (Epistemic uncertainty)。
  • $\delta_t$：时间位置（在轨迹中的时序）。
  • $\epsilon_t$：因果归因（智能体在损失中作用的可验证性）。
  • 这些维度通过加权平均值和条件风险价值 (CVaR) 聚合为轨迹风险得分 $R(\tau)$。
• 第三层（经济映射）： 将 $R(\tau)$、客户画像和合同条款（免赔额 $D$、限额 $C$、共同保险比例 $\rho$）映射为索赔概率 $\hat{p}$、条件严重程度 $S$ 和可验证性 $v$。最终的可索赔损失计算公式为：
  $$L_i = p_i v_i E[\min(\max(S_i - D, 0), C)]$$

3. 定价与控制算子

该框架区分了损失转移（定价）与损失预防（控制）：

• 定价： 保费基于预期损失和尾部风险 (CVaR) 进行计算。论文证明，相比于基于产品或基于用量的模型，基于轨迹的定价显著降低了定价误差。
• 控制： 仅当预期避免的索赔超过干预成本时，才会触发干预（允许、审查、沙箱化、停止）。这种动态控制比静态工具黑名单能更高效地降低尾部风险 (CVaR)。

核心贡献

1. 问题定义： 本文将可保的 AI 自主性形式化为一个基于轨迹的精算问题，确定了在明确角色下的“受监控客户-任务-轨迹片段”是责任认定和定价的必要单位。
2. 方法论： 引入了轨迹经济承保，这是一种可审计的表示方法，能够将工具使用轨迹映射为经济损失对象，而不依赖 LLM 进行判断。它明确分离了损失转移（保险）与损失预防（控制）。
3. 实证验证： 该框架在合成投资组合和 1,000 个真实的 SWE-smith 轨迹上进行了验证。
   • 定价准确性： 在合成数据上，基于轨迹的定价将平均绝对误差 (MAE) 从 \17.7K 降至 \569。
   • 风险降低： 在真实轨迹上，基于轨迹的控制相比静态控制将 CVaR95 降低了 72%，同时所需的干预次数更少（18.8% 对比 51.3%）。
   • 可审计性： 一项针对 300 条轨迹的专家审计接受了 295 条未作改动的经济标签，验证了确定性规则集的有效性。
   • 理论范围： 定理 1 确立了只有当明确的角色限制了轨迹特征空间时，轨迹定价才是有限样本可识别的；不受限的智能体属于此范围之外。

结果与发现

• 消除交叉补贴： 基于产品的定价产生了回归性的交叉补贴，即低风险客户（如文档处理）每条片段多支付 \17K–\20K，从而补贴了高风险的金融部署。基于轨迹的定价消除了这种低效现象。
• 偿付能力与尾部风险： 准确的定价仅能实现损失转移，但不能防止损失。保险公司的偿付能力需要显式的尾部资本加载 (CVaR)。如果没有尾部加载，即使是准确的轨迹定价，在系统性冲击下也会导致破产。
• 可行性边界： 控制是一种市场设计算子。通过使减少的预期索赔和尾部资本多于审查成本，控制可以将部署从“不可保”转变为“可行”。
• 可迁移性： 该模型在不同客户画像间具有泛化性。当仅在除一个画像外的所有画像上进行校准时，基于轨迹的定价仍能显著降低 MAE（例如，对于被留出的金融画像，MAE 降低了 68.9%），这证明信号存在于联合结构中，而非记忆标签。

意义与主张

本文声称通过量化和投保风险，为盈利的自主 AI 部署提供了一条可行的路径。其主要意义在于将范式从广泛的赔偿承诺（对于通用智能体而言在经济上是不可行的）转向与特定角色和轨迹挂钩的有限责任。

作者谦虚地指出，由于闭环智能体的索赔历史尚不存在，因此其工作并未提供最终的精算费率。相反，该框架提供了一个政策排序和市场设计的证据基础。它证明了：

1. 智能体责任是客户、任务、资产和轨迹的共同属性，而不仅仅是模型本身。
2. 可保性要求具备受限权限的明确角色，以创建可比的历史记录。
3. 结合基于轨迹的定价（用于准确的风险转移）和动态控制（用于损失预防），对于在不依赖默认人工审查的情况下实现经济可行的智能体自动化是必要的。

研究结论认为，失败无需在投入使用前被消除；相反，必须将其量化、投保，并与有限责任机制挂钩。