技术摘要：决策策略的风险控制后处理

问题表述

本文探讨了在现有决策框架中部署预测模型所面临的挑战，其中利益相关者不愿在非必要情况下改变既定策略。核心问题被定义为风险控制后处理：给定确定性基线策略 $\pi_0$、基础损失函数 $\ell(a, y)$、损失截断值 $c$ 以及风险预算 $\epsilon$，目标是构建一个新策略 $\pi$，使其在满足违反风险概率约束的前提下，最大化与 $\pi_0$ 的一致性。

具体而言，违反事件定义为 $\{\ell(\pi(X), Y) \ge c\}$，约束要求该事件发生的概率至多为 $\epsilon$：
$$\max_{\pi} P(\pi(X) = \pi_0(X)) \quad \text{s.t.} \quad P(\ell(\pi(X), Y) \ge c) \le \epsilon.$$
该表述优先考虑对现有策略的忠实度（最小化侵入性更改），同时通过风险约束确保安全或可靠性。

方法论

总体水平最优解（Oracle Solution）

作者首先刻画了总体水平下的最优解（假设数据无限且分布已知）。他们定义了：

• 条件违反风险：$g(a, x) = P(\ell(a, Y) \ge c \mid X=x)$。
• 最优回退策略（$\pi^*$）：针对任意给定上下文 $x$，最小化 $g(a, x)$ 的策略。
• 最优分数（$\Delta$）：从基线 $\pi_0$ 切换到最优回退策略 $\pi^*$ 所实现的条件违反风险降低量，定义为 $\Delta(x) = g(\pi_0(x), x) - g(\pi^*(x), x)$。

定理 3.1 确立了最优总体策略具有阈值结构。当最优分数 $\Delta(x)$ 低于阈值 $\tau$ 时，保留基线动作 $\pi_0(x)$；当 $\Delta(x) \ge \tau$ 时，切换至最优回退策略 $\pi^*(x)$。阈值 $\tau$ 的选择使得风险约束达到紧约束状态。

有限样本算法（算法 1）

由于真实的条件分布未知，本文提出了一种有限样本共形化后处理算法：

1. 训练：利用训练集拟合回退策略 $\hat{\pi}^*$ 和分数函数 $\hat{\Delta}$。
2. 校准：使用预留的校准集来选择阈值 $\hat{\tau}$。该算法构建一个“提升”的经验风险函数 $\hat{R}^+_n(\tau)$，并选择最大的阈值 $\hat{\tau}$，使得 $\hat{R}^+_n(\hat{\tau}) \le \epsilon$。
3. 部署：最终策略 $\hat{\pi}(x; \hat{\tau})$ 仅在 $\hat{\Delta}(x) \ge \hat{\tau}$ 时切换至 $\hat{\pi}^*(x)$。

理论分析

本文在两个不同的机制下分析了该算法：

1. 通用回退（非单调损失）：
   当回退策略被估计（例如通过插件估计）时，违反损失 $L(x, y; \tau)$ 在 $\tau$ 上不一定单调。这破坏了标准的共形风险控制保证。

   • 技术：作者利用算法稳定性和随机过程。他们定义了“秩不稳定性”$K$，衡量使用全部数据选择的阈值秩与移除一个数据点后选择的阈值秩之间的位移。
   • 结果：在正则性条件下（具体为风险减少条件均值上的漂移条件），他们证明了期望秩不稳定性为 $O(\log n)$。因此，期望超额违反风险被限制在 $O(\log n / n)$ 以内。

2. 精确安全回退（单调损失）：
   如果存在“精确安全”回退策略 $\pi_{safe}$（即对于所有 $x, y$，$\ell(\pi_{safe}(x), y) < c$），则损失函数在阈值上变为单调。

   • 结果：在较弱的可交换性假设下（而非独立同分布），该算法实现了精确的期望风险控制（$E[L] \le \epsilon$）。
   • 近最优性：在此机制下，本文还提供了高概率保证，即后处理策略与基线达成近最优的一致性，其次优性以 $O(1/\sqrt{n})$ 的速率衰减，外加一个依赖于分数估计精度的误差项。

主要贡献

• 问题表述：将风险控制后处理表述为受机会约束限制的一致性最大化问题。
• 最优刻画：证明了最优总体策略仅在具有最高最优分数的上下文中，从基线精确切换至回退策略（阈值结构）。
• 算法设计：提出了一种有限样本算法（算法 1），利用校准数据选择切换阈值，适用于精确安全回退和通用拟合回退。
• 理论保证：
  • 利用秩稳定性和有偏随机游走分析，为通用（非单调）设定建立了 $O(\log n / n)$ 的期望超额风险界。
  • 证明了在可交换性假设下，精确安全回退机制的精确风险控制和近最优性保证。
• 实证验证：在三项任务中展示了该方法的有效性：
  1. COVID-19 放射影像诊断：一项具有复杂损失矩阵的医学成像任务，表明该方法在满足风险预算的同时，最小化了从风险厌恶校准（RAC）基线进行的切换。
  2. LLM 路由：一项在快速、廉价模型与缓慢、昂贵的“思考”模型之间路由查询的任务，表明与随机混合基线相比，显著节省了计算成本。
  3. 合成多分类任务：验证了该算法紧密跟踪最优的一致性 - 风险权衡。

结果与意义

本文声称，有针对性的后处理可以满足或几乎满足严格的风险预算，同时比盲目随机混合保留显著更多与基线策略的一致性。

• 效率：在 LLM 路由实验中，与随机混合相比，所提出的方法在保持相同违反风险的同时，将计算成本（FLOPs）降低了 12–19%。
• 安全性：在医学诊断任务中，该算法成功控制了违反风险（例如，从 0.18 降至 0.10），且切换率极低（例如 0.09），而随机混合需要高得多的切换率才能达到类似的风险水平。
• 鲁棒性：理论分析即使在损失函数非单调（这是实际策略后处理中的常见问题，而标准共形方法通常难以在不做强假设的情况下解决）的情况下也能提供保证。

该工作的意义在于为现有决策系统提供了一个“轻量级包装”。它允许利益相关者在无需抛弃熟悉或遗留策略的情况下强制执行安全约束，提供了一条数学上严谨的风险控制路径，其侵入性小于从头学习新决策规则。