技术摘要：随机不确定性下 AI 驱动分配的限制

1. 问题陈述

在高风险的人道主义和社会政策背景下，决策者必须将稀缺资源（例如现金转移、医疗救治、排雷小组）分配给具有异质性且潜在脆弱性的群体。虽然普遍筛查（对资格进行物理核实）是理想方案，但由于后勤限制，其成本往往高得令人望而却步。因此，趋势已转向算法瞄准，即根据从可观测协变量推导出的预测风险评分（$\mu(X) = P(Y=1|X)$）来分配资源。

然而，本文认为，仅靠算法瞄准无法消除因随机不确定性（aleatoric uncertainty）导致的分配错误。即使拥有贝叶斯最优风险模型，给定风险评分 $\mu(X) \in (0,1)$ 的个体的真实脆弱状态 $Y$ 仍然是随机的。这种不可约减的随机性意味着，纯粹的算法策略不可避免地会将部分资源错误分配给非脆弱单位，或遗漏脆弱单位。本文解决的核心问题是如何在固定的筛查预算（$\alpha$）和资源分配预算（$\beta$）约束下，最优地结合筛查（直接观测部分单位的 $Y$）与算法瞄准，以最大化分配效率。

2. 方法论与框架

两阶段分配框架

作者形式化了一个两阶段决策过程：

1. 筛查阶段：决策者选择一个单位子集 $S(X)=1$ 以观测其真实脆弱状态 $Y$，受限于筛查预算 $\alpha$。
2. 分配阶段：资源分配受限于分配预算 $\beta$。
   • 被筛查且 $Y=1$ 的单位确定获得资源。
   • 被筛查且 $Y=0$ 的单位被排除。
   • 未被筛查的单位仅根据风险评分 $\mu(X)$ 进行分配。

目标是最大化分配效率，定义为正确分配给脆弱单位的概率：$E[\pi(X,Y)Y]$，同时满足约束 $E[S(X)] \le \alpha$ 和总分配约束。

理论推导

本文通过分析筛查预算与分配预算之间的相互作用，推导出了最优策略：

• 最优筛查集：作者证明，最优筛查策略并非针对最高风险或最低风险单位，而是针对位于算法分配边缘的风险评分区间 $[q_\alpha, q_\beta]$。
  • 风险评分高于 $q_\beta$ 的单位直接分配，无需筛查（高风险足以证明直接分配的合理性）。
  • 风险评分低于 $q_\alpha$ 的单位既不筛查也不分配（$Y=1$ 的低概率使得筛查效率低下）。
  • 位于中间带 $[q_\alpha, q_\beta]$ 的单位在分配前接受筛查，以解决随机不确定性。
• 不动点算法：由于阈值 $q_\alpha$ 和 $q_\beta$ 通常需要求解无闭式解的非线性积分方程，作者开发了一种不动点算法。该算法根据带内的平均风险以及因排除已确认的非脆弱单位而“节省”的分配预算，迭代调整筛查带。

关键理论性质

• 分布无关特征：最优策略的结构（边缘处的区间）无论底层风险分布 $F$ 如何均成立，前提是风险分布具有全支撑。
• 凹性与边际收益递减：筛查的价值被证明相对于筛查预算 $\alpha$ 是凹的。这确立了物理核实的边际收益递减的正式规律。
• 互补性：本文将筛查与算法瞄准表征为互补关系。当随机不确定性较高时，筛查的收益最大化；而只有当风险评分极具信息量（随机不确定性低）时，算法瞄准才作为筛查的近完美替代品。

3. 主要贡献

1. 最优筛查表征：本文在两阶段框架下对最优筛查策略进行了严格表征，证明最优集是一个针对算法分配边缘单位的区间。
2. 闭式解与算法解：作者针对均匀风险分布推导出了最优筛查集的闭式解，并提供了一种不动点算法，以在任意分布下恢复筛查带。
3. 筛查的分布无关价值：他们确立了筛查带来的效率增益相对于筛查预算是凹的，无论底层风险分布如何，从而形式化了边际收益递减规律。
4. 与随机不确定性的实证关系：该工作实证表明，随着群体层面随机不确定性的增加，筛查的边际收益单调增长。
5. 现实世界验证：该框架应用于两个真实世界数据集：
   • 哥伦比亚人道主义排雷：预测地雷污染以优先部署排雷小组。
   • 基于收入的社会项目（美国）：利用人口普查数据识别低收入个体以提供社会保护。

4. 结果

合成实验

使用风险评分服从 Beta 分布族（$\mu \sim \text{Beta}(t, t)$）的合成人群，作者改变了随机不确定性的水平：

• 低不确定性（$t \to 0$）：风险评分极具信息量（双峰分布）。仅靠算法瞄准即可实现近乎完美的精度；筛查带来的收益微乎其微。
• 高不确定性（$t \to \infty$）：风险评分无信息量（收敛至 $\delta_{0.5}$）。尽管风险评分不携带任何信息，筛查仍能带来巨大的效率增益，因为筛查解决了固有的随机性。
• 中等不确定性：研究识别出一条"S 形”曲线，其中筛查的价值急剧增长。现实世界的风险分布通常落在这个陡峭区域，在此区域中，筛查作为算法瞄准的强大补充发挥作用。

现实世界应用

• 排雷（哥伦比亚）：利用 63 个特征，通过逻辑回归、随机森林和梯度提升模型，最优筛查框架将检测精度从 39%（无筛查）提升至 70%（在 $\alpha = \beta$ 时进行最优筛查）。
• 社会项目（美国）：利用美国社区调查（ACS）数据预测收入低于 50,000 美元的情况，该框架将精度从 65% 提升至 80%。
• 对比：在这两种情况下，最优筛查显著优于随机筛查。随机筛查带来的收益微乎其微，这证实了筛查的位置（针对边缘）至关重要，而不仅仅是筛查的规模。
• 鲁棒性：尽管使用了不完美的风险估计（认知不确定性），该框架仍带来了实质性增益，表明其在实际环境中具有鲁棒性。

5. 意义与主张

本文声称定义了随机不确定性下AI 驱动分配的限制。其主要意义在于将范式从将筛查和算法瞄准视为替代品，转变为将它们视为互补。

• 政策启示：决策者不应为了 AI 而取消筛查，也不应仅依赖筛查。相反，他们应利用 AI 识别最高风险单位以进行直接分配，并将筛查资源保留给不确定性最高的“边缘”单位。
• 预算校准：筛查价值函数的凹性为校准筛查预算提供了原则性依据，证明了针对性筛查优于普遍筛查。
• 操作相关性：通过在人道主义排雷和社会保护中展示巨大的效率增益，本文论证了将人工核实（筛查）与算法瞄准相结合，对于实现 AI 辅助资源分配的全部潜力至关重要。

作者明确指出，其理论推导假设可获取贝叶斯最优风险估计，并承认在实际操作中，估计误差（认知不确定性）可能会改变最优筛查集。然而，他们的实证结果表明，即使模型不完美，该框架依然有效。