📈 economics

Partial Identification under Missing Data Using Weak Shadow Variables from Pretrained Models

本文提出了一种局部识别框架，该框架利用预训练模型的输出预测作为“弱影子变量”，以推导缺失非随机（MNAR）数据下总体量的锐利边界，在无需经典方法中强假设或完备性条件的情况下，实现了显著的区间缩减和有效的覆盖。

原作者： Hongyu Chen, David Simchi-Levi, Ruoxuan Xiong

发布于 2026-06-09

📖 1 分钟阅读☕ 轻松阅读

原作者： Hongyu Chen, David Simchi-Levi, Ruoxuan Xiong

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正试图计算所有使用过客服聊天机器人的客户的平均满意度。你有一份对话列表，但问题在于：只有一部分人留下了评分。

在现实世界中，那些极其开心或极其愤怒的人更有可能留下评论。而那些体验“平平无奇”的人通常只会直接关闭聊天窗口走人。这产生了一个问题：如果你仅仅对现有的评分取平均值，你会得到一个偏差的结果。这就像是试图通过测量篮球运动员（太高）和体操运动员（太矮）来猜测一座城市的平均身高，却忽略了其他人。

统计学家称之为非随机缺失（Missing Not At Random, MNAR）。数据之所以缺失，是因为答案本身（的特征）导致的。

旧方法 vs. 新方法

旧方法（“猜谜游戏”）：
传统上，为了解决这个问题，研究人员必须进行巨大的、冒险的猜测。他们会说：“我假设那些没留下评分的人和那些开心的人一模一样，”或者“我假设那些没留下评分的人和那些愤怒的人一模一样。”如果他们的猜测错了，最终答案也会完全错误。这就像是在试图拼凑一个缺了一半碎片的拼图，并仅仅靠猜测来还原整幅画作。

新方法（“安全区”）：
本文提出了一种更聪明的方法，称为部分识别（Partial Identification）。他们不计算一个单一的数字，而是计算一个安全区（Safe Zone）（即一个范围）。

例子： 与其说“平均满意度是 4.2”，不如说“我们确定平均值在 3.8 到 4.6 之间”。
这个范围在数学上被保证包含真实答案，只要我们遵循既定的规则，无论缺失数据的分布情况如何，它都是成立的。

秘密武器：“弱影子”（The "Weak Shadow"）

作者意识到，即使我们没有评分，我们也通常拥有关于这段对话的其他信息。也许我们有聊天记录、时间点，或者用户遇到的问题类型。

他们使用大语言模型（LLMs）（比如你现在正在与之交谈的 AI）来阅读这些记录，并给出关于用户“可能”给出的评分的“预测”。

然而，他们知道 AI 并非完美。AI 的预测可能会有轻微偏差。因此，他们并不把 AI 的预测视为“真相的传达者”。相反，他们将其视为一个弱影子变量（Weak Shadow Variable）。

类比：剪影
想象你在一个黑暗的房间里，看不见物体本身（真实的评分）。但你有一把手电筒（AI），它在墙上投射出了一个影子。

影子并不是物体本身。
影子可能会有点模糊或变形。
但是，影子必须与物体保持一致。如果物体是一个高花瓶，那么它的影子不可能看起来像个扁平的煎饼。

论文中的方法利用这个“影子”来缩小可能性。即使影子很模糊，它也能告诉我们：“物体肯定不会那么小，也肯定不会那么大。”这使得他们能够在不需要知道确切答案的情况下，显著缩小“安全区”。

他们是如何实现的（“软”数学）

通常，当你尝试在数学中使用这些影子时，如果数据很杂乱或样本量很小，方程就会崩溃并给出“无解”的结果。

作者发明了一种局部惩罚估计量（Local Penalized Estimator）。

类比： 想象你正试图在一张摇晃的桌子上平衡一叠积木。如果你试图追求完美的平衡（精确数学），哪怕一次微小的震动都会让积木全部倒塌。
他们的解决方法： 他们在积木下面放了一点点“黏糊糊的胶水”（惩罚项）。这使得积木可以轻微地摇晃而不会倒下。这确保了即使面对杂乱、微小的样本，他们也能得到结果。

他们还使用了一种称为子采样（Subsampling）（将数据分成许多小片）的特殊技术来创建置信区间。这就像是通过测试许多随机的小震动，而不是一次大震动，来检查积木堆的稳定性，从而确保他们的“安全区”在统计学上是可靠的。

他们的发现（结果）

他们在真实的客服聊天记录上进行了测试：

AI 影子确实有效： 即使是简单的 AI 预测（例如“用户的问题是否得到了解决？是/否”）也能起到极佳的影子作用。
更窄的区域： 通过使用这些 AI 影子，他们能够将“安全区”缩小 83%。
- 没有 AI 时： “平均值在 1 到 5 之间。”（这没什么帮助）。
- 有了 AI 后： “平均值在 3.8 到 4.2 之间。”（这有用多了！）。
优于旧方法： 即使在 AI 预测不完美的情况下，他们的方法也比传统的猜测方法（如 Heckman 模型）更准确且更稳健。

核心结论

这篇论文为我们提供了一个处理缺失数据而无需进行危险猜测的工具。通过利用 AI 为缺失答案投射“弱影子”，我们可以将真相缩小到一个更紧凑、更可靠的范围内。它将“盲目猜测”转化为了“经过计算的稳妥决策”。

技术摘要：利用大语言模型处理非随机缺失（MNAR）结果：一种弱影子变量方法

1. 问题陈述

本文探讨了在数据属于**非随机缺失（Missing Not at Random, MNAR）**的情况下，估计总体量（特别是总体均值 $\theta = E[Y]$ ）所面临的挑战。在许多数字和社交科学场景中（例如用户反馈、客户服务评论），观测到某个结果的概率取决于该结果本身未观测到的值。例如，持有极端观点的用户比持有温和体验的用户更有可能留下反馈。

在 MNAR 情况下，仅基于观测数据的标准估计量会产生偏差，且在没有强假设（如 Heckman 选择模型等往往无法验证的参数化假设）或严格辅助变量条件（如要求完备性的经典影子变量）的情况下，总体均值是无法进行点识别（point-identified）的。作者提出了一个**部分识别（partial identification）**框架，旨在最小化假设的同时刻画估计量的锐利边界（sharp bounds），并利用现代机器学习预测来收紧这些边界。

2. 方法论

2.1. 通过线性规划（LP）进行部分识别
作者首先建立了一个在不使用辅助信息的情况下识别总体均值锐利边界的基准框架。

分解： 总体均值被分解为观测到的联合概率 $\alpha(y) = P(Y=y, R=1)$ 和未观测到的响应概率 $\pi(y) = P(R=1|Y=y)$ 。
可行集： 由于 $\pi(y)$ 是未知的，作者定义了一个与观测数据一致的概率分布可行集。
LP 公式化： 寻找锐利下界和上界（ $\theta_{min}, \theta_{max}$ ）的问题被重新表述为一对线性规划问题。目标函数代表均值，约束条件编码了观测数据的概率结构。在没有辅助变量的情况下，这些边界可以通过解析法得出，并随缺失概率线性缩放。

2.2. 弱影子变量（Weak Shadow Variables）
为了收紧识别边界，作者引入了弱影子变量（ $F$ ），例如来自大语言模型（LLM）的预测。

定义： 如果一个变量 $F$ 满足排他性限制（exclusion restriction）： $F \perp\!\!\!\perp R \mid Y, X$ ，则称其为弱影子变量。也就是说，在给定真实结果 $Y$ 和协变量 $X$ 的条件下， $F$ 不会提供关于缺失机制的额外信息。
放宽完备性要求： 与经典的影子变量方法不同，该方法不需要完备性条件（即要求 $F$ 能够完全识别 $Y$ 的分布）。这使得使用不完美的预测器（如仅与结果有弱相关性的 LLM）成为可能。
精炼后的 LP： 引入 $F$ 会为 LP 公式化增加额外的线性约束。锐利的识别区域是这些约束定义的特征可行集的交集。如果影子变量具有足够的解释力（满足秩条件），边界将坍缩为一个点（点识别）；否则，边界仍将是一个缩窄后的区间。

2.3. 有限样本估计与推断
由于潜在的不确定性，直接使用插值估计量（plug-in estimators）处理 LP 边界在有限样本中存在问题，原因在于可能出现不可行性（样本约束可能与总体不一致）以及非光滑性（估计值的微小变化可能导致激活约束的变化）。

局部惩罚估计量： 作者提出了一种局部惩罚线性规划（localized penalized linear program）。该方法通过添加 $L_1$ 惩罚项（ $K\|Aw - \beta\|_1$ ）来放宽等式约束，并将决策变量限制在有界框 $[0, K]$ 内。这确保了可行性和 Lipschitz 连续性。
数据驱动调优： 一种数据驱动算法通过最小化“认证间隙”（certification gap）来选择局部化半径 $K$ ，从而在保证估计量与总体目标一致的同时，避免不必要的方差。
子采样推断： 由于 LP 值函数是非光滑的（由于可能存在多个最优解），标准的 Bootstrap 方法会失效。作者提出了子采样 Bootstrap 方法（Politis and Romano, 1994），以构建识别区域端点的有效置信区间。该方法考虑了 LP 固有的“优化器切换”（optimizer-switching）行为。

2.4. 敏感性分析
该框架包含一个敏感性分析（假设 2），用于量化对违反排他性限制的鲁棒性。通过引入敏感性参数 $\rho$ ，作者允许条件独立性假设近似成立，从而使识别区域随 $\rho$ 的增加而单调扩大。

3. 核心贡献

新型 LP 框架： 本文引入了一个用于 MNAR 下部分识别的线性规划框架，统一了包含和不包含辅助预测的情况。它为基准情况提供了闭式解，并给出了辅助信号如何收紧边界的解析结果。
弱影子变量： 作者通过放宽完备性条件推广了影子变量方法。这使得使用“不完美”的辅助信号（如 LLM 预测）成为可能，这些信号虽然满足排他性限制，但本身可能无法实现点识别。
稳健的估计与推断： 本文开发了一种使用局部化惩罚的可行有限样本估计器，并建立了基于子采样的推断程序。该方法保证了 $\sqrt{n}$ 收敛速率，并在底层 LP 存在多个解或标准 Bootstrap 失效时，仍能提供有效的置信区域。

4. 实验结果

作者通过模拟实验和使用真实客户服务对话数据（USS 数据集）的半合成实验对该方法进行了评估。

模拟实验：
- 局部惩罚估计量实现了参数化的 $\sqrt{n}$ 收敛速率。
- 用于选择局部化半径 $K$ 的数据驱动选择器能够一致地恢复最优总体半径。
- 子采样推断能够正确逼近估计器的非高斯极限分布，而标准 Bootstrap 方法则表现出显著的偏差和错误的覆盖率（例如，82% 对比 90% 的目标覆盖率）。
半合成实验（基于 LLM 的影子变量）：
- 提示词设计： 研究测试了各种 LLM 提示策略（数字孪生、通用用户、服务审计员）来生成影子变量。结果表明，去个性化、任务导向的提示（例如，评估“目标完成度”的“服务审计员”）在相关性（与 $Y$ 的相关性）和独立性（满足排他性限制）之间提供了最佳平衡。
- 性能： 与不含影子变量的基准 LP 相比，引入基于 LLM 的弱影子变量将识别区间的宽度缩减了 83%。
- 对比： 所提方法（使用影子变量区间的中心点）实现的平均绝对误差为 0.06，显著优于传统的 MNAR 基准方法，如完全病例分析（CCA）、朴素插补法、Heckman 选择模型和模式混合模型（Pattern-Mixture models）。在集合估计方面（与真值的 Hausdorff 距离），影子变量方法将距离从 1.07（聚合 LP）降低到了 0.18。

5. 重要性与主张

本文声称其框架提供了一种稳健且易于处理的传统 MNAR 方法替代方案。

鲁棒性： 通过采用部分识别视角，该方法避免了参数化选择模型中固有的模型误设风险。
实用性： 它利用了日益普及的 LLM 作为辅助信号，且无需要求这些信号是完美的预测器。“弱”影子变量假设在实践中比经典方法的严格完备性条件更具可行性。
有效性： 所提出的推断程序为识别区域提供了有效的覆盖保证，解决了 LP 估计器由于非光滑性带来的统计挑战。

作者总结道，即使是简单的二元或低维 LLM 预测也能显著收紧识别边界，这使得该方法对于反馈系统性缺失的平台评估和社会科学研究具有极高的价值。