📊 statistics

Sensitivity of weighted least squares estimators to omitted variables

本文介绍了一种针对加权最小二乘估计量的无分布敏感性分析框架，该框架利用直观的加权偏 $R^2$ 统计量来量化未观测混杂因素对因果效应估计的影响，并为适用于任何非负权重方案的方法提供了形式化的界限和调整后的推断程序。

原作者： Leonard Wainstein, Chad Hazlett

发布于 2026-08-19

📖 1 分钟阅读☕ 轻松阅读

原作者： Leonard Wainstein, Chad Hazlett

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

在社会科学领域，研究人员经常试图回答一个简单但又难以攻克的难题：特定的事件是否导致了人们生活中特定的变化？想象一下，试图理解经历过暴力是否会改变一个人对和平的渴望。在一个完美的实验中，科学家会将一些人随机分配到面临暴力的境地，而让另一些人保持安全，然后比较他们的态度。这种随机分配确保了两组人在其他方面是完全相同的，因此任何观点的差异都可以归因于暴力本身。然而，在现实世界中，我们无法强迫人们进入那样的处境。我们只能观察已经发生的事情。这产生了一个问题：经历过暴力的人可能在事件发生之前就与那些没有经历过暴力的人有所不同。也许他们生活在更危险的村庄，或者也许他们的性别使他们更容易成为目标。这些预先存在的差异被称为“混杂因素”（confounders）。如果研究人员不考虑这些因素，他们可能会误以为暴力导致了态度的变化，而实际上，这种变化仅仅反映了这些人最初的特质。

为了解决这个问题，科学家们使用了一种叫做“加权”（weighting）的技术。他们观察所观测到的人群，并为他们分配数值重要性，即“权重”，以使经历过暴力的群体在所有已知因素（如年龄、性别和村庄规模）上，在统计学上与未经历暴力的群体看起来是完全一致的。一旦两组实现了平衡，他们就可以更有信心地比较结果。但一个挥之不去的疑虑仍然存在：那些我们没有测量到的因素呢？如果存在一个隐藏的因素，一个研究人员从未询问过的因素，同时影响了谁受到了伤害以及人们如何看待和平，情况会怎样？如果这样的隐藏因素存在，那么整个结论都可能是错误的。多年来，检查这种隐藏影响一直很困难，尤其是在使用这些复杂的加权方法时。研究人员需要一种方法来询问：“一个隐藏因素需要有多强，才能彻底改变我们的结论？”

莱昂纳德·温斯坦（Leonard Wainstein）和查德·哈兹莱特（Chad Hazlett）开发了一套新工具来准确回答这个问题。他们创建了一种方法，用于测试加权研究对未观测混杂因素的敏感性。他们的方法之所以独特，是因为它并不试图猜测隐藏因素将如何改变权重本身。相反，它提出了一个更简单、更直接的问题：如果我们把这个隐藏因素纳入最终计算，我们的结果会有多大的变化？他们发现，答案取决于仅仅两个直观的数字。第一个数字是隐藏因素在解释“谁接受了处理”方面解释了多少差异；第二个数字是隐藏因素在考虑到所有其他因素后，在解释“结果”方面解释了多少差异。这两个数字就像一个旋钮。研究人员可以转动这个旋钮，观察一个隐藏因素需要多强才能使他们的结果消失或发生符号反转。

作者在关于达尔富尔冲突的一项现实研究中测试了他们的工具。在这项研究中，研究人员调查了直接暴露于政府军和民兵暴力之下，是否改变了难民对和平的态度。原始分析表明，那些遭受直接伤害的人实际上更有可能支持和平。研究人员此前已经使用了加权法，根据性别和村庄位置等已知因素平衡了各组。温斯坦和哈兹莱特将他们新的敏感性工具应用于这些数据。他们问道：一个未被测量的因素需要多强才能推翻这一发现？他们使用“性别”作为基准——这是一个已知因素，它强烈影响着谁会受到伤害以及人们如何看待和平。他们发现，要改变结论，一个未被测量的因素在预测谁会受害方面的强度，必须与性别相当，并且在预测结果方面的强度也必须与性别相当。当他们模拟了一个具有这种影响程度的隐藏因素时，结果仍然是正向且具有统计学意义的。结论经受住了考验。

这种稳健性并不局限于一种特定的权重计算方式。作者在三种不同的方法下测试了他们的方法：一种是使用统计模型来估计受处理概率的方法，另一种是基于相似性进行一对一匹配的方法，第三种是数学上强制要求各组在某些特征上具有相同平均值的方法。在每种情况下，暴力暴露增加对和平支持的研究结果都表现出了韧性。即使他们设想了一个在预测谁受害方面比性别强两倍的隐藏因素，结果仍然指向同一个方向，尽管发现的确定性变得略微减弱。这些工具还揭示了，在某些匹配场景中，隐藏因素需要非常强大才能推翻结果，但在另一些场景中，误差范围则更为紧凑。

这项工作的价值在于其透明度和灵活性。以往检查隐藏偏差的方法通常要求研究人员对数据的形状或隐藏因素的性质做出大量假设。而这些新工具不需要此类假设。它们适用于任何非负权重，无论这些权重来自匹配、统计平衡还是其他方法。研究人员还提供了一个软件包，允许其他科学家轻松地将这些测试应用于他们自己的工作。通过将“隐藏偏差”这一抽象的恐惧转化为具体的计算，他们使研究人员能够清晰地说明：“我们的结论对于任何强于 X 的隐藏因素都是稳健的。”在达尔富尔的研究中，这意味着暴力暴露与对和平渴望之间的联系并非统计上的巧合，而是一个能够承受强大的、看不见的因素审查的发现。这项工作并不是证明不存在隐藏因素，而是提供了一种严谨的方法来衡量这些因素需要达到多大的程度才能改变整个故事。

技术摘要：加权最小二乘估计量对遗漏变量的敏感性

问题陈述
在观测研究中，研究人员经常采用加权方案（例如，逆概率加权、匹配、协变量平衡），以减少对估计线性模型的依赖，并使处理组（ $D$ ）与对照组之间的观测协变量（ $X$ ）达到平衡。加权之后，处理效应的估计通常通过对处理变量 $D$ 和协变量 $X$ 进行加权线性回归来得出。然而，一个主要的问题仍然是，无论使用何种加权技术，未观测到的混杂因素（ $Z$ ）都可能导致偏误。现有的针对加权估计量的敏感性分析方法通常要求研究人员对 $Z$ 的存在将如何改变权重本身进行建模（例如，倾向评分模型会如何变化）。这种方法非常复杂，通常需要特定的分布假设，且仅适用于特定的加权方法。

方法论
作者提出了一种敏感性分析框架，该框架将评估未观测到的混杂因素与生成权重过程相解耦。该方法不再询问 $Z$ 如何改变权重，而是询问在保持原始权重不变的情况下，将 $Z$ 作为回归项纳入加权结果模型会对估计的处理效应（ $\hat{\tau}_{wls}$ ）产生怎样的影响。

该方法的核心依赖于适配了加权最小二乘法的遗漏变量偏误（OVB）框架。研究表明，加权估计量的偏误是两个直观且有界的敏感性参数的函数：

$\hat{R}^2_w(D \sim Z | X)$ ：在给定观测协变量的情况下， $Z$ 对处理变量中加权方差的解释比例。
$\hat{R}^2_w(Y \sim Z | D, X)$ ：在给定处理变量和观测协变量的情况下， $Z$ 对结果变量中加权方差的解释比例。

这些参数代表了在加权经验分布中，未观测到的混杂因素与处理变量及结果变量之间的关系强度。

为了便于常规报告和基准测试，作者将 Cinelli 和 Hazlett (2020) 提出的“稳健性值”（RV）和“极端情景”统计量扩展到了加权设置中。他们引入了一种新型的基准测试程序，通过将假设的 $Z$ 的强度与观测到的协变量 $X^{(j)}$ 进行比较来进行评估。这包括：

构建“半权重”（ $w^{(-j)}$ ）：通过在省略 $X^{(j)}$ 的情况下应用加权程序来生成。
定义相对强度参数（ $\kappa$ ）：量化在加权和半加权分布中， $Z$ 在预测 $D$ 和 $Y$ 方面比 $X^{(j)}$ 强多少。
解决加权往往导致 $D$ 与 $X$ 不相关的问题（使得标准的基准测试无法进行），通过利用 $D$ 与 $X^{(j)}$ 在半加权分布中仍保持相关性的特性来实现。

对于推断，论文提出了三种计算调整后标准误和置信区间的方法：

带权重重估计的成对自助法（Pairs Bootstrap with Weight Re-estimation）：适用于超总体框架下的平滑权重（如倾向评分）。
固定权重自助法（Fixed Weights Bootstrap）：一种针对固定设计的混合方法，在保持权重固定的同时对样本单位进行重采样。
闭式隐含系数（Closed-Form Implied Coefficient）：一种类似于非加权 OVB 分析的闭式估计量，要求关于包含 $Z$ 后残差如何变化的“均匀收缩”（Uniform Shrinkage）假设。

主要贡献

广泛的适用性：这些工具适用于任何非负加权方案（倾向评分、平衡权重、匹配、分层），无需对权重的来源或若观测到 $Z$ 时权重如何变化做出假设。
无分布假设：该方法不对 $Z$ 或数据施加分布假设，也不要求对未观测到的混杂因素数量做出假设。
误设处理：该框架既可以处理识别偏误（未观测到的混杂因素），也可以处理设定偏误（误设的函数形式），即将 $Z$ 视为任何可以修正模型的遗漏变量或函数的代理变量。
软件实现：作者提供了 sensewls R 程序包来实现这些方法。

结果与应用
作者利用关于达尔富尔暴力暴露对和平态度影响的 Hazert (2020a) 数据展示了其工具的效用。他们将敏感性分析应用于三种不同的加权策略：

逆倾向评分加权 (ATE)：结果表明，该估计量对于与观测协变量“性别”强度相当的未观测混杂因素具有稳健性。
倾向评分匹配 (ATT)：作者展示了当权重和半权重差异显著时（例如，由于在不同的协变量子集上进行匹配），基准测试程序如何进行调整。他们发现，该估计量对于在处理变量方面比性别/年龄强两倍的混杂因素是敏感的。
精确匹配与均值平衡 (ATT)：工具被应用于基于村庄和性别的精确匹配以及最大熵平衡。在所有情况下，作者都成功地界定了敏感性参数，并确定了处理效应统计显著性的稳健性。

意义与主张
论文声称，通过仅关注加权回归步骤的敏感性而非权重本身，研究人员获得了一个强大的、可推广的工具，用于评估稳健性。作者认为，他们的研究在可解释性方面做出了“有意义的贡献”，特别是通过使用在 0 到 1 之间有界的 $\hat{R}^2_w$ 参数，这与基于优势比（odds-ratio）的无界 Rosenbaum 界限形成了对比。

作者对局限性保持了谦逊的态度，指出：

当加权和半加权分布差异巨大时，针对 $\hat{R}^2_w(D \sim Z | X)$ 的基准测试程序可能会面临挑战，需要研究人员考虑更大的 $Z$ 的相对强度。
针对固定设计的调整推断选项（选项 2 和 3）在保守性和对假设（例如残差的均匀收缩）的依赖方面存在权衡。
这些工具目前是为加权最小二乘法和加权均值差设计的，但作者指出，未来可以将其扩展到增强估计量和合成控制法。

最终，本文将这些工具定位为一种常规报告标准，允许研究人员在广泛的基于加权的因果推断策略中，正式界定未观测到的混杂因素相对于观测到的协变量的强度。

类似论文