On Robust Empirical Likelihood for Nonparametric Regression with Application to Regression Discontinuity Designs

问题陈述

经验似然法（Empirical Likelihood, EL）是一种强大的非参数推断工具，它提供了具有优良性质的基于似然的置信区间，例如尊重参数约束并具有 Wilks 型极限分布（渐近为 $\chi^2$ 分布）。然而，当将 EL 应用于非参数回归和回归断点设计（RDD）中的局部多项式平滑器时，标准的 EL 方法面临一个关键限制：平滑偏差（smoothing bias）。

为了实现有效的 Wilks 型推断（即 EL 比率收敛于标准 $\chi^2$ 分布），传统方法需要进行欠平滑（undersmoothing）（即选择比点估计最优速率更小的带宽 $h$）。虽然这降低了偏差，但却增加了方差，导致在有限样本中置信区间过宽。

另一种偏差修正（bias-corrected）方法试图估计并消除偏差。然而，本文指出，现有的偏差修正 EL 方法存在一个根本性缺陷：它们未能考虑到估计偏差本身所引入的额外变异性（additional variability）。因此，当估计带宽（$h$）与用于偏差修正的试点带宽（$b$）之比收敛于一个正常数（即 $h/b \to \kappa \in (0, 1]$）时，标准的 Wilks 现象就会失效。此时，EL 比率会收敛于一个缩放后的 $\chi^2$ 分布，而非标准 $\chi^2$ 分布，如果使用标准临界值，会导致严重的覆盖不足和第一类错误率上升。

方法论

作者提出了一种名为**稳健经验似然（Robust Empirical Likelihood, Robust EL）**的新型框架，旨在解决在现实带宽条件下（$h/b \to \kappa \in [0, 1]$）实现偏差修正与保持 Wilks 现象之间的矛盾。

1. 稳健权重构造：
其核心创新不在于仅仅调整 EL 比率或点估计量，而在于构造全新的、完全数据自适应的稳健权重（robust weights）。这些权重能够同时实现偏差修正，并将偏差估计器的变异性直接纳入 EL 形式的矩约束中。

• 基于泰勒展开的稳革权重 ($W^\star$)： 通过将基于局部二次拟合的偏差估计器重新表达在 EL 矩约束内而推导得出。这有效地将偏差估计器视为重采样概率（$p_i$）的函数，而非固定常数。
• 基于差分的稳健权重 ($W^\ddagger$)： 使用类似的差分法进行偏差估计来构造，确保捕捉到差分估计器的变异性。

2. 稳健 EL 比率：
利用这些新权重，作者定义了两种稳健 EL 比率函数：

• $l_{TR}(\theta)$：基于泰勒展开的稳健 EL 比率。
• $l_{DR}(\theta)$：基于差分的稳健 EL 比率。

3. 向 RDD 的扩展：
该框架被扩展到了强（Sharp）和模糊（Fuzzy） RDD 设置。

• 对于强 RDD，该方法分别为处理组和对照组构造稳健权重，以估计处理效应 $\tau_S$。
• 对于模糊 RDD，该方法处理结果变量和处理概率中不连续性的比率，为所有组成部分（$Y$ 和 $T$）构造稳健权重，以估计 $\tau_F$。

4. 理论框架：
本文采用了 Calonico 等人 (2014) 的精细渐近框架，其中 $h/b \to \kappa \in [0, 1]$。在标准正则条件下，作者证明了无论 $\kappa = 0$（欠平滑）还是 $\kappa > 0$（偏差修正机制），$l_{TR}$ 和 $l_{DR}$ 均收敛于标准 $\chi^2_1$ 分布。

主要贡献

1. 方法论创新： 本文开创了一种基于完全数据自适应稳健权重的偏差修正 EL 推断框架。不同于以往通过事后调整比率的方法，该方法将偏差修正及其相关的变异性直接整合进 EL 形式的加权方案中。
2. 理论有效性： 作者证明了在更广义且更具实际意义的条件 $h/b \to \kappa \in [0, 1]$ 下，Wilks 现象依然成立。这使得研究人员无需进行欠平滑，即可使用标准的 $\chi^2$ 临界值构建有效的置信区间。
3. 对 RDD 的应用： 该框架无缝扩展到了强 RDD 和模糊 RDD，提供了首个无需复杂的尺度调整或额外的方差估计步骤即可保持枢轴性质（pivotal properties）的稳健 EL 程序。
4. 二阶分析： 本文探讨了二阶渐近性质，指出虽然当前方法相比原始 EL 改进了覆盖误差率，但若要达到 Wald 型稳健偏差修正估计器的最优覆盖误差率，可能仍需进一步修改。

结果

模拟研究：
针对非参数回归和强 RDD 设置进行了广泛的模拟。

• 覆盖率与规模： 提出的稳健 EL 方法（TR 和 DR）在各种带宽选择（$h$）和试点带宽比例（$b/h$）下，均能稳定实现接近标称水平（95%）的经验覆盖概率，并保持正确的经验规模。
• 对比：
  • 原始 EL（欠平滑）： 当 $h$ 不足够小时，会出现严重的覆盖不足，并且由于高方差产生较宽的区间。
  • 常规偏差修正 EL (TB/DB)： 当 $h/b \not\to 0$ 时，表现出显著的覆盖不足和第一类错误率上升，证实了在这些机制下 Wilks 近似失效的理论预测。
  • 稳健 EL vs. Wald 型 (CCF)： 在覆盖准确性方面，所提的稳健 EL 方法表现出与稳健偏差修正 Wald 方法（Calonico et al., 2014）相当甚至更优的性能，且通常能产生更窄的置信区间。
• 计算效率： 虽然由于数值反转的原因，EL 方法比 Wald 方法计算量更大，但所提算法（使用 Newton-Lagrange 方法）在处理中等样本量时，构建置信区间的时间不到 0.5 秒，具有实际可行性。

真实数据应用：
本文将所提方法应用于两个真实数据集（详见全文第 6 节，此处仅作总结性说明）。结果展示了该方法的实际应用价值，表明其无需精细的带宽调优或欠平滑即可提供可靠的推断。

意义与主张

本文声称为 EL 文献中一个长期存在的挑战提供了一个“令人满意的解决方案”：即如何在引入偏差修正的同时，保留经验似然的无分布特性及 Wilks 型定标。

• 对带宽选择的稳健性： 其主要意义在于消除了对欠平滑的需求。研究人员现在可以使用平衡偏差与方差（以实现点估计最优或略大）的带宽，而不会牺牲置信区间的有效性。
• 简洁性与灵活性： 该方法避免了其他偏差修正 EL 方法所需的繁琐尺度因子实现或单独的方差估计步骤。它保留了 EL “基于似然”的吸引力。
• 理论严谨性： 通过证明 Wilks 现象在精细渐近框架（$h/b \to \kappa$）下成立，本文弥合了非参数推断中理论最优性与实际应用之间的鸿沟。

作者谦虚地指出，虽然其方法的覆盖误差率为 $O(nh^7 + h^2 + (nh)^{-1})$，较原始 EL 已有提升，但尚未达到最优的 $O(nh^7 + h^3 + (nh)^{-1})$ 速率。他们建议，通过进一步的方法论修改，有望达到这一最优速率，这也为未来的研究方向留下了空间。