Model Assisted Data Integration: An unbiased sampling strategy to use nonprobability data

论文技术总结：模型辅助数据集成 (MADI)

1. 研究背景与问题 (Problem)

• 核心挑战： 官方统计机构（NSOs）正越来越多地尝试利用非概率数据（Non-Probability Data, NPD），如行政记录、传感器数据、在线面板等，以降低成本、提高质量并减少受访者负担。然而，NPD 的主要缺陷在于缺乏已知的入样概率（selection mechanism），导致严重的选择偏差（Selection Bias）和覆盖不足（Undercoverage）。
• 现有方法的局限性：
  • 传统方法（如倾向得分加权、双重稳健估计、插补法）通常依赖于“缺失完全随机”（MCAR）或“缺失随机”（MAR）的强假设，这些假设在实践中往往难以验证甚至不成立。
  • 传统的模型辅助估计器（如 GREG 估计量）在小样本量或辅助变量过多时，容易出现矩阵奇异、权重不稳定或方差估计偏差的问题。
  • 现有的数据集成估计量（如 Kim & Tam, 2021 提出的 DI 估计量）虽然减少了假设，但通常不是设计无偏的（design-unbiased），或者在方差估计上存在近似误差。
• 目标： 开发一种既能利用大规模非概率数据，又能保证设计无偏性（Design-unbiased）、拥有无偏方差估计量，且适用于统计机构高强度生产周期的抽样策略。

2. 方法论 (Methodology)

论文提出了一种名为**模型辅助数据集成（Model Assisted Data Integration, MADI）**的抽样策略。

• 基本设定：

  • 将总体 $U$ 划分为两个互斥子集：
    • $A$：拥有非概率数据（NPD）的子集，其中研究变量 $y_i$ 已知，但无入样概率。
    • $B$：总体中未被 NPD 覆盖的子集（$B = U \setminus A$），其中 $y_i$ 未知。
  • 抽样设计： 仅从子集 $B$ 中抽取一个概率样本 $s_B$（例如简单随机抽样 SRS）。
  • 数据匹配： 假设 NPD 和概率样本中的单元具有唯一标识符，且总体中存在辅助变量向量 $\mathbf{x}_i$。

• MADI 估计量构建：
  MADI 估计量结合了 NPD 的总量、基于模型的预测以及概率样本的残差修正。其公式为：
  $$\hat{t}_{y, MADI} = \sum_{i \in A} y_i + \sum_{i \in B} \mu(\mathbf{x}_i, A) + \sum_{i \in s_B} \frac{e_i}{\pi_{iB}}$$
  其中：

  • $\sum_{i \in A} y_i$：直接利用 NPD 中已知的 $y$ 值总和。
  • $\mu(\mathbf{x}_i, A)$：利用 NPD 数据（集合 $A$）训练任意机器学习模型（如随机森林、神经网络等），对 $B$ 中所有单元的 $y$ 值进行预测。
  • $e_i = y_i - \mu(\mathbf{x}_i, A)$：概率样本 $s_B$ 中的残差（真实值与模型预测值之差）。
  • $\pi_{iB}$：单元 $i$ 从 $B$ 中被抽中的概率。

• 核心机制：

  • 训练与验证分离： 模型 $\mu$ 仅在大规模 NPD（$A$）上训练，而评估和偏差修正仅在概率样本（$s_B$）上进行。这避免了传统 GREG 估计量中因模型在样本上拟合导致的过拟合和偏差。
  • 无偏性证明： 由于模型预测部分 $\sum_{i \in B} \mu(\mathbf{x}_i, A)$ 不依赖于概率样本的随机性，且残差项 $\sum_{i \in s_B} \frac{e_i}{\pi_{iB}}$ 是标准的 Horvitz-Thompson 估计量形式，因此整个估计量是设计无偏的。
  • 方差估计： 提出了一个设计无偏的方差估计量，其形式类似于差值估计量的方差，仅依赖于概率样本 $s_B$ 中的残差 $e_i$。

3. 关键贡献 (Key Contributions)

1. 理论突破： 提出了一种新的抽样策略，将 Kim & Tam (2021) 的数据集成思想扩展为设计无偏的估计量，且不需要对 NPD 的缺失机制（如 MAR）做任何假设。
2. 模型灵活性： 允许使用任意机器学习模型（如随机森林、深度学习）来构建预测部分。只要模型在 NPD 上训练，其预测误差即可通过概率样本的残差项进行无偏修正。
3. 解决过拟合风险： 通过分离训练集（NPD）和评估集（概率样本），有效解决了在小样本概率抽样中使用复杂模型容易导致的过拟合和方差估计为零的问题。
4. 生产适用性： 该策略特别适用于统计机构的工业化生产环境，因为它可以使用现成的机器学习库，且方差估计量计算简单、稳健。

4. 实验结果 (Results)

作者利用瑞典统计局（Statistics Sweden）的收入和税收登记数据进行了两项模拟实验：

• 模拟 1：不同估计量的性能比较

  • 设置： 比较了 MADI（配合 OLS 和随机森林模型）、DI 估计量、GREG 估计量、HT 估计量以及“朴素”随机森林估计量。NPD 存在严重的选择偏差（高收入者更可能被包含在 NPD 中）。
  • 发现：
    • MADI 表现最佳： 无论样本量大小，$SRS_B-MADI_{RF}$（基于随机森林的 MADI）的均方根误差（RMSE）最低，显著优于其他方法。
    • 无偏性： MADI 估计量在所有样本量下均保持无偏（偏差接近 0），而“朴素”随机森林估计量（直接在样本上训练）表现出显著偏差。
    • 小样本优势： 在样本量较小（如 $n=25$）且辅助变量较多时，GREG 估计量经常无法计算（矩阵奇异）或方差极大，而 MADI 依然稳定。
    • 覆盖率： MADI 的置信区间覆盖率接近 95% 的目标值。

• 模拟 2：达到目标变异系数（CV）所需的样本量

  • 设置： 设定目标 CV 为 1%，计算不同策略所需的概率样本量。考察了 NPD 覆盖比例（10%-90%）和不同选择偏差机制（从极端偏差到随机偏差）。
  • 发现：
    • 大幅减少样本量： 在大多数场景下，MADI 所需的概率样本量远小于传统的 HT 和 GREG 估计量。
    • 极端偏差下的鲁棒性： 即使 NPD 存在极端的覆盖偏差（例如 NPD 仅包含最高收入群体），MADI 所需的样本量仍通常低于或等同于传统 HT 估计量。
    • 效率提升： 在某些场景下，MADI 将所需样本量从传统的 3000+ 降低到了 100 左右，极大地降低了调查成本。

5. 意义与结论 (Significance & Conclusion)

• 统计生产变革： MADI 为官方统计机构提供了一条切实可行的路径，使其能够安全、无偏地整合大规模非概率数据。
• 成本与负担降低： 通过利用 NPD 中的大量信息，MADI 显著减少了对昂贵概率样本的依赖，从而降低了调查成本和受访者的负担。
• 方法论融合： 该研究成功地将机器学习的预测能力与经典抽样理论的无偏性相结合，证明了在严格的设计框架下使用复杂模型是可行的。
• 未来方向： 论文指出，虽然 MADI 表现优异，但未来研究可进一步探讨非响应处理、测量误差校正以及在多变量调查中的扩展应用。

总结而言，MADI 是一种创新的抽样策略，它通过“在大数据上训练模型，在小概率样本上修正残差”的机制，解决了非概率数据选择偏差的难题，实现了无偏估计和方差的大幅降低，为现代官方统计数据的集成生产提供了强有力的理论支撑和实用工具。