📈 economics

A Neyman-Orthogonalization Approach to the Incidental Parameter Problem in Likelihood Models

本文提出了一种构建似然估计方程的方法，使该方程对于扰动参数在任意阶 $q$ 之下均保持正交，从而缓解了含有固定效应的模型中的附带参数问题，并使得即使在扰动参数估计不精确的情况下也能实现稳健推断。

原作者： Stéphane Bonhomme, Koen Jochmans, Martin Weidner

发布于 2026-08-18

📖 1 分钟阅读☕ 轻松阅读

原作者： Stéphane Bonhomme, Koen Jochmans, Martin Weidner

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

在经济学领域，研究人员经常试图理解特定因素如何影响结果，例如一个人的技能如何影响其工资，或者一个团队的构成如何影响其生产力。为了实现这一目标，他们构建数学模型，将他们关心的因素从其他干扰结果的无关变量中分离出来。这些无关变量被称为“扰动参数”（nuisance parameters）。在许多情况下，这些扰动因素是针对特定个体的，比如某位特定教师的独特天赋，或某位特定研究人员的特定特质。当数据有限时，估计这些个体特质会变得非常困难，而估计这些特质时产生的误差会扭曲最终关于主要关注因素的结论。这是一个被称为“偶然参数问题”（incidental parameter problem）的持久难题。几十年来，统计学家一直使用一种称为“正交性”（orthogonality）的技术来试图解决这个问题。这种方法涉及设计计算过程，使得对扰动因素估计的小误差不会立即干扰主要结果。然而，当数据稀疏或个体特质极难精准定位时，这种标准方法往往会失效，导致研究人员得出有偏差的结论。

一支来自芝加哥大学、图卢兹经济学院和牛津大学的经济学家团队开发了一个更强大的解决方案。他们创建了一种超越标准修复方法的方法，只要误差随着样本量的增加以特定的速率缩小，该方法就能使计算对估计误差具有稳健性。他们的做法不仅仅是确保数学计算的第一步是干净的，而是进一步清理了计算的第二步、第三步甚至更高阶的步骤。他们称之为“高阶正交化”（higher-order orthogonalization）。通过这样做，即使在个体特质被不精确估计的情况下，他们仍能使用数据并对主要问题得出准确的答案，只要估计误差相对于样本量下降得足够快。研究人员将这种新方法应用于一个涉及科学研究团队的现实问题。他们研究了成千上万篇学术论文的数据，以了解研究人员是如何协作的。具体而言，他们想知道与合作伙伴共同工作是否能提高论文质量，以及某些研究人员是否能够实现互补。

研究人员将他们的新技术应用于一个包含 1990 年至 1999 年间发表在经济学领域的 91,000 多篇文章的数据集。数据包括每篇论文的作者信息以及论文发表期刊的质量。在这种环境下，每位作者都拥有一种影响其作品质量的独特的、无法观测的能力。由于许多作者在这一时期仅发表了少量论文，使用标准方法无法高精度地衡量他们的个人能力。当研究人员使用旧的标准方法来处理这些个体能力时，结果出现了偏差。标准方法表明，与合作伙伴共同工作增加了论文质量，但关于研究人员如何互动的估计值却存在偏差。具体而言，未经修正的替代参数（substitution parameter）估计值接近柯布-道格拉斯（Cobb-Douglas）情形，这暗示了一种特定的生产关系，但这种偏差掩盖了互动的真实本质。

当研究人员应用他们的新高阶方法时，情况发生了显著变化。新的估计结果显示，拥有共同作者带来的质量提升比标准方法所暗示的要温和。更重要的是，新方法揭示了研究人员之间是互补关系而非替代关系。这意味着，当两位拥有不同优势的研究人员合作时，他们创造的成果比各自部分之和更为优秀。数据表明，作者的具体组合至关重要。研究人员还模拟了如果作者是被随机配对成团队而非自主选择合作伙伴时会发生什么。他们发现，随机配对会导致文章平均质量明显下降。这表明，目前这种让研究人员选择合作伙伴的制度是有效的，因为它允许进行“正向筛选”（positive sorting），即优秀的科研人员能够找到其他优秀的科研人员进行合作。

研究还证明了该方法具有稳定性。随着研究人员增加修正的复杂度，结果趋于一个一致的数值，这表明偏差已被成功消除。相比之下，标准方法产生的结果则远离这个稳定的数值。研究人员通过广泛的计算机模拟证实了他们的发现，这些模拟模仿了他们的现实世界数据。这些模拟表明，即使在个体能力的数据非常少的情况下，他们的方法也能恢复真实的底层关系。这项工作为处理涉及众多个体特征的复杂数据的经济学家和其他社会科学家提供了一个新工具。它使他们能够从以前因过于杂乱而难以准确分析的数据集中得出更可靠的结论，确保他们讲述的人类行为故事是建立在坚实的基础之上，而非统计伪影之上。

技术摘要：似然模型中针对偶然参数问题的 Neyman 正交化方法

1. 问题陈述与动机
本文探讨了似然模型中的偶然参数问题（incidental parameter problem），特别是在扰动参数维度相对于样本量较大（例如具有固定效应的面板数据或具有节点特定异质性的网络数据）的情境下。在这些背景下，标准插件估计量（plug-in estimators）用于估计目标参数（如结构参数 $\theta_0$ 或平均效应 $\mu_0$ ）时会产生显著偏差，因为扰动参数（如固定效应 $\eta_{i0}$ ）的收敛速度慢于进行有效推断所需的参数速率。

作者指出，虽然一阶 Neyman 正交化（即对扰动参数的期望一阶偏导数为零）允许在扰动参数收敛速度快于 $n^{-1/4}$ 时进行有效推断，但这一条件在高维设定下往往无法满足。例如，在具有 $N$ 个单位和 $T$ 个时期的面板数据中，固定效应以 $T^{-1/2}$ 的速率收敛。一阶正交化要求 $N = o(T)$ ，而这在微观计量经济学应用中很少能得到满足。因此，仅靠一阶正交化并不能解决这些设定下的偶然参数问题。

2. 方法论
作者在条件似然框架内提出了一种更高阶的 Neyman 正交化推广方法。

高阶正交性： 定义一个估计方程 $u(Z; \theta, \eta, \mu)$ 对扰动参数 $\eta$ 是 $q$ 阶 Neyman 正交的，如果其关于 $\eta$ 的前 $q$ 阶偏导数的期望值为零：
$E\left[ \nabla^q_\eta u(Z; \theta_0, \eta_0, \mu_0) \right] = 0$
其中 $\nabla^q_\eta$ 代表所有直到 $q$ 阶的偏导数向量。当结合样本分割（或交叉拟合/cross-fitting）时，该性质确保了扰动参数 $\hat{\eta}$ 的估计误差对目标参数估计量的影响速率为 $O_p(|\hat{\eta} - \eta_0|^{q+1})$ 。这放宽了对 $\hat{\eta}$ 收敛速率的要求至 $o_p(n^{-1/2(q+1)})$ ，使得即使在 $N = o(T^q)$ 的情况下也能实现有效推断。
通过 Bhattacharyya 基构造： 本文提供了一种生成高阶正交函数的构造性方法。利用条件似然 $\ell(y|x; \theta, \eta)$ ，作者使用了 Bhattacharyya 基函数 $v_p$ ，该函数定义为对数似然的第 $p$ 阶导数并经过似然函数归一化。这些基函数具有零条件均值。
定理 1 确立了可以通过将原始矩函数 $u$ 投影到由前 $q$ 阶 Bhattacharyya 基函数（ $w_q$ ）所构成的空间中，来构造一个新的矩函数 $u^*_q$ 。具体为：
$u^*_q(z; \theta, \eta, \mu) = u(z; \theta, \eta, \mu) - A(x; \theta, \eta, \mu)^\top w_q(z; \eta)$
其中 $A$ 是由基函数的条件协方差矩阵与矩函数导出的。该构造将 Small 和 McLeish (1989) 以及 Waterman 和 Lindsay (1996) 的投影得分函数推广到了任意阶数 $q$ 以及一般的感兴趣参数（不仅限于 $\theta$ ）。
估计程序： 使用基于正交化函数 $u^*_q$ 和通过样本分割获得的初步估计量 $\hat{\eta}_i$ 的广义矩估计法 (GMM) 来估计目标参数。作者强调，条件似然结构至关重要，因为它允许在不引入额外扰动参数（否则需要解高阶方程组）的情况下构造这些高阶方程。

3. 主要贡献

通用构造： 本文提供了一个通用的、闭式形式的程序，用于构造在一般条件似然模型中对任意选定阶数 $q$ 正交的估计方程。
放宽收敛速率： 通过增加正交阶数 $q$ ，该方法显著放宽了对扰动参数收敛速率的要求，使得在 $N$ 相对于 $T$ 较大（例如 $N = o(T^q)$ ）的设定下进行有效推断成为可能。
处理重叠固定效应： 该方法能够处理复杂的结构，例如网络数据中单个扰动参数出现在多个观测值中的“重叠固定效应”情况。
诊断工具： 作者提出了一个基于 $q$ 阶与 $q+1$ 阶正交矩函数之间差异的诊断统计量，用以评估所选的正交阶数是否足以消除偏差。

4. 实证结果与说明
论文通过两个主要示例展示了该方法：

Neyman-Scott 模型： 作者证明了虽然标准得分函数是一阶正交的，但仍存在偏差。通过推导出的二阶正交得分函数，可以得到自由度修正后的估计量（将除数从 $T$ 改为 $T-1$ ），从而完全消除了 $O(T^{-1})$ 的偏差。
团队生产（网络数据）： 作者将该方法应用于使用经济研究合作数据（Ductor et al., 2014）来估计常替代弹性 (CES) 生产函数。该模型包含研究者特定的固定效应。
- 发现： 标准插件估计量和一阶正交化估计量产生的估计结果不稳定或存在偏差（例如替代参数 $\gamma$ 接近 0.13）。高阶正交化估计量（ $q \geq 2$ ）收敛于稳定的 $\gamma \approx 0.41-0.47$ 的估计值，表明研究者之间存在超模性（互补性）。
- 反事实分析： 该方法被用于模拟研究者的随机重新分配。结果表明，与观察到的分配方式相比，随机配对会降低平均论文质量，这是由正向排序和互补性驱动的。
- 稳定性： 随着 $q$ 从 2 增加到 6，参数和标准误的估计趋于稳定，且在此特定应用中没有表现出明显的偏差-方差权衡（bias-variance trade-off）。

5. 意义与主张
本文声称，高阶 Neyman 正交化为似likelihood模型中扰动参数估计不精确的偶然参数问题提供了稳健的解决方案。不同于需要显式估计并移除偏差项的偏差修正方法（如 Hahn 和 Newey, 2004），该方法通过修改估计方程本身来实现偏差削减。

作者将这项工作定位为半参数推断与高维固定效应模型之间的桥梁。他们指出，尽管该方法依赖于条件似然结构（特别是 Bartlett 恒等式的存在和信息矩阵等价性），但它成功处理了目前尚无其他替代方案的复杂网络结构。文章最后进行了谦逊的总结，承认该方法要求似然结构成立，并将如何将这些结果扩展到更一般的（不带似然函数的）半参数矩条件模型作为未来的研究课题。

类似论文