Least Squares-Based Permutation Tests in Time Series

技术摘要：基于最小二乘法的序列排列检验

问题陈述
本文探讨了在观测值表现出弱相关性的时间序列设定下，进行回归参数和单调趋势有效假设检验的挑战。经典的普通最小二乘法（OLS）推断依赖于独立同分布（i.i.d.）误差和高斯性假设。在时间序列中，这些假设经常失效，由于序列相关性的存在，标准的参数化检验（如 $t$-检验、$\chi^2$-检验）往往会产生失效的推断，导致第一类错误率上升。

虽然排列检验提供了一种非参数替代方案，在“随机化假设”（误差的可交换性）成立时可提供精确的有限样本推断，但它们传统上并不适用于时间序列。在时间依赖的设定下对协变量进行排列会破坏时间结构以及协变量与响应变量之间的关系。因此，实现精确性的基本假设——可交换性——往往会失效，导致排列分布无法近似真实的抽样分布，从而导致渐近失效。

方法论
作者提出了一个框架，用于构建对于广泛的平稳、弱相关过程（具体为 $\alpha$-混合序列）具有渐近有效性，并在随机化假设成立（即误差为 i.i.d.）时保留精确性的排列检验。

核心方法论涉及两个不同的问题设定，两者均利用**学生化（studentized）**检验统计量来实现渐近枢轴性（asymptotic pivotality）：

1. 检验回归系数（$H_0: \beta = 0$）：

   • 设定： 本文考虑一个平稳的 $\alpha$-混合序列 $\{(Y_i, X_i)\}$，其中 $X_i \in \mathbb{R}^p$。目标是检验无条件回归系数 $\beta$ 是否为零。
   • 问题： 未经学生化的统计量 $\sqrt{n}\hat{\beta}_n$ 的极限高斯分布协方差为 $\Sigma_X^{-1}\Gamma\Sigma_X^{-1}$，而排列分布的协方差收敛于 $\sigma_Y^2 \Sigma_X^{-1}$。在存在依赖性时，这些协方差通常不同，导致未经学生化的排列检验是无效的。
   • 解决方案： 作者通过将回归系数除以长期方差的一致估计量来构造了一个学生化统计量。具体而言，他们定义了一个方差估计量 $\hat{\Gamma}_n$（类似于 Newey-West 估计量），该估计量考虑了残差中的序列相关性。构造的检验统计量为：
     $$Z_n = \left( \hat{\Gamma}_n^{-1/2} \hat{\Sigma}_X \right) \sqrt{n}\hat{\beta}_n$$
   • 结果： 在零假设下，无论潜在的依赖结构如何（只要满足混合条件和矩条件），$Z_n$ 的真实抽样分布及其排列分布都收敛于标准多元正态分布 $N(0, I_p)$。

2. 检验单调趋势（$H_0^{(m)}$：无单调趋势）：

   • 设定： 本文考虑一个三角阵列模型 $Y_{n,i} = X_{n,i} + \lambda_{n,i}$，其中 $X_{n,i}$ 是行向平稳的 $\alpha$-混合阵列，且 $\lambda_{n,i} = g(i/n)$ 代表一个潜在的单调趋势。
   • 问题： 作者证明，若不对趋势函数 $g$ 进行限制，排列分布可能会发生退化（例如，如果趋势增长过快，单个高杠杆观测值会主导检验统计量）。此外，在依赖性存在的情况下，未经学生化的检验统计量的方差与排列分布的方差通常不匹配。
   • 解决方案： 作者对趋势函数 $g$ 施加了有界且连续的限制，以防止极端的杠杆问题。随后，他们使用估计误差过程 $X_{n,i}$ 长期方差的估计量 $\hat{\tau}_n^2$ 构造了一个学生化统计量。该检验统计量为：
     $$T_n = \frac{n^{3/2} \hat{\beta}_n}{\sqrt{12} \hat{\tau}_n}$$
   • 结果： 与回归情形类似，在零假设下，学生化统计量及其对应的排列统计量都收敛于标准正态分布 $N(0, 1)$，从而确保了渐近有效性。

主要贡献与结果

• 依赖性下的渐近有效性： 主要理论贡献在于证明了经过适当学生化处理后，排列检验对于平稳 $\alpha$-混合过程具有渐近有效性。这扩展了排列检验的应用范围，使其从 i.i.d. 设定扩展到一般的弱相关时间序列。
• 精确性的保留： 所提出的检验在随机化假设（可交换性）成立时，保留了进行精确有限样本推断的特性，而这是标准参数化检验在缺乏高斯假设时所不具备的。
• 方差估计： 本文提供了关于长期方差（$\hat{\Gamma}_n$ 和 $\hat{\tau}_n^2$）的一致估计量的具体构造方法，这些估计量对排列操作具有鲁棒性，确保了排列分布与真实的极限分布相匹配。
• 模拟证据： Monte Carlo 模拟证实，对于各种依赖过程（包括 $m$-依赖和 ARMA 过程），学生化排列检验能将第一类错误率控制在标称水平（如 $\alpha=0.05$）附近；相比之下，经典的卡方检验和未经学生化的排列检验往往会失效，根据依赖结构和尾部行为的不同，表现出严重的过度拒绝或拒绝不足。
• 软件实现： 这些方法已在 R 语言包 permixOLS 中实现，该包包含工作示例，并处理了诸如通过截断奇异值分解进行矩阵求逆等数值问题。

意义与声明
本文声称其框架为时间序列回归和趋势分析中标准假设失效的情况提供了一种稳健的确认性推断解决方案。其意义在于弥合了随机化检验的精确性与处理依赖数据所需的灵活性之间的鸿沟。

作者谦虚地指出，虽然这些检验具有渐近有效性，但其向标称水平收敛的速率取决于数据的尾部行为。在数据具有极重尾分布的情况下，可能需要更大的样本量才能使学生化方差估计量趋于稳定。然而，即使在这些困难的机制下，学生化排列检验也被证明优于传统的替代方案，因为后者随着样本量的增加，其拒绝概率可能会远超标称水平。

最终，本文确立了排列检验可以作为时间序列推论的一种有效方法，前提是必须通过学生化处理来考虑特定的依赖结构，从而恢复渐近枢轴性。