Adaptable High-Dimensional Change Point Detection via Ridge Regularization

技术摘要：基于岭正则化的高维可适应变点检测

问题陈述
本文解决了在独立高维观测序列 $X_1, \dots, X_n \in \mathbb{R}^p$ 的均值向量中检测多个变点的问题。数据建模为 $X_j = \mu_j + \Sigma_p^{1/2} Z_j$，其中 $\{Z_j\}$ 是独立同分布的随机向量，其分量相互独立、均值为零、方差为一，且 $\Sigma_p$ 为一般协方差矩阵。目标是检验零假设 $H_0$（均值向量恒定 $\mu_j = \mu$）对立假设 $H_a$（均值向量在未知位置发生有限次突变）。本研究聚焦于高维情形，即维度 $p$ 与样本量 $n$ 相当（即 $p/n \to \gamma \in (0, \infty)$），在此设定下，由于协方差矩阵估计的不稳定性及噪声累积，传统方法往往失效。

方法论
作者提出了一族专为稠密替代（dense alternatives）设计的岭正则化 CUSUM 统计量，其中信号变化可能分布在许多或所有坐标上。方法论步骤如下：

1. 岭正则化变换：不依赖样本协方差矩阵的逆（当 $p \ge n$ 时该矩阵奇异或不稳定），而是使用岭正则化估计量对观测值进行变换：$(S_n + \lambda I_p)^{-1/2} X_j$，其中 $S_n$ 为合并样本协方差矩阵，$\lambda > 0$ 为调节参数。
2. 检验统计量：
   • 单变点（SC）：统计量 $T_{sc}$ 扫描时间区间 $[0,1]$ 的所有二元划分（通过修剪参数 $\epsilon$ 排除边界），以最大化分段均值之间的标准化差异。
   • 多变点（MC）：为处理未知数量的变点并避免因相反方向的偏移相互抵消而导致的功效损失，作者提出了一种多尺度扫描策略。这涉及在代表相邻分段的三元组 $(t_1, t_2, t_3)$ 上最大化统计量。为管理计算复杂度（$O(n^3)$），采用了离散化扫描集。
3. 标准化：原始统计量利用其渐近均值和方差的數據驱动估计进行标准化，这些估计源自 $S_n$ 的特征值及纵横比 $\gamma_n$。由此得到具有旋转不变性的枢轴统计量 $D_\lambda$。
4. 正则化参数选择：本文讨论了在概率替代框架下，通过最大化渐近功效（最小化贝叶斯风险）来选择 $\lambda$。理论分析和数值实验表明，最优 $\lambda$ 通常较小，具体推荐 $\lambda \approx 0.01 p^{-1} \text{tr}(S_n)$。

主要贡献

• 自适应归一化：所提出的方法通过岭正则化实现了稳定的样本协方差归一化形式。这使得该过程能够适应潜在的总体协方差结构，而无需对 $\Sigma_p$ 施加结构性假设（如稀疏性或低秩）。
• 渐近理论：作者在温和条件下（有限四阶矩、有界谱范数及谱分布的弱收敛）推导了所提统计量的极限分布。
  • 在 $H_0$ 下，统计量收敛于特定中心高斯过程的上确界，提供了一个不依赖未知总体参数的枢轴极限分布。
  • 在局部替代（包括确定性和概率性）下，渐近功效由渐近信噪比（ASNR）刻画，该比值取决于岭参数、信号协方差与数据协方差之间的相互作用。
• 功效分析：本文提供了与现有方法的严格比较。结果表明，虽然 $\ell_\infty$-范数方法对稀疏信号最优，而未归一化的 $\ell_2$-范数方法（或 U 统计量方法）在高维中存在局限性，但所提出的岭正则化 $\ell_2$-范数方法在多样化的协方差结构和信号密度下均表现出稳健的性能。
• 计算效率：引入了一种离散化扫描策略，将多变点检验的计算负担从 $O(n^3)$ 降低至 $O(n \epsilon^{-3})$，使其适用于大型数据集。

结果

• 模拟研究：在各种协方差结构（单位阵、Toeplitz 矩阵、多项式衰减、指数衰减）和信号模型（稠密独立同分布高斯、$\Sigma_p$ 相关高斯及稀疏跳跃）下进行的广泛蒙特卡洛模拟显示，所提出的检验保持了正确的经验尺寸，并实现了与现有方法相当或更优的功效。值得注意的是，在多变点（流行病型）设定下，它是唯一能在所有信号模型与协方差结构组合中提供非平凡功效的可行过程。
• 真实数据应用：该方法应用于 2007 年至 2025 年间 92 只标普 500 成分股的日对数收益率。所提出的岭检验成功检测到了主要的市场结构性断裂，包括 2009 年市场底部（2009 年 3 月 5 日）和 COVID-19 崩盘的开端（2020 年 2 月 10 日）。对该检验的递归应用进一步识别了更细微的结构变化，例如 2021 年末后 COVID 恢复时期的结束。相比之下，未归一化方法（$L_2^2$-CUSUM、$L_\infty$-CUSUM）在此应用中未能拒绝零假设，突显了在高维金融数据中进行协方差归一化的必要性。

意义与主张
本文主张，所提出的过程为高维变点检测提供了一个原则性的、自归一化的框架，无需依赖精度矩阵的估计。通过利用随机矩阵理论（RMT），作者确立了岭正则化在确保稳定性的同时，保留了精度矩阵的关键谱结构。该方法被呈现为在 $p \approx n$ 的体制下处理稠密替代的应用中尤为重要，例如基因组学（DNA 拷贝数变异）、气候科学（时空场）和神经影像学。作者强调，该检验的旋转不变性及其对未知协方差结构的适应性，使其在缺乏协方差或信号稀疏性先验知识时成为一种稳健的工具。文章最后指出，虽然当前工作聚焦于独立数据，但利用长程协方差估计量将这些结果扩展到时间序列设定，是未来研究的一个有前景的方向。