技術要約：交差検証におけるアンチセティック（対抗的）無作為化の最適性について

問題設定

本論文は、観測値 $Y \sim N(\mu, \sigma^2 I_n)$ が得られる正規平均問題の文脈における予測誤差（PE）推定の問題を扱う。従来の交差検証はサンプル分割に依存しているが、これは、サンプルを分割することで独立した訓練・テストフォールドを生成できない、クラスター化されたデータ、縦断的データ、または固定デザインのデータにおいては実行不可能なことが多い。

これを克服するために、著者らは、適合させた推定量 $g(Y)$ が（漸近的に）正規分布に従う十分統計量を通じてデータに依存するという枠組みを利用する。サンプルの分割の代わりに、正規無作為化変数によって統計量を摂動させることで、データの「情報」を分割する。摂動レベル $\alpha > 0$ に対して、$K$ 個の訓練・テストフォールドは以下のように構成される：
$$Y^k_{\text{train}} = Y + \sqrt{\alpha}\omega^k, \quad Y^k_{\text{test}} = Y - \frac{1}{\sqrt{\alpha}}\omega^k$$
ここで $\omega^k$ は無作為化ベクトルである。交差検証推定量は次のように定義される：
$$CV_\alpha = \frac{1}{K} \sum_{k=1}^K \left( \|g(Y^k_{\text{train}}) - Y^k_{\text{test}}\|_2^2 - \frac{1}{\alpha}\|\omega^k\|_2^2 \right)$$
この推定量のバイアスは、$\omega^k$ の周辺分布（$N(0, \sigma^2 I_n)$ と仮定）のみによって決定される。しかし、推定量の分散は、無作為化変数 $(\omega^1, \dots, \omega^K)$ の結合分布に依存する。中心となる問いは、特に $\alpha \to 0$ （バイアスが消失する領域）において、どの結合法則が可減分散（R-VAR）を最小化するかである。

手法と枠組み

著者らは、以下の条件を満たす交換可能な正規無作為化スキーム（仮定 2.1）のクラスを研究している：

1. ベクトル $(\omega^1, \dots, \omega^K)$ は交換可能である。
2. 各 $\omega^k \sim N(0, \sigma^2 I_n)$ である。
3. ペア間の相関は一定である：$k \neq k'$ のとき $\text{Cov}(\omega^k, \omega^{k'}) = \rho \sigma^2 I_n$ であり、$\rho \in [-1/(K-1), 1]$ である。

可減分散は $E[\text{Var}(CV_\alpha | Y)]$ として定義される。解析は、この分散の $\alpha \downarrow 0$ における漸近的挙動に焦点を当てている。

主な貢献と結果

1. 滑らかな推定量に対するアンチセティック無作為化の必要性

$g$ が弱微分可能である（仮定 3.1）推定量の場合、本論文は相関パラメータ $\rho$ に関する鋭い閾値を確立している。

• 定理 3.1: $\alpha \downarrow 0$ のとき、無作為化がアンチセティック、すなわち $\rho = -1/(K-1)$ である場合に限り、可減分散は有界（$O(1)$）となる。
• もし $\rho > -1/(K-1)$ であれば、可減分散は $\Theta(1/\alpha)$ のレートで発散する。
• この結果は、$\omega^k$ の結合正規性を仮定せず、周辺正規性と特定の相関構造のみを要求する場合でも成立する。

2. 結合正規スキームのミニマックス最適性

どのようなスキームが $\rho = -1/(K-1)$ を満たして有界な分散を保証するかについては、より具体的な結合分布を調査する。

• 命題 4.1: ベースとなる正規ベクトル $Z$ と、等長性と和がゼロである制約（$\sum M^k = 0$）を満たす交換可能なランダム行列 $M^k$ を用いた、アンチセティック・スキームの一般的な構成法を提供する。
• 定理 4.1: この構成クラスの中で、結合正規スキーム（スタックされたベクトル $(\omega^1, \dots, \omega^K)$ が多変量正規分布に従うもの）は、一意のミニマックス最適な構成である。これは、滑らかな推定量のクラスに対する最悪ケースの可減分散を最小化する。結合正規スキームは、下限値 $8\sigma^4/(K-1) \cdot E\|\nabla g(Y)\|_F^2$ を達成する。

3. 非平滑推定量への拡張

解析は、有限個の跳躍不連続点を持つ推定量（例：ハード閾値化推定量）へと拡張される。これらは $g(y) = f_0(y) + \sum a_\ell(y) \mathbb{1}\{h_\ell(y) > 0\}$ とモデル化される。

• 定理 5.1: 非平滑な推定量に対しても、アンチセティック無作為化（$\rho = -1/(K-1)$）は、非アンチセティック・スキームと比較して可減分散の漸近的なレートを改善する。具体的には、アンチセティック・スキームでは分散は $O(\alpha^{-1/2})$ で増大するのに対し、非アンチセティック・スキームでは $\Theta(\alpha^{-1})$ で増大する。
• 定理 5.2: 不連続境界が既知である場合、ジャンプによる分散への寄与を相殺するための**コントロール・バリアート（制御変数）**を構築できる。このコントロール・バリアートを推定量に加えると、$\alpha \downarrow 0$ において可減分散は有界（$O(1)$）となり、$\rho = -1/(K-1)$ である限り、滑らかな場合と同等の性能が回復する。

4. 数値検証

理論的な知見は、リッジ回帰およびハード閾値化リッジ回帰を用いたシミュレーションを通じて検証されている：

• リッジ回帰（平滑）: 結合正規アンチセティック・スキーム（ACV Normal）は、Rademacherベースのアンチセティック・スキーム（ACV Rademacher）よりも低い可減分散を示し、ミニマックス最適性が確認された。両方のアンチセティック・スキームは有界に留まるが、独立（$\rho=0$）および正の相関を持つスキームは発散する。
• ハード閾値化リッジ（非平滑）: 調整なしのアンチセティック・スキームは、非アンチセティック・スキームと比較して、より遅い発散レート（$O(\alpha^{-1/2})$）を示す。コントロール・バリアートを用いたスキーム（ACV Adjusted）は、有界な分散を維持しており、定理 5.2 が裏付けられた。

意義と主張

本論文は、正規平均の設定における無作為化ベースの交差検証の最適性の問題を解決したと主張している。

• アンチセティック相関（$\rho = -1/(K-1)$）は、滑らかな推定量において、バイアスが消失するにつれて可減分散が爆発するのを防ぐために、単に十分であるだけでなく必要であることを確立した。
• 結合正規アンチセティック・スキームが、すべての有効なアンチセティック・スキームの中で一意のミニマックス最適な構成であることを特定した。
• 非平滑な推定量に対しては、アンチセティック無作為化がより優れた漸近的な分散減少レートを提供すること、そして不連続の構造が既知であれば、コントロール・バリアートを用いることで有界な分散を完全に回復できることを示した。

本研究は、結合正規性を仮定せずにアンチセティック条件の必要性を証明し、厳密なミニマックス最適性と非平滑な設定への拡張を提供することで、先行研究（例：Liu et al., 2026）を一般化している。