Robust Inference for Convex Pairwise Difference Estimators

技術的サマリー：凸対差推定量のための頑健な推論

問題提起
本論文は、共変量が類似する観測ペアに対してカーネル重み付きの凸目的関数を最小化するように定義される、広範なクラスの凸対差推定量に関連する推論上の課題に取り組む。これらの推定量は、部分線形回帰、ロジット、トビットモデルなどの非線形モデルにおける異質性に対処するために広く用いられている。

中心的な困難は、推定量の大規模サンプル挙動が帯域幅（局所化）パラメータ $h_n$ に依存することにある。古典的な推論は、制限的な帯域幅条件に依存する。具体的には、漸近線形性を保証するために $n h_n^d \to \infty$ であり、かつバイアスが無視できることを保証するために $n h_n^4 \to 0$ である。これらの条件下では、推定量は漸近的に線形であり、標準的なノンパラメトリック・ブートストラップ推論は一致する。しかし、実際には、特に共変量ベクトルの次元 $d$ が増加するにつれて、両方の条件を同時に満たす帯域幅を選択することは困難である。既存の手法は、帯域幅が小さすぎる場合（線形性条件の違反）や大きすぎる場合（バイアス条件の違反）には、有効な推論を提供できないことが多く見られる。

手法
著者らは、より広範な帯域幅選択において頑健性を達成するために、3 つの異なる理論的アイデアを組み合わせる新たな推論枠組みを開発した。

1. 小帯域幅漸近法: Cattaneo, Crump, および Jansson (2014a) の枠組みを拡張し、条件 $n h_n^d \to \infty$ を課すことなく、推定量に対するガウス分布近似を導出した。代わりに、より緩やかな条件 $n^2 h_n^d \to \infty$ の下での妥当性を確立した。このアプローチは、高い局所化によって引き起こされる追加的な分散を考慮し、収束率と分散構造が局所化の程度に明示的に依存する結果をもたらす。
2. 一般化ジャックナイフによるバイアス除去: $h_n$ が大きい場合（$n h_n^4 \to 0$ の違反）のバイアスに対処するため、著者らは Schucany and Sommers (1977) に基づく一般化ジャックナイフを用いたバイアス除去手順を採用した。これは、異なる帯域幅で計算された推定量の線形結合を構築するものである。重要なのは、高次カーネルを使用すること（これは負の重みをもたらし、目的関数の凸性を破壊する）とは異なり、一般化ジャックナイフは推定量の凸性を保持することである。これにより、凸最適化の計算上および理論上の利点を維持しながら、より大きな帯域幅を使用することが可能になる。
3. ブートストラップ再スケーリング: 本論文は、標準的なノンパラメトリック・ブートストラップが、局所化に起因する特定の分散増大を捉えられないため、小帯域幅漸近法の下では不一致であることを特定した。著者らは、ブートストラップ再サンプリングで使用される局所化パラメータを $3^{1/d}$ の係数で再スケーリングする修正されたブートストラップ手順を提案した。この調整により、ブートストラップ分散が真の漸近分散と整合し、$n h_n^d$ が有界であっても一致性が保証される。

主要な貢献と結果
本論文は、これら 3 つの構成要素を統合した包括的な分布理論と実用的な推論手法を提供する。

• 一般化ガウス近似: 定理 1 は、$n^2 h_n^d \to \infty$ の下で、推定量がガウス分布に収束することを確立する。漸近分散には、「小帯域幅」の不確実性を反映する項が含まれており、これは $n h_n^d \to \infty$ の場合にのみ消滅する。この結果は、3 つの領域をカバーする。漸近線形性（$n h_n^d \to \infty$）、線形性なしのルート-$n$ 一致性（$n h_n^d \to c \in (0, \infty)$）、およびルート-$n$ よりも遅い一致性（$n h_n^d \to 0$ かつ $n^2 h_n^d \to \infty$）。
• バイアス除去推定量の性質: 定理 2 は、ガウス近似をバイアス除去推定量に拡張する。これは、特定の重みを用いて $h_n, c_1 h_n, \dots, c_L h_n$ の帯域幅を持つ推定量を組み合わせることで、$h_n^{2L+2}$ 次までのバイアス項を除去できることを示す。これにより、$n h_n^{4(L+1)} \to 0$ が成り立てば、標準的な $n h_n^4 \to 0$ 条件に違反する帯域幅でも有効な推論が可能になる。
• 有効なブートストラップ推論: 定理 3 と系 1 は、分散の不一致により、小帯域幅漸近法の下では標準的なブートストラップが不一致であることを示す。しかし、ブートストラップ段階での帯域幅を $3^{1/d} h_n$ に再スケーリングすることで、この手法は一致する分布近似をもたらす。
• 頑健な被覆率: 本論文は、(1) 古典的、(2) 古典的バイアス除去、(3) 小帯域幅、(4) 小帯域幅バイアス除去の 4 つの推論手順を比較する。理論的分析とシミュレーション証拠（第 6 節）は、バイアス除去と帯域幅再スケーリングの組み合わせ（手順 4）が、最も広範な帯域幅選択において最も頑健な被覆確率を提供することを示している。これは、小帯域幅における標準的ブートストラップの過度な保守性と、大帯域幅におけるバイアスに起因する被覆率の低下を軽減する。

重要性
本論文は、既存のアプローチと比較して、凸対差推定量に対して「明らかにより頑健な」推論手法を提供すると主張している。その主な重要性は以下の点にある。

1. 帯域幅制限の緩和: 有効なガウス近似のために制限的な $n h_n^d \to \infty$ 条件の必要性を排除し、より高いレベルの局所化を可能にする。
2. 凸性の保持: 高次カーネルではなく一般化ジャックナイフを利用することで、目的関数の凸性を保持する。これは、高速な計算と弱い正則条件にとって不可欠である。
3. 実用的な頑健性: 提案された手法（バイアス除去と再スケーリングの組み合わせ）は、帯域幅の選択が不確実またはデータ駆動である場合でも、信頼区間が名目上の被覆レベルを維持することを保証する。これは実証研究において一般的なシナリオである。

著者らは、理論的展開が目的関数の凸性と、U-過程に適用された Hjort and Pollard (1993) および Pollard (1991) の基礎的な研究に大きく依存していると指摘している。論文は、帯域幅選択のための高次確率展開、一致分散推定量、および生成された回帰変数に基づく推定量への将来の拡張を提案して結論付けている。