Generalized Fiducial Inference Through Stochastic Inversion of Estimating Equations

技術的要約：推定方程式の確率的逆転による一般化フィデューシャル推論

問題提起
統計的推論は、完全な尤度指定が利用できない、あるいは望ましくない場合、推定方程式（例：積率法、M推定）に依存することが多い。これらの手法は柔軟なパラメータ推定を提供する一方で、その不確実性を定量化するには、一次漸近近似（有限標本や高次元の設定では不正確になる可能性がある）や、ブートストラップのような計算負荷の高い再サンプリング手順を必要とする。古典的なフィデューシャル推論は、構造的なデータ生成方程式 $X = G(U, \theta)$ を逆転させることでパラメータ分布を構築するが、推定方程式モデルは明示的な構造的表現を欠いていることが多いため、適用が困難である。したがって、パラメータが一般的な推定方程式のみを通じて定義される場合に、信頼分布を構築するための広く適用可能なフィデューシャル・フレームワークは存在しない。

手法：コピュラ一般化フィデューシャル推論 (CGFI)
本論文は、推定方程式モデルへと一般化フィデューシャル推論の原理を拡張する、尤度フリーのフレームワークである「コピュラ一般化フィデューシャル推論（CGFI）」を提案する。CGFIは、観測されたデータを構造方程式として逆転させるのではなく、経験的な推定方程式そのものを逆転させるべき確率的対象として扱う。

核となる構成手順は以下の通りである：

1. 確率的表現： 本手法は、経験的推定方程式の漸近分布を利用する。正則条件の下で、$\sqrt{n}\bar{g}_n(\theta_0) \xrightarrow{d} N(0, \Sigma)$ となる。ここで $\bar{g}_n(\theta)$ は推定関数の標本平均であり、$\Sigma$ はそれらの共分散行列である。
2. ガウス・コピュラによる摂動： フィデューシャル・ドローを生成するために、本手法は推定された推定方程式の結合分布と整合する確率的摂動 $\eta^*$ を導入する。具体的には、推定された共分散行列 $\hat{\Sigma}$ を、周辺標準偏差（$\hat{D}$）と相関行列（$\hat{R}$）に分解する。ガウス・コピュラを用いて、相関 $\hat{R}$ を持つ依存変数 $Z^*$ を生成し、これらを摂動ベクトル $\eta^* = \hat{D}Z^*$ へと変換する。
3. 確率的逆転： 摂動を加えた推定方程式を解くことで、フィデューシャル・ドロー $\theta^*$ が得られる。識別されたモデルの場合、これは $\sqrt{n}\bar{g}_n(\theta^*) + \eta^* = 0$ を解くことに相当する。過剰識別モデルの場合、$\theta^*$ は摂動を加えたGMM（一般化積率法）基準の最小化値として定義される：
   $$\theta^* = \arg \min_{\theta} \left( \sqrt{n}\bar{g}_n(\theta) + \eta^* \right)^\top W_n \left( \sqrt{n}\bar{g}_n(\theta) + \eta^* \right)$$
   ここで $W_n$ は正定値重み行列である。
4. 信頼分布： このプロセスを繰り返すことで、パラメータ空間上の $\theta^*_1, \dots, \theta^*_M$ という一連のドローが生成され、これがCGFI信頼分布を形成する。

主な貢献
本論文には主に4つの貢献がある：

1. フレームワークの拡張： 明示的な構造方程式を持つモデルを超えて、モーメント制約によって定義されるモデルへと一般化フィデューシャル推論を拡張する、新しい尤度フリーの信頼分布フレームワークであるCGFIを導入した。
2. 理論的特性： 標準的な正則条件の下で、CGFI分布は一貫性（真のパラメータの周囲に集中すること）を持ち、ベルンシュタイン・フォン・ミーゼス型の性質を満たすことを確立した。具体的には、CGFIドローの条件付き分布は、対応する推定方程式推定量の標本分布を漸近的に再現する。
3. 有限標本の性能： シミュレーション研究を通じて、CGFIが、特にモーメント条件が多い設定、非ガウス型誤差、および依存する推定関数において、ブートストラップ手順と同等の正確な被覆確率を提供することを実証した。
4. 計算効率： 本手法は、データを繰り返し再サンプリングしてモデルを再推定する必要がないため、ブートストラップ法と比較して計算コストを大幅に削減できる。

結果
シミュレーション研究では、様々なシナリオにおいてCGFIを従来のウォルド近似およびノンパラメトリック・ブートストラップと比較評価した：

• 高次元モーメント： モーメント条件の数（$q$）がサンプルサイズ（$n$）に対して増加するにつれ、ウォルド区間は深刻な被覆不足に陥った（$q=250, n=500$ のとき、被覆率は60%まで低下）。対照的に、CGFIは公称レベルの95%に近い被覆を維持し、ブートストラップと同様の性能を示しながら、計算時間は大幅に短縮された（例：$q=250$ において、0.9秒 vs 30.9秒）。
• 依存モーメント： モーメント条件に相関がある場合、CGFIは自動的に不確実性の定量化を適応させ、相関レベルの変化に関わらず95%付近の被覆を維持した。一方、ウォルドの被覆率は大きく変動した。
• 頑健性： CGFIは、ヘビーテイルな誤差分布（Student's $t$）や不均一分散に対しても頑健性を示し、多くの場合、ウォルド近似よりも優れた被覆を示しながら、計算効率を維持した。

意義と主張
本論文は、パラメータがモーメント制約を通じて識別されるものの、明示的な尤度や構造モデルを欠く設定において、CGFIが統一された信頼分布フレームワークを提供すると主張している。データの生成方程式から経験的推定方程式へと乱数の源泉をシフトさせることで、事前の仕様（ベイズ法のように）や完全な生成モデル（近似ベイズ計算のように）を必要とせずに、尤度フリーの不確実性定量化を可能にする。

著者は、CGFIは単なる再サンプリング装置ではなく、確率的逆問題が信頼分布を直接定義するという、明確に異なる推論アプローチであることを強調している。このフレームワークは、モーメント制約によって特徴付けられる計量経済学や機械学習における現代的な統計的手法へと、フィデューシャル推論を拡張するための一般的なメカニズムとして提示されている。結論として、CGFIは漸近的手法の計算効率と再サンプリング手法の正確性を共有しつつ、複雑で尤度フリーな設定における信頼分布を構築するための、独自の理論的基礎を提供している。