Focused median bias reduction

技術要約：フォーカス・メディアン・バイアス低減（Focused Median Bias Reduction）

問題提起
最尤推定量（MLE）は、その一致性と漸近効率性から統計学の実践において標準的な手法である。しかし、有限標本（特に小〜中程度のサンプルサイズ、高次元パラメータ、または制限されたパラメータ空間を伴う場合）においては、MLEはしばしば顕著なバイアスを示す。平均バイアス低減法（例：Firth, 1993）は確立されているが、歪んだ分布や制限された範囲を持つパラメータに対しては、過大評価と過小評価の確率を等しくするメディアン（中央値）バイアスの低減が好ましい場合が多い。

「フォーカス・パラメータ」（特定の参照パラメータ化の滑らかなスカラー変換）のメディアン・バイアス低減に関する既存の手法には、重大な限界がある。修正符号付き尤度ルートや調整プロファイル・スコア（Kenne Pagui et al., 2017）に基づく暗黙的な手法は、非線形な推定方程式の求解、完全に指定された煩雑なパラメータ化、および繰り返しの制約付き最適化を必要とする。これらのアプローチは計算負荷が高く、代数的に複雑であり、特にフォーカス・パラメータが標準的な（カノニカルな）パラメータ化の構成要素ではない場合に、数値的な脆弱性を伴う。

手法
著者らは、選択された参照パラメータ化の滑らかなスカラー変換として定義されるフォーカス・パラメータに対し、明示的なメディアン・バイアス補正推定量を提案する。この手法は、中心化およびスケーリングされたフォーカス・パラメータのMLEの**コーニッシュ・フィッシャー展開（Cornish-Fisher expansion）**に基づいている。

1. オラクル推定量（Oracle Estimator）： 理論的には、バイアス $B(\psi)$、分散 $K_2$、および第三次累積モーメント $K_3$ が既知であれば、第三次メディアン不偏推定量 $\tilde{\psi}^{(o)}$ を構築できる。展開式は以下の通りである：
   $$\tilde{\psi}^{(o)} = \hat{\psi} - B(\psi) + \frac{1}{6}\frac{K_3}{K_2}$$
   ここで、$\hat{\psi}$ はフォーカス・パラメータの標準的なMLEである。

2. 非オラクル推定量（Non-Oracle Estimator）： $B(\psi)$、$K_2$、$K_3$ が閉じた形式（closed form）で得られることは稀であるため、著者らはこれらの量を初期推定量（通常はMLEまたは簡約化された平均バイアス低減推定量）で評価された漸近近似値に置き換えることで、非オラクル版を導出している。バイアス項 $B(\psi)$ は、参照パラメータ・ベクトルのバイアス展開の主要項を用いて近似され、これには変換の勾配とヘシアン、および対数尤度微分の積の期待値（$P_t$ および $Q_t$ 行列）が含まれる。

3. 計算： 必要な期待値（$P_t, Q_t$）は、多くの標準的なモデル（GLMや指数型分布族など）において閉じた形式で利用可能である。一般的なモデルの場合、論文では、これらの量を適合済みモデルからモンテカルロ・シミュレーションを用いて効率的に推定できることを示しており、これには対数尤度関数とシミュレーション機構のみが必要となる。

4. 推論： 補正された推定量は、第三次メディアン不偏である。本論文では、これを**Hullベースの信頼区間（HulC）**法（Kuchibhotla et al., 2024）と統合している。データ分割内でこの補正を適用することで、メディアン・バイアスが制御されている限り、明示的な分散推定や極限分布の仮定を必要とせずに、名目上の有限標本被覆率を達成する。

主な貢献

• 明示的な定式化： 本論文は、暗黙的な手法で必要とされる調整スコア方程式の反復求解を回避する、直接的かつ明示的なメディアン・バイアス補正式を提供している。
• 柔軟性： 本手法は、任意の滑らかなスカラー・フォーカス・パラメータ（例：マハラノビス距離、分位点、限界効果、順序的優越性の尺度など）に対応しており、特定のフォーカスごとに個別の煩雑なパラメータ化を必要としない。
• 計算効率： 暗黙的なメディアン・バイアス低減法と比較して、計算負荷を大幅に軽減する。フォーカス・パラメータが参照パラメータの構成要素である場合、この明示的な補正は、Kenne Pagui et al. (2017) の暗黙的なメディアン・バイアス低減推定量への**1ステップの準フィッシャー・スコアリング（quasi-Fisher scoring）**と等価であることが示されている。
• シミュレーションに基づく実装： 尤度量の解析的な微分が利用できないモデルのために、モンテカルロ・シミュレーションを利用して必要なバイアスおよび累積モーメントの項を推定する実用的な枠組みを含んでいる。
• 等変性（Equivariance）の特性： 明示的な推定量は、再パラメータ化に対して厳密な等変性は持たない（MLEや暗黙的な手法とは異なる）が、フォーカス・パラメータの単調変換の下で第三次メディアン不偏性を保持する。

結果
著者らは、広範なシミュレーションと実データを用いた例を通じて、本フレームワークを検証している：

• マハラノビス距離： 多変量正規設定において、補正された推定量は過小評価の確率を大幅に減少させ（50%に近づける）、MLEと比較して有限標本の平均バイアスおよびRMSEを改善させた。
• 一般化線形モデル（GLM）： 個別の限界効果に関するプロビット回帰において、本手法はメディアン・バイアスをほぼ完全に補正した。これは平均バイアスやRMSEをわずかに増大させるものの、補正されていない、あるいは平均バイアス補正された推定量に基づくWald型区間よりも優れた、名目上の被覆率を持つHulC区間の構築を可能にする。
• ワイブル分布の分位点： 分位点推定において、本明示的補正は、$r^*$ ベースの推定量（修正符号付き尤度ルートを解くもの）と同等の性能を示しながら、繰り返し行われる制約付き最適化やスプライン補間を回避することで、計算コストを大幅に抑えている。
• 順序回帰： データ分離（separation）が発生しMLEが無限大となるケースにおいて、本手法は簡約化された平均バイアス初期推定量（Firthの推定量など）を用いることで、順序的優越性の尺度に対する有限なメディアン・バイアス補正推定値を生成する。
• フォーカス情報量基準（FIC）： 事後選択推論において、本手法はFICによって選択されたフォーカス・パラメータに対して頑健な信頼区間を提供し、選択されたモデルが誤設定されている場合でも被覆特性を維持する。

意義と主張
本論文は、提案されたフレームワークが、計算が単純であり、かつ広く適用可能な、第三次メディアン不偏への経路を提供すると主張している。これは、暗黙的なメディアン・バイアス低減の理論的な最適性と、応用統計学における実践的な制約との間の溝を埋めるものである。

意義に関する主な主張は以下の通りである：

• 本手法は、暗黙的なメディアン・バイアス低減へのワンステップ近似を提供し、非線形システムや複雑な煩雑なパラメータ化を扱うことなく、同等の精度のオーダーを実現する。
• 本手法はHulC法と自然に統合され、特定の条件下で第六次精度の被覆保証を持つ信頼区間をもたらす。これは、複雑な高次尤度推論なしには達成が極めて困難な精度レベルである。
• 本アプローチは、フォーカス・パラメータの形式に関して**モデルに依存しない（model-agnostic）**ため、従来の高度な尤度手法が困難な複雑な派生量（例：リスク差、限界効果）にも適している。
• 本手法は、簡約化された平均バイアス初期推定量を使用することを許可することで、**境界の問題（boundary issues）**を効果的に処理し、任意のフォーカス・パラメータに対して有限の開始値を確保できる。これは、任意のフォーカス・パラメータに対する暗黙的なメディアン・バイアス低減では必ずしも保証されない機能である。

著者らは、明示的な推定量が再パラメータ化の下での厳密な等変性を犠牲にするものの、そのトレードオフによって、幅広い統計モデルにおいて有限標本における推定と推論を改善するための、実用的で頑健かつ効率的なツールが得られると結論付けている。