Proper Bayes minimax multiple shrinkage estimation

技術要約：適切なベイズ・ミニマックス多重収縮推定

問題提起
本論文は、多変量正規分布 $X \sim N_d(\theta, I_d)$ の平均ベクトル $\theta \in \mathbb{R}^d$ を二乗誤差損失の下で推定するという典型的な問題に取り組んでいる。最大尤度推定量（MLE）である $\delta_{MLE}(X) = X$ はミニマックスであるが、次元 $d \geq 3$ においては非受容的（inadmissible）である。ジェームス＝シュタイン推定量のような収縮推定量は、観測値をあらかじめ指定されたターゲット（通常は原点）に向かって収縮させることで、MLEを支配する。しかし、単一ターゲットの収縮推定量は、その特定のターゲットの近傍においてのみ大幅なリスク減少をもたらす。

実用的なシナリオでは、事前情報から $\theta$ がいくつかの異なるターゲット $\theta_1, \dots, \theta_k$ のいずれかの近くにある可能性が示唆される場合がある。先行研究では、データに基づいて最も有望なターゲットへと適応的に収縮する「ミニマックス多重収縮推定量」が導入された。しかし、これらの既存の推定量は、不適切な事前分布（具体的には、超調和的な周辺密度関数の混合）を用いた混合によって構築されていた。その結果、それらは「適切な（proper）」ベイズ推定量ではなくなり、混合重みを事前確率として解釈することができず、「適切なベイズ・ミニマックス多重収縮推定量」の存在に関する問いは未解決のまま残されていた。

手法
著者らは、従来の超調和的な周辺密度関数ではなく、**平方根超調和的（square-root superharmonic）**な周辺密度関数を利用することで、適切なベイズ・ミニマックス多重収縮推定量を構築するための一般的な枠組みを開発した。

1. 理論的基礎:

   • 本論文は、周辺密度 $m_\pi(x)$ を通じたベイズ推定量の表現を再検討している。スタインのミニマックス性の条件は、周辺密度が超調和的（$\nabla^2 m_\pi \leq 0$）であることを要求する。より弱い条件である平方根超調和性（$\nabla^2 \sqrt{m_\pi} \leq 0$）も、ミニマックス性のための十分条件となる。
   • 超調和的な周辺密度は適切な事前分布からは誘導できないことが確立されている。しかし、平方根超調和的な周辺密度は、$d \geq 5$ の場合に適切な事前分布から誘導可能である。

2. 多重収縮推定量の構築:

   • 著者らは、混合事前分布 $\pi^*(\theta) = \sum w_i \pi(\|\theta - \theta_i\|^2)$ （ここで $\pi$ は球対称な適切な事前分布）を検討している。
   • 得られる推定量は、成分ごとの収縮推定量の適応的な凸結合である：$\delta^*(x) = \sum \rho_i(x) \delta_{\theta_i}(x)$。
   • 課題: 超調和関数の和は超調和的であるため（不適切な事前分布におけるミニマックス性を保証する）、平方根の和は平方根の和にはならない。したがって、成分の周辺密度の平方根超調和性は、混合された周辺密度の平方根超調和性を自動的には保証しない。

3. 再スケーリングとミニマックス条件:

   • 著者らは、混合推定量がミニマックスとなるための十分条件（定理2）を導出している。これには、以下の2つの重複する領域への分割が含まれる：
     • 領域A（外部）: 最寄りのターゲットへの距離が大きい領域。ここでは、成分の平方根超調和性によってミニマックス性が保証される。
     • 領域B（内部）: 観測値がターゲットに近い領域。ここでは、成分の標準的な超調和性によってミニマックス性が保証される。
   • 領域B（収縮が強い領域）において成分が超調和的であることを満たすために、著者らは周辺密度関数に対する再スケーリング修正を導入している。周辺密度 $m(x)$ を $m_a(x) = a^{-d/2} m(x/\sqrt{a})$ とスケーリングすることで、収縮関数 $r(t)$ を平坦化する。
   • 定理3および定理4は、得られる適切なベイズ推定量に対してミニマックス性を保証するための、スケーリングパラメータ $a$ および混合重みに関する明示的な条件を提供している。

4. 特定の事前分布:

   • この枠組みは、再スケーリングされたストラデマンマン・プリアー（Strawderman priors）や再スキールされた多変量スチューデント・プリアーを含む、正規分散混合事前分布に適用される。
   • 混合密度 $h(\lambda)$ によって定義されるストラデマン・プリアーに対して、混合パラメータ $\alpha$ とスケーリング因子 $a$ を適切に選択することで、すべてのミニマックス条件を満たす適切な事前分布が得られることを著者らは示している。

主な結果

• 存在証明: 本論文は、適切なベイズ・ミニマックス多重収縮推定量の存在を初めて実証した。
• 受容性（Admissibility）: これらの推定量は適切な事前分布から導出されているため、自動的に受容的である。これは、従来の不適切なベイズ構成では保証されなかった性質である。
• 解釈可能性: 混合事前分布における重みは、特定のターゲットが生成メカニズムであるという事前確率として整合性を持って解釈できる。これは、従来のメソッドにおける実用的な制限に対処するものである。
• リスク性能: 単一ターゲットの推定量と比較した2ターゲット推定量のシミュレーション研究（セクション6）では、適切なベイズ多重収縮推定量が、各ターゲットにおいて最良の単一ターゲット推定量とほぼ同等のリスク減少を達成しつつ、ミニマックス性を維持していることが示された。
• 次元数: この構築は次元 $d \geq 5$ で有効である（ただし、$d=5$ の場合は特定の $\alpha$ を必要とするなど、この範囲内の低次元における特定の制約がある）。

意義と主張
本論文は、平方根超調和的周辺密度への移行と再スケーリング手法の導入により、適切なベイズ・ミニマックス多重収縮推定量の存在に関する長年の未解決問題を解決したと主張している。これにより、以下の性質を持つ推定量を構築する構成的な方法を提供している：

1. ミニマックスである（MLEを支配する）。
2. 適切なベイズである（受容的であり、解釈可能である）。
3. 多重収縮である（複数の潜在的なターゲットに適応的に対処する）。

著者らは、このアプローチが、事前情報が複数の実行可能なターゲットを示唆している実用的な場面において、理論的な最適性の保証を維持しながら堅牢な解決策を提供するものであることを強調している。本研究は、35年以上前にこの問題の調査を開始した故ウィリアム・E・ストラデマンに敬意を表するものである。また、主要な焦点は平均推定に置かれているが、これらの結果は多変量正規モデルの予測問題にも拡張可能であると結論付けている。