技術的概要：安定したベクトル自己回帰過程におけるスパース性のベイズ推論

問題提起

本論文は、スパース性と定常性の両方が要求される安定したグラフィカルなベクトル自己回帰（VAR）過程に対するベイズ推論の課題に取り組んでいる。高次元時系列応用（遺伝学、神経科学、マクロ経済学など）において、 directed relationships（グレンジャー因果性）と同時条件付き独立性を特定することは極めて重要である。これらの関係性は、自己回帰係数行列（$\Phi$）および誤差精度行列（$K = \Sigma^{-1}$）のスパースパターンに符号化されている。

スパース性は標準的な事前分布（スパイク・アンド・スラブなど）によって誘発可能であるが、定常性を強制することは計算上困難である。VAR 過程は、その特性多項式の根が単位円の外側に存在する場合にのみ安定であり、この条件はパラメータを定常領域（$C_{p,m}$）と呼ばれる複雑で非凸な幾何学的領域に制限する。

• 対立： 標準的なスパース事前分布は、制約のないユークリッド空間上で定義される。これらの事前分布を$C_{p,m}$に切り取る（truncate）ことは、扱いにくい正規化定数を導入し、事後推論を二重に扱いにくくする。
• 帰結： 明示的な強制がない場合、事後分布の質量は、特に時系列の長さが次元に対して短い場合やスパース性が低い場合に、定常領域の外側に漏れ出すことが多い。これは、無界な予測分散と劣悪な予測性能をもたらす。

手法

著者らは、パラメータ拡張と再パラメータ化戦略を通じて、同時に定常性を強制しスパース性を誘発する新しいベイズ枠組みを提案している。

1. 定常性のための再パラメータ化

$C_{p,m}$の幾何学的複雑さを回避するため、著者らは補助変数$\nu \in \mathbb{R}^+$を導入し、制約付きの自己回帰係数$\Phi$を、制約のない正方行列の集合$Z = (Z_1, \dots, Z_p)$とスケーリング因子$u$へマッピングする。

• マッピング： 変換は$Z_s = \nu \phi_s$および$u = \rho(C_\phi)$として定義される。ここで、$\rho(\cdot)$はスペクトル半径、$C_\phi$は同伴行列（companion matrix）である。
• 逆マッピング： 元の係数は$\phi_s = u Z_s / \rho(C_z)^s$を介して復元される。ここで、$C_z$は$Z$の同伴行列である。
• 主要な性質： この全単射はゼロを保存する。すなわち、非対角要素について$z_{s,ij} = 0$であることと$\phi_{s,ij} = 0$であることは同値である。これにより、制約のない空間$Z$においてスパース性を誘発しながら、結果として得られる$\Phi$が定常領域内に存在することを保証できる。

2. 事前分布の指定

• 自己回帰係数（$\Phi$）： 制約のない行列$Z$に対してスパイク・アンド・スラブ事前分布が置かれる。
  • 非対角要素$z_{s,ij}$（$i \neq j$）は、$z_{s,ij} = \gamma_{s,ij} \tilde{z}_{s,ij}$としてモデル化される。ここで、$\gamma_{s,ij}$は二値インジケータ、$\tilde{z}_{s,ij}$は連続的な効果量である。
  • スラブは正規分布であり、スパイクはゼロにおける原子（または狭い正規分布）である。
  • 超パラメータは混合確率と収縮を制御する。
• 誤差精度行列（$K$）： G-Wishart 分布の混合が使用される。
  • 事前分布は$\pi(G_2, K) = \pi(G_2)\pi(K|G_2)$として指定される。ここで、$G_2$は同時依存関係の無向グラフであり、$K|G_2 \sim W_{G_2}(d, D)$である。
  • ガウスグラフィカルモデルで一般的なこのアプローチは、正規化定数が交換アルゴリズム（exchange algorithms）を介して処理される一方で、ガウス尤度との共役性を維持しつつスパースな$K$を可能にする。

3. 計算的推論（MCMC）

著者らは、結合事後分布からサンプリングするためのメトロポリス・イン・ギブスアルゴリズムを開発している。

1. 連続パラメータ（$\theta_{1,c}$）： $Z$の連続部分、スケーリング因子$u$、および超パラメータを含むベクトルは、**No-U-Turn Sampler（NUTS）**を用いてサンプリングされる。この勾配ベースの手法は、再パラメータ化によって引き起こされる複雑な事後依存関係をナビゲートするために不可欠である。
2. 離散インジケータ（$\theta_{1,d}$）： $Z$におけるスパース性の二値インジケータは、完全条件付きベルヌーイ分布を用いた体系的なスキャン（systematic scan）によって更新される。
3. グラフと精度行列（$\theta_2$）： 無向グラフ$G_2$と精度行列$K$は、扱いにくい G-Wishart 正規化定数を回避するために交換アルゴリズムを採用するグラフィカルモデル決定アルゴリズム（Wang and Li, 2012）を用いてサンプリングされる。

主要な結果

シミュレーション実験

著者らは、時系列の長さ（$n$）、次元（$m$）、次数（$p$）、およびスパース性レベル（$r$）を変化させて広範なシミュレーションを実施した。

• スパース性の識別： 定常性を強制することは、特に真のスパース性が低い（$r=0.1$）または中程度（$r=0.5$）の場合、スパース性インジケータの誤分類率を大幅に減少させた。定常性の制約がない場合、事後分布はしばしば正しいゼロパターンを特定できず、真のグラフと推定されたグラフの間で高いハミング距離をもたらした。
• 定常性の違反： 定常性が強制されなかった分析において、シミュレーションの 10% で、事後分布の最大 16% の質量が定常領域の外側に存在する結果となり、制約のないモデルにおける無界分散のリスクが確認された。
• 比較： 提案された手法は、制約のないベイズスパース VAR および Lasso ベースの正則化尤度推定量の両方を上回った。特に、高次元かつサンプル数が少ない領域において顕著であった。

実世界への応用

1. 米国マクロ経済データ：
   • 設定： 1959 年から 2007 年の GDP、CPI、および連邦基金金利を含む 20 変数に対する VAR(4) モデル。
   • 発見： 提案された事前分布（スパースかつ定常）は、すべての予測期間（$h=1, 2, 4, 8$）において、最も優れたサンプル外予測性能を示した。
   • 洞察： 定常性を強制しなかったモデルは、無界な予測分散を生み出した。スパース定常モデルは、消費者物価指数（CPI）と連邦基金金利の間の強力なフィードバックループを特定し、これは経済理論と一致している。
2. 神経科学（脳接続性）：
   • 設定： 難治性てんかん患者からの頭蓋内脳波（iEEG）データの分析。ベータ帯域およびデルタ帯域のバンドパワーに焦点を当てた。
   • 発見： モデルは、方向性のある接続性の明確なパターンを明らかにした。ベータ帯域において、他の方向と比較して**左から右（LR）**への方向性エッジに対する事後確率が有意に高かった。
   • 洞察： この方向性の非対称性は、患者の発作が左半球（扁桃体/海馬）で発生し、左側側頭葉切除後に解決されたという臨床的歴史と一致する。結果は、発作間（非発作）の脳活動が、発作を生成する機能的ネットワークに関する情報を含んでいることを示唆している。

意義と主張

本論文は、ベクトル自己回帰係数に対する事前分布を構築する最初の手法を提供し、それが推論を同時に定常領域に制約しつつ、パラメータ空間におけるスパース性を可能にすると主張している。

• 理論的貢献： この研究は、パラメータ拡張によるゼロ保存全単射を導入することで、定常領域の幾何学的複雑さとスパースなパラメータ推定の必要性との間の緊張関係を解決する。
• 実用的影響： 著者らは、定常性を強制することが単なる理論的制約ではなく、特にデータが限られている高次元設定において、予測精度と科学的解釈可能性を向上させるための実用的な必要性であることを実証している。
• 謙虚さ： 著者らは、補助変数と NUTS サンプリングに起因して、このアプローチが制約のない手法よりも計算集約的であることを指摘しているが、そのコストは定常性の保証と推論の質の向上によって正当化されるとしている。また、この手法は単体（simplex）など、ノルムのような制約を持つ他の空間にも適応可能であると認めている。

本論文は、グラフィカル VAR において定常性を無視することは深刻な推論誤差につながる可能性があり、提案された枠組みは安定した動的システムにおける因果構造の学習に対する堅牢な解決策を提供すると結論付けている。