Likelihood Inference for Latent Network Models under Snowball Sampling

技術要約：スノーボール・サンプリング下における潜在ネットワークモデルの尤度推論

問題提起
大規模なネットワーク・データは、物流、予算、または倫理的な制約により、完全に観測可能であることは稀である。スノーボール・サンプリングは、到達困難な集団からデータを収集するための標準的な手法であるが、サンプリング・メカニズムを無視した素朴な推論は、パラメータ推定値に系統的なバイアスをもたらす。具体的には、スノーボール・サンプリングは高次数の頂点を優先的にリクルートするため、得られる部分グラフは、背後にある母集団よりもクラスター化し、同質的であるように見える。実務者が、これらを完全な母集団であるかのようにネットワークモデルに適合させると、母集団の異質性と分散を系統的に過小評価することになる。既存の文献には、特定の統計量に対するデザインベースの推定法や、未観測のネットワーク構成（例：指数関数的に多くのグラフの総和）に関する計算量的に困難な周辺化を必要とするモデルベースのアプローチが存在するが、広範なクラスのネットワークモデルに対して有効な、厳密かつ閉形式の尤度は存在しない。

手法
著者らは、連続潜在空間（CLS）モデルのクラスにおける、マルチウェーブ・スノーボール・サンプルに対する厳密な尤度を導出している。CLSモデルでは、頂点レベルの潜在的な量（例：幾何学的空間における位置）を条件として、エッジは頂点ペア間で独立に形成される。

1. 尤度の導出： コアとなる理論的貢献は、条件付きエッジ独立性によって、未観測のネットワーク構成に関する周辺化が閉形式の式に簡約化できることを示した点である。

   • Erdős–Rényi (ER) モデルから出発し、著者らは観測された隣接行列とウェーブ集合の結合確率を導出している。彼らは、観測されたエッジおよび非エッジ（within and between adjacent waves）を含む項と、未観測の頂点が観測されたウェーブ $V(0)$ から $V(r-1)$ までの頂点に対してエッジを持たない確率を表す積の項へと、尤度が分解されることを示している。
   • この結果は、一般的なCLSクラスへと拡張される。スノーボール・サンプルの尤度は、未観測の頂点がコア・サンプル（$V(0) \cup \dots \cup V(r-1)$）に対してエッジを持たないという制約を持つCLSネットワークの尤度と等価であることが示される。一方で、未観測集合内、および未観測集合と最終ウェーブ $V(r)$ の間の接続は、欠損として扱われる。
   • 著者らは、未観測の頂点の潜在的な位置の識別可能性について検討し、それらは同一の結合排除確率をもたらす構成の同値類までしか識別できないことを示している。

2. 推定アルゴリズム： ユークリッド潜在距離モデル（Hoff et al., 2002）に対してこの尤度を実装するために、著者らは確率的期待値最大化（sEM）アルゴリズムを開発した。

   • Eステップ： サンプリングされた頂点の潜在的な位置は欠損データとして扱われ、MCMC法を通じてサンプリングされる。著者らは、チューニングフリーの更新のために楕円スライスサンプラー（ESS）を利用している。決定的なのは、膨大な数の未観測の頂点の寄与を個別にモデル化するのではなく、単一の低次元の期待排除確率として積分消去することである。
   • Mステップ： サンプリングされた潜在位置における完全データ対数尤度を最大化することで、パラメータを更新する。
   • 計算効率： 未観測の頂点に関する積分は、準モンテカルロ（QMC）法（ソボル列）を用いて近似されており、計算オーバーヘッドを控えめに抑えつつ、完全な母集団に対するMCMCに特有の二次的なスケーリングを回避している。

主な貢献

• 厳密な閉形式の尤度： 本論文は、未観測のネットワークを列挙することなく、広範なCLSモデルに適用可能な、マルチウェーブ・スノーボール・サンプルに対する初の厳密な閉形式の尤度を提供しており、未観測ネットワークの計算に関する未解決問題を解決している。
• アルゴリズムの実装： 潜在位置の推論における既存のMCMCサンプラーに、サンプリング補正を自然に統合する確率的EMアルゴリズムを開発しており、これは低次元の積分を追加するのみである。
• 理論的洞察： 本研究は、CLSモデルにおけるエゴ（ego）選択の非無視性が、選択メカニメントが潜在的な位置に依存する場合（例：次数に比例した選択）に発生することを明らかにしている。これは、現在の一般的なモデルベースのアプローチでは対処されていないシナリオであると著者らは指摘している。

実証結果
本手法は、大規模なドイツの半導体特許出願者の共同発明家ネットワーク（$N \approx 6,000$）に適用され、広範なシミュレーションを通じて検証されている。

• シミュレーション研究： Erdős–Rényi および距離モデルのシミュレーションにおいて、素朴な推定法（サンプリングを無視したもの）はエッジ密度を著しく過大評価し、潜在空間の分散を過小評価する。スノーボール補正後の推定法は、疎なサンプルであっても近似的に不偏である。
• 半導体特許出願：
  • 潜在空間の分散： 素朴な手順は潜在空間の広がりを著しく過小評価している（補正モデルの $\hat{\psi} \approx 215$ に対し、素朴なモデルは $\hat{\psi} \approx 25$ と推定）。
  • エッジ数： 素朴なモデルは、観測されたエッジ数のほぼ2倍のエッジ数を持つネットワークを生成する（平均 41,154 に対し、観測値は 21,073）が、補正モデルは観測値を密接に再現している（平均 24,093）。
  • 適合度： 補正されたモデルは、素朴なモデルよりも9倍優れたスペクトル適合度（SGOF）を達成している（0.258 対 0.258 ではなく 0.027）。
  • 共変量の効果： 両モデルともジェンダー・ホモフィリーや地理的近接性のパターンについては定性的に一致しているが、素朴なモデルは、ベースラインのエッジ確率を系統的に過大評価し、地理的距離に伴うコラボレーション確率の減衰を弱めている。補正されたモデルは、より急峻な距離減衰と、コラボレーションの傾向における高い変動性を明らかにしている。

意義と主張
本論文は、スノーボール・サンプリングのメカニズムを無視することが、ネットワーク推論において定量的に劇的な誤りを引き起こし、母集団の異質性や共変量の効果に関する結論を変えてしまう可能性があると主張している。提案されたフレームワークは、潜在的な距離モデルを、真のスモールワールド特性を示す大規模なネットワークに対して、尤度ベースの推論が可能であった尺度（以前は計算量的に不可能であった）で初めて経験的にテストすることを可能にする。

著者らは、本フレームワークが素朴な推論を大幅に改善するものの、ユークリッド距離モデルは依然としてヘビーテイルな次数分布を持つスモールワールド・ネットワークを完全に適合させることには苦慮していると謙虚に述べている（これは既知の理論的限界である）。しかし、彼らは、補正された手順が、不適合を隠蔽するために潜在空間を人工的に収縮させてしまう素朴なアプローチよりも、このモデルの限界をより正直に露呈させていると主張している。本フレームれるは、条件付きエッジ独立性の仮定が保持される限り、双曲潜在空間、グラフォンモデル、および共変量を含むモデルへの将来の拡張のための基礎として提示されている。