Likelihood Inference for Latent Network Models under Snowball Sampling

기술 요약: 스노볼 샘플링 하에서의 잠재 네트워크 모델을 위한 가능도 추론

문제 정의
대규모 네트워크 데이터는 물류, 예산 또는 윤리적 제약으로 인해 완전히 관찰되지 않는 경우가 많다. 스노볼 샘플링(snowball sampling)은 접근하기 어려운 인구 집단으로부터 데이터를 수집하는 표준적인 방법이지만, 샘플링 메커니즘을 무시하는 나이브한(naive) 추론은 체계적으로 편향된 파라미터 추정치를 산출한다. 구체적으로, 스노볼 샘플링은 고차수(high-degree) 정점을 우선적으로 모집하기 때문에, 결과적인 서브그래프는 실제 모집단보다 더 클러스터링되어 있고 동질적인 것처럼 보인다. 실무자들이 이 샘플들을 마치 완전한 모집단인 것처럼 네트워크 모델을 적합시킬 경우, 모집단의 이질성과 분산을 체계적으로 과소평가하게 된다. 기존 문헌은 특정 통계량에 대한 설계 기반 추정량(design-based estimators)이나, 관찰되지 않은 네트워크 구성에 대한 계산적으로 다루기 힘든 주변화(marginalization, 예: 지수적으로 많은 그래프를 합산하는 과정)를 요구하는 모델 기반 접근법을 제시한다. 그러나 광범위한 네트워크 모델 클래스 전반에 걸쳐 유효하면서도 계산 효율적인, 스노볼 샘플에 대한 정확한 폐쇄형(closed-form) 가능도를 제공하는 연구는 부족한 실정이다.

방법론
저자들은 연속적 잠재 공간(Continuous Latent Space, CLS) 모델 클래스 내에서 다중 웨이브(multi-wave) 스노볼 샘플에 대한 정확한 가능도를 도출한다. CLS 모델에서 에지는 잠재적 정점 수준의 양(예: 기하학적 공간에서의 위치)이 주어졌을 때 정점 쌍 간에 독립적으로 형성된다.

1. 가능도 도출: 핵심적인 이론적 기여는 조건부 에지 독립성이 관찰되지 않은 네트워크 구성에 대한 주변화를 폐쇄형 표현으로 축소할 수 있음을 입증한 것이다.

   • 에르데시-레니(Erdős–Rényi, ER) 모델에서 시작하여, 저자들은 관찰된 인접 행렬과 웨이브 집합들의 결합 확률을 도출한다. 그들은 가능도가 내부 및 인접 웨이브 간의 관찰된 에지/비에지(non-edges)를 포함하는 항들과, 관찰되지 않은 정점들이 $V(0)$부터 $V(r-1)$까지의 샘플 웨이브에 연결되지 않을 확률을 나타내는 곱 항으로 분해됨을 보여준다.
   • 이 결과는 일반적인 CLS 클래스로 확장된다. 스노볼 샘플의 가능도는 관찰되지 않은 정점들이 핵심 샘플($V(0) \cup \dots \cup V(r-1)$)에 에지를 갖지 않도록 제약된 CLS 네트워크의 가능도와 동일함이 입증된다. 이때 미관찰 집단 내부의 연결과 미관찰 집단과 마지막 웨이브 $V(r)$ 사이의 연결은 누락된 것으로 취급된다.
   • 저자들은 미관측 정점들의 잠재 위치에 대한 식별 가능성(identifiability) 문제를 다루며, 이들이 동일한 결합 배제 확률을 생성하는 구성의 동치류(equivalence class) 내에서만 식별 가능하다는 것을 보여준다.

2. 추정 알고리즘: 이 가능도를 유클리드 잠재 거리 모델(Hoff et al., 2002)에 구현하기 위해, 저자들은 확률적 기대-최대화(stochastic Expectation-Maximization, sEM) 알고리즘을 개발한다.

   • E-step: 샘플링된 정점들의 잠재 위치는 누락된 데이터로 취급되며 MCMC 절차를 통해 샘플링된다. 저자들은 튜닝이 필요 없는 업데이트를 위해 엘립티컬 슬라이스 샘플러(Elliptical Slice Sampler, ESS)를 활용한다. 결정적으로, 방대한 수의 미관측 정점들에 대한 기여는 개별적으로 모델링되는 대신, 단일 저차원 기대 배제 확률로서 적분되어 처리된다.
   • M-step: 샘플링된 잠재 위치에서 완전 데이터 로그 가능도를 최대화함으로써 파라미터가 업데이트된다.
   • 계산 효율성: 미관측 정점에 대한 적분은 준 몬테카를로(Quasi-Monte Carlo, QMC) 방법(Sobol 수열)을 사용하여 근사되며, 이를 통해 계산 오버헤드를 적절히 유지하고 전체 인구 MCMC에서 나타나는 이차적 스케일링 문제를 피한다.

주요 기여

• 정확한 폐쇄형 가능도: 본 논문은 관찰되지 않은 네트워크를 열거하지 않고도 이러한 분포를 계산할 수 있는 미해결 문제를 해결하며, 광범위한 CLS 모델에 적용 가능한 최초의 정확한 폐쇄형 가능도를 제공한다.
• 알고리즘 구현: 제안된 프레임워크는 샘플링 보정을 잠재 위치 추론을 위한 기존 MCMC 샘플러와 자연스럽게 통합하며, 단지 저차원 적분을 추가할 뿐이다.
• 이론적 통찰: 본 연구는 CLS 모델에서 에고(ego) 선택의 비무시성(non-ignorability)이 선택 메커니즘이 잠재 위치에 의존하는 경우(예: 차수 비례 선택) 발생한다는 점을 명확히 하며, 이는 현재 일반적인 모델 기반 접근법에서는 다뤄지지 않는 시나리오임을 지적한다.

실증 결과
본 방법론은 대규모 독일 반도체 특허 출원인 협력 네트워크($N \approx 6,000$)에 적용되었으며 광범한 시뮬레이션을 통해 검증되었다.

• 시뮬레이션 연구: 에르데시-레니 및 거리 모델 시뮬레이션에서, 나이브한 추정량(샘플링을 무시하는 경우)은 에지 밀도를 심각하게 과대평가하고 잠재 공간의 분산을 과소평가한다. 반면, 스노블 보정 추정량은 희소한 샘플에서도 약 근사적으로 불편성(unbiased)을 유지한다.
• 반도체 특허 출원:
  • 잠재 공간 분산: 나이브한 절차는 잠재 공간의 확산을 심각하게 과소평가한다(보정된 모델의 $\hat{\psi} \approx 215$ 대비 나이브 모델의 $\hat{\psi} \approx 25$).
  • 에지 수: 나이브 모델은 관찰된 에지 수보다 거의 두 배 많은 에지를 생성하는 반면(평균 41,154 vs 관찰값 21,073), 보정된 모델은 관찰된 수치와 밀접하게 일치한다(평균 24,093).
  • 적합도: 보정된 모델은 나이브 모델보다 9배 더 나은 스펙트럼 적합도(SGOF)를 달성한다(0.258 vs 0.027).
  • 공변량 효과: 두 모델 모두 성별 동종성(homophily) 및 지리적 근접성의 패턴에 대해서는 질적으로 일치하지만, 나이브 모델은 기저 에지 확률을 체계적으로 과대평가하고 지리적 거리 증가에 따른 협력 확률의 감소를 완화하여 보여준다. 보정된 모델은 더 가파른 거리 감쇠와 협력 성향의 높은 변동성을 드러낸다.

의의 및 주장
본 논문은 스노볼 샘플링 메커니즘을 무시하는 것이 네트워크 추론에 있어 정량적으로 극적인 오류를 범하며, 인구의 이질성과 공변량 효과에 대한 결론을 바꿀 수 있다고 주장한다. 제안된 프레 framework는 계산적으로 제한적이었던 대규모 네트워크에 대해 잠재 거리 모델을 경험적으로 스트레스 테스트할 수 있는 최초의 토대를 마련한다.

저자들은 본 프레임워크가 나이브한 추론보다 크게 개선되었음에도 불구하고, 유클리드 거리 모델이 여전히 헤비 테일(heavy-tailed) 차수 분포를 가진 스몰 월드 네트워크를 완벽하게 적합시키는 데 어려움이 있다는 점을 겸허히 언급한다(이는 알려진 이론적 한계이다). 그러나 저자들은 보정된 절차가 부적합을 은폐하기 위해 잠재 공간을 인위적으로 축소하는 나이브한 접근 방식보다, 모델의 한계를 더 정직하게 드러낸다고 주장한다. 본 프레임워크는 조건부 에지 독립성 가정이 유지되는 한, 하이퍼볼릭 잠재 공간, 그래폰(graphon) 모델, 그리고 공변량을 포함한 모델로의 향후 확장을 위한 기초로 제시된다.