Geometric Model Selection for Latent Space Network Models: Hypothesis Testing via Multidimensional Scaling and Resampling Techniques

기술 요약: 잠재 공간 네트워크 모델을 위한 기하학적 모델 선택

문제 정의
잠재 공간 모델은 저차원의 기하학적 공간 내 노드 간의 거리를 함수로 사용하여 네트워크 연결을 표현한다. 유클리드 공간이 표준적인 기본값으로 사용되어 왔으나, 쌍둥이 구조(tree-like structures), 왜도된 차수 분포(skewed degree distributions), 높은 클러스터링 계수와 같은 현실적인 복잡 네트워크 패턴을 모사할 수 있는 쌍곡 기하학(hyperbolic geometry)의 중요성이 점차 인식되고 있다. 네트워크 분석의 핵심 과제는 관찰된 특정 네트워크의 기저에 깔린 기하학이 무엇인지(유클리드인지 쌍곡인지) 결정하는 것이다.

Papamichalis 등 [2022]의 연구와 같은 기존 방식은 관찰된 측지 거리(geodesic distances, 최단 경로 길이)에 다차원 척도법(MDS)을 적용했을 때 발생하는 "스트레스(stress, 적합도 지표)"를 비교하는 데 의존한다. 이 방법은 더 낮은 스트레스를 보이는 기하학을 선택한다. 그러나 본 논문은 이러한 방식이 가진 중대한 한계를 지적한다. 즉, 가공되지 않은 스트레스 차이를 비교하는 것은 통계적 엄밀성이 부족하며 불확실성을 고려하지 못한다는 것이다. 시뮬레이션 결과, 이러한 단순한 접근법은 대규모 희소 유클리드 네트워크를 쌍곡 기하학으로 오분류하는 경우가 빈번하게 발생하는데, 이는 스트레스 지표 자체만으로는 기하학적 구조를 신뢰성 있게 구별하기에 불충분하기 때문이다.

방법론
기하학적 선택 과정에서 통계적 원칙이 결여된 문제를 해결하기 위해, 저자들은 단순한 스트레스 비교를 넘어 불확칙성을 반영하는 두 가지 가설 검정 프레임워크를 제안한다.

1. 순열 검정 (비모수적 방법):
   표준 MDS 순열 검정을 네트워크 환경에 맞게 조정하여, 저자들은 밀도를 보존하는 순열 스킴(density-preserving permutation scheme)을 제안한다. 측지 거리 행렬을 직접 순열하는 대신(이는 삼각형 부등식과 같은 메트릭 특성을 위반함), 인접 행렬 $Y$를 순열한다.

• 절차: 인접 행렬을 순열하여 엣지 밀도를 보존하는 새로운 네트워크 $\tilde{Y}$를 생성한다. 연결된 네트워크만을 유지한다. 순열된 네트워크의 측지 거리에 대해 고전적 MDS와 쌍곡 MDS를 적용하여 스트레스 차이의 귀무 분포를 생성한다.
• 가설: 귀무 가설($H_0$)은 관찰된 스트레스 차이가 무작위 순열을 통해 얻은 차이와 구별할 수 없음을 상정한다.

2. 조건부 잠재 거리(J-테스트 확장)를 통한 파라메트릭 부트스트랩:
   저자들은 데이비드슨-맥키넌(Davidson-MacKinnon) J-테스트를 잠재 공간 네트워크 모델로 확장한다. 이 방법은 관찰된 측지 거리와 가우시안 잠재 위치 모델(GLPM)에 조건화된 네트워크의 파라메트릭 부트스트랩 분포를 생성한다.

• 이론적 기초: GLPM을 활용하여, 저자들은 관찰된 측지 거리 $\delta_{ij} = k$가 주어졌을 때의 조건부 잠재 거리 분포 $P(d_{ij} | \delta_{ij} = k)$를 도출한다. 여기서 $d_{ij}$는 잠재 유클리드 거리이다. 이를 통해 단순히 엣지 밀도만을 고려하는 것이 아니라, 관찰된 네트워크 구조(특히 측지 거리)를 존중하는 부트스트랩 네트워크를 생성할 수 있다.
• 절차:
  1. 관찰된 네트워크를 기반으로 GLPM의 파라미터를 추정한다.
  2. 조건부 분포 $P(d_{ij} | \delta_{ij})$로부터 잠재 거리를 샘플링하고 새로운 인접 행렬을 구성함으로써 부트스트랩 네트워크를 생성한다.
  3. 각 부트스트랩 샘플에 대해 스트레스 차이를 계산한다.
  4. 관찰된 스트레스 차이보다 작거나 같은 부트스트랩 스트레스 차이의 비율을 바탕으로 p-값을 계산한다.
• 가설: $H_0$는 쌍곡 모델이 유클리드 모델 이상의 설명력을 제공하지 못함을 의미한다.

주요 결과
이 방법들의 효용성은 다양한 크기(15~200 노드)와 밀도를 가진 네트워크 및 실제 데이터셋에 대한 시뮬레이션을 통해 평가되었다.

• 시뮬레이션 결과:

  • 가공되지 않은 스트레스 차이: 대규모 희소 네트워크에서 성능이 저조하며, 거의 모든 유클리드 네트워크를 쌍곡 기하학으로 오분류한다.
  • 순열 검정: 스트레스 차이 방식에 비해 개선된 특이도(유클리드 네트워크를 올바르게 식별)를 보이지만, 다소 보수적이어서 때때로 쌍곡 네트워크를 오분류하기도 한다. 대규모 네트워크에서 쌍곡 구조를 탐지하는 데 있어 높은 민감도를 보여준다.
  • 부트스트랩 네트워크: 민감도와 특이도 사이의 더 나은 균형을 제공한다. 대규모 희소 네트워크(실제 데이터에서 흔히 나타나는 형태)를 구분하는 데 있어 가공되지 않은 스트레스 차이 방식보다 현저히 우수한 성능을 보인다.
  • 한계점: 부트스트랩 방법은 생성된 네트워크가 연결되어 있어야 한다. 차수가 매우 낮은 노드(예: UKfaculty 데이터셋)가 있는 경우, 리샘플링 과정에서 연결되지 않은 그래프가 자주 생성되어 수정 없이는 적용이 불가능하다.

• 실제 적용 사례:

  • Zachary's Karate Club: 가공되지 않은 스트레스는 쌍곡 모델을 선호했으나, 순열 검정($p=0.1053$)과 부트스트랩 방법($p=0.1888$) 모두 귀무 가설을 기각하는 데 실패하여 유클리드 기하학이 더 적합함을 시사했다.
  • 기타 데이터셋: 네 가지 추가 데이터셋(UKfaculty, adjnoun, dolphins, ffe friend) 전반에 걸쳐, 불확실성을 고려한 방법들은 단순 스트레스 비교보다 더 미묘한 분류를 제공했다. 예를 들어, 가공되지 않은 스트레스는 "ffe friend" 네트워크에 대해 쌍곡 모델을 선호했으나, 불확실성 고려 방법들은 유클리드가 더 적합한 모델임을 시사했다.

의의 및 주장
본 논문은 잠재 기하학을 선택할 때 오직 MDS 스트레스 차이에만 의존하는 것은 통계적으로 타당하지 않으며, 특히 대규모 희소 네트워크에서 오류가 발생하기 쉽다고 주장한다. 주요 기여는 불확실성을 엄격하게 고려하기 위해 순열 또는 부트스트랩을 통한 가설 검정 프레임워크를 잠재 공간 네트워크 설정에 적응시킨 것이다.

저자들의 주장은 다음과 같다:

1. 통계적 엄격성: 순열이나 부트스트랩을 통해 불확실성을 포함함으로써 유클리드 네트워크가 쌍곡 기하학으로 체계적으로 오분류되는 것을 방지한다.
2. 방법론적 확장: 본 연구는 측지 거리가 주어진 조건부 잠재 거리 분포를 활용하여, 서로 다른 기하학을 가진 비중첩(non-nested) 잠재 공간 모델로 Davidson-MacKinnon J-테스트를 성공적으로 확장하였다.
3. 실용적 유용성: 제안된 방법들은 단순 스트레스 비교가 실패하는, 실제 데이터의 전형적인 특징인 "대규모 및 희소" 네트워크를 구분하는 데 특히 효과적이다.

저자들은 부트스트랩 방법이 계산 비용이 많이 들고 현재 가우시안 LPM 가정에 의존하고 있다는 점을 언급하며 한계점에 대해 겸허한 태도를 유지한다. 또한 향-후 연구로서 다른 잠재 공간 모델(예: 비가우시안 링크)이나 다른 기준 기하학(예: 구형 기하학)을 활용한 확장을 제안하지만, 현재의 시뮬레이션 및 실제 데이터 분석 범위를 넘어서는 구체적인 새로운 응용 분야를 제시하지는 않는다.