ProfileGLMM: a R Package Extending Bayesian Profile Regression using Generalised Linear Mixed Models

1. 연구 배경 및 문제 제기 (Problem)

• 기존 방법론의 한계: 베이지안 프로파일 회귀 (Bayesian Profile Regression) 는 종속적인 공변량 (clustering covariates) 을 기반으로 관측치를 클러스터링하고, 이를 통해 결과 변수를 설명하는 강력한 통계적 프레임워크입니다. 그러나 기존 구현체 (예: PReMiuM 패키지) 는 주로 횡단면 데이터 (cross-sectional data) 에 국한되어 있었습니다.
• 복잡한 데이터 구조 처리 불가: 계층적 구조 (hierarchical) 나 종단 데이터 (longitudinal data, 반복 측정) 와 같은 복잡한 데이터 구조를 분석할 때, 관측치 간의 상관관계나 개인별 이질성 (unobserved heterogeneity) 을 고려하지 못하면 통계적 추론이 타당하지 않게 됩니다.
• 상호작용 모델링 부재: 기존 방법은 잠재 클러스터와 관측 가능한 공변량 사이의 상호작용을 효과적으로 모델링하는 유연성이 부족했습니다. 또한, 복잡한 공변량 구조를 직접 회귀 모델에 포함시키는 것은 통계적으로 비효율적일 수 있습니다.

2. 방법론 (Methodology)

이 논문은 일반화 선형 혼합 모델 (GLMM) 을 베이지안 프로파일 회귀의 결과 모델 (outcome model) 로 통합한 새로운 R 패키지 ProfileGLMM을 제안합니다.

• 통계적 프레임워크:
  • 데이터 구조: $n$개의 관측치 $D = \{(y_i, u_i, x_i)\}$를 가정합니다. 여기서 $y_i$는 결과 변수, $u_i$는 클러스터링 공변량 (상호 의존적), $x_i$는 회귀 공변량입니다.
  • 혼합 모델 (Mixture Model): $(y_i, u_i)$의 결합 분포를 $x_i$가 조건부로 주어졌을 때 혼합 모델로 모델링합니다.
    $$p(y_i, u_i | \pi, \theta, x_i, \alpha) = \sum_{c=1}^{C} \pi_c f(y_i, u_i | \theta_c, x_i, \alpha)$$
  • 할당 분포 (Assignment Distribution): 클러스터링 공변량 $u_i$는 범주형 (다항 분포) 또는 연속형 (다변량 정규 분포) 을 따르며, 클러스터 $c$에 따라 매개변수가 결정됩니다.
  • 결과 회귀 (Outcome Regression - GLMM): 기존 프로파일 회귀와 달리, 결과 분포가 클러스터링 공변량 $u_i$에 의존할 수 있도록 확장했습니다.
    • 연속형 결과: 선형 혼합 모델 (LMM) 사용.
      $$y_i = x^F_i \beta + x^R_i \eta_{g(i)} + x^{Int}_i \gamma_c + \epsilon_i$$
      여기서 $\eta_{g(i)}$는 개인별 무작위 효과 (random effects) 를 나타내며, $x^{Int}_i$는 잠재 클러스터와 상호작용하는 변수입니다.
    • 이진형 결과: Probit 혼합 모델 사용 (잠재 변수 $y^*_i$를 도입).
• 추론 알고리즘:
  • Gibbs Sampler: 무한한 혼합 모델의 계산적 어려움을 해결하기 위해 잘라낸 디리클레 과정 혼합 모델 (Truncated Dirichlet Process Mixture Model, DPMM) 프레임워크를 사용합니다.
  • 사후 처리: MCMC 샘플에서의 라벨 스위칭 (label switching) 문제를 해결하기 위해 Molitor et al. (2010) 의 방법을 사용하여 평균 비유사성 행렬 (average dissimilarity matrix) 을 기반으로 대표 클러스터링 (representative clustering) 을 도출합니다.
  • 구현: 핵심 계산은 Rcpp 를 사용하여 고속으로 구현되었습니다.

3. 주요 기여 (Key Contributions)

1. GLMM 통합을 통한 계층적 데이터 분석 가능: 무작위 효과 (random effects) 를 포함함으로써 종단 데이터, 반복 측정 데이터, 계층적 구조 데이터를 베이지안 프로파일 회귀 프레임워크 내에서 분석할 수 있게 되었습니다.
2. 잠재 클러스터와 공변량의 상호작용 모델링: 잠재 클러스터 membership 과 다른 관측 가능 공변량 간의 상호작용을 명시적으로 모델링할 수 있는 기능을 추가했습니다.
3. 유연한 데이터 타입 지원: 연속형 및 이진형 결과 변수를 모두 지원하며, 클러스터링 공변량으로 연속형과 범주형 변수를 혼용할 수 있습니다.
4. 비모수적 조각별 선형 적합 (Piecewise Linear Fit): 클러스터링 공변량 자체를 회귀 변수로 사용하여 복잡한 함수 관계 (예: 조각별 선형 함수) 를 비모수적으로 추정할 수 있는 새로운 응용 가능성을 제시했습니다.
5. 효율적인 R 패키지 개발: ProfileGLMM 패키지를 개발하여 사용자에게 직관적인 워크플로우 (preprocess, Gibbs, postProcess, predict) 를 제공하며, PReMiuM 과 유사한 수준의 계산 효율성을 확보했습니다.

4. 결과 및 성능 (Results)

• 시뮬레이션 데이터 검증:
  • 종단 노출 데이터 (Longitudinal Exposome Data): 1,500 명의 개인에 대한 3 회 측정 데이터 (총 4,500 관측치) 를 사용하여 모델의 성능을 검증했습니다. 모델은 9 개의 잠재 클러스터를 성공적으로 식별했으며, 고정 효과, 무작위 효과, 클러스터 상호작용 효과를 정확히 추정했습니다.
  • 조각별 선형 적합 (Piecewise Linear Fit): 단순한 1 차원 데이터에서 $x$와 $y$의 조각별 선형 관계를 모델링했습니다. 프로파일 GLMM 은 데이터의 국소적 이질성을 기반으로 6 개의 서로 다른 국소 역학을 식별하고 각 세그먼트의 선형 추세를 정확히 추정했습니다.
• 계산 효율성 비교:
  • 기존 표준 패키지인 PReMiuM과 성능을 비교했습니다. 표 4 에 따르면, 다양한 관측치 수 (1,200 ~ 12,000) 에 대해 ProfileGLMM 이 PReMiuM 보다 더 빠른 실행 시간을 보여주었습니다 (예: 12,000 관측치 기준 ProfileGLMM: 485.47 초 vs PReMiuM: 1,031.34 초).
• 사후 처리 및 예측: 대표 클러스터링을 도출하고, 새로운 데이터에 대한 클러스터 소속 및 결과 변수 예측이 가능한 predict() 함수를 통해 모델의 실용성을 입증했습니다.

5. 의의 및 결론 (Significance)

• 연구 분야 확장: 역학 (epidemiology), 사회과학, 임상 연구 등 복잡한 데이터 구조를 다루는 분야에서 베이지안 프로파일 회귀의 적용 범위를 획기적으로 넓혔습니다.
• 통계적 엄밀성: 무작위 효과를 포함함으로써 종단 데이터 분석에서의 통계적 추론 타당성을 확보했습니다.
• 실용성: 최소한의 필수 파라미터로 복잡한 모델을 구축할 수 있도록 설계되어, 전문가뿐만 아니라 실무자도 접근하기 쉬운 도구로 자리 잡았습니다.
• 미래 전망: 향후 클러스터링 공변량에 대한 변수 선택 (variable selection) 기능 추가 및 생존 분석 (time-to-event data) 지원 등 기능 확장을 계획하고 있습니다.

요약하자면, ProfileGLMM은 베이지안 프로파일 회귀의 강력한 클러스터링 능력에 GLMM 의 유연성을 결합하여, 현대 연구에서 필수적인 복잡한 계층적 및 종단 데이터 분석을 위한 차세대 통계 도구로 평가됩니다.