Empirical Bayes data integreation for multi-response regression

1. 연구 배경 및 문제 정의 (Problem)

• 배경: 전장 유전체 연관 분석 (GWAS) 에서 조직 전체 연관 분석 (TWAS) 으로 연구가 확장되면서, 여러 조직 (예: 뇌, 심장 등) 에서의 유전자 발현 데이터를 통합하여 유전형 마커를 식별하는 필요성이 대두되었습니다.
• 문제점:
  • 기존 방법들은 각 조직을 개별적으로 분석하거나, 데이터가 희소성 (sparsity) 이나 낮은 랭크 (low-rank) 구조를 가진다는 강한 가정을 전제로 합니다.
  • 그러나 실제 TWAS 데이터는 이러한 구조적 가정을 따르지 않거나, 이를 검증하기 어렵습니다.
  • 완전 베이지안 (Full Bayes) 접근법은 계산 비용이 매우 높아 확장성이 떨어집니다.
• 목표:
  1. 여러 소스 (조직) 간의 데이터를 효과적으로 통합.
  2. 계산적으로 확장 가능 (scalable) 한 방법론 개발.
  3. 모수 (parameter) 의 특정 구조 (희소성, 낮은 랭크 등) 에 대한 가정이 없어도 성능이 우수한 추정기 제안.

2. 제안된 방법론 (Methodology)

이 논문은 경험적 베이지안 (Empirical Bayes) 프레임워크를 기반으로 한 선형 축소 (Linear Shrinkage) 추정기를 제안합니다.

A. 기본 모델 및 접근법

• 모델 설정: 각 조직 $t$에 대해 선형 회귀 모델 $y^{(t)} = X\beta^{(t)} + \epsilon^{(t)}$을 가정합니다. 여기서 $X$는 공통된 예측 변수 (SNP), $\beta^{(t)}$는 조직별 회귀 계수 벡터입니다.
• 데이터 통합: OLS 추정치 $\hat{B}$를 관측 데이터로 간주하고, 이를 $\hat{B} = B + U$ (여기서 $U$는 가우스 노이즈) 형태의 가법 모델로 봅니다.
• 핵심 아이디어: 회귀 계수 행렬 $B$의 추정 문제는 공분산 행렬 $\Sigma$의 추정 문제와 밀접하게 연결되어 있음을 이용합니다. Efron and Morris (1976) 의 결과를 확장하여, $B$를 푸베니우스 (Frobenius) 손실 하에서 추정하는 것은 $\Sigma^{-1}$을 '상대적 절감 손실 (Relative Savings Loss)' 하에서 추정하는 것과 동치임을 보입니다.

B. 공분산 행렬 축소 (Covariance Shrinkage)

• 회전 불변 추정기 (Rotation Invariant Estimator): 고유값 (eigenvalues) 을 축소하는 선형 축소 규칙을 개발합니다.
• 손실 함수: 상대적 절감 손실 (Relative Savings Loss, $m=1$) 을 최소화하는 점근적으로 최적의 축소 규칙 (shrinkage rule) 을 유도합니다.
  • 이 규칙은 Ledoit and Wolf (2004, 2022) 의 비선형 축소 추정기와 유사하지만, 특정 손실 함수 하에서 최적성을 보장합니다.
  • $p < n$ (변수 수 < 표본 수) 및 $p > n$ (변수 수 > 표본 수) 인 경우 모두를 다룹니다.
• 모수 선택 (Data-Driven Tuning): 축소 규칙에 포함된 평활화 매개변수 (smoothing parameter, $h$) 를 결정하기 위해 편향되지 않은 위험 추정 (Unbiased Risk Estimation, SURE) 기법을 도입하여 데이터에 의존적으로 선택합니다.

C. 지역 선형 축소 (Local Linear Shrinkage)

• 혼합 사전분포 (Mixture Prior): 더 큰 유연성을 위해 사전분포를 가우시안 혼합 (Gaussian Mixture) 으로 확장합니다.
• 적응적 가중치: 각 성분에 대한 사후 확률을 기반으로 선형 축소 규칙을 가중 평균하여, 신호의 크기에 따라 다른 수준의 축소를 적용합니다.
• 알고리즘: MCMC (Markov Chain Monte Carlo) 샘플링을 사용하여 잠재 지표 (latent indicators) 를 추정하고, 이를 통해 공분산 행렬을 추정하는 데이터 증강 (Data Augmentation) 알고리즘을 사용합니다.

3. 주요 기여 (Key Contributions)

1. 구조적 가정 불필요: 기존 문헌의 희소성이나 낮은 랭크 가정이 필요하지 않아, 실제 TWAS 데이터와 같이 복잡한 구조를 가진 모수에서도 강건하게 작동합니다.
2. 점근적 최적성: 상대적 절감 손실 하에서 공분산 행렬 추정기를 유도하고, 이를 기반으로 한 회귀 계수 추정기가 선형 축소 추정기 클래스 내에서 점근적으로 최적임을 증명했습니다.
3. 계산 효율성: 계산 집약적인 완전 베이지안 방법 대신 경험적 베이지안 접근법을 사용하여 대규모 데이터 (다수 조직 및 SNP) 에도 확장 가능하게 적용 가능합니다.
4. 데이터 기반 튜닝: SURE 기법을 통해 평활화 매개변수를 자동으로 선택하여 위험 (risk) 을 최소화합니다.

4. 실험 결과 (Results)

A. 시뮬레이션 실험

• 설정: 다양한 모수 구조 (낮은 랭크, 근사적 희소성, Horseshoe, 혼합 분포) 와 상관 구조 ($\rho$) 를 가진 데이터를 생성하여 평가했습니다.
• 비교 대상: UTMOST, ISA (Iterated Stable Autoencoder), MASH (Multivariate Adaptive Shrinkage), OLS 등 기존 방법.
• 결과:
  • 모수 구조가 명확히 알려진 경우 (예: 낮은 랭크) 에는 ISA 가 우수했으나, 제안된 방법 (ULS/LS) 도 매우 근접한 성능을 보였습니다.
  • 모수 구조가 불명확하거나 복잡한 경우 (Horseshoe, Mixture) 에는 제안된 방법이 **가장 낮은 평균 제곱 오차 (MSE)**와 **예측 평균 제곱 오차 (PE)**를 기록하며 다른 방법들을 압도했습니다.
  • 특히 Horseshoe prior 와 같이 꼬리가 두꺼운 분포나 신호 강도가 다른 혼합 분포에서 기존 방법들의 수렴 실패나 큰 변동성을 보인 반면, 제안된 방법은 안정적이었습니다.

B. 실제 데이터 적용 (GTEx 프로젝트)

• 데이터: Genotype-Tissue Expression (GTEx) 프로젝트의 32 개 조직, 3,201 개 유전자, cis-SNP 데이터.
• 평가: 10-fold 교차 검증을 통해 유전자 발현 예측 정확도 (PMSE) 를 평가.
• 결과:
  • 제안된 방법 (LS) 은 OLS, UTMOST, ISA, MASH 와 비교하여 전반적으로 가장 낮은 PMSE를 보였습니다.
  • 특히 cis-SNP 수가 적은 유전자 (10 개 이하, 5 개 이하) 에서 UTMOST 와 함께 가장 우수한 성능을 발휘했습니다.
  • 시각화 (ZNF138 유전자): MASH 나 UTMOST 는 SNP 효과를 0 으로 과도하게 축소 (shrink to zero) 하거나 조직 간 효과를 동일하게 만드는 경향이 있는 반면, 제안된 방법은 조직별 미세한 효과 차이를 포착하면서도 불필요한 노이즈는 줄이는 유연한 추정을 보여주었습니다.

5. 의의 및 결론 (Significance)

• 통계적 의의: 회귀 계수 행렬 추정과 공분산 행렬 추정 사이의 깊은 이론적 연결을 활용하여, 구조적 가정이 없는 상황에서도 최적의 축소 규칙을 도출했습니다.
• 실용적 의의: TWAS 연구에서 여러 조직 데이터를 통합할 때, 복잡한 유전적 구조를 가정하지 않고도 높은 예측 정확도를 얻을 수 있는 확장 가능한 도구를 제공합니다.
• 미래 방향: 고차원 설정 ($p \gg n$) 에서의 성능, 요약 통계량 (summary statistics) 기반 접근법 확장, 그리고 유전자 네트워크나 조직 유사성 정보를 사전분포에 통합하는 방향으로 연구가 확장될 수 있음을 논의했습니다.

요약하자면, 이 논문은 다중 조직 유전자 발현 데이터 통합 문제를 해결하기 위해, 구조적 가정을 배제하고 경험적 베이지안 프레임워크와 공분산 행렬 축소 기법을 결합한 강력하고 확장 가능한 통계적 방법론을 제시했습니다.