Nested Atoms Model with Application to Clustering Big Population-Scale Single-Cell Data

논문 요약: 중첩 원자 모델 (NAM) 을 활용한 대규모 단일 세포 데이터 군집화

1. 연구 배경 및 문제 정의 (Problem)

• 배경: 단일 세포 RNA 시퀀싱 (scRNA-seq) 기술의 발전으로 수백만 개의 세포와 수백 명의 개인 (Group) 에 대한 대규모 데이터가 생성되고 있습니다. 이러한 데이터는 본질적으로 **중첩된 구조 (Nested Structure)**를 가집니다. 즉, 세포 (Observation) 가 개인 (Group) 에 의해 그룹화되어 있으며, 각 개인은 고유한 유전자형 (Genotype, SNP) 데이터를 가지고 있고, 각 세포는 유전자 발현 데이터를 가집니다.
• 문제점: 기존 군집화 방법 (예: Hierarchical Dirichlet Process, Nested DP, Common Atoms Model 등) 은 주로 그룹화된 관찰 데이터에 초점을 맞추고 있습니다. 이들은 그룹 간 관찰 수준의 군집을 공유할 수는 있지만, **그룹 자체를 군집화 (Group-level clustering)**하거나 **그룹 수준의 변수 (예: SNP)**를 군집 과정에 통합하지 못합니다.
• 목표: OneK1K 데이터셋 (982 명, 127 만 개 세포) 과 같은 대규모 중첩 데이터에서, 개인의 유전적 변이 (SNP) 와 세포의 유전자 발현을 동시에 활용하여 개인 (Group) 과 세포 (Observation) 를 동시에 군집화하는 새로운 모델이 필요합니다. 이를 통해 유전적으로 유사한 개인들이 어떻게 다른 세포 유형 프로필을 보이는지, 혹은 그 반대의 경우를 규명해야 합니다.

2. 제안된 방법론: 중첩 원자 모델 (Nested Atoms Model, NAM)

저자들은 기존 방법의 한계를 극복하기 위해 베이지안 비모수적 (Bayesian Nonparametric) 접근법인 **Nested Atoms Model (NAM)**을 제안했습니다.

• 모델 구조:

  • 이중 계층 군집화: NAM 은 그룹 수준 (개인) 과 관찰 수준 (세포) 에서 동시에 군집을 형성합니다.
    • 그룹 군집 (GCs, Group Clusters): 개인의 SNP 데이터를 기반으로 유사한 유전적 프로필을 가진 개인들을 그룹화합니다.
    • 관찰 군집 (OCs, Observational Clusters): 세포의 유전자 발현 데이터를 기반으로 세포 유형을 그룹화합니다.
  • 공통 원자 (Common Atoms) 메커니즘:
    • 관찰 수준 (세포) 의 군집은 모든 그룹 (개인) 간에 공유될 수 있습니다 (Shared Atoms). 이는 서로 다른 개인들 사이에서도 동일한 세포 유형이 존재할 수 있음을 반영합니다.
    • 그룹 수준 (개인) 의 군집은 그룹별 고유한 원자 (Atoms) 를 가지며, 이는 SNP 데이터에 의해 결정됩니다.
  • 수학적 정의:
    • $x_j$ (SNP 데이터) 와 $y_{ji}$ (세포 발현 데이터) 를 동시에 모델링합니다.
    • 그룹 $j$의 분포 $G_j$는 그룹 군집 $k$에 속하며, 해당 군집은 공통 원자 집합을 통해 세포 군집을 정의합니다.
    • 핵심 특징: 그룹 수준의 변수 ($x_j$) 가 그룹 군집뿐만 아니라 관찰 수준의 군집 분포에도 영향을 미칠 수 있도록 설계되었습니다.

• 추론 알고리즘 (Scalable Inference):

  • 127 만 개의 세포와 982 명의 개인이라는 대규모 데이터 처리를 위해 변분 베이지안 추론 (Variational Bayesian Inference, VI) 알고리즘을 개발했습니다.
  • 기존 MCMC 방식의 확장성을 보완하기 위해, 그룹 및 관찰 수준의 잠재 변수에 대한 절단 (Truncation) 기법을 적용한 평균 필드 (Mean-field) 근사를 사용했습니다.
  • ELBO(Evidence Lower Bound) 를 최대화하는 방향으로 파라미터를 최적화하며, 수렴성을 보장하기 위해 여러 초기값으로 반복 실행합니다.

3. 주요 기여 (Key Contributions)

1. 새로운 모델 제안 (NAM): 그룹 수준 변수와 관찰 수준 변수를 모두 통합하여 중첩 데이터를 위한 최초의 베이지안 비모수 군집화 모델을 제안했습니다.
2. 이론적 성질 분석: NAM 의 사전 분포 (Prior) 에 대한 평균, 분산, 공군집 확률 (Co-clustering probabilities), 그리고 상관 구조를 분석했습니다. 특히, 그룹 간 유사성 (SNP 기반) 이 관찰 수준의 군집 확률에 어떻게 영향을 미치는지 이론적으로 증명했습니다.
3. 확장성 있는 알고리즘: 대규모 단일 세포 데이터에 적용 가능한 효율적인 변분 추론 알고리즘을 개발하여 계산 비용을 크게 절감했습니다.
4. 실증적 검증: 시뮬레이션과 실제 OneK1K 데이터셋 적용을 통해 기존 방법 (CAM, fiSAN 등) 보다 우수한 성능을 입증했습니다.

4. 실험 결과 (Results)

• 시뮬레이션 연구:

  • 성능 비교: NAM 은 그룹 수준 변수를 고려하지 않는 기존 방법 (CAM, fiSAN) 보다 그룹 군집 (GC) 정확도에서 압도적으로 우수했습니다. 특히 그룹 변수의 차원이 커질수록 NAM 의 우위가 두드러졌습니다.
  • 관찰 수준 정확도: 세포 군집 (OC) 정확도는 기존 방법과 유사하거나 더 나은 수준을 유지했습니다.
  • 강건성: 데이터가 가우시안 분포를 따르지 않거나 (t-분포 등), 그룹 변수의 일부가 누락된 상황에서도 NAM 은 안정적인 성능을 보였습니다.
  • 확장성: 알고리즘의 실행 시간은 그룹 수 ($J$) 와 관찰 수 ($n_j$) 에 대해 선형적으로 증가하며, 대규모 데이터셋에서도 실용적인 시간 내에 수렴했습니다.

• OneK1K 데이터셋 적용:

  • 군집 결과: 961 명의 개인을 **6 개의 그룹 군집 (GC)**으로, 929,817 개의 세포를 **14 개의 관찰 군집 (OC)**으로 분류했습니다.
  • 생물학적 타당성:
    • 동일한 GC 에 속한 개인들은 유사한 세포 유형 구성 (Cell-type composition) 을 보였습니다.
    • 차등 발현 분석: 각 OC 내에서 GC 간 차등 발현 유전자를 분석한 결과, 잘 알려진 세포 마커 (예: B 세포의 MS4A1, 단핵구의 CSTA 등) 가 확인되었습니다.
    • GO Enrichment 분석: OC 2 는 B 세포 관련 경로 (B 세포 수용체 신호 전달 등) 로, OC 40 은 T 세포 관련 경로로 풍부하게 주석 (Annotation) 되었습니다. 이는 모델이 생물학적으로 의미 있는 세포 하위 유형을 자동으로 식별했음을 시사합니다.
  • 기존 방법과의 비교: SNP 데이터를 무시한 fiSAN 모델은 과도하게 많은 군집 (37 개 GC) 을 생성하고, 유전적 유사성이 높은 개인들을 잘못 분류하는 등 NAM 보다 열악한 성능을 보였습니다.

5. 의의 및 결론 (Significance)

• 과학적 통찰: NAM 은 유전적 변이 (SNP) 와 세포 표현형 (Gene Expression) 간의 복잡한 상호작용을 동시에 분석할 수 있게 하여, 유전적 배경이 어떻게 세포 이질성 (Heterogeneity) 에 영향을 미치는지 규명하는 데 기여합니다.
• 실용적 가치: 대규모 인구 기반 단일 세포 데이터에서 수동 주석이 불가능한 경우, NAM 은 유전적 정보를 활용하여 자동화된 세포 유형 식별 및 개인 군집화를 가능하게 합니다.
• 미래 전망: 이 모델은 단일 세포 유전체학뿐만 아니라 다른 중첩 구조를 가진 대규모 데이터 (예: ROSMAP, TenK10K 등) 에도 적용 가능하며, 배치 효과 (Batch effects) 를 그룹 수준 변수로 통합하여 모델링할 수 있는 확장성을 가집니다.

결론적으로, 이 논문은 중첩 데이터의 계층적 특성을 완전히 활용하기 위한 새로운 통계적 프레임워크 (NAM) 를 제시하며, 대규모 단일 세포 데이터 분석의 새로운 표준을 제시합니다.