Model selection in ADMIXTURE can be inconsistent: proof of the K=2 phenomenon

이 논문은 집단 구조 분석 도구인 ADMIXTURE 및 STRUCTURE 에서 K 값을 선택하는 데 널리 사용되는 Evanno 의 $\Delta$K 방법이 특정 조건 하에서 무한한 데이터가 있더라도 참인 K 값을 식별하지 못하는 불일치성을 가질 수 있음을 이론적으로 증명하여, 특히 K=2 를 과도하게 선호하는 현상의 원인을 규명했습니다.

핵심

🎨 비유: "세 가지 색의 물감을 섞는 상황"

유전학자들은 수많은 사람들의 DNA 를 분석할 때, 마치 **"이 사람들은 어떤 조상들의 피가 섞였을까?"**를 추리합니다. 이때 ADMIXTURE 는 데이터 속의 숨겨진 '조상 집단 (K)'의 개수를 찾아내는 역할을 합니다.

하지만 연구자들은 늘 고민합니다. "진짜 조상 집단은 몇 개일까? 2 개일까, 3 개일까?"
이때 가장 많이 쓰는 방법이 **'에바노의 델타 K(∆K)'**라는 규칙입니다. 이 규칙은 "데이터를 분석했을 때, K 를 2 에서 3 으로 늘렸을 때 설명력이 얼마나 급격히 좋아지는지"를 봅니다. 설명력이 크게 좋아지면 K=3 이 맞다고 판단하는 거죠.

🚨 문제: "왜 자꾸 2 개라고만 말하지?"

실제 연구 현장에서는 이상한 일이 자주 일어납니다. 진짜는 3 개의 뚜렷한 집단이 있는데도, 이 규칙이 "아니요, 2 개로 충분합니다"라고 강하게 주장하는 경우가 많습니다. 심지어 데이터가 무한히 많아져도 (모든 사람의 DNA 를 다 분석해도) 여전히 2 개라고 고집합니다.

이 논문은 "왜 그런 일이 발생하는지" 수학적으로 증명했습니다.

🔍 핵심 발견: "가까운 친구와 먼 친구"

논문의 핵심은 **'거리'**에 있습니다.

1. 상황 설정:

   • A 집단: 아주 먼 곳에 사는 사람들 (예: 아프리카)
   • B 집단: 중간에 사는 사람들 (예: 유럽)
   • C 집단: B 와 아주 가깝게 사는 사람들 (예: 유럽 내의 특정 부족)
   • 여기서 B 와 C 는 서로 너무 비슷해서 구별하기 어렵습니다.

2. 프로그램의 착각:

   • ADMIXTURE 는 B 와 C 를 합쳐서 "하나의 큰 유럽 집단"으로 보는 게 훨씬 편합니다.
   • B 와 C 를 합치는 것 (2 개로 줄이는 것) 은 A 와 B+C 를 나누는 것보다 훨씬 쉬운 일입니다.
   • 에바노의 규칙 (∆K) 은 "어떤 K 로 바꿨을 때 설명력이 가장 크게 변했나?"를 봅니다.
   • B 와 C 를 합치는 순간 (K=3 → K=2) 에 설명력이 크게 떨어지지만, A 와 B+C 를 나누는 순간 (K=2 → K=3) 은 설명력 변화가 미미합니다.
   • 그래서 규칙은 **"아, 2 개로 나누는 게 가장 큰 변화가 있네! 그럼 2 개가 정답이야!"**라고 잘못 판단하게 됩니다.

📐 수학적인 증명 (간단히)

저자들은 "두 집단 (B 와 C) 사이의 차이가, 전체적인 다양성에 비해 너무 작을 때" 이 오류가 발생한다고 증명했습니다.

• 비유: 세 개의 반죽이 있다고 칩시다.
  • 반죽 1: 빨간색
  • 반죽 2: 연한 분홍색
  • 반죽 3: 아주 연한 분홍색 (2 와 거의 비슷)
• 이 세 가지를 구분하려면 3 가지 색이 필요하지만, 2 와 3 을 합쳐서 "분홍색"이라고 부르는 게 훨씬 자연스럽습니다.
• 컴퓨터는 "분홍색을 두 가지로 나누는 것보다, 빨간색과 분홍색으로 나누는 게 훨씬 확실하다"고 생각해서, 결국 빨간색 (1) 과 분홍색 (2+3) 두 가지만 남기는 것입니다.

💡 이 연구가 우리에게 주는 교훈

1. 도구의 한계 인정하기: ADMIXTURE 나 STRUCTURE 같은 프로그램은 만능이 아닙니다. 특히 집단들이 서로 너무 비슷할 때 (예: 현대 인간 집단들처럼), 이 프로그램은 과감하게 2 개로 줄여버리는 경향이 있습니다.
2. K=2 를 맹신하지 않기: 연구 결과가 "K=2"라고 나온다고 해서 진짜 조상이 2 개만 있는 건 아닙니다. 그냥 프로그램이 "구분하기 힘든 세부 집단들을 하나로 합쳐버린 것"일 뿐입니다.
3. 다른 방법과 함께 보기: 컴퓨터가 말해주는 숫자 하나만 믿지 말고, 역사적 기록이나 다른 분석 방법 (PCA 등) 을 함께 봐야 진짜 모습을 알 수 있습니다.

📝 한 줄 요약

"유전체 분석 프로그램은 서로 너무 비슷한 집단들이 있을 때, 구별하기 귀찮아서 (수학적으로 설명하기 편해서) 3 개를 2 개로 합쳐버리는 버그가 있습니다. 이 논문은 그 버그가 왜 발생하는지 수학적으로 증명했습니다."

이 연구는 유전학자들이 "아, 내가 K=2 라고 해서 2 개가 맞나? 아니, 사실은 3 개였는데 프로그램이 착각한 거였구나!"라고 깨닫게 해주는 중요한 이정표가 될 것입니다.

기술 요약

논문 요약: ADMIXTURE 모델 선택의 불일치와 K=2 현상의 이론적 증명

1. 문제 제기 (Problem)

• 배경: 유전 데이터에서 집단 구조 (population structure) 를 탐지하기 위해 STRUCTURE 와 ADMIXTURE 와 같은 모델 기반 방법이 널리 사용됩니다. 이러한 모델은 관찰된 유전자형을 $K$개의 잠재적 조상 집단의 혼합으로 가정합니다.
• 핵심 문제: 모델의 성능은 조상 집단의 수인 매개변수 $K$를 적절히 설정하는지에 달려 있습니다. $K$가 너무 작으면 실제 구조가 누락되고 (underfitting), 너무 크면 노이즈를 구조로 오인합니다 (overfitting).
• 현황: 현재 $K$를 선택하는 가장 보편적인 방법은 Evanno 의 $\Delta K$ 방법입니다. 이는 로그 가능도 (log-likelihood) 의 2 차 변화율을 기반으로 "엘보 (elbow)" 지점을 찾아 $K$를 결정합니다.
• 실무적 한계: 연구자들은 $\Delta K$가 실제 구조보다 지나치게 작은 $K$를 선호하는 경향이 있으며, 특히 의미 있는 하위 구조가 존재함에도 불구하고 $K=2$를 자주 선택한다는 점을 지적해 왔습니다. 이는 종 보전 및 관리에 심각한 영향을 미칠 수 있으나, 이에 대한 엄격한 수학적 설명은 부족했습니다.

2. 방법론 (Methodology)

저자들은 ADMIXTURE 방법 (최대 가능도 추정, MLE) 을 기반으로 한 모델 선택의 이론적 분석을 수행했습니다.

• 모델 설정:
  • $N$개의 개체와 $L$개의 SNP 로 구성된 유전자형 행렬 $X$를 가정합니다.
  • 실제 조상 집단의 수를 $K_0$ (논문에서는 구체적으로 $K_0=3$으로 설정), 각 집단의 대립유전자 빈도 벡터를 $P^0$, 개체의 혼합 비율을 $Q^0$으로 정의합니다.
  • 데이터는 $X_{n\ell} \sim \text{Ber}(\sum Q^0_{nk} P^0_{k\ell})$로 생성된다고 가정합니다.
• $\Delta K$의 수학적 정의:
  • Evanno 의 원래 정의 (표준편차로 정규화) 대신 이론적 분석의 용이성을 위해 정규화되지 않은 2 차 변화율을 사용했습니다.
  • $\hat{\Delta}(K) = |2\hat{L}(K) - \hat{L}(K-1) - \hat{L}(K+1)|$로 정의하며, 여기서 $\hat{L}(K)$는 $K$에 대한 최대 로그 가능도입니다.
  • 최종 선택된 $K$는 $\hat{K} = \arg\max_{K} \hat{\Delta}(K)$입니다.
• 가정:
  • 가정 1 (대립유전자 빈도의 유계성): 빈도가 0 또는 1 에 너무 가깝지 않도록 제한 (QC 필터링 관행 반영).
  • 가정 2 (데이터 생성): 개체가 3 개의 순수 집단 ($N_1, N_2, N_3$) 에 완전히 할당됨 ($Q^0_{nk} \in \{0, 1\}$). 이는 집단 구조 신호를 극대화하는 이상적인 경우입니다.
• 발산 (Divergence) 측정:
  • 집단 간 대립유전자 빈도의 차이를 측정하기 위해 Kullback-Leibler (KL) 발산을 사용했습니다.
  • $D_{31}$: 3 개 집단 전체의 이질성 (Total heterogeneity).
  • $D_{32}$: 2 번과 3 번 집단을 하나로 합칠 때의 정보 손실 (Merging cost).

3. 주요 기여 및 결과 (Key Contributions & Results)

주요 결과 1: $\Delta K$ 방법의 불일치성 증명 (Theorem 1)

• 명제: 실제 집단 수 $K_0=3$인 경우에도, 특정 조건 하에서 $\Delta K$ 방법은 데이터의 크기가 무한대 ($N, L \to \infty$) 가 되어도 $\hat{K}=2$를 선택할 확률이 1 에 수렴합니다. 즉, $\Delta K$는 일관성 (consistency) 이 없습니다.
• 충분 조건:
  $$D_{32} < \frac{1}{3} D_{31}$$
  • 이 부등식은 "집단 2 와 3 을 합치는 비용 ($D_{32}$) 이 전체 3 개 집단의 분산 ($D_{31}$) 에 비해 상대적으로 작을 때"를 의미합니다.
  • 이 조건이 성립하면, 로그 가능도의 2 차 변화율 계산에서 $K=2$와 $K=3$ 사이의 "엘보"가 $K=2$에서 가장 두드러지게 나타나, 알고리즘이 $K=2$를 선택하게 됩니다.

주요 결과 2: 현실적 인구 유전 모델에서의 적용 (Theorem 2)

• 모델: Nested Balding-Nichols 모델을 사용하여 현실적인 인구 유전적 분화 (drift) 를 시뮬레이션했습니다.
  • $F_{root}$: 조상 집단과 하위 집단 간의 분화 정도.
  • $F_{sub}$: 하위 집단들 (집단 2 와 3) 간의 분화 정도.
• 조건: $F_{root}$와 $F_{sub}$가 충분히 작고 (약한 분화), 다음 비율 조건을 만족할 때 $\Delta K$는 $K=2$를 선택합니다.
  $$F_{root} / F_{sub} > 3/4$$
• 시뮬레이션 결과:
  • $F_{root}/F_{sub}$ 비율이 3/4 임계값을 넘어서면, $\Delta K$는 3 개 집단을 2 개로 잘못 분류합니다.
  • 이는 현대 인간 집단에서 관찰되는 $F_{ST}$ 값 범위 내에서 발생할 수 있음을 확인했습니다.
  • $F_{root}$가 작을 때 (별 모양 위계 구조) 는 $K=3$을 올바르게 선택하지만, $F_{root}$가 증가하면 (위계적 구조) $K=2$를 선호하는 현상이 관찰되었습니다.

4. 의의 및 결론 (Significance & Discussion)

• 이론적 설명: 실무에서 오랫동안 관찰되어 온 "$\Delta K$가 $K=2$를 선호하는 현상"에 대한 첫 번째 엄밀한 수학적 증명을 제시했습니다.
• 실패 모드 식별: $\Delta K$가 항상 실패하는 것은 아니지만, 집단 간 유전적 거리가 가깝고 (low $F_{ST}$), 위계적 구조가 명확할 때 특히 취약하다는 것을 밝혔습니다.
• 실무적 제언:
  • 연구자들은 $\Delta K$ 하나에 의존하기보다는 다양한 $K$ 값에 대한 결과를 보고하고, 생물학적 맥락 및 다른 선택 기준과 함께 해석해야 합니다.
  • 이 연구는 최대 가능도 추정 (MLE) 에 초점을 맞추었지만, 로그 가능도를 비교하는 다른 모델 선택 기법들도 유사한 과소적합 (underfitting) 문제에 취약할 가능성이 높음을 시사합니다.

결론적으로, 이 논문은 ADMIXTURE 분석에서 $K=2$ 현상이 단순한 알고리즘의 결함이 아니라, 집단 간 분화 정도와 모델 선택 기준 간의 수학적 상호작용에 기인한 필연적인 결과일 수 있음을 증명했습니다.