Feature Dimensionality Outweighs Model Complexity in Breast Cancer Subtype Classification Using TCGA-BRCA Gene Expression Data

기술적 요약: 유방암 아형 분류에서 모델 복잡도보다 특징 차원성이 더 중요함

문제 제기
유방암 분자 아형 (Luminal A, Luminal B, HER2-enriched, Basal-like, Normal-like) 의 정확한 분류는 임상 의사결정에 필수적입니다. 그러나 이 작업을 위해 유전자 발현 데이터 (특히 TCGA-BRCA RNA-seq 데이터) 를 활용하는 것은 "작은 $n$, 큰 $p$"라는 도전에 직면해 있습니다. 이 데이터셋은 20,518 개의 유전자 특징을 포함하지만 샘플은 981 개뿐입니다. 샘플 크기에 비해 높은 차원성은 특히 복잡한 머신러닝 모델의 경우 과적합 (overfitting) 위험을 증가시킵니다. 또한, 데이터셋은 클래스 불균형이 심하여 Luminal A 가 샘플의 절반 이상을 차지하고 Normal-like 아형은 소수만을 차지합니다. 정확도 (accuracy) 와 같은 전통적인 평가 지표는 이러한 소수 클래스에서의 낮은 성능을 가려 모델의 유용성에 대한 오해를 불러일으킬 수 있습니다.

방법론
본 연구는 복잡도가 증가하는 세 가지 분류기를 사용하여 모델 복잡도와 특징 차원성 간의 상호작용을 체계적으로 평가했습니다.

1. 로지스틱 회귀 (LR): L2 정규화를 적용한 선형 모델.
2. 랜덤 포레스트 (RF): 500 개의 추정기를 사용하는 앙상블 방법.
3. 서포트 벡터 머신 (SVM): RBF 커널을 사용하는 비선형 모델.

실험 설계:

• 데이터셋: 20,518 개의 유전자 발현 특징을 가진 981 개의 TCGA-BRCA 샘플.
• 특징 선택: 분산 기반 휴리스틱이 적용되었습니다. 유전자는 학습 폴드 내의 분산에 따라 순위가 매겨졌으며, 상위 $N$개의 유전자가 선택되었습니다. 여기서 $N \in \{50, 75, 100, 1000, 20518\}$입니다. 이 선택 과정은 데이터 누출을 방지하기 위해 교차 검증의 각 폴드 내에서 독립적으로 수행되었습니다.
• 검증: 아형 분포를 유지하기 위해 층화 5 폴드 교차 검증이 사용되었습니다.
• 평가 지표: 정확도가 보고되었으나, 모든 아형 (소수 클래스 포함) 에 동등한 가중치를 부여하기 위해 Macro F1 점수가 주요 지표로 지정되었습니다. 또한 특정 실패 모드를 식별하기 위해 아형별 F1 점수도 분석되었습니다.

주요 결과

• 모델 성능: 로지스틱 회귀는 일관되게 가장 높은 Macro F1 점수 (0.650.80) 를 달성하여 모든 아형에 걸쳐 가장 균형 잡힌 성능을 보여주었습니다. 랜덤 포레스트는 LR 과 비교 가능한 전체 정확도를 달성했으나 Macro F1 점수는 현저히 낮았습니다 (0.610.70). 이는 지배적인 클래스 (Luminal A) 에 편향되어 BRCA Normal 과 같은 소수 클래스에서 성능이 저하됨 (F1 $\approx$ 0.21) 을 나타냅니다. SVM 은 중간 크기의 특징 (~1,000 개 유전자) 에서 경쟁력 있는 성능을 보였으나, 전체 차원성 (20,518 개 유전자) 에서는 성능이 크게 저하되었습니다.
• 특징 차원성: 모든 모델의 성능은 특징 수가 50 개에서 1,000 개로 증가함에 따라 향상되었으며, 이는 고변이 유전자가 필수적인 아형 구분 신호를 포착함을 시사합니다. 그러나 1,000 개 유전자를 초과하면 성능 향상은 정체되었습니다. 특히 SVM 은 높은 차원성에서 성능이 저하되어 작은 샘플 환경에서 큰 특징 공간에 민감함을 확인시켰습니다.
• 아형별 행동: BRCA Basal 과 Luminal A 는 모든 모델에서 일관되게 높은 F1 점수로 분류되었습니다. 반면, BRCA Normal 과 Luminal B 는 더 큰 변동성과 낮은 성능을 보였습니다. 로지스틱 회귀는 이러한 어려운 아형들 사이에서도 가장 일관된 성능을 유지했습니다.
• 통계적 유의성: Macro F1 점수에 대한 쌍별 윌콕슨 부호 순위 검정은 0.05 임계값에서 통계적 유의성에 도달하지 못했습니다 (예: LR 대 RF $p = 0.0625$). 저자들은 이를 5 개의 쌍관측치만을 가진 5 폴드 교차 검증의 제한된 통계적 힘에 기인하며, 관찰된 경향이 형식적 유의성보다는 실질적 의미가 있음을 시사한다고 주장합니다.

주요 기여

1. 모델 복잡도의 재평가: 본 연구는 고차원 생물학적 데이터에서 복잡한 모델 (RF, SVM) 이 단순한 모델 (LR) 보다 본질적으로 우월하다는 가정에 도전합니다. 단순하고 정규화된 선형 모델이 불균형한 아형 사이에서 더 균형 잡히고 안정적인 분류를 제공할 수 있음을 입증합니다.
2. 지표 민감성: 이 도메인에서는 정확도가 불충분한 지표임을 강조합니다. 정확도는 소수 아형 분류 실패를 가릴 수 있기 때문입니다. Macro F1 과 아형별 분석의 사용은 이러한 실패 모드를 드러내는 데 필수적임이 입증되었습니다.
3. 특징 선택의 영향: 분산 기반 특징 선택이 차원 축소에서 효과적이라는 경험적 증거를 제공합니다. 1,000 개의 고변이 유전자가 종종 구분 신호를 포착하기에 충분하며, 전체 유전자 세트를 사용할 때 발생하는 불안정성을 피할 수 있음을 보여줍니다.

의의 및 주장
본 논문은 TCGA-BRCA 데이터를 사용한 유방암 아형 분류에 있어 모델 복잡도보다 특징 차원성과 평가 전략이 더 중요함을 주장합니다. 구체적으로:

• 단순성의 견고성: 상위 1,000 개의 분산 선택 유전자로 훈련된 L2 정규화 로지스틱 회귀가 가장 견고한 구성으로 식별되었으며, 균형 잡힌 성능과 계산 효율성을 제공합니다.
• 복잡한 모델에 대한 주의: 랜덤 포레스트는 전체 정확도가 높음에도 불구하고 소수 클래스를 무시하는 경향이 있어 이 특정 설정에서 주 분류기로 사용해서는 안 된다고 경고합니다.
• 엄격한 평가: 층화 교차 검증과 Macro F1 점수 포함과 같은 견고한 평가 전략은 특히 희귀 생물학적 아형을 다룰 때 오해를 불러일으킬 수 있는 결론을 피하는 데 필수적입니다.

저자들은 겸손한 어조를 유지하며, 그들의 발견이 TCGA-BRCA 데이터셋에 국한된 것이며 쌍별 비교에서 통계적 유의성이 부족하여 우월성에 대한 결정적인 주장을 내리기에는 제한이 있음을 인정합니다. 다만 실질적인 경향은 명확하다고 덧붙였습니다. 또한 분산 기반 선택은 휴리스틱이며 생물학적 해석 가능성을 보장하지 않으며, 체계적인 하이퍼파라미터 튜닝을 수행하지 않았음을 지적합니다.