What Makes a Representation Good for Single-Cell Perturbation Prediction?

기술적 요약: 단일 세포 교란 예측을 위한 좋은 표현은 무엇인가?

문제 제기
단일 세포 교란 모델링은 유전적 교란 (예: CRISPR 기반 녹아웃) 에 대한 반응으로 유전자 발현이 어떻게 변화하는지 예측하는 것을 목표로 합니다. 기존 접근법은 인과적 표현 학습에서 기반 모델 (Foundation Models, FMs) 에 이르기까지 다양하지만, 종종 간과되는 근본적인 과제인 신호 불균형에 직면해 있습니다. 단일 세포 데이터에서 교란 불변 정보 (배경 세포 프로그램) 는 유전자 발현 공간을 지배하는 반면, 교란 특이적 신호는 본질적으로 희소합니다.

저자들은 이를 **교란 억제 가설 (Perturbation Suppression Hypothesis)**이라고 명명된 현상으로 지목합니다: 불변 변이가 데이터를 지배할 때, 표준 학습 접근법은 체계적으로 실패합니다.

1. 인과적 표현 학습: 방법론들은 종종 불변 배경 정보와 교란 특이적 표현을 얽히게 만듭니다. 이는 이론적 식별 가능성 결과가 모든 잠재 변수가 개입되었다고 가정하는 반면, 실제 데이터는 부분적 개입 (유전자 하위 집합만 교란됨) 을 수반하기 때문입니다. 결과적으로 불변 정보는 인과적 표현에 흡수되어 일반화가 poor 한 허위 예측기를 초래합니다.
2. 기반 모델 (FMs): 기반 모델은 전체 데이터 분포에 적합하도록 훈련되어 지배적인 불변 구조를 우선시합니다. 경험적 선형 프로빙 실험에 따르면, 기반 모델 표현은 단순 PCA 기준에 비해 교란 레이블의 디코딩 가능성이 더 약하게 나타나며, 이는 교란 특이적 신호가 사전 훈련 중 억제되거나 접근 불가능하게 만들어졌음을 시사합니다.

방법론: PerturbedVAE
신호 불균형을 해결하기 위해 저자들은 PerturbedVAE(교란 인식 변이 오토인코더) 를 제안합니다. 이는 교란 특이적 정보를 명시적으로 분리하고 활용하도록 설계된 프레임워크입니다. 이 프레임워크는 **명시적 추출 (Explicit Extraction)**과 **효과적 활용 (Effective Utilization)**이라는 두 가지 핵심 원칙에 기반합니다.

1. 잠재 인과 생성 모델:
   모델은 잠재 공간을 두 가지 구별된 구성 요소로 분해합니다:

   • $z_\iota$(교란 불변 변수): 교란 조건 $u$와 무관하게 모든 세포에 걸쳐 공유되는 안정적인 배경 프로그램을 나타냅니다.
   • $z_\nu$(교란 반응 변수): 유전적 교란에 반응하여 변화하는 잠재 요인을 나타냅니다. 이는 교란 효과 간의 인과적 의존성을 포착하기 위해 방향성 비순환 그래프 (DAG) 구조를 따르도록 모델링됩니다.

2. 대비 정렬을 통한 변이 추론:
   표준 변이 오토인코더 (VAE) 는 지배적인 불변 구성 요소를 모델링하여 데이터를 재구성함으로써 $z_\nu$의 회복을 저하시킬 수 있습니다. 이를 상쇄하기 위해 PerturbedVAE 는 대비 정렬 목적 함수를 도입합니다:

   • 모든 교란된 샘플 $(x, u)$에 대해 대조군 (비교란) 샘플 $x(u_0)$이 샘플링됩니다.
   • 모델은 교란된 샘플과 비교란된 샘플 모두에 대해 추론된 불변 표현 $z_\iota$가 동일하도록 강제합니다 ($\|z_\iota - z_\iota^{(u_0)}\|^2$ 최소화).
   • 이는 지배적인 배경 변이가 $z_\iota$에 의해 완전히 설명되도록 강제하여, $z_\nu$가 잔여 교란 유발 변화를 포착할 수 있도록 합니다.

3. 훈련 목적 함수:
   총 손실은 재구성과 인과 구조 학습을 위한 증거 하한 (ELBO) 과 대비 정렬 항을 결합합니다:
   $$\mathcal{L} = -\mathcal{L}_{ELBO} + \alpha \mathcal{L}_{contrast}$$
   여기서 $\alpha$는 불변 요인과 반응 요인 간의 분리 강도를 조절합니다.

이론적 기여: 식별 가능성 분석
본 논문은 부분적 개입 데이터에서 희소한 교란 효과를 신뢰성 있게 회복할 수 있는 조건을 규명하는 엄격한 식별 가능성 분석을 제공합니다.

• 정리 1: 가역성, 환경 충분성 (교란 조건의 충분한 다양성), 최적 정렬, 개입 충분성이라는 가정 하에, 해당 프레임워크는 다음을 보장합니다:
  • $z_\nu$(반응): 순열 및 스케일링까지 식별됨 (구성 요소별 식별 가능성).
  • $z_\iota$(불변): 선형 블록 변환까지 식별됨.
• 이 분석은 대비 정렬이 단순한 휴리스틱이 아니라, 불변 정보가 인과적 표현에 흡수되는 것을 방지하기 위한 필수 조건임을 명확히 하며, 이론적 보장과 부분적 개입의 현실 사이의 간극을 해소합니다.

경험적 결과
저자들은 합성 데이터와 실제 Perturb-seq 데이터셋 (Norman et al., 2019; Replogle et al., 2022) 에서 PerturbedVAE 를 평가했습니다.

• 합성 데이터: 실험은 대비 정렬이 $z_\nu$ 회복을 위한 평균 상관 계수 (MCC) 와 $z_\iota$ 회복을 위한 $R^2$를 크게 향상시켜 이론적 식별 가능성 주장을 검증함을 확인했습니다.
• 실제 데이터 벤치마크:
  • 기반 모델 대비: PerturbedVAE 는 더블 유전자 (조합) 교란 예측에서 기반 모델 (scFoundation, UCE, Geneformer) 과 단순 기준 (RandomForest, ElasticNet) 보다 크게 우월한 성능을 발휘했습니다. 기반 모델은 제로샷 조합 설정에서 성능이 저하되는 반면, PerturbedVAE 는 높은 $R^2$와 낮은 RMSE 를 유지합니다.
  • 인과적 표현 방법 대비: PerturbedVAE 는 기존 잠재 인과 모델 (Discrepancy-VAE, SENA, sVAE+, SAMS-VAE) 보다 우월한 성능을 보였습니다. 특히, 대비 정렬 항을 제거한 제거 실험 ("PerturbedVAE w/o Align") 은 기존 방법과 유사한 성능 저하를 보여 정렬 메커니즘의 필요성을 확인했습니다.
  • 가법 선형 기준 대비: 가법 선형 모델은 조건 수준 의사 벌크 지표 (평균 유전자 발현) 에서 경쟁력 있는 성능을 보이지만, PerturbedVAE 는 단일 세포 수준에서 더 우수한 성능을 달성합니다. 가법 모델 및 기타 딥 기준은 단일 세포 변이를 포착하지 못해 세포 수준 $R^2$가 음수가 되는 반면, PerturbedVAE 는 세포 수준 구조를 보존합니다 ($R^2 \approx 0.98$).
• 해석 가능성: 학습된 인과 그래프는 알려진 생물학적 조절 경로 (예: TGFBR2→SNAI1, TP73→CDKN1A) 를 회복하여, 모델이 임의의 통계적 연관성이 아닌 생물학적으로 타당하고 구조화된 표현을 학습함을 입증했습니다.

의의 및 주장
본 논문은 교란 예측에서 기반 모델의 실패가 주로 규모 문제가 아니라, 일반적인 훈련 목적과 교란 데이터의 희소하고 개입 주도적인 구조 사이의 불일치에서 비롯된다고 주장합니다.

PerturbedVAE 의 중요성은 단일 세포 교란 예측을 위한 "좋은" 표현이 교란 인식적이며 인과적으로 구조화되어야 함을 보여준다는 데 있습니다. 대비 정렬을 통해 불변 배경 프로그램과 교란 특이적 신호를 명시적으로 분리함으로써, 이 프레임워크는 다음을 가능하게 합니다:

1. 신뢰성 있는 일반화: 보지 못한 조합 교란에 대한 성공적인 제로샷 예측.
2. 해석 가능성: 인과적 조절 메커니즘 및 교란 반응 프로그램의 회복.
3. 이론적 기반: 이전 이론적 결과가 종종 실패하는 부분적 개입 설정에서도 식별 가능성 조건을 준수하는 인과적 표현 학습의 구체적인 구현.

저자들은 그들의 접근 방식이 순수 통계적 분해와 일반 기반 모델 모두에 대한 원칙적인 대안을 제공하며, 유전적 개입에 대한 세포 반응 이해를 위한 견고한 해결책을 제시한다고 결론지었습니다.