A transcriptomics-native foundation model for universal cell representation and virtual cell synthesis

이 논문은 배치 효과를 줄이면서도 생물학적 이질성을 보존하고, 고충실도 가상 세포를 생성하여 소규모 데이터셋의 분석 및 교차 모달리티 예측 능력을 혁신적으로 향상시킨 전사체 기반의 새로운 기초 모델 'xVERSE'를 제안합니다.

핵심

이 논문은 **'xVERSE'**라는 새로운 인공지능 모델을 소개합니다. 이 모델은 세포의 유전자 정보를 다루는 데 특화된 '기초 모델 (Foundation Model)'로, 마치 세포 세계의 '만능 번역기'이자 '가상 실험실' 역할을 합니다.

기존의 인공지능들은 세포 데이터를 언어 (단어) 처럼 처리하려다 보니, 세포 고유의 복잡한 특성을 놓치거나 특정 작업에만 잘 작동하는 한계가 있었습니다. 하지만 xVERSE 는 세포의 유전자 발현을 '확률'과 '통계'의 관점에서 직접 이해하도록 설계되었습니다.

이 복잡한 내용을 일상적인 비유로 설명해 드리겠습니다.

---

1. 기존 모델 vs xVERSE: "레시피 책"과 "요리사"의 차이

• 기존 모델 (scGPT 등): 마치 수천 권의 요리 레시피 책을 외운 사람 같습니다. "닭고기는 이렇게 조리한다", "소스는 이렇게 만든다"는 단어들 (유전자) 을 순서대로 나열해서 패턴을 찾습니다. 하지만 실제 요리는 재료의 양, 불의 세기, 재료가 섞이는 '확률'적인 과정이 중요합니다. 기존 모델은 이 미세한 뉘앙스를 놓치고, 레시피만 외워서 실제 요리를 해보라고 하면 맛이 안 날 때가 많습니다.
• xVERSE: 이 모델은 요리 자체의 원리를 이해한 천재 요리사입니다. 단순히 레시피를 외우는 게 아니라, "이 재료가 들어갈 때 다른 재료와 어떻게 반응할지", "불의 세기에 따라 맛이 어떻게 변할지"를 통계적으로 계산합니다. 그래서 새로운 재료를 줘도 완벽하게 요리를 해낼 수 있습니다.

2. xVERSE 의 세 가지 핵심 능력

① 만능 번역기 (Universal Representation)

• 상황: 연구자들은 실험실마다 사용하는 장비 (배치) 가 다르고, 측정하는 유전자 목록 (패널) 도 다릅니다. A 실험실 데이터와 B 실험실 데이터를 합치면 노이즈가 섞여 혼란스럽습니다.
• xVERSE 의 역할: 마치 서로 다른 언어를 쓰는 사람들끼리 대화하게 해주는 통역사입니다. 장비나 실험실의 차이 (노이즈) 는 무시하고, 세포가 가진 진짜 본질 (생물학적 신호) 만 추출해냅니다. 그래서 어떤 실험실 데이터든 하나로 통합해 세포의 종류를 정확하게 분류할 수 있습니다.

② 가상 세포 제조기 (Virtual Cell Synthesis)

• 상황: 희귀한 질병이나 드문 세포를 연구하려면 많은 샘플이 필요합니다. 하지만 환자 조직은 구하기 어렵고, 세포가 너무 적으면 통계적으로 의미 있는 결론을 내기 힘듭니다.
• xVERSE 의 역할: 현실과 구별할 수 없는 '가상 세포'를 만들어내는 3D 프린터입니다.
  • 실제 세포 1 개를 주면, xVERSE 는 그 세포와 유전적으로 100% 똑같은 '가상 세포'를 수백 개 만들어냅니다.
  • 이 가상 세포들은 실제 세포와 구별이 안 갈 정도로 정교합니다 (사람이 구별할 수 없는 수준).
  • 효과: 세포가 4 개뿐인 아주 작은 데이터라도, 이 모델로 가상 세포를 보충하면 마치 수천 개의 세포를 분석한 것처럼 정확한 결론을 낼 수 있습니다.

③ 숨은 유전자 찾기 (Imputation)

• 상황: 최신 기술 (공간 전사체학) 은 한 번에 모든 유전자를 측정하지 못합니다. 마치 100 개 중 50 개만 보는 안경을 쓴 것처럼, 중요한 유전자가 빠져 있는 경우가 많습니다.
• xVERSE 의 역할: **눈에 보이지 않는 부분을 완벽하게 추측해내는 '완벽한 기억력'**입니다.
  • 측정된 50 개 유전자만 보고, 나머지 50 개 유전자가 어떤 값일지 통계적으로 계산해냅니다.
  • 기존 방법들은 외부 데이터베이스에 의존해야 했지만, xVERSE 는 스스로 학습한 지식으로 혼자서도 정확하게 채워줍니다.

3. 왜 이것이 중요한가요? (일상적인 예시)

• 희귀병 연구: "이 병은 환자 4 명만 있어서 연구할 수 없어"라고 포기하던 상황에서도, xVERSE 가 가상 세포를 만들어주면 연구가 가능해집니다.
• 새로운 치료제 개발: 약을 먹었을 때 세포가 어떻게 변할지 예측하는 실험을 실제로 반복해서 할 필요 없이, 컴퓨터상에서 가상 세포로 수천 번의 실험을 해볼 수 있습니다.
• 비용 절감: 비싼 실험 장비로 모든 유전자를 다 측정할 필요 없이, 핵심 유전자만 측정하고 xVERSE 가 나머지를 채워주면 비용을 크게 아낄 수 있습니다.

요약

xVERSE는 단순히 데이터를 분석하는 도구를 넘어, **세포의 언어를 이해하고, 새로운 세포를 창조하며, 숨겨진 정보를 찾아내는 '생물학적 인공지능'**입니다. 이는 연구자들이 실험의 물리적 한계 (샘플 부족, 비용, 시간) 를 넘어서, 더 빠르고 정확하게 생명 현상을 이해할 수 있게 해주는 혁신적인 기술입니다.

기술 요약

논문 요약: xVERSE - 전사체 기반의 네이티브 파운데이션 모델

1. 연구 배경 및 문제 제기 (Problem)

• 기존 모델의 한계: 최근 등장한 단일세포 (single-cell) 파운데이션 모델들 (scGPT, Geneformer 등) 은 대규모 언어 모델 (LLM, 예: BERT, GPT) 아키텍처를 전사체 데이터에 적용합니다. 그러나 이러한 모델들은 전사체 데이터의 확률적 분포 (probability distributions) 를 무시하고 단순히 토큰 시퀀스로 취급합니다.
• 구조적 불일치: 언어 모델의 순차적 (sequential) 사전 지식은 순서가 없는 (unordered), 고차원이며 희소한 (sparse) 전사체 데이터 특성과 맞지 않습니다.
• 성능 저하: 이로 인해 기존 모델들은 배치 효과 (batch effect) 보정, 측정되지 않은 유전자 추측 (imputation), 소규모 데이터셋에서의 추론 등 특정 작업에서 전통적인 단일 작업 (mono-task) 방법보다 성능이 떨어지거나, 고충실도 가상의 세포 (virtual cells) 를 생성하는 생성 엔진으로서의 역할을 제대로 수행하지 못합니다.

2. 제안된 방법론: xVERSE (Methodology)

저자들은 전사체 데이터의 고유한 특성을 반영한 xVERSE라는 새로운 파운데이션 모델을 제안합니다. 이는 표현 학습 (representation learning) 과 확률적 전사체 재구성 (probabilistic transcriptomic reconstruction) 을 통합한 생성 모델입니다.

• 핵심 아키텍처 혁신:

  1. 전사체 네이티브 모델링: 인위적인 순차 구조 대신, 원시 유전자 발현 카운트 (raw gene counts) 를 직접 모델링하여 전사체 프로파일의 무순서성과 고차원성을 존중합니다.
  2. 패널 인식형 확률적 마스킹 (Panel-aware Stochastic Masking): 다양한 유전자 패널 (Gene panels) 에 대해 강건한 자기지도 학습을 위해 유전자 마스킹 전략을 적용합니다.
  3. 경향성 반전 계층 (Gradient Reversal Layer, GRL): 생물학적 변이와 기술적 교란 요소 (배치, 플랫폼 효과) 를 명시적으로 분리하여, 학습된 표현이 배치와 기술 차이에 불변 (invariant) 하도록 합니다.
  4. 세포 및 유전자 특이적 포아송 분포 모델링: 세포와 유전자별 포아송 분포를 사용하여 데이터 생성 과정을 모델링하며, 분포 재구성 손실 (distribution reconstruction loss) 을 통해 생물학적으로 현실적인 세포 프로파일을 생성합니다.

• 학습 데이터: 8900 만 개 이상의 세포 프로파일 (단일세포 RNA 시퀀싱 7000 만 개, 공간 전사체 1900 만 개) 로 구성된 대규모 범조직 (pan-tissue) 및 범질병 (pan-disease) 데이터셋을 기반으로 사전 학습되었습니다.

3. 주요 기여 및 기능 (Key Contributions)

xVERSE 는 세 가지 핵심 영역에서 혁신적인 기능을 제공합니다:

1. 범용 세포 및 유전자 표현 (Universal Cell and Gene Representation):

   • 배치 효과, 유전자 패널 차이, 기술적 차이에 불변하는 강건한 세포 표현을 학습합니다.
   • Gene2Cell Score를 도입하여 각 유전자가 세포 표현에 기여하는 정도를 정량화합니다. 이를 통해 노이즈를 필터링하고 생물학적으로 중요한 마커 유전자를 선별하여 공간 전사체 패널 설계를 최적화할 수 있습니다.

2. 고충실도 가상 세포 합성 (High-fidelity Virtual Cell Synthesis):

   • 생물학적 세포와 전사체적으로 구별 불가능한 (AUROC ≈ 0.5) 가상의 세포를 생성할 수 있는 최초의 파운데이션 모델입니다.
   • 희귀 세포 유형을 보강하거나 소규모 데이터셋을 증강 (augmentation) 하는 데 활용됩니다.

3. 생물학적 발견 가속화 (Biological Discovery):

   • 소규모 데이터셋에서도 희귀 세포 군집의 클러스터링과 차등 발현 유전자 (DEG) 분석을 가능하게 합니다.
   • 교차 모달리티 (cross-modality) 예측 모델의 일반화 성능을 향상시켜, 정상 상태의 데이터로 학습된 모델이 병리적 상태 (예: 심장 이식 거부 반응) 에서도 효과적으로 작동하도록 돕습니다.

4. 주요 실험 결과 (Results)

• 표현 학습 성능:

  • xVERSE 는 scGPT, Nicheformer, Geneformer 등 기존 파운데이션 모델보다 세포 이질성 (heterogeneity) 포착 능력이 17.9% 더 뛰어났습니다 (Average Silhouette Width 기준).
  • 배치 효과 보정 방법인 Harmony 보다 11.4% 더 높은 성능을 보이며, 제로샷 (zero-shot) 환경에서도 전문 도구보다 우수한 성능을 입증했습니다.
  • 추론 속도는 두 번째로 빠른 모델보다 59.7% 빨랐습니다.

• 가상 세포 생성 및 평가:

  • 생성된 가상 세포는 실제 생물학적 데이터와 통계적으로 구별할 수 없었습니다 (AUROC ≈ 0.5). 반면, 기존 생성 모델인 scVI 는 쉽게 구별되었습니다 (AUROC > 0.7).
  • 유전자 발현 순위 (ranking) 보존 능력에서 scVI 보다 평균 9.2% 높은 상관관계를 보였습니다.

• 공간 전사체 유전자 추측 (Imputation):

  • 측정되지 않은 유전자를 추측하는 작업에서, 외부 참조 데이터셋에 의존하는 기존 방법 (SpaGE, gimVI) 보다 34.3% 더 높은 정확도를 보였습니다.
  • 특히, 참조 데이터셋 변경에 따른 성능 변동이 크지 않아 안정적이며, 가장 예측하기 어려운 유전자에서도 파산적인 실패 (catastrophic failure) 를 피했습니다.

• 소규모 데이터셋 및 증강 효과:

  • 총 60 개 세포 중 4~10 개만 포함된 희귀 세포 군집을 기존 방법으로는 식별하지 못했으나, xVERSE 로 가상 세포를 증강한 후 클러스터링을 수행하면 완벽하게 분리되었습니다.
  • 드문 세포 유형 (예: 수지상 세포) 에 대한 차등 발현 유전자 (DEG) 탐지 정밀도 (Precision) 와 재현율 (Recall) 을 기존 오버샘플링 기법보다 크게 향상시켰습니다.

• 기계학습 모델 일반화:

  • 정상인 데이터로 학습된 모델을 병리적 환자 (CAV, NGD) 데이터에 적용할 때, xVERSE 로 증강된 데이터를 사용하면 ADT 단백질 예측 오차가 7.2~9.1% 감소하고, B 세포 이소타입 분류 AUROC 는 20% 이상 향상되었습니다.

5. 의의 및 결론 (Significance)

• 패러다임 전환: xVERSE 는 전사체 데이터를 단순한 토큰 시퀀스가 아닌, 확률적 분포를 가진 생물학적 개체로 모델링하는 전사체 네이티브 (transcriptomics-native) 접근법을 제시합니다.
• 실험적 제약 극복: 실험적으로 수집하기 어려운 희귀 세포나 소규모 샘플에 대해 고충실도 가상 세포를 생성함으로써, 실험 비용과 시간을 절감하면서도 통계적 검정력 (statistical power) 을 확보할 수 있게 합니다.
• 범용성: 단일세포 분석, 공간 전사체, 교차 모달리티 예측 등 다양한 하류 작업 (downstream tasks) 에서 데이터 증강 엔진으로서의 역할을 수행하며, 데이터가 부족한 상황에서도 최첨단 기계학습 모델 훈련을 가능하게 합니다.

이 연구는 대규모 전사체 데이터를 활용한 데이터 기반 발견의 새로운 패러다임을 제시하며, 복잡한 생물학적 메커니즘 이해를 심화시키는 강력한 도구로 자리매김했습니다.