기술 요약: HEIST - 공간 전사체 및 단백질체학을 위한 그래프 파운데이션 모델

문제 정의

단일 세포 전사체 및 단백질체학은 세포 이질성에 대한 깊은 통찰력을 제공해 왔으나, 전통적인 단일 세포 RNA 시퀀싱(scRNA-seq)은 조직 구성, 미세환경 상호작용, 그리고 유전자 공동 발현이 조직 수준의 행동에 어떻게 영향을 미치는지 이해하는 데 필요한 공간적 맥락이 부족합니다. 공간 전사체 및 단백질체학은 물리적 위치를 보존함으로써 이를 해결하지만, 기존의 계산 모델들은 다음과 같은 중대한 한계에 직면해 있습니다:

1. 공간적 또는 분자적 복잡성 무시: 많은 모델이 공간 정보를 무시하거나 세포 내 복잡한 유전적 및 단백질적 프로그램을 모델링하지 못하여, 내부 조절이 미세환경 신호에 어떻게 적응하는지 추론하는 것을 방해합니다.
2. 고정된 어휘집(Fixed Vocabularies): 대부분의 파운데이션 모델은 고정된 유전자 어휘집을 사용하여, 사전 학습 시 존재하지 않았던 유전자나 단백질을 포함하는 데이터셋에 대한 일반화 능력을 저해합니다.
3. 계층적 모델링의 부재: 기존 방식은 세포와 유전자를 평면 구조 또는 완전 연결 그래프로 취급하는 경우가 많아, 공간적 이웃과 상호작용하는 희소하고 생물학적으로 타당한 공동 발현 네트워크의 귀납적 편향(inductive bias)을 포착하지 못합니다.

방법론: HEIST 아키텍처

저자들은 HEIST(Hierarchical EmbeddIngs for Spatial Transcriptomics)를 제안합니다. 이는 공간적 근접성과 내부 유전자 공동 발현 네트워크를 공동으로 모델링하도록 설계된 계층적 그래프 트랜스포머 파운데이션 모델입니다.

1. 계층적 그래프 구축

HEIST는 조직을 두 단계의 계층적 그래프로 모델링합니다:

• 상위 레벨 (공간 그래프): 세포 좌표로부터 보로노이 다각형(Voronoi polygons)을 계산하고, 인접한 다각형 내의 세포들을 연결하여 공간적 근접성과 조직 구조를 포착하는 세포-세포 그래프($G_c$)를 구축합니다.
• 하위 레벨 (유전자 공동 발현 네트워크): 각 세포는 하위 레벨의 유전자 공동 발현 네트워크($G^k_g$)로 표현됩니다. 이 네트워크는 세포 유형별로 구축되며, 노이즈가 제거된 유전자(MAGIC 사용) 간의 쌍별 상호 정보량(mutual information)을 계산하고 데이터 기반의 적응형 임계값 $\tau$를 초과하는 쌍을 연결하여 생성됩니다.

2. 모델 아키텍처

HEIST는 두 가지 유형의 메시지 전달을 수행하는 **계층적 그래프 트랜스포머(Hierarchical Graph Transformer)**를 채택합니다:

• 인트라 레벨 메시지 전달 (Intra-level Message Passing): 각 레이어 내에서, 모델은 CellGraphTransformer(장거리 공간 상호작용 포착)와 GeneGraphTransformer(미세한 공동 발현 패턴 포착)를 사용하여 세포 임베딩과 유전자 임베딩을 각각 업데이트합니다.
• 크로스 레벨 메시지 전달 (Cross-level Message Passing): 새로운 방향성 어텐션 메커니즘을 통해 두 양상을 통합합니다.
  • 유전자-to-세포 (Gene-to-Cell): 세포 임베딩은 구성 유전자의 풀링된 요약본을 사용하여 정교화되며, 이를 통해 전사 상태가 공간적 정체성을 형성하도록 합니다.
  • 세포-to-유전자 (Cell-to-Gene): 유전자 임베딩은 부모 세포의 공간적 맥락에 따라 업데이트됩니다. 이를 통해 동일한 유전자가 세포 맥락에 따라 다르게 인코딩될 수 있으며, 모델이 재학습 없이도 보지 못한 유전자나 단백질 특성에 일반화할 수 있게 합니다.

3. 사전 학습 목표

HEIST는 15개 장기, 124개 조직에서 추출한 2,230만 개의 세포를 대상으로 다음과 같은 조합된 자기 지도 학습 목표를 통해 사전 학습됩니다:

• 대조 학습 (Contrastive Learning): 유사한 세포 및 유전자(예: 동일한 유형의 인접 세포, 공동 발현되는 유전자)를 정렬하는 동시에, 서로 다른 쌍은 멀어지도록 밀어냅니다. 이는 유전자와 세포 표현 사이의 일관성을 보장하기 위해 크로스 레벨 대조 정렬을 포함합니다.
• 마스크드 오토인코딩 (Masked Autoencoding, MAE): 모델은 마스킹된 유전자 발현 값과 공간 좌표를 재구성하며, 이를 통해 누락된 데이터를 추론하고 유전자 신호 및 공간적 단서의 강건한 표현을 학습하도록 강제됩니다.
• 직교성 규제 (Orthogonality Regularization): 임베딩 차원이 서로 상관관계가 없도록 유도하여 다양하고 중복되지 않는 표현을 촉진합니다.

주요 기여

1. 최초의 계층적 공간 오믹스 파운데이션 모델: HEIST는 공동 발현 네트워크를 공간 그래프와 함께 통합된 계층적 프레임워크 내에 명시적으로 포함하여, 국소적인 유전자 프로그램이 조직 수준의 구조에 영향을 미치고 그 반대도 가능하게 하는 최초의 모델입니다.
2. 맥락 인식형 동적 유전자 임베딩: 고정된 어휘집에 의존하는 모델과 달리, HEIST는 공동 발현 네트워크와 세포 맥락으로부터 유전자 임베딩을 동적으로 계산합니다. 이를 통해 재학습 없이도 공간 단백질체학을 포함한 새로운 데이터 유형으로 일반화가 가능합니다.
3. 계산 효율성: 희소 모델링을 활용하고 모든 유제에 대한 전체 셀프 어텐션을 피함으로써, HEIST는 임베딩 추출 시 SCGPT-SPATIAL보다 8배, SCFOUNDATION보다 48배 더 빠른 속도를 달aled했습니다.
4. 생물학적 귀납적 편향: HEIST 아키텍처는 세포 내 미세한 유전자 공동 발현과 장거리 세포 상호작용을 포착하며, 크로스 레벨 메시지 전달을 통해 생물학적으로 맥락화된 임베딩을 생성합니다.

실험 결과

HEIST는 다양한 기술(MERFISH, Xenium, CODEX, MIBI)과 장기에 걸친 네 가지 다운스트림 작업에 대해 평가되었습니다:

• 세포 클러스터링: HEIST는 정규화된 상호 정보량(NMI) 점수에서 베이스라인(STAGATE, GraphST, CellPLM, scGPT-spatial)을 능가했습니다. 결정적으로, 이전 모델들이 붕괴시켰던 공간 정보가 반영된 하위 집단을 성공적으로 식별하여 미세환경에 의해 유도된 이질성(예: 구별되는 L4-IT 뉴런 하위 클러스터)을 밝혀냈습니다.
• 세포 유형 주석 (Cell Type Annotation): 5개 데이터셋 중 4개에서 최첨단(SOTA) F1 점수를 달성했으며, 특히 UPMC 목(neck) 데이터에서는 베이스라인 대비 상당한 개선(예: +48.5%)을 보였습니다.
• 임상 결과 예측: HEIST는 면역 항암제 반응, 관해(remission), 태반 상태 예측을 포함한 7개 시나리오 중 6개에서 가장 높은 AUC-ROC를 기록했습니다. 특히, 재학습 없이 가용한 모든 마커를 활용함으로써 단백질체 전용 베이스라인보다 최대 44.3% 더 높은 성능을 보였습니다.
• 유전자 임퓨테이션 (Gene Imputation): 미세 조정(fine-tuning) 후, HEIST는 태반 및 피부 데이터셋에서 유전자 임퓨테이션에 대한 피어슨 상관계수 측면에서 모든 베이스라인(MAGIC 및 미세 조정된 파운데이션 모델 포함)을 능가했습니다.
• 리간드-수용체 예측: HEIST는 리간드-수용체 상호작용 예측에서 0.995의 AUC-ROC를 달성하여 다른 파운데이션 모델들을 크게 앞질렀으며, 이는 HEIST의 임베딩이 세포 통신의 공간적 특징을 효과적으로 포착하고 있음을 나타냅니다.

의의 및 주장

본 논문은 HEIST가 공간 및 분자 계층 구조를 통합함으로써 공간 오믹스 모델링의 중요한 진전을 이루었다고 주장합니다. 주요 의의는 다음과 같습니다:

• 새로운 생물학적 발견: 이전 모델들이 놓쳤던 미세환경 특이적 하위 집단을 포착함으로써, HEIST는 조직 구성 및 질병 진행(예: 알츠하이머병의 Braak 단계 진행)에 대한 더 깊은 통찰력을 제공합니다.
• 교차 모달리티 전이 가능성: 동적 임베딩 메커니즘을 통해 HEIST는 단백질체 데이터 및 서로 다른 유전자 세트를 가진 데이터셋으로 일반화할 수 있으며, 이는 기존의 고정 어휘집 파운데이션 모델의 주요 한계를 해결합니다.
• 확장 가능한 파운데이션 제공: 최첨단 성능과 높은 계산 효율성을 갖춘 HEIST는 세포 주석부터 치료 반응 예측에 이르기까지 다양한 다운스트림 임상 및 생물학적 과업을 위한 실용적이고 범용적인 파운데이션을 제공합니다.

저자들은 분자(공동 발현)와 공간 정보를 모두 모델링하는 것이 전이 가능한 공간 오믹스 모델을 개발하는 데 필수적이며, HEIST가 바로 이 간극을 메우는 것을 목표로 한다고 결론짓습니다.