Applications of temporal graph learning for predicting the dynamics of biological systems

기술 요약: 생물학적 시스템의 역동성 예측을 위한 시계열 그래프 학습의 응용

문제 제기
생물학적 기초 모델 (예: scGPT, scFoundation, Geneformer) 의 최근 발전은 트랜스포머 아키텍처를 사용하여 단일 세포 전사체 데이터로부터 표현을 학습하는 데 강력한 성능을 보여주었습니다. 그러나 이러한 접근법은 주로 정적 환경에서 작동하며, 발달 프로그램의 시간적 진화를 명시적으로 모델링하지 못합니다. 이 한계는 세포 상태가 지속적으로 나타나고, 분화되며, 재구성되는 발달 생물학에서 중요합니다. 의사시간 (pseudotime) 추론 및 RNA 속도 (RNA velocity) 와 같은 기술들이 비동기적 단일 세포 데이터에서 정렬된 궤적을 재구성할 수 있게 하지만, 기존 방법들은 일반적으로 세포 상태를 독립적으로 처리하거나 정적 스냅샷으로 모델링하여 발달 전환을 뒷받침하는 진화하는 조절 구조 (유전자 조절 네트워크, GRN) 를 간과합니다. 핵심 과제는 발달 생물학적 시스템을 시계열 그래프 학습에 적합한 진화하는 그래프 과정으로 공식화하여 정적 표현을 넘어선 미래 생물학적 상태의 예측을 가능하게 하는 것입니다.

방법론
저자들은 단일 세포 전사체 데이터를 이산 시간 시계열 그래프로 변환하여 시계열 그래프 신경망 (TGNN) 을 적용하는 파이프라인을 제안합니다. 방법론은 다음과 같습니다:

1. 궤적 추론 및 이산화: 단일 세포 유전자 발현 행렬에서 시작하여 확산 의사시간 (DPT) 을 사용하여 발달 궤적을 추론합니다. 그런 다음 세포를 의사시간 값에 기반하여 시간별 빈 (스냅샷) 으로 집계합니다. 빈 크기는 GRN 추론에 필요한 통계적 견고성과 시간적 해상도 사이의 균형을 맞추도록 최적화됩니다 (일반적으로 스냅샷당 300~500 개의 세포를 목표로 함).
2. 시계열 GRN 구축: 각 의사시간 빈에 대해 SCENIC 를 사용하여 유전자 조절 네트워크 (GRN) 를 추론합니다. 이 프레임워크는 유전자 공발현 분석과 전사 인자 모티프 풍부화를 결합하여 생물학적으로 의미 있는 조절 상호작용을 식별합니다. 그 결과 $G = \{G(1), \dots, G(T)\}$로 표시되는 이산 시간 시계열 그래프가 생성되며, 여기서 각 스냅샷 $G(t)$는 다음을 포함합니다:
   • 노드 ($V$): 시간에 걸쳐 일관된 정체성을 가진 유전자.
   • 엣지 ($E(t)$): 시간 $t$에 추론된 조절 상호작용.
   • 노드 특성 ($X(t)$): 빈 내의 집계된 유전자 발현 통계 (평균, 중앙값, 분산 등).
   • 엣지 특성: GRN 추론에서 도출된 신뢰도 점수.
3. 시계열 그래프 학습: TGNN 을 이 그래프 시퀀스에 적용하여 스냅샷 내의 구조적 의존성과 스냅샷 간의 시간적 역동성을 모두 포착하는 시간적 노드 표현을 학습합니다.
4. 예측 작업: 프레임워크는 세 가지 보완적인 작업에 대해 평가됩니다:
   • 미래 유전자 발현 예측: 연속된 스냅샷 간의 평균 유전자 발현 ($\Delta x$) 의 시간적 변이를 예측.
   • 미래 링크 예측: 다음 스냅샷 $G(t+1)$에 존재할 조절 상호작용의 확률을 추정.
   • 미래 아웃-차수 중심성 예측: 미래 스냅샷에서 유전자의 위상적 중요성 (아웃-차수) 을 예측하여 조절 허브를 식별.

주요 기여 및 결과
본 연구는 두 개의 공개적으로 이용 가능한 마우스 발달 데이터셋 (적혈구 위배아 형성 및 췌장 내분비 형성) 에 제안된 프레임워크를 평가했습니다. 결과는 몇 가지 주요 발견을 강조합니다:

• 정적 기초 모델에 대한 우위: 유전자 발현 예측에서 그래프 기반 시계열 모델은 일관되게 확립된 생물학적 기초 모델 (scGPT 및 scFoundation) 보다 우수한 성과를 보였습니다. 이는 명시적으로 진화하는 조절 구조를 모델링하는 것이 정적 사전 훈련 표현만으로는 포착할 수 없는 예측 정보를 제공함을 시사합니다.
• 스펙트럴 아키텍처의 효과성: 스펙트럴 그래프 컨볼루션 아키텍처, 특히 ChebNet과 GCRN-GRU가 모든 작업에서 가장 강력한 성능을 보였습니다. 저자들은 이러한 아키텍처가 전사 인자가 여러 표적에 연결된 중앙 조절자로 작용하는 GRN 의 이종성 및 허브 중심 위상에 특히 적합하다고 가정합니다. 스펙트럴 컨볼루션은 이러한 별 모양 위상에서 멀티홉 이웃을 가로질러 정보를 효과적으로 전파할 수 있습니다.
• 링크 예측에서의 시간적 역동성: 링크 예측의 경우, 시계열 모델 (특히 GCRN-GRU) 은 정적 베이스라인 (GCN, GAT) 과 단순한 기억 전략 (EdgeBank) 보다 현저히 우수한 성과를 보였습니다. 이는 데이터셋이 단순한 엣지 지속성을 넘어선 비자명한 시간적 역동성을 포함하고 있으며 TGNN 이 이를 성공적으로 포착함을 나타냅니다.
• 허브 예측의 생물학적 관련성: 모델은 시간적으로 중요한 조절 허브를 성공적으로 식별했습니다. 적혈구 위배아 형성 데이터셋에서 예측된 중심성 궤적은 알려진 생물학적 프로그램과 일치했습니다: 초기 단계는 증식 조절자 (예: E2f8, Ran) 가 지배적이었으며, 후기 단계에서는 고전적 적혈구 조절자 (예: Klf1, Spi1, Erg) 의 중심성이 증가했습니다.

의의 및 주장
이 논문은 시계열 그래프 학습을 단일 세포 생물학의 현재 기초 모델 접근법에 대한 유망하고 보완적인 패러다임으로 위치시킵니다. 저자들은 다음과 같이 주장합니다:

1. 역동성의 명시적 모델링: 발달 시스템을 진화하는 그래프로 재공식화하면 조절 구조의 변화를 명시적으로 모델링할 수 있어 정적 표현 학습에 비해 뚜렷한 이점을 제공합니다.
2. 상호 보완성: 시계열 그래프 학습은 기초 모델을 대체하기보다는 발달 진행 및 질병 궤적과 같은 동적 시스템 진화의 예측이 필요한 작업에 필요한 확장을 제공합니다.
3. 실현 가능성: 단일 세포 RNA 시퀀싱의 파괴적 특성 (개별 세포의 직접적인 추적을 방지) 으로 인해, 의사시간 빈화를 통한 시계열 그래프의 계산적 재구성은 동적 생물학적 시스템에 딥러닝을 적용하기 위한 실행 가능한 전략입니다.

이 연구는 "진행 중인 작업 (work-in-progress)"으로 제시되었으며, 저자들은 향후 연구에서 추가 데이터셋, 최신 기초 모델, 그리고 더 최근의 시계열 어텐션 기반 아키텍처 (예: DyGFormer) 로 벤치마크를 확장할 계획을 밝히고 있습니다.