HEXST: Hexagonal Shifted-Window Transformer for Spatial Transcriptomics Gene Expression Prediction

기술 요약: HEXST - 공간 전사체학을 위한 육각형 이동 창 트랜스포머

문제 제기
공간 전사체학 (ST) 은 조직 단면 내에서 유전자 발현을 프로파일링하면서 공간적 맥락을 보존하여 조직 구조와 질병 미세환경을 이해하는 데 필수적입니다. 그러나 ST 기술의 높은 비용과 낮은 처리량은 대규모 임상 코호트에서의 일상적 배포를 방해합니다. 이에 따라 보편적인 헤마톡실린-에오신 (H&E) 염색 조직 슬라이드에서 직접 공간 유전자 발현을 추론하는 계산적 방법들이 등장했습니다.

최근의 발전에도 불구하고 기존 모델들은 두 가지 근본적인 한계에 직면해 있습니다:

1. 기하학적 불일치: 널리 사용되는 스팟 어레이 ST 플랫폼 (예: 10x Genomics Visium) 은 조직을 대략적인 육각형 격자에서 샘플링합니다. 그러나 대부분의 기존 모델은 직교 (사각 격자) 또는 기하학 무관한 이웃 구조를 부과합니다. 이러한 불일치는 비이웃 스팟을 그룹화하고 즉각적인 이웃을 분리하는 이방성 수용 영역을 초래하여, 건축적 유도 편향으로서 실제 국소 기하학을 인코딩하지 못하게 합니다.
2. 공간 이질성의 과도한 평활화: 표준 학습 목표는 점 단위 회귀 (예: 스팟별 오차 최소화) 에 의존합니다. 이는 종종 국소 평균을 향해 회귀하는 예측을 선호하여 과도하게 평활화된 유전자 발현 프로파일을 초래합니다. 이러한 평활화는 국소화된 세포 상호작용 식별에 중요한 유전자별 공간 이질성과 날카로운 생물학적 경계 (예: 종양 - 기질 인터페이스) 를 흐리게 만듭니다.

방법론
저자들은 H&E 조직 이미지에서 ST 플랫폼의 육각형 샘플링을 존중하면서 공간 유전자 발현을 예측하도록 설계된 기하학 정렬 프레임워크인 HEXST(Hexagonal Shifted-Window Transformer) 를 제안합니다. 이 아키텍처는 네 가지 핵심 구성 요소로 이루어져 있습니다:

1. 육각형 이동 창 멀티헤드 자기 어텐션 (HexMSA):

   • HEXST 는 이동 창 트랜스포머 아키텍처를 육각형 스팟 어레이에 적응시킵니다.
   • 직교 좌표의 스팟 좌표를 축 좌표와 큐브 좌표를 사용하여 육각형 격자 표현으로 매핑합니다.
   • 스팟은 격자 위치에 기반하여 다중 스케일 육각형 창으로 분할됩니다.
   • 이동 메커니즘은 연속적인 블록에 걸쳐 창 중심을 오프셋하여 창 간 정보 교환을 용이하게 하고, 경계 아티팩트 없이 수용 영역을 국소에서 조직 전체 맥락으로 확장합니다.
   • 각 창 내에서 자기 어텐션은 고정된 일련의 이산 육각형 '슬롯'에 대해 계산되어 계산 효율성을 보장합니다.

2. 육각형 회전 위치 인코딩 (HexRoPE):

   • 육각형 격자에 내재된 상대적 공간 관계를 인코딩하기 위해 HEXST 는 HexRoPE 를 도입합니다.
   • 표준 직교 회전 위치 임베딩 (RoPE) 과 달리 HexRoPE 는 상대적 큐브 좌표 오프셋에 기반하여 육각형 격자의 세 가지 주 방향 (u, v, w 축) 을 따라 쿼리와 키 특징을 회전시킵니다.
   • 이는 각 창 내의 병진 등변성을 보존하고 기하학적으로 일관된 위치 정보를 제공합니다.

3. 전사체 특징 정렬:

   • 전사체 사전 지식을 주입하기 위해, 모델은 출력 임베딩을 사전 학습된 단일 세포 기반 모델 (scFoundation) 의 표현과 정렬합니다.
   • 학습 가능한 선형 투영이 HEXST 의 시각 임베딩을 전사체 공간으로 매핑하며, 코사인 정렬 손실을 통해 최적화됩니다. 이는 대규모 단일 세포 데이터셋의 지식을 활용하여 유전자 발현 패턴 예측을 안내합니다.

4. 편차 매칭 목표:

   • 과도한 평활화를 방지하고 유전자별 공간 대비를 보존하기 위해 HEXST 는 편차 매칭 손실을 도입합니다.
   • 절대 오차만 최소화하는 대신, 이 목표는 스팟 간 예측과 실제 값 사이의 편차(배치 평균에 대한 상대적 변동) 를 정렬합니다.
   • 이는 모델이 국소 평균으로 수렴하는 대신 미세한 공간 변동과 날카로운 경계를 포착하도록 장려합니다.

주요 기여

• 기하학 인식 아키텍처: HEXST 는 육각형 창 분할과 HexRoPE 를 통해 스팟 어레이 ST 플랫폼의 육각형 기하학에 트랜스포머 아키텍처를 명시적으로 정렬한 최초의 모델입니다.
• 향상된 공간 대비: 점 단위 회귀와 편차 매칭 목표 및 전사체 사전 지식을 결합함으로써, 이 방법은 표준 회귀 접근법에서 종종 손실되는 유전자별 공간 이질성과 날카로운 경계를 효과적으로 보존합니다.
• 견고한 성능: 이 프레임워크는 다양한 데이터셋, 조직, 종에 걸쳐 최첨단 방법들보다 일관된 개선을 보여줍니다.

결과
저자들은 SpaRED 벤치마크에서 집계된 7 개의 공간 전사체학 데이터셋 (다양한 조직 (인간 및 마우스) 및 실험 프로토콜 포함) 에서 HEXST 를 평가했습니다.

• 정량적 성능: HEXST 는 5 가지 평가 지표 (유전자별 피어슨 상관 계수 (PCCF), 스팟별 PCC(PCCS), 상호 정보량 (MIF), 발현 수준 구분을 위한 두 가지 곡선 아래 면적 (AUC) 지표) 에서 7 개의 최첨단 베이스라인 (STNet, Hist2ST, EGNv1/v2, TCGN, NH2ST, PEKA 포함) 보다 일관되게 우위를 점했습니다.
  • 최상위 베이스라인 (PEKA) 과 비교하여 HEXST 는 PCCF 에서 +0.0364, PCCS 에서 +0.0558, MIF 에서 +0.0431 의 개선을 달성했습니다.
• 정성적 분석: 유전자 발현 히트맵의 시각적 비교 결과, HEXST 는 날카로운 국소 변동과 경계를 유지한 반면, 베이스라인 모델들은 이러한 특징을 흐리게 하거나 고발현 영역을 잘못 식별하는 경향이 있었습니다.
• 하류 임상 작업: HEXST 가 학습한 전사체 표현은 ST 측정이 없는 TCGA 코호트의 두 가지 하류 임상 작업으로 성공적으로 이전되었습니다:
  • 전립선암 등급 분류 (TCGA-PRAD): 이미지 전용 베이스라인과 비교하여 HEXST 기반 표현은 글리슨 등급 분류 정확도를 2.82% 향상시키고 코헨의 $\kappa$ 를 0.0338 개선하여 PEKA 베이스라인을 능가했습니다.
  • 생존 예측 (TCGA-LUAD): HEXST 는 이미지 전용 베이스라인 대비 전체 생존 예측의 일치 지수 (C-index) 를 0.0115 향상시켜, 경쟁 방법들보다 벌크 RNA-seq 베이스라인의 성능에 더 근접했습니다.

의의 및 주장
본 논문은 HEXST 가 ST 플랫폼의 기하학적 현실과 기존 계산 모델의 가정 사이의 중요한 격차를 해소한다고 주장합니다. 육각형 기하학을 명시적으로 모델링하고 공간 이질성을 보존함으로써 HEXST 는 일상적인 H&E 슬라이드에서 더 정확한 공간 유전자 발현 추론을 가능하게 합니다. 저자들은 이러한 능력이 조직 조직에 대한 대규모 탐색적 연구를 용이하게 하고, 비용이 많이 드는 실험적 공간 전사체학 분석 없이도 예후 예측과 같은 전사체학 기반 임상 연구를 지원한다고 봅니다. 이 연구는 기하학 인식 모델링이 임상 실습에서 공간 전사체학의 잠재력을 최대한 끌어내는 데 필수적임을 시사합니다. 향후 작업은 다른 기반 모델과의 비교 및 연속 좌표 공간 분석으로의 확장을 포함할 것으로 언급됩니다.