Interpretable models for scRNA-seq data embedding with multi-scale structure preservation

이 논문은 단일 세포 전사체 데이터의 차원 축소 신뢰성을 높이기 위해 확장성과 공정성을 강화한 평가 프레임워크 'ViScore'와 다중 스케일 구조 보존 및 해석 가능성을 갖춘 심층 학습 모델 'ViVAE'를 제안합니다.

핵심

이 논문은 **단일 세포 RNA 시퀀싱 (scRNA-seq)**이라는 복잡한 생물학 데이터를 다루는 새로운 방법론을 소개합니다. 생물학자들은 수만 개의 세포 데이터를 분석할 때, 마치 거대한 우주 지도를 그려야 하는 것과 같은 일을 합니다. 하지만 이 지도는 너무 복잡해서 인간이 눈으로 볼 수 없을 정도로 차원 (정보의 양) 이 많습니다.

이 논문은 이 복잡한 지도를 **2 차원이나 3 차원의 간단한 지도로 줄여주는 '압축 기술' (차원 축소)**을 더 똑똑하고 신뢰할 수 있게 만드는 두 가지 핵심 도구를 개발했습니다.

비유를 들어 쉽게 설명해 드리겠습니다.

---

1. 문제 상황: 거대한 도서관과 혼란스러운 지도

생각해 보세요. 수만 권의 책 (세포) 이 있는 거대한 도서관이 있습니다. 각 책에는 수천 개의 주제 (유전자) 가 적혀 있죠. 연구자들은 이 책들을 분류해서 "이 책은 의학책, 저 책은 역사책"이라고 묶고 싶지만, 책들이 너무 많고 내용이 복잡해서 한눈에 파악이 안 됩니다.

기존에 사용되던 지도 그리기 기술 (t-SNE, UMAP 등) 은 책들을 묶을 때 근접한 책끼리만 뭉치는 데는 매우 능숙했습니다. 하지만 전체 도서관의 구조를 보면, "의학책과 역사책이 실제로는 얼마나 멀리 떨어져 있는지"를 왜곡해서 보여주는 경우가 많았습니다. 마치 지도에서 서울과 부산의 거리를 실제보다 훨씬 멀게 혹은 가깝게 표시하는 것과 같습니다.

2. 해결책 1: 'ViScore' (지도의 정확도를 측정하는 새로운 자)

연구자들은 먼저 "어떤 지도가 더 정확한가?"를 측정하는 새로운 자를 만들었습니다. 이를 ViScore라고 합니다.

• 기존의 문제: 예전에는 지도의 정확도를 볼 때 "이 책들끼리 가까이 있나?"만 봤거나, "이 책들을 몇 개 뽑아서 대표해 보자"라고 해서 대충 계산했습니다. 이는 마치 지도의 일부 구석만 보고 전체를 판단하는 것과 같았습니다.
• ViScore 의 특징: ViScore 는 지도의 전체 구조를 봅니다.
  • 근접한 책들 (지역 구조): 같은 책장 안의 책들이 잘 묶였나?
  • 전체 도서관 (전역 구조): 의학책과 역사책 전체의 거리가 원래대로 유지되었나?
  • 이 두 가지를 동시에, 그리고 공정하게 측정할 수 있는 새로운 점수 체계를 개발했습니다. 마치 지도의 '지역 거리'와 '전체 국가 간의 거리'를 동시에 정확히 재는 자를 만든 셈입니다.

3. 해결책 2: 'ViVAE' (완벽한 지도를 그리는 새로운 화가)

이제 ViScore 라는 자로 측정할 수 있게 되었으니, 더 좋은 지도를 그리는 화가를 소개합니다. 이것이 ViVAE입니다.

• 기존 화가들의 한계:
  • t-SNE, UMAP 같은 화가: 아주 작은 책장 (근접한 세포) 을 아주 잘 묶어주지만, 전체 도서관의 구조를 망가뜨려서 책장들이 뜬금없이 떨어지거나 (인위적인 간격), 책들이 뭉개지는 경우가 많았습니다.
  • PCA 같은 화가: 전체 구조는 잘 지키지만, 책장 안의 세부적인 뉘앙스 (비선형 관계) 를 놓치는 경우가 많았습니다.
• ViVAE 의 장점: ViVAE 는 **딥러닝 (인공지능)**을 사용합니다. 이 화가는 지역적인 세부 사항과 전체적인 구조를 동시에 잡는 '밸런스'가 뛰어납니다.
  • 마치 현미경과 망원경을 동시에 쓰는 화가처럼, 세포들 사이의 미세한 관계도 놓치지 않으면서, 전체적인 발달 과정 (예: 배아가 성체로 변하는 과정) 같은 큰 흐름도 자연스럽게 이어지게 그립니다.

4. 추가 기능: 'EIs' (지도의 왜곡을 찾아내는 X-ray)

ViVAE 의 가장 큰 특징 중 하나는 신뢰성입니다. 지도를 그릴 때 어쩔 수 없이 왜곡이 생기기 마련인데, ViVAE 는 이 왜곡을 스스로 찾아내어 연구자에게 알려줍니다.

• 엔코더 인디카트리 (Encoder Indicatrices):
  • 이 도구는 지도의 특정 부분이 원래보다 너무 늘어나거나 (Stretching), 찌그러지거나 (Shrinking) 했을 때, 마치 타원형의 풍선처럼 그 부분을 표시해 줍니다.
  • 연구자는 이 풍선을 보고 "아, 이 부분은 인공지능이 잘못 그렸구나"라고 바로 알 수 있습니다. 마치 지도를 볼 때 "여기는 실제보다 2 배로 넓게 그려졌네"라고 경고하는 X-ray 같은 역할입니다.

5. 실제 성과: 두 가지 사례

연구자들은 이 기술을 실제 데이터에 적용해 보았습니다.

1. 제브라피시 배아 발달 데이터 (긴 흐름): 배아가 어떻게 성장하는지 보여주는 데이터입니다. ViVAE 는 세포들이 어떻게 하나에서 여러 갈래로 나뉘어가는지 (분기) 를 기존 방법들보다 훨씬 자연스럽고 정확하게 보여주었습니다.
2. 인간 면역 세포 데이터 (복잡한 군집): 다양한 면역 세포들이 섞여 있는 데이터입니다. ViVAE 는 서로 다른 세포 종류가 어떻게 구분되는지, 그리고 서로 어떤 관계를 맺고 있는지 기존 방법들보다 더 정확하게 분류해냈습니다.

요약

이 논문은 **"복잡한 생물학 데이터를 지도로 그릴 때, 기존 방법들은 지역만 잘 보거나 전체만 잘 보았다"**는 문제를 지적하고, **ViScore(정확한 측정 도구)**와 **ViVAE(균형 잡힌 지도 그리기 AI)**를 통해 지역과 전체를 모두 잘 보여주는 신뢰할 수 있는 지도를 만들 수 있음을 증명했습니다.

이제 생물학자들은 더 이상 "이 지도가 진짜일까?"라고 의심하지 않고, 이 도구를 통해 세포의 비밀을 더 정확하게 탐험할 수 있게 되었습니다.

기술 요약

1. 연구 배경 및 문제 제기 (Problem)

• 배경: 단일 세포 RNA 시퀀싱 (scRNA-seq) 데이터 분석에서 고차원 데이터를 저차원 임베딩 (Dimensionality Reduction, DR) 으로 변환하는 것은 필수적입니다. 이는 세포 유형 다양성 설명, 품질 관리 (QC), 그리고 세포 발달 궤적 (trajectory) 추론 등에 활용됩니다.
• 문제점:
  • 구조 보존의 불균형: 기존 방법론들은 국소적 (local) 구조 (인접한 세포 군집) 를 보존하는 데 치중하거나 (t-SNE, UMAP), 전역적 (global) 구조 (세포 군집 간의 전체적 관계, 발달 경로) 를 보존하는 데 치중 (PCA, MDS) 하는 경향이 있어, 두 가지를 동시에 잘 보존하는 방법이 부족합니다.
  • 평가 기준의 한계: 현재 널리 사용되는 평가 지표들은 '국소'와 '전역'의 경계를 임의로 설정하거나, 하류 작업 (클러스터링, 분류) 성능을 간접 지표로 사용하여 엄밀성이 부족합니다. 또한 대규모 데이터셋에 대한 확장성 (scalability) 이 떨어집니다.
  • 해석 가능성 부족: 딥러닝 기반 임베딩 모델 (VAE 등) 은 블랙박스 성향이 강하며, 임베딩 과정에서 발생하는 왜곡 (distortion) 을 시각적으로 진단하거나 설명할 수 있는 도구가 부족합니다.

2. 방법론 (Methodology)

저자들은 두 가지 주요 도구를 개발하여 위 문제를 해결했습니다.

A. ViScore: 구조 보존 평가 프레임워크

• RNX 곡선 기반 무감독 평가: 기존 RNX (Rank-based Neighborhood Preservation) 곡선을 기반으로 하여, 임의의 스케일에서 구조가 얼마나 잘 보존되는지 정량화합니다.
  • 확장성 해결: 기존 RNX 계산의 $O(N^2 \log N)$ 복잡도를 해결하기 위해, Vantage-Point Tree를 활용한 효율적인 근사 알고리즘을 도입하여 대규모 scRNA-seq 데이터셋에도 적용 가능하게 만들었습니다.
  • 스케일 무관 점수: '국소 구조 보존 (Local SP)'과 '전역 구조 보존 (Global SP)'을 명확히 정의하고 각각을 독립적으로 점수화합니다. 국소 점수는 로그 스케일 가중치를 적용하여 작은 이웃을 강조하고, 전역 점수는 모든 스케일을 동등하게 취급합니다.
• 지도 평가 지표 (xNPE): 세포 레이블이 있는 경우를 위해 **Extended Neighbourhood-Proportion-Error (xNPE)**를 제안합니다. 이는 각 세포 군집 (Population) 별 이웃 구성의 분포를 고차원 입력 공간과 저차원 임베딩 공간에서 비교 (Earth Mover's Distance 사용) 하여 군집 간 상대적 위치 왜곡을 정량화합니다.
• 시각화 도구: **Neighbourhood Composition Plots (NCPs)**를 통해 특정 세포 군집 주변에 어떤 다른 세포들이 위치하는지 다양한 스케일에서 시각화하여 오류 원인을 진단합니다.

B. ViVAE: 다중 스케일 구조 보존을 위한 딥러닝 모델

• 아키텍처: 정규화된 변분 오토인코더 (Regularized Variational Autoencoder, VAE) 기반 모델입니다.
• 학습 전략:
  1. 입력 노이즈 제거 (Denoising): 입력 데이터에 Mean Shift 알고리즘을 적용하여 노이즈를 제거한 후 학습합니다.
  2. 확률적 MDS 정규화 (Stochastic-MDS Regularizer): 기존의 VAE 손실 함수 (재구성 손실 + KL 발산) 에 Stochastic Quartet MDS 기반의 새로운 손실 항 ($l_{MDS}$) 을 추가합니다. 이는 고차원 공간에서의 점 쌍 거리 관계를 저차원 임베딩에서 보존하도록 유도하여 전역 구조를 강화합니다.
  3. 손실 함수: $l_{ViVAE} = l_{recon} + l_{kldiv} + 100 \cdot l_{MDS}$
• 해석 가능성 도구 (Encoder Indicatrices, EIs):
  • 미분 기하학 (Differential Geometry) 개념을 차용하여, 학습된 인코더가 임베딩 공간에 도입하는 **국소적 왜곡 (확장, 축소, 늘어남)**을 시각화합니다.
  • 고차원 공간의 작은 초구 (hypersphere) 를 임베딩 공간에 투영했을 때의 모양 변화 (타원 등) 를 계산하여, 모델이 특정 영역에서 구조를 어떻게 왜곡하는지 직관적으로 보여줍니다.
• FlowSOM 통합: ViVAE 임베딩 위에 FlowSOM 의 최소 신장 트리 (MST) 토폴로지를 중첩하여 세포 군집 간의 위계적 관계를 검증할 수 있게 합니다.

3. 주요 결과 (Results)

• 다양한 데이터셋에서의 비교 평가: 8 개의 공개 scRNA-seq 데이터셋 (발생학 데이터, 면역 세포 데이터 등) 에서 12 가지 DR 방법 (PCA, t-SNE, UMAP, TriMap, PaCMAP, VAE 등) 과 ViVAE 를 비교했습니다.
  • 파레토 최적 (Pareto Front): ViVAE 는 대부분의 데이터셋에서 국소 구조와 전역 구조 보존을 동시에 최적화하는 파레토 프론트에 위치했습니다.
  • 발생학 데이터 (Farrell dataset): 제브라피시 배아 발달 데이터에서 ViVAE 는 t-SNE/UMAP 가 생성하는 인위적인 '섬 (island)' 구조를 방지하면서도, SQuad-MDS 보다 국소적 세부 사항을 잘 보존하여 발달 궤적 (trajectory) 을 더 정확하게 재현했습니다.
  • 비발생학 데이터 (Reed dataset): 성체 인간 유방 조직의 면역 세포 데이터에서도 ViVAE 는 세포 군집 간의 경계를 명확히 하면서도, 기존 방법들 (t-SNE, UMAP) 이 보여주는 인위적인 근접성 오류를 줄였습니다.
• 왜곡 시각화 (EIs): ViVAE 는 표준 VAE 에 비해 임베딩 공간의 스케일 불일치 (scale inconsistencies) 와 '런어웨이 (run-away)' 효과 (일부 점들의 비정상적인 늘어남) 를 현저히 줄였음을 EIs 를 통해 입증했습니다.
• 평가 지표 유효성: ViScore 를 통해 제안된 무감독/지도 평가 지표들이 기존 방법론들의 한계를 명확히 드러내고, 새로운 모델의 성능을 신뢰성 있게 평가할 수 있음을 보였습니다.

4. 주요 기여 (Key Contributions)

1. ViScore 프레임워크: 확장 가능하고 공정한 구조 보존 평가 기준 (RNX 기반 무감독 점수, xNPE 기반 지도 점수) 을 제시하여, DR 방법론 비교의 엄밀성을 높였습니다.
2. ViVAE 모델: 국소적 세부 사항과 전역적 위계 구조를 동시에 보존하는 새로운 딥러닝 기반 DR 모델을 제안했습니다. 특히 Stochastic-MDS 정규화를 통해 전역 구조 보존 능력을 강화했습니다.
3. 해석 가능성 도구 (EIs): 임베딩 모델이 생성하는 기하학적 왜곡을 시각적으로 진단할 수 있는 'Encoder Indicatrices'를 도입하여, DR 결과의 신뢰성을 높이고 오류를 식별하는 데 기여했습니다.
4. 오픈 소스: ViVAE 와 ViScore 소프트웨어 패키지를 GitHub 에 공개하여 재현성을 보장하고 커뮤니티 활용을 장려했습니다.

5. 의의 및 결론 (Significance)

이 연구는 단일 세포 데이터 분석에서 **임베딩의 신뢰성 (Trustworthiness)**과 **해석 가능성 (Interpretability)**을 동시에 해결하려는 시도로 의미가 큽니다.

• 기존에 t-SNE 나 UMAP 이 가진 '국소적 편향'으로 인한 전역 구조 왜곡 문제를 해결하고, VAE 기반 모델의 '블랙박스' 성격을 EIs 를 통해 투명하게 만들었습니다.
• 제안된 방법론은 발달 궤적 분석뿐만 아니라, 다양한 생물학적 질문 (세포 군집 분리, 이질성 분석 등) 에 적용 가능한 범용적인 도구로, 향후 대규모 단일 세포 데이터 분석 워크플로우의 표준 평가 및 모델링 도구로 자리 잡을 잠재력을 가지고 있습니다.