🧬 biology

MiCAS: Mixture-based Cell Annotation with Open-Set Recognition for scRNA-seq Data

MiCAS는 가우시안 혼합 모델과 보정된 거부 임계값을 활용하여 알려진 세포 유형을 정확하게 식별하는 동시에 희귀하거나 이전에 발견되지 않은 집단을 신뢰성 있게 탐지함으로써, 기존의 폐쇄형(closed-set) 방식의 한계를 극복하는 scRNA-seq 세포 주석을 위한 새로운 오픈 세트(open-set) 프레임워크입니다.

원저자: Elif İzci, Berat Doğan

게시일 2026-09-25

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Elif İzci, Berat Doğan

원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ⚕️ 이것은 동료 심사를 거치지 않은 프리프린트의 AI 생성 설명입니다. 의학적 조언이 아닙니다. 이 내용을 바탕으로 건강 관련 결정을 내리지 마세요. 전체 면책 조항 읽기

모든 생명체는 세포라는 미세한 단위로 구성되어 있으며, 이들은 유기체를 생존하게 하는 데 필요한 특정한 직무를 수행합니다. 근육 조직의 덩어리는 육안으로는 똑같아 보일 수 있지만, 실제로는 각기 다른 세포 유형들이 모여 있는 북적이는 도시와 같으며, 각 세포는 자신의 유전자에 기록된 고유한 지침을 가지고 있습니다. 과학자들은 이러한 지침을 읽어낼 수 있는 강력한 방법인 단일 세포 RNA 시퀀싱(single-cell RNA sequencing) 기술을 개발했습니다. 이 기술은 고해解상도 카메라처럼 작동하여, 샘플 내 모든 개별 세포 안에서 활성화된 유전자의 스냅샷을 포착합니다. 이러한 스냅샷을 통해 연구자들은 조직의 숨겨진 다양성을 지도화하고, 질병 이해의 열쇠가 될 수 있는 희귀 세포를 찾아내며, 세포가 성장하거나 질병과 싸울 때 어떻게 변화하는지 추적할 수 있습니다.

하지만 수백만 개의 유전자 스냅샷을 유용한 지도로 바꾸기 위해서는 '라벨링(labeling)'이라는 결정적인 단계가 필요합니다. 과학자들은 자신이 보고 있는 세포가 어떤 유형인지 식별해야 합니다. 전통적으로 이는 새로운 세포를 기존에 알려진 세포 유형 라이브러리와 비교함으로써 이루어졌습니다. 문제는 이 라이브러리가 결코 완전하지 않다는 점입니다. 현실 세계의 조직에는 한 번도 본 적 없는 희귀하거나 기이하거나 완전히 새로운 세포 유형이 포함되어 있는 경우가 많습니다. 컴퓨터 프로그램이 접해보지 못한 세포의 정체를 억지로 추측해야 할 때, 프로그램은 종종 확신에 차 있지만 틀린 답을 내놓으며, 미지의 세포를 기존의 범주 안에 강제로 밀어 넣습니다. 이는 마치 망치와 드라이버라는 이름만 알고 있는 상자 속의 혼합 도구를 분류하는 것과 같습니다. 만약 렌치를 발견한다면, 그것이 망치와 다소 비슷해 보인다는 이유만으로 망치라고 잘못 부를 수도 있습니다. 이러한 종류의 오류는 과학자들을 잘못된 길로 인도하여, 그들이 찾고자 하는 바로 그 발견을 놓치게 만들 수 있습니다.

이 문제를 해결하기 위해, 터키의 이누 대학(Inonu University)과 위위니르 대학(Yüzüncü Yıl University)의 엘리프 이즈치(Elif İzci)와 베라트 도안(Berat Doğan) 연구진은 MiCAS라고 불리는 새로운 방법을 개발했습니다. 이들의 접근 방식은 컴퓨터에게 답을 모를 때는 모른다고 인정하도록 가르침으로써 게임의 규칙을 바꿉니다. 모든 세포를 기존의 상자에 억지로 집어넣는 대신, MiCAS는 세포가 알려진 카테고리에 맞지 않을 때 이를 인식하고 "알 수 없음(unknown)"으로 라벨링하도록 설계되었습니다. 이를 통해 시스템은 단순히 보이는 모든 것에 라벨을 부여하는 것이 아니라, 익숙한 것과 신비로운 것을 분리하는 필터 역할을 할 수 있습니다.

연구진은 세포 유형이 완벽하게 균일하지 않다는 아이디어를 바탕으로 시스템을 구축했습니다. 같은 유형의 세포라도 사람들의 직업적 스타일이 제각각인 것처럼, 유전자 활동에는 약간의 차이가 있을 수 있습니다. 이러한 복잡성을 포착하기 위해 MiCAS는 각 세포 유형을 하나의 단순한 그룹으로 취급하지 않습니다. 대신, 알려진 각 유형을 더 작고 상세한 하위 그룹으로 나눕니다. 그런 다음 수학적 모델을 사용하여 이 하위 그룹 주변에 유연한 경계선을 그려, 해당 세포 유형의 진정한 다양성을 나타내는 형태를 만듭니다. 이 경계선이 최대한 정확하게 그려지도록 하기 위해, 시스템은 더 적합한 결과값을 찾기 위해 다양한 가능성을 탐색하는 스마트 검색 기법을 사용하며, 이를 통해 단순한 방법들이 흔히 빠지는 함정을 피합니다.

시스템이 알려진 세포들이 어떤 모습인지 학습하고 나면, 이제 "알려진 것"과 "알려지지 않은 것" 사이의 선을 어디에 그을 것인가라는 새로운 과제에 직면합니다. 연구진은 각 세포 유형에 대해 특정 신뢰 수준을 보정함으로써 이 문제를 해결했습니다. 그들은 시스템이 라벨을 붙이기 전 얼마나 확신이 있어야 하는지 확인하기 위해 알려진 세포 세트를 대상으로 테스트를 진행했습니다. 만약 새로운 세포가 모든 알려진 유형의 안전 구역을 벗어나면, 시스템은 추측하는 대신 이를 '알 수 없음'으로 거부합니다. 이 과정은 각 세포 유형별로 별도로 수행되어, 흔한 세포든 희귀한 세포든 모든 그룹에 대해 규칙이 공정하게 적용되도록 보장합니다.

연구팀은 뇌 조직부터 종양 샘플에 이르는 네 가지 서로 다른 실제 생물학적 데이터 세트에 대해 MiCAS를 테스트했습니다. 이 테스트에서 그들은 훈련 과정 중에 일부 세포 유형을 시스템으로부터 숨겼으며, 따라서 컴퓨터는 테스트 중에 이들을 처음으로 마주하게 되었습니다. 결과에 따르면, MiCAS는 현재 과학자들이 사용하는 표준 도구들보다 이러한 숨겨진 세포들을 찾아내는 데 훨씬 뛰어난 성능을 보였습니다. 기존의 방법들은 종종 미지의 세포를 잘못된 카테료로 강제 분류했지만, MiCAS는 이들을 성공적으로 낯선 것으로 식별해 냈습니다. 평균적으로 이 새로운 방법은 알려진 세포와 알려지지 않은 세포를 약 90%의 확률로 정확하게 구별해 냈는데, 이는 기존 도구들이 보여준 60%에서 80% 사이의 범위보다 눈에 띄게 향상된 수치입니다.

가장 중요한 점은, 이 새로운 방법이 이미 알고 있는 세포들에 대한 정확도를 희생하지 않았다는 것입니다. 시스템은 익숙한 세포들을 계속해서 정확하게 라벨링하면서도, 익숙하지 않은 것들에 대해서는 추측하기를 거부했습니다. 이러한 균형은 희귀한 세포 유형을 놓치는 것이 곧 새로운 약물 표적이나 질병의 초기 징후를 놓치는 것을 의미할 수 있는 실제 연구 현장에서 매우 중요합니다. 연구진은 이 접근 방식이 생쥐의 뇌의 복잡한 층에서부터 종양의 혼란스러운 환경에 이르기까지 다양한 유형의 조직에서 잘 작동한다는 것을 발견했습니다. 컴퓨터가 "모른다"라고 말할 수 있게 함으로써, 이 시스템은 거짓된 확신을 방지하고 미시 세계의 진정으로 새롭고 예상치 못한 것들을 발견할 수 있는 문을 열어줍니다.

이 연구는 '답을 강요하는 것'에서 '불확실성을 허용하는 것'으로의 이러한 사고의 전환이 세포 생물학의 미래에 필수적임을 시사합니다. 과학자들이 단일 세포 수준에서 인체를 계속 탐구함에 따라, 이전에 설명된 적 없는 세포 유형들을 필연적으로 마주하게 될 것입니다. MiCAS와 같은 도구는 이러한 놀라운 상황들을 다룰 수 있는 신뢰할 수 있는 방법을 제공하며, 생명의 지도가 잘못된 추측들로 뒤섞이지 않고 매 새로운 발견과 함께 더욱 정확하게 성장할 수 있도록 보장합니다. 연구진은 이 '오픈 세트(open-set)' 접근 방식이 생명의 구성 요소를 이해하는 표준적인 방법이 되기를 바라며 자신들의 코드를 과학계에 공개했습니다.

MiCAS 기술 요약: scRNA-seq 데이터를 위한 개방형 집합 인식을 포함한 혼합 기반 세포 주석 달기

문제 정의
정확한 세포 유형 주석(cell type annotation)은 단일 세포 RNA 시퀀싱(scRNA-seq) 분석의 핵심적인 단계이지만, 기존의 대부분의 계산 방법들은 "폐쇄형 집합(closed-set)" 가정 하에 작동합니다. 이러한 방법들은 쿼리 세포가 실제로 어떤 유형에 속하는지와 관계없이, 모든 쿼리 세포를 미리 정의된 참조 세포 유형 중 하나로 강제 할당합니다. 실제 생물학적 시나리오에서는 참조 데이터베이스에 존재하지 않는 희귀하거나, 새롭거나, 혹은 이전에 규명되지 않은 세포 집단이 포함되는 경우가 많습니다. 폐쇄형 집합 가정 하에서는, 이러한 미지의 세포들이 전사체적으로 가장 유사한 기지의 세포 유형으로 잘못 할당되어, 과도하게 확신에 찬 생물학적으로 오도된 예측을 초래합니다. 일부 기존 도구들이 불확실성이나 거절 메커니즘을 포함하고는 있으나, 이들은 미지 세포 탐지를 위한 데이터 기반 최적화보다는 휴리스틱 임계값에 의존하는 경우가 많아, 알려진 집단과 보이지 않는 집단을 신뢰성 있게 구별하는 능력이 제한됩니다.

방법론
저자들은 미지의 세포 집단이 훈련 및 임계값 보정 과정에서 모두 제외되는 진정한 개방형 집합 조건에서 작동하도록 설계된 확률적 프레임워크인 MiCAS(Mixture-based Cell Annotation with Open-Set Recognition)를 제안합니다. 워크플로우는 네 가지 주요 단계로 구성됩니다:

전처리(Preprocessing): 원시 발현 행렬은 라이브러리 크기 정규화, log1p 변환, 그리고 상위 2,000개의 고변동 유전자(HVGs) 선택 과정을 거칩니다. 주성분 분석(PCA)을 통해 차원을 첫 20개 주성분으로 축소합니다.
하위 클러스터 발견(Subcluster Discovery): 세포 내 이질성과 다중 모드 전사 패턴을 포착하기 위해, 각 주석 처리된 세포 유형은 k-평균 클러스터링을 사용하여 하위 클러스터로 분할됩니다. 최적의 하위 클러스터 수는 실루엣 분석(silhouette analysis)을 사용하여 적응적으로 결정됩니다.
PSO를 이용한 가우시안 혼합 모델링(GMM): 각 세포 유형은 GMM으로 모델링됩니다. 초기화에 민나감하고 고차원 공간에서 지역 최적점(local optima)에 빠지기 쉬운 전통적인 기대 최대화(EM) 알고리즘과 달리, MiCAS는 **입자 군집 최적화(Particle Swarm Optimization, PSO)**를 사용하여 혼합 가중치와 공분산 매개변수를 최적화합니다. 성분 평균은 k-평균 중심점을 사용하여 초기화되며, PSO는 전역 최적 매개변수를 탐색합니다.
클래스별 ROC 기반 임계값 설정(Class-wise ROC-based Thresholding): 개방형 집합 인식을 위해, 모델은 쿼리 세포에 대한 클래스 조건부 로그 가능도(log-likelihood) 점수를 계산합니다. 전역 임계값을 사용하는 대신, MiCAS는 검증 세트에서의 수신자 조작 특성(ROC) 분석을 사용하여 각 클래스에 대한 특정 거절 임계값을 보정합니다. 임계값은 참 양성률(TPR)을 극대화하면서 거짓 양성률(FPR)을 0.05 미만으로 제한하도록 선택됩니다. 로그 가능도 점수가 해당 클래스의 임계값보다 낮은 세포는 "미지(unknown)"로 명시적으로 거절됩니다.

주요 기여

개방형 집합 프레임워크: MiCAS는 보이지 않는 클래스에 대한 사전 지식 없이도 미지의 세포 집단을 명시적으로 모델링하고 거절하는 엄격한 개방형 집합 인식 프레임워크를 통합한 최초의 scRNA-seq 주석 방법입니다.
PSO 최적화 GMM: 이 방법은 고차원, 비볼록 최적화 지형에서 EM 알고리즘의 한계를 해결하기 위해 scRNA-seq 데이터에 GMM을 적합시키는 데 입자 군집 최적화를 사용하는 것을 도입했습니다.
적응형 하위 클러스터링: 실루엣 분석을 사용하여 세포 유형당 가우시안 성분의 수를 결정함으로써, 이 모델은 수동 지정 없이 생물학적 데이터의 내재적 복잡성과 이질성에 적응합니다.
클래스별 거절: 이 프레임워크는 서로 다른 세포 유형이 다양한 가능도 분포를 나타낸다는 점을 인정하여 클래스별 ROC 보정 임계값을 활용하며, 이를 통해 단일 전역 거절 임계값의 함정을 피합니다.

결과
프레임워크는 다양한 조직 기원과 세포 복잡성을 나타내는 네 개의 공개된 scRNA-seq 데이터셋(Zeisel, Tasic, Li, Kolodziejczyk)에서 평가되었습니다. 성능은 세 가지 널리 사용되는 주석 방법인 CHETAH, scmap, SCINA와 비교되었습니다.

분리 성능: MiCAS는 모든 데이터셋에서 0.866에서 0.925에 이르는 가장 높은 수신자 조작 특성 곡선 아래 면적(AUROC)을 달 기록하였으며, 이는 0.62에서 0.85 사이의 범위를 보인 경쟁 방법들을 유의미하게 상회하는 결과입니다.
개방형 집합 정확도( $A_o$ ): MiCAS는 최대 0.80에 달하는 우수한 개방형 집합 정확도를 보여주었으며, 이는 알려진 세포와 미지의 세포를 모두 올바르게 식별하는 강력한 능력을 나타냅니다.
미지 세포 탐지: 가장 눈에 띄는 개선은 미지 클래스 민감도(AUS)에서 관찰되었습니다. 경쟁 방법들은 종종 미지 세포를 기지의 카테고리로 강제 할당하여 낮은 AUS를 보이는 반가면, MiCAS는 이전에 보이지 않았던 집단을 성공적으로 탐지했습니다. 예를 들어, Li 데이터셋에서 MiCAS는 SCINA의 0.495와 비교하여 0.921의 AUS를 달성했습니다.
통계적 유의성: Holm 보정을 적용한 Wilcoxon 부호 순위 검정(Wilcoxon signed-rank test)을 통한 쌍별 비교 결과, MiCAS가 모든 데이터셋에서 큰 효과 크기와 함께 모든 비교 방법보다 유의미하게 뛰어남을 확인했습니다 ( $p < 0.001$ ).
기지 세포 주석: MiCAS는 기지 세포 유형에 대해 경쟁력 있는 성능(AKS 및 Macro F1)을 유지했으나, 일부 사례에서는 더 엄격한 거절 동작으로 인해 세포를 거의 거절하지 않는 방법들에 비해 F-점수가 약간 낮게 나타나기도 했습니다.

의의 및 주장
본 논문은 MiCAS가 현재 도구들의 근본적인 한계를 해결함으로써, 개방형 집합 단일 세포 분석을 위한 실용적이고 확률적인 토대를 제공한다고 주장합니다. 잘못된 할당을 강제하기보다 낮은 신뢰도의 세포를 거절함으로써, 이 방법은 특히 이질적인 조직이나 희귀 세포 집단의 발견을 포함하는 연구에서 생물학적 해석의 신뢰성을 높입니다. 저자들은 이러한 능력이 질병 진단 및 약물 타겟 발굴에서 오도된 다운스트림 분석을 방지하는 데 필수적임을 강조합니다. 결론적으로, 단일 세포 기술이 임상적 관련성을 확장함에 따라, 생물학적 참조 데이터의 내재적 불완전성을 처리할 수 있는 개방형 집합 조건 하에서 작동 가능한 프레임워크가 필수적이라고 밝히고 있습니다.

유사한 논문