scRM: A single-cell foundation model trained on scRNA-seq reads

모든 살아있는 세포 내부에는 생명의 분주한 공장이 끊임없이 작동하며, 지침을 읽고 단백질을 만들어내고 있습니다. 과학자들은 이 공장들이 어떻게 운영되는지 이해하기 위해 오랫동안 인구 조사관과 같은 역할을 하는 방법에 의존해 왔습니다. 바로 각 지침서의 사본이 몇 개나 존재하는지 세는 방식입니다. 수천 개의 유전자에 대해 단순한 숫자 목록을 만들어내는 이 접근법은 수년간 개별 세포를 연구하는 표준이었습니다. 그러나 이 인구 조사 방식은 지침의 실제 텍스트를 버립니다. 이는 공장이 특정 매뉴얼의 사본을 네 개 생산했다는 사실은 알려주지만, 그 페이지 자체는 버림으로써 그 페이지들이 어떻게 편집되었는지, 어디에서 잘렸는지, 혹은 오타가 포함되어 있는지와 같은 세부 사항을 놓치게 됩니다. 수십 년 동안 연구자들은 유전 코드의 가공되지 않은 텍스트를 직접 분석하는 것이 너무 무질서하고 복잡하다고 믿었기에, 이러한 세부 정보의 손실을 수천 개의 세포를 동시에 연구하기 위해 치러야 할 대가로 받아들여 왔습니다.

알토스 랩(Altos Labs)과 메릴랜드 대학교의 연구팀은 이제 이 오래된 가설에 도전하고 있습니다. 그들은 숫자의 목록을 보는 대신, 가공되지 않은 유전 텍스트 자체, 즉 세포 내의 RNA를 구성하는 A, C, G, T라는 글자의 실제 서열을 인공지능에 입력하여 단계 자체를 건너뛰는 새로운 종류의 인공지능을 구축했습니다. 이 새로운 모델은 연구진이 scRM이라고 부르는 것으로, 요약본이 아닌 원래의 책을 읽으며 언어를 배우는 학생처럼 가공되지 않은 데이터로부터 직접 학습합니다. 연구진은 이 접근 방식이 효과적일 뿐만 아니라, 이전에는 불가능했던 수준의 세밀함으로 세포의 활동을 이해할 수 있게 해주며, 기존 방식에 필요한 컴퓨팅 파워의 아주 적은 부분만을 사용한다는 것을 발견했습니다.

이 돌파구의 핵심은 데이터를 준비하는 방식에 있습니다. 일반적인 실험에서 과학자들은 수천 개의 개별 세포로부터 유전 물질을 포착합니다. 가공되지 않은 결과물은 각 조각이 어느 세포에서 왔는지 식별할 수 있는 고유한 코드가 태그된 거대한 짧은 텍스트 파편들의 흐름입니다. 전통적으로 컴퓨터는 모든 파편을 참조 게놈(reference genome)과 일치시키려고 시도하는데, 이는 느리고 생물체의 유전자에 대한 기존의 지도가 필요한 과정입니다. 새로운 프레임워크는 이 과정을 완전히 우회합니다. 이 모델은 가공되지 않은 파편들을 가져와 세포 태그별로 그룹화하고, 이를 '컨티그(contigs)'라고 불리는 더 길고 일관된 텍스트 조각으로 조립합니다. 이 컨티그들은 세포 내의 실제 mRNA 분자를 나타내며, 유전자가 어떻게 스플라이싱(splicing)되었는지에 대한 정확한 서열과 변이를 보존합니다. 이렇게 조립된 텍스트는 직접 AI 모델에 입력되며, 모델은 유전 코드를 단순히 세어야 할 목록이 아니라 이해해야 할 하나의 언어로 취급합니다.

그들이 구축한 모델인 scRM은 놀라울 정도로 작습니다. 이 모델은 '파라미터'라고 불리는 조정 가능한 설정값을 단 120만 개만 포함하고 있습니다. 이를 비교해 보자면, 이 분야의 다른 선도적인 모델들은 흔히 수억 개의 파라미터를 가진 수백 배 더 큰 규모이며, 수천만 개의 세포를 통해 훈련됩니다. 반면, 연구진은 단 3,000개의 마우스 뉴런을 사용하여 단 한 시간 동안 단 하나의 고성능 컴퓨터 칩에서 이 모델을 훈련시켰습니다. 이 작은 크기와 제한된 훈련 데이터에도 불구하고, 모델은 놀라운 성능을 보여주었습니다. 세포 유형을 식별하거나 유전적 변화에 세포가 어떻게 반응하는지 예측하는 작업에서, 이 모델은 거대하고 데이터 집약적인 모델들과 대등한 성능을 보였습니다. 심지어 인간, 파리, 쥐와 같이 이전에 본 적 없는 종에 대해서도 세포 유형을 정확하게 식별해 냈는데, 이는 모델이 특정 유전자 이름을 암기하는 대신 유전 코드라는 보편적인 언어를 학습했기 때문입니다.

이 접근 방식의 진정한 힘은 연구진이 세포가 특정 유전적 교란에 어떻게 반응하는지 관찰했을 때 분명하게 드러났습니다. 어떤 경우에 세포는 유전 지침을 엮는 방식을 바꾸어 단백질의 약간 다른 버전을 만들어낼 수 있습니다. 지침의 총 개수만을 보는 기존의 계수 방식은 이러한 미세한 구조적 변화를 감지할 수 없습니다. 하지만 scRM은 실제 서열을 읽기 때문에 이러한 차이를 찾아낼 수 있습니다. 유전자가 스플라이싱되는 방식을 바꾸도록 세포를 변형시킨 실험에서, 이 새로운 모델은 기존의 대규모 모델들보다 더 정확하게 변화를 감지했습니다. 이는 가공되지 않은 유전 코드 텍스트가 단순한 계수로 축소될 때 손실되는 세포 기능에 관한 풍부한 정보를 담고 있음을 시사합니다.

이 연구는 생물학 연구의 새로운 문을 열어줍니다. 모델이 가공되지 않은 시퀀싱 리드(sequencing reads)로부터 직접 훈련될 수 있음을 입증함으로써, 연구진은 생물체의 유전자에 대한 사전 지도 없이도 강력한 도구를 구축할 수 있다는 것을 보여주었습니다. 이는 바이러스, 박테리아 또는 유전 지도가 잘 알려지지 않은 희귀 생물을 연구하는 데 특히 중요합니다. 또한 이 프레임워크는 효율적이어서, 과학자들이 방대한 공개 데이터 컬렉션으로 훈련된 일반적인 모델에 의존하는 대신 자신들만의 특정 데이터셋으로 맞춤형 모델을 훈련할 수 있게 해줄 수 있습니다. 현재의 모델은 개념 증명 단계이지만, 연구진은 이 접근 방식을 확장하는 것이 세포가 어떻게 작동하는지에 대한 더 깊은 이해를 가능하게 하여, 단순한 계수 방식의 장막 뒤에 숨겨져 있던 유전자 활동의 세부 사항들을 밝혀낼 수 있을 것이라고 믿고 있습니다. 이 연구는 때때로 생명의 이야기를 이해하기 위해서는 요약본이 아닌 원래의 텍스트를 읽어야 한다는 것을 보여줍니다.