GENERator: A Long-Context Generative Genomic Foundation Model
이 논문은 3,860억 개의 뉴클레오타이드로 사전 학습되어 변이 예측 및 계통 발생 분석에서 강력한 제로샷 능력을 입증하는 동시에, 미세 조정된 벤치마크에서 최첨단 성능을 달성하고 기능적 단백질 코딩 서열 및 합성 조절 요소의 실질적인 설계를 가능하게 하는 고효율의 긴 문맥(98k) 생성 유전체 파운데이션 모델인 GENERator를 소개한다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 동료 심사를 거치지 않은 프리프린트의 AI 생성 설명입니다. 의학적 조언이 아닙니다. 이 내용을 바탕으로 건강 관련 결정을 내리지 마세요. 전체 면책 조항 읽기
개요: 생명의 "유전체 자동 완성"
세상의 모든 생명체(작은 균류부터 거대한 포유류까지)의 설명서를 담고 있는 도서관이 있다고 상상해 보세요. 이 설명서들은 A, C, G, T라는 네 글자의 코드로 작성되어 있습니다.
오랫동안 컴퓨터는 이 설명서를 읽는 데 서툴렀습니다. 컴퓨터는 짧은 문장만 읽을 수 있거나, 책의 방대한 크기에 압도당하곤 했습니다. GENERator 모델은 이러한 방대한 생물학적 설명서를 읽도록 설계된 새롭고 매우 똑똑한 AI입니다. 이것은 단순히 문장을 완성하는 것을 넘어, 전체 장(chapter)과 줄거리, 등장인물을 이해하고, 심지어 논리적으로 말이 되는 새로운 장을 써 내려갈 수 있는 "유전체 자동 완성" 기능과 같습니다.
작동 원리: "청킹(Chunking)" 기술
가장 큰 과제 중 หนึ่ง은 DNA가 믿기지 않을 정도로 길다는 점입니다. 만약 한 글자씩(A, 그다음 C, 그다음 G...) 읽으려고 한다면, 컴퓨터는 문장의 끝에 도달할 때쯤이면 문장의 시작 부분을 잊어버려 과부하가 걸릴 것입니다.
- 기존 방식: 한 번에 한 글자씩 읽기.
- GENERator 방식: 6글자 단위의 덩어리(이를 "6-mer"라고 부름)로 읽기.
이것은 책을 읽는 것과 비슷합니다. 한 글자씩 읽으면 시간이 너무 오래 걸립니다. 하지만 "고양이가 앉았다"와 같이 구절 단위로 읽으면 의미를 훨씬 빠르게 이해할 수 있습니다. GENERator는 DNA를 이 6글자 구절 단위로 읽습니다. 이를 통해 AI는 지치거나 혼란을 겪지 않고도 훨씬 더 먼 곳까지(한 번에 최대 98,000글자까지) "볼" 수 있습니다.
학습 내용: 뇌 속에 새겨진 "가계도"
연구진은 다양한 종의 DNA 3,860억 개 글자로 구성된 방대한 데이터셋을 통해 GENERator를 훈련시켰습니다. 연구진은 AI에게 어떤 종이 무엇인지 알려주지 않았습니다. 그저 읽게 두었을 뿐입니다.
AI의 "뇌"(내부 데이터)를 들여다보았을 때, 놀라운 사실을 발견했습니다. AI가 자연스럽게 DNA를 가계별로 분류했다는 것입니다.
- 만약 인간, 생쥐, 초파리의 DNA를 보여주면, AI는 인간과 생쥐를 함께 묶고 초파리는 따로 분리했습니다.
- AI는 생물학을 배우지 않고도 이 일을 해냈습니다. AI는 텍스트의 패턴을 읽는 것만으로 생명의 "가계도"를 스스로 학습했습니다. 이는 마치 아기가 라디오를 들으며 언어를 배우는 과정과 같습니다. 결국 선생님 없이도 단어들을 언어별로 분류하기 시작하는 것과 같습니다.
할 수 있는 일: 세 가지 초능력
1. "빈칸 채우기"의 달인 (서열 복구)
DNA 문장의 앞부분 절반을 주면, AI는 뒷부분 절반을 놀라울 정도로 정확하게 예측할 수 있습니다.
- 비유: 미스터리 소설을 읽고 있는데 마지막 페이지가 찢겨 나갔다고 상상해 보세요. GENERator는 원래 책의 스타일과 줄거리에 완벽하게 들어맞도록 결말을 써 내려갈 수 있으며, 다른 AI 모델보다 더 뛰어난 성능을 보입니다.
- 결과: 이는 다른 경쟁 모델들보다 훨씬 빠르고, 더 적은 컴퓨팅 자원을 사용하여 수행됩니다. 이는 다른 이들이 몇 시간 걸릴 문제를 단 몇 초 만에 푸는 것과 같습니다.
2. "변이 탐정" (변이 예측)
때때로 DNA 코드의 단 한 글자가 변하기도 합니다(돌연변이). 이 변이는 무해할 수도(양성) 있고, 위험할 수도(병원성) 있습니다.
- 과제: 보통 특정 변이가 나쁜 것인지 알기 위해서는 수천 명의 다른 종과 비교해야 합니다(마치 거대한 가족 사진첩을 보는 것과 같습니다).
- GENERator의 비결: 엄청나게 많은 DNA를 읽었기 때문에, 이 AI는 건강한 DNA 서열이 어떤 모습인지에 대한 내부적인 "직감"을 가지고 있습니다. AI는 다른 종의 사진첩을 찾아볼 필요 없이, 단 하나의 변이만 보고도 "이것은 패턴에 맞지 않는다"라고 말할 수 있습니다. 이는 과학자들이 아직 많이 연구하지 않은 동물이나 식물에 대해서도 작동합니다.
3. "설계자" (새로운 DNA 설계)
이것이 가장 흥고한 부분입니다. GENERator는 단순한 독자가 아니라 작가입니다.
- 단백질 설계: 연구진은 특정 단백질(근육을 만들거나 바이러스와 싸우는 단백질 등)로 변하는 DNA를 쓰도록 AI에게 요청했습니다. AI는 새로운 DNA 서열을 작성했습니다. 과학자들이 이 서열을 단백질로 번역했을 때, 이들은 자연적인 단백질처럼 올바른 3D 구조로 접혔습니다. AI는 기존 단백질을 단순히 복사한 것이 아니라, 실제로 작동하는 새로운 단백질을 발명해 낸 것입니다.
- "볼륨 조절기" 설계 (인핸서/증폭자): DNA에는 유전자를 켜거나 끄는 "스위치"인 인핸서(enhancer)가 있습니다. 어떤 스위치는 소리가 크고(높은 활성), 어떤 스위치는 소리가 작습니다(낮은 활성).
- 연구진은 AI에게 다음과 같은 프롬프트를 주었습니다: "자연계에 존재하는 그 어떤 스위치보다 더 큰 소리를 내는 스위치를 써라."
- AI는 새로운 DNA 서열을 작성했습니다. 실험실에서 테스트한 결과, 이 새로운 스위치는 자연계에서 발견된 가장 강한 스위치보다 35% 더 큰 소리(더 높은 활성)를 냈습니다.
- 또한, 가장 조용한 자연적 스위치보다 100배 더 작은 소리를 내는 스위치도 작성했습니다.
- 핵심 요점: AI는 단순히 자연을 모방한 것이 아니라, 자연이 아직 발견하지 못한 더 강하고 더 조용한 설정값을 찾아낸 것입니다.
이것이 중요한 이유 (과장 없이)
이 논문은 우리가 생물학적 문제를 해결하기 위해 더 "크고 거대한" 컴퓨터를 구축할 필요는 없다고 주장합니다. 대신, 데이터를 컴퓨터에 어떻게 입력할지에 대해 더 똑똑해져야 합니다.
- 교훈: DNA를 적절한 "덩어리"(6-mer)로 읽고, 실제로 기능을 하는 부분(유전자)에 집중함으로써, AI는 더 적은 데이터와 더 적은 컴퓨팅 자원으로 더 많은 것을 배웠습니다.
- 목표: 이는 첨단 유전체 도구를 슈퍼컴퓨터를 가진 사람들뿐만 아니라 더 많은 과학자가 사용할 수 있게 해줍니다. 이를 통해 우리는 이전에는 불가능했던 정밀도로 생물학적 서열을 이해하고, 예측하며, 심지어 설계할 수 있게 됩니다.
요약하자면, GENERator는 생명의 "문법"을 학습한 고효율의 장기 기억 AI입니다. 이 모델은 유전 코드의 오타를 찾아낼 수 있을 뿐만 아니라, 자연이 보통 만들어내는 것보다 더 나은, 기능적인 새로운 생물학적 지침을 써 내려갈 수 있습니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.