Fundamental limitations of genomic language models for realistic sequence generation

본 논문은 Evo 2 와 megaDNA 와 같은 게놈 언어 모델이 국소적 서열 통계는 포착할 수 있으나 반복 요소, 장거리 조직화, 진화적 제약 등 생물학적 특성을 재현하는 데 근본적인 한계가 있음을 규명하고, 이를 통해 자연 서열과 인공 서열을 구별할 수 있음을 보여줍니다.

핵심

이 논문은 **"인공지능이 만든 유전자는 진짜 생물과 얼마나 다를까?"**라는 질문에 대한 답을 찾는 연구입니다.

최근 거대언어모델 (LLM, 예: 챗GPT 같은 AI) 이 인간 언어를 잘 다루는 것처럼, 과학자들은 이 기술을 유전자 (DNA) 분석에도 적용하고 있습니다. 특히 'Evo 2'나 'megaDNA' 같은 최신 AI 모델은 마치 작곡가가 악보를 쓰듯, 새로운 유전자를 만들어낼 수 있다고 주장해 왔습니다.

하지만 이 연구팀은 **"AI 가 만든 유전자가 정말 자연스러운 생물 유전자와 똑같을까?"**를 꼼꼼히 검증했고, 놀랍게도 **"아직은 많이 부족하다"**는 결론을 내렸습니다.

이 복잡한 내용을 일상적인 비유로 쉽게 설명해 드릴겠습니다.

---

1. 핵심 비유: "AI 는 '가짜 지폐'를 만드는 위조범이다?"

이 연구를 한 가지 비유로 정리하면 다음과 같습니다.

• 자연의 유전자 (진짜 지폐): 수억 년 동안 진화하며 만들어져서, 지폐의 지문, 잉크의 질감, 미세한 패턴, 그리고 전체적인 디자인의 조화가 완벽하게 맞습니다.
• AI 가 만든 유전자 (위조 지폐): AI 는 수많은 진짜 지폐를 보고 학습했습니다. 그래서 가까이서 보면 (단순한 글자 나열만 보면) 진짜와 매우 비슷해 보입니다. 하지만 확대경으로 자세히 보거나, 전체적인 흐름을 보면 여러 가지 치명적인 결함이 드러납니다.

2. AI 가 실패한 4 가지 주요 증상

연구팀은 AI 가 만든 유전자를 여러 가지 방법으로 검사했는데, 다음과 같은 문제점들이 발견되었습니다.

① "단어 배열의 리듬이 이상하다" (k-mer 스펙트럼)

• 비유: 자연의 유전자는 마치 재즈 음악 같습니다. 가끔은 조용하고, 가끔은 고조되며, 반복되는 리듬도 있고 예상치 못한 변주도 있습니다.
• AI 의 문제: AI 가 만든 유전자는 로봇이 만든 기계적인 음악 같습니다. 모든 소리가 중간 정도 크기로 균일하게 맞춰져 있습니다. 자연스러운 '강약 조절'과 '다양성'이 사라져서, 특정 패턴이 너무 반복되거나 반대로 너무 드물게 나옵니다.

② "빈 공간이 사라졌다" (Nullomer, 결손 유전자)

• 비유: 자연의 유전자는 빈 공간이 있는 그림입니다. 특정 패턴은 아예 존재하지 않습니다 (예: "이런 모양은 절대 안 그려"). 이는 생물이 살아남기 위해 진화 과정에서 '지워진' 흔적입니다.
• AI 의 문제: AI 는 빈 공간을 채우려고 안달이 난 화가 같습니다. 자연에서는 절대 보이지 않는 패턴을 AI 가 만들어내서, 생물에게 해가 될 수 있는 '불필요한 정보'를 가득 채워버립니다.

③ "접히는 구조가 무너졌다" (Non-B DNA)

• 비유: DNA 는 단순히 줄줄이 이어진 실이 아니라, 접혀서 3D 구조를 만드는 종이입니다. 특정 부분에서는 접혀서 '십자형'이나 '네모' 모양을 만들어야 유전자가 제대로 작동합니다.
• AI 의 문제: AI 가 만든 유전자는 평평하게 펴진 종이처럼 보입니다. 중요한 접힘 구조 (특히 반복되는 패턴) 가 사라져서, 실제 생물체에서 유전자가 제대로 작동하지 않을 가능성이 큽니다.

④ "지도가 엉망이다" (전사 인자 결합 부위)

• 비유: 유전자는 거대한 도시입니다. 중요한 건물 (유전자) 주변에는 특정 도로 (조절 신호) 가 모여 있어야 합니다.
• AI 의 문제: AI 가 만든 유전자는 도로가 무작위로 흩어져 있거나, 중요한 건물 주변에 도로가 너무 많거나 너무 적습니다. 자연스러운 '집단화'나 '분포'가 깨져서, 세포가 이 유전자를 어떻게 다뤄야 할지 혼란에 빠질 수 있습니다.

3. AI 의 가장 큰 약점: "멀어질수록 망가진다"

이 연구에서 가장 흥미로운 발견은 거리에 관한 것입니다.

• 비유: AI 는 기억력이 짧은 학생 같습니다.
  • 가까운 곳 (시작점): AI 가 유전자를 만들기 시작할 때, 주어진 '시작 단어 (Seed)' 바로 옆은 진짜와 거의 똑같이 잘 만듭니다.
  • 먼 곳 (끝): 하지만 시작점에서 멀어질수록 (수만 개, 수십 만 개의 유전자 단위), AI 는 "아, 내가 뭘 써야 했지?" 하며 기억을 잃어버립니다.
• 결과: 시작점 근처에서는 진짜와 구별이 안 되지만, 멀어질수록 AI 가 만든 유전자는 점점 더 '가짜' 냄새를 풍깁니다. 연구팀은 간단한 컴퓨터 프로그램 (CNN) 을 만들어서, 유전자의 끝부분만 봐도 97% 확률로 "이건 AI 가 만든 가짜야!"라고 맞힐 수 있었습니다.

4. 결론: 왜 이 연구가 중요한가?

이 연구는 두 가지 중요한 메시지를 줍니다.

1. 생물학적 진실성 부족: 현재 AI 는 유전자의 '단순한 글자 나열'은 잘 모방하지만, 수억 년 진화의 결과물인 복잡한 구조와 규칙은 아직 이해하지 못합니다. 그래서 AI 가 만든 유전자를 가지고 생물학 실험을 하거나 진화를 연구하면, 잘못된 결론을 내릴 위험이 큽니다.
2. 안전 장치 (Biosafety): 반대로 생각하면, AI 가 만든 가짜 유전자는 아직 진짜와 구별이 쉽습니다. 만약 누군가 AI 를 이용해 위험한 바이러스를 만들려고 해도, 현재 기술로는 그 가짜 유전자를 쉽게 찾아낼 수 있다는 뜻입니다.

한 줄 요약:

"AI 는 유전자를 '쓰는' 법은 배웠지만, 유전자가 가진 '생명의 숨결'과 '복잡한 구조'를 완벽하게 흉내 내지는 못합니다. 아직은 AI 가 만든 유전자를 진짜처럼 믿고 쓰기는 이르며, 가짜를 가려내는 것도 여전히 가능합니다."

기술 요약

1. 연구 배경 및 문제 제기 (Problem)

• 배경: 대규모 언어 모델 (LLM) 의 성공에 힘입어 DNA, RNA, 단백질 서열 분석에 적용된 게놈 언어 모델 (gLMs) 이 주목받고 있습니다. 특히 Evo 2(400 억 파라미터, 100 만 염기쌍 처리 가능) 와 megaDNA(1 억 4,500 만 파라미터, 박테리오파지 전용) 와 같은 최신 모델은 전체 게놈 수준의 합성 서열 생성을 목표로 합니다.
• 문제: 이러한 모델이 자연 발생적인 게놈의 복잡한 조직 원리 (장거리 상관관계, 진화적 제약, 반복 서열 등) 를 얼마나 정확하게 재현할 수 있는지에 대한 체계적인 평가가 부족합니다. 단순히 국소적인 서열 통계 (local statistics) 를 모방하는지, 아니면 생물학적으로 현실적인 전체 게놈 구조를 이해하는지 여부가 불명확합니다.
• 목표: 현재 최첨단 생성형 gLM 들이 생물학적으로 현실적인 게놈 서열을 생성할 수 있는지, 그리고 생성된 서열이 자연 서열과 구별 가능한지 정량적으로 평가하여 모델의 근본적 한계를 규명하는 것.

2. 방법론 (Methodology)

연구팀은 Evo 2 와 megaDNA 두 가지 모델을 대상으로 다음과 같은 다각적인 평가 프레임워크를 구축했습니다.

• 데이터셋:
  • Evo 2: 진핵생물 (포유류, 식물 등), 원핵생물 (세균, 고세균), 바이러스를 포함한 200 개의 완전한 게놈 어셈블리.
  • megaDNA: 250 개의 박테리오파지 게놈 (쌍별 비교) 및 1,002 개의 합성/4,969 개의 자연 박테리오파지 게놈 (개체군 수준 비교).
• 생성 프로토콜:
  • 자연 게놈의 첫 3,000 bp 를 '씨앗 (seed)'으로 제공하고, 모델이 300 kb (Evo 2) 또는 50 kb (megaDNA) 까지 서열을 생성하도록 유도했습니다.
• 평가 지표 (Metrics):
  1. k-mer 스펙트럼 분석: k-mer 빈도 분포의 형태 (단일/이중/다중 모드) 및 CDF(누적 분포 함수) 비교.
  2. FCGR (Chaos Game Representation): 2D 공간에서의 k-mer 공간 조직화 패턴 시각화 및 L1 거리 측정.
  3. Nullomer 분석: 게놈에서 결여된 짧은 서열 (nullomer) 의 존재 여부 및 빈도 비교 (진화적 제약 반영).
  4. Non-B DNA 모티프 분석: Z-DNA, G-4 중합체, 직접/역/거울 반복, 짧은 탠덤 반복 등 비표준 DNA 구조 형성 모티프의 풍부도 및 분포.
  5. 전사 인자 결합 부위 (TFBS): 인간 게놈에서 TFBS 의 풍부도 및 공간적 군집화 (clustering) 패턴 분석.
  6. 분류기 (Classifier) 학습: 합성/자연 서열을 구분하는 합성곱 신경망 (CNN) 을 훈련하여 모델의 구별 가능성 (discriminability) 과 생성 품질의 거리 의존성을 평가.

3. 주요 결과 (Key Results)

가. 국소 통계는 모방하나, 장거리 구조는 실패

• k-mer 스펙트럼 왜곡: 합성 게놈은 자연 게놈의 k-mer 분포 특성을 재현하지 못했습니다. 예를 들어, 포유류의 자연 게놈은 이모달 (bimodal) 분포를 보이지만, Evo 2 가 생성한 서열은 단모달 (unimodal) 로 변형되어 희귀 k-mer 가 사라지고 중간 빈도 모티프가 과잉 생성되는 '동질화 (homogenization)' 현상이 관찰되었습니다.
• FCGR 편차: 합성 서열은 종 특이적인 고차원 k-mer 공간 조직화를 잃고 평균화된 패턴으로 수렴했습니다.

나. 진화적 제약 및 구조적 모티프의 실패

• Nullomer (결여 서열) 패턴 붕괴: 진핵생물에서는 합성 서열이 자연 게놈보다 Nullomer 가 적게 나타나는 '부족 (depletion)' 현상을 보였고, 바이러스/세균에서는 반대로 '과잉 (enrichment)' 현상을 보였습니다. 이는 모델이 종 특이적인 진화적 배제 (exclusion) 규칙을 학습하지 못했음을 시사합니다.
• Non-B DNA 구조 감소: 진핵생물 합성 게놈에서는 Z-DNA, G-4 중합체, 반복 서열 (DR, STR 등) 이 자연 게놈에 비해 현저히 감소했습니다 (예: 직접 반복 (DR) 은 중앙값 기준 10 배 이상 감소). 이는 모델이 반복적이고 구조를 형성하기 쉬운 서열을 회피하는 경향이 있음을 보여줍니다.
• TFBS 공간 조직화 상실: 인간 게놈에서 합성 서열은 특정 전사 인자 결합 부위가 과도하게 풍부해졌으며, 자연 게놈에서 관찰되는 국소적 '핫스팟 (hotspot)' 군집화 패턴이 사라지고 균일하게 분포되었습니다.

다. 생성 품질의 거리 의존성 (Context Collapse)

• CNN 분류 성능: 단순한 CNN 모델로도 합성/자연 서열을 높은 정확도로 구분할 수 있었습니다 (진핵생물 AUROC 최대 0.97).
• 시드 (Seed) 거리 효과: 생성된 서열이 시드 (초기 프롬프트) 에서 멀어질수록 자연 서열과의 차이가 커졌습니다.
  • 시드 근처 (0-2 kb): 분류기가 무작위 수준 (AUROC ≈ 0.5) 으로 성능이 낮음 (국소 통계는 잘 보존됨).
  • 시드에서 멀어질수록 (150 kb 이상): 분류 정확도가 급격히 상승 (AUROC > 0.9).
  • 이는 모델이 장거리 문맥 (long-range context) 을 유지하지 못하고 '문맥 붕괴 (context collapse)'가 발생함을 의미합니다.

라. 모델 간 비교 (Evo 2 vs megaDNA)

• 두 모델 모두 위와 유사한 한계를 보였으나, megaDNA 는 박테리오파지라는 좁은 도메인에서 훈련되었음에도 불구하고 k-mer 스펙트럼 왜곡, Nullomer 패턴 붕괴, Non-B DNA 모티프 분포 이상 등을 보이며 게놈 생성의 보편적 어려움을 입증했습니다.

4. 주요 기여 (Key Contributions)

1. 체계적 벤치마킹: 생성형 게놈 모델의 성능을 평가하기 위해 k-mer 스펙트럼, Nullomer, Non-B DNA 구조, TFBS 공간 조직화 등 다중 생물학적 지표를 포함한 정량적 평가 프레임워크를 제시했습니다.
2. 근본적 한계 규명: 최신 LLM 기반 gLM 들이 국소적 서열 통계는 학습할 수 있으나, 게놈의 **장거리 계층적 조직 (long-range hierarchical organization)**과 **진화적 제약 (evolutionary constraints)**을 포착하지 못함을 실증했습니다.
3. 생물학적 신뢰성 경고: "기능적 생존 가능성 (functional viability)"이 "생물학적 정통성 (biological authenticity)"을 보장하지 않음을 지적했습니다. 즉, 합성 게놈이 살아남을 수는 있어도 자연 게놈의 조직 원리를 제대로 반영하지 못하므로, 진화 연구나 게놈 설계에 사용할 경우 오해를 불러일으킬 수 있음을 경고했습니다.
4. 생물안전 (Biosafety) 시사점: 합성 게놈이 자연 게놈과 구별 가능하다는 사실은 합성 생물학의 안전성 평가와 규제에 중요한 함의를 제공합니다.

5. 의의 및 결론 (Significance & Conclusion)

• 현재의 한계: 현재의 gLM 아키텍처는 자연어 처리의 성공을 생물학에 그대로 적용하는 데 실패했습니다. DNA 서열은 자연어와 달리 희소성, 높은 반복성, 복잡한 진화적 제약을 가지며, 단순한 토큰 예측만으로는 이를 모델링할 수 없습니다.
• 미래 방향: 단순한 통계적 패턴 학습을 넘어, 진화적 사전 지식 (evolutionary priors), 장거리 의존성 모델링, 다중 모달 데이터 (전사체, 후성유전학 등) 통합이 포함된 특수화된 아키텍처 개발이 필요합니다.
• 결론: 현재 기술 수준에서는 gLM 이 대규모로 생물학적으로 현실적인 게놈을 생성하는 것은 불가능에 가깝습니다. 향후 연구는 단순한 서열 생성이 아닌, 생물학적 제약 조건을 명시적으로 모델링하는 방향으로 나아가야 합니다.

이 연구는 생성형 AI 가 생물학 분야에서 가진 잠재력과 동시에 현재 기술이 직면한 근본적인 장벽을 명확히 보여주며, 향후 게놈 설계 및 합성 생물학 연구의 방향성을 제시하는 중요한 이정표가 됩니다.