An RNA Language Model trained on sequence alone reveals the structural logic of Internal Ribosome Entry Sites

기술 요약: 서열만으로 훈련된 RNA 언어 모델이 내부 리보솜 진입 부위(IRES)의 구조적 논리를 밝혀내다

문제 제기
수백만 개의 RNA 서열이 존재하지만, 이들이 채택하는 기능적 구조는 여전히 미지의 영역으로 남아 있으며, 이는 복잡한 숙주-바이러스 상호작용을 이해하는 데 병목 현상을 일으킨다. 이러한 문제는 전 세계적으로 심각한 보건 부담을 초래하는 다양한 RNA 바이러스군인 피코르나바이러스(picornaviruses)에서 특히 두드라진다. 이 바이러스들은 캡 독립적 번역 개시를 유도하는 거대하고 구조화된 RNA 요소인 내부 리보솜 진입 부위(IRES)를 활용한다. IRES 구조를 결정하는 현재의 방법들은 다음과 같은 상당한 한계에 직면해 있다:

• 열역학적 폴딩 알고리즘 (예: RNAstructure)은 짧은 서열에는 효과적이지만, 실험적 제약 없이 길고 복잡한 IRES를 처리하는 데 어려움을 겪으며, 고차 구조나 장거리 상호작용을 포착하는 데 실패하는 경우가 많다.
• 공변 분석 (예: Infernal)은 밀접하게 연관된 상동 유전자의 깊은 다중 서열 정렬(MSA)을 필요로 하지만, 매우 이질적인 IRES 가문에서는 이러한 데이터를 사용할 수 없는 경우가 많다.
• 머신러닝 접근법은 역사적으로 고품질 훈련 데이터의 부족과 새로운 RNA 가문에 대한 낮은 일반화 성능 문제로 어려움을 겪어 왔다.
• 실험적 한계: 고처리량 화학 프로빙(chemical probing)은 노동 집약적이고 느리며, 질량 병렬 합성(mass parallel synthesis)은 현재 짧은 단편(~200 nt)에 국한되어 있어 전체 길이의 IRES 구조를 포착하지 못한다.

방법론
저자들은 염기 쌍 규칙, 열역학 또는 구조적 라벨에 대한 명시적인 지식 없이 서열 데이터만을 사용하여 RNA 이차 구조를 예측하도록 설계된 RNA 언어 모델(LM)인 Albatross를 개발하였다.

1. 모델 아키텍처 및 훈련:

   • Albatross는 3,600만 개의 비코딩 RNA 서열로 사전 훈련된 6억 5천만 파라미터 규모의 RNA LM인 RiNALMo를 기반으로 한다.
   • 저자들은 지속적 사전 훈련(continued pretraining, 전이 학습) 전략을 채택하여, NCBI Virus 데이터베이스에서 추출한 약 50,000개의 피코르나바이러스 5' UTR(전체 길이 IRES를 대표)로 Albatross를 훈련시켰다.
   • 훈련 목적 함수는 표준적인 마스크드 토큰 예측(BERT 스타일)이며, 오직 게놈 RNA 서열만을 사용했다. 훈련 과정 중 구조 데이터는 제공되지 않았다.
   • 저자들은 데이터셋의 크기와 다양성이 미치는 영향을 조사하였으며, 더 작고 다양한 데이터셋(50k 서序列)이 과적합을 피하고 사전 훈련된 일반 지식을 보존함으로써 더 큰 데이터셋(200k–500k)보다 우수한 성능을 보임을 확인하였다.

2. 구조 추론을 위한 의존성 매핑(Dependency Mapping):

   • 구조 정보를 추출하기 위해 저자들은 의존성 매핑을 활용하였다. 이는 위치 i에 점 돌연변이(point mutation)가 도입되었을 때 위치 j에서의 뉴클레오타이드 예측이 어떻게 변하는지를 측정하는 방식이다.
   • 위치 간의 높은 의존성 점수는 진화적 또는 기능적 결합을 나타내며, 이는 종종 염기 쌍 상호작용에 해당한다.
   • 이 의존성 맵에 이진 필터링 알고리즘을 적용하여 명시적인 이차 구조를 생성하였다. 이 필터는 기하학적 사전 조건(예: 최소 스템 길이, 인접 쌍 제외)을 강제하지만, 특정 염기 쌍 규칙(예: Watson-Crick만 허용)에 대한 생물학적 사전 조건은 부과하지 않는다.

3. 실험적 검증 및 벤치마킹:

   • 그라운드 트루스(Ground Truth) 생성: 저자들은 다양한 바이러스와 숙주로부터 유래한 96개의 전체 길이 IRES 라이브러리를 생성하였다. 이들은 6가지 세포 유형에 걸쳐 in cellulo 및 in vitro 구조를 결정하기 위해 DMS-MaPseq(Dimethyl Sulfate Mutational Profiling with Sequencing)를 사용하여 고품질의 실험적 그라운드 트루스를 구축하였다.
   • 기능적 아틀라스: 폴리좀 프로파일링(polysome profiling)과 이중 루시페레이스 분석(dual-luciferase assays)을 사용하여 96개 IRES의 번역 활성을 측정하였으며, 이를 통해 일치하는 구조-기능 데이터셋을 만들었다.
   • 비교 분석: Albatross를 최첨단 방법들인 Infernal(공변), eFold(머신러닝), RNAstructure(열역학)와 벤치마킹하였다.

핵심 기여 및 결과

1. 고정밀 구조 예측:

   • Albatross는 염기 쌍 예측에서 중앙값 0.80의 정밀도를 달ino, Infernal(0.47), eFold(0.44), RNAstructure(0.47)를 크게 앞질렀다.
   • Albatross가 예측한 쌍을 RNAstructure의 하드 제약 조건(hard constraints)으로 사용했을 때, 결합된 접근 방식은 테스트된 모든 방법 중 가장 높은 중앙값 F1 점수(0.64)와 재현율(0.73)을 달성하였다.
   • 모델은 Coxsackievirus B3의 eIF4G 결합 도메인의 결정 구조를 통해 검증된 비표준 염기 쌍(예: A•C) 및 고립된 안정화 상호작용과 같은 복잡한 특징들을 성공적으로 예측하였다.

2. 새로운 구조적 하위 클래스의 발견:

   • 약 75,000개의 IRES 서열에 Albatross를 적용하여, 도메인 I에서 확장된 AAG 스템(stem)을 특징으로 하는 새로운 Type II 구조적 하위 클래스를 식별하였다.
   • 이 하위 클래스는 Sicinivirus MW684796에 대한 DMS-MaPseq을 통해 실험적으로 검증되었으며, 확장된 스템 구조를 확인하였다.
   • 기능 분석 결과, 이 확장된 스템이 이 특정 바이러스 아형의 IRES 활성에 결정적임을 입증하였다.

3. 기능적 통찰 및 친화성(Tropism):

   • 연구 결과, Type V IRES는 여러 세포 유형에 걸쳐 널리 사용되는 EMCV (Type II) IRES보다 약 두 배 높은 번역 활성을 유도함을 밝혔다.
   • IRES 활성은 일반적으로 구조적 유형과 상관관계가 있지만, 본 연구는 상당한 세포 유형 특이적 친화성(96개 중 77개가 유의미한 조직 특이성을 보임)을 확인하였다. 특히 동물 숙주의 Type V IRES는 인간 세포에서 매우 높은 활성을 보였다.

4. 추론 메커니즘:

   • 저자들은 Albatross가 단순히 열역학적 안정성을 학습하는 것이 아님을 입증하였다. 훈련 문맥(context)에 없던 열역학적으로 안정적인 합성 서열은 구조화된 것으로 예측되지 않은 반면, 자연적으로 구조화된 영역은 다른 문맥으로 교체되었을 때도 올바르게 예측되었다.
   • 이는 모델이 서열-문맥 의존적 구조 보존성을 학습하며, 열역학적으로 가능하지만 기능적이지 않은 하부 구조보다는 진화적으로 유지된 기능적 구조를 우선시한다는 것을 시사한다.

5. 일반화 가능성:

   • 지속적 사전 훈련 전략은 피코르나바이러스를 넘어 일반화될 수 있음을 증명하였다.
   • **한타바이러스(hantaviruses)**에 적용했을 때, 모델은 게놈의 장거리 유사 원형화(pseudo-circularization) 상호작용을 정확히 식별하였다.
   • **박테리아 리보스위치(bacterial riboswitches)**에 적용했을 때, 모델은 정형화된 구조를 재현했을 뿐만 아니라, 결정적으로 리간드 결합(holo) 상태와 결합하지 않은(apo) 상태에 대응하는 상호 배타적인 짝을 서열만으로 예측함으로써 명시적인 리간드 정보 없이도 형태 변화 스위치를 포착하였다.

의의
본 논문은 Albatross를 데이터 부족 및 일반화 한계를 극복할 수 있는 확장 가능한 RNA 구조 발견 프레임워크로 확립하였다. 기능적 구조 논리가 지속적 사전 훈련과 의존성 매핑을 통해 서열 자체로부터 학습될 수 있음을 보여줌으로써, 저자들은 다음과 같은 도구를 제공한다:

• 이전에는 불가능했던 규모로 전체 길이 바이러스 요소(특히 IRES)의 특성을 규명하는 속도를 높인다.
• 열역학적으로 안정적이지만 기능적이지 않은 노이즈를 걸러내어 높은 정밀도로 기능적 구조를 식별한다.
• 복잡한 형태 변화 스위치나 제한된 상동 데이터가 있는 다양한 RNA 가문에 걸쳐 RNA 생물학을 이해하는 경로를 제공한다.
• 발견된 고활성 Type V IRES 및 새로운 구조적 하위 클래스에서 알 수 있듯이, 항바이러스 표적화 및 생명공학을 위한 자원을 제공한다.

결론적으로, 이 연구는 기능적 RNA 구조를 결정하는 데 필요한 정보가 서열 자체에 인코딩되어 있으며, 대규모 언어 모델링을 통해 접근 가능하다는 것을 보여준다. 이를 통해 광범위한 실험적 제약이나 깊은 서열 정렬 없이도 다양한 RNA 가문에 대한 고처리량 구조 분석이 가능해졌다.