기술 요약: EukaUTR

문제 정의

진핵생물의 mRNA 3′ 비번역 부위(3′ UTR)는 RNA 결합 단백질(RBP), 마이크로RNA(microRNA), 그리고 대안적 폴리아데닐화(alternative polyadenylation)와의 상호작作用을 통해 전사 후 조절, RNA의 운명, 그리고 유전자 발현을 결정하는 핵심적인 cis-조절 요소이다. 이러한 중요성에도 불구하고, 현재의 계산적 접근 방식은 세 가지 주요 한계에 직면해 있다:

1. 제한된 진화적 범위: 기존의 3′ UTR 언어 모델(예: 3UTRBERT, GEMORNA)은 주로 인간 또는 포유류 서열 공간에 국한되어 있어, 다양한 진핵생물 계통의 광범위한 조절 메커즘을 포착하는 데 실패한다.
2. 제한된 생성 능력: 대부분의 모델은 기능 예측(예: 결합 친화도)에 집중할 뿐, de novo 서열 생성이나 생성된 서열의 체계적인 특성 규명에는 초점을 맞추지 못한다.
3. 제어 가능한 설계의 부재: 추가적인 모델 학습 없이 소수의 서열 집합으로부터 속성 관련 신호를 추출하여 기존 서열의 표적 최적화를 유도할 수 있는 전략이 부족하다.

방법론

모델 아키텍처 및 사전 학습 전략

EukaUTR은 12개의 셀프 어텐션 헤드와 768의 은닉 차원을 가진 12계층 트랜스포머 인코더(ESM-2 스타일, 약 8,700만 개의 파라미터)를 기반으로 구축된 3′ UTR 특화 파운데이션 모델이다. 이 모델은 광범위한 표현 학습과 고신뢰도 정교화 사이의 균형을 맞추기 위해 2단계 사전 학습 전략을 채택한다:

• 1단계 (광범위한 다양성): 다양한 진핵생물 계통(척추동물, 비척추 동물, 식물, 균류 및 원생생물)을 아우르는 약 703만 개의 비중복 3′ UTR을 대상으로 사전 학습되었다. 이 단계에서는 일반화 가능한 표현을 학습하기 위해 마스크 언어 모델링(MLM) 목적 함수를 활용하였다.
• 2단계 (정교화): 1단계 모델(E가 EukaUTR-S1)은 1단계에서 제외된 4종의 척추동물(인간, 생쥐, 쥐, 제브라피시)의 고신뢰도 코퍼스인 59,221개의 3′ UTR을 통해 추가로 정교화되었다. 두 가지 적응 전략이 사용되었다:
  • 전체 파라미터 지속 사전 학습(Full-parameter continued pre-training)을 통해 EukaUTR-S2를 도출하였다.
  • 저차원 적응(Low-Rank Adaptation, LoRA)을 통해 EukaUTR-S2-LoRA를 도출하였다.

다운스트림 응용 분야

본 프레임워크는 세 가지 주요 운영 모드를 지원한다:

1. 기능 예측: RBP 결합, m6A 변형, 대안적 폴리아데닐화(APA), mRNA 안정성, 유전자 발현 출력 등 다양한 과업을 위한 미세 조정(fine-tuning)을 지원한다.
2. 국소적 cis-조절 분석: 모델을 사용하여 국소적인 돌연변이 민감도 및 문맥 의존적 서열 신호(예: ARE1 요소, RBMS3 결합 영역)를 탐색한다.
3. 서열 생성 및 설계:
   • De Novo 생성: 반복적인 신뢰도 가이드 디코딩(iterative confidence-guided decoding)을 사용하여 새로운 3′ UTR 서열을 생성한다.
   • EukaUTR-Guide: 대비되는 예측 속성을 가진 소수의 서열 집합으로부터 "스티어링 벡터(steering vector)"를 도출하는 속성 지향적 편집 프레임워크이다. 이 신호는 모델을 재학습시키지 않고도 특정 뉴클레오타이드 위치의 마스킹 및 디코딩을 유도하여 기존 서열을 원하는 속성에 맞게 최적화한다.

주요 결과

1. 기능 예측 성능

EukaUTR은 전사 후 조절, RNA의 운명, 발현 출력에 걸친 13가지 다운스트림 과업에 대해 평가되었다.

• RBP 결합: eCLIP 벤치마크(22개 RBP-세포주 조합)에서 EukaUTR-S2-LoRA는 가장 높은 macro-averaged F1(0.782)과 MCC(0.567)를 달성하였으며, 가장 강력한 외부 베이스라인보다 F1은 3.464.13%, MCC는 10.7412.72% 더 높은 성능을 보였다. 유전자 홀드아웃(gene-held-out) CLIP 벤치마크에서는 EukaUTR-S1이 가장 우수한 성능을 보이며 1.78~6.95%의 상대적 F1 점수 개선을 나타냈다.
• m6A 변형: 세 가지 EukaUTR 변체 모두 9개의 인간 세포주에서 강력한 성능을 보였으며, EukaUTR-S2는 3UTRBERT와 같은 특화된 예측기와 대등하거나 이를 능가하는 F1 0.968 및 MCC 0.937에 도달하였다.
• mRNA 안정성 및 발현: EukaUTR 모델은 mRNA 분해율, 반감기, 단백질 출력 및 번역 효율을 예측하는 데 있어 베이스라인(3UTRBERT, mRNABERT, GEMORNA-UTR)을 일관되게 능가하였다. 특히, EukaUTR-S2는 RNA 풍부도 예측에서 가장 강력한 베이스라인 대비 최대 **27.45%**의 상대적 이득을 달성하였다.

2. 국소적 cis-조절 통찰

국소 분석은 EukaUTR이 지역적 및 문맥 의존적 신호를 포착함을 입증하였다:

• 돌연변이 민감도: 모델은 CXCL2 3′ UTR 내의 실험적으로 정의된 ARE1 요소에서 높은 돌연변이 민감도를 국소화하였으며, 이는 실험적 리포터 데이터와 상관관계(Pearson's r = 0.210)를 보였다.
• 서열 문맥: RBMS3 결합 영역에서 모델은 붕괴 경향성과 관련된 AUA 풍부 서열 신호를 포착하였으며, 이는 대조군에 비해 유의미하게 높은 예측 붕괴 점수와 AUA 카운트를 보여주었다.

3. De Novo 생성 및 설계

• 자연 유사적 특성: 생성된 서열은 GC 함량, 최소 자유 에너지(MFE), k-mer 빈도에서 자연스러운 분포를 보였다(EukaUTR-S2의 경우 상관관계 r = 0.969–0.981). 또한, 이들은 자연 참조 서열과 유사한 수준의 정형적 조절 모티프(PAS, ARE, CPE) 및 miRNA 타겟 사이트 밀도를 유지하였다.
• 신규성: 생성된 서열은 사전 학습 코퍼스 또는 생성된 집합 내에서 높은 동일성(identity ≥80%, coverage ≥0.8)을 가진 일치 항목이 없었으며, 이는 단순한 암기가 아님을 확인시켜 준다.
• EukaUTR-Guide 최적화: 높은 예측 분해율을 가진 서열에 적용했을 때, 가이드 편집은 참조 서열 대비 중앙값 예측 분해율을 37.2% 감소시켰다(가이드 없는 편집의 17.5% 감소와 비교). 이러한 개선은 89.1%의 서열에서 관찰되었으며, 여러 외부 서열 모델에 의해 뒷받침되었다. 편집 과정은 체계적으로 GC 함량을 높이고 예측된 miRNA 타겟 사이트를 감소시켰다.

의의 및 주장

본 논문은 EukaUTR이 진핵생물의 3′ UTR을 위한 통합된 서열-기능-설계 프레임워크를 구축한다고 주장한다. 그 의의는 다음과 같다:

1. 광범위한 표현: 인간/포유류 중심의 모델을 넘어 다양한 진핵생물 계통 전반의 조절 로직을 포착한다.
2. 통합된 역량: 전이 가능한 기능 예측, de novo 생성, 그리고 속성 지향적 최적화를 하나의 파운데이션 모델 내에 통합하였다.
3. 제어 가능한 설계: 속성 관련 신호를 소수의 서열 집합으로부터 추출하여 추가 학습 없이 표적 편집을 유도할 수 있음을 입증함으로써, 정밀한 3′ UTR 설계로 가는 경로를 제시한다.

저자들은 계산적 특성(자연스러움, 신규성, 안정성 예측)은 견고하지만, 예측된 개선 사항이 실제 세포 환경에서의 mRNA 안정성 및 조절 기능으로 전환되는지를 확인하기 위해서는 실험적 검증이 필요하다는 점을 언급하며 신중한 입장을 유지하고 있다. 본 연구는 전이 가능한 3′ UTR 모델링 및 설계를 향한 기초적인 단계로 제시된다.