Circular RNA identification using a genomic language model and a small number of authenticated examples

이 논문은 실험적으로 검증된 소수의 데이터로만 학습이 가능한 한계를 극복하기 위해 커리큘럼 학습과 게놈 언어 모델을 결합한 'circFormer'를 개발하여 기존 도구들이 놓친 원형 RNA(circRNA) 후보를 높은 정확도로 식별하고 그 형성 메커니즘을 해석할 수 있음을 제시합니다.

핵심

🍎 비유: "사과 농장의 신비한 과일 찾기"

생각해 보세요. 거대한 사과 농장 (생체 데이터) 이 있습니다. 여기에는 진짜 사과 (진짜 원형 RNA) 도 있지만, 나뭇잎이나 흙, 혹은 가짜 플라스틱 사과 (노이즈나 오류) 가 섞여 있습니다. 문제는 진짜 사과를 구별할 수 있는 '전문가' (실험적으로 검증된 데이터) 가 900 명 정도밖에 없다는 것입니다. 반면, 농장 전체에는 수백만 개의 과일들이 널려 있습니다.

기존의 인공지능은 이 900 명의 전문가만 가르치면 "전문가처럼 되려고" 너무 애를 써서 (과적합), 새로운 과일을 보면 헷갈려 합니다. 반면, 수백만 개의 과일 전체를 가르치면 가짜 사과까지 진짜로 착각해 버립니다 (노이즈 학습).

이 연구팀은 이 문제를 해결하기 위해 **'circFormer'**라는 새로운 AI 를 만들었습니다.

🚀 circFormer 의 3 단계 학습법 (커리큘럼 러닝)

이 AI 는 단순히 공부만 하는 게 아니라, 스스로 성장하는 3 단계 과정을 거칩니다.

1. 1 단계: 소수의 전문가에게 배우기 (기초 다지기)
   • 먼저, 검증된 900 개의 '진짜 사과' (실험 데이터) 만으로 AI 에게 기본기를 가르칩니다. 이때 AI 는 "진짜 사과는 이런 모양이야"라는 규칙을 배웁니다.
2. 2 단계: 수백만 개의 과일을 '채점'하기 (스승의 역할)
   • 이제 AI 는 '스승'이 되어, 농장에 널려 있는 수백만 개의 의심스러운 과일들을 하나하나 검사합니다. "이건 진짜 같아 (점수 높음)", "이건 가짜 같아 (점수 낮음)"라고 점수를 매깁니다.
3. 3 단계: 점수가 높은 것들까지 함께 배우기 (실전 훈련)
   • 마지막으로, AI 는 1 단계에서 배운 기본기에 2 단계에서 점수를 매긴 수백만 개의 데이터를 다시 공부합니다. 이때 점수가 높은 것일수록 더 중요하게, 점수가 낮은 것은 덜 중요하게 학습합니다.
   • 결과: AI 는 수백만 개의 데이터 속에서 진짜 신호를 찾아내는 법을 스스로 터득하게 됩니다.

🏆 놀라운 성과: "남들이 놓친 것을 찾아내다"

이 AI 를 실제로 시험해 보니 놀라운 결과가 나왔습니다.

• 기존 도구들의 실패: 기존에 쓰이던 16 가지의 다른 프로그램들은 놓친 50 개의 후보를 circFormer 가 찾아냈습니다.
• 실험적 검증: 과학자들이 이 50 개를 실험실에서 직접 확인해 보니, 94.1%(34 개 중 32 개) 가 진짜 원형 RNA 였습니다.
• 의미: 기존 도구들이 "이건 가짜야"라고 버렸던 것들이 실제로는 진짜 생물학적 신호였던 것입니다. 마치 남들이 쓰레기라고 버린 상자에서 보석을 찾아낸 것과 같습니다.

🔍 블랙박스 열기: "AI 가 왜 그렇게 생각했을까?"

인공지능은 보통 "왜 그걸 진짜라고 했지?"라고 물어보면 답을 못 하는 '블랙박스'입니다. 하지만 이 연구팀은 **SAE(희소 자동 인코더)**라는 기술을 써서 AI 의 뇌를 해부했습니다.

• 일반적인 원형 RNA (AG/GT): AI 는 기존에 알려진 '가위질 규칙' (스플라이싱 신호) 을 정확히 찾아냈고, 이것이 단백질 합성 기계 (리보솜) 와 관련이 있음을 발견했습니다.
• 비정형 원형 RNA (비 AG/GT): 더 흥미로운 점은, 기존 규칙을 따르지 않는 이상한 원형 RNA 들은 전사 인자 (DNA 를 읽는 단백질) 나 세포막 신호와 관련된 새로운 패턴을 가지고 있다는 것을 AI 가 스스로 찾아냈다는 것입니다.
  • 비유: 마치 "이런 이상한 과일은 사과가 아니라, 특정 나비와 함께 자란 특별한 과일일지도 모른다"는 새로운 가설을 AI 가 스스로 세운 것입니다.

💡 결론: 왜 이것이 중요한가요?

이 연구는 **"데이터가 부족할 때, 어떻게 AI 를 가르쳐야 하는가"**에 대한 완벽한 해답을 제시합니다.

1. 효율성: 실험실에서의 비싸고 느린 검증 작업을 줄여줍니다. AI 가 먼저 "이건 진짜일 확률이 99% 야"라고 필터링해 주기 때문입니다.
2. 새로운 발견: 기존 규칙에 얽매이지 않고, 우리가 몰랐던 새로운 생물학적 현상을 찾아낼 수 있습니다.
3. 투명성: AI 가 단순히 통계만 맞추는 게 아니라, 실제 생물학적 원리를 이해하고 있다는 것을 증명했습니다.

한 줄 요약:

"적은 정답으로 시작해, 방대한 데이터 속에서 스스로 진실을 찾아내고, 그 이유까지 설명해 주는 똑똑한 생물학 AI 가 탄생했습니다."

이 기술은 앞으로 유전체 연구뿐만 아니라, 데이터가 부족한 다른 의학 분야에서도 혁신을 이끌 것으로 기대됩니다.

기술 요약

1. 문제 정의 (Problem)

• 데이터 불균형: 유전체 언어 모델 (gLM) 은 방대한 양의 고품질 레이블 데이터가 필요하지만, 실험적으로 검증된 circRNA (골드 스탠다드) 데이터는 매우 제한적입니다 (보통 1,000 개 미만).
• 노이즈의 존재: RNA-seq 데이터 기반의 대규모 후보군 데이터는 반복 서열, 실험적 인공물, 맵핑 오류 등으로 인해 노이즈가 매우 많습니다.
• 기존 방법의 한계:
  • 소량의 검증된 데이터만으로 학습하면 과적합 (Overfitting) 이 발생하여 일반화 성능이 떨어집니다.
  • 대규모 노이즈 데이터로 학습하면 예측 신뢰도가 낮아집니다.
  • 기존의 기계학습 (SVM, CNN, LSTM 등) 은 이러한 데이터 불균형 상황에서 대규모 노이즈 데이터를 활용하여 성능을 향상시키지 못하며, 오히려 성능이 저하되는 경향이 있습니다.

2. 방법론 (Methodology)

연구진은 커리큘럼 학습 (Curriculum Learning) 전략을 gLM 파인튜닝에 통합한 circFormer를 개발했습니다.

• 기반 모델: 5 억 파라미터 규모의 **Nucleotide Transformer (NT)**를 사전 학습된 gLM 베이스로 사용했습니다.
• 3 단계 커리큘럼 학습 프로세스:
  1. 1 단계 (골드 스탠다드 학습): 939 개의 실험적으로 검증된 circRNA (양성) 와 이에 대응하는 음성 샘플로 NT 모델을 파인튜닝합니다. 이를 통해 모델은 circRNA 의 기본 특징을 학습합니다.
  2. 2 단계 (신뢰도 점수화): 1 단계에서 학습된 모델을 '교사 (Teacher)' 모델로 사용하여 234 만 개의 노이즈가 많은 미검증 후보군에 점수 (신뢰도) 를 부여합니다.
  3. 3 단계 (커리큘럼 기반 재학습): 1 단계 모델과 2 단계의 신뢰도 점수를 활용하여 대규모 노이즈 데이터셋으로 모델을 다시 파인튜닝합니다. 이때, 각 샘플의 학습 손실 (Loss) 에 가중치를 부여합니다 (높은 신뢰도 점수 = 높은 가중치, 낮은 점수 = 낮은 가중치). 이를 통해 모델은 노이즈 데이터에서도 유효한 생물학적 신호를 학습하도록 유도됩니다.
• 입력 데이터: 백스플라이싱 (back-splicing) 부위를 중심으로 한 100 nt 길이의 전체 윈도우 (full-window) 서열을 사용했습니다.
• 해석 가능성 (Explainable AI, xAI):
  • In silico Mutagenesis (ISM): 개별 뉴클레오타이드가 예측에 미치는 영향을 정량화하여 스플라이싱 신호 (AG/GT 등) 에 대한 모델의 초점을 확인했습니다.
  • Sparse Autoencoder (SAE): 모델의 밀집된 잠재 표현 (latent embeddings) 을 12,800 개의 '단일 의미 (mono-semantic)' 특징으로 분해하여, AG/GT 유형과 비-AG/GT 유형의 circRNA 형성 메커니즘을 생물학적으로 해석 가능한 모티프 (motif) 로 규명했습니다.

3. 주요 기여 (Key Contributions)

1. 데이터 희소성 문제 해결: 소량의 고품질 데이터로 초기 학습을 수행한 후, 신뢰도 가중치를 부여하여 대규모 노이즈 데이터를 학습하는 커리큘럼 학습 전략을 통해 gLM 의 성능을 극대화했습니다.
2. 최초의 gLM 기반 circRNA 식별 도구: 기존 기계학습 방법론을 능가하는 최초의 gLM 기반 circRNA 식별 프레임워크를 제시했습니다.
3. 블랙박스 해체: SAE 를 활용한 이중 레벨 해석 가능 AI 전략을 도입하여, 모델이 circRNA 형성의 생물학적 메커니즘 (전통적 스플라이싱 규칙 및 비전통적 경로) 을 어떻게 학습했는지 규명했습니다.
4. 실용적 파이프라인: STAR 어라인어와 통합된 circFormer-STAR를 개발하여 기존 워크플로우에 쉽게 적용할 수 있도록 했습니다.

4. 결과 (Results)

• 성능 향상:
  • 커리큘럼 학습을 적용한 circFormer 는 2 단계 학습 후 AUC 0.923, F1-score 0.920 을 달성하여 기존 SVM, CNN, LSTM 모델보다 월등히 높은 정확도와 강건성을 보였습니다.
  • 기존 기계학습 모델들은 대규모 노이즈 데이터를 추가할 때 성능이 저하되었으나, circFormer 는 오히려 성능이 향상되었습니다.
• 실험적 검증 (Wet-lab Validation):
  • 기존 16 개 도구 중 2 개 이하의 도구만 탐지한 50 개의 고신뢰도 후보를 실험적으로 검증했습니다.
  • RNase R 소화 및 RT-qPCR 결과, 평가 가능한 34 개 후보 중 **32 개 (94.1%)**가 실제 circRNA 로 확인되었습니다. 특히 발현량이 높은 군에서는 100% (28/28) 의 검증률을 기록했습니다.
• 기존 데이터베이스 평가:
  • circFormer 는 13 개의 circRNA 데이터베이스에 저장된 230 만 개 이상의 후보를 재평가하여, 기존 도구들이 놓친 고신뢰도 circRNA 를 식별하고 노이즈를 제거했습니다.
  • 실험적 검증 결과 (qPCR 등) 와 circFormer 의 순위가 높은 상관관계 (Spearman's ρ = 0.623) 를 보였습니다.
• 생물학적 통찰:
  • AG/GT 유형: 기존 스플라이싱 규칙을 학습했으며, 리보솜 및 번역 관련 모티프와 연관됨을 발견했습니다.
  • 비-AG/GT 유형: 스플라이스좀 매개 경로가 아닌, 전사 인자 결합 및 막 관련 신호 전달 경로와 연관된 고유한 퓨린/피리미딘 풍부 모티프를 학습했음을 규명했습니다.

5. 의의 및 결론 (Significance)

• 방법론적 혁신: 데이터가 부족한 생물학 분야에서 gLM 을 효과적으로 활용하는 새로운 패러다임을 제시했습니다. 소량의 고품질 데이터로 '지식'을 전달하고 대규모 데이터로 '노이즈 제거 및 일반화'를 수행하는 커리큘럼 학습은 향후 유전체 연구에 적용 가능한 범용 프레임워크입니다.
• 새로운 생물학적 발견: 기존 도구들이 놓친 '저-합의 (low-consensus)' circRNA 를 대량으로 발견함으로써, circRNA 전사체의 복잡성을 확장시켰습니다.
• 해석 가능성의 중요성: 단순한 예측 도구를 넘어, 모델이 학습한 특징을 통해 새로운 생물학적 가설 (비전통적 circRNA 형성 경로 등) 을 생성할 수 있음을 보여주었습니다.
• 실용성: circFormer-STAR 를 통해 연구자들이 기존 RNA-seq 분석 파이프라인에 쉽게 통합하여 false positive 를 줄이고 신뢰할 수 있는 circRNA 를 식별할 수 있게 되었습니다.

이 연구는 데이터 부족이라는 근본적인 한계를 극복하고, gLM 을 통해 신뢰할 수 있는 기능적 주석 (functional annotation) 을 생성하는 실용적인 길을 제시했다는 점에서 의의가 큽니다.