PepCL: A replay-based continual learning framework for updating peptide-MHC models

기술 요약: PepCL – 펩타이드-MHC 모델을 위한 리플레이 기반 지속 학습 프레임워크

문제 정의
펩타이드-주조직 적합성 복합체(MHC) class I 결합을 예측하는 것은 백신 설계 및 면역 요법에 매우 중요하지만, 40,000개가 넘는 MHC 대립유전자(allele)로 인해 조합론적 난제에 직면해 있습니다. 질량 분석법(MS)은 예측 모델 학습을 위한 가장 큰 데이터셋을 제공해 왔으나, MS 유래 리간돔(ligandome)은 불완전하며 편향되어 있습니다. 즉, 특정 서열 클래스(예: 시스테인 함유 또는 고도로 소수성인 펩타이드)를 과소 대표하거나 비결합자(non-binders)를 포착하지 못하는 한계가 있습니다. 새로운 실험적 어세이(예: yeast display, EpiScan, binding affinity, ESCAPE-seq)는 보완적인 데이터를 제공하며, 여기에는 실험적으로 검증된 비결합자와 연속적인 출력값(continuous readouts)이 포함됩니다. 그러나 기존의 펩타이드-MHC 예측 모델은 일반적으로 고정된 버전의 모델로 배포됩니다. 이러한 새로운 직교 데이터 소스를 통합하려면 보통 전체 재학습이나 전통적인 미세 조정(fine-tuning, FT)이 필요합니다. FT는 모델이 새로운 어세이의 특정 편향과 분포에 과도하게 특화되어, MS 데이터로부터 학습한 생물학적 근거가 있는 기존 지식을 덮어쓰는 "파괴적 망각(catastrophic forgetting)" 현상을 초래합니다.

방법론
새로운 데이터에 대한 적응과 기존 지식 유지 사이의 상충 관계를 해결하기 위해, 저자들은 리플레이 기반 지속 학습 프레임워크인 PepCL(Peptide-MHC Continual Learning)을 소개합니다.

1. MHCPrime 백본: 저자들은 MS 용출 리간드(EL) 데이터로 학습된 새로운 최첨단 범-대립유전자(pan-allelic) 트랜스포머 기반 모델인 MHCPrime을 개발했습니다. 폐쇄형 앙상블 모델(예: HLApollo)과 달리, MHCPrime은 오픈 소스이며 GPU에 최적화되어 있고, 지속 학습을 용이하게 하기 위해 파라미터, 로짓(logits), 그래디언트(gradients)에 직접 접근할 수 있도록 설계되었습니다. 이 모델은 Conformer 및 Transformer 블록을 통해 생화학적 특징과 국소적 문맥을 포함하는 이중 인코더 구조(펩타이드 및 MHC 의사 서열)를 활용합니다.
2. PepCL 프레임워크: PepCL은 세 가지 메커니즘의 조합을 사용하여 사전 학습된 MHCPrime 모델을 업데이트합니다:
   • 신규 데이터 업데이트: 들어오는 어세이 데이터(예: yeast display, EpiScan)를 사용하여 모델을 학습시킵니다.
   • 데이터 리플레이(Data Replay): 업데이트 과정에서 원래의 MS 학습 데이터 배치를 인터리빙(interleaving)하여 새로운 데이터 분포를 상쇄하는 그래디언트를 제공합니다.
   • 드리프트 정규화(Drift Regularization): 사전 학습된 모델의 동결된 복사본을 유지합니다. 업데이트된 모델이 리플레이 데이터에 대해 동결된 모델의 예측으로부터 크게 벗어날 경우(로짓에 대한 MSE를 통해 측정) 페널티를 부여합니다. 이 페널티는 하이퍼파라미터 $\lambda$에 의해 제어됩니다.
3. 학습 목적 함수: 프레kwork는 리플레이 데이터에 대한 분류 손실(순위 산정을 위한 미분 가능한 Smooth-AP 손실 사용)과 신규 데이터에 대한 분류 손실 및 드리프트 정규화 손실을 결합합니다. 연속적인 출력값을 가진 어세이(예: Binding Affinity, ESCAPE-seq)의 경우, 신규 데이터에 대해서는 미분 가능한 soft rank loss를 사용하면서 리플레이 세트에 대한 분류 손실은 그대로 유지합니다.

주요 결과
저자들은 다양한 감염병 및 암 관련 생물학적 맥락에서 여러 어세이 양식을 사용하여 PepCL과 MHCPrime을 평가했습니다.

• 기본 모델 성능: MHCPrime은 홀드아웃(held-out) MS 벤치마크에서 HLApollo와 같은 폐쇄형 앙상블 모델과 대등하거나 이를 능가하는 최첨단 성능을 달성했으나, 단일 비앙상블 모델입니다. 그러나 다른 MS 학습 모델들과 마찬가지로, 비-MS 데이터셋에서는 성능이 저하되었습니다.
• 파괴적 망각 완화: 모델을 새로운 MS 서브셋이나 특정 모티프 클러스터로 업데이트하는 통제된 실험에서, 전통적인 FT는 원래 데이터에 대한 성능 저하(망각)를 심각하게 일으켰습니다. 반면, PepCL은 새로운 정보를 성공적으로 통합하면서도 이전 MS 분포에 대한 성능을 보존했습니다.
• 어세이 적응: 비-MS 데이터(Yeast Display, EpiScan, Binding Affinity, ESCAPE-seq)로 업데이트했을 때:
  • FT는 타겟 어세이에 대한 성능을 개선했지만, MS 벤치마크 및 관련 도메인에서 불균형적인 손실을 초래했습니다.
  • PepCL은 새로운 어세이에서 대등한 이득을 얻는 동시에 MS 벤치마크에서의 성능을 유지하거나 오히려 향상시켰습니다.
  • PepCL은 "하드 네거티브(hard negatives)"(예: EpiScan 재학 training 라이브러리 내)와 연속적 출력값으로부터 학습하는 데 있어 우수한 능력을 보여주었으며, 어세이 특유의 아티팩트에 과적합되지 않았습니다.
• 교차 대립유전자 전이(Cross-Allele Transfer): 중요한 발견은 PepCL이 업데이트 세트에 존재하지 않는 대립유전자에 대해서도 어세이 유래 신호를 전달할 수 있다는 점이었습니다. MHCPrime의 범-대립유전자 표현형을 활용함으로써, FT가 해당 대립유전자에 대한 이전 MS 도메인 성능을 저하시킨 것과 달리, PepCL은 미보유 대립유전자에 대한 예측력을 향상시켰습니다.
• 보수적 적응: 서열 모티프 분석 결과, FT는 어세이 특유의 편향(예: 특정 돌연변이로 인한 Yeast Display의 C-말단 제약 완화)을 완전히 흡수한 반면, PepCL은 이러한 신호를 더 보수적으로 채택하여 생물학적으로 유의미한 MS 유래 결합 선호도에 고정되어 있음을 확인했습니다.

의의 및 주장
본 논문은 PepCL이 펩타이드-MHC 모델의 효용성을 확장하는 유연한 프레임워크를 구축한다고 주장합니다. 저자들의 논지는 다음과 같습니다:

1. 지속 학습의 필요성: 분야의 패러다임이 정적인 일회성 학습에서, 이전 지식을 버리지 않고 새로운 실험적 증거를 통합할 수 있는 업데이트 가능한 프레임워크로 전환되어야 합니다.
2. 균형 잡힌 적응: PepCL은 (서로 다른 편향과 엔드포인트를 가진) 다양한 어세이로부터 오는 보완적인 정보를 흡수하는 동시에, 전통적인 미세 조정과 관련된 과도한 특화 및 파괴적 망각을 방지하는 제어된 메커니즘을 제공합니다.
3. 임상적 관련성: 자연스러운 세포 내 제시(endogenous cellular presentation)를 반영하는 MS 사전 지식을 보존하면서 새로운 신호를 통합함으로써, 정확한 자연 제시 예측이 필수적인 신생 항원 우선순위 지정 및 백신 설계와 같은 임상 적용에 있어 PepCL은 더 강력한 경로를 제공합니다.
4. 확장성: 이 프레임워크는 제한된 대립유전자의 어세이 데이터를 더 넓은 범-대립유전자 공간으로 전파할 수 있게 하여, 임상적으로 중요한 많은 대립유전자가 겪는 데이터 희소성 문제를 해결합니다.

저자들은 펩타이드-MHC 예측의 진보가 단순히 모델 아키텍처뿐만 아니라, 새로운 데이터셋이 등장함에 따라 예측 범위를 확장할 수 있는 실질적인 경로를 제공하는 PepCL과 같은 프레임워크에 달려 있다고 결론짓습니다.