🤖 machine learning

Evolution-Aware MSA Reasoning for Subsampling via Factor Graphs

이 논문은 MSA 서브샘플링을 쿼리 정체성(query identity) 및 다양성과 같은 진화적 신호를 명시적으로 균형 있게 조절할 수 있는 문제로 다루어, 단백질 구조 예측 및 컨포메이션 앙상블 복원에서 휴리스틱 방식보다 뛰어난 성능을 보이는 팩터 그래프 기반 최적화 프레임워크인 AP-REASONER를 소개한다.

원저자: Zhangzhi Xiong, Minzhang Li, Haotian Yu, Sixian Shen, Kexin Zhang, Mingrui Li, Jie Zheng, Kewei Tu, Jingyi Yu

게시일 2026-07-27

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Zhangzhi Xiong, Minzhang Li, Haotian Yu, Sixian Shen, Kexin Zhang, Mingrui Li, Jie Zheng, Kewei Tu, Jingyi Yu

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

생명의 언어가 '단백질'이라는 코드로 쓰여 있다고 상상해 보십시오. 이들은 단순히 정적인 블록이 아닙니다. 이들은 근육을 만드는 일부터 바이러스와 싸우는 일까지 모든 것을 수행하는 아주 작은 접힘 기계입니다. 단백질이 어떻게 작동하는지 이해하기 위해, 과학자들은 종종 그 단백질의 '가계도'인 다중 서열 정렬(Multiple Sequence Alignment, MSA)이라 불리는 방대한 관련 서열 모음을 살펴봅니다. 이 가계도를 수백만 년 전 살았던 조상들이 쓴, 서로 약간씩 다른 버전의 같은 이야기를 담은 거대하고 소란스러운 도서관이라고 생각해 보십시오. 이 책들을 함께 읽음으로써, 컴퓨터는 단백질의 3D 구조와 그 움직임을 파악할 수 있습니다.

하지만 문제가 하나 있습니다. 도서관이 너무 크다는 점입니다. 현대의 초지능형 컴퓨터 프로그램(단백질 언어 모델이라 불리는)은 마치 한 번에 수백 페이지밖에 읽지 못하면 뇌가 가득 차 버리는 명석한 학생들과 같습니다. 만약 이들이 도서관 전체를 읽으려 한다면, 시스템은 충돌하며 멈춰버릴 것입니다. 그래서 과학자들은 연구할 대표적인 샘플인 적은 수의 책을 골라내야만 합니다. 오랫동안 그들은 무작위로 책을 뽑거나, 가장 서로 다른 것들을 찾거나, 중복된 것을 걸러내는 등의 방식으로 추측하며 이 작업을 수행해 왔습니다. 이는 마치 파티를 위해 최고의 노래 100곡을 고를 때, 더미 맨 위에서 한 움큼 집어 들거나 이미 들어본 노래들만 고르는 것과 비슷합니다. 효과가 아예 없지는 않지만, 단백질이 실제로 어떻게 춤추는지 설명해 주는 숨겨진 보석들을 놓칠 수도 있습니다.

이 논문은 이러한 곡들을 선택하는 새로운 방법인 AP-REASONER를 소개합니다. 단순히 추측하거나 단순한 필터를 사용하는 대신, 저자들은 이 선택 과정을 수학으로 풀어야 하는 복잡한 퍼즐처럼 다룹니다. 그들은 마치 스마트한 위원회 회의처럼 작동하는 시스템을 구축했습니다. 단백질 서열들이 가득 찬 방을 상상해 보십시오. 목표는 전체 그룹을 대표할 수 있는 특정 개수의 서열을 뽑는 것입니다. 이 시스템은 '팩터 그래프(factor graph)'라는, 거대한 연결망과 같은 것을 사용하여 선택 과정을 추론합니다. 시스템은 "내가 이 서열을 선택한다면, 충분한 범위를 커버할 수 있는가?" 그리고 "이것이 우리가 이미 선택한 것과 너무 닮지는 않았는가?"와 같은 질문을 던집습니다.

이 새로운 방법의 마법은 과학자들이 결과를 바꾸기 위해 돌릴 수 있는 두 개의 '조절 노브(control knobs)'를 가지고 있다는 점에 있습니다. $\alpha$ 라고 불리는 하나의 노브는 선택된 그룹이 얼마나 다양해야 하는지를 제어합니다. 이 노브를 높이면 시스템은 서로 매우 다른 서열들을 선택하여, 다양한 진화적 이야기들이 폭넓게 전달되도록 보장합니다. 또 다른 노브인 $\beta$ 는 선택된 서열들이 원래의 '쿼리(query)' 단백질과 얼마나 가까워야 하는지를 제어합니다. 이 노브를 돌리면 시스템은 타겟과 매우 유사한 서열을 찾는 데 집중하며, 이는 단백질이 취할 수 있는 특정한 형태나 상태를 찾는 데 도움을 줍니다.

연구진은 이 새로운 '추론' 시스템을 기존의 추측 방식들과 비교 테스트했습니다. 그 결과, AP-REASONER를 사용했을 때 컴퓨터 모델이 단백질이 어떻게 접히는지, 그리고 더욱 인상적이게도 어떻게 형태를 바꾸는지 예측하는 능력이 더 뛰어남을 발견했습니다. 일부 테스트에서는 기존 방식들이 완전히 놓쳤던 특정 형태를 새 방식은 쉽게 찾아냈습니다. 예를 들어, KaiB라는 단백질의 경우, 새 방식은 기존 방식들이 무작위로 추측하며 많은 컴퓨터 자원을 낭비해야 했던 것에 비해 훨씬 적은 시도만으로도 희귀하고 숨겨진 형태를 찾아낼 수 있었습니다. 이 논문은 단백질 서열의 선택을 무작위한 추측이 아니라 세심하고 조절 가능한 최적화 문제로 다룸으로써, 생명의 구성 요소가 어떻게 움직이고 기능하는지에 대한 훨씬 더 명확한 그림을 얻을 수 있다고 제안합니다. 이것은 단순히 몇 권의 책을 고르는 것이 아닙니다. 캐릭터를 이해하기 위해 완벽한 이야기를 큐레이팅하는 것입니다.

기술 요약: Factor Graph를 통한 서브샘플링을 위한 진화 인식형 MSA 추론

문제 정의

다중 서열 정렬(Multiple Sequence Alignments, MSAs)은 단백질 언어 모델(PLMs)에 명시적인 진화적 맥락을 제공하며, 이는 접촉 예측(contact prediction) 및 구조 분석(conformational analysis)과 같은 작업에 매우 중요합니다. 그러나 유전체 데이터베이스에서 검색된 MSA의 깊이는 종종 수만 개의 서열에 달하며, 이는 어텐션 기반 PLM(예: MSA Transformer, AlphaFold2)이 처리할 수 있는 토큰 예산(수백 개의 서열)을 훨씬 초과합니다. 결과적으로, 서브샘플링(subsampling)은 필수적인 단계가 됩니다.

기존의 서브샘플링 전략은 무작위 선택, 항체 유사성 기반 필터링(예: HHfilter), 또는 다양성 기반 탐욕적 샘플링(예: divMax, divMin)과 같은 휴리스틱에 의존합니다. 이러한 방법들은 근접 중복을 제거하거나 특정 편향을 강제하는 데는 효과적이지만, 국소적인 유사성 관계에 기반하여 작동하며 두 가지 상보적인 진화적 척도인 **쿼리 항등성(query identity, 타겟과 얼마나 유사한가)**과 서열 다양성(sequence diversity, 진화적 변이의 폭) 사이의 트레이드오프를 명시적으로 제어하지 못합니다. 이러한 한계는 두 요인을 명시적으로 균형 있게 조절하는 것을 방해하여, 다운스트림 작업에 최적화된 진화적 신호를 유지하는 데 있어 하위 최적의 결과를 초래할 수 있습니다.

방법론: AP-REASONER

저자들은 AP-REASONER를 제안하며, 이는 MSA 서브샘플링을 휴리스틱 필터링 절차에서 **친화도 전파(Affinity Propagation, AP)**를 통해 해결되는 명시적 최적화 문제로 재구성합니다.

Factor Graph 정식화

이 문제는 다음과 같은 요소들로 구성된 factor graph 상의 최대 사후 확률(Maximum A Posteriori, MAP) 추정으로 모델링됩니다:

변수(Variables): MSA의 각 행 $i$ 에 대해, 이 행을 나타내는 행이 $k$ 임을 나타내는 이산 변수 $s_i$ 가 존재합니다. 행 $k$ 는 "표본(exemplar)"(선택된 부분 집합을 대표함)이며, 이는 $s_k = k$ 인 경우에만 성립합니다.
단항 팩터(Unary Factors, $L_i$ ): 행 $i$ $i$ 가 표본 $k$ $k$ 에 의해 표현될 가능성을 측정합니다. 유사성 행렬 $S$ $S$ 는 서열의 중복성과 발산을 정량화하기 위해 정규화된 gap-aware Hamming 거리( $d_{H}^{gap}$ $d_{H}^{g a p}$ )를 사용하여 구축됩니다.
- 비대각 성분( $S_{ik}, i \neq k$ ): $-\left(\frac{d_{H}^{gap}(i, k)}{L}\right)^\alpha$ 로 정의됩니다. 지수 $\alpha$ 는 **전역적 다양성(global diversity)**을 위한 제어 노브 역할을 합니다. 더 큰 $\alpha$ 값은 작은 거리에서의 페널티를 완만하게 만들어, 전역적으로 고르게 분포된 표본의 선택을 장려합니다.
- 대각 성분( $S_{kk}$ ): $p + \beta \frac{d_{H}^{gap}(k, 0)}{L}$ 로 정의됩니다. 여기서 $0 $은 쿼리 서열입니다. 계수$ \beta$는 **쿼리 항등성(query identity)**을 위한 제어 노브 역할을 합니다. 양수 $\beta$ 는 쿼리와 거리가 먼 표본을 선택하도록 유도하는 반면, 음수 $\beta$ 는 쿼리와 유사한 서열 쪽으로 선택을 편향시킵니다. 쿼리 행은 항상 유지되도록 큰 고정 선호도를 가진 앵커(anchor)로 설정됩니다.
표본 일관성 팩터(Exemplar-Consistency Factors, $f_k$ ): 만약 어떤 행이 $k$ 를 표본으로 선택한다면, $k$ 또한 자기 자신을 선택해야 한다( $s_k = k$ )는 제약 조건을 강제합니다.

최적화 및 제어

시스템은 메시지 전달 추론(log-domain max-product)을 수행하여 최적의 표본 집합을 추론합니다. 고정된 토큰 예산 $N_B(L)$ 을 엄격히 준수하기 위해, 저자들은 **고정 카디널리티 래퍼(Fixed-Cardinality Wrapper)**를 사용합니다. 이는 추론된 표본의 수를 목표 예산에 맞추기 위해 전역 선호도 오프셋 $p$ 에 대해 이분 탐색(bisection search)을 수행한 후, 대각 성분의 신념(belief)에 따라 top- $N$ 절단 또는 패딩을 수행하는 과정을 포함합니다.

주요 기여

최적화 재구성: 본 연구는 MSA 서브샘플링을 휴리스틱 샘플링 절차가 아닌, 생물학적 척도(다양성과 쿼리 항등성)를 명시적 목적 함수로 격상시킨 명시적 최적화 문제로 재구성한 최초의 연구입니다.
AP-REASONER: 서브샘플링 목적을 팩터에 인코딩하고 메시지 전달을 통해 이를 해결하는 Affinity-Propagation 기반의 factor-graph 접근법을 도입했습니다. 이는 다양성과 쿼리 항등성을 각각 명시적으로 조절할 수 있는 두 개의 해석 가능한 제어 노브( $\alpha$ 및 $\beta$ )를 특징으로 합니다.
실증적 검증: AP-REASONER가 구조 민감도가 높은 다운스트림 작업에서 베이스라인 샘플러(random, divMin, divMax, HHfilter, K-medians)보다 우수한 성능을 보임을 포괄적인 평가를 통해 입증하였으며, 대안적인 단백질 구조(conformation)를 제어하며 회복할 수 있음을 보여주었습니다.

실험 결과

저자들은 단백질 언어 모델 사전 학습, 장거리 접촉 예측(Long-Range Contact Prediction, LRCP), 그리고 단백질 다중 구조 예측(protein multiple conformation prediction)에 대해 AP-REASONER를 평가했습니다.

사전 학습 (MLM): 마스크드 언어 모델링(MLM) 작업에서 AP-REASONER는 무작위 샘플링 및 K-medians과 경쟁력 있는 성능을 보였으며, divMin 및 divMax를 능가했습니다. 그러나 저자들은 MLM 성능이 항상 다운스트림 구조 성능과 상관관계를 갖는 것은 아니라고 언급했습니다.
장거리 접촉 예측 (LRCP): CASP15 타겟에 대해, AP-REASONER로 학습된 모델은 베이스라인 샘플러로 학습된 모델보다 일관되게 높은 Top-L 접촉 정밀도(precision)를 달로했습니다. 성능 격차는 "정보가 풍부한 서브셋(informative subset)" 타겟에서 더 커졌습니다. 또한, 추론 과정에서 다양성 노브 $\alpha$ 를 변화시키는 것이 LRCP 성능의 단조로운 향상을 보였으며, 이는 다양한 서브셋을 촉진하는 노브의 유용성을 확인시켜 줍니다.
구조 앙상블 예측 (Conformational Ensemble Prediction): 폴드 스위칭 단백질(KaiB, RfaH, MAD2)에 대해, AP-REASONER는 무차별 무작위 샘플링 및 AF-Cluster에 비해 우수한 효율성과 정밀도를 입증했습니다.
- 무작위 샘플링이 놓칠 수 있는 희귀한 기능적 상태(예: KaiB의 Fold-switch 상태)를 성공적으로 회복했습니다.
- 훨씬 적은 샘플 수로도 (예: KaiB의 경우 AF-Cluster의 1008개 샘데 샘플 대비 56개) 대등한 구조적 정확도(RMSD)를 달성했습니다.
- $\beta$ 노브를 통해 예측 앙상블을 서로 다른 구조적 베이신(basin) 사이(예: Ground State vs. Fold-switch State)로 제어할 수 있었으며, 이를 통해 특정 기능적 상태를 표적하여 회복할 수 있었습니다.

의의 및 주장

본 논문은 MSA 서브샘플링을 factor-graph 추론을 통해 해결되는 제어 가능한 최적화 문제로 모델링하는 것이 휴리스틱 선택에 대한 원칙적인 대안을 제공한다고 주장합니다. 쿼리 항등성과 다양성을 명시적으로 균형 있게 조절함으로써, AP-REASONER는 구조 예측에 대한 다운스트림 성능을 개선할 뿐만 아니라, 단백질 구조 공간을 탐색하기 위한 자원 효율적인 메커니즘을 제공합니다. $\alpha$ 와 $\beta$ 를 통해 샘플링을 조절할 수 있는 능력은 브루트 포스(brute-force) 샘플링의 막대한 계산 비용 없이도 대안적인 기능적 상태를 예측 가능하게 회복할 수 있게 하며, 이는 단백질의 역동성 및 알로스테릭 메커니즘을 이해하는 데 매우 중요합니다.

저자들은 AP-REASONER가 메시지 전달 및 bisection 래퍼로 인해 경량 휴리스틱 샘플러보다 약 2~3배 느리다는 점을 언급하며 한계를 인정했습니다. 또한, 사전 학습 실험이 26M 규모의 코퍼스가 아닌 260K 규모의 데이터셋에서 수행되었으므로, 더 큰 규모의 레짐에서 이 방법의 확장성은 향리 연구 과제로 남아 있습니다.