기술 요약: BIOBLOBS

문제 제기

단백질 기능은 단백질 잔기의 일부만을 차지하는 응집성 하부 구조 (예: 촉매 삼중체, 결합 주머니, 구조 모티프) 에 의해 주도됩니다. 최근 구조 예측 (예: AlphaFold, ESM) 의 발전으로 3D 구조 획득의 병목 현상은 완화되었으나, 기존 단백질 표현 학습 (PRL) 파이프라인은 이러한 하부 구조 수준에서 단백질을 모델링하지 못합니다. 현재 접근법은 일반적으로 다음 두 가지 방식 중 하나로 작동합니다:

1. 잔기 수준 작업: 모든 위치에 대한 레이블을 예측합니다. 이는 대규모로 잔기 수준 주석을 얻는 데 필요한 데이터의 부족과 높은 비용에 의해 제한됩니다.
2. 단백질 수준 작업: 풀링 (예: 평균 풀링 또는 어텐션 풀링) 을 통해 잔기 임베딩을 집계하여 단일 벡터를 생성합니다. 이는 국소 공간 조직을 폐기하여 작은 기능성 하부 구조의 신호를 주변 비기능성 잔기로 희석시키고, 어떤 하부 구조가 예측을 뒷받침하는지 식별하지 못합니다.

이러한 파이프라인은 여전히 답하지 못하는 핵심 생물학적 질문이 있습니다: 단백질의 기능을 담당하는 하부 구조는 무엇인가?

방법론: BIOBLOBS 프레임워크

BIOBLOBS는 단백질을 "블롭 (blobs)"이라고 명명된 소수의 응집성 하부 구조 집합으로 압축하고, 이러한 블롭에서 직접 기능을 예측하도록 설계된 인코더에 무관한 엔드 - 투 - 엔드 미분 가능 프레임워크입니다. 파이프라인은 세 가지 모듈로 구성됩니다:

1. 단백질 인코더

이 프레임워크는 아미노산 서열과 3D 좌표 (구체적으로 $C_\alpha$ 좌표) 로 표현된 단백질을 입력받습니다. 사전 훈련된 인코더 (예: ESM2 또는 SaProt) 를 사용하여 잔기 수준 임베딩 ($Z \in \mathbb{R}^{N \times D}$) 을 생성합니다. BIOBLOBS 는 사용되는 특정 인코더에 무관합니다.

2. 신경 블롭 파티셔너

이 모듈은 두 단계의 미분 가능 과정을 통해 단백질을 $K$개의 국소 하부 구조로 동적으로 분할합니다:

• 시드 선택: 학습된 스코어링 네트워크가 각 잔기에 스칼라 점수를 할당합니다. 서로 다른 영역이 고정되도록 보장하기 위해, $K$개의 시드는 온도 스케일 소프트맥스와 직통 추정기 (straight-through estimator) 를 사용하여 교체 없이 순차적으로 선택되며, 이는 이산적 선택을 생성하면서도 그래디언트 흐름을 유지합니다.
• 블롭 확장: 각 시드는 부드럽고 공간적으로 국소적인 하부 구조로 확장됩니다. 후보 집합은 시드의 $C_\alpha$ 좌표에서 고정된 반경 $r$ 이내에 있는 잔기들로 구성됩니다. 소속도는 다음 조합에 의해 결정됩니다:
  • 시맨틱 호환성: 시드와 후보 잔기 간의 학습된 어텐션 점수.
  • 근접 편향: 시드와 가까운 잔기를 선호하는 유클리드 거리를 기반으로 한 선형 감쇠.
  • 희소성 정규화: 부드러운 소속도 행렬은 Hoyer-Square 희소성을 사용하여 정규화되어 블롭이 컴팩트하게 유지되고 이웃의 모든 잔기를 흡수하지 않도록 합니다.

3. 다중 인스턴스 학습 (MIL) 예측기

단백질은 "가방 (bag)"으로, $K$개의 블롭은 "인스턴스"로 간주됩니다.

• 블롭 임베딩: 각 블롭의 임베딩은 구성 잔기 특징의 소속도 가중 평균으로 계산됩니다.
• 어텐션 집계: 학습된 인스턴스 스코어러가 블롭 임베딩을 변환하고, 어텐션 게이트가 각 블롭에 대한 스칼라 중요도 가중치 ($\alpha_k$) 를 계산합니다.
• 예측: 단백질 수준 표현은 변환된 블롭 임베딩의 어텐션 가중 합으로, MLP 분류기에 전달됩니다. 어텐션 가중치는 해석 가능한 중요도 점수 역할을 하여, 어떤 블롭이 예측에 가장 크게 기여하는지 나타냅니다.

주요 기여

1. BIOBLOBS 프레임워크: 하부 구조 수준에서 단백질 기능을 모델링하는 새로운 접근법입니다. MIL 헤드가 예측을 직접 국소화된 영역으로 해석 가능하게 만드는 인코더에 무관한 엔드 - 투 - 엔드 미분 가능 시스템을 제공합니다.
2. 강력한 경험적 성능: BIOBLOBS 는 다양한 단백질 기능 작업 (ProteinShake 및 VenusX) 과 여러 인코더 (ESM2, SaProt) 에 걸쳐 강력한 풀링 및 어텐션 베이스라인과 맞먹거나 초과하는 성능을 보여주며, 이는 오직 소수의 잔기만을 대상으로 작동함에도 불구하고 달성되었습니다.
3. 적응형 세분성: 제거 실험은 기능성 하부 구조의 최적 공간 규모가 작업에 따라 달라진다는 것을 보여줍니다. BIOBLOBS 는 규모에 대한 수동 조정 없이 국소 촉매 부위 (몇 개의 잔기) 에서 전체 구조 도메인 (수백 개의 잔기) 까지 그 커버리지를 적응합니다.
4. 기능성 부위의 비지도 발견: 단백질 수준 레이블만으로 훈련된 BIOBLOBS 는 M-CSA 데이터베이스에서 실험적으로 주석된 촉매 부위를 복원합니다. 이는 잔기 수준 감독 없이 기능성 하부 구조를 발견할 수 있음을 보여줍니다.

실험 결과

이 프레임워크는 두 가지 벤치마크 스위트에서 평가되었습니다:

• ProteinShake: 서열 및 구조 분할을 사용한 다섯 가지 전체 단백질 예측 작업 (GO-MF, EC-L3, SCOP-FAM, SCOP-SF, Pfam). BIOBLOBS 는 20 개 구성 중 17 개에서 최상의 테스트 지표를 달성하여 베이스라인 대비 유의미한 상대적 개선을 보였습니다 (예: ESM2 를 사용한 SCOP-FAM 에서 +26.1%).
• VenusX: 네 가지 단편 수준 기능성 부위 작업 (Act, BindI, Evo, Motif). BIOBLOBS 변형은 8 개의 인코더 - 대상 셀 중 7 개에서 최상위 매크로-F1 점수를 달성했습니다. 정렬 손실이 포함된 변형은 성능이나 부위 소프트 재현율 (SR) 을 추가로 개선했으며, "BIOBLOBS (+ attn align)"은 가장 높은 SR 을 달성하여 실제 단편에 대한 더 나은 커버리지를 나타냈습니다.

계산 효율성: 파티셔너는 평균 풀링에 비해 약 1.3 배의 월클락 시간과 3.5 배의 피크 GPU 메모리라는 modest 한 오버헤드를 발생시키지만, 서열 길이에 선형적으로 확장됩니다.

Hoyer 정규화: Hoyer 가중치 ($\lambda_H$) 를 증가시키면 예측 정확도를 희생하지 않고 블롭을 크게 압축합니다 (예: 평균 블롭 크기를 약 15 개 잔기에서 약 1.3 개 잔기로 감소). 이는 기능 예측을 위해 최소한의 잔기 집합으로 충분함을 확인시켜 줍니다.

촉매 부위 복원: M-CSA 데이터베이스의 868 개 단일 사슬 효소에 대해 테스트했을 때, EC 클래스 레이블만으로 훈련된 BIOBLOBS 는 블롭 소속도를 기반으로 촉매 잔기를 식별하는 데 있어 단백질당 중간값 AUROC 0.925 를 달성했습니다. 어텐션 가중 블롭은 54.0% 의 단백질에서 최상위 순위 블롭으로 촉매 부위를 올바르게 식별하여, 순차적 어텐션 베이스라인을 크게 능가했습니다.

의의 및 주장

이 논문은 BIOBLOBS 가 주석되지 않은 프로테옴 전반에 걸친 대규모 기능성 부위 발견으로 가는 길을 열었다고 주장합니다. 블롭을 1 급 계산 단위로 취급함으로써, 이 프레임워크는 값비싼 잔기 수준 주석이 필요 없이 단백질 수준 기능 예측과 잔기 수준 기능성 부위 식별 간의 간극을 메웁니다.

저자들은 이것이 단백질 수준 감독 하에 학습된 하부 구조를 직접 마이닝하여 실험적으로 큐레이션된 촉매 부위를 복원한 최초의 방법이라고 강조합니다. 이 프레임워크는 단백질 기능을 풀링된 잔기 임베딩이 아닌 응집성 하부 구조의 컴팩트한 집합에 대한 추론을 통해 효과적으로 모델링할 수 있음을 보여주며, 높은 예측 정확도와 생물학적 해석 가능성을 모두 제공합니다.

한계: 저자들은 블롭이 공유된 데이터셋 수준의 어휘 없이 단백질마다 독립적으로 생성되며, 반경 제한 확장은 공간적 연속성을 강제하므로, 본질적으로 비국소적인 부위 (예: 인터체인 인터페이스 또는 알로스테릭 네트워크) 는 현재 모델의 가설 클래스 밖이라는 점을 지적합니다.