기술 요약: AgForce 는 항원 조건부 생성적 항체 설계를 가능하게 함

1. 문제 제기

치료용 항체 설계는 표적 항원에 결합하는 상보성 결정 영역 (CDR), 특히 매우 가변적인 CDR-H3 루프를 생성하는 것을 요구합니다. 항체 설계를 항원 구조에 조건부로 수행하도록 하는 심층 생성 모델이 개발되었으나, 체계적인 평가는 다음과 같은 치명적인 실패를 드러냈습니다: 기존 방법들은 대부분 항원 입력을 무시합니다.

저자들은 현재 최첨단 접근법 (특히 탐욕적 디코딩을 사용하는 등변형 그래프 신경망) 에서 세 가지 인과적으로 연결된 실패 모드를 식별했습니다:

1. 항원 맹점 (Antigen Blindness): 모델들은 표적 항원과 관계없이 거의 동일한 CDR 서열을 생성합니다. 항원이 없는 기준 모델조차도 항원 조건부 모델과 비교할 만한 결합 품질을 달성하는 경우가 많아, 조건부 메커니즘이 거의 기여하지 않음을 시사합니다.
2. 어휘 붕괴 (Vocabulary Collapse): 예측된 아미노산 분포가 심각하게 제한되어, 유효 어휘가 각 위치당 3~5 개의 아미노산으로 붕괴됩니다 (자연 서열의 약 15.5 개와 비교). 드물지만 생화학적으로 중요한 잔기는 거의 예측되지 않습니다.
3. 교차 엔트로피 천장 (The Cross-Entropy Ceiling): 저자들은 이론적으로 표준 위치별 교차 엔트로피 손실을 최소화하는 것이 최적 예측기를 조건부 신호와 무관하게 위치 주변 분포(학습 세트 전체의 각 위치에서 아미노산의 경험적 빈도) 로 수렴하게 만든다고 증명합니다. 이 수학적 특성으로 인해 표준 교차 엔트로피 목적 함수는 항원 특이적 예측을 생성하는 것이 수학적으로 불가능해집니다.

2. 방법론: AGFORCE

이러한 실패 모드를 해결하기 위해 저자들은 서열 - 구조 공동 설계를 위해 설계된 새로운 인코더 - 디코더 아키텍처인 AGFORCE를 제안합니다.

인코더 아키텍처

• 프레임워크 드롭아웃: 모델이 항원을 무시하고 항체 프레임을 "단순화"하는 데 의존하는 것을 방지하기 위해, 메시지 전달 전에 중쇄 프레임워크 임베딩을 드롭아웃 (30% 확률) 을 통해 손상시킵니다. 이는 모델이 항원 경로에서 정보를 추출하도록 강제합니다.
• VirtualNode-EGNN: 항체 - 항원 복합체는 이종 그래프로 표현됩니다. 인코더는 가상 노드가 추가된 E(3)-등변형 그래프 신경망 (EGNN) 을 사용합니다. 이러한 가상 노드는 에피토프와 CDR 잔기 사이에 2 홉 정보 채널을 생성하여, 순차적 메시지 전달 동안 먼 에피토프 정보가 희석되는 '과-압축 (over-squashing)' 문제를 완화합니다.
• 쌍곡선 교차 어텐션 (Hyperbolic Cross-Attention): 표준 유클리드 어텐션 대신, AGFORCE 는 로렌츠 쌍곡면 (Lorentz hyperboloid) 에서 CDR 에서 에피토프로의 교차 어텐션을 수행합니다. 이는 전역 에피토프 기하학이 국소 아미노산 선택을 제약하는 항체 - 항원 결합의 계층적 특성을 활용합니다.

디코더 아키텍처

• 쌍별 결합을 가진 혼합 밀도 네트워크 (Mixture Density Network, MDN): 교차 엔트로피 천장을 깨기 위해 AGFORCE 는 표준 선형 서열 헤드를 MDN 으로 대체합니다. 디코더는 $K=4$개의 성분의 혼합을 예측합니다. 각 성분은 인접한 위치 간의 쌍별 아미노산 선호도를 모델링하기 위해 대칭 결합 행렬 (Potts-like) 을 사용하며, 믿음 전파를 통해 정제됩니다.
• 어닐링 다중 선택 학습 (Annealed Multiple Choice Learning, aMCL): 모델은 표준 혼합 가능도 대신 aMCL 을 사용하여 학습됩니다. 온도 매개변수 $\tau$는 학습 과정에서 높음에서 낮음으로 어닐링됩니다. 이는 초기에 다양한 솔루션을 탐색한 후 학습 데이터의 특정 하위 집합에 대한 '승자 독식 (winner-take-all)' 할당으로 전문화되도록 합니다. 이론적으로 이는 개별 성분 예측이 전역 위치 주변 분포와 달라지도록 하여 천장을 깨뜨립니다.
• GDPP 다양성 정규화: 혼합 성분에 생성적 결정적 점 과정 (Generative Determinantal Point Process, GDPP) 손실을 적용하여 자연스러운 다양성에서의 편차를 패널티로 부과함으로써 어휘 붕괴를 직접 상쇄합니다.
• 항원 분류 손실: 특수 헤드는 예측된 서열 분포를 통해 그래디언트를 항원 임베딩 공간으로 라우팅합니다. InfoNCE 목적 함수를 사용하여 이 손실은 예측된 CDR 확률 분포가 항원 특이적 정체성을 인코딩하도록 강제하여 모델이 항원을 무시하지 못하게 합니다.

학습 목적 함수

총 손실 함수는 다섯 가지 항을 결합합니다:

1. 서열 예측 (aMCL 을 사용한 MDN-Potts).
2. 좌표 예측 (CDR 백본 좌표에 대한 Smooth-$\ell_1$ 손실).
3. 섀도 파라토프 손실 (에피토프 표면까지의 올바른 거리를 강제).
4. GDPP 다양성 정규화.
5. 항원 분류 손실.

3. 주요 기여

1. 진단 프레임워크: 본 논문은 5 가지 아키텍처 계열에서 검증된 CDR 설계용 등변형 GNN 방법론에서 세 가지 실패 모드 (항원 맹점, 어휘 붕괴, 교차 엔트로피 천장) 를 최초로 체계적으로 식별합니다.
2. AGFORCE 아키텍처: 각 실패 모드에 대한 표적 개입:
   • 맹점 해결을 위한 프레임워크 드롭아웃 및 항원 일관성 손실.
   • 어휘 붕괴 및 교차 엔트로피 천장 해결을 위한 aMCL 과 GDPP 정규화를 갖춘 MDN-Potts 헤드.
   • 개선된 구조 인코딩을 위한 쌍곡선 교차 어텐션 및 가상 노드.
3. 이론적 증명: 표준 교차 엔트로피 최적화가 위치 주변 분포로 수렴함을 증명하고, 제안된 aMCL 목적 함수가 이러한 수렴을 깨는 해를 허용함을 공식적으로 증명합니다.

4. 실험 결과

모델은 에피토프 그룹 분할을 가진 2,922 개의 항체 - 항원 복합체 데이터셋인 CHIMERA-BENCH 벤치마크에서 평가되었습니다.

• 서열 복구: AGFORCE 는 아미노산 복구율 (AAR) 0.40을 달성하여, ~0.37 로 수렴한 가장 강력한 서열 기준 모델 (RAAD, MEAN, dyMEAN) 을 능가했습니다. 이는 가장 강력한 기준 모델 대비 8% 향상이며 식별된 교차 엔트로피 천장을 깨뜨립니다.
• 결합 품질: AGFORCE 는 모든 결합 지표에서 동시에 최첨단 성능을 달성했습니다:
  • 가장 높은 네이티브 접촉 비율 (fnat = 0.67).
  • 가장 낮은 인터페이스 RMSD (iRMSD = 1.30 Å).
  • 최고의 DockQ (0.74) 및 에피토프 F1 (0.77).
  • 항원 입력이 없는 강력한 기준 모델인 RefineGNN 을 능가하여 사용된 특정 손실 함수의 효능을 입증했습니다.
• 다양성: AGFORCE 의 유효 어휘는 9.4로, GNN 기준 모델 (3.05.5) 의 거의 두 배이며 자연 다양성 (15.5) 에 근접했습니다. 모델은 테스트 복합체에서 95.5% 의 고유 서열을 생성한 반면, 기준 모델은 20.976.4% 였습니다.
• 애블레이션 연구: 쌍곡선 어텐션이나 프레임워크 드롭아웃을 제거하면 결합 품질이 크게 저하되었습니다. 항원 분류 손실을 제거하면 퍼플렉시티는 향상되었으나 결합 지표는 감소하여, 이것이 보정 (calibration) 과 결합 특이성 사이의 트레이드오프를 조절하는 정규화제 역할을 함을 확인했습니다.

5. 중요성과 주장

저자들은 AGFORCE 가 이 분야에서 조건부 서열 설계에 있어 인코더 아키텍처보다 손실 함수와 디코더 헤드의 선택이 더 중요하다고 주장합니다. 표준 교차 엔트로피와 탐욕적 디코딩을 넘어선 이 논문은 서열 복구, 구조적 정확도, 항원 특이성을 동시에 최적화할 수 있음을 보여줍니다.

이 연구는 이전의 항원 조건부 설계 실패가 모델 용량이나 데이터 부족 때문이 아니라, 학습 목적 함수 (교차 엔트로피 천장) 와 디코딩 전략 (탐욕적 디코딩) 의 근본적인 한계 때문임을 시사합니다. AGFORCE 는 원칙적인 해결책을 제공하여, 현재까지 결합 품질과 서열 복구에서 동시에 가장 좋은 성능을 달성했습니다.

인정된 한계점:

• 접촉 AAR (직접 결합 위치에서의 정확도) 는 기준 모델과 비교할 만하여, 결합 인터페이스에서의 정확한 아미노산 예측은 명시적인 사이드체인 로테이머 모델링이 필요할 수 있는 더 어려운 문제임을 시사합니다.
• 유효 어휘가 거의 두 배로 증가했음에도 불구하고, 여전히 완전한 자연 다양성에는 미치지 못합니다.