🤖 machine learning

ABOPD: Antibody CDR Design via On-Policy Distillation

이 논문은 특권적 네이티브 기하 구조(privileged native geometry)를 활용한 온-폴리시 증류(on-policy distillation)를 통해 모델 생성 궤적을 감독함으로써, 표준 방식 대비 CDR-H3 루프 생성에서의 구조적 회복력을 크게 개선하고 RMSD를 감소시키는 항체 CDR 설계 프레임워크인 ABOPD를 소개한다.

원저자: Zhuo Yang, Jiaying He, Jiaqing Xie, Daolang Wang, Xipeng Qiu, Yuxin Wang, Tianfan Fu, Beilun Wang

게시일 2026-07-22

📖 2 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Zhuo Yang, Jiaying He, Jiaqing Xie, Daolang Wang, Xipeng Qiu, Yuxin Wang, Tianfan Fu, Beilun Wang

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신이 매우 정교하고 복잡한 자물쇠에 딱 들어맞는 맞춤형 열쇠를 만들려는 건축가라고 상상해 보십시오. 생물학의 세계에서 그 '열쇠'는 우리 면역 체계가 바이러스와 박테리아를 추적하기 위해 사용하는 Y자 모양의 분자인 항체입니다. 이 '자물쇠'는 바로 세균 그 자체입니다. 열쇠에서 가장 중요한 부분은 손잡이나 긴 줄기가 아니라, Y자의 맨 끝에 있는 아주 작고 꿈틀거리는 끝부분인 CDR(상보성 결정 부위)입니다. 이 끝부분은 마치 고무줄처럼 유연하여, 자물쇠의 정확한 모양에 맞춰 비틀고 돌며 딱 들어맞아야만 자물쇠를 꽉 붙잡을 수 있습니다. 만약 모양이 조금이라도 어긋나면, 열쇠는 작동하지 않고 세균은 탈출하게 됩니다.

오랫동안 과학자들은 이 고무줄 모양의 끝부분을 설계하기 위해 강력한 컴퓨터 프로그램을 사용해 왔습니다. 그들은 '확산(diffusion)'이라는 기술을 사용하는데, 이는 마치 찰흙 덩어리에서 시작하여 노이즈를 천천히 깎아내어 완벽한 모양을 만들어내는 것과 비슷합니다. 하지만 여기에는 함정이 있습니다. 컴퓨터는 완벽하게 미리 만들어진 조각상(천연 구조)을 보고 학습한 뒤, 그것을 처음부터 다시 재현하려고 시도한다는 점입니다. 문제는 컴퓨터가 실제로 조각상을 단계별로 만들어 나갈 때 미세한 실수를 저지른다는 것입니다. 인간 조각가와 마찬가지로, 처음 몇 번의 깎기 작업에서 실수를 하면 전체적인 형태가 어긋나기 시작합니다. 컴퓨터가 조각을 마칠 때쯤이면, '고무줄'의 색깔은 맞을지 몰라도 방향이 잘못 비틀려 있거나 엉뚱한 곳에 떠 있어서, 자물쇠를 붙잡을 수 없는 상태가 됩니다.

이것이 바로 '드리프트(drift, 형태가 어긋나는 현상)' 문제를 해결하려는 ABOPD(On-Policy 증류를 통한 항체 CDR 설계)라는 새로운 방법의 이야기입니다. 연구진은 컴퓨터가 '완벽한 세상'의 지도를 보고 배우고 있지만, 실제로는 자신이 만들어낸 '엉망인 세상'을 헤매고 있다는 사실을 깨달았습니다. 이를 해결하기 위해, 그들은 완벽한 모양의 비밀 설계도를 알고 있는 '특권 있는 스승(privileged teacher)'을 도입했습니다. 컴퓨터(학생)에게 단순히 완벽한 지도를 보라고 말하는 대신, 스승은 학생이 조각상을 만드는 과정을 단계별로 지켜보며, 학생이 실제로 저지르고 있는 실수에 대해 실시간으로 구체적인 교정 사항을 속삭여 줍니다.

논문은 이 접근 방식이 놀라운 효과를 거두었음을 보여줍니다. 연구팀이 항체 끝부분 중 가장 어렵고 유연한 부분(CDR-H3라고 불리는)에 이 새로운 방법을 테스트했을 때, 컴퓨터의 설계는 눈에 띄게 정확해졌습니다. '드리프트'는 줄어들었고, 최종 형태는 실제와 훨씬 더 가까워졌습니다. 구체적으로, 형태의 평균 오차가 2.37 Å에서 1.95 Å로 감소했습니다(여기서 옹스트롬(Å)은 상상하기 어려울 정도로 작은 단위이지만, 이 세계에서는 이 차이가 엄청나게 큽니다). 이것은 단순한 미세한 조정이 아니었습니다. 학생의 실제 작업물을 확인하지 않고 그저 완벽한 지도만을 가지고 계속 연습했던 기존 방식보다 명확하게 향상된 결과였습니다. 연구진은 이러한 '실시간 코칭'이 형태를 만드는 마지막 단계, 즉 디테일이 가장 중요한 시점에 특히 도움이 된다는 것을 발견했습니다. 전통적인 방식의 연습과 이 새로운 실시간 감독을 결합함으로써, ABOPD는 우리가 의도한 자물쇠에 실제로 딱 들어맞는 더 나은, 더 신뢰할 수 있는 항체를 설계할 수 있는 유망한 길을 제시합니다.

기술 요약: ABOPD – On-Policy Distillation을 통한 항체 CDR 설계

1. 문제 정의

항체 상보성 결정 부위(CDR)의 계산적 설계는 단백질 공학에서 매우 중요한 과제입니다. 이 유연한 루프들이 항원 인식 기능을 결정하기 때문입니다. 최근 확산 기반 생성 모델(diffusion-based generative models)이 이 분야를 발전시켰으나, 학습 목적 함수와 추론 과정 사이에는 근본적인 불일치가 존재합니다.

학습 분포 (Training Distribution): 표준 디노이징 학습은 "참조 유도 상태(reference-derived states)"에 대해 모델을 감독합니다. 이는 천연(native) CDR을 섭동(perturbing)시켜 생성된 노이즈가 섞인 구조들입니다.
추론 분포 (Inference Distribution): 생성 과정 동안, 모델은 자신의 이전 예측을 바탕으로 상태를 재귀적으로 생성합니다.
불일치 (The Mismatch): 생성 궤적(generation trajectory)이 진행됨에 따라 예측 오류가 누적되며, 이로 인해 모델은 학습 시 사용된 참조 유도 분포에서 크게 벗어난 상태를 방문하게 됩니다. 이는 특히 CDR-H3와 같이 유연한 CDR에서 치명적이며, 미세한 백본(backbone) 편차가 전파되어 입체적 충돌(steric clashes)이나 잘못된 항원 대면 기하구조(antigen-facing geometries)를 초래할 수 있습니다.

SFT(Supervised Fine-Tuning)나 오프라인 증류(offline distillation)와 같은 기존의 사후 학습 전략들은 여전히 참조 유도 분포 상에서 작동하므로, 모델 자체의 재귀적 생성 궤적에서 발생하는 오류를 교정하는 데 실패합니다.

2. 방법론: ABOPD 프레임워크

저자들은 ABOPD(On-Policy Distillation 기반의 항체 설계 프레임워크)를 제안합니다. 이는 구조적 감독(structural supervision)을 실제 재귀적 생성 중에 마주치는 상태들과 정렬하도록 설계된 사후 학습 전략입니다. 이 프레임워크는 세 가지 주요 단계로 구성됩니다.

A. 하이브리드 사전 학습 (H-DiffAb)

강건한 초기화를 구축하기 위해, 저자들은 단일 CDR, 멀티 CDR, 그리고 6개 전체 CDR 타겟 마스킹 등 다양한 마스킹 시나리오에 걸쳐 하나의 모델인 H-DiffAb를 사전 학습합니다. 이 모델은 학생(student)과 스승(teacher) 모델 모두의 초기화 모델로 사용되어 공정한 비교를 보장합니다.

B. 백본 인지형 스승 적응 (Backbone-Aware Teacher Adaptation)

"스승(Teacher)" 모델은 학습 중에만 가용 가능한 특권 정보(privileged information), 즉 타겟 잔기(residue)의 천연 기하구조를 통합하여 H-DiffAb로부터 파생됩니다.

구조 (Architecture): 스승 모델은 천연 $C_\alpha$ 좌표, 원자 유효성 마스크(N, $C_\alpha$ , C, O, $C_\beta$ ), 그리고 타겟-대-복합체(target-to-complex) 거리 특징을 인코딩하기 위해 경량 잔차 MLP 어댑터를 사용합니다.
기능 (Function): 이러한 특권 기술자(descriptors)는 확산 상태 표현을 변경하지 않으면서 디노이징 예측을 조건화합니다. 스승 모델은 좌표 및 방향 오류를 최소화하도록 참조 유도 상태에서 최적화되며, 결과적으로 기본 H-DiffAb보다 우수한 기하학적 예측 능력을 갖춘 모델이 됩니다.

C. 온-폴리시 증류 (On-Policy Distillation, 핵심 혁신)

"학생(Student)" 모델은 혼합 목적 함수를 사용하여 사후 학습됩니다:

학생 롤아웃 (Student Rollout): 학생 모델은 완전히 노이즈가 섞인 상태에서 시작하여 역방향 디노이징 궤적(rollouts)을 생성합니다.
상태 매칭 (State Matching): 특정 타임스텝( $t \in \{80, 70, \dots, 5\}$ )에서, 동결된 스승 모델은 학생이 현재 처리 중인 것과 동일한 학생 생성 상태( $R^S_t$ )를 평가합니다.
좌표 전이 증류 (Coordinate-Transition Distillation): 학생은 이 롤아웃 상태들에 대해 스승이 예측한 좌표 노이즈( $\hat{\epsilon}^{pos}$ )를 일치시키도록 학습됩니다. 이는 역-KL 발산 최소화로 공식화되며, 좌표 노이즈 예측에 대한 $L_2$ 손실로 단순화됩니다:
$\mathcal{L}_{OPD}^{pos} = \mathbb{E} \left[ \sum_{t \in \mathcal{T}} \sum_{i \in \mathcal{G}} \| \hat{\epsilon}^{pos}_{S, t, i} - \hat{\epsilon}^{pos}_{T, t, i} \|^2_2 \right]$
결정적으로, 이 감독은 백본 기하구조와 루프 배치를 직접 제어하는 $C_\alpha$ 좌표에만 적용됩니다. 스승의 잠재적으로 불완전한 서열 예측에 과적합되는 것을 방지하기 위해 서열 및 방향 예측은 이 단계에서 증류되지 않습니다.
오프라인 디노이징 앵커 (Offline Denoising Anchor): 사전 학습 시 학습된 결합 서열-구조-방향 목적 함수를 보존하기 위해, 독립적으로 샘플링된 참조 유도 상태에 대한 원래의 디노이징 손실( $\mathcal{L}_{anchor}$ )을 유지합니다.
최종 목적 함수: $\mathcal{L}_{ABOPD} = \mathcal{L}_{anchor} + \beta \mathcal{L}_{OPD}^{pos}$ (단, $\beta=0.6$ ).

3. 주요 기여

상태-분포 불일치 식별: 본 논문은 참조 유도 상태와 학생 롤아웃 상태 사이의 간극이 디노이징 과정 중에, 특히 기하학적 교정이 가장 중요한 후기 단계에서 넓어진다는 점을 강조합니다.
ABOPD 프레임워크: 학생 롤아웃 상태에서의 $C_\alpha$ 좌표 전이 증류와 오프라인 디노이징 앵커를 결합한 온-폴리시 증류 방법을 제안합니다.
백본 인지형 스승: 특권 천연 기하구조로 보강된 스승 모델이 표준 모델보다 훨씬 더 정확한 기하학적 타겟을 제공한다는 것을 입증했습니다 (비록 그 서열 정확도는 더 우수하지 않더라도).

4. 실험 결과

방법론은 두 가지 벤치마크에서 평가되었습니다: 동시 멀티-CDR 재설계(19 SAbDab 복합체) 및 RAbD CDR-H3 생성(60개 타겟 케이스).

RAbD CDR-H3 성능: ABOPD는 H-DiffAb 베이스라인과 비교하여 $C_\alpha$ RMSD를 2.37 Å에서 1.95 Å로 (0.42 Å 개선) 감소시켰습니다. 또한 SFT 및 오프라인 증류 대조군보다 우수한 성능을 보였습니다.
멀티-CDR 재설계: ABOPD는 모든 6개 CDR에서 RMSD를 개선했으며, 특히 CDR-H3에서 가장 큰 이득(2.94 Å $\to$ 2.48 Å)을 보였습니다. 또한 intra-CDR 및 CDR-항원 충돌율을 크게 줄였습니다 (0.93%에서 0.42%로, 1.58%에서 0.67%로).
기하학적 충실도: lDDT, TM-score, DockQ의 개선이 관찰되었으며, 이는 더 나은 로컬 기하구조, 글로벌 헤비 체인 구조 및 인터페이스 배치를 나타냅니다.
메커니즘 분석: 타임스텝별 분석 결과, "스승의 이점(Teacher advantage)"(기본 모델 대비 스승이 제공하는 오류 감소량)은 후기 타임스텝( $t \le 50$ )에서만 양수(+)가 되었습니다. 이는 온-폴리시 감독이 기하학적 정교화가 가장 활발히 일어나는 후기 단계, 즉 학생의 궤적이 이미 참조 분포에서 벗어난 시점에 가장 효과적임을 확인해 줍니다.
절제 연구 (Ablation Studies): 좌표 브랜치만을 증류했을 때 최상의 결과를 얻었습니다. 서열 또는 방향 증류를 추가하는 것은 추가적인 이득을 주지 못했으며, 일부 경우에는 성능을 저하시켰습니다.

5. 의의 및 주장

본 논문은 ABOPD가 표준 사후 학습 전략의 구체적인 한계를 해결함으로써 **고충실도 단백질 설계(higher-fidelity protein design)**를 위한 경로를 제공한다고 주장합니다.

보완적 접근 방식: 저자들은 ABOPD를 대규모 사전 학습 및 새로운 생성 아키텍처와 함께 가는 보완적인 방향으로 포지셔닝합니다. 이는 효과적인 구조적 사후 학습이 단순히 감독 신호뿐만 아니라, 그 신호를 올바른 상태(즉, 생성 중에 방문하는 상태)에 적용하는 것에 달려 있음을 보여줍니다.
제한적 범위: 저자들은 이 방법이 백본 회복과 기하학적 정확도를 개선하지만, 항체 설계의 모든 측면(예: 서열 회복 이득)을 해결한다고 주장하는 것은 아님을 명시했습니다. 주요 기여는 확산 기반 항체 생성에서 누적된 기하학적 오류를 교정하기 위한 온-폴리시 증류의 유효성을 검증하는 것입니다.