기술 요약: 단백질 구조 예측을 위한 오라클 예산 활용 방법

문제 정의

단백질 구조 예측을 위한 파운데이션 모델(예: AlphaFold3, Chai-1, Boltz-2)은 높은 정확도를 입증했으나, 특정 타겟에 대해서는 신뢰도가 낮아 단일 컨포메이션으로 붕괴되거나, 물리적으로 불가능한 기하학적 구조를 생성하거나, 복합체를 잘못 조립하는 등의 문제를 보일 수 있다. 이를 완화하기 위해 연구자들은 외부 "오라클"(예: 분자 역학 시뮬레이션 또는 결합 에너지 계산)을 사용하여 예측의 신뢰도를 점수화하고 플래그를 지정한다. 그러나 이러한 생물학적 오라클은 계산 비용이 매우 높고 미분 불가능한 경우가 많아, **오라클 예산(oracle budget)**이라는 결정적인 제약을 만든다.

인퍼런스 타임 스티어링(FK-steering), 미세 조정(DPO), Best K-of-N 샘플링과 같은 기존 가이드 방식들은 출력의 품질을 높이기 위해 오라클 점수를 활용하지만, 다양한 예산 제약 조건 하에서 이 방법들이 어떻게 성능을 내는지에 대한 체계적인 비교는 이루어지지 않았다. 본 연구가 다루는 핵심 문제는 주어진 오라클 평가 횟수($N$)가 제한적일 때 어떤 가이드 전략이 가장 효과적인지를 결정하는 것이다.

방법론

저자들은 두 가지 단백질 타겟인 칼모듈린(calmodulin, 1CLL)과 E. coli 아스파르테이트 트랜스카바모일아제(9EEH)에 대해 Boltz-2 단백질 구조 예측 모델에 적용되는 네 가지 가이드 전략을 벤치마킹하였다. 각 방법은 $K$개의 후보 구조를 반환하기 위해 고정된 $N$번의 오라클 호출 예산 하에서 평가된다.

1. O3를 통한 베이지안 최적화 (Optimisation Over Outputs)

Willis 등(2025)으로부터 채택된 이 방식은 가이드 문제를 저차원 블랙박스 최적화 작업으로 취급한다.

• 서브스페이스 구축: 이 방법은 먼저 $M$개의 초기 구조를 샘플링하고 오라클 점수에 따라 상위 $d$개의 시드(seed)를 선택한다. 이후 이 시드들을 사용하여 모델의 잠재 공간(latent space) 내에 저차원 서브스페이스 $\mathcal{U}$를 구축한다.
• 매핑: 서로게이트 차트 $\phi$는 Knothe–Rosenblatt 변환(심플렉스 상의 가중치 생성 목적)과 LOL 투영(가중치를 잠재 공간으로 다시 매핑)을 사용하여 $\mathcal{U}$ 내의 점들을 잠재 공간으로 매핑한다.
• 최적화: 초기 시드와 무작위 샘플을 사용하여 $\mathcal{U}$ 내에 가우시안 프로세스(GP) 서로게이트 모델을 적합시킨다. 그 후, 남은 $N-M$ 예산을 사용하여 최적의 점을 찾기 위해 베이지안 최적화(특히 Log Expected Improvement)를 수행한다.

2. FK-Steering (Feynman-Kac)

모델 가중치를 수정하지 않고 샘플링 궤적을 변경하는 인퍼런스 타임 방식이다.

• 메커니즘: 생성 과정 중에 $M$개의 상호작용하는 입자(확률 과정)를 생성한다.
• 리샘플링: 중간 디노이징 단계에서 오라클 보상 신호로부터 유도된 가중치에 비례하여 입자들을 리샘플링한다. 단계 간의 보상 차이를 이용하여 보상이 증가하는 입자를 선호하도록 한다.
• 예산 할당: 총 예산 $N$은 $M$개의 입자에 분배되어 리샘플링 횟수를 결정한다.

3. 직접 선호 최적화 (Direct Preference Optimisation, DPO)

오라클 점수가 부여된 쌍을 기반으로 모델 파라미터를 업데이트하는 미세 조정 방식이다.

• 메커니즘: KL 정규화된 목적 함수를 사용하여 선호되는 구조($x_w$)에 대한 가능성을 거부된 구조($x_l$)보다 높이도록 모델을 미세 조정한다.
• 변형: 본 논문은 오프라인 DPO(고정된 $N$개 샘플로 학습)와 온라인 DPO(샘플링과 학습을 교차하며 매 에포크마다 참조 모델을 재설정)를 모두 평가한다.
• 근사: 디퓨전 로그 가능도(log-likelihood) 계산이 비용이 많이 들기 때문에, 훈련 손실의 차이(LDSM)를 사용하여 로그 가능도 비율을 근사한다.

4. Best K-of-N 샘플링

$N$개의 샘플을 독립적으로 추출한 후, 오라클 점수가 가장 높은 상위 $K$개의 구조를 반환하는 베이스라인 방식이다.

실험 설정

• 오라클: 주요 오라클은 계산 효율성을 위해 지면 진실(ground-truth) PDB 구조(1CLL)에 대한 TM-score(Template Modeling score)를 사용한다. 두 번째 실험에서는 9EEH에 대해 MolProbity 오라클을 사용한다.
• 예산: 평가는 여섯 가지 $(N, K)$ 구성에 대해 수행된다: $(20, 2), (50, 5), (100, 10), (200, 20), (500, 50), (1000, 100)$.
• 지표: 성능은 Mean-of-K(배치의 평균 품질)와 Max-of-K(단일 최적 구조의 품질)로 측정된다.

주요 결과

예산에 따른 성능

연구 결과, 단일 방법이 모든 예산 크기에서 우위를 점하지는 않으며, 효과는 가용 오라클 예산에 크게 의존한다는 것이 밝혀졌다.

• 저-중간 예산 ($N \le 1000$): O3가 다른 모든 방법을 유의미하게 앞선다. $N=20$일 때 FK-steering과 DPO는 성능이 저조(베이스라인 수준)한 반면, O3는 $N=1000$에서 약 $0.81$의 Mean-of-K TM-score를 달성하며, 이는 Best K-of-N 베이스라인($\sim0.60$)을 훨씬 상회하는 수준이다.
• 높은 예산: FK-steering과 DPO는 $N$이 증가함에 따라 꾸준한 개선을 보인다. FK-steering은 $N=1000$에서 $\sim0.73$에 도달하여 DPO($\sim0.71$)를 추월하지만, 테스트된 범위 내의 O3 성능에는 미치지 못한다.
• Best K-of-N: 이 베이스라인은 모든 예산에 대해 비교적 평탄한 양상을 보이며, 저예산 상황에서 정교한 가이드 방식들의 하한선 역할을 한다.

방법론별 세부 발견

• O3: 성능 향상은 저차원 서브스페이스 구축과 베이지안 최적화의 결합에서 기인한다. 최적의 서브스페이스 차원($d$)은 예산에 따라 변한다(예: $N=20$일 때는 $d=6$이 최적, $N=200$일 때는 $d=10$이 더 나음). 이는 서브스페이스의 풍부함과 최적화 난이도 사이의 트레이드오프를 나타낸다.
• FK-Steering: 보상 스케일링 계수($\lambda$)를 높이면 성능이 향려되지만 출력 다양성이 감소할 수 있다. 입자 수를 줄이는 대신 리샘플링 단계를 늘리는 것은 높은 예산에서 일반적으로 더 좋은 결과를 낳는다.
• DPO: 온라인 DPO(참조 모델 재설정)는 트레이드오프를 제공한다. 이는 KL 정규화를 완화하지만 사전 학습된 모델의 영향력을 약화시킨다. 테스트된 설정 내에서 DPO는 FK-steering이나 O3를 능가하지 못했다.

의의 및 주장

본 논문은 단백질 구조 예측에서 오라클 예산 제약에 따른 가이드 전략 선택을 위한 최초의 실질적인 기준을 제공한다고 주장한다.

• 실무적 가이드: 저자들은 연구 결과를 실행 가능한 권장 사항으로 정리하였다. 생물학적 실험실 환경에서 흔히 발생하는 것처럼 오라클 예산이 부족한 실무자들은 소수의 고품질 시드를 활용해 효율적인 탐색 공간을 정의하는 O3(Optimisation Over Outputs)를 사용해야 한다. 반대로 예산이 더 넉넉하다면 FK-steering이 경쟁력 있는 대안이 될 수 있다.
• 방법론적 기여: 이 연구는 일반적인 생성 모델을 위해 제안되었던 O3 프레임워크를 단백질 구조 예측이라는 특정 도메인으로 확장하여, 고차원적이고 미분 불가능한 오라클 환경에서의 효용성을 입증하였다.
• 한계점: 연구는 TM-score를 광범위한 벤치마킹에 사용했으나, 식별된 트레이드오프는 비용이 많이 드는 미분 불가능한 생물학적 오라클에도 적용된다는 점을 인정한다. 결과는 Boltz-2 모델과 테스트된 단백질 타겟에 특화되어 있으나, 저자들은 예산에 따른 트레이드오프가 일반적인 현상임을 시사한다.

요약하자면, 본 논문은 가이드 방법의 선택이 보편적인 것이 아니라 오라클의 비용에 결정적으로 달려 있으며, 특히 자원이 제한된 시나리오에서는 O3가 뚜렷한 이점을 제공한다고 주장한다.