기술 요약: 디리클레 프로세스 혼합 가우시안 프로세스를 통한 레짐 적응형 베이지안 최적화 (RAMBO)

1. 문제 정의

표준 베이지안 최적화(BO)는 전체 탐색 공간에 걸쳐 균일한 매끄러움과 정체된 노이즈 특성을 가정하는 가우시안 프로세스(GP) 대리 모델에 의존한다. 이러한 가정은 과학적 설계 문제에서 빈번하게 위반되는데, 이들 문제는 목적 함수가 점진적인 전이가 아닌 다중 레짐 구조(multi-regime structures), 즉 서로 다른 국소적 일관성을 가진 구역들이 날카로운 경계에 의해 분리된 형태로 구성되어 있기 때문이다.

본 논문은 이러한 한계가 결정적인 영향을 미치는 세 가지 주요 도메인을 식별한다:

• 분자 형태 탐색 (Molecular Conformation Search): 회전 가능한 결합들이 토션 장벽(torsional barriers)에 의해 분리된 별개의 에너지 분지(energy basins)를 생성한다. 각 분지는 국소적으로는 매끄럽지만, 전역적 지형은 서로 호환되지 않는 곡률을 가진 수백 개의 분지로 구성된다.
• 신약 개발 (Drug Discovery): 화학적 지형은 분자 스캐폴드(scaffold)를 따라 파편화되어 있으며, 서로 다른 화학 계열은 근본적으로 다른 구조-활성 관계(SAR)를 나타낸다.
• 핵융합로 설계 (Fusion Reactor Design): 플라즈마 기하학적 변화는 안정적인 구성과 불안정한 구성 사이의 급격한 전이를 포함하는 질적으로 다른 안정성 레짐을 통과한다.

이러한 시나리오에서 단일 전역 GP는 날카로운 전이를 과도하게 매끄럽게 만들거나(oversmoothing), 매끄러운 영역에서 노이즈를 환각(hallucinate)하여 불확실성을 잘못 보정하게 된다. 기존의 비정상성 커널 접근 방식(예: 입력 의존적 길이 척도 또는 딥 GP)은 일반적으로 하이퍼파라미터의 변화 양상을 함수 형태로 미리 지정해야 하며, 실제 과학적 지형의 이산적이고 급격한 이질성을 포착하는 데 실패한다.

2. 방법론: RAMBO

저자들은 단일 구조의 GP 대리 모델을 **디리클레 프로세스 혼합 가우시안 프로세스(DPMM-GP)**로 대체하는 RAMBO(Regime-Adaptive Mixture Bayesian Optimization)를 제안한다. 이 비매개변수적 베이지안 프레임워크는 데이터로부터 직접 추론된 미지의 개수를 가진 레짐으로 탐색 공간을 적응적으로 분할한다.

2.1 생성 모델

목적 함수는 독립적인 GP들의 가산적 혼합(countable mixture)으로 모델링된다. 생성 과정은 다음과 같다:

1. 스틱 브레이킹 구성 (Stick-Breaking Construction): 혼합 가중치는 $\beta_k \sim \text{Beta}(1, \alpha)$를 통해 생성되며, 여기서 $\alpha$는 농축 매개변수(concentration parameter)이다.
2. 레짐 할당: 각 관측치 $i$는 가중치에 기반한 범주형 분포(Categorical distribution)로부터 추출된 잠재 레짐 $z_i$에 할당된다.
3. 국소 모델링: 각 레짐 $k$는 국소적으로 최적화된 하이퍼파라미터 $\theta_k = \{\sigma^2_{f,k}, \ell_k, \sigma^2_{n,k}\}$ (신호 분산, 길이 척도, 노이즈 분산)를 가진 독립적인 GP에 의해 모델링된다.
4. 사전 분포: 수치적 안정성과 유한한 모멘트를 보장하기 위해 하이퍼파라미터는 역감마(Inverse-Gamma) 사전 분포를 따른다.

2.2 붕괴된 깁스 샘플링(Collapsed Gibbs Sampling)을 통한 추론

이산적인 레짐 할당과 차원 변화적(trans-dimensional) 파라미터 공간의 최적화가 까다롭다는 점을 해결하기 위해, 저자들은 **붕괴된 깁스 샘플러(collapsed Gibbs sampler)**를 도출하였다.

• 해석적 마진화 (Analytical Marginalization): 잠재 함수 값 $f$를 해석적으로 마진화하여, 상태 공간을 이산적 할당 $z$와 하이퍼파ら미터 $\Theta$로만 축소한다. 이는 $f$를 직접 샘플링하는 방법(예: HMC)보다 혼합 효율을 크게 향상시킨다.
• 할당 샘플링: 레짐 할당은 중국인 식당 프로세스(CRP) 사전 분포와 조건부 GP 가능도(likelihood)를 기반으로 업데이트된다.
• 하이퍼파라미터 업데이트: 활성 레짐의 하이퍼파라미터는 경험적 베이즈(Empirical Bayes, Adam을 이용한 한계 로그 가능도 최대화) 또는 메트로폴리스-헤이스팅스(Metropolis-Hastings) 단계를 통해 업데이트된다.

2.3 공간적으로 조절된 예측 분포

핵심적인 혁신은 예측 분포를 다루는 방식에 있다. 표준 DPMM은 입력값과 무관한 글로벌 인기($\pi_k$)에 따라 레짐을 집계한다. 다중 레짐 지형의 경우, 이는 특정 테스트 지점에서 무관한 레짐들을 평균화하는 결과를 초래한다.

• 제안된 해결책: 저자들은 공간적으로 조절된 예측 가중치 $w_k(x^*)$를 도입한다. 이 가중치는 글로벌 인기($\pi_k$)와 GP 사후 분산($\sigma^{-1}_{*,k}(x^*)$)에서 유도된 공간적 신뢰 항을 결합한다.
• 정당성: 이 가중치 체계는 두 가지 관점에서 정당화된다: (i) 해당 성분의 자체 예측 하에서의 기대 사후 책임도(expected posterior responsibility), (ii) 제프리(Jeffreys)의 척도 불변 참조 측도. 이는 새로운 학습 가능한 게이팅 파라미터를 도입하지 않으면서도, $x^*$에서 불확실한 레짐을 억제한다.

2.4 적응형 농축 매개변수 스케줄링

농축 매개변수 $\alpha$는 새로운 레짐을 생성하려는 경향을 제어한다. 논문은 $\alpha_t = \alpha_0 \cdot \frac{\sqrt{t}}{\log(t+e)}$ 형태의 **로그-제곱근 스케줄(Log-Sqrt Schedule)**인 적응형 스케줄링 전략을 도입한다.

• 근거: 최적화 초기에는 데이터가 희소하므로 작은 $\alpha$를 사용하여 조기 파편화를 방지한다. 데이터가 축적됨에 따라 $\alpha$를 증가시켜 미세한 레짐 구조의 발견을 허용한다. 이는 탐색-활용(exploration-exploitation)의 트레이드오프를 모델 복잡도 수준에서 수행하는 것과 유사하다.

2.5 획득 함수 (Acquisition Functions)

이 프레임워크는 DPMM-GP 사후 분포에 대한 폐쇄형 **기대 개선(Expected Improvement, EI)**을 도출한다. 획득 값은 각 구성 GP 성분의 EI에 공간적으로 조절된 $w_k(x)$를 가중치로 곱한 합계이다. 이는 불확실성을 다음과 같이 자연스럽게 분해한다:

• 레짐 내 분산 (Intra-regime variance): 특정 레짐 내의 알레아토릭(aleatoric) 불확실성.
• 레짐 간 불일치 (Inter-regime disagreement): 서로 다른 레짐 간의 불일치에서 발생하는 에피스테믹(epistemic) 불확실성.

또한, 유도된 혼합 모멘트를 사용하여 다른 획득 함수(UCB, Thompson Sampling, MES, KG, PES)로의 확장 가능성을 설명한다.

3. 주요 기여

1. DPMM-GP 대리 모델: 잠재 함수를 해석적으로 마진화하기 위해 붕괴된 깁스 샘플링을 사용하는 완전한 DPMM-GP 대리 모델을 개발하여 추론 효율성을 높였다.
2. 적응형 $\alpha$-스케줄링: 모델의 간결성과 표현력 사이의 균형을 맞추기 위한 동적 스케줄링 메커니즘을 도입했다.
3. 레짐 인식 획득 함수: 불확실성을 레짐 내 및 레짐 간 성분으로 분해하는 폐쇄형 기대 개선(EI)을 도출하여, 다중 레짐 목적 함수를 견고하게 처리할 수 있게 했다.
4. 공간적 조절 (Spatial Modulation): 추가적인 게이팅 파라미터 없이 예측 가중치에 공간적 의존성을 도입하여, 예측이 국소 탐색 공간에 적합하도록 만드는 예측 모델링 선택을 수행했다.

4. 실험 결과

저자들은 합성 벤치마크와 실제 과학적 응용 분야에서 RAMBO를 평가하였으며, 표준 SGP, TuRBO, SAASBO, BAxUS, ALEBO, HEBO를 포함한 최첨단 베이스라인들과 비교하였다.

• 합성 벤치마크: Levy 및 Schwefel 함수(6D 및 10D)에서 적응형 스케줄링을 적용한 RAMBO는 베이스라인들과 대등하거나 더 우수한 성능을 보였다. 험난한(rugged) Levy 함수에서 더 빠르게 수렴하며, 기만적인(deceptive) Schwefel 지형에서 하위 최적(suboptimal) 분지에 빠지는 것을 방지한다.
• 분자 형태 최적화 (12D): RAMBO는 200회 반복 후 최적의 베이스라인(SAASBO) 대비 에너지 감소율에서 39.73%의 개선을 달성하며, 서로 다른 로타머(rotamer) 분지 사이를 효율적으로 탐색한다.
• 가상 약물 스크리닝 (50D): 암 관련 단백질에 대한 도킹 점수 최적화에서, RAMBO는 TuRBO 대비 예측 결합 친화도(binding affinity)를 4.06% 향상시키며 화학적 공간을 스캐폴드별 레짐으로 성공적으로 분할한다.
• 핵융합로 설계 (80D): RAMBO는 서로 다른 자기 위상(magnetic topologies)에 해당하는 3~5개의 레짐을 발견하였으며, 경쟁 방법들보다 약 51.55% 높은 구속 품질(confinement quality) 값을 달와냈다. 이는 임베딩 기반 방법(저차 구조를 가정함)과 신뢰 영역(trust-region) 방법(안정성 경계에서 정체됨)의 실패 모드를 피한다.

5. 의의 및 주장

본 논문은 RAMBO가 표준 BO의 근본적인 한계인 이산적 이질성과 급격한 전이 모델링 능력을 해결한다고 주장한다. 정체된 대리 모델을 비매개변수적 혼합 모델로 교체함으로써, RAMBO는 서로 국소적으로는 일관되지만 전역적으로는 호환되지 않는 특성을 가진 "패치워크(patchwork)" 형태의 실제 지형을 포착한다.

저자들은 이 접근 방식이 비정상성의 함수 형태를 사전에 지정할 필요가 없음을 강조한다. 대신, 레짐 경계와 레짐의 개수는 데이터로부터 직접 추론된다. 다양한 고차원 다중 모드 벤치마크에서 보여준 일관된 개선은 RAMBO가 함수 평가 비용이 매우 높고 물리/화학적 구조가 복잡한 비정상성을 띠는 도메인에서 과학적 발견을 가속화할 수 있는 강력한 프레임워크임을 시사한다.

이 연구는 계산 과학 워크플로우의 자원 및 에너지 발자국을 낮추기 위해 고품질 솔루션에 도달하는 데 필요한 비용이 많이 드는 시뮬레이션이나 실험의 횟수를 줄이는 방법을 제시한다. 저자들은 이 방법이 최적화를 가속화하지만 불확실성 하에서의 점 추정(point recommendations)을 생성한다는 점을 명시하며, 특히 안전이 중요한 응용 분야에서는 의사 결정자가 획득 값을 절대적인 순위가 아닌 심의 과정의 입력값으로 취급해야 한다고 조언한다.