🤖 machine learning

Enhancing Bayesian Optimization and Active Learning Through Kernel Diversity

이 논문은 계산 비용이 많이 드는 하이퍼파라미터 샘플링을 커널 앙상블과 불일치 인지형 획득 전략으로 대체함으로써 베이지안 최적화와 능동 학습을 향상시키고, 최신 기법들보다 우수한 성능과 상당한 속도 향상을 달성하는 통합 프레임워크인 KENDO를 소개한다.

원저자: Heng Zhang, Haotian Xiang, Qin Lu, Konstantinos D. Polyzos, Tara Javidi

게시일 2026-08-26

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Heng Zhang, Haotian Xiang, Qin Lu, Konstantinos D. Polyzos, Tara Javidi

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

인공지능의 세계에서 많은 문제들은 마치 지도가 없는 광활하고 안개 낀 산맥에서 가장 높은 봉우리를 찾는 것과 같습니다. 당신은 발밑의 지면만을 볼 수 있으며, 탐사를 위해 내딛는 모든 발걸음은 시간과 에너지를 소모합니다. 이것이 바로 새로운 약물을 설계하거나 복잡한 컴퓨터 모델의 설정을 조정하는 데 사용되는, 비싸고 신비로운 함수를 최적화하는 과제의 핵심입니다. 이 안개를 헤쳐 나가기 위해 과학자들은 베이지안 최적화(Bayesian optimization)라고 불리는 전략을 사용합니다. 그들은 지형에 대한 일종의 교육적인 추측인 확률적 지도를 구축하여, 다음에 어디를 살펴볼지 결정하도록 돕습니다. 이 지도는 커널(kernel)이라 불리는 수학적 도구에 의존하는데, 이는 시스템이 공간상의 두 점 사이의 관계를 어떻게 이해할지를 결정하는 렌즈 역할을 합니다. 만약 렌즈가 너무 흐릿하거나 모양이 잘못되었다면, 지도는 오해를 불러일으킬 것이며 최적의 해답을 찾는 과정은 실패하게 됩니다.

수년 동안 연구자들은 어려운 선택 문제로 고심해 왔습니다. 하나의 렌즈를 선택하여 그것이 지형에 맞기를 기도하며 잘못된 추측의 위험을 감수할 것인지, 아니면 그 렌즈의 가능한 모든 변형을 고려하기 위해 수천 번의 무겁고 느린 컴퓨터 시뮬레이션을 실행할 것인지의 문제였습니다. 첫 번째 방법은 빠르지만 종종 틀리고, 두 두 번째 방법은 정확하지만 너무 느려 실질적으로 불가능해집니다. 조지아 대학교와 캘리포니아 대학교 샌디에이고 캠퍼스의 연구진은 이제 새로운 길을 제시했습니다. 그들은 자신들의 접근 방식을 KENDO라고 부르는데, 이는 완벽한 단일 렌즈를 추측하려고 노력하는 대신, 각기 다른 관점을 가진 다양한 렌즈들의 팀을 구축하는 시스템입니다. 이 시스템은 서로 다른 견해들이 서로 충돌하게 함으로써, 기존 방식의 무거운 계산 비용 없이도 효율적으로 안개를 헤쳐 나갈 수 있습니다.

이 새로운 접근 방식의 핵심은 컴퓨터가 불확실성을 처리하는 방식의 변화에 있습니다. 전통적으로 시스템이 지형의 형태에 대해 확신이 없을 때, 시스템은 수천 가지의 가능성을 샘플링하기 위해 방대한 시뮬레이션을 실행했으며, 이 과정은 오랜 시간이 걸립니다. 새로운 방법은 이를 서로 다른 유형의 커널, 즉 렌즈를 사용하는 별개의 모델 모음으로 대체합니다. 컴퓨터에게 하나의 렌즈에 대한 수천 가지의 미세한 변형을 상상하라고 요구하는 대신, 완전히 다른 몇 가지 렌즈를 비교하도록 단순히 요청하는 것입니다. 그런 다음 시스템은 지금까지의 성과를 바탕으로 이 렌즈들의 가중치를 조절합니다. 만약 어떤 렌즈가 다른 렌즈들보다 지형을 더 잘 예측한다면, 시스템은 그 렌즈에 더 많은 영향력을 부여합니다. 이는 가장 좋은 모델이 길을 안내하고, 시스템이 데이터를 수집함에 따라 어떤 렌즈를 신뢰해야 할지 학습하는 역동적인 팀을 만들어냅니다.

이 접근 방식이 특히 영리한 점은 이러한 모델 간의 불일치를 사용하여 탐색을 유도하는 방식에 있습니다. 기존의 방법에서는 시스템이 가장 불확실한 곳을 찾았습니다. 하지만 새 시스템은 팀 내의 서로 다른 렌즈들이 서로 강력하게 의견이 갈리는 곳을 찾습니다. 만약 한 렌즈는 지면이 높다고 생각하고 다른 렌즈는 낮다고 생각한다면, 그 지점은 조사의 우선적인 대상이 됩니다. 이러한 갈등 지점에 집중함으로써, 시스템은 최적의 해답이 어디에 있을지뿐만 아니라, 현재의 문제에 어떤 렌즈가 가장 신뢰할 만한지도 학습합니다. 이 이중 학습 과정은 시스템이 다시 시작하거나 값비싼 시뮬레이션을 실행할 필요 없이, 실시간으로 지도를 정교화하며 스스로의 실수를 바로잡을 수 있게 해줍니다.

연구진은 단순한 수학적 퍼즐부터 복잡한 실제 공학 문제에 이르기까지 다양한 과제에 대해 이 아이디어를 테스트했습니다. 단일 최적해를 찾는 것이 목표인 단일 목적 최적화(single-objective optimization) 영역에서, 그들의 새로운 시스템은 오늘날 사용 가능한 가장 진보된 방법들과 대등하거나 더 나은 성능을 보여주었습니다. 더 중요한 것은, 이 시스템이 최대 5배 더 빠르게 작동하면서도 그 성과를 냈다는 점입니다. 최소한의 데이터 포인트로 함수를 학습하는 것이 목표인 능동 학습(active learning) 분야에서, 이 새로운 방법은 더욱 극적인 결과를 보여주었으며, 이전 표준보다 최대 27배 더 빠른 속도를 달성했습니다. 이러한 속도 향상은 매우 중요한데, 이는 한때 해결하는 데 몇 시간 또는 며칠이 걸렸던 문제들을 이제 몇 분 만에 다룰 수 있음을 의미하며, 더 복합적이고 빈번한 응용의 문을 열어주기 때문입니다.

연구진은 또한 단 하나의 '최선'의 답이 있는 것이 아니라, 자동차를 더 안전하면서도 동시에 연료 효율적이게 만드는 것과 같이 상충하는 목표들이 존재하는 상황을 다루기 위해 이 방법을 확장했습니다. 이러한 다중 목적(multi-objective) 시나리오에서, 시스템은 여러 목표를 한 번에 해결하는 복잡함에 빠지지 않고 전체적인 절충안의 범위를 탐색하기 위해, 서로 다른 목표들을 하나의 점수로 일시적으로 결합하는 랜덤 스칼라화(random scalarization) 기법을 사용합니다. 결과는 이 접근 방식이 차량 안전 설계 및 항생제 생산과 같은 실제 벤치마크에서 기존 방법들을 능가하며 최적의 타협안을 효과적으로 도출할 수 있음을 보여주었습니다.

이러한 성공에도 불구하고, 연구진은 그들의 방법이 모든 상황에 적용되는 마법의 탄환은 아니라는 점을 인정합니다. 이 시스템은 서로 다른 렌즈들의 결합된 견해를 근사하는 데 의존하므로, 렌즈들이 서로 판이하게 다를 경우 불확실성을 약간 과소평가할 수 있습니다. 또한, 팀은 여전히 사용할 초기 렌즈 세트를 수동으로 선택해야 하지만, 연구진은 향후 작업에서 이 선택 과정을 자동화할 수 있다고 제안합니다. 그럼에도 불구하고, 이 연구 결과는 지능형 탐색 시스템을 더 빠르고 더 신뢰할 수 있게 만드는 데 있어 상당한 진전을 나타냅니다. 다양성과 불일치를 통해 모델의 불확실성을 강점으로 바꿈으로써, 연구진은 단순하고 전문화된 모델들의 팀이 종종 하나의 지나치게 복잡한 모델보다 더 뛰어난 성능을 발휘할 수 있음을 보여주었습니다. 이 접근 방식은 제한된 시간과 자원의 세계에서 최선의 해결책을 찾아야 하는 과학자와 엔지니어들에게 실질적인 경로를 제공합니다.

기술 요약: 커널 다양성을 통한 베이지안 최적화 및 능동 학습의 향상

문제 정의

베이지안 최적화(BO)와 베이지안 능동 학습(BAL)은 순차적 샘플링을 유도하기 위해 일반적으로 가우시안 프로세스(GP)와 같은 확률적 대리 모델에 의존합니다. 이러한 패러다임의 핵심적인 병목 현상은 하이퍼파라미터 선택(예: 커널 선택 및 길이 척도 파라미터)입니다.

점 추정(Point Estimation): 전통적인 방법은 단일 하이퍼파라미터 세트를 찾기 위해 주변 가능도(marginal likelihood)를 최대화합니다. 이 방식은 계산 효율적이지만, 특히 최적화 초기 단계에서 모델 오지정(misspecification)과 과적합에 취약합니다.
전체 베이지안 처리(Fully Bayesian Treatment): 전체 베이지안 접근 방식은 MCMC 샘플링을 사용하여 하이퍼파라미터 사후 분포를 통합합니다. 이는 불확실성을 고려할 수는 있지만, 다봉형(multimodal) 또는 고차원 사후 분포로부터 샘플링할 때 막대한 계산 비용을 초 incurs(발생)시킵니다.
커널 오지정(Kernel Misspecification): 커널의 종류 자체도 오지정의 원인이 됩니다. 단 하나의 커널(예: RBF, Matérn)이 모든 문제 지형에 보편적으로 최적인 것은 아닙니다. 기존의 앙상블 방법들은 단일 GP 모델을 선택하거나, 획득 단계(acquisition phase)에서 모델 간의 **불일치(disagreement)**를 활용하지 못하는 경우가 많습니다.

방법론: KENDO

본 논문은 하이퍼파라미터 샘플링을 명시적인 **앙상블 가우시안 프로세스(EGP)**와 적응형 베이지안 가중치로 대체하는 통합 프레임워크인 KENDO(Kernel ENsemble Disagreement-aware Operator)를 제안합니다. 핵심 메커니즘은 불확실성의 근원을 단일 커널의 하이퍼파라미터 샘플에서 단일 커널의 구조적 불일치로 전환하는 것입니다.

1. 앙상블 대리 모델
단일 커널의 하이퍼파라미터를 샘플링하는 대신, KENDO는 $M$ 개의 커널 $\mathcal{K} = \{\kappa_1, \dots, \kappa_M\}$ 으로 구성된 딕셔너리를 유지합니다.

각 커널 $m$ 은 주변 가능도 최대화를 통해 피팅된 하이퍼파라미터 $\hat{\theta}_m$ 을 갖는 자체 GP를 가집니다.
앙상블은 가우시안 혼합 사전 분포를 형성합니다. 사후 분포는 **모멘트 매칭(moment matching)**을 통해 단일 가우시안 요약인 평균 $\bar{\mu}_t(x)$ 와 분산 $\bar{\sigma}^2_t(x)$ 를 생성하도록 근사됩니다.
분산 분해는 GP 내부 불확실성(내재적 노이즈)과 GP 간 불일치(커널 선택에 의한 모델 불확실성)를 명시적으로 구분합니다.
가중치 $w^m_t$ 는 각 커널의 주변 가능도에 기반한 베이지안 모델 평균화(Bayesian Model Averaging)를 통해 적응적으로 업데이트됩니다.

2. 불일치 인지 획득 함수 (Disagreement-Aware Acquisition Functions)
KENDO는 한계 앙상블 사후 분포와 조건부 사후 분포 사이의 불일치를 측정하는 획득 함수를 도출합니다.

KENDO-BO (최적화):
- 샘플링된 최적화 도구에 조건을 거는 SCoreBO의 개념을 응용합니다.
- 각 커널 $m$ 과 샘플 $n$ 에 대해, 함수 실현(function realization)을 추출하고, 그 최적점 $x^*_{m,n}$ 을 찾아 GP를 이 "유령(phantom)" 최적점에 조건화합니다.
- 획득 함수 $\alpha(x)$ 는 한계 앙상블과 각 커널의 최적점 조건부 사후 분포 사이의 헬링거 거리(Hellinger distance)를 집계합니다.
- 목표: 최적점의 위치를 아는 것이 앙상블의 예측을 얼마나 크게 수정하게 만들지를 기준으로 쿼리 지점을 결정하며, 탐색(exploration)과 모델 선택(model selection) 사이의 균형을 맞춥니다.
KENDO-AL (능동 학습):
- 특정 최적점을 찾는 것이 아니라 전역 함수 근사를 목표로 하므로, 최적점 조건화 과정을 제거합니다.
- 한계 앙상블과 개별 커널 구성 요소의 사후 분포 사이의 헬링거 거리를 측정합니다.
- 목표: 커널의 정체가 예측에 최대의 영향을 미치는 지점을 쿼리하여, 높은 모델 불확실성을 가진 영역을 우선시합니다.

3. 다목적 최적화(MOBO)로의 확장
KENDO를 다목적 BO(MOBO)로 확장하기 위해 저자들은 무작위 스칼라화(random scalarization) 전략을 사용합니다.

각 목적 함수에 대해 독립적인 EGP가 유지됩니다.
각 반복마다, 목적 함수들을 스칼라화하기 위해 대칭 디리클레 분포에서 무작위 가중치 벡터 $\lambda_s$ 를 샘플링합니다.
무작위 푸리에 특징(RFF)을 사용하여 스칼라화된 목적 함수에 대한 단일 최적점을 찾습니다.
획득 함수는 목적 함수 및 스칼라화 샘플 전반에 걸쳐 헬링거 거리를 집계합니다. 이는 단일 최적점 조건화 구조를 유지하면서도, 전체 파레토 집합(Pareto set)에 조건을 걸 때 발생하는 계산적 확산을 피하고 파레토 프런트를 효과적으로 커버합니다.

주요 기여

통합 프레임워크: 하이퍼파라즘 샘플링을 이산적 커널 앙상블로 대체함으로써 앙상블 모델링과 자기 교정적 최적화를 통합하는 KENDO를 제안합니다.
효율적인 획득 함수: 값비싼 MCMC 샘플링 없이도 한계 앙상블과 조건부 앙상벨 사후 분포 간의 불일치를 기반으로 하는 계산 효율적인 획득 함수를 도출합니다.
MOBO 확장: 단일 최적점 조건화 구조를 유지하면서도 다목적 솔버의 복잡성을 피하는 무작위 스칼라화 접근 방식을 도입하여 다목적 최적화로 확장합니다.
능동 학습으로의 일반화: 앙상블 메커니즘이 베이지안 능동 학습(KENDO-AL)으로 일반화되어, BALD, BQBC, SAL보다 우수한 예측 캘리브레이션(predictive calibration)을 달성함을 입증합니다.

실험 결과

단일 목적 최적화, 다목적 최적화, 능동 학습에 걸친 합성 및 실제 벤치마크에서 광범적인 수치 테스트가 수행되었습니다.

단일 목적 BO: KENDO-BO는 9개의 벤치마크에서 최첨단 방법들(SCoreBO, PES, JES 포함)과 비교하여 경쟁력 있거나 우수한 최적화 성능(단순 후회/simple regret로 측정)을 달성했습니다. 또한 MCMC 기반 방법들에 비해 계산 오버헤드를 최대 5배까지 줄였습니다.
다목적 BO: KENDO-MO는 대부분의 벤치마크에서 가장 낮은 $\log_{10}$ 하이퍼볼륨 차이를 기록했습니다. 결정적으로, 샘플링된 파레토 프런트에 조건을 거는 변형 모델(KENDO-MO-PF)보다 우수한 성능을 보여 무작위 스칼라화 전략의 효용성을 입증했습니다.
능동 학습: KENDO-AL은 7개 벤치마크에서 BALD, BQBC, SAL에 비해 우수한 예측 캘리브레이션(가장 낮은 음의 로그 가능도)을 달성했습니다. 또한 MCMC 기반인 SAL 베이스라인 대비 27배의 속도 향상을 이루었습니다.
절제 연구(Ablation Studies): 적응형 베이지안 가중치가 균등 평균보다 우수함을 확인하였으며, 앙상블이 우수한 커널이 존재할 때는 "승자 독식(winner-take-all)" 동작을 보이지만, 그렇지 않을 때는 다양성을 유지함을 확인했습니다.

의의 및 주장

본 논문은 커널 패밀리의 다양성이 중요하지만 종종 간과되는 모델 불확실성의 원천이라고 주장합니다. 앙상블과 불일치를 활용한 명시적 모델링을 통해, KENDO는 완전 베이지안 처리에 대한 실용적인 대안을 제공합니다.

효율성 vs 정확도: 본 프레임워크는 모델 오지정(handling model misspecification)을 처리하는 완전 베이지안 방법의 견고함을 얻으면서도, MCMC의 막대한 계산 비용을 지불하지 않아도 된다는 것을 보여줍니다.
확장성: MCMC 기반 접근 방식보다 훨씬 더 잘 확장되어, 더 큰 예산과 실제 응용 분야에서 완전 베이지안 스타일의 불확실성 정량화를 가능하게 합니다.
통합적 접근: 최적화(최적점 찾기)와 능동 학습(함수 학습) 모두에 적용 가능한 공통의 자기 교정 메커니즘을 구축하며, 이는 모델 구조 간의 불일치를 측정하는 동일한 원리에 의해 구동됩니다.

저자들이 언급한 한계점:
현재 프레임워크는 모멘트 매칭에 의존하여 가우시안 혼합 사후 분포를 근사하므로, 커널 간 예측이 매우 상이한 경우 불확실성을 과소평가할 수 있습니다. 또한 커널 딕셔너리는 수동 지정이 필요하지만, 저자들은 커널 구성을 통한 자동 구축을 향후 연구 방향으로 제시했습니다.