Choosing a Suitable Acquisition Function for Batch Bayesian Optimization: Comparison of Serial and Monte Carlo Approaches

이 논문은 배치 베이지안 최적화에서 다양한 수학적 함수와 페로브스카이트 태양전지 실험 데이터를 비교 분석한 결과, 6 차 이하의 '블랙박스' 함수 최적화 시 노이즈 특성을 알 수 없는 경우 qUCB 가 가장 적합한 기본 전략임을 제시합니다.

핵심

이 논문은 **"비싼 실험을 할 때, 어떻게 하면 가장 적은 노력으로 최고의 결과를 얻을 수 있을까?"**라는 질문에 답하는 연구입니다.

과학자들은 새로운 소재를 만들거나 태양전지를 개발할 때, 수많은 변수를 조합해 실험을 해야 합니다. 하지만 실험 한 번 할 때마다 돈과 시간이 너무 많이 들어서, 모든 경우의 수를 다 해볼 수 없습니다. 이때 **'베이지안 최적화 (Bayesian Optimization)'**라는 인공지능 기술을 써서, "어디를 실험하면 가장 유망할까?"를 예측하고 효율적으로 찾아갑니다.

이 논문은 특히 "한 번에 여러 개 (Batch) 를 실험할 때" 어떤 전략을 써야 가장 잘 작동하는지 비교했습니다.

---

🎯 핵심 비유: "미친 산을 등반하는 상황"

이 실험 상황을 상상해 보세요. 여러분은 안개가 자욱한 거대한 산 (우리가 모르는 실험 결과) 에 있습니다. 정상 (최고의 효율) 을 찾아야 하지만, 지도는 없고 안개 때문에 시야가 잘 안 보입니다. 게다가 등반하는 데는 엄청난 비용이 듭니다.

여러분은 한 번에 4 명 (q=4) 의 등반대를 보낼 수 있습니다. 이때, 4 명을 어디로 보내야 가장 빨리 정상에 도달할까요?

논문의 저자들은 두 가지 주요 전략을 비교했습니다.

1. 순차적 전략 (Serial, UCB/LP):

   • 방식: 1 번 등반가가 가장 유망한 곳으로 가서 결과를 보고, 그 정보를 바탕으로 2 번 등반가가 갈 곳을 정합니다. 3 번, 4 번도 마찬가지입니다.
   • 비유: "내가 지금 이 꽃밭에서 꿀을 찾았으니, 너희도 바로 옆에 있는 꽃밭으로 가봐."라고 지시하는 방식입니다.
   • 특징: 계산이 빠르고 정확하지만, 한 번 실수하면 그 실수를 고치느라 시간이 걸릴 수 있습니다.

2. 동시 전략 (Monte Carlo, qUCB 등):

   • 방식: 4 명을 동시에 보냅니다. 하지만 서로 다른 방향, 혹은 서로 다른 확률 분포를 기반으로 분산시켜 보냅니다.
   • 비유: "너희 4 명은 서로 다른 4 개의 산비탈로 흩어져서 각자 꿀을 찾아봐. 나중에 모여서 가장 꿀이 많은 곳을 보고 다음 계획을 세우자."라는 방식입니다.
   • 특징: 확률적 (랜덤) 요소가 섞여 있어, 예상치 못한 좋은 장소를 발견할 확률이 높습니다.

---

🧪 실험 내용: 어떤 산을 등반했나?

저자들은 이 두 전략을 세 가지 다른 '가상의 산'에서 테스트했습니다.

1. Ackley 산 (바늘 찾기):

   • 상황: 산 전체가 거의 평평하고 어두운데, 아주 좁은 곳에만 '진짜 정상 (바늘)'이 숨겨져 있습니다. (Needle in a haystack)
   • 결과: 두 전략 모두 잘 작동했지만, **순차적 전략 (UCB/LP)**이 바늘을 찾는 데 조금 더 정확했습니다. 하지만 **동시 전략 (qUCB)**도 매우 훌륭했습니다. 반면, 다른 전략 (qlogEI) 은 바늘을 찾지 못하고 헤맸습니다.

2. Hartmann 산 (가짜 정상):

   • 상황: 진짜 정상 옆에 거의 똑같이 높은 가짜 정상이 있습니다. 등반가들이 가짜 정상에 걸려서 "아, 여기가 최고구나!"라고 착각하고 멈출 수 있습니다.
   • 결과: 소음이 없는 상태에서는 두 전략이 비슷하게 잘했습니다. 하지만 소음 (날씨나 측정 오차) 이 심해지면, **동시 전략 (qUCB)**이 가짜 정상에 빠지지 않고 진짜 정상을 찾아내는 데 훨씬 강했습니다.

3. 실제 태양전지 실험 (PCE 모델):

   • 상황: 실제 실험 데이터로 만든 산입니다. 여기서는 '진짜 정상'이 뾰족한 바늘이 아니라, 넓고 평평한 고원처럼 되어 있습니다. 즉, 정상의 정확한 위치 (좌표) 를 맞추는 것보다, 그 고원 위에서 높은 값을 얻는 것이 더 중요합니다.
   • 결과: **qUCB (동시 전략)**가 가장 빨리 높은 효율을 내는 지점을 찾아냈고, 초기 조건에 따라 결과가 크게 달라지는 '불안정성'도 가장 적었습니다.

---

💡 결론: 무엇을 선택해야 할까?

논문의 결론은 매우 명확합니다.

"실험을 시작할 때, 산이 어떤 모양인지 (매우 평평한지, 바늘이 숨겨져 있는지, 가짜 정상이 있는지) 전혀 모른다면, 무조건 'qUCB'라는 동시 전략을 쓰세요."

왜일까요?

• qUCB는 "바늘 찾기" 상황에서도 잘하고, "가짜 정상"에 빠지지 않으며, "소음 (오차)"이 심한 실제 실험 환경에서도 가장 안정적으로 최고의 결과를 냅니다.
• 다른 전략들은 특정 상황에서는 잘할지 몰라도, 모든 상황에 통용되는 '만능 열쇠'는 아닙니다.

📝 한 줄 요약

"비싼 실험을 한 번에 여러 개 할 때, qUCB라는 방법을 쓰면 안개 낀 산에서 가장 적은 비용으로 최고의 정상에 도달할 확률이 가장 높습니다."

이 연구는 과학자들이 실험실에서의 시행착오를 줄이고, 더 빠르고 정확하게 새로운 소재나 기술을 개발할 수 있도록 도와주는 중요한 길잡이가 됩니다.

기술 요약

논문 개요

이 논문은 비용이 많이 들거나 시간이 오래 걸리는 실험 과정 (예: 신소재 합성) 을 최적화하기 위해 널리 사용되는 **배치 베이지안 최적화 (Batch Bayesian Optimization, BBO)**에서, "블랙박스" 함수의 지형 (landscape) 이나 노이즈 특성에 대한 사전 지식이 거의 없을 때 가장 적합한 **획득 함수 (Acquisition Function)**를 선택하는 방법에 대한 실증적 비교 연구를 수행합니다.

1. 연구 배경 및 문제 제기

• 배치 최적화의 필요성: 많은 과학 및 공학 실험에서 한 번에 $q$개의 샘플을 테스트하는 비용이 단일 샘플 테스트 비용과 크게 다르지 않습니다. 이를 통해 실험 효율을 높이기 위해 배치 최적화가 사용됩니다.
• 핵심 과제: 배치 최적화에서 다음에 테스트할 $q$개의 입력 파라미터를 어떻게 선택할지 결정하는 배치 획득 함수의 선택이 중요합니다.
• 현재의 딜레마: 획득 함수는 크게 직렬 (Serial) 방식 (한 번에 하나씩 선택하되 이전 선택을 반영하여 수정) 과 병렬 (Parallel/Monte Carlo) 방식 (동시에 $q$개의 점을 선택) 으로 나뉩니다. 고차원 문제에서 어떤 방식이 더 우월한지에 대한 명확한 가이드라인이 부족합니다.

2. 연구 방법론 (Methodology)

연구진은 세 가지 서로 다른 지형 특성을 가진 함수를 사용하여 다양한 획득 함수의 성능을 비교했습니다.

• 비교 대상 획득 함수:
  • UCB/LP (Serial): 국소 페널라이제이션 (Local Penalization, LP) 을 적용한 상한 신뢰 구간 (Upper Confidence Bound, UCB). 결정론적 수치 방법을 사용.
  • qUCB, qlogEI (Monte Carlo): 몬테카를로 기반 병렬 접근법. 확률적 경사 하강법을 사용.
  • qlogNEI: 노이즈가 있는 경우를 위해 설계된 노이즈 통합 qlogEI.
• 테스트 함수 (Proxies):
  1. Ackley 함수 (6 차원): "Haystack(건초더미) 속 바늘" 문제. 전역 최적점이 매우 좁은 영역에 있고 급격히 떨어지는 지형.
  2. Hartmann 함수 (6 차원): "거짓 최적점 (False Optimum)" 문제. 전역 최적점과 매우 유사한 값을 가진 국소 최적점이 존재.
     • 무노이즈 조건 및 노이즈 (1%~20%) 가 추가된 조건으로 테스트.
  3. 실증적 PCE 모델 (4 차원): 유연성 페로브스카이트 태양전지의 최대 전력 변환 효율 (PCE) 을 극대화하기 위한 실제 실험 데이터로 구축된 회귀 모델. 실제 실험의 노이즈와 불확실성을 포함.
• 실험 설정:
  • 초기 데이터: 99 개의 서로 다른 라틴 하이퍼큐브 샘플링 (LHS) 초기 세트를 사용하여 통계적 신뢰도 확보.
  • 배치 크기 ($q$): 4.
  • 최대 반복 횟수: 50 회 (총 224 개의 데이터 포인트).
  • 성능 지표: 순간 후회 (Instantaneous Regret, IR) 및 누적 후회 (Cumulative Regret, CR) 를 $y$ (목적 함수 값) 와 $X$ (입력 변수) 에 대해 측정.

3. 주요 결과 (Key Results)

A. Ackley 함수 (Needle-in-haystack)

• 성능: UCB/LP와 qUCB가 모두 qlogEI보다 월등히 우수한 성능을 보였습니다.
• 세부 분석:
  • UCB/LP는 LP 전략 덕분에 최적점 근처를 발견하면 해당 영역을 집중적으로 샘플링하여 전역 최적점 ($X_{max}$) 과 목적 함수 값 ($y_{max}$) 을 가장 정확하게 모델링했습니다.
  • qUCB도 UCB/LP와 유사하게 잘 수행되었으나, 몬테카를로 방식의 확률적 특성으로 인해 최적점 주변의 샘플링 밀도가 UCB/LP보다 약간 낮았습니다.
  • qlogEI는 TuRBO (Trust Region) 알고리즘을 추가해도 대부분의 초기 조건에서 학습이 멈추거나 성능이 저하되었습니다.

B. Hartmann 함수 (False Optimum)

• 무노이즈 조건: UCB/LP와 qUCB가 모두 qlogEI보다 우세했습니다. 두 함수 모두 $X_{max}$와 $X_{2}$ (거짓 최적점) 중 하나로 수렴하는 경향이 있었으나, UCB/LP와 qUCB는 초기 조건에 덜 민감했습니다.
• 노이즈 조건 (중요):
  • 노이즈가 5% 이상 증가함에 따라 모든 몬테카를로 기반 함수 (qUCB, qlogEI, qlogNEI) 가 UCB/LP보다 우수한 성능을 보였습니다.
  • 특히 20% 고노이즈 조건에서는 UCB/LP가 전역 최적점을 찾지 못하거나 초기 조건에 매우 민감하게 반응한 반면, qUCB는 노이즈에 강인하게 작용하며 가장 안정적으로 수렴했습니다.
  • 노이즈 전용 함수인 qlogNEI는 qUCB보다 뚜렷한 우위를 보이지 않았습니다.

C. 실증적 PCE 모델 (실제 실험 데이터)

• 특징: 실제 실험 데이터는 비가우시안 노이즈와 체계적 오차를 포함하며, 최적점 부근의 지형이 매우 평탄 (Flat plateau) 하여 정확한 $X_{max}$ 찾기가 어렵습니다.
• 결과:
  • qUCB가 가장 빠른 수렴 속도를 보였으며, 99 개의 모든 초기 조건에서 전역 최적점과 유사한 PCE 값을 찾는 데 성공했습니다.
  • UCB/LP와 qlogNEI는 수렴 속도가 느렸고, 초기 조건에 따라 성능 편차가 컸습니다.
  • 실제 실험에서는 정확한 $X$ 좌표보다 최적 목적 함수 값 ($y$) 에 근접하는 것이 중요하므로, qUCB의 $y$ 관련 후회 (Regret) 지표가 가장 우수했습니다.

4. 주요 기여 및 결론

1. 범용 권장 사항: 블랙박스 함수의 지형이나 노이즈 특성을 사전에 알 수 없는 실제 실험 환경 (재료 합성 등) 에서 **qUCB (Monte Carlo 기반 병렬 획득 함수)**를 기본 (Default) 선택으로 권장합니다.
2. 성능 비교:
   • qUCB는 "Needle-in-haystack", "False Optimum", 실제 실험 지형 등 다양한 시나리오에서 UCB/LP (직렬) 및 **qlogEI/qlogNEI (몬테카를로)**보다 전반적으로 우수한 성능을 입증했습니다.
   • 특히 노이즈가 있는 환경에서 몬테카를로 방식의 확률적 특성이 노이즈로 인한 불확실성을 상쇄하여 더 강인한 성능을 발휘함을 보였습니다.
3. 실용적 함의: 고비용 실험의 반복 횟수를 최소화하면서도 모델링된 최적값에 대한 신뢰도를 극대화하려면 qUCB를 사용하는 것이 가장 효과적입니다.

5. 의의 (Significance)

이 연구는 베이지안 최적화 분야에서 이론적 알고리즘 비교를 넘어, 실제 재료 과학 및 공학 실험에 적용 가능한 구체적인 가이드라인을 제시했다는 점에서 의미가 큽니다. 특히 고차원 (6 차원) 문제와 노이즈가 포함된 복잡한 지형에서 qUCB가 가장 신뢰할 수 있는 "안전한 선택 (Safe Default)"임을 실증적으로 증명하여, 연구자들이 실험 설계 시 획득 함수 선택에 대한 불확실성을 줄이는 데 기여합니다.