기술적 요약: 고차원 베이지안 최적화 이해

문제 정의

고차원 베이지안 최적화 (HDBO) 는 차원 $d$가 큰 경우, 평가 비용이 높은 블랙박스 함수 $f: [0, 1]^d \to \mathbb{R}$의 최솟값을 찾는 것을 목표로 합니다. 베이지안 최적화 (BO) 는 저차원 환경에서는 효과적이지만, 역사적으로 차원의 저주 (COD) 로 인해 고차원에서는 실현 불가능한 것으로 간주되어 왔습니다. COD 는 정밀도를 유지하기 위해 기하급수적으로 많은 데이터 포인트를 필요로 하며, 가우시안 프로세스 (GP) 하이퍼파라미터 적합을 복잡하게 만들고, 획득 함수 (AF) 의 최대화를 방해합니다.

최근 문헌 (예: Hvarfner 등, 2024; Xu & Zhe, 2024) 은 간단한 BO 방법이 고차원 실세계 벤치마크에서 놀라울 정도로 잘 수행되며, 종종 고차원을 위해 특별히 설계된 정교한 알고리즘보다 우수한 성과를 보인다고 제안했습니다. 그러나 이러한 성공의 근본적인 이유와 HDBO 에 남아 있는 구체적인 과제는 충분히 규명되지 않았습니다. 본 논문은 가산성이나 저차원 활성 부분 공간과 같은 강력한 구조적 가정에 의존하지 않고, 표준 GP 대리 모델의 행동에 초점을 맞춰 이러한 현상을 조사합니다.

방법론 및 분석

저자들은 HDBO 에서의 실패와 성공의 근본 원인을 규명하기 위해 포괄적인 경험적 분석을 수행하였으며, 문제의 세 가지 주요 측면에 집중했습니다.

1. 모델 적합 (MLE) 에서의 기울기 소실

본 논문은 고차원에서 GP 길이 척도에 대한 표준 최대우도추정 (MLE) 이 기울기 소실로 인해 종종 실패함을 규명했습니다.

• 메커니즘: 길이 척도를 표준 값 (예: $\ln 2$) 으로 초기화할 경우, 고차원 문제에서 한계 로그우도 (MLL) 의 길이 척도에 대한 기울기가 소실됩니다. 결과적으로 최적화기는 길이 척도를 업데이트할 수 없어, 관측된 데이터와 무관하게 초기값에 머무르게 됩니다.
• 증거: 실험에 따르면 짧은 초기 길이 척도로 설정할 경우, 중간 정도의 차원에서도 기울기가 소실됩니다. 이는 GP 가 함수의 실제 규모에 적응하는 것을 방해합니다.
• 완화 방안: 저자들은 초기 길이 척도를 $\sqrt{d}$배 (구체적으로 $\sqrt{d}/10$) 하여 스케일링하는 간단한 초기화 전략을 제안합니다. 이는 최적화기가 기울기가 소실되지 않는 영역에서 시작하도록 보장하여, 최대사후확률 (MAP) 추정이나 복잡한 하이퍼프리오가 필요 없이 길이 척도를 효과적으로 적합할 수 있게 합니다.

2. 획득 함수 최적화에서의 기울기 소실

GP 모델이 올바르게 적합되더라도 획득 함수 (AF) 최적화는 실패할 수 있습니다.

• 메커니즘: 고차원에서는 탐색 공간의 넓은 영역이 미탐색 상태로 남습니다. GP 사후분포가 이러한 영역에서 평평하다면 (충분히 긴 길이 척도나 데이터 부족으로 인해), AF 표면도 평평해집니다. AF 를 최대화하는 데 사용되는 기울기 기반 최적화기 (예: 기대 개선량용) 는 따라서 기울기 소실을 경험하여 초기 무작위 후보에서 이동하지 못합니다.
• RAASP 의 역할: 본 논문은 TuRBO 및 BoTorch 와 같은 방법에서 사용되는 무작위 축 정렬 부분 공간 섭동 (RAASP) 샘플링이 중요하다고 강조합니다. RAASP 는 최성능 점들을 섭동하여 후보를 생성합니다. 고차원에서는 이로 인해 최적화기가 AF 가 평평할 가능성이 낮은 기존 관측치 근처에서 시작하게 되어, 기울기 소실 함정을 피하는 국소적 행동으로 탐색을 효과적으로 되돌립니다.

3. GP 적합에서의 편향 - 분산 트레이드오프

저자들은 GP 하이퍼파라미터 적합을 위한 MLE 와 MAP 접근 방식을 비교했습니다.

• 결과: MLE 는 특히 고차원에서 데이터가 부족할 때 길이 척도 추정치에서 더 높은 분산을 보입니다. MAP(하이퍼프리오 사용) 은 분산을 줄이지만 정확한 사전 정보가 없는 한 편향을 도입합니다.
• 통찰: 제안된 MLE 초기화 ($\sqrt{d}$배 스케일링) 는 임의의 하이퍼프리오로 인한 편향 (실무자들이 종종 부족하게 가지는 정보) 없이 MLE 가 최첨단 성능을 달성할 수 있게 합니다.

제안된 방법: MSR

이러한 발견을 바탕으로 저자들은 **MSR(RAASP 와 함께 스케일링된 MLE)**을 제안합니다:

1. 초기화: GP 길이 척도에 MLE 를 사용하되, 모델 적합 중 기울기 소실을 방지하기 위해 최적화기를 $\sqrt{d}/10$의 길이 척도로 초기화합니다.
2. 획득: RAASP 샘플링을 사용하여 획득 함수 (LogEI) 를 최대화함으로써, 후보들이 최상의 관측치 주변에 국소적으로 생성되도록 보장하여 AF 기울기 소실을 완화합니다.
3. 간단함: 다른 방법들과 달리 MSR 은 (MAP 와 같이) 길이 척도에 대한 사전 신념을 지정하거나 복잡한 임베딩 구조를 필요로 하지 않습니다.

결과

저자들은 MSR 을 다음과 같은 포괄적인 실세계 응용 및 벤치마크 세트로 평가했습니다:

• 데이터셋: Mopta08(124 차원), Lasso-DNA(180 차원), SVM(388 차원), Rover(60 차원), Ant(888 차원), Humanoid(6392 차원).
• 비교: MSR 은 차원 스케일링된 priors 를 가진 MAP 기반 방법인 DSP 를 포함한 TuRBO, SAASBO, Bounce 와 같은 최첨단 방법들과 비교되었습니다.

주요 발견:

• 성능: MSR 은 모든 벤치마크에서 DSP 와 맞먹거나 능가하는 경쟁력 있는 최첨단 성능을 달성했습니다. 특히 MSR 은 124 차원 Mopta08 및 888 차원 Ant 벤치마크에서 DSP 를 능가했습니다.
• 표준 초기화의 실패: 표준 상수 초기화 ($\ell = \ln 2$) 를 사용하는 방법들은 기울기 소실로 인해 고차원 벤치마크 (예: Ant, Humanoid) 에서 실패하며, 효과적으로 무작위 탐색처럼 행동합니다.
• RAASP 의 역할: MSR 에 RAASP 샘플링을 포함시키는 것은 길이 척도 추정치의 분산을 줄이고 국소적 탐색 행동을 촉진합니다. 저자들은 이것이 (전역적으로 잘 적합된 대리 모델보다는) 1000 차원 규모의 극도로 고차원 문제에서 성공의 주된 동인이라고 주장합니다.
• 벤치마크 분석: 본 논문은 Mopta08 및 Lasso-DNA 와 같은 인기 있는 벤치마크들이 예상보다 단순한 구조를 가질 수 있음을 지적합니다 (많은 차원이 '2 차적'이며 경계값으로 설정됨). 이는 긴 길이 척도를 가진 모델에 혜택을 줄 수 있습니다. 그러나 MSR 의 견고성은 이러한 특정 구조에서도 유지됩니다.

의의 및 주장

본 논문은 간단한 BO 방법이 고차원에서 성공하는 이유에 대한 더 깊은 이해를 제공한다고 주장하며, 성공을 다음과 같이 귀인합니다:

1. 기울기 소실 회피: GP 모델을 적합하기 위해 길이 척도의 적절한 초기화가 중요합니다.
2. 국소적 탐색 행동: 고차원에서는 성공적인 최적화가 전역적으로 정확한 대리 모델보다는 RAASP 로 촉진된 국소적 탐색 메커니즘에 더 의존합니다.

저자들은 실무자들이 최첨단 HDBO 성능을 달성하기 위해 복잡한 사전 분포나 구조적 가정이 필요하지 않다고 주장합니다. 대신, 차원 스케일링된 초기화를 가진 간단한 MLE 변형과 RAASP 샘플링을 결합하는 것으로 충분합니다. 이 연구는 BO 에서의 수치적 안정성의 중요성을 강조하며, 현재 인기 있는 벤치마크가 단순한 구조에 '과적합'되었을 수 있으므로, 향후 연구는 실세계 고차원 응용의 복잡성을 더 잘 포착하는 벤치마크에 초점을 맞춰야 함을 시사합니다.