🤖 machine learning

Guiding Posterior Exploration with Optimizer-Derived Geometry

이 논문은 베이지안 신경망에서 예측 성능과 불확실성 정량화를 유지하거나 개선하면서도 긴 번인(burn-in) 단계를 제거하기 위해, 사후 분포 탐색을 유도하고자 AdamW와 같은 적응형 옵티마이저의 곡률 추정치를 활용하는 비용이 들지 않는 전처리된 샘플링 전략을 제안한다.

원저자: Moritz Schlager, Emanuel Sommer, Thomas Möllenhoff, David Rügamer

게시일 2026-07-29

📖 2 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Moritz Schlager, Emanuel Sommer, Thomas Möllenhoff, David Rügamer

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신이 숨겨진 보물을 찾기 위해 거대하고 안개가 자욱한 산맥을 통과하는 최적의 경로를 찾으려 한다고 상상해 보십시오. 인공지능의 세계에서 이 '보물'은 컴퓨터가 세상을 이해하는 완벽한 방법이며, '산맥'은 봉우리와 계곡으로 가득 찬 복잡한 수학적 지형입니다. 과학자들은 이 지형을 지도화하기 위해 **베이지안 학습(Bayesian learning)**이라는 방법을 사용하는데, 이는 단순히 단 하나의 가장 높은 봉우리(최선의 답)를 찾는 것뿐만 아니라, 산 전체의 형상을 이해하는 것을 목표로 합니다. 이를 통해 컴퓨터는 자신이 언제 확신하고 있는지, 그리고 언제 추측하고 있는지를 알 수 있습니다.

하지만 이 안개 낀 산을 탐험하는 것은 매우 어렵고 느린 일입니다. 전통적인 방식은 마치 한 명의 등산객을 보내 어디가 위쪽인지 알아내기 위해 며칠 동안 정처 없이 헤매게 하는 것과 같습니다. 속도를 높이기 위해, 연구자들은 최근 '2단계' 전략을 사용하기 시작했습니다. 먼저, 빠르고 영리한 등산객(최적화 도구, optimizer)을 이용해 몇몇 유망한 봉우리들을 향해 질주하게 합니다. 그 다음, 더 느리고 신중한 탐험가(샘플러, sampler)를 보내 그 봉우리 주변을 배회하며 세부 사항을 기록하게 합니다. 문제는 신중한 탐험가가 처음부터 다시 시작하는 경우가 많아, 빠른 등산객이 학습한 지형 정보를 모두 잊어버림으로써 많은 시간과 에너지를 낭비하게 된다는 점입니다.

이 논문은 영리한 지름길을 제안합니다. 왜 신중한 탐험가가 빠른 등산객의 지도를 빌려 쓰지 않을까요? 저자인 모리츠 슐라거(Moritz Schlager)와 그의 팀은 빠른 등산객(구체적으로 AdamW라는 최적화 도구)이 달리는 동안 이미 상세한 '지형도'를 계산하고 있다는 사실을 발견했습니다. 이 지도는 지면이 가파른 곳과 평탄한 곳을 보여줍니다. 보통 이 지도는 등산객이 정상에 도달하면 버려집니다. 연구팀은 만약 이 지도를 신중한 탐험가에게 직접 전달한다면, 탐험가가 지형을 파악하는 서툴고 느린 과정을 건너뛰고 즉시 매핑을 시작할 수 있다는 점을 깨달았습니다.

그들은 단순한 이미지 인식기부터 언어 모델에 이르기까지 다양한 컴퓨터 모델을 시뮬레이션하여 이 아이디어를 테스트했습니다. 그들은 '최적화 도구 유래 기하학(optimizer-derived geometry)'(지도)을 사용하여 샘플링을 안내함으로써, 탐험가가 훨씬 더 빠르게 보물을 찾을 수 있고 더 큰 안정성을 확보할 수 있다는 것을 발견했습니다. 실제로 많은 경우, 느린 '예열(warm-up)' 기간이 전혀 필요하지 않았습니다. 결과에 따르면, 이 방법은 컴퓨터의 예측 능력을 일관되게 향 향상시켰으며, 더 중요하게는 그 예측에 대해 얼마나 불확실한지를 아는 능력을 개선했습니다. 저자들은 이 접근 방식이 매우 효과적이고 컴퓨팅 시간을 크게 절약해주지만, '지도'가 올고르게 공유될 때 가장 잘 작동하며, 탐사자들이 스스로 지도를 다시 학습하도록 만드는 것(다른 방식들처럼)은 오히려 탐사 집단의 다양성을 떨어뜨리고 효율성을 저해한다는 점을 시사했습니다. 본질적으로, 그들은 등산객의 노트를 탐험가와 공유하는 것이 AI를 더 똑똑하고 신뢰할 수 있게 만드는 무료이면서도 강력한 방법임을 입증했습니다.

기술 요약: 옵티마이저 유도 기하 구조를 통한 후험 분포 탐색 가이드

문제 정의

베이지안 딥러닝(BDL)은 고위험 애플리케이션에서 필수적인 요구 사항인 신경망의 원칙적인 불확실성 정량화를 목표로 한다. 마르코프 체인 몬테카를로(MCMC)와 같은 샘플링 기반 방법은 사후 분포를 근사하기 위한 엄격한 접근 방식을 제공하지만, 고차원적이고 다봉형(multimodal)이며 조건수가 나쁜(ill-conditioned) 후험 지형(posterior landscapes)을 탐색하는 데 따르는 막대한 계산 비용으로 인해 실제 적용에 어려움이 있다.

두 단계 베이지안 딥 엔셈블(BDE)과 같은 최근의 확장 가능한 추론 전략은 이를 완화하기 위해 먼저 여러 개의 뚜렷한 모드(Deep Ensembles와 유사함)를 찾는 최적화 과정을 거친 후, 이 솔루션들로부터 독립적인 MCMC 체인을 초기화하여 국소적 인력의 분지(local basins of attraction)를 탐색한다. 그러나 중요한 비효율성이 남아 있는데, 최적화와 샘플링 단계가 일반적으로 서로 분리된 과정으로 취급된다는 점이다. 결과적으로 최적화 단계에서 수집된 손실 지형(loss landscape)에 대한 기하학적 정보(구체적으로 국소 곡률)가 폐기된다. 이후의 샘플링 단계는 샘플러의 프리컨디셔닝 행렬(preconditioning matrix)을 조정하기 위한 길고 비용이 많이 드는 "웜업(warmup)" 또는 스케일 적응 기간을 필요로 하며, 이 정보를 처음부터 다시 재발견해야 하는 상황에 놓이게 된다.

방법론

본 논문은 적응형 옵티마이저(특히 AdamW)에 의해 생성된 통계량을 사용하여 SGMCMC 샘플러의 초기화를 정보화함으로써 최적화와 샘플링 사이의 간극을 메우는 방법을 제안한다.

옵티마이저 유도 기하 구조 (Optimizer-Derived Geometry)

AdamW와 같은 적응형 옵티마이저는 그래디언트의 지수 이동 평균을 유지한다: 모멘텀 역할을 하는 1차 모멘트 벡터( $\mu_t$ )와 그래디언트 분산(즉, 국소 곡률)의 대리물 역할을 하는 2차 모멘트 벡터( $\nu_t$ )이다. 저자들은 최적화 단계의 부산물로 계산되는 이러한 통계량이 후속 샘플링 단계를 위한 "무료"의 고품질 프리컨디셔너 역할을 한다고 주장한다.

프리컨디셔닝 전략

저자들은 이러한 옵티마이저 상태를 SGHMC 샘플러의 질량 행렬(mass matrix) $M$ 으로 전달하는 몇 가지 전략을 공식화한다:

그래디언트 기반: $M = \text{diag}(g_T^2 + \epsilon I)$ , 최종 그래디언트를 사용한다. 이는 순수하게 국소적이지만 노이즈에 취약하다.
1차 모멘트 기반: $M = \text{diag}(\mu_T^2 + \epsilon I)$ , 모멘텀 항을 사용한다. 이는 시간적 평활화(temporal smoothing)를 제공한다.
2차 모멘트 기반: $M = \text{diag}(\sqrt{\nu_T} + \epsilon I)$ , 제곱 그래디언트 누적기를 사용한다. 이는 대각 피셔 정보 행렬(FIM)의 근사치이며, 보다 견고하게 전역 곡률 정보를 포착한다.

레이어별 정규화 (Layer-wise Normalization)

개별 파라미터에 대해 극단적인 스텝 사이즈를 방지하고 수치적 안정성을 높이기 위해, 저자들은 레이어 단위의 전략을 평가한다. 각 파라미터에 고유한 프리컨디셔닝 값을 할당하는 대신, 해당 레이어 파라미터들의 옵티마이저 통계치를 평균 내고 레이어 간에 정규화하여 단일 스칼라를 계산한다. 이는 정규화 역할을 하며 파라미터별 최대 스텝 사이즈의 상한선을 설정한다.

이론적 정당성

본 논문은 사후 퍼텐셜(posterior potential)이 국소적으로 이차 함수 형태라면, 모드에서의 헤시안(Hessian) $H^*$ 에 질량 행렬 $M$ 을 설정하는 것이 단위 조건수(unit condition number)를 가진 등방성 가우시안 근사를 유도한다는 것을 보여주는 이론적 연결 고리(Proposition 3.1)를 제공한다. 이는 최적의 국소 혼합(local mixing)을 달성한다. 전체 헤시안은 계산이 불가능하므로, 2차 모멘트 통계량 $\nu_T$ 는 $H^*$ 에 대한 효율적인 대각 근사치 역할을 하며, 최적화 지형을 성공적으로 탐색했던 "유효 메트릭 텐서(effective metric tensor)"를 샘플링 단계로 효과적으로 전달한다.

주요 기여

이론적 프레임워크: 옵티마이저의 특성(특히 AdamW로부터)을 사용하여 SGMCMC 샘플러를 프리컨디셔닝하는 이론적으로 근거 있는 방법을 도출하여, 최적화와 샘플링 단계를 연결하였다.
경험적 평가: 다양한 모달리티(표 형식 데이터, 이미지, 언어) 및 아키텍처(FCN, CNN, ResNet, Transformer)에 걸쳐 옵티마이저 유도 기하 구조 전달 전략을 평가하였다.
효율성 및 안정성 분석: 이러한 전략들이 샘플러 수렴을 가속화하고, 웜업을 제거하거나 단축하며, 추가적인 계산 비용 없이 하이퍼파라미터(특히 스텝 사이즈)에 대한 견고성을 개선하는 능력을 평가하였다.
기하학적 분석: 실제 BNN에서의 국소 기하 패턴을 분석하여, 정적 옵티마이저 유도 프리컨디셔닝이 1단계에서 발견된 각 모드의 독특한 기하학적 정보를 보존하는 반면, 적응형 샘플러(예: AdaSGHMC)는 이 초기 기하 구조를 "덮어쓰기"하여 앙상블 다양성을 감소시킨다는 점을 밝혀냈다.

결과

제안된 접근 방식은 bikesharing, protein, F-MNIST, CIFAR-10 및 현대화된 Shakespeare 데이터셋을 포함한 데이터셋에 대해 평가되었다.

예측 성능: 옵티마이저 유도 프리컨디셔닝은 표준 Deep Ensembles 및 Vanilla SGHMC와 비교하여 예측 성능(RMSE 및 정확도)을 일관되게 유지하거나 향상시킨다.
불확실성 정량화 (UQ): 이 방법은 UQ 지표(LPPD 및 Perplexity)에서 상당한 개선을 보이며, 종종 Deep Ensemble 베이스라인보다 LPPD에서 10% 이상 높은 성능을 나타낸다.
웜업 제거: 그래디언트 및 1차 모멘트에 기반한 전략은 제로 웜업(zero warmup) 상태에서 즉각적으로 정점에 도달하여, 비용이 많이 드는 스케일 적응 단계를 효과적으로 제거한다. 2차 모멘트 전략은 더 긴 웜업을 필요로 하지만 여전히 베이스라인보다 우수한 성능을 보인다.
견고성: 프리컨디셔닝된 변형 모델들은 광범위한 스텝 사이즈 범위에서 안정적인 성능을 유지하는 반면, Vanilla SGHMC는 부적절한 스텝 사이즈에서 급격히 저하된다.
적응형 방법과의 비교: 놀랍게도, 정적 옵티마이저 유도 프리컨디셔닝은 AdaSGHMC와 같은 적응형 방법을 능가한다. 저자들은 이것이 AdaSGHMC의 내부 적응 과정이 앙상블 체인의 초기 기하학적 다양성을 덮어써서, 자기 유사적인(self-similar) 질량 행렬을 만들고 일반화 능력을 감소시키기 때문이라고 설명한다.

의의

본 논문은 옵티마이저 유도 기하 구조를 SGMCMC 샘플러로 전달하는 것이 Bayesian Deep Ensembles를 개선하는 효과적인 비용 제로(zero-cost) 전략이라고 주장한다. 이미 최적화 단계에서 계산된 통계량을 활용함으로써, 이 방법은 다음과 같은 이점을 제공한다:

계산 비용 감소: 샘플링 웜업 단계를 제거하거나 크게 단축하여, 후험 탐색을 위한 더 효율적인 경로를 제공한다.
안정성 향상: 하이퍼파라미터 선택에 견고한 수치적으로 안정적인 시작점을 제공한다.
다양성 보존: 1단계에서 발견된 특정 모드에서 유도된 정적 프리컨더러를 사용함으로써, 앙상블의 기하학적 다양성을 보존한다. 저자들은 이것이 앙상블의 일반화 성능을 높이는 데 결정적이라고 주장한다.

저자들은 이 접근 방식이 최소한의 추가 계산 오버헤드로 최첨단 불확실성 정량화 및 예측 성능을 달 Ach 수 있게 함으로써, 베이지안 추론을 고위험 영역에서 더욱 접근 가능하게 만든다고 결론짓는다.