Modified Bryson-Frazier Smoothing and Hyperparameter Learning for Temporal Gaussian Process Regression

기술 요약: 시계열 가우시안 프로세스 회귀를 위한 수정된 Bryson-Frazier 평활법 및 하이퍼파라미터 학습

문제 정의

정상적이고 적분 가능한 커널을 가진 가우시안 프로세스(GP) 회귀는 선형 가우시안 상태 공간 모델에서의 추론으로 재구성될 수 있으며, 이를 통해 칼만 필터링(Kalman filtering) 및 Rauch-Tung-Striebel(RTS) 평활법을 이용한 선형 시간 복잡도의 추론이 가능해진다. 이러한 접근 방식은 복잡도를 데이터 포인트 수에 대해 세제곱에서 선형으로 줄여주지만, 상태 공간 차원에 대해서는 여전히 세제곱의 복잡도를 가지며 심각한 수치적 안정성 문제에 직면한다.

구체적으로, RTS 평활법은 예측 상태 공분산 행렬($P^-_{k+1}$)의 역행렬을 필요로 한다. 고정밀도 영역(확률적 수치 해석(PN)에서 사후 불확실성이 무시할 수 없을 정도로 작아지는 경우와 같이)이나 확장된 상태 공간 모델(예: 결정론적 편향 항이 포함된 모델)에서는 이 행렬이 불량 조건(ill-conditioned)이 되거나 특이(singular)해질 수 있다. 이러한 조건은 수치적 불안정성을 초래하거나 RTS 재귀 과정의 완전한 붕괴를 야기한다. 제곱근 공식화(square-root formulations)나 좌표 변환이 이러한 문제를 완화할 수는 있지만, 이는 추가적인 계산 비용을 발생시킨다. 또한, 표준적인 커널 하이퍼파라미터 학습 방식은 일반적으로 그래디언트(gradient)를 위한 별도의 유도가 필요하며, 알고리즘과 통합된 프레임워크가 부족하다.

방법론

저자들은 Bierman(1973)이 제안한 원래의 수정된 Bryson-Frazier(MBF) 평활법을 RTS 평활법의 수치적으로 견고한 대안으로서 재검토한다. 본 논문은 베이지안 평활에 대한 통합된 동적 계획법 관점을 확립한다:

1. 최적화 관점: 베이지안 평활을 이차 음의 로그 사후 확률 손실 함수(quadratic negative log-posterior loss function)를 최소화하는 최대 사후 확률(MAP) 추정 문제로 프레임화한다.
2. 수반(Adjoint) 해석: 순방향 패스(칼만 필터링)는 과거의 상태들을 제거한다. 역방향 패스는 두 가지 방식으로 해석될 수 있다:
   • 역대입(Backward Substitution): 고전적인 RTS 평활법을 복구한다.
   • 수반 방정식(Adjoint Equations): 최적 비용(optimal cost)에 대한 중간 양들의 민감도(sensitivity)를 전파한다. 이 유도는 MBF 평활법 방정식을 도출한다.
3. 알고리즘 공식화: 필터링된 평균과 공분산을 직접 전파하는 대신, MBF 평활법은 필터링된 상태 및 예측된 상태와 관련된 두 세트의 수반 변수 $(\lambda^+_k, \Lambda^+_k)$ 및 $(\lambda^-_k, \Lambda^-_k)$를 전파한다.
   • 역방향 패스는 예측 상태 공분산 행렬의 역행렬을 구하지 않고도 이 변수들을 업데이트한다.
   • 평활된 평균과 공분산은 수반 변수와 필터링된 공분산을 사용하여 필요한 경우에만 복구된다.
4. 하이퍼파라미터 학습: 본 논문은 MBF 역방향 패스 중에 계산된 수반 변수가 예측된 평균 및 필터링된 평균에 대한 음의 로그 주변 가능도(NLL)의 1차 및 2차 미분과 정확히 일치함을 보여준다. 공분산 행렬에 대한 민감도를 계산하기 위한 보조 역방향 재귀가 도입되어, 최소한의 추가 비용으로 전체 그래디언트 기반 하이퍼파라미터 최적화를 가능하게 한다.

주요 기여

1. 수치적으로 안정적인 평활: MBF 평활법은 PN에서의 상태 공간 추론을 위한 안정적인 RTS 평활법의 대안으로 제시된다. 이는 예측 상태 공분산 행렬의 역행렬을 구하는 과정을 피함으로써 수치적 불안정성의 주요 원인을 제거하면서도, 타임 스텝 수에 대한 선형 복잡도를 유지한다.
2. 통합된 동적 계획법 프레임워크: 본 논문은 RTS와 MBF 평활법이 각각 역대입과 수반 방정식을 통해 동일한 최적화 문제로부터 파생된다는 통합된 관점을 제공한다. 이는 MBF 변수가 단순한 대수적 재구성물이 아니라 MAP 문제의 수반 변수임을 명확히 한다.
3. 효율적인 하이퍼파라미터 최적화: 저자들은 MBF 변수를 사용하여 NLL의 그래디언트를 계산할 수 있음을 보여준다. 이를 통해 동일한 상태 공간 프레임워크 내에서 효율적인 커널 하이퍼파라미터 학습이 가능하며, 공분산 민감도를 위한 경미한 보조 재귀만을 요구한다.

결과

저자들은 세 가지 수치 실험을 통해 MBF 평활법을 검증한다:

1. 양호한 조건에서의 정확성: Matérn-3/2 커널을 사용한 표준 GP 회귀 작업에서, MBF 평활법은 (기계 정밀도 범위 내에서) RTS 평활법과 동일한 사후 평균 및 공분산을 생성하며, 전체 공분산 행렬의 숄레스키 분해(Cholesky factorization) 결과와 일치한다.
2. 하이퍼파라미터 최적화: MBF 변수로부터 유도된 그래디엔트를 사용하여, 그래디언트 하강법은 합성 데이터셋에 대해 커널 하이퍼파라미터($\sigma_f$ 및 $\lambda$)를 성공적으로 최적화하여 실제 생성 파라미터에 근접한 값으로 수렴하였다.
3. 특이(Singular) 설정에서의 강건성: 상태 공간 모델이 결정론적 편향 항으로 확장되어 예측 상태 공분산 행렬이 특이해진 시나리오에서, RTS 평활법은 실패하였다. 반면, MBF 평활법은 잘 정의된 상태를 유지하며 실제 GP 사후 분포와 일치하는 평활 궤적을 생성하였다.

의의 및 주장

본 논문은 MBF 평활법이 1차원 가우시안 프로세스 회귀를 위한 추론과 커널 하이퍼파라미터 학습 모두를 위한 통합적이고 수치적으로 견고한 접근 방식을 구축한다고 주장한다. 이 연구의 주요 의의는 제곱근 구현의 계산 오버헤드 없이도 (고정밀도 PN 방법 또는 특이 공분산을 가진 모델 등) RTS 평활법이 붕괴되는 영역을 처리할 수 있는 능력에 있다.

저자들은 MBF 평활법이 RTS와 비교하여 계산 및 메모리 요구 사항을 줄이며, 공분산 차이를 전파할 때 발생하는 반올림 오차의 누적을 피한다고 강조한다. 수반 변수를 통해 평활을 그래디언트 계산과 직접 연결함으로써, 이 방법은 안정적인 평활과 효율적인 하이퍼파라미터 튜닝이 모두 필요한 확률적 수치 방법론에 간소화된 경로를 제공한다. 이 연구는 정상적이고 적분 가능한 커널을 가진 1차원 GP에 명시적으로 초점을 맞추고 있으나, 저자들은 그 결과가 확률적 ODE 솔버 및 시공간 설정으로 자연스럽게 확장될 수 있음을 언급한다.