📊 statistics

Predictively-Oriented Kalman Filtering

이 논문은 동역학 또는 측정 모델이 잘못 설정된 비선형 상태 공간 모델에서 과도하게 확신에 찬 추론을 피하기 위해 예측 지향적 사후 확률을 활용하는, 하이퍼파라미터가 필요 없고 계산 효율적인 필터링 방법인 EKF-PrO를 소개한다.

원저자: Zheyang Shen, Gerardo Duran-Martin, Chris. J. Oates

게시일 2026-06-03

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Zheyang Shen, Gerardo Duran-Martin, Chris. J. Oates

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신이 GPS 앱을 사용하여 움직이는 자동차를 추적하려고 한다고 상상해 보십시오. 이 앱에는 두 가지 주요 작업이 있습니다:

예측: 1초 전의 자동차 위치와 속도를 바탕으로, 지금 자동차가 어디에 있을지 추측합니다.
수정: 방금 수신한 실제 GPS 신호를 보고 자신의 추측을 조정합니다.

수학 및 공학의 세계에서 이것은 **상태 공간 모델(State-Space Model)**이라고 불립니다. "자동차"는 숨겨진 상태(hidden state)이고, "GPS 신호"는 관측값(observation)입니다.

문제: 지도가 틀렸을 때

대부분의 추적 시스템(유명한 **칼만 필터(Kalman Filter)**와 같은)은 세상이 수학적으로 예측하는 대로 정확하게 작동할 때 아주 훌륭하게 작동합니다. 하지만 현실 세계에서는 문제가 발생합니다.

"이상치(Outlier)" 문제: 가끔 GPS 오류로 인해 자동차가 호수 한가운데에 있다고 말할 수 있습니다 (데이터 오류).
"체계적(Systematic)" 문제: 운전자가 당황하여 갑자기 차를 급선회하거나 도로 상황이 변하는 등, 당신의 수학 모델이 이러한 새로운 행동을 알지 못하는 경우가 있습니다.

이런 일이 발생하면 전통적인 필터들은 **과도하게 확신(over-confident)**하게 됩니다. 그들은 자신의 수학을 너무 믿어서 이상한 데이터를 무시하거나, 반대로 이상한 데이터를 너무 믿어서 경로를 이탈해 버립니다. 그들은 자신이 틀렸을 때조차도 정답을 완벽하게 알고 있다고 생각합니다.

기존의 해결책들 (그리고 왜 부족한가)

과학자들은 이를 해결하기 위해 두 가지 방법을 시도했습니다:

"무시하기" 접근법: GPS 신호가 이상해 보이면 버려버립니다. 문제점: 만약 자동차가 실제로 급선회한 것이라면(실제 행동의 변화), 데이터를 버리는 것은 그 선회에 대해 결코 배우지 못함을 의미합니다. 당신은 계속해서 자동차가 직진하고 있다고 추측하게 될 것입니다.
"모델을 더 크게 만들기" 접근법: 가능한 모든 실수를 설명하기 위해 더 복잡한 규칙들을 수학에 추가합니다. 문제점: 이는 많은 추가 설정값(하이퍼파라미터)을 추측해야 하며 컴퓨터를 훨씬 더 많이 사용하게 만듭니다.

새로운 해결책: EKF-PrO

이 논문은 EKF-PrO(Predictively-Oriented Kalman Filtering)라고 불리는 새로운 방법을 소개합니다.

이것은 마치 자신의 마음가짐을 바꾸는 똑똑하고 겸손한 항해사와 같습니다. "나의 완벽한 지도에 기반했을 때 자동차의 진짜 위치는 어디인가?"라고 묻는 대신(이는 과도한 확신으로 이어집니다), 새로운 방법은 다음과 같이 묻습니다: "지금 내가 실제로 보고 있는 데이터와 나의 예측을 일치시키려면 어떤 위치를 추측해야 하는가?"

이것이 어떻게 작동하는지 간단한 비유를 통해 알아보겠습니다:

1. "겸손한" 업데이트

당신이 친구의 위치를 추측하고 있다고 상상해 보십시오.

기존 필터: "내 지도는 완벽해. 네 휴대폰이 네가 나무 위에 있다고 한다면, 그 데이터가 틀린 거야. 나는 나무를 무시할 거야." (과도한 확신).
EKF-PrO: "내 지도가 틀렸을 수도 있고, 나무가 오류일 수도 있어. 내 추측을 조정하겠지만, 동시에 '나는 더 이상 100% 확신할 수 없다'라고 인정할 거야. 나의 불확실성 범위를 넓힐 거야."

2. "안전망" (공분산 팽창, Covariance Inflation)

이 논문의 핵심 기술은 데이터가 이상해 보일 때(글리치든 실제 선회든), EKF-PrO는 단순히 평균 추측값만 바꾸는 것이 아니라 **불확실성을 팽창(inflate)**시킨다는 것입니다.

이 방식은 이렇게 말합니다: "좋아, 데이터가 이상하네. 내 추측을 약간 수정하겠지만, 동시에 '이 추측에 대한 나의 확신은 이제 매우 낮다'라고 말할 거야."
확신이 낮아졌기 때문에, 다음 초에 데이터가 다시 변하더라도 빠르게 마음을 바꿀 준비가 되어 있습니다. 길에 갇혀 있지 않습니다.

3. 추가 설정 없음

조절해야 할 노브와 다이얼(예: "GPS를 얼마나 신뢰할 것인가?")이 필요한 다른 방법들과 달리, 이 방법은 데이터 자체를 바탕으로 적절한 신뢰도를 자동으로 찾아냅니다. 이는 마치 스스로 운전하는 자동차가 "오늘 길이 미끄럽다"라고 직접 듣지 않아도, 길이 미끄러울 때 스스로 조심하도록 학습하는 것과 같습니다.

이 논문이 발견한 것

저자들은 세 가지 시나리오에서 이 새로운 방법을 기존 방법들과 비교 테스트했습니다:

무작위 글리치 (이상치): 새로운 방법은 다른 견고한(robust) 방법들과 유사하게 이러한 이상치를 잘 처리했습니다.
체계적 오류 ("잘못된 지도"): 이 부분이 새로운 방법이 빛을 발한 지점입니다. 모델이 예상치 못한 행동(예: 갑작스러운 선회)을 시작했을 때, 기존 필터들은 너무 확신에 차 있었기 때문에 자동차가 계속 직진하고 있다고 추측했습니다. 반면 EKF-PrO는 "어라, 내 모델이 실패하고 있구나"라고 깨닫고, 불확실성을 넓혀 자동차를 따라 빠르게 경로를 수정했습니다.
혼돈 계 (Chaotic Systems): 복잡하고 혼란스러운 날씨 시뮬레이션에서, 새로운 방법은 근본적인 규칙이 변할 때 길을 잃지 않은 유일한 방법이었습니다.

트레이드오프 (Trade-off)

논문은 한 가지 단점도 인정합니다. 표준 필터보다 컴퓨터 자원을 조금 더 많이 사용하며(약 10~20배 느림), 하지만 일반적인 노트북에서 실시간으로 사용하기에는 여전히 충분히 빠릅니다.

요약

EKF-PrO는 자신이 무엇을 모르는지 인정하는 새로운 방식의 이동 객체 추적법입니다. 고장 난 수학 모델을 고집스럽게 따르는 대신, 상황이 이상해지면 겸손함을 유지하고, 불확실성을 인정하며, 현실에 맞춰 예측을 조정합니다. 이는 규칙이 복잡하고 무질서한 현실에 맞지 않을 때, 확률의 규칙을 고수하기보다 예측을 제대로 하는 것을 우선시하는 "포스트-베이지안(post-Bayesian)" 접근 방식입니다.

기술 요약: 예측 지향적 칼만 필터링 (Predictively-Oriented Kalman Filtering)

문제 정의
본 논문은 기저의 동역학 모델( $x_k = f(x_{k-1}, \epsilon_k)$ ) 또는 측정 모델( $y_k = h(x_k, \xi_k)$ )이 잘못 지정(misspecified)될 수 있는 비선형 상태 공간 모델에서의 온라인 필터링 문제를 다룹니다. 칼만 필터(KF) 및 확장 칼만 필터(EKF)와 같은 표준 베이지안 접근 방식은 모델이 잘 지정되었다는 가정에 의존합니다. 이러한 가정이 실패할 경우—이상치(outliers), 모델링되지 않은 동역학, 또는 잘못된 파라미터화로 인해—표준 방식은 종종 과도하게 확신에 찬 추론을 생성합니다. 즉, 이들은 불확실성을 붕괴시키는 경향이 있으며, 모델과 실제 데이터 생성 과정 사이의 불일치에 적응하지 못해 예측 성능을 저하시킵니다. WoLF와 같은 기존의 강건한 방법들(robust methods)은 이상치의 가중치를 낮추거나 두꺼운 꼬리(heavy-tailed) 노이즈 분포를 사용하려고 시도하지만, 사용자 지정 하이퍼파라미터를 필요로 하거나 체계적인 모델 오지정 문제를 효과적으로 해결하지 못하는 경우가 많습니다.

방법론
저자들은 엄격한 베이지안 정리에 대한 준수에서 벗어나 예측 성능을 우선시하는 포스트-베이지안(post-Bayesian) 필터링 프레임워크인 EKF-PrO(Predictively-Oriented Extended Kalman Filter)를 제안합니다.

최적화 관점: 필터링 작업을 확률 분포 공간에서의 최적화 문제로 재정의합니다. 필터링 분포 $q_{k|k}$ 는 손실 항 $\ell(y_k; q)$ 와 쿨백-라이블러 발산(KLD) 정규화 항 $KL(q \| q_{k|k-1})$ 로 구성된 목적 함수의 최소화 값으로 정의됩니다.
예측 지향적(PrO) 손실: 음의 로그 가능도(negative log-likelihood)를 사용하는 표준 베이지안 필터링과 달리, PrO 필터는 다음과 같이 정의된 손실 함수를 사용합니다:
$\ell^{(PrO)}(y_k; q) := -\log \left( \int p(y_k|x_k)q(x_k)dx_k \right)$
이 공식은 필터링 분포 $q$ 를 혼합 모델(mixture model)의 파라미터로 취급합니다. 이 손실을 최소화하는 것은 모델의 예측 분포와 실제 데이터 생성 분포 사이의 KLD를 최소화하는 것과 같으며, 이를 통해 오지정 상황에서도 불확실성을 자동으로 교정합니다.
근사 선형-가우시안 업데이트: 일반적인 상태 공간 모델에 대해 PrO 목적 함수가 폐쇄형 해(closed-form solution)를 제공하지 않으므로, 저자들은 EKF와 유사한 빠른 근사 업데이트 방식을 개발했습니다.
- 예측 단계(Prediction Step): 채프먼-콜모고로프 방정식(또는 비선형성을 위한 선형화)을 사용하여 표준 KF/EKF 절차를 따릅니다.
- 업데이트 단계(Update Step): 저자들은 탐색 공간을 가우시안 분포(변분 가족, variational family)로 제한합니다. 이들은 목적 함수의 명시적인 형태를 도출하여, 그것이 볼록 함수 차이(Difference-of-Convex, DoC) 구조를 가짐을 밝혀냈습니다. 이를 통해 효율적인 수치 최적화 기법을 사용하여 사후 평균과 공분산을 구할 수 있습니다.
- 비선형 확장(EKF-PrO): 비선형 모델의 경우, 단순히 예측 평균 주변에서가 아니라 최적화 경로의 현재 반복점(iterate) 주변에서 측정 함수 $h$ 를 선형화하여, DoC 구조를 활용해 업데이트를 정교화합니다(Iterated EKF와 유사함).

주요 기여

하이퍼파라미터가 없는 강건성: EKF-PrO는 사용자 지정 가중치나 노이즈 공분산 팽창 계수에 의존하는 많은 강건한 필터링 기술과 대조적으로, 튜닝 가능한 하이퍼파라미터가 필요하지 않습니다.
이론적 교정: 이 접근 방식은 모델이 잘 지정된 경우에만 학습(사후 집중)이 일어남을 보장합니다. 오지정된 설정에서, 이 방식은 전형적인 베이지안 방식의 "불확실성 붕괴"를 피하고, 모델의 부적절함을 반영하기 위해 더 높은 사후 분산을 유지합니다.
계산 효율성: 저자들은 기존 EKF 변형들과 유사한 계산 복잡도( $O(I d^3)$ , 여기서 $I$ 는 내부 루프 반복 횟수)를 가진 빠른 근사 업데이트 절차를 제공하여 실시간 애플리케이션에 적합하게 만듭니다.
DoC 최적화: PrO 목적 함수를 DoC 함수로 도출함으로써, 상태 공간 모델에 PrO 사후 분포를 적용하는 데 핵심적인 기술적 난제인 공분산 업데이트를 위한 효율적인 수치 최소화를 가능하게 했습니다.

실험 결과
본 논문은 세 가지 시나리오에서 EKF-PrO를 표준 EKF, Iterated EKF, 그리고 최첨단 강건 필터(EKF-B, EKF-IW, WoLF-IMQ, WoLF-TMD)와 비교 평가합니다:

2D 객체 추적: 체계적인 오지정(예: Student-t 프로세스 노이즈) 또는 기동 역학(maneuvering dynamics)이 있는 시나리오에서, EKF-PrO는 표준 EKF 및 WoLF와 같은 이상치 강건 방법보다 유의미하게 우수한 성능을 보였습니다. WoLF는 측정 모델만 오지정된 경우(이상치)에는 잘 작동하지만, 체계적인 동역학적 오류에는 어려움을 겪습니다.
Lorenz96 카오스 시스템: 고차원( $d=60$ ) 비선형 설정에서 체계적인 오지정이 있는 경우, EKF-PrO는 탁월한 성능을 입증했습니다. 연구에 따르면 이상치 강건 필터들은 유효하지만 예상 밖인 관측치를 거부함으로써 체계적 오지정 상황에서 오히려 성능을 악화시킬 수 있는 반면, EKF-PrO는 데이터를 버리지 않고도 불확실성을 적응시킵니다.
보수성(Conservativity): 이론적 분석(Proposition 4)과 실험 결과는 EKF-PrO가 KF보다 더 보수적임을 확인해 줍니다. 즉, 이상치가 존재할 때 평균을 덜 공격적으로 업데이트하고 공분산을 더 크게 팽창시켜, 더 나은 장기 예측을 가능하게 합니다.

의의 및 주장
본 논문은 모델 오지정이 일반적이고 피할 수 없는 환경에서 (일반화된) 베이지안 추론에 대한 필수적인 대안으로서 EKF-PrO를 위치시킵니다. 저자들은 잘 교정된 사후 분포를 강제하기 위해 더 복잡한 모델을 맞추려고 노력하기보다는, 예측 성능을 직접적으로 목표로 삼아야 한다고 주장합니다.

이 연구의 의의는 예측 지향적 사후 분포(강건하면서도 과도한 확신을 피함)의 이론적 이점과 빠르고 온라인적인 필터링 알고리즘에 대한 실질적인 필요성 사이의 간극을 메우는 데 있습니다. 저자들은 이 방법이 효과적이긴 하지만, 통계적 효율성이나 차원 의존성과 같은 이론적 특성이 아직 완전히 이해되지 않았으며, 계산 비용이 현재 표준 KF보다는 10~20배 높지만 다른 강건한 베이스라인들과는 유사하다는 점을 겸허히 인정합니다. 그들은 이 효율적인 업데이트 절차의 개발을 주요 기술적 기여로 보며, 이를 통해 PrO 사후 분포를 동적인 상태 공간 문제에 적용할 수 있게 되었다고 보고 있습니다.