기술 요약: 칼만 진화 (Kalman Evolve)

문제 제기

칼만 필터 (KF) 는 선형 동역학, 가우시안 노이즈, 알려진 노이즈 공분산이라는 가정 하에 최적의 해를 제공하며, 상태 추정의 초석으로 남아 있습니다. 그러나 도플러 레이더 및 라이다 (LiDAR) 와 같은 현실적인 센싱 환경에서는 관측치가 종종 근본적인 상태의 본질적으로 비선형 함수인 경우가 많습니다. 이러한 시나리오에서 측정 잔차의 아핀 (affine) 변환으로 제한된 표준 KF 업데이트는 최적 추정기의 구조를 포착하지 못합니다.

국소 선형화 또는 시그마 포인트 근사를 통해 비선형성을 처리하려는 확장된 칼만 필터 (EKF) 와 무향 칼만 필터 (UKF) 와 같은 확장들은 알려진 시스템 모델에 의존하며 데이터 기반 적응력이 부족합니다. 반면, 신경 칼만 필터 (예: KalmanNet) 와 같은 데이터 기반 접근 방식은 종종 블랙박스처럼 작동하고 상당한 양의 학습 데이터를 요구하며 고전적 방법보다 성능이 떨어질 수 있습니다. 또한, 최적화된 칼만 필터 (OKF) 와 같은 기존 최적화 방법은 노이즈 매개변수 ($Q$ 및 $R$) 튜닝에만 초점을 맞추어 아핀 추정기 클래스에 국한됩니다. 저자들은 이러한 구조적 한계가 매개변수가 완벽하게 조정되더라도 모델 불일치로 인한 근본적인 성능 격차를 극복하는 것을 방해한다고 주장합니다.

방법론: 칼만 진화

매개변수 불확실성과 구조적 한계라는 공동 과제를 해결하기 위해 저자들은 노이즈 매개변수와 업데이트 구조를 동시에 최적화함으로써 개선된 필터링 알고리즘을 발견하는 프레임워크인 **칼만 진화 (Kalman Evolve)**를 제안합니다. 이 접근법은 두 가지 주요 단계로 구성됩니다:

1. 매개변수 보정: 이 과정은 최소제곱 추정 또는 최적화된 칼만 필터 (OKF) 를 사용하여 과정 및 측정 노이즈 공분산 ($Q$ 및 $R$) 을 추정함으로써 시작됩니다. 이는 잘 보정되고 경쟁력 있는 기준선을 확립합니다.
2. LLM 기반 진화적 탐색: 보정된 기준선을 바탕으로, 이 프레임워크는 대규모 언어 모델 (LLM) 이 이끄는 진화적 탐색을 활용합니다.
   • 구조적 사전 지식: LLM(특히 DeepSeek 16B) 은 해석 가능한 프로그램 변환 공간에 대한 구조적 사전 지식으로 작용합니다.
   • 탐색 과정: AlphaEvolve 에서 영감을 받아, 탐색은 네 개의 독립적인 '섬'(병렬 GPU 작업자) 을 통해 수행됩니다. 각 사이클에서 LLM 은 데이터베이스에서 후보 알고리즘을 샘플링하고, 문제 명세와 두 개의 부모 알고리즘을 프롬프트로 받아 변이 또는 조합을 생성합니다.
   • 적합도 평가: 후보들은 학습 데이터에서의 손실 함수 (일반적으로 평균 제곱근 오차, RMSE) 를 기반으로 평가됩니다. 데이터베이스는 최상위 성능을 보이는 후보들로 업데이트됩니다.
   • 구조 보존: 핵심적으로, 탐색은 칼만 필터의 재귀적 형태를 보존하도록 제한됩니다. 발견된 알고리즘은 혁신 (innovation) 과 칼만 이득의 의미적 역할을 유지하면서 업데이트 단계를 수정합니다 (예: 비아핀 게이트 메커니즘 또는 적응형 재조정을 통해).

주요 기여

이 논문은 네 가지 주요 기여를 합니다:

• 아핀 추정기의 이론적 비최적성: 저자들은 도플러 레이더와 라이다와 같은 일반적인 비선형 센싱 모델 하에서 아핀 추정기가 구조적으로 비최적임을 보여주는 분석적 증명 (부록 1 및 2) 을 제공합니다. 선형 동역학과 가우시안 사전 분포가 있더라도 관측치에서의 기하학적 의존성 (예: 방사형 또는 각도 측정) 은 본질적으로 비선형인 사후 평균을 유도합니다.
• 공동 최적화 프레임워크: 그들은 노이즈 매개변수와 업데이트 구조를 공동으로 최적화하는 통합 프레임워크를 도입하여, 해석 가능한 비아핀 칼만 필터 확장을 발견할 수 있게 합니다.
• 경험적 우위: 합성 및 실세계 벤치마크 전반에 걸쳐 발견된 알고리즘은 최적화된 칼만 필터 (OKF) 를 포함한 강력한 기준선들을 일관되게 능가하며, RMSE 를 최대 12% 까지 감소시킵니다.
• 재현성: 저자들은 해석 가능한 알고리즘 발견에 대한 추가 연구를 지원하기 위해 코드와 발견된 알고리즘을 공개합니다.

실험 결과

이 프레임워크는 세 가지 서로 다른 벤치마크에서 평가되었습니다:

1. 도플러 레이더 추적: 단순화 ("Toy") 에서 복잡 ("Free" 운동, 가속도 및 회전 포함) 에 이르는 다섯 가지 시나리오에서 평가되었습니다. 칼만 진화 (KE) 는 OKF 를 일관되게 능가했습니다. 개선은 단순한 설정에서는 미미 (0.4%) 했지만, 가속도와 비선형 운동이 포함된 복잡한 영역에서는 1112% 까지 증가했습니다.
2. 라이다 기반 위치 확인: 합성 주행 궤적과 실세계 NCLT 데이터셋에서 테스트되었습니다. KE 는 합성 데이터에서 상태 추정에 약 5%, 다음 상태 예측에 6% 개선되었고, 노이즈가 많은 NCLT 데이터셋에서는 2~3% 개선되어 합성 환경을 넘어선 전이 능력을 입증했습니다.
3. 보행자 추적 (MOT20): 보행자의 다음 상태 예측에 중점을 두었습니다. KE 는 OKF 대비 테스트 RMSE 를 8% 감소시켰으며 통계적으로 유의미했습니다 ($p < 10^{-6}$). 주목할 점은 KE 는 OKF 성능이 더 변동적이었던 작은 학습 세트에서도 낮은 오차를 유지하며 우수한 데이터 효율성을 입증했다는 것입니다.

모든 경우에서 발견된 알고리즘은 추론 오버헤드가 최소였기 때문에 표준 칼만 필터와 비교 가능한 계산 비용을 유지했습니다. 딥러닝 기준선 (LSTM, KalmanNet) 은 특히 라이다 및 MOT20 설정에서 모델 기반 접근법보다 일반적으로 성능이 떨어졌습니다.

중요성 및 주장

이 논문은 비선형 상태 추정에서의 성능 격차가 단순히 매개변수 튜닝 문제가 아니라 구조적 문제라고 주장합니다. 칼만 필터의 매개변수뿐만 아니라 구조 자체를 최적화함으로써 칼만 진화는 개선된 상태 추정을 위한 실용적이고 해석 가능한 경로를 제공합니다.

저자들은 그들의 접근 방식이 모델 기반 효율성과 데이터 기반 적응력 사이의 격차를 해소한다고 강조합니다. 블랙박스 신경망과 달리, 발견된 알고리즘은 고전적 필터의 재귀적이고 해석 가능한 형태를 유지하며, 모델 불일치를 처리하기 위해 게이트 또는 적응형 재조정과 같은 간단한 데이터 의존적 메커니즘을 도입합니다. 이 연구는 선형성과 가우시안성 가정이 자주 위반되는 실세계 센싱 문제에 대해 고성능 해석 가능 알고리즘을 개발하기 위해 고전적 모델 기반 구조와 LM 기반 발견을 결합하는 것이 유망한 방향임을 시사합니다.