당신이 통제력을 잃고 달아나는 스케이트보드가 다음에 어디로 갈지 추측하려고 한다고 상상해 보세요. 당신에게는 지도 한 장, 스케이트보드가 보통 어떻게 움직이는지에 대한 규칙 세트, 그리고 지금 스케이트보드가 어디에 있는지 볼 수 있는 쌍안경 한 쌍이 있습니다. 하지만 여기 함정이 있습니다. 바람이 갑자기 강해지거나, 노면이 미끄러워지거나, 스케이트보드가 당신이 예상치 못한 기술을 선보일 수도 있다는 점입니다. 만약 당신이 원래의 지도와 규칙에만 엄격하게 매달린다면, 상황이 변하는 순간 스케이트보드를 놓치게 될 것입니다. 이것이 공학 및 신호 처리 분야에서 말하는 '상태 추정(state estimation)'의 일상적인 고군분투입니다. 이는 노이즈가 섞이고 불완전한 단서들을 바탕으로 숨겨진 진실(로봇의 위치나 비행기의 속도 같은 것)을 추측하는 기술입니다.

수십 년 동안 이 추측 게임의 표준은 **칼만 필터(Kalman Filter)**였습니다. 이것을 완벽한 지도와 바람이 보통 얼마나 부는지에 대한 완벽한 이해를 결합한 매우 똑똑하고 수학적인 탐정이라고 생각해보세요. 이 탐정은 세상이 자신이 예상하는 대로 정확하게 움직일 때 아주 훌륭하게 작동합니다. 하지만 현실 세계는 무질서합니다. 바람은 변하고, 도로는 울퉁불퉁해지며, 탐정의 완벽한 지도는 나쁜 추측이 되어버립니다. 최근 엔지니어들은 AI(인공지능)를 사용하여 도움을 받기 시작했습니다. 그들은 사람이 직접 규칙을 써넣는 대신, 데이터를 통해 '도로의 규칙'을 학습하도록 컴퓨터를 가르쳤습니다. KalmanNet이라는 도구와 같은 이 AI 조력자들은 무질서하고 알 수 없는 상황을 처리하는 데 뛰어납니다. 하지만 그들에게는 사각지대가 있습니다. 만약 세상이 변하는 동안(예를 들어 갑작스러운 폭풍우가 치는 동안) 그들이 작업 중이라면, 그들은 자신의 뇌를 업데이트해야 할 때라는 것을 알지 못합니다. 그들은 예전의 규칙을 바탕으로 계속 추측하며, "잠깐, 뭔가 잘못됐어, 다시 배워야 해"라고 말할 방법이 없기 때문에 점점 더 나쁜 추측을 하게 됩니다.

여기서 새로운 연구가 등장합니다. 저자인 Wenyi Zhang과 동료들은 CASA-KalmanNet이라 불리는 시스템을 구축했습니다. 이것은 마치 그 AI 탐정에게 내장된 '현실 점검' 센서를 달아준 것과 같습니다. 그들은 CPDNet이라고 명명한 특별한 신경망 모듈을 추가하여, 탐정의 내부 사고 과정을 끊임없이 관찰하게 했습니다. 만약 탐정이 이상한 추측을 하기 시작하거나 단서가 예측과 일치하지 않으면, CPDNet이 경보를 울립니다. 이 시스템은 단순히 "도와줘!"라고 비명을 지르는 것이 아니라, 탐정에게 얼마나 당황해야 하는지, 그리고 새로운 단서로부터 얼마나 열심히 배워야 하는지를 알려줍니다. 이를 통해 시스템은 인간이 새로운 지도를 건네주거나 정답을 보여주지 않아도, 갑작스러운 변화나 서서한 변화에 즉각적으로 적응할 수 있습니다. 테스트 결과, 이 자기 인식 시스템은 단순히 혼돈 속에서 살아남은 것에 그치지 않고, 기존의 AI 방식보다 움직이는 목표물을 훨씬 더 잘 추적했으며, 심지어 규칙을 미리 알고 있는 완벽하고 수학적인 탐정들의 성능까지 따라잡았습니다.

"현실 점검" 기능을 갖춘 탐정

그렇다면 이 마법은 어떻게 작동할까요? CASA-KalmanNet(Change-Aware Self-Adaptive KalmanNet)의 이야기를 자세히 살펴보겠습니다.

문제점: 고집 센 탐정
움직이는 자동차를 추적해야 하는 로봇이 있다고 상상해 보세요. 당신은 맑은 날 매끄러운 도로에서 훈련된 AI 필터(KalmanNet)를 사용합니다. 그것은 아주 잘 작동하고 있습니다. 하지만 갑자기 비가 내리기 시작하고 도로가 빙판길이 됩니다. 자동차는 다르게 미끄러집니다. 하지만 AI는 비가 오고 있다는 것을 모릅니다. 그것은 계속해서 "맑은 날"의 규칙을 사용합니다. 그것은 틀린 추측을 하기 시작하지만, 자신이 틀렸다는 사실을 깨닫지 못합니다. 그저 계속 추측할 뿐이며, 점점 더 혼란에 빠집니다.

이 문제를 해결하려는 이전의 시도들은 탐정에게 "비가 올 때 대처하는 법"에 대한 매뉴얼을 주는 것과 같았는데, 이는 어떤 종류의 비가 올지 정확히 알 때만 유효합니다. 혹은, 탐정이 항상 모든 것을 공부하도록 만들려고 시도하기도 했지만, 이는 느리고 종종 탐정이 이미 알고 있던 것을 잊어버리게 만드는 문제(이를 "과적응"이라 부릅니다)를 일으켰습니다.

해결책: 감시하는 수호자 (CPDNet)
저자들은 새로운 캐릭터를 도입했습니다: CPDNet. CPDNet을 탐정 옆에 앉아 있는 작고 매우 관찰력이 뛰어난 수호자라고 생각해보세요. CPDNet은 차를 운전하거나 위치를 추측하지 않습니다. 그저 탐정의 "이노베이션(innovation)"을 관찰할 뿐입니다. 탐정의 용어로 "이노베션"이란 탐정이 예상했던 일과 실제로 발생한 일 사이의 차이를 의미합니다.

• 수호자의 임무: CPDNet은 이러한 차이점을 살펴봅니다. 탐정이 보통 맞다면 차이는 작습니다. 만약 세상이 변한다면(예를 들어 비가 내리기 시작하면), 차이는 엄청나게 커집니다.
• 신호: CPDNet은 이 차이를 "신뢰도 점수"로 변환합니다. 점수가 낮으면 모든 것이 괜찮은 것입니다. 점수가 급증하면, 이는 "와, 탐정이 정신을 잃고 있어! 규칙이 바뀌었어!"라는 뜻입니다.
• 행동: 이 점수는 단순히 전구를 켜는 것에 그치지 않습니다. 그것은 탐정의 학습을 조절하는 디머 스위치(밝기 조절 스위치) 역할을 합니다. 점수가 높으면, 탐정은 새롭고 무질서한 데이터로부터 빠르게 배울 수 있도록 허용됩니다. 점수가 낮으면, 탐정은 학습을 멈추고 자신이 알고 있는 것을 고수합니다. 이는 탐정이 작은 오류 때문에 패닉에 빠지거나 폭풍우 속에서 훈련 내용을 잊어버리는 것을 방지합니다.

"라벨 없는" 초능력
여기 가장 멋진 부분이 있습니다. 탐정은 배우기 위해 정답을 볼 필요가 없습니다. 보통 AI를 가르치려면 "아니, 자동차는 저기가 아니라 여기에 있었어"라고 말해주는 선생님이 필요합니다. 하지만 현실 세계에서는 그곳에 선생님이 서 있는 경우가 거의 없습니다.

CASA-KalmanNet이 영리한 이유는 "이노베이션"(예측과 현실 사이의 불일치)을 스스로의 선생님으로 사용하기 때문입니다. 만약 예측이 크게 빗나간다면, 시스템은 실제 위치를 알지 못하더라도 조정이 필요하다는 것을 압니다. 그것은 자신이 느끼는 혼란을 최소화함으로써 스스로의 실수를 바로잡는 법을 배웁니다.

실험 결과가 보여준 것
저자들은 단순한 직선 운동부터 혼란스럽고 소용돌이치는 패턴(나비의 예측 불가능한 비행 경로를 설명하는 세련된 방식인 로렌츠 어트랙터와 같은 것)에 이르기까지 다양한 시나리오에서 이 아이디어를 테스트했습니다.

• 갑작스러운 변화: 노이즈 수준을 갑자기 변경했을 때(예를 들어 라디오의 잡음을 높이는 것처럼), 기존의 AI 필터들은 혼란에 빠져 큰 실수를 저질렀습니다. 그러나 CASA-KalmanNet은 "신뢰도 점수"의 급증을 포착하여 학습 스위치를 전환하고 빠르게 적응했습니다.
• 점진적인 변화: 상황이 시간에 따라 천천히 변할 때(예를 들어 도로가 서서히 더 울퉁불퉁해지는 것처럼), 시스템은 학습을 서서히 조정하여 불안정해지지 않고 변화를 따라갔습니다.
• 실제 환경 테스트: 그들은 심지어 실제 로봇 데이터셋(NCLT)에도 적용해 보았습니다. 그들은 노이즈가 갑자기 증가하는 상황(센서가 더러워지는 것과 같은)을 시뮬레이션했습니다. 표준 AI 필터는 처참하게 실패했습니다. "항상 학습하는" AI 필터는 너무 많이 배우려다 오히려 성능이 악화되었습니다. 하지만 CASA-KalmanNet은 어땠을까요? 그것은 침착함을 유지하며 딱 필요한 만큼만 배웠고, 서툰 "항상 학습하는" 버전보다 훨씬 적은 횟수의 업데이트만으로 로봇의 위치를 가장 높은 정확도로 추적했습니다.

결론
이 논문은 AI 필터에 "감시자"(CPDNet)를 추가함으로써, 스마트하면서도 자기 인식이 가능한 시스템을 만들 수 있음을 보여줍니다. 이 시스템은 자신이 잘하고 있는지, 아니-면 어려움을 겪고 있는지 압니다. 언제 멈춰서 생각해야 할지, 그리고 언제 새로운 데이터에 뛰어들어 배워야 할지를 압니다. 규칙이 바뀌었다고 인간이 알려줄 필요가 없습니다. 스스로 알아차리기 때문입니다.

로봇 공학, 자율주행 자동차, 내비게이션의 세계에서 이것은 매우 중요한 일입니다. 이는 우리의 기계가 인간 엔지니어의 지속적인 업데이트 없이도 무질서하고 예측 불가능한 현실 세계를 다룰 수 있음을 의미합니다. 기계는 주변 세상이 바퀴 아래에서 변하더라도, 스스로 적응하고 학습하며 진실을 계속 추적할 수 있습니다.