💻 computer science

Rethinking Time Series with Kolmogorov-Arnold Networks: A Systematic Review

이 체계적 문헌 고찰은 시계열 분석에 대한 콜모고로프-아르노프 네트워크(KAN)의 적합성을 평가하며, KAN이 다양한 영역에서 매끄러운 패턴을 가진 해석 가능한 단기 예측에는 탁월하지만, 현재의 적용은 이질적인 증거, 장기 의존성 및 체제 변화 처리의 어려움, 그리고 표준화된 벤치마크와 엄격한 해석 가능성 검증의 필요성에 의해 제한된다는 결론을 내린다.

원저자: Antoni Mól, Dariusz Jemielniak, Leon Ciechanowski

게시일 2026-07-14

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Antoni Mól, Dariusz Jemielniak, Leon Ciechanowski

원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

미래를 예측하려고 한다고 상상해 보세요. 내일 우리 동네에서 전기를 얼마나 사용할지, 휴대폰 배터리가 어떻게 버텨줄지, 혹은 날씨가 어떻게 변할지 알고 싶을 수도 있습니다. 수년 동안 이 작업을 위한 기본 도구들은 거대한 '블랙박스 로봇'(딥러닝 모델이라고 불림)이었는데, 이들은 추측은 잘하지만 왜 그런 추측을 했는지 설명하는 데는 젬병이었습니다. 또한 장기적인 패턴을 다루는 데는 때때로 서툴기도 했습니다.

여기 콜모고로프-아르노프 네트워크(Kolmogorov-Arnold Networks), 줄여서 KAN이 등장했습니다. KAN을 단순히 블랙박스로 생각하지 말고, 재료를 그냥 냄비에 던져 넣는 것이 아니라 각 향신료가 맛을 어떻게 바꾸는지 단계별로 정확하게 보여줄 수 있는 숙련된 요리사라고 생각해보세요.

이 KAN이 메인 코스 요리를 먹을 준비가 되었는지 확인하기 위해 기존의 로봇들과 맛 테스트를 진행한 새로운 체계적 검토 논문의 소식을 전해드립니다.

메인 요리: KAN은 실제로 무엇을 하는가

전통적인 신경망은 기계(뉴런)는 고정되어 있고 오직 컨베이어 벨트(가중치)만 조정되는 공장 조립 라인과 같습니다. KAN은 이 판도를 뒤집습니다. 고정된 기계 대신, 노드 사이의 연결에 있는 조절 가능하고 학습 가능한 함수를 사용합니다.

표준 네트워크가 고정된 굴곡을 통해 물이 흐르는 딱딱한 파이프 시스템이라면, KAN은 굴곡 자체가 물에 완벽하게 맞도록 스스로 늘어나고 줄어들며 모양을 바꿀 수 있는 파이프 시스템과 같습니다. 이를 통해 데이터의 복잡하고 매끄러운 패턴을 훨씬 더 효율적으로 학습할 수 있습니다.

맛 테스트: KAN이 빛나는 곳

연구진은 36개의 연구를 검토했으며, KAN이 특정 구조화된 환경에서 압도적인 성과를 내고 있다는 것을 발견했습니다.

에너지 및 배터리: 전력망과 전기차 배터리의 세계에서 KAN은 초정밀 정비공과 같습니다. 한 연구에서 KAN 모델은 오차(RMSE)를 단 0.00570으로 예측하여 기존 모델의 0.00607을 앞질렀습니다. 또 다른 연구에서는 전기차 배터리의 잔량을 정확도(R²) 0.9755로 예측했는데, 이는 기존 모델의 0.9693보다 높은 수치입니다.
자연 및 인프라: 강물의 흐름(유량)이나 댐이 압력에 의해 얼마나 휘어질지를 예측할 때 KAN은 주인공입니다. 1일 강수 유량 예측에서 KAN은 라인강(Rhine river)에 대해 0.975의 정확도(R²)를 기록하며, 이전의 챔피언이었던 트랜스포머(Transformers)가 기록한 0.955를 넘어섰습니다.
"작은 데이터"의 초능력: 가장 멋진 기술 중 하나는 무엇일까요? KAN은 작습니다. 한 이상 탐지 테스트에서 KAN 모델은 단 274개의 파라미터(뇌의 '메모리 슬롯')만으로 임무를 수행한 반면, 기존 모델은 10,421개가 필요했습니다. 이는 97% 감소한 수치입니다! 마치 커다란 퍼즐 상자 대신 아주 적은 양의 조각만 가지고 퍼즐을 푸는 것과 같습니다.

"잠깐, 너무 빨라요" 구역: KAN이 비틀거리는 곳

여기서 논문은 브레이크를 밟습니다. KAN은 모든 것에 쓰이는 마법 지팡이가 아닙니다.

금융 시장의 함정: 만약 KAN이 마법사처럼 주식 시장이나 암호화폐 가격을 예측할 것이라고 생각한다면, 논문은 이렇게 말합니다. 다시 생각하세요. 가격이 무작식로 널뛰고 규칙이 갑자기 변하는(마치 매초 골대가 움직이는 게임 같은) 금융 시장에서 KAN은 고전했습니다. 암호화폐 가격을 예측하려던 한 모델은 0.1378에서 0.1796 사이의 정확도(R²)만을 기록했습니다. 논문은 금융 시장이 KAN이 좋아하는 매끄러운 수학적 곡선을 그리기에는 너무 혼란스럽고 "거칠기" 때문이라고 시사합니다.
장기 예측: KAN은 단기 예측(1~3일)에는 뛰어나지만, 더 먼 미래를 보려고 하면 그 우위가 사라지며 기존 모델과 비슷한 성능을 보이기 시작합니다.
"슬로우 쿠커" 문제: KAN은 크기는 효율적이지만, 학습 속도가 느릴 수 있습니다. 한 연구에서 KAN 모델을 학습시키는 데 843초가 걸린 반면, 베이스라인 모델은 단 244초 만에 끝났습니다. 이는 맛은 훌륭하지만 준비하는 데 세 배나 더 걸리는 슬로우 쿠커 요리와 같습니다.

"설명 가능성"의 미스터리: 정말 레시피를 읽을 수 있는가?

KAN의 가장 큰 셀링 포인트는 "해석 가능하다"는 것입니다. 여러분은 모델을 보고 $X_{t+1} = e^{X_t^2} + \sin(3.14 \cdot X_{t-1})$ 와 같이 모델이 학습한 수학 공식, 즉 레시피를 볼 수 있어야 합니다.

논문은 그렇습니다, KAN이 이러한 공식을 실제로 내뱉을 수 있음을 확인했습니다. 하지만 여기에는 함정이 있습니다. 저자들은 단순히 공식을 볼 수 있다고 해서 인간 전문가가 그것을 실제로 이해하거나 블랙박스보다 더 신뢰하게 되는 것은 아니라고 경고합니다.

트레이드오프(절충): 레시피를 읽을 수 있을 만큼 모델을 단순하게 만들려면, 종종 모델의 정확도를 희생해야 합니다. 한 테스트에서 "읽을 수 있는" 버전의 KAN은 "읽을 수 없는" 버전보다 성능이 현저히 떨어졌습니다.
증거의 부재: 논문은 우리가 공식을 가지고 있긴 하지만, 인간 전문가(의사나 엔지니어 등)에게 이 공식이 실제로 의사결정에 도움이 되는지 아무도 묻지 않았다는 점을 지적합니다. 이는 지도가 아름답게 생겼다고 해서, 그 지도가 실제로 길을 찾는 데 도움이 되는지 아직 테스트해보지 않은 것과 같습니다.

결론: 보편적인 해결책이 아닌 특화된 도구

그렇다면 최종 결론은 무엇일까요?

논문은 KAN이 데이터가 매끄럽고, 구조화되어 있으며, 단기적인 문제(예: 전력 사용량, 강수량, 배터리 건강 예측)에 적합한 유망하고 특화된 도구라고 제안합니다. 이러한 분야에서 KAN은 기존 모델보다 더 정확하고, 더 작으며, 더 투명합니다.

하지만 KAN은 보편적인 해결책이 아닙니다. 특히 금융과 같은 혼란스러운 분야나 매우 장기적인 예측을 위해 기존 모델을 대체할 준비가 되어 있지 않습니다. 또한 저자들은 이 분야가 아직 초기 단계이며, 많은 연구가 모델이 실행되는 데 걸리는 시간이나 메모리 사용량을 보고하지 않아 실세계에 적용할 준비가 되었는지 확언하기 어렵다고 언급했습니다.

요약하자면, KAN은 AI라는 오케스트라의 탁월하고 새로운 악기입니다. 매끄럽고 복잡한 멜로디를 연주하는 데는 완벽하지만, 혼란스러운 록 콘서트의 소음 속에서는 길을 잃을 수도 있습니다. 이들이 밴드를 이끌 수 있도록 하기 위해서는 더 많은 연습(그리고 더 많은 테스트)이 필요합니다.

기술 요약: Kolmogorov-Arnold Networks를 통한 시계열 분석의 재고: 체계적 문헌 고찰

1. 문제 정의

시계열 분석은 금융, 의료, 에너지, 기후 과학 등 다양한 분야에서 매우 중요하지만, 기존 방법론들이 해결하기 어려운 지속적인 과제에 직면해 있습니다. 전통적인 통계적 방법(예: ARIMA)은 제한적인 선형성 및 정상성 가정으로 인해 비정상성(non-stationarity) 데이터나 개념 드리프트(concept drift)에 적응하지 못해 실패하는 경우가 많습니다. 순환 신경망(RNN) 및 LSTM을 포함한 딥러닝 아키텍처는 기울기 소실/폭주(vanishing/exploding gradients), 순차적 처리에 따른 계산 효율성 저하, 그리고 파괴적 망각(catastrophic forgetting) 문제를 겪습니다. 최근에는 트랜스포머(Transformer) 구조가 시계열에 적용되고 있으나, 자기 주의 집중(self-attention)의 치환 불변성(permutation-invariant) 특성이 시간적 순서와 충돌하는 아키텍처 불일치, 이차 복잡도(quadratic complexity), 그리고 작은 데이터셋에서의 과적합 경향 등의 문제를 안고 있습니다. 더욱이, 기존 모델들은 종종 해석 가능성이 부족하며, 시간의 흐름에 따른 데이터 분포의 진화인 개념 드리프트를 처리할 견고한 메커즘을 갖추지 못하고 있습니다.

본 논문은 Kolmogorov-Arnold 표현 정리(Kolmogorov-Arnold representation theorem)에 기반한 새로운 아키텍처인 Kolmogorov-Arnold Networks(KANs)가 근본적으로 다른 모델링 패러다임을 제공한다고 주장합니다. 고정된 활성화 함수를 사용하고 선형 가중치를 학습하는 MLP와 달리, KAN은 네트워크의 엣지(edge)에 학습 가능한 비선형 단변량 함수(주로 B-spline)를 배치합니다. 이러한 구조는 이론적으로 더 효율적인 함수 근사와 내재된 해석 가능성을 허용하여, 현재의 시계열 모델들이 남긴 간극을 해결할 잠재력을 가집니다.

2. 연구 방법론

본 연구는 시계열 분석을 위한 KAN의 적합성에 대한 **체계적 문헌 고찰(systematic review)**입니다.

검색 전략: 저자들은 2024년 4월부터 2025년 11월 사이에 발표된 문헌을 찾기 위해 4개의 데이터베이스(ScienceDirect, IEEE Xplore, Springer, arXiv)를 검색했습니다. 검색어는 "Kolmogorov–Arnold Network"와 "time series", "temporal data", "forecasting/prediction"을 조합하였습니다.
선택 기준: 초기 243개의 기록 중 36개의 연구가 상세 분석을 위해 선택되었습니다. 포함 기준은 KAN을 시계열 작업에 경험적으로 평가하고, 성능 지표(정확도, 일반화, 적응성)를 보고하며, 충분한 방법론적 투명성을 갖춘 연구였습니다. 이론에만 집중하거나 시계열 관련성이 없는 연구는 제외되었습니다.
분석 프레임워크: 본 검토는 에너지 시스템, 환경 모니터링, 생체 신호, 금융, 인프라 및 일반 예측 벤치마크라는 6가지 핵심 영역에 걸쳐 증거를 합성합니다. 분석은 세 가지 주요 연구 질문(RQ)에 초점을 맞춥니다:
1. 어떤 조건에서 KAN이 기존 아키텍처보다 우수한 성능을 보이는가?
2. KAN의 질적 해석 가능성은 사용자 이해 및 신뢰 측면에서 사후 설명 가능성 방법(예: SHAP, LIME)과 비교하여 어떻게 차이가 있는가?
3. 기존 모델과 비교했을 때 계산 효율성-정확도 트레이드오프(학습 복잡도, 추론, 모델 크기)는 어떠한가?

3. 주요 기여

본 논문은 KAN의 시계열 분석에 대한 현재 상태를 종합적으로 제시하며 다음을 제공합니다:

도메인별 성능 합성: KAN의 성능을 다양한 분야에 걸쳐 상세히 매핑하여, 이 아키텍처가 탁월한 성능을 보이는 곳(구조적이고 매끄러운 패턴)과 어려움을 겪는 곳(높은 변동성, 급격한 체제 변화)을 식별합니다.
해석 가능성에 대한 비판적 평가: 학습된 함수를 시각화하는 '능력'과 그 시각화가 의사결정에 미치는 '실질적 유용성'을 구분하여 엄격하게 평가합니다. 본 검토는 KAN의 해석 가능성 주장과 관련하여 도메인 전문가로부터의 경험적 검증이 부족함을 강조합니다.
계산 벤치마킹 분석: 파라미터 효율성과 학습 시간 사이의 트레이드오프를 분석하며, 검토된 문헌 전반에서 보고된 계산 지표의 상당한 공백을 지적합니다.
연구 격차 식별: 저자들은 특히 개념 드리프트 평가, 통계적 유의성 검정, KAN 특화 드리프트 적응을 위한 표준화된 벤치마크의 부재 등 현재의 증거 기반에 존재하는 결정적인 한계점들을 식별합니다.

4. 결과

4.1 성능 패턴

성공 사례: KAN은 매끄럽고 구조적인 시간적 패턴과 물리적 제약이 특징인 도메인에서 일관되게 우수하거나 대등한 성능을 보여줍니다.
- 에너지 및 인프라: 유량 예측에서 KAN은 1~~3일 예측 범위에서 Transformer보다 우수한 성능을 보였습니다 (R² > 0.95). 에너지 부하 예측에서 KAN은 베이스라인 대비 RMSE를 20~~34% 개선했습니다.
- 생체 의학: KAN은 배터리 충전 상태(SoC) 추정(R² = 0.9755) 및 ECG 이상 탐지에서 강력한 결과를 보였으며, 종종 MLP나 LSTM보다 적은 파라미터를 사용했습니다.
- 파라미터 효율성: 파라미터 수를 보고한 12개 연구 중 9개에서, KAN 변형 모델은 베이스라인과 대등하거나 더 나은 성능을 달성하면서도 실질적으로 훨씬 적은 파라미터(61%에서 98% 감소)를 요구했습니다.
한계점:
- 금융 예측: KAN은 높은 변동성과 비정상성을 특징으로 하는 금융 시장에서 어려움을 겪었습니다. 암호화폐 예측에 대한 R² 값은 낮았으며(0.13–0.18), 이는 스플라인 기반의 매끄러운 함수 근사가 적대적이고 체제 전환이 잦은 역학 관계에는 부적합함을 시사합니다.
- 장기 예측: 성능 우위는 3일 이상의 예측 범위에서는 종종 약화되어, 7일 지점에서는 Transformer의 성능과 수렴합니다.
- 특정 실패 사례: KAN은 확률적 부하 예측(vs. Quantile-ANN), 부동산 가격 예측(vs. XGBoost), 특정 장기 벤치마크 세트에서 베이스라인보다 낮은 성능을 보였습니다.

4.2 계산 효율성

학습 시간: 파라미터 효율성과는 대조적으로, KAN은 보고된 대부분의 연구에서 베이스라인보다 더 긴 학습 시간을 일관되게 요구했습니다 (예: 1.77배에서 3.45배 더 김). 이는 역전파 과정에서 스플라인 계수를 최적화하는 데 드는 계산 오버헤드 때문입니다.
추론 및 메모리: 보고된 사례에서 KAN의 GPU 메모리 소비량은 더 낮았습니다 (예: 한 연구에서 85% 감소). 이는 파라미터 효율성과 일치합니다. 다만, 추론 지연 시간(inference latency) 데이터는 부족합니다.
보고 격차: 상당한 발견 중 하나는 계산 벤치마킹 데이터의 부족입니다. 36개의 연구 중 극소수만이 학습 시간, 추론 지연 시간 또는 메모리 사용량을 보고하여, 배포 가능성에 대한 확정적인 결론을 내리는 데 한계를 주었습니다.

4.3 해석 가능성

메커니즘: KAN은 B-spline 시각화, 엣지 가중치 그래프, 그리고 기호적 수학 공식(예: $X_{t+1} = e^{X_t^2} + \sin(3.14 \cdot X_{t-1})$ ) 추출 능력을 통해 내장된 해석 가능성을 제공합니다.
비판적 평가: 본 검토는 이러한 메커니즘은 존재하지만, 그 실질적 유용성은 입증되지 않았다고 판단합니다.
- KAN의 시각화가 SHAP와 같은 사후 방법론보다 도메인 전문가에게 더 이해하기 쉽거나 실행 가능한지에 대한 사용자 연구가 부족합니다.
- 트레이드오프: 시각적 해석 가능성을 달성하려면 네트워크 구조를 단순화해야 하는 경우가 많으며, 이는 심각한 성능 저하로 이어질 수 있습니다 (예: 한 연구에서 F1-score가 0.70에서 0.54로 하락).
- 복잡성: 수백 개의 B-spline 플롯이 있는 밀집된 네트워크를 해석하는 것은 인지적으로 매우 힘들며, 기호적 공식 추출 또한 복잡한 사후 처리(pruning)를 요구하므로 "설계에 의한 해석 가능성(interpretability by design)"이라는 주장에 도전 과제를 제기합니다.

4.4 개념 드리프트 (Concept Drift)

KAN과 개념 드리프트에 관한 현재의 증거는 예비적인 수준입니다. 일부 아키텍처(예: WormKAN)가 체제 변화를 식별하는 데 유망함을 보여주기는 하지만, 기존의 드리프트 탐지 벤치마크(예: ADWIN, DDM)에 대한 체계적인 평가는 부재합니다. 이 분야에는 KAN이 갑작스러운 변화와 점진적인 분포 변화에 어떻게 적응하는지에 대한 통제된 연구가 부족합니다.

5. 의의 및 주장

본 논문은 Kolmogorov-Arnold Networks가 시계열 분석을 위한 유망하지만 선택적인 아키텍처 혁신이라고 결론짓습니다.

선택적 배포: KAN은 매끄럽고 물리적 제약이 있는 시간적 패턴(예: 에너지, 수문학, 생체 신호)을 가진 도메인에 가장 적합하며, 이 경우 파라미터 효율성과 해석 가능성의 잠재력이 가치가 있습니다.
보편적 해결책이 아님: KAN은 고변동성 금융 예측 및 장기 예측 작업에서 특히 실패하는 모습을 보이며, 최첨단 모델들에 대한 보편적인 개선책이 아닙니다.
방법론적 성숙도: 저자들은 현재의 증거 기반이 예비적이고, 이질적이며, 불균형하게 보고되었다는 점을 강조합니다. 이 분야는 통계적 유의성 검정, 표준화된 벤치마크, 그리고 KAN 특유의 드리프트 적응에 대한 엄격한 검증의 부족을 겪고 있습니다.
향후 방향: 본 논문은 향-후 연구가 표준화된 벤치마크, 통계적 검정, 개념 드리프트 평가, 그리고 KAN의 이론적 해석 가능성이 실제 인간의 의사결정 개선으로 이어지는지를 검증하기 위한 사용자 중심 연구를 우선시할 것을 촉구합니다.

요약하자면, 본 논문은 KAN의 기술적 시연을 넘어 그 실질적 유용성과 한계에 대한 엄격한 경험적 검증을 요구하며, 신중하고 증거에 기반한 채택을 권고합니다.