[기술 요약] DecompKAN: 장기 시계열 예측을 위한 분해된 패치 기반 KAN

1. 문제 정의 (Problem Statement)

기후 모델링, 생체 신호 모니터링, 에너지 시스템과 같은 과학적 도메인에서의 시계열 예측은 두 가지 핵심 요구사항을 가집니다: 높은 예측 정확도와 **모델의 투명성(Transparency)**입니다.

• 기존 모델의 한계: Transformer 기반 모델은 높은 정확도를 보이지만, '어텐션 가중치(Attention Weights)'는 어떤 토큰이 중요한지만 보여줄 뿐, 각 특징(feature)에 어떤 **함수적 변환(functional transformation)**이 적용되었는지는 설명하지 못합니다.
• 설명 가능성의 부재: 사후 해석 방법(SHAP, Gradient Saliency 등)은 모델의 내부 계산을 충실히 반영하지 못하는 근사치에 불과합니다. 과학적 의사결정에서는 모델이 학습한 입력-출력 관계의 물리적/생리학적 타당성을 검증하는 것이 필수적입니다.

2. 제안 방법론 (Methodology)

본 논문은 어텐션 메커니즘 없이도 경쟁력 있는 성능을 내면서, 내부 연산 과정을 직접 시각화할 수 있는 DECOMPKAN 아키텍처를 제안합니다.

핵심 구성 요소:

1. Trend–Residual Decomposition (추세-잔차 분해): 이동 평균(Moving Average) 필터를 사용하여 입력 시계열을 느린 변화를 담은 '추세(Trend)' 성분과 빠른 변화를 담은 '잔차(Residual)' 성분으로 분리합니다. 각 성분은 독립적인 Patch-KAN 브랜치에서 처리됩니다.
2. Channel-wise Patching (채널별 패칭): 시계열을 겹치는 패치(Overlapping Patches) 단위로 나누어 선형 임베딩을 수행합니다. 이는 복잡한 주파수 성분을 분리하는 부담을 줄여줍니다.
3. Learned Instance Normalization (학습된 인스턴스 정규화): 비정상성(Non-stationarity) 문제를 해결하기 위해 RevIN과 **학습 가능한 적응형 정규화(Adaptive Normalization)**를 결합합니다. 이는 데이터셋별로 미세한 스케일과 이동(shift)을 조정할 수 있게 합니다.
4. B-spline KAN Edge Functions (B-스플라인 KAN 에지 함수): 모델의 핵심 신경망으로, 고정된 활성화 함수를 사용하는 MLP 대신 **B-스플라인 기반의 Kolmogorov-Arnold Network(KAN)**를 사용합니다. 각 에지(edge)는 학습 가능한 1차원 스칼라 함수 $\phi(x)$를 학습하며, 이는 직접 시각화가 가능합니다.

3. 주요 기여 (Key Contributions)

• 검사 가능한 잠재 에지 함수 (Inspectable Latent Edge Functions): 모델 내부의 비선형 변환을 1차원 함수 형태로 직접 확인할 수 있습니다. 이를 통해 모델이 데이터에 대해 어떤 수학적 연산(진동, 임계값 등)을 수행하는지 파악할 수 있습니다.
• 물리적 구조 데이터에서의 우수한 성능: 기후(Weather), 태양광(Solar), 에너지(ECL)와 같이 물리적 법칙에 따른 부드러운 동역학을 가진 데이터셋에서 기존 SOTA(iTransformer 등) 대비 높은 성능을 보였습니다.
• 파이프라인 설계의 중요성 입증: 절제 연구(Ablation Study)를 통해 KAN이라는 특정 레이어의 선택보다 **분해(Decomposition), 패칭(Patching), 정규화(Normalization)**로 이어지는 전체 파이프라인 설계가 성능에 더 결정적인 역할을 함을 증명했습니다.

4. 실험 결과 (Results)

• 정확도: 32개의 데이터셋-호라이즌 조합 중 15개에서 최고 또는 공동 최고 MSE를 달성했습니다. 특히 Solar 데이터셋에서는 iTransformer 대비 평균 17%의 MSE 감소를 보였습니다.
• 도메인별 특성 발견: 시각화 결과, 기상 데이터(Weather)는 **진동 패턴(Oscillatory patterns)**을 학습하는 반면, 생체 신호(PPG-DaLiA)는 **임계값 기반 활성화(Threshold-like activations)**를 학습함을 확인했습니다. 이는 모델이 도메인 특성에 맞춰 스스로 함수적 어휘를 학습함을 의미합니다.
• 구조적 희소성 (Structured Sparsity): 첫 번째 KAN 레이어에서 많은 에지가 거의 0에 가까운 함수를 학습함으로써, 모델이 중요한 특징만을 선택하는 '학습된 특징 선택기' 역할을 수행함을 발견했습니다.

5. 의의 및 결론 (Significance & Conclusion)

DECOMPKAN은 단순히 예측 성능을 높이는 것을 넘어, **"모델이 왜 이렇게 예측했는가?"**라는 질문에 대해 수학적 함수 형태로 답할 수 있는 구조를 제시했습니다.

• 안전 필수 분야(Safety-critical domains): 의료 모니터링이나 기후 예측처럼 결과의 근거가 중요한 분야에서 규제 준수 및 전문가 검증을 가능하게 하는 도구로서 가치가 높습니다.
• 경량성: 1.9M~3.6M 사이의 적은 파라미터로도 대규모 트랜스포머 모델과 경쟁할 수 있는 효율적인 아키텍처입니다.
• 한계 및 향후 과제: 채널 독립적(Channel-independent) 설계로 인해 변수 간의 복잡한 상관관계를 포착하는 데 한계가 있으며, 향후 그래프 신경망(GNN)과의 결합을 통한 개선 가능성을 제시했습니다.