우리가 사는 세상은 유체 역학 (물 흐름) 이나 양자 역학 (원자 세계) 같은 복잡한 물리 법칙으로 가득 차 있습니다. 과학자들은 이 법칙들을 **미분 방정식 (PDE)**이라는 수학적 언어로 표현합니다.
기존의 AI (특히 FNO라는 모델) 는 이 법칙들을 배우는 데 꽤 능숙했습니다. 하지만 치명적인 약점이 있었습니다.
비유: FNO 는 마치 **"오직 주파수 (소리의 높낮이) 만으로 세상을 보는 안경"**을 끼고 있습니다.
소리를 분석할 때는 아주 훌륭합니다. 하지만, 소리가 들리는 장소 (위치) 에 따라 소리의 성질이 변하는 상황 (예: 진흙탕에서는 소리가 잘 안 들리고, 공기 중에서는 잘 들리는 것) 을 분석하려면 이 안경은 무력해집니다.
FNO 는 "소리가 어디서 들리든 똑같다"고 가정하고 학습하기 때문에, 훈련 데이터에서 본 적이 없는 새로운 환경 (예: 진흙탕) 에 가면 완전히 엉뚱한 답을 내놓거나, 엄청나게 큰 모델로 만들어야만 겨우 맞출 수 있었습니다.
2. 해결책: KANO (두 가지 안경을 동시에 쓴 AI)
저자들은 이 문제를 해결하기 위해 KANO를 만들었습니다. KANO 는 두 가지 안경을 동시에 끼고 세상을 봅니다.
주파수 안경 (Spectral Basis): 소리의 높낮이를 분석합니다. (변화하는 패턴을 잘 잡음)
위치 안경 (Spatial Basis): 소리가 들리는 장소를 분석합니다. (장소마다 다른 성질을 잘 잡음)
핵심 아이디어:
어떤 물리 법칙은 "주파수"로 설명하는 게 가장 간단하고, 어떤 법칙은 "위치"로 설명하는 게 가장 간단합니다.
KANO 는 각 부분마다 가장 간단한 언어 (주파수 또는 위치) 를 골라 설명합니다. 마치 복잡한 레시피를 설명할 때, "소금 양은 저울로 재고 (위치), 불 조절은 타이머로 한다 (주파수)"처럼 각자 가장 효율적인 방법을 쓰는 것과 같습니다.
3. KANO 의 특별한 능력: "수학 공식으로 말하기"
기존 AI 는 학습한 내용을 "검은 상자 (Black Box)"처럼 저장합니다. "이런 입력을 넣으면 저런 결과가 나온다"는 것만 알 뿐, 왜 그런 결과가 나오는지, 그背后에 어떤 수학적 공식이 숨어있는지는 모릅니다.
하지만 KANO 는 다릅니다.
비유: KANO 는 단순히 정답을 외우는 학생이 아니라, 자신의 머릿속에서 수학적 공식을 직접 찾아내는 천재 학생입니다.
학습이 끝나면 KANO 는 "내가 배운 법칙은 x2+y2 같은 공식이야!"라고 **사람이 읽을 수 있는 수식 (Symbolic Representation)**으로 알려줍니다.
실험 결과, KANO 는 실제 물리 법칙 (해밀토니안 등) 을 소수점 네 자리까지 정확하게 찾아냈습니다. 이는 마치 AI 가 뉴턴의 법칙을 스스로 다시 발견한 것과 같습니다.
4. 왜 KANO 가 더 좋은가? (성능 비교)
논문은 KANO 가 기존 모델 (FNO) 보다 압도적으로 좋다는 것을 증명했습니다.
효율성: FNO 가 똑같은 정확도를 내기 위해 **거대한 뇌 (매개변수)**를 필요로 한다면, KANO 는 그의 0.03% 크기인 작은 뇌로도 훨씬 더 정확한 결과를 냅니다. (비유: FNO 는 거대한 도서관 전체를 외워야 하지만, KANO 는 핵심 공식 한 장만 외우면 됩니다.)
일반화 능력: 훈련하지 않은 새로운 상황 (예: 전혀 다른 형태의 파동) 에도 KANO 는 잘 적응하지만, FNO 는 완전히 망가집니다.
양자 역학 실험: 양자 상태 (원자의 움직임) 를 예측하는 실험에서, KANO 는 FNO 보다 10,000 배 (4 자리 수) 더 정확한 예측을 했습니다.
5. 요약: KANO 가 가져오는 변화
이 연구는 AI 가 과학을 바라보는 방식을 바꿉니다.
과거의 AI: "데이터를 많이 주면 정답을 맞출 거야." (단순한 대역폭)
KANO 의 AI: "데이터를 보고 **자연의 법칙 (공식)**을 찾아내고, 그 법칙을 설명할 수 있어." (이해와 일반화)
한 줄 요약:
KANO 는 복잡한 물리 법칙을 배우는 AI 로서, 기존 모델이 놓쳤던 '위치에 따른 변화'를 완벽하게 이해하고, 그 결과를 사람이 읽을 수 있는 아름다운 수학 공식으로 찾아내는 혁신적인 모델입니다.
이 기술이 발전하면, AI 가 새로운 물리 법칙을 발견하거나, 복잡한 기후 변화나 신약 개발 과정을 훨씬 빠르고 정확하게 예측하는 데 큰 역할을 할 것으로 기대됩니다.
1. 문제 정의 (Problem)
현대 과학 및 공학은 종종 위치 의존적 동역학 (Position-dependent dynamics), 즉 계수가 공간 변수에 따라 변하는 편미분 방정식 (Variable coefficient PDEs) 으로 표현되는 복잡한 현상을 다룹니다. (예: 공간적으로 변하는 점성을 가진 유체 흐름, 위치 함수인 퍼텐셜을 가진 슈뢰딩거 방정식 등).
기존의 **푸리에 신경 연산자 (Fourier Neural Operator, FNO)**는 이러한 문제를 해결하기 위해 널리 사용되지만, 다음과 같은 근본적인 한계 (Pure-spectral bottleneck) 를 가집니다:
스펙트럼 희소성 가정: FNO 는 인코딩을 푸리에 변환 (spectral projection) 으로 고정하며, 커널이 주파수 영역에서 대각 행렬 (spectrally diagonal) 로 제한됩니다.
위치 연산자의 밀집성: 위치 연산자 (예: x⋅a(x)) 는 푸리에 공간에서 매우 밀집된 (dense) Toeplitz 행렬로 표현됩니다.
일반화 실패: FNO 는 훈련 데이터 분포 내에서만 작동하며, 훈련 분포 밖 (Out-of-Distribution) 의 입력에 대해서는 급격히 성능이 저하됩니다. 이론적으로 FNO 는 위치 의존적 동역학을 근사하려면 모델 크기가 원하는 오차에 대해 **초지수적 (super-exponentially)**으로 증가해야 하므로, 실용적인 크기로는 훈련 데이터에 과적합 (overfitting) 될 수밖에 없습니다.
2. 방법론 (Methodology)
저자들은 이러한 한계를 극복하기 위해 **콜모고로프 - 아르놀드 신경 연산자 (KANO)**를 제안합니다. KANO 는 스펙트럼 (주파수) 과 공간 (위치) 두 영역을 모두 활용하는 이중 영역 (Dual-domain) 신경 연산자입니다.
핵심 아이디어: 연산자의 각 구성 요소를 가장 희소 (sparse) 한 기저 (basis) 에서 표현합니다.
미분 항 (Differential terms) → 주파수 영역 (Spectral basis) 에서 희소함.
국소화/위치 의존 항 (Localized/Position-dependent terms) → 공간 영역 (Spatial basis) 에서 희소함.
아키텍처:
의사 미분 연산자 (Pseudo-differential operator) 프레임워크: KANO 는 Kohn-Nirenberg 양자화를 사용하여 공간 x와 주파수 ξ를 모두 매개변수화하는 심볼 (Symbol) p(x,ξ)을 학습합니다.
KAN (Kolmogorov-Arnold Network) 통합: 기존의 MLP 대신 KAN을 사용하여 심볼 p(x,ξ)과 비선형 활성화 함수를 표현합니다. KAN 의 에지 (edge) 는 학습 가능한 1 차원 함수이므로, 학습된 연산자를 기호적 (Symbolic) 형태로 해석하고 추출할 수 있습니다.
구조: KANO 는 FNO 와 달리 넓은 리프트 (lift-up) 및 프로젝션 (projection) 네트워크를 제거하고, KANO 레이어만 반복적으로 쌓아 구조를 단순화하고 기호 해석 가능성을 극대화합니다.
3. 주요 기여 (Key Contributions)
FNO 의 이론적 한계 규명: FNO 가 위치 의존적 동역학 (Variable coefficient PDEs) 에 대해 훈련 분포 밖에서 수렴하지 못하는 이유를 이론적으로 증명했습니다. 위치 연산자가 푸리에 꼬리 (Fourier tail) 를 길게 만들어 FNO 의 모델 크기가 초지수적으로 증가해야 함을 보였습니다.
KANO 프레임워크 제안: 공간과 주파수 영역을 결합한 이중 영역 표현력을 가진 새로운 신경 연산자를 제안했습니다. 이론적으로 KANO 는 매개변수 복잡도가 다항식 (polynomial) 으로만 증가하여 실용적인 모델 크기로도 일반적인 위치 의존적 동역학을 정확하게 근사할 수 있음을 증명했습니다.
기호적 해석 가능성 및 성능 검증:
KANO 는 학습된 연산자를 폐형 (closed-form) 기호식으로 복원할 수 있음을 실험적으로 입증했습니다.
합성 연산자 벤치마크와 양자 해밀토니안 학습 (Quantum Hamiltonian Learning) 에서 FNO 를 압도하는 성능을 보였습니다.
4. 실험 결과 (Results)
합성 연산자 일반화 벤치마크:
훈련 데이터 (Group A) 와 완전히 다른 테스트 데이터 (Group B) 에 대해 평가했습니다.
FNO 는 테스트 데이터에서 손실이 급격히 증가하는 반면, KANO 는 훈련 데이터와 유사한 낮은 손실을 유지하며 강건한 일반화를 보였습니다.
KANO 는 FNO 대비 **모델 파라미터의 0.03%**만 사용하면서도 상대 ℓ2 손실에서 1 차수 (order of magnitude) 더 낮은 오차를 달성했습니다.
학습된 KAN 심볼을 시각화하여 실제 물리 법칙 (예: x2⋅f−∂xxf) 을 4 번째 소수점 자리까지 정확하게 복원 (Symbolic Recovery) 했습니다.
양자 해밀토니안 학습 벤치마크:
양자 상태 진화 (Quartic double-well, Nonlinear Schrödinger equation) 를 예측하는 과제에서 평가했습니다.
상태 충실도 (State Infidelity): KANO 는 이상적인 전체 파동 함수 데이터로 훈련된 FNO 대비 약 1,000 배 (4 차수) 낮은 상태 충실도 오류 (≈6×10−6 vs ≈1.5×10−2) 를 기록했습니다.
물리적 관측 데이터 활용: 완전한 파동 함수가 아닌, 물리적으로 측정 가능한 위치/운동량 확률 분포 (PMF) 만으로도 KANO 는 기저 해밀토니안을 높은 정확도로 복원했습니다.
5. 의의 (Significance)
패러다임 전환: 단순한 '보편적 근사 (Universal Approximation)'를 넘어, **보편적 일반화 (Universal Generalization)**와 **해석 가능성 (Interpretability)**을 동시에 달성하는 신경 연산자 학습의 새로운 패러다임을 제시했습니다.
과학적 발견 도구: KANO 는 블랙박스 모델이 아닌, 학습된 물리 법칙을 인간이 이해할 수 있는 수학적 식 (Symbolic Formula) 으로 직접 추출할 수 있게 하여, 데이터 기반 과학 모델링의 신뢰성과 재사용성을 높였습니다.
효율성: 위치 의존적 PDE 와 같이 스펙트럼이 밀집된 복잡한 문제에 대해, 기존 FNO 가 겪는 차원의 저주 (Curse of Dimensionality) 를 해결하고 훨씬 적은 파라미터로 높은 정확도를 달성함을 입증했습니다.
결론적으로, KANO 는 과학적 AI 분야에서 해석 가능하고, 일반화 능력이 뛰어나며, 물리 법칙을 직접 발견할 수 있는 차세대 신경 연산자 아키텍처로 자리매김할 것으로 기대됩니다.