Demystifying KAN for Vision Tasks: The RepKAN Approach

이 논문은 CNN 의 구조적 효율성과 KAN 의 비선형 표현력을 결합한 'RepKAN'이라는 새로운 아키텍처를 제안하여, 원격 탐사 이미지 분류에서 블랙박스 문제를 해결하고 물리적으로 해석 가능한 추론을 제공하면서도 최신 모델보다 우수한 성능을 달성함을 보여줍니다.

핵심

🌍 지구를 보는 새로운 눈: 'RepKAN'이란 무엇일까요?

안녕하세요! 이 논문은 위성이나 드론으로 찍은 지구의 사진을 분류하는 인공지능에 대한 이야기입니다. 기존에 우리가 쓰던 인공지능은 "왜 그렇게 판단했는지" 알 수 없는 **블랙박스 (Black Box)**처럼 작동했는데, 이 논문은 그 문제를 해결할 수 있는 새로운 방법인 **'RepKAN'**을 소개합니다.

이 복잡한 내용을 일상적인 비유로 쉽게 설명해 드릴게요.

---

1. 문제점: "눈만 믿는 AI"의 한계

지금까지 위성 사진을 분석하는 AI(딥러닝) 는 주로 CNN이라는 기술을 썼습니다.

• 비유: 마치 형광등 아래서 그림자만 보고 물체를 맞추는 사람과 같아요.
  • "아, 이 모양은 숲이야", "저건 강이야"라고 외형적인 모양 (공간적 특징) 만 보고 판단합니다.
  • 문제점: 하지만 위성 사진은 색깔 (스펙트럼) 이 매우 중요합니다. 예를 들어, '강'과 '도로'는 모양이 비슷할 수 있지만, 빛을 반사하는 색깔 (적외선 등) 이 완전히 다릅니다. 기존 AI 는 이 색깔의 미세한 차이를 제대로 이해하지 못해 자주 틀렸습니다. 게다가 AI 가 왜 그렇게 판단했는지 설명해 주지도 못했습니다.

2. 해결책: RepKAN (리프-칸) 의 등장

이 논문은 RepKAN이라는 새로운 AI 구조를 제안합니다. 이름에서 알 수 있듯 **CNN(형상 분석)**과 **KAN(색깔/스펙트럼 분석)**을 합친 것입니다.

🏗️ RepKAN 의 두 가지 핵심 기능 (이중 구조)

① 공간 경로 (Spatial Path): "눈"의 역할

• 비유: 건축가처럼 생각해보세요.
• 건물의 모양, 도로의 직선, 숲의 둥근 형태 등 **무엇이 어디에 있는지 (형상)**를 분석합니다. 기존 CNN 이 잘하는 부분입니다.

② 스펙트럼 경로 (Spectral Path): "감성"의 역할

• 비유: 미각 전문가나 색채 분석가처럼 생각해보세요.
• 물체는 모양뿐만 아니라 빛을 반사하는 **고유한 색깔 (스펙트럼)**을 가지고 있습니다. RepKAN 은 이 색깔들을 분석하는 **수학 공식 (스플라인 함수)**을 스스로 배웁니다.
• 핵심: "아, 이 물체는 적외선을 이렇게 반사하니까 '물'이구나!"라고 수학적으로 증명하며 판단합니다.

---

3. RepKAN 의 놀라운 능력 3 가지

🕵️‍♂️ 1. "왜?"를 설명해주는 투명함 (해석 가능성)

기존 AI 는 "정답은 숲입니다"라고만 말하지만, RepKAN은 **"왜 숲이라고 생각했나요?"**라고 설명해 줍니다.

• 비유: 요리사가 "이 요리는 소금 1g, 설탕 2g 을 넣어서 만들었습니다"라고 레시피를 알려주는 것과 같습니다.
• RepKAN 은 내부에서 어떤 색깔 조합이 '숲'을 결정했는지, 어떤 수학적 공식이 '물'을 구분했는지 직접 보여줍니다.

🧪 2. 스스로 새로운 공식을 찾아내다 (자율 발견)

이게 가장 신기한 부분입니다. RepKAN 은 사람이 미리 정해준 공식 (예: NDVI라는 식) 을 그대로 쓰는 게 아니라, 데이터를 보며 스스로 새로운 공식을 찾아냅니다.

• 비유: 요리사가 레시피를 외우는 게 아니라, 재료를 맛보고 **"아, 이 재료 조합이 가장 맛있네!"**라고 스스로 새로운 레시피를 만들어내는 것과 같습니다.
• 논문에서는 RepKAN 이 기존에 인간이 발견했던 '식생 지수 (NDVI)'와 같은 공식을 스스로 다시 찾아냈을 뿐만 아니라, 더 정교한 새로운 공식을 만들어냈다고 합니다.

🎯 3. 헷갈리는 것들을 구별해내다 (정밀한 분류)

• 상황: 강 (River) 과 호수 (SeaLake) 는 모양이 비슷해서 AI 가 자주 헷갈립니다.
• RepKAN 의 해결: 모양만 보면 헷갈리지만, **물속 깊이와 빛 반사율 (스펙트럼)**을 분석하면 "아, 이건 깊은 호수구나, 강은 얕고 흐르니까 반사율이 다르지"라고 정확히 구분합니다.
• 실험 결과, RepKAN 은 기존 AI 보다 훨씬 높은 정확도로 위성 사진을 분류했습니다.

---

4. 결론: 미래의 AI 는 "이해할 수 있는" AI 가 된다

이 논문은 RepKAN이 단순히 점수를 잘 받는 AI 가 아니라, 우리가 이해할 수 있는 논리와 수학적 근거를 가지고 판단하는 AI 라는 점을 증명했습니다.

• 기존 AI: "정답은 A 입니다. (왜? 모르겠음)"
• RepKAN: "정답은 A 입니다. 왜냐하면 이 지역의 빛 반사 패턴이 B 공식과 일치하기 때문입니다. (이해 가능)"

이 기술은 향후 환경 모니터링, 도시 계획, 재난 관리 등 지구를 관찰하는 모든 분야에서, 인간이 AI 의 판단을 신뢰하고 함께 일할 수 있는 투명한 파트너가 되어줄 것으로 기대됩니다.

---

한 줄 요약:

RepKAN은 위성 사진을 볼 때 **형상 (눈)**과 **색깔 (감성)**을 모두 분석하고, 스스로 수학적 이유를 찾아내어 "왜 이 땅이 숲인지, 물인지"를 인간이 이해할 수 있게 설명해주는 똑똑하고 투명한 인공지능입니다.

기술 요약

1. 연구 배경 및 문제 제기 (Problem)

• 배경: 원격 탐사 (Remote Sensing) 이미지 분류는 지구 관측, 토지 매핑, 환경 모니터링 등에 필수적입니다.
• 문제점:
  • 기존 CNN 과 Transformer 기반 모델은 높은 분류 성능을 보이지만, "블랙박스 (Black-box)" 성격을 띠고 있어 의사 결정 과정을 해석하기 어렵습니다.
  • 기존 설명 가능한 AI(XAI) 기법 (예: Grad-CAM) 은 공간적 중요도 지도를 제공하지만, 원격 탐사 물리 해석에 필수적인 **비선형 스펙트럼 동역학 (Non-linear spectral dynamics)**을 설명하지 못합니다.
  • 기존 KAN (Kolmogorov-Arnold Networks) 은 비선형 표현력과 해석 가능성을 제공하지만, 입력 이미지를 1 차원 벡터로 평탄화 (Flattening) 하는 방식 때문에 **국소적인 공간 문맥 (Local spatial context)**이 손실되어 컴퓨터 비전 태스크에 적용하기 어렵습니다.

2. 제안 방법론: RepKAN (Methodology)

저자는 원격 탐사 이미지 분류를 위한 효율적이고 해석 가능한 하이브리드 모듈인 RepKAN을 제안합니다.

• 핵심 아이디어: CNN 의 구조적 효율성 (공간 특징 추출) 과 KAN 의 비선형 표현력 (스펙트럼 상호작용 모델링) 을 결합합니다.
• 아키텍처 (RepKANLayer):
  • 이중 경로 (Dual-path) 설계:
    1. 공간 선형 경로 (Spatial Linear Path): 다중 분기 합성곱 (Conv1x1, Conv3x3) 을 사용하여 국소적인 공간 구조와 문맥을 포착합니다.
    2. 스펙트럼 비선형 경로 (Spectral Non-linear Path): 채널 차원을 따라 1 차원 B-스플라인 (Learnable 1D splines) 을 적용하여 밴드 간 비선형 상호작용을 모델링하고 데이터 기반의 스펙트럼 지수를 발견합니다.
  • 출력: 두 경로의 출력을 합산하여 최종 특징 맵을 생성합니다.
• 구조적 재파라미터화 (Structural Reparameterization): RepVGG 의 아이디어를 차용하여, 학습 시에는 이중 경로를 사용하지만 추론 시에는 공간 합성곱 경로를 단일 3x3 합성곱으로 구조적으로 병합하여 효율성을 극대화합니다.
• 물리 인식 방정식 생성: 학습된 스플라인 필터에 기호 회귀 (Symbolic Regression) 를 적용하여, 인간이 읽을 수 있는 명시적인 비선형 수식 (물리 지수 등) 을 자동으로 추출합니다.

3. 주요 기여 (Key Contributions)

1. 비전용 KAN 을 위한 구조적 하이브리드화: 공간 합성곱과 스펙트럼 1D 스플라인을 통합하여 KAN 의 공간 정보 손실 문제를 해결하고, 다중 스펙트럼 분류 성능을 향상시킨 RepKAN 모듈을 제안했습니다.
2. 스펙트럼 동역학의 본질적 해석: 사후 (Post-hoc) 분석이 아닌, 모델 내부에서 밴드별 에너지 분포와 비선형 상호작용 궤적을 매핑하여 **본질적 투명성 (Intrinsic Transparency)**을 제공합니다.
3. 물리 인식 방정식의 자동 발견: 학습된 필터를 통해 기존 원격 탐사 물리 지수 (예: NDVI) 를 재발견하거나 개선하는 명시적인 수학적 공식을 자동으로 도출하는 능력을 입증했습니다.

4. 실험 결과 (Experimental Results)

• 데이터셋: EuroSAT (13 채널 다중 스펙트럼), NWPU-RESISC45 (고해상도 항공 이미지).
• 성능:
  • EuroSAT: RepKAN(Grid3) 이 Baseline CNN 대비 **98.78%**의 정확도를 기록하며 모든 지표 (정밀도, 재현율, F1 점수) 에서 우위를 점했습니다. (Grid 크기가 3 을 넘어가면 성능이 약간 저하됨을 확인).
  • NWPU-RESISC45: Baseline CNN 대비 약 5.36% 향상된 **79.17%**의 정확도를 달성하여 복잡한 항공 장면에서의 일반화 능력을 입증했습니다.
• 해석 가능성 분석:
  • 스펙트럼 의존도: 초기 단계에서 모델이 공간 경로보다 **비선형 스펙트럼 경로 (77.1% 이상)**에 더 크게 의존함을 확인 (특히 수역은 91.0%).
  • 스플라인 활성화 함수: 숲 (Forest), 강 (River) 등 각 클래스별로 Red 와 NIR 밴드에 대해 고유한 비선형 매핑 함수를 학습함을 시각화했습니다. 이는 전통적인 원격 탐사 지수 (NDVI 등) 와 유사한 물리적 특성을 자동으로 포착함을 의미합니다.
  • 오류 해결: CNN 이 공간적 유사성 (예: 강과 호수, 도로와 숲) 으로 인해 오분류하는 경우, RepKAN 은 고유한 스펙트럼 서명을 식별하여 이를 정확히 분류했습니다.

5. 의의 및 결론 (Significance)

• 블랙박스 문제 해결: RepKAN 은 원격 탐사 분야에서 해석 가능한 (Interpretable) 딥러닝 모델의 새로운 패러다임을 제시합니다.
• 물리 기반 AI: 단순히 데이터를 맞추는 것을 넘어, 모델이 물리 법칙 (스펙트럼 반사율, 흡수 등) 을 기반으로 한 수학적 공식을 스스로 학습하고 발견할 수 있음을 보여줍니다.
• 미래 전망: 본 연구는 향후 **해석 가능한 시각적 기초 모델 (Interpretable Visual Foundation Models)**의 백본 (Backbone) 으로 RepKAN 이 큰 잠재력을 가지고 있음을 시사합니다.

이 논문은 원격 탐사 이미지 분석에서 성능과 해석 가능성을 동시에 달성할 수 있는 혁신적인 아키텍처를 제시함으로써, 지구 관측 및 환경 모니터링 분야의 신뢰성 있는 AI 시스템 구축에 중요한 기여를 합니다.