Implicit U-KAN2.0: Dynamic, Efficient and Interpretable Medical Image Segmentation

이 논문은 이차 순서 신경 미분 방정식 (SONO) 과 MultiKAN 레이어를 결합하여 해석 가능성, 표현력, 계산 효율성을 동시에 향상시키고 차원에 무관한 근사 능력을 이론적으로 입증한 새로운 의료 영상 분할 모델인 'Implicit U-KAN 2.0'을 제안합니다.

핵심

🏥 배경: 왜 새로운 AI 가 필요한가요?

지금까지 의료 영상을 분석할 때 주로 **'U-Net'**이라는 형태의 AI 를 썼습니다. 이는 마치 건축가가 건물을 짓는 것처럼, 이미지를 작은 조각으로 잘게 나누고 다시 붙여 병변을 찾는 방식입니다.

하지만 기존 방식에는 세 가지 큰 문제가 있었습니다:

1. 이해하기 어려움 (블랙박스): "왜 이 부분을 암이라고 판단했지?"라고 물어보면 AI 가 "그냥 그래"라고만 답합니다.
2. 소음에 약함: 의료 영상은 종종 흐릿하거나 잡음이 섞여 있습니다. 기존 AI 는 잡음이 조금만 있어도 헛소리를 하거나 병변을 놓칩니다.
3. 계산이 너무 무거움: 고해상도 3D 영상을 분석하려면 컴퓨터 메모리가 터질 정도로 무겁습니다.

🚀 해결책: 'Implicit U-KAN 2.0'이란 무엇인가요?

이 연구팀은 기존 건축 방식을 버리고, **자연스러운 흐름을 따라가는 '강물'**과 **정교한 '레고 블록'**을 결합한 새로운 방식을 개발했습니다.

1. SONO 블록: "부드러운 강물처럼 흐르는 학습"

기존 AI 는 이미지를 한 칸씩 딱딱하게 나누어 처리합니다 (디지털 사진처럼). 하지만 이 새로운 모델은 **SONO(Second-Order Neural ODE)**라는 기술을 써서, 이미지 정보를 마치 강물이 흐르듯 연속적이고 부드럽게 처리합니다.

• 비유: 기존 방식이 계단을 한 칸씩 딱딱하게 오르는 것이라면, 이 방식은 미끄럼틀을 타고 부드럽게 미끄러져 내려가는 것과 같습니다.
• 효과: 이렇게 하면 잡음 (소음) 이 섞여도 흐름이 끊기지 않아, 흐릿한 의료 영상에서도 병변의 경계를 아주 정교하게 그릴 수 있습니다. 또한, 메모리 사용량을 일정하게 유지해서 고해상도 3D 영상도 쉽게 다룰 수 있습니다.

2. MultiKAN 블록: "왜 그렇게 판단했는지 설명하는 레고"

기존 AI 는 복잡한 수학적 함수를 사용해서 결과를 내지만, 그 과정이 너무 복잡해 설명이 불가능했습니다. 이 연구팀은 MultiKAN이라는 새로운 레고 블록을 도입했습니다.

• 비유: 기존 AI 가 '마법 상자'라면, 이 MultiKAN 은 투명한 유리상자입니다. 상자 안에서 어떤 레고 블록이 어떻게 조립되어 최종 결과물이 만들어지는지, 수학적으로 명확하게 볼 수 있습니다.
• 효과: AI 가 "이 부분은 암입니다"라고 말할 때, "왜냐하면 이 부분의 특징 A 와 B 가 이렇게 결합되었기 때문입니다"라고 이유를 설명할 수 있게 되어, 의사가 AI 를 더 신뢰할 수 있게 됩니다.

3. 전체 구조: "효율적인 U-자형 설계"

이 두 가지 기술을 U-Net 의 기본 구조에 적용했습니다.

• 인코더 (Encoder): 이미지를 분석하며 특징을 추출하는 단계에서 SONO(강물) 와 MultiKAN(투명 레고) 을 써서 정보를 정제합니다.
• 디코더 (Decoder): 추출된 정보를 바탕으로 다시 이미지를 그려내는 단계에서, 정보를 잃지 않고 정확하게 병변을 복원합니다.

---

🏆 실험 결과: 얼마나 잘하나요?

연구팀은 장염, 피부암, 유방암 등 다양한 2D 영상과 비장 (Spleen) 의 3D CT 영상을 테스트했습니다.

1. 정확도 대박: 기존 최고의 AI 들보다 정확도가 훨씬 높았습니다. 특히 경계를 그리는 정확도 (HD95) 는 기존 방식보다 약 47% 나 향상되었습니다.
2. 소음에 강한 철벽: 이미지에 잡음을 인위적으로 섞었을 때, 기존 AI 는 성능이 50% 이상 뚝 떨어졌지만, 이 모델은 거의 성능이 떨어지지 않았습니다. 흐릿한 X-ray 나 초음파에서도 잘 작동한다는 뜻입니다.
3. 3D 영상도 가능: 기존에는 3D 영상을 분석하기가 너무 무거워서 힘들었는데, 이 모델은 메모리 효율이 좋아서 3D CT 영상도 아주 잘 처리했습니다.

💡 한 줄 요약

"Implicit U-KAN 2.0 은 잡음이 섞인 흐릿한 의료 영상에서도, 마치 맑은 강물처럼 부드럽게 흐르며 병변을 찾아내고, 그 판단 근거를 투명하게 설명해 주는 '최고의 AI 의사'입니다."

이 기술이 실제 병원에 적용되면, 의사는 더 정확한 진단을 내리고 환자는 더 빠른 치료를 받을 수 있게 될 것입니다.

기술 요약

1. 연구 배경 및 문제 정의 (Problem)

의료 영상 분할 (Medical Image Segmentation) 은 해부학적 구조를 정확하게 식별하는 데 필수적이지만, 기존 방법론들은 다음과 같은 한계를 겪고 있습니다:

• 기존 U-Net 및 변형들의 한계: 전통적인 CNN 기반 U-Net 은 국소적 의존성은 잘 포착하지만 전역적 문맥 정보를 처리하는 데 어려움을 겪습니다. 이를 해결하기 위해 Transformer 나 Mamba 와 같은 아키텍처가 도입되었으나, 여전히 해석 가능성 (Interpretability) 이 낮고, 내재적 노이즈에 취약하며, 이산적 (discrete) 인 레이어 구조로 인해 표현력이 제한되고 이론적 기반이 부족하다는 문제가 있습니다.
• 기존 U-KAN 의 한계: 최근 Kolmogorov-Arnold Networks (KAN) 을 U-Net 에 적용한 U-KAN 이 제안되었으나, 단순한 덧셈 연산에 의존하고 있으며, GPU 호환성 및 메모리 효율성 측면에서 최적화가 부족했습니다.

2. 제안 방법론 (Methodology)

저자들은 Implicit U-KAN 2.0을 제안하며, 이는 이산적 함수를 연속적 함수로 변환하여 효율성과 해석 가능성을 동시에 개선한 새로운 U-Net 변형입니다. 아키텍처는 두 가지 주요 단계로 구성됩니다.

가. SONO (Second-Order Neural ODE) 블록

• 개념: 2 차 신경 미분 방정식 (Second-Order NODEs) 을 사용하여 특징 표현의 연속적인 진화를 모델링합니다.
• 수식: $\ddot{x}(t) = f(x, \dot{x}, t, \theta_f)$ 형태로, 위치 ($x$) 와 속도 ($v = \dot{x}$) 를 모두 고려하여 위상 공간 (Phase Space) 을 확장합니다.
• 장점:
  • 연속적 특징 진화: 이산적인 레이어 대신 ODE 솔버 (RK4 방법 등) 를 사용하여 더 매끄러운 학습 궤적을 제공합니다.
  • 안정성 및 수렴 속도: 속도 항을 도입함으로써 최적 특징 표현으로의 수렴을 가속화하고, 역전파 시 Adjoint Method를 사용하여 메모리 비용을 $O(1)$로 일정하게 유지합니다.
  • 노이즈 내성: 의료 영상에서 흔히 발생하는 노이즈에 대해 더 강건한 특징 추출을 가능하게 합니다.

나. SONO-MultiKAN 블록

• 개념: SONO 블록의 출력을 토큰화 (Tokenization) 한 후, MultiKAN 레이어와 결합합니다.
• MultiKAN 의 특징: 기존 KAN 이 가중치를 B-spline 함수로 학습하는 방식에 더해, 덧셈과 곱셈 연산을 모두 포함하도록 확장되었습니다.
  • $MultiKAN(x) = (\Psi_L \circ \dots \circ \Psi_1)(x)$ 형태로 정의되며, 곱셈 서브레이어가 특징 간의 고차 비선형 상호작용을 포착합니다.
• 해석 가능성: 학습 가능한 활성화 함수와 명시적인 수학적 역할을 가진 토큰화된 기저 함수를 사용하여, 블랙박스 모델의 사일런스 맵 (Saliency Map) 보다 구조적으로 투명한 해석을 제공합니다.

다. 전체 아키텍처 (Encoder-Decoder)

• SONO Phase: 입력 이미지를 처리하여 초기 속도를 설정하고 SONO 블록을 통해 특징을 전파합니다.
• SONO-MultiKAN Phase: ODE 블록과 토큰화된 MultiKAN 레이어를 결합하여 특징을 정제합니다.
• Bottleneck 및 Skip Connection: 인코더와 디코더 사이의 정보 흐름을 최적화하기 위해 병목 모듈을 도입하고, 기존 U-Net 의 단순 덧셈 대신 **특징 연결 (Feature Concatenation)**을 사용하여 더 풍부한 표현을 보존합니다.

3. 주요 기여 (Key Contributions)

1. 새로운 암시적 심층 신경망 (Implicit Deep Neural Network): SONO 블록과 MultiKAN 을 통합하여 정확도와 안정성을 높이고 계산 비용을 줄였습니다.
2. 이론적 분석: MultiKAN 블록의 근사 능력 (Approximation Ability) 이 입력 차원 (Input Dimension) 에 의존하지 않고, 잔차율 (Residual Rate) 에 의존함을 수학적으로 증명했습니다 (Kolmogorov-Arnold 정리의 확장).
3. 성능 입증: 다양한 2D 및 3D 의료 영상 데이터셋에서 기존 최첨단 (SOTA) 분할 네트워크들을 일관되게 능가하는 실험 결과를 제시했습니다.

4. 실험 결과 (Results)

저자들은 Kvasir-SEG (대장내시경), ISIC (피부 병변), BU Images (유방 초음파) 의 2D 데이터셋과 Spleen (비장) 의 3D CT 데이터셋에서 실험을 수행했습니다.

• 2D 분할 성능:
  • Dice Score: Kvasir-SEG 에서 0.8456 (U-KAN 대비 14.6% 향상), ISIC 에서 0.9330, BU Images 에서 0.8397을 기록하며 모든 베이스라인 (U-Net, TransUNet, MLLA-UNet, U-KAN 등) 을 상회했습니다.
  • 경계 정확도 (HD95): Kvasir-SEG 에서 HD95 가 48.40 에서 25.26 으로 47.7% 감소하여 분할 경계의 정밀도가 크게 향상되었음을 보여줍니다.
• 3D 분할 성능:
  • Spleen 데이터셋에서 제안된 모델은 Dice Score 0.9687을 기록하여 U-Net 3D (0.9021) 와 U-KAN 3D (0.9591) 보다 우수한 성능을 보였습니다.
• 노이즈 내성 (Ablation Study):
  • ISIC 데이터셋에 노이즈 (0.2, 0.4) 를 추가했을 때, 기존 U-KAN 은 성능이 급격히 저하 (0.9190 → 0.4064) 된 반면, Implicit U-KAN 2.0 은 0.9079 수준을 유지하며 약 123% 의 상대적 개선을 보였습니다. 이는 SONO 를 통한 연속적 특징 진화가 노이즈에 강건함을 입증합니다.
• 효율성: GPU 기반 학습이 가능하며 메모리 비용이 일정하게 유지되어 확장성 (Scalability) 이 뛰어납니다.

5. 의의 및 결론 (Significance)

이 논문은 의료 영상 분할 분야에서 **이론적 엄밀성 (ODE 기반), 해석 가능성 (MultiKAN), 그리고 실용적 효율성 (GPU 최적화 및 메모리 효율)**을 동시에 달성한 새로운 패러다임을 제시합니다.

• 임상적 가치: 저품질이거나 노이즈가 많은 의료 영상에서도 안정적인 분할 성능을 발휘하여 실제 임상 환경 적용 가능성을 높였습니다.
• 기술적 혁신: 이산적 구조의 한계를 넘어 연속적 미분 방정식과 KAN 의 결합을 통해 딥러닝 모델의 블랙박스 문제를 해결하고, 차원 독립적인 근사 능력을 이론적으로 뒷받침했습니다.

결론적으로, Implicit U-KAN 2.0 은 기존 U-Net 기반 모델들의 한계를 극복하고, 더 정확하고 해석 가능하며 효율적인 차세대 의료 영상 분할 솔루션으로 평가됩니다.