A Comparative Analysis of MLP and Kolmogorov-Arnold Networks (KAN) for Faster-than-Nyquist (FTN) Signaling Detection

기술 요약: 더 빠른 나이퀴스트(FTN) 신호 검출을 위한 MLP와 Kolmogorov-Arnold 네트워크(KAN)의 비교 분석

문제 정의
Faster-than-Nyquist (FTN) 신호 전송은 심볼을 나이퀴스트 한계보다 짧은 간격($T_{FTN} = \tau T$, $\tau < 1$)으로 전송하여 스펙트럼 효율을 높이는 기술이다. 이 방식은 전송 속도를 높이지만(예: $\tau=0.8$일 때 25% 증가), 의도적으로 결정론적인 심볼 간 간섭(ISI)을 유발한다. 이는 검출 문제를 단순한 심볼별 추정에서 복잡한 시퀀스 추정 작업으로 변화시킨다. BCJR 알고리즘과 같은 고전적인 최적 검출기는 최적의 성능에 근접할 수 있으나, 채널 메모리에 따라 지수적으로 증가하는 계산 복잡도 문제로 인해 실시간 또는 하드웨어 제약이 있는 수신기에는 적용하기 어렵다. 따라서, 낮은 복잡도로 FTN 채널의 비선형 결정 경계를 근사할 수 있는 학습된 검출기가 필요하다.

방법론
본 연구는 가법 백색 가우시안 잡음(AWGN) 환경하에서의 FTN BPSK 검출을 위해 두 가지 신경망 아키텍처를 체계적이고 직접적으로 비교한다:

1. 다층 퍼셉트론 (MLP): 노드 활성화 함수(은닉층)에서 비선형성을 적용하는 표준 베이스라인이다. 저자들은 최적의 구성을 식별하기 위해 은닉층 크기 $\{8, 16, 32, 64, 128, 256\}$에 대한 "너비 스윕(width sweep)"을 수행하였다.
2. Kolmogorov-Arnold 네트워크 (KAN): Kolmogorov-Arnold 표현 정리에 기반한 아키텍처로, 노드가 아닌 에지에 학습 가능한 B-스플라인(B-spline) 함수를 통해 비선형성을 배치한다. 두 가지 구성($w4\_g5$ 및 $w8\_g3$)이 평가되었다.

실험 설정

• 데이터셋: 약 4백만 개의 레이블이 지정된 윈도우(총 3,999,936개)를 포함하는 대규모 몬테카를로 데이터셋이 생성되었다.
• 파라미터: 연구는 시간 패킹 계수 $\tau = 0.8$과 SNR 값 7 ~ 10 dB에 집중하였다.
• 입력 표현: 검출기는 타겟 심볼을 중심으로 하는 65개 샘리의 수신 윈도우($r_k = [r_{k-32}, \dots, r_{k+32}]^T$)를 대상으로 작동한다.
• 학습: 두 모델 모두 Binary Cross-Entropy 손실 함수와 Adam 옵티마이저를 사용하였다.
• 비교 베이스라인: 성능은 하드 디시전(hard-decision) FTN 베이스라인 및 최적의 BCJR 참조 모델을 기준으로 측정되었다.

주요 기여

1. 데이터셋 구축: $\tau=0.8$ 및 SNR 7–10 dB에 특화된 대규모 레이블 지정 FTN-BPSK 데이터셋을 생성하였다.
2. 체계적 비교: 동일한 조건(동일한 윈도우 크기, 데이터 분할, SNR 값) 하에서 KAN과 MLP를 통제된 환경에서 평가하여 어떤 모델이 FTN 결정 경계를 더 효율적으로 표현하는지 결정하였다.
3. 효율성 분석: 모델 복잡도(파라미터 수 및 은닉 너비) 대비 비트 오차율(BER) 성능를 평가하였다.
4. 성능 벤치마킹: 복잡한 시퀀스 추정 알고리즘 없이도 BCJR 참조 성능에 도달할 수 있는 KAN의 능력을 입증하였다.

결과

• 성능: 선택된 KAN 구성(은닉 너비 4, 스플라인 그리드 크기 5)은 모든 SNR 값에서 최적의 MLP 구성(은닉 너비 32)보다 일관되게 우수한 성능을 보였다.
  • 10 dB SNR에서 MLP는 $1.3 \times 10^{-4}$의 BER을 달성하였다.
  • KAN은 $7.0 \times 10^{-6}$의 BER을 달성하여 BCJR 참조 모델과 일치하는 성능을 보였다.
  • 이는 10 dB에서 MLP 대비 KAN이 18.6배의 BER 개선을 이루었음을 의미한다.
• 파라미터 효율성:
  • 최적의 MLP는 2,145개의 파라미터를 사용하였다 (은닉 너비 32).
  • 선택된 KAN은 약 3,920개의 파라미터를 사용하였다 (은닉 너비 4).
  • KAN이 약 1.83배 더 많은 원시 파라미터를 보유함에도 불구하고, 은닉 층의 너비는 MLP의 1/8 수준에 불과했다.
  • 저자들은 파라미터 증가량 대비 BER 개선 비율을 파라미터 효율성 지표($\eta$)로 정의하였으며, 계산 결과 약 10.2를 기록하여 KAN이 파라미터 증가 단위당 훨씬 더 큰 성능 이득을 제공함을 나타냈다.
• SNR 스케일링: SNR이 높아질수록 성능 격차가 벌어졌다. MLP는 높은 SNR에서 포화 상태에 도달하는 반면, KAN은 오차율이 계속 감소하는 모습을 보였는데, 이는 KAN이 ISI 채널의 미세한 결정 경계를 더 완벽하게 모델링하고 있음을 시사한다.

의의 및 주장
본 논문은 KAN 아키텍처가 통신 채널의 구조적 정렬 덕분에 MLP보다 "질적 및 근본적인 우월성"을 제공한다고 주장한다. 구체적인 이유는 다음과 같다:

• 에지 기반 모델링: 에지에 학습 가능한 스플라인 함수를 배치함으로써, KAN은 각 입력 성분의 효과를 독립적으로 모델링할 수 있으며, MLP의 공유된 노드 활성화보다 ISI의 국부적이고 구조적인 상호작용을 더 효과적으로 포착할 수 있다.
• 압축된 표현: KAN은 MLP가 요구하는 것의 1/8 수준인 매우 낮은 은닉 너비로도 유의미한 특징 공간을 형성할 수 있어, 메모리 점유율과 추론 지연 시간이 중요한 임베디드 또는 자원 제한적 하드웨어에 매우 매력적이다.
• 최적 수렴: 본 연구는 데이터 기반의 KAN 접근 방식이 계산 비용이 많이 드는 시퀀스 추정 알고리즘 없이도 최적의 BCJR 솔루션에 수렴할 수 있음을 보여준다.

저자들은 KAN이 파라미터 민감도와 에너지 효율이 매우 중요한 통신 문제에서 밀집된(dense) MLP 베이스라인에 대한 강력한 대안이 될 것이라고 결론지었다. 향후 연구에서는 다중 경로 페이딩 채널에서의 KAN 성능과 실시간 하드웨어 플랫폼에서의 일반화 가능성을 조사할 계획이다.