A Comparative Analysis of MLP and Kolmogorov-Arnold Networks (KAN) for Faster-than-Nyquist (FTN) Signaling Detection

Technische Samenvatting: Een Vergelijkende Analyse van MLP en Kolmogorov-Arnold Networks (KAN) voor Faster-than-Nyquist (FTN) Signaaldetectie

Probleemstelling
Faster-than-Nyquist (FTN) signalering is een techniek die wordt gebruikt om de spectrale efficiëntie te verhogen door symbolen te verzenden op intervallen die korter zijn dan de Nyquist-limiet ($T_{FTN} = \tau T$, waarbij $\tau < 1$). Hoewel deze aanpak de transmissiesnelheden verhoogt (bijv. een stijging van 25% voor $\tau=0,8$), introduceert het doelbewust deterministische inter-symboolinterferentie (ISI). Dit transformeert het detectieprobleem van eenvoudige symbool-per-symbool schatting naar een complexe sequentie-schattingsopgave. Klassieke optimale detectoren, zoals het BCJR-algoritme, kunnen een optimale prestatie benaderen, maar lijden onder een computationele complexiteit die exponentieel schaalt met de kanaalgeheugen, wat ze onpraktisch maakt voor real-time of hardware-beperkte ontvangers. Daarom is er behoefte aan geleerde detectoren die de niet-lineaire beslissingsregio's van FTN-kanalen kunnen benaderen met een lagere complexiteit.

Methodologie
De studie voert een systematische, directe vergelijking uit tussen twee neurale netwerkarchitecturen voor FTN Binary Phase-Shift Keying (BPSK) detectie onder Additive White Gaussian Noise (AWGN):

1. Multilayer Perceptron (MLP): Een standaard baseline waarbij niet-lineariteit wordt toegepast op node-activaties (verborgen lagen). De auteurs voerden een "breedte-sweep" uit over verborgen laaggroottes $\{8, 16, 32, 64, 128, 256\}$ om de optimale configuratie te identificeren.
2. Kolmogorov-Arnold Network (KAN): Een architectuur gebaseerd op de Kolmogorov-Arnold representatiestelling, waarbij niet-lineariteit op de randen (edges) wordt geplaatst via leerbare B-spline functies in plaats van op de nodes. Twee configuraties ($w4\_g5$ en $w8\_g3$) werden geëvalueerd.

Experimentele Opstelling

• Dataset: Een grootschalige Monte Carlo-dataset bestaande uit bijna 4 miljoen gelabelde vensters (3.999.936 in totaal) werd gegenereerd.
• Parameters: De studie richtte zich op een tijdverpakkingsfactor van $\tau = 0,8$ en Signal-to-Noise Ratio (SNR) waarden variërend van 7 tot 10 dB.
• Input Representatie: Detectoren opereren op een venster van 65 monsters gecentreerd rond het doel-symbool ($r_k = [r_{k-32}, \dots, r_{k+32}]^T$).
• Training: Beide modellen maakten gebruik van Binary Cross-Entropy loss en de Adam optimizer.
• Vergelijkingsbaselines: Prestaties werden gemeten tegenover een hard-decision FTN baseline en de optimale BCJR-referentie.

Belangrijkste Bijdragen

1. Dataset Creatie: Generatie van een grootschalige, gelabelde FTN-BPSK dataset specifiek voor $\tau=0,8$ en SNR 7–10 dB.
2. Systematische Vergelijking: Een gecontroleerde evaluatie van KAN versus MLP onder identieke omstandigheden (dezelfde venstergrootte, dataset split en SNR-waarden) om te bepalen welk model de FTN-beslissingsgrenzen efficiënter representeert.
3. Efficiëntieanalyse: Evaluatie van de Bit Error Rate (BER) prestaties ten opzichte van modelcomplexiteit (parameter aantal en verborgen breedte).
4. Prestatie Benchmarking: Demonstratie van het vermogen van KAN om de optimale BCJR-referentieprestaties te benaderen zonder de bijbehorende complexiteit van sequentie-schatting.

Resultaten

• Prestaties: De geselecteerde KAN-configuratie (verborgen breedte 4, spline grid grootte 5) presteerde consistent beter dan de beste MLP-configuratie (verborgen breedte 32) over alle SNR-waarden.
  • Bij 10 dB SNR bereikte de MLP een BER van $1,3 \times 10^{-4}$.
  • De KAN bereikte een BER van $7,0 \times 10^{-6}$, wat overeenkomt met de BCJR-referentie.
  • Dit vertegenwoordigt een 18,6-voudige verbetering in BER voor KAN ten opzichte van MLP bij 10 dB.
• Parameter Efficiëntie:
  • De beste MLP gebruikte 2.145 parameters (verborgen breedte 32).
  • De geselecteerde KAN gebruikte ongeveer 3.920 parameters (verborgen breedte 4).
  • Ondanks dat de KAN ongeveer 1,83 keer meer ruwe parameters had, gebruikte het een verborgen laagbreedte die slechts 1/8e was van de breedte van de MLP.
  • De auteurs definiëren een parameter-efficiëntie metriek ($\eta$) als de ratio van de BER-verbetering tot de parameterverhoging, waarbij een waarde van ongeveer 10,2 werd berekend, wat aangeeft dat KAN aanzienlijk meer prestatiewinst biedt per eenheid parameterverhoging.
• SNR Schaling: Het prestatieverschil werd groter naarmate de SNR toenam. Terwijl de MLP bij hogere SNRs de verzadiging naderde, bleef de KAN de foutratio verlagen, wat suggereert dat het de fijnmazige beslissingsgrenzen van het ISI-kanaal vollediger modelleert.

Betekenis en Claims
Het artikel beweert dat de KAN-architectuur een "kwalitatieve en fundamentele superioriteit" biedt over MLPs voor FTN-detectie vanwege de structurele afstemming op het communicatiekanaal. Specifiek:

• Edge-Based Modellering: Door leerbare spline-functies op de randen te plaatsen, kan KAN het effect van elke inputcomponent onafhankelijk modelleren, waardoor de lokale, gestructureerde interacties van ISI effectiever worden gevangen dan de gedeelde node-activaties van MLPs.
• Compacte Representatie: KANs kunnen een betekenisvolle feature space vormen met een verborgen breedte die slechts 1/8e is van wat een MLP vereist, wat hen zeer aantrekkelijk maakt voor embedded of resource-beperkte hardware waar geheugenvoetafdruk en inferentie-latentie cruciaal zijn.
• Optimale Convergentie: De studie demonstreert dat een data-gedreven KAN-aanpak kan convergeren naar de optimale BCJR-oplossing zonder de computationeel dure sequentie-schattingsalgoritmen te vereisen.

De auteurs concluderen dat KANs een sterk alternatief vormen voor dense MLP-baselines voor communicatieproblemen waar parametergevoeligheid en energie-efficiëntie van groot belang zijn. Toekomstig werk is gepland om de KAN-prestaties in multipath fading-kanalen en op real-time hardwareplatforms te onderzoeken, evenals de generalisatie naar verschillende tijdverpakkingsfactoren en hogere-orde modulaties.