X-REFINE: XAI-based RElevance input-Filtering and archItecture fiNe-tuning for channel Estimation

Das Paper stellt X-REFINE vor, ein XAI-basiertes Framework für die 6G-Kanalschätzung, das durch die Kombination von relevanzgestützter Eingangsfilterung und Architektur-Feinabstimmung die Interpretierbarkeit und Effizienz von Deep-Learning-Modellen verbessert, ohne die Bitfehlerrate zu beeinträchtigen.

Das Wesentliche

Das Problem: Der „Blackbox"-Koch in der 6G-Küche

Stellen Sie sich vor, wir bauen ein extrem schnelles und intelligentes Kochsystem für die Zukunft (6G-Netzwerke). Dieses System muss Nachrichten durch eine sehr störanfällige Leitung schicken, wie wenn Sie versuchen, ein Gespräch in einem lauten Sturm zu führen.

Um das Gespräch klar zu machen, nutzen wir einen Künstlichen Intelligenz-Koch (Deep Learning). Dieser Koch ist ein Wunderwerk: Er kann das Rauschen herausfiltern und die Nachricht perfekt verstehen. Aber er hat ein riesiges Problem: Niemand weiß genau, wie er kocht.

• Er ist eine „Blackbox": Man wirft Zutaten (Daten) rein, und ein perfektes Gericht (klare Nachricht) kommt raus. Aber wenn man fragt: „Warum hast du das Salz weggelassen?", antwortet er nicht.
• Er ist ineffizient: Er schmeckt alle Zutaten, auch die, die verdorben oder unnötig sind (z. B. Rauschen oder tote Frequenzen). Das kostet viel Zeit und Energie (Rechenleistung).

In kritischen Situationen (wie bei autonomen Autos oder Notrufen) reicht es nicht, dass der Koch einfach nur gut ist. Wir müssen ihm vertrauen können und wissen, warum er entscheidet, was er entscheidet.

Die alte Lösung: Der „Störungs-Test" (XAI-CHEST)

Früher haben Forscher versucht, dem Koch zu helfen, indem sie ihm zufällig Zutaten entzogen haben (z. B. „Was passiert, wenn ich das Salz weglasse?"). Wenn das Essen dann immer noch gut schmeckte, wussten sie: „Ah, das Salz war nicht wichtig."
Das funktionierte, aber es war wie ein blindes Tasten. Man wusste nicht, warum der Koch bestimmte Zutaten bevorzugte, und man hat den Koch selbst (die Struktur des Gehirns) nicht verändert.

Die neue Lösung: X-REFINE – Der „Koch-Kompass"

Die Autoren dieses Papiers haben X-REFINE erfunden. Das ist wie ein intelligenter Kochkompass, der zwei Dinge gleichzeitig tut:

1. Er filtert die Zutaten (Input-Filtering):
   Statt blind zu raten, schaut X-REFINE genau hin, welche Zutaten wirklich zum Geschmack beitragen. Es nutzt eine spezielle Methode (LRP), die wie ein Röntgenbild funktioniert.

   • Die Analogie: Stellen Sie sich vor, der Koch hat 100 Zutaten vor sich. X-REFINE leuchtet mit einer Taschenlampe darauf. Die Zutaten, die hell leuchten (hohe Relevanz), sind wichtig (z. B. die Piloten, die wie Leuchtfeuer im Sturm dienen). Die, die dunkel bleiben oder sogar rot leuchten (schädlich), werden weggeworfen.
   • Das Ergebnis: Der Koch bekommt nur noch die besten, saubersten Zutaten. Das spart Zeit.

2. Er schneidet den Koch zurück (Architecture Fine-Tuning):
   Das ist der geniale Teil. Nicht nur die Zutaten werden reduziert, sondern auch der Koch selbst wird „entschlackt".

   • Die Analogie: Wenn der Koch merkt, dass er nur noch 20 wichtige Zutaten verarbeitet, braucht er nicht mehr 100 Helfer in der Küche. X-REFINE schaut sich an, welche Helfer im Team wirklich arbeiten und welche nur herumstehen. Die untätigen Helfer werden entlassen (das Netzwerk wird „geschnitten" oder „gepruned").
   • Das Ergebnis: Ein kleineres, schnelleres Team, das trotzdem das gleiche (oder sogar bessere) Essen liefert.

Warum ist das so cool? (Die Vorteile)

Stellen Sie sich vor, Sie müssten einen riesigen Lastwagen (das alte KI-Modell) durch eine enge Gasse (ein energiearmes Mobiltelefon) fahren.

• X-REFINE nimmt die Ladung weg (weniger Zutaten) und baut den Lastwagen zu einem sportlichen Kleinwagen um (weniger Helfer).
• Das Ergebnis:
  • Schneller: Der Kleinwagen fährt viel schneller durch die Gasse (geringere Rechenzeit).
  • Sicherer: Da wir genau wissen, welche Zutaten und Helfer wichtig sind, können wir dem System vertrauen (Interpretierbarkeit).
  • Besser: Überraschenderweise macht der Kleinwagen das Essen oft sogar besser, weil er sich nicht mehr mit unnötigem Ballast ablenken lässt.

Zusammenfassung in einem Satz

X-REFINE ist wie ein genialer Küchenchef, der nicht nur die besten Zutaten auswählt, sondern auch sein eigenes Team verkleinert, um schneller, effizienter und transparenter zu arbeiten – perfekt für die schnelle Welt von 6G.

Es löst das Problem, dass KI oft zu kompliziert und undurchsichtig ist, indem sie die KI „entschlackt" und uns genau zeigt, worauf sie sich wirklich verlässt.

Technische Zusammenfassung

1. Problemstellung

Der Übergang zu KI-nativen Architekturen in 6G-Funksystemen erfordert autonome und selbstoptimierende Ökosysteme, insbesondere für Anwendungen mit ultra-zuverlässiger niedriger Latenz (URLLC) wie V2X-Kommunikation. Deep-Learning-Modelle (z. B. Feed-Forward-Neural Networks, FNNs) haben die Kanalschätzung im Vergleich zu klassischen Methoden verbessert, leiden jedoch unter ihrer „Black-Box"-Natur. Dies erschwert den Einsatz in kritischen Anwendungen, wo Transparenz, Sicherheit und Vertrauen essenziell sind.

Bestehende Ansätze zur Erklärbarkeit (XAI), wie das vom selben Team entwickelte XAI-CHEST, nutzen perturbationsbasierte Methoden, um irrelevante Eingangsmerkmale (Subcarrier) zu filtern. Diese Methoden haben jedoch zwei wesentliche Nachteile:

1. Sie vernachlässigen die Optimierung der internen Modellstruktur (Architektur).
2. Perturbationsmethoden liefern oft eine geringere Auflösung bei der Relevanzbewertung und können die ursprüngliche Modellleistung beeinträchtigen.

Das Ziel ist es, einen Ansatz zu finden, der sowohl die Eingangsdaten als auch die Netzwerkarchitektur gemeinsam optimiert, um die Komplexität zu senken, ohne die Bitfehlerrate (BER) zu verschlechtern.

2. Methodik: Das X-REFINE Framework

Das vorgeschlagene X-REFINE (XAI-based RElevance input-Filtering and archItecture fiNe-tuning) ist ein Framework zur gemeinsamen Optimierung von Eingangsfilterung und Architektur-Feinabstimmung (Fine-Tuning) für die Kanalschätzung in OFDM-Systemen.

Kernkomponenten:

• Zielsetzung: Formulierung als doppelter Optimierungsprozess, der gleichzeitig eine optimale Eingangs-Maske ($m_{in}$) und eine architektonische Maske ($m_{arch}$) bestimmt, um den mittleren quadratischen Fehler (MSE) zu minimieren.
• XAI-Verfahren (LRP-$\epsilon$): Im Gegensatz zu perturbationsbasierten Methoden nutzt X-REFINE eine zerlegungsbasierte, zeichenstabilisierte Layer-Wise-Relevance-Propagation (LRP-$\epsilon$).
  • Die Vorhersage wird rückwärts durch das Netzwerk propagiert, um hochauflösende Relevanz-Scores für Subcarrier (Eingänge) und verborgene Neuronen zu berechnen.
  • Um Probleme mit komplexwertigen Regressionen (Phasenverschiebungen) zu lösen, wird die Relevanz initialisiert als der Betrag ($|\hat{h}|$) der Ausgabe. Dies verhindert, dass negative Scores durch Phasenverschiebungen die Zuordnung verzerren.
  • Eine Stabilisierungskonstante $\epsilon$ verhindert numerisches Kollabieren bei kleinen Summen.
• Optimierungsstrategie:
  • Eingangsfilterung: Basierend auf einem Schwellenwert ($\tau$) für die Relevanz-Scores. Nur Subcarrier mit hoher Relevanz (zuverlässig oder beitragend) werden behalten; „schädliche" (negative Relevanz) und „neutrale" Subcarrier werden entfernt.
  • Architektur-Pruning: Basierend auf einem Perzentil-Schwellenwert ($P$). Ein fester Prozentsatz der Neuronen mit den niedrigsten Relevanz-Scores in jeder Schicht wird entfernt, um strukturelle Sparsity zu erzwingen.
• Suchverfahren: Da das Problem diskret, hochdimensional und nicht-konvex ist, wird eine strukturierte numerische Gittersuche über die Parameter $\tau$ und $P$ durchgeführt, um die Kombination zu finden, die die Komplexität minimiert, während die BER-Zielerreichung gewährleistet bleibt.

3. Hauptbeiträge

1. Entwicklung von X-REFINE: Ein neues XAI-Schema, das auf der zerlegungsbasierten LRP-$\epsilon$-Regel basiert, um sowohl relevante Eingänge als auch relevante Architektur-Komponenten zu identifizieren.
2. Analytische Herleitung und Simulation: Bereitstellung analytischer Ausdrücke und Simulationen für die gemeinsame Optimierung von Eingangsmerkmalen und Netzwerkarchitektur.
3. Nachweis der Effizienz: Demonstration, dass die Verwendung einer Teilmenge relevanter Eingänge und Neuronen die Rechenkomplexität drastisch senkt, während eine robuste Bitfehlerrate (BER) über verschiedene Szenarien hinweg aufrechterhalten wird.

4. Ergebnisse

Die Evaluation erfolgte unter Verwendung des STA-FNN-Schätzers in IEEE 802.11p-Szenarien mit hoher Mobilität (VTV-EX und VTV-SDWW) und verschiedenen Frequenzselektivitäten (LF und HF) sowie Modulationsarten (QPSK, 64QAM).

• Interpretierbarkeit: X-REFINE liefert eine deutlich spärlichere und vertrauenswürdigere Zuordnung von Relevanz-Scores als XAI-CHEST. Es identifiziert korrekt Pilot-Subcarrier als „zuverlässig" und erkennt, dass bei höherer Modulationsordnung (64QAM) mehr verzerrte Eingänge als „schädlich" oder „neutral" eingestuft werden.
• Leistung (BER):
  • X-REFINE erreicht eine bessere oder gleichwertige BER im Vergleich zum vollen Modell und zum XAI-CHEST-Ansatz.
  • Bei LF-Kanälen (geringe Frequenzselektivität) reicht oft die Verwendung nur der Pilot-Subcarrier aus.
  • Bei HF-Kanälen (hohe Frequenzselektivität) benötigt das Modell mehr beitragende Subcarrier für eine genaue Schätzung.
  • Die Architektur-Pruning (z. B. Reduktion von 15-15-15 Neuronen auf 14-11-9) führt bei QPSK zu optimalen Trade-offs, während bei 64QAM eine höhere strukturelle Kapazität (weniger Pruning) erforderlich ist.
• Komplexitätsreduktion:
  • X-REFINE erzielt eine signifikant höhere Reduktion der Rechenkomplexität (FLOPs) als XAI-CHEST.
  • Im LF-Szenario (QPSK) wurde eine Gesamtreduktion von 62,41% erreicht (verglichen mit 39,51% bei reinem Eingangsfiltering und 24,70% bei XAI-CHEST).
  • Im HF-Szenario (64QAM) wurden 43,59% Reduktion erreicht (gegenüber 32,93% bei XAI-CHEST).

5. Bedeutung und Ausblick

Das X-REFINE-Framework bietet einen überlegenen Trade-off zwischen Leistung, Komplexität und Interpretierbarkeit. Es adressiert die Herausforderung, Deep-Learning-Modelle für 6G nicht nur leistungsfähig, sondern auch ressourceneffizient und transparent zu machen. Durch die gleichzeitige Reduktion der Eingangsdatenmenge und der Modellgröße ermöglicht es den Einsatz hochperformanter DL-Modelle in ressourcenbeschränkten drahtlosen Kommunikationssystemen.

Zukünftige Arbeiten umfassen die Untersuchung des Einflusses der initialen Kanalschätzung auf die Relevanz-Verteilung, die Anpassung des Frameworks für rekurrente neuronale Netze (RNNs) und die Evaluation gradientenbasierter XAI-Methoden innerhalb dieses Rahmens.