🔢 mathematics

FM-Receiver: A Foundation Model Enabled Unified Inner and Outer Neural Receiver Towards AI-Native Wireless Communications

Dieses Paper schlägt FM-Receiver vor, einen durch Foundation Models ermöglichten, vereinheitlichten neuronalen Empfänger, der die innere und äußere drahtlose Verarbeitung in einem einzigen KI-nativen Framework unter Verwendung eines Grouped Error Correction Code Transformers und einer dreistufigen Pre-training-Strategie integriert, um überlegene Leistung sowie Zero-Shot-Generalisierung über diverse Systemkonfigurationen hinweg zu erreichen.

Ursprüngliche Autoren: Tianyue Zheng, Chao Jiang, Linglong Dai

Veröffentlicht 2026-07-15

📖 5 Min. Lesezeit🧠 Tiefgang

CC0 1.0

Ursprüngliche Autoren: Tianyue Zheng, Chao Jiang, Linglong Dai

Originalarbeit unter CC0 1.0 der Gemeinfreiheit gewidmet (http://creativecommons.org/publicdomain/zero/1.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie versuchen, die geheime Nachricht eines Freundes zu hören, der in einem lauten, überfüllten Stadion schreit. In den alten Zeiten hätte Ihr Gehirn (der Empfänger) dies in zwei separaten Schritten tun müssen: Zuerst hätten Sie die Menge herausfiltern und das Stimmengewirr ausblenden müssen, um die Worte klar zu hören (der „äußere“ Empfänger), und dann, sobald Sie die Worte hätten, hätten Sie ein separates Regelwerk benutzt, um Tippfehler oder fehlende Buchstaben zu korrigieren (der „innere“ Empfänger). Das Problem? Diese beiden Schritte haben nicht miteinander kommuniziert. Wenn der erste Schritt einen winzigen Fehler machte, hatte der zweite Schritt keine Möglichkeit zu sagen: „Hey, ich glaube, das Wort sollte eigentlich etwas anderes sein!“

Dieses Papier stellt eine neue Art von „Super-Zuhörer“ namens FM-Receiver vor. Betrachten Sie ihn als ein einziges, super-intelligentes KI-Gehirn, das beide Aufgaben gleichzeitig erledigt. Anstatt die Arbeit aufzuteilen, lernt er, das Rauschen zu hören und die Nachricht zu korrigieren – in einem einzigen, riesigen, vereinten Schritt. Die Autoren nennen dies ein „Foundation Model“ (Fundamentmodell), was wie ein Schüler ist, der vor jeder Prüfung jedes Buch in der Bibliothek gelesen hat, sodass er fast jede gestellte Frage bewältigen kann.

Das große Problem: Der „Bit“- vs. „Symbol“-Mismatch

Das Papier weist auf einen spezifischen Fehler in der Funktionsweise früherer KI-Empfänger hin. Stellen Sie sich vor, der äußere Empfänger spricht in „Wörtern“ (Symbolen, also Gruppen von Bits), aber die alten KI-Decoder verstanden nur „Buchstaben“ (einzelne Bits). Es ist, als würde man versuchen, einen ganzen Satz zu übersetzen, indem man sich nur auf einen Buchstaben nach dem anderen konzentriert; das ist langsam und verwirrend.

Die Autoren schließen die Idee explizit aus, einfach eine Standard-KI auf die Außenseite zu setzen und ein traditionelles Regelwerk auf die Innenseite. Sie argumentieren, dass die Trennung der beiden verhindert, dass das System lernt, effizient zusammenzuarbeiten. Sie argumentieren auch dagegen, dass KI-Decoder nur mit perfekten, sauberen Daten arbeiten sollten; in der realen Welt sind die Daten, die vom ersten Schritt kommen, unordentlich, und der Decoder muss mit diesem Chaos umgehen können.

Die Lösung: Der „gruppierte“ Super-Decoder

Um diesen Mismatch zu beheben, hat das Team ein neues Werkzeug namens G-ECCT (Grouped Error Correction Code Transformer) erfunden.

Die Analogie: Anstatt einen Buchstaben nach dem anderen zu lesen, greift dieser neue Decoder ein ganzes „Wort“ (ein Symbol, das aus mehreren Bits besteht) und behandelt es als eine einzige Einheit. Es ist, als würde man einen ganzen Satz auf einmal lesen, anstatt über jeden einzelnen Buchstaben zu stolpern.
Das Ergebnis: Dies macht den Prozess viel schneller und ermöglicht es, dass der Teil des „Hörens“ und der Teil des „Korrigierens“ nahtlos ineinanderfließen.

Wie sie es gelehrt haben: Das Drei-Stufen-Bootcamp

Man kann nicht einfach eine komplexe KI in das Stadion werfen und erwarten, dass sie funktioniert. Die Autoren haben eine Drei-Stufen-Trainingsstrategie entwickelt, um sicherzustellen, dass die KI für alles bereit ist:

Stufe 1 (Das Ohr): Sie haben der KI beigebracht, wie man Rauschen herausfiltert und das Signal klar hört, indem sie eine Mischung aus verschiedenen Crowd-Größen und Stadion-Layouts verwendeten.
Stufe 2 (Das Gehirn): Sie haben dem neuen „gruppierten“ Decoder beigebracht, Fehler zu korrigieren, begannen aber in einem sauberen, ruhigen Raum (simulierte perfekte Daten), damit er die Grammatikregeln lernen konnte, ohne durch Rauschen verwirrt zu werden.
Stufe 3 (Das Team): Schließlich brachten sie das „Ohr“ und das „Gehirn“ wieder zusammen und trainierten sie als Team, sodass sie aus den Fehlern des jeweils anderen in unordentlichen, verrauschten Bedingungen lernen konnten.

Was die Simulationen zeigten

Die Autoren führten Tausende von Simulationen (Computertests) durch, um zu sehen, wie dieser neue Empfänger abschneidet. Sie haben ihn nicht nur in einem Szenario getestet; sie haben ihn mit allem konfrontiert.

Crowd-Größe: Ob 1 Nutzer oder 4 Nutzer gleichzeitig schrien, der FM-Receiver war am besten darin, die Nachricht klar zu halten. Im schwierigsten 4-Nutzer-Szenario schlug er die nächstbeste Methode um mehr als 2 dB (ein Maß für die Signalqualität).
Verschiedene Sprachen: Sie testeten ihn mit verschiedenen „Sprachen“ (Modulationsverfahren wie QPSK, 16-QAM und 64-QAM). Er gewann in allen Fällen, wobei der Vorsprung bei den einfacheren Sprachen am größten war.
Die „Zero-Shot“-Magie: Das ist der coolste Teil. Sie trainierten die KI mit Daten von 3,5 GHz, 4,9 GHz und 7,0 GHz. Dann testeten sie sie auf einer völlig neuen Frequenz, 28 GHz, die sie noch nie zuvor gesehen hatte. Oh dies auch ohne zusätzliches Training funktionierte, arbeitete sie immer noch besser als die alten Methoden. Sie bewältigte auch eine völlig neue Art von „Stadion“ (Kanalmodell), die sie noch nie gesehen hatte, während andere KI-Methoden versagten und auf die Leistung einfacher, altmodischer Empfänger zurückfielen.

Geschwindigkeit und Größe

Das Papier stellt fest, dass dieser neue Empfänger zwar ein „großes“ Modell ist (mit etwa 38,98 Millionen Parametern im Vergleich zu kleineren Modellen mit weniger), aber überraschend schnell ist. In ihren Tests verarbeitete er Daten in nur 5,511 ms pro Batch. Das ist mehr als doppelt so schnell wie die bisher beste KI-Methode und fast 9-mal schneller als die traditionelle Methode, die eine langsame, schrittweise Fehlerprüfungsschleife nutzt.

Das Faztelement

Die Autoren legen nahe, dass dieser vereinheitlichte Ansatz ein wichtiger Schritt in Richtung „KI-nativer“ drahtloser Systeme ist, bei denen der gesamte Empfänger von Grund auf intelligent aufgebaut wird. Sie behaupten nicht, dass es sich um ein gelöstes Problem für die reale Welt handelt, aber ihre Simulationen zeigen, dass es das Potenzial hat, viel zuverlässiger und effizienter zu sein als das, was wir heute haben, besonders wenn es unordentlich wird oder sich unerwartet ändert. Sie deuten auch an, dass zukünftige Arbeit darauf abzielen könnte, das Modell zu verkleinern, damit es auf kleinere, günstigere Hardware passt, aber für den Moment sieht die große, intelligente Version sehr vielversprechend aus.

Technisches Resümee: FM-Receiver

Problemstellung

Aktuelle neuronale Empfängerarchitekturen in der drahtlosen Kommunikation wenden Deep Learning typischerweise nur auf den „äußeren“ Empfänger (Kanalschätzung, Äqualisation und Demapping) an, während konventionelle Algorithmen wie die Belief Propagation (BP) für den „inneren“ Empfänger (Kanalkodierung) beibehalten werden. Diese Trennung führt zu zwei kritischen Einschränkungen:

Mangelnde gemeinsame Optimierung: Die äußeren und inneren Empfänger werden unabhängig voneinander optimiert, was verhindert, dass das System die komplexen, nicht-linearen Beziehungen zwischen Signalverarbeitung und Kodierung erlernt. Dies führt zu einer Leistungsdegradierung, insbesondere in anspruchsvollen Multi-User- oder niedrigen Signal-Rausch-Verhältnis (SNR)-Szenarien.
Architektonische Diskrepanz: Bestehende KI-basierte Kanalkodierer arbeiten oft auf der Bitebene, während der äußere Empfänger modulierte Symbole (Gruppen von Bits) verarbeitet. Dieser Mismatch behindert die nahtlose Integration der beiden Stufen in einen einzigen, einheitlichen neuronalen Rahmen und erhöht die Rechenkomplexität.

Darüber hinaus haben bestehende neuronale Empfänger oft Schwierigkeiten, über diverse Systemkonfigurationen hinweg (z. B. variierende Anzahl von Nutzern, Frequenzbänder und Modulationsverfahren) zu generalisieren, ohne umfangreiches Nachtraining zu benötigen, was ihre Anwendbarkeit für KI-native Luftschnittstellen einschränkt.

Methodik

Die Autoren schlagen den FM-Receiver vor, einen durch Foundation Models (FM) gestützten, vereinheitlichten neuronalen Empfänger, der die äußeren und inneren Empfänger in einem einzigen End-to-End-Framework integriert. Die Kernmethodik besteht aus drei Hauptkomponenten:

1. Grouped Error Correction Code Transformer (G-ECCT)

Um die Diskrepanz zwischen der Symbol-Ebene der äußeren Verarbeitung und der Bit-Ebene der Kodierung zu lösen, führen die Autoren den G-ECCT ein.

Dekodierung auf Symbolebene: Anstatt einzelne Bits als Token zu behandieren, gruppiert G-ECCT die $m$ Bits eines modulierten Symbols zu einem einzigen Token. Dies richtet die Granularität der Dekodierung an der Ausgabe des äußeren Empfängers aus.
Maskierte Aufmerksamkeit (Masked Attention): Ein spezialisiertes Schema zur Generierung gruppenbasierter Masken wurde entwickelt, um die Struktur der Paritätsprüfmatrix in den Self-Attention-Mechanismus einzubinden. Dies ermöglicht es dem Transformer, Abhängigkeiten zwischen Symbolgruppen zu lernen und gleichzeitig die Codierungsbeschränkungen einzuhalten.
Effizienz: Durch die Verarbeitung von Symbolen anstelle von einzelnen Bits wird die Rechenkomplexität im Vergleich zu Ansätzen auf Bitebene um den Faktor $m^2$ reduziert.

2. Unified FM-Receiver Architektur

Die Gesamtarchitektur nimmt das empfangene Zeit-Frequenz-Ressourcengitter (nach der FFT) als Eingabe entgegen und gibt direkt die rekonstruierten übertragenen Bits aus.

Backbone: Das Netzwerk nutzt einen gestapelten Transformer-Backbone. Die ersten $N_1$ Blöcke verwenden Full Self-Attention, um Aufgaben des äußeren Empfängers (Kanalschätzung, Äqualisation und Demapping) durchzuführen und Log-Likelihood Ratios (LLRs) zu generieren.
Dekodierung: Die nachfolgenden $N_2$ Blöcke nutzen Masked Self-Attention (G-ECCT), um die Kanalkodierung auf Symbolebene basierend auf den generierten LLRs durchzuführen.
Hilfsüberwachung (Auxiliary Supervision): Ein Read-out-Modul liefert während des Trainings verfeinerte Kanalschätzungen, um die Konvergenz und Stabilität zu verbessern.

3. Drei-stufige konfigurationsadaptive Vorverarbeitung (Pre-Training)

Um eine robuste Generalisierung über diverse Szenarien sicherzustellen, wird eine dreistufige Pre-Training-Strategie angewandt:

Stufe 1 (Äußerer Empfänger): Pre-Training der äußeren Empfängerblöcke auf diversen Datensätzen, um robuste Frequenzbereichsverarbeitung und Interferenzunterdrückung zu erlernen.
Stufe 2 (G-ECCT): Pre-Training der G-ECCT-Blöcke unter Verwendung sauberer LLRs, die aus einem AWGN-Kanal (Additive White Gaussian Noise) generiert wurden. Dies ermöglicht es dem Decoder, schnell zu konvergieren, ohne sich auf die unperfekten LLR-Verteilungen des äußeren Empfängers zu überoptimieren.
Stufe 3 (Gemeinsame Optimierung): Fine-Tuning des gesamten vereinheitlichten Netzwerks End-to-End unter Verwendung diverser Datensätze, wodurch sich die äußeren und inneren Komponenten aneinander anpassen können.

Wichtigste Beiträge

Vereinheitlichtes Framework: Die Arbeit präsentiert die erste Architektur, die die äußeren und inneren Empfänger vollständig unter Verwendung von Foundation Models vereinheitlicht und somit die Notwendigkeit konventioneller Kanalkodierungsalgorithmen eliminiert.
G-ECCT Design: Die Einführung der Dekodierung auf Symbolebene via G-ECCT überbrückt die Lücke zwischen Modulation und Kodierung, ermöglicht eine nahtlose Integration und reduziert die Rechenkomplexität.
Generalisierungsstrategie: Die vorgeschlagene dreistufige Pre-Training-Strategie ermöglicht es dem Modell, sich an ungesehene Systemkonfigurationen anzupassen, einschließlich variierender Nutzerzahlen, Frequenzbänder und Modulations- und Codierungsschemata (MCSs).
Zero-Shot-Fähigkeit: Das Modell demonstriert die Fähigkeit, auf ungesehene Frequenzbänder (z. B. 28 GHz) und Kanalmodelle ohne Fine-Tuning zu generalisieren.

Simulationsergebnisse

Umfangreiche Simulationen wurden mit 3GPP-konformen Link-Level-Simulatoren (Sionna) über 15 Datensätze durchgeführt, die verschiedene Kanalmodelle (CDL-A bis E), Frequenzbänder (3,5 GHz bis 28 GHz) und Nutzerkonfigurationen abdecken.

Leistungsgewinne: Der FM-Receiver übertraf konsistent die Baselines, einschließlich konventioneller Empfänger (LS/LMMSE + BP) und lernbasierter Methoden (CNN+BP, Transformer+BP). In einem anspruchsvollen 4-Nutzer-Szenario erzielte die vorgeschlagene Methode einen Leistungsgewinn von über 2 dB gegenüber den Baselines.
Modulationsrobustheit: Die Methode zeigte eine überlegene Leistung über QPSK, 16-QAM und 64-QAM hinweg. Für QPSK lagen die Gewinne über 3 dB im Vergleich zu traditionellen Baselines; für 64-QAM blieben die Gewinne über 1,5 dB.
Zero-Shot-Generalisierung:
- Frequenzbänder: Beim Test auf einem ungesehenen 28-GHz-Band (trainiert auf 3,5–7,0 GHz) behielt der FM-Receiver eine starke Leistung bei und übertraf das „Transformer+BP“-Baseline-Ergebnis um etwa 1 dB stärker als bei In-Band-Ergebnissen.
- Kanalmodelle: Beim Test auf einem ungesehenen Kanalmodell (CDL-B) behielt der FM-Receiver einen Gewinn von ca. 1 dB gegenüber der besten konventionellen Baseline, während andere neuronale Empfänger signifikant degradierten.
Skalierbarkeit: Die Leistung verbesserte sich mit größeren Modellgrößen (bis zu 86,66 Mio. Parameter) und diverseren Pre-Training-Datensätzen.
Recheneffizienz: Trotz einer höheren Anzahl an Parametern (38,98 Mio.) erreichte der FM-Receiver die geringste Inferenzlatenz (5,511 ms pro Batch) im Vergleich zu iterativen BP-basierten Methoden (z. B. 49,980 ms für LMMSE+LMMSE+BP), bedingt durch seine Single-Pass Feed-Forward-Architektur.

Bedeutung und Ansprüche

Das Paper behauptet, dass der FM-Receiver einen bedeutenden Schritt zur Realisierung der KI-nativen drahtlosen Kommunikation darstellt. Durch die Vereinigung der gesamten Empfängerkette in ein einziges Foundation Model überwindet der Ansatz die Einschränkungen modularer, separat optimierter Designs. Die Autoren führen aus, dass diese Architektur nicht nur eine überlegene Bitfehlerrate (BER) über diverse und anspruchsvolle Szenarien hinweg liefert, sondern auch über starke Zero-Shot-Generalisierungsfähigkeiten verfügt, die für zukünftige 6G-Netzwerke, in denen Systemkonfigurationen dynamisch variieren können, essenziell sind. Die Reduzierung der Inferenzlatenz deutet zudem auf die praktische Durchführbarkeit des Einsatzes solch komplexer neuronaler Empfänger in Echtzeitsystemen hin und bewegt sich damit über die theoretischen Vorteile von KI hinaus in Richtung praktischer Implementierung.