Neural Precoding in Complex Projective Spaces

Dit artikel presenteert een nieuw deep-learning-framework voor precoding in MU-MISO-systemen dat gebruikmaakt van complexe projectieve ruimtes om fase-redundanties te elimineren, wat leidt tot aanzienlijke verbeteringen in de som-rate en generalisatie ten opzichte van conventionele methoden.

De kern

De Kern: Een Slimmere Manier om Signaalrichting te Bepalen

Stel je voor dat een mobiele mast (de basisstation) een groep mensen (gebruikers) tegelijkertijd moet bedienen met hun telefoons. De mast heeft meerdere antennes en moet precies weten hoe hij zijn signaal moet "schieten" naar elke persoon, zodat iedereen duidelijk kan horen en er geen ruis of interferentie ontstaat. Dit noemen ze precoding.

Het probleem is dat de lucht (het kanaal) voortdurend verandert. De mast moet dus heel snel berekenen hoe hij zijn signaal moet sturen. Traditionele methoden zijn vaak te traag of te complex. Daarom gebruiken onderzoekers nu Deep Learning (kunstmatige intelligentie) om dit te leren.

Maar hier zit een addertje onder het gras: de manier waarop de computer de gegevens ziet, is niet optimaal.

Het Probleem: De "Draaiende Kompasnaald"

In de huidige methoden ziet de computer de signaalrichting alsof het een kompasnaald is die in een cirkel ronddraait.

• De Analogie: Stel je voor dat je een vriend vraagt om naar het noorden te wijzen. Hij wijst precies naar het noorden. Vervolgens draai je hem 360 graden rond zijn eigen as en laat hem weer naar het noorden wijzen. Voor jou is het resultaat exact hetzelfde: hij wijst naar het noorden.
• De fout van de AI: De huidige AI-modellen zien deze twee situaties echter als twee verschillende opdrachten. Ze moeten de computer dwingen om te leren dat "wijzen naar noorden" en "360 graden gedraaid en dan wijzen naar noorden" precies hetzelfde zijn. Dit is als het proberen te leren van de tafels van vermenigvuldiging, terwijl je ook nog eens moet leren dat $2 \times 3$ hetzelfde is als $3 \times 2$. De AI besteedt veel tijd aan het leren van deze "dubbele" informatie, wat het leren trager en minder nauwkeurig maakt.

In de wiskunde noemen ze dit globale fase-rotatie. Het is een overbodige draaiing die niets verandert aan de kwaliteit van het gesprek, maar de computer verwart het wel.

De Oplossing: De "Complex Projective Space" (CPS)

De auteurs van dit papier hebben een slimme oplossing bedacht. In plaats van de AI te laten werken met de volledige draaiende kompasnaald, projecteren ze de gegevens naar een speciale ruimte: de Complexe Projectieve Ruimte (CPS).

• De Analogie: In deze nieuwe ruimte wordt de "draaiing" er letterlijk afgehaald. Het is alsof je de kompasnaald niet meer in een cirkel laat ronddraaien, maar hem plat op een kaart legt. Op de kaart is er maar één manier om "noorden" aan te geven.
• Het voordeel: De AI hoeft niet meer te leren dat draaien niets verandert. Ze ziet direct het essentiële verschil: "wijst naar de ene persoon" versus "wijst naar de andere persoon". Hierdoor leert de AI veel sneller, is ze slimmer en maakt ze minder fouten.

Wat hebben ze precies gedaan?

1. Twee nieuwe manieren om te kijken: Ze hebben twee methoden bedacht om deze "platte kaart" te maken:
   • Methode A (Reële Embeddings): Een directe, simpele manier om de gegevens om te zetten.
   • Methode B (Hypersferische Coördinaten): Een wat complexere manier, alsof je de wereld als een bol ziet en de posities met lengte- en breedtegraden beschrijft.
2. De Test: Ze hebben deze methoden getest in een simulatie met 4 antennes en 4 gebruikers. Ze hebben de AI getraind om de beste signaalrichting te vinden, vergelijkbaar met de beste bestaande wiskundige formules (WMMSE), maar dan veel sneller.

De Resultaten: Sneller en Beter

De resultaten waren indrukwekkend:

• Beter leren: De AI die gebruikmaakte van de nieuwe "platte kaart" (CPS) leerde veel sneller dan de oude methoden.
• Meer data: De gebruikers kregen een snellere internetverbinding (hogere "sum-rate"), vooral als het signaal zwak was of als er veel gebruikers tegelijk waren.
• Geen zware computer nodig: Het kostte de computer bijna geen extra rekenkracht om deze slimme methode te gebruiken. Het was net zo snel als de oude methoden, maar dan veel nauwkeuriger.
• De beste methode: De simpele methode (Methode A) bleek zelfs beter te werken dan de complexe bol-methode. Soms is de simpelste oplossing de slimste!

Conclusie

Dit onderzoek laat zien dat je Deep Learning voor draadloze netwerken kunt verbeteren door niet alleen "slimmer" te programmeren, maar door de gegevens op een slimmere manier te presenteren.

Door de overbodige "draaiingen" (fase-rotaties) uit de gegevens te halen, krijgt de AI een helder beeld van de werkelijkheid. Het is alsof je iemand leert zwemmen in een rustig zwembad in plaats van in een stromende rivier; ze leren de techniek veel sneller en kunnen daarna ook in de rivier zwemmen.

Kort samengevat: De onderzoekers hebben een manier gevonden om de AI te laten kijken naar wat er echt belangrijk is voor de verbinding, zonder zich te laten afleiden door wiskundige "trucs" die niets toevoegen. Het resultaat is een snellere, betrouwbaardere mobiele verbinding voor iedereen.

Technische samenvatting

Titel: Neuronale Precoding in Complexe Projectieve Ruimten

Auteurs: Zaid Abdullah, M´erouane Debbah, Symeon Chatzinotas, en Bj¨orn Ottersten.

---

1. Probleemstelling

In moderne draadloze systemen, specifiek Multi-User Multiple-Input Single-Output (MU-MISO), is precoding essentieel om inter-user interferentie te mitigeren. Traditionele methoden voor het ontwerpen van precoders (zoals WMMSE) zijn vaak computationeel te complex voor real-time toepassing. Deep Learning (DL) wordt daarom ingezet om deze complexe optimalisatieproblemen te benaderen met lage inference-kosten.

Het fundamentele probleem dat dit artikel adresseert, ligt in de representatie van complexe waarden in DL-modellen:

• Bestaande DL-gebaseerde precoding-methoden parameteriseren kanaal- en precoder-coëfficiënten meestal via reële/imaginaire componenten of amplitude/fase.
• De prestatie van precoding hangt echter af van de magnitudes van inproducten tussen kanaal- en precoder-vectoren. Deze magnitudes zijn invariant onder globale fase-rotaties.
• Conventionele representaties negeren deze symmetrie. Hierdoor moet het DL-model impliciet leren dat vectoren die slechts verschillen door een globale fase, fysiek equivalent zijn. Dit introduceert redundantie in de leeropdracht, wat leidt tot inefficiënt leren en een verminderde generalisatiecapaciteit.

2. Methodologie

De auteurs stellen een nieuw DL-framework voor dat gebaseerd is op Complexe Projectieve Ruimten (Complex Projective Spaces - CPS), genoteerd als $\mathbb{CP}^n$.

• Concept: In $\mathbb{CP}^n$ worden vectoren die slechts verschillen door een niet-nul complexe schaling (waaronder globale fase-rotaties) als hetzelfde punt beschouwd. Door de input-features (kanaalvectoren) en labels (precodervectoren) direct in deze ruimte te projecteren, worden de fase-redundanties expliciet verwijderd.
• Normalisatie: De auteurs normaliseren zowel kanaalvectoren ($h_k$) als precodervectoren ($w_k$) naar een eenheidsnorm en verwijderen de globale fase door het eerste element als fase-referentie te gebruiken. Dit resulteert in projecties $g_k$ en $u_k$ in $\mathbb{CP}^{N-1}$.
• Twee Parameterisaties: Er worden twee specifieke manieren onderzocht om deze projecties in het DL-model te vertegenwoordigen:
  1. $P_{cps}$ (Real-valued Embeddings): De geprojecteerde vectoren worden weergegeven met reële coëfficiënten (reële en imaginaire delen, waarbij de eerste fase is verwijderd).
  2. $P_{hsc}$ (Complex Hyperspherical Coordinates): De vectoren worden geparameteriseerd met hoeken (amplitude- en fasehoeken) in een hypersferische coördinatenstelsel.
• Architectuur: Een feed-forward Deep Neural Network (DNN) wordt gebruikt. De output wordt ontbonden in twee componenten:
  1. De richting van de precoder in $\mathbb{CP}^{N-1}$ (de vorm).
  2. De power-allocation ratio's over de gebruikers.
• Trainingsdoel: Het model wordt getraind om de Weighted Sum-Rate (WSR) te maximaliseren, waarbij de labels gegenereerd worden door het WMMSE-algoritme. Er wordt gebruik gemaakt van een verliesfunctie die rekening houdt met de power-split (KL-divergentie) en de richting van de precoder (hoekafstand).

3. Belangrijkste Bijdragen

1. Geometry-Aware Learning: Introductie van een DL-framework voor MU-MISO precoding waarbij zowel kanaal- als precodervectoren worden afgebeeld op punten in $\mathbb{CP}^n$, waardoor fase-gerelateerde ambiguïteiten worden geëlimineerd.
2. Nieuwe Parameterisaties: Ontwikkeling van twee CPS-gebaseerde parameterisaties: één met reële embeddings en één met complexe hypersferische coördinaten.
3. End-to-End Beperkt Leren: Decompositie van het leerprobleem in het leren van de precoderrichting en de power-allocation, getraind met een sum-rate-bewuste loss-functie over een breed SNR-bereik.
4. Benchmarking: Uitgebreide vergelijking met twee bestaande methoden:
   • $P_{ri}$: Klassieke reële/imaginaire parameterisatie.
   • $P_{ncv}$: Genormaliseerde complexe vectoren zonder verwijdering van de globale fase.

4. Resultaten

De simulaties zijn uitgevoerd voor een systeem met $N=4$ antennes en $K=4$ gebruikers.

• Prestatie en Generalisatie:
  • De CPS-gebaseerde methoden ($P_{cps}$ en $P_{hsc}$) overtreffen de benchmarks aanzienlijk, vooral bij medium en hoge SNR-waarden.
  • $P_{cps}$ (reële embeddings) presteert het beste. Bij een SNR van 10 dB boekte $P_{cps}$ een winst van 0,4 bit/s/Hz ten opzichte van de beste benchmark ($P_{ncv}$) en 0,8 bit/s/Hz ten opzichte van de klassieke methode ($P_{ri}$).
  • Bij lage SNR-waarden (0 dB) bereikt $P_{cps}$ 94% van de WMMSE-snelheid, terwijl $P_{ri}$ slechts 82,5% haalt.
• Efficiëntie:
  • $P_{cps}$ bereikt deze superieure prestaties met exact hetzelfde aantal trainbare parameters als de klassieke $P_{ri}$-methode, maar zonder de redundantie van de fase-informatie.
  • De methode $P_{hsc}$ (hypersferische coördinaten) presteerde iets minder goed dan $P_{cps}$ en had een hoger rekentijd, waarschijnlijk door de complexe trigonometrische koppelingen die de optimalisatie bemoeilijken.
• Inferentie-tijd:
  • Alle DL-oplossingen zijn aanzienlijk sneller dan het iteratieve WMMSE-algoritme (bijvoorbeeld ~2,7 ms vs 133 ms voor CPU-inferentie).
  • De extra latentie voor fase-verwijdering in $P_{cps}$ is verwaarloosbaar in vergelijking met de prestatiewinst.

5. Betekenis en Conclusie

Dit artikel demonstreert dat het expliciet modelleren van de fysieke symmetrieën (in dit geval fase-invariantie) in de input- en outputrepresentatie van een DL-model cruciaal is voor succesvolle draadloze communicatie-toepassingen.

• Door te leren op de manifold van fysiek onderscheidbare kanaal-precoder-paren in plaats van op de volledige complexe ruimte, wordt de leeropdracht vereenvoudigd en de generalisatie verbeterd.
• De studie toont aan dat reële embeddings in $\mathbb{CP}^n$ een superieure balans bieden tussen prestatie en complexiteit in vergelijking met hypersferische coördinaten.
• Dit werk biedt een fundamenteel inzicht voor toekomstig DL-onderzoek in de draadloze communicatie: het is niet alleen belangrijk wat het model leert, maar ook hoe de data geometrisch wordt gepresenteerd aan het model.