⚡ electrical engineering

Realization of a Fully Connected Neural Layer Over-the-Air through Multi-hop Amplify-and-Forward Relays

Dit artikel presenteert een optimalisatiekader voor het realiseren van een volledig verbonden neurale netwerklag via multi-hop versterk-en-doorstuur-relays, waarbij simulaties aantonen dat deze over-the-air berekening bijna perfecte classificatie-accuraatheid bereikt.

Oorspronkelijke auteurs: Tolga Girici, Meng Hua, Deniz Gündüz

Gepubliceerd 2026-03-24

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Tolga Girici, Meng Hua, Deniz Gündüz

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een enorm complex raadsel moet oplossen, zoals het herkennen van een foto van een schoen of een tas. Normaal gesproken gebeurt dit in een zware computer in de "cloud" (een datacenter ver weg). Maar dat kost tijd (latency) en veel stroom.

De auteurs van dit paper, Tolga Girici, Meng Hua en Deniz Gündüz, hebben een slimme manier bedacht om dit soort "hersenen" (neuronale netwerken) direct in de lucht te laten werken, zonder de data eerst digitaal te verpakken en te verzenden. Ze noemen dit Over-the-Air (OTA) Computing.

Hier is de uitleg in simpele taal, met wat creatieve vergelijkingen:

1. Het Probleem: De "Digitale Papiertjes"

Normaal gesproken sturen we data als digitale pakketjes (zoals brieven in enveloppen). Eerst moet de computer de data inpakken, dan versturen, en bij de ontvanger weer uitpakken en reconstrueren. Dat kost tijd en energie.

De oplossing: Wat als we de data niet in enveloppen doen, maar gewoon als een geluidsgolf door de lucht sturen? De lucht zelf doet dan het rekenwerk. Het is alsof je in plaats van brieven te schrijven, gewoon fluistert naar iemand die ver weg staat, en die persoon fluistert het direct door.

2. De Oplossing: Een Menselijke Ketting (Multi-hop)

Het grootste probleem bij het sturen van signalen door de lucht is dat ze zwakker worden naarmate ze verder reiken (verlies door afstand). Als je te ver weg staat, hoor je het niet meer.

De auteurs gebruiken daarom versterkers (relays) die als een menselijke keten fungeren.

De Stuurman (De Zender): Heeft een zender met veel antennes (een "mega-microfoon").
De Ketens (De Relays): In plaats van één grote versterker, gebruiken ze een reeks groepen van kleine versterkers.
De Ontvanger: Een ontvanger met veel oren (antennes).

De Analogie van de "Fluisterketen":
Stel je voor dat je een geheim moet doorgeven aan iemand aan de andere kant van een groot stadion.

Slecht idee: Je schreeuwt het één keer zo hard mogelijk. De ander hoort het niet goed door het lawaai.
Beter idee: Je fluistert het naar persoon A. Person A fluistert het naar persoon B, en die naar C, enzovoort.
De slimme truc in dit paper: Deze mensen (de relays) doen niet zomaar door wat ze horen. Ze versterken het geluid precies zo hard als nodig is en passen de toonhoogte (de fase) aan, zodat het geluid bij de ontvanger perfect samenvloeit tot één duidelijk bericht. Ze werken als een Amplify-and-Forward (Versterk-en-Doorstuur) team.

3. Het Doel: De "Neurale Luchtlaag"

In een kunstmatige intelligentie (AI) zijn er lagen die data verwerken. Een "Fully Connected Layer" is een laag waar elke invoer wordt vermenigvuldigd met een getal en opgeteld.

Normaal: De computer doet dit met cijfers (rekenen).
In dit paper: De lucht doet dit. De manier waarop de signalen door de lucht reizen en worden versterkt, wordt zo ingesteld dat het exact hetzelfde resultaat geeft als die zware rekenlaag in de computer.

Het is alsof je de lucht zelf gebruikt als een rekenmachine. De "gewichtjes" van de AI (de belangrijke getallen) worden niet in software gezet, maar in de instellingen van de versterkers in de lucht.

4. Hoe maken ze dit perfect? (De Optimisatie)

Het is niet zomaar "versterken en hopen dat het lukt". De auteurs hebben een slim algoritme bedacht (Alternating Optimization) dat werkt als een orkestleider:

Hij kijkt naar de zender: "Zet je volume en toon zo dat het goed begint."
Hij kijkt naar de ontvanger: "Zet je oren zo dat je het beste hoort."
Hij kijkt naar elke groep versterkers in het midden: "Jullie moeten precies zo hard en zo toonhoogte veranderen dat het geluid perfect samensmelt."

Ze doen dit steeds opnieuw, tot alles perfect op elkaar is afgestemd.

5. Wat zeggen de resultaten?

De auteurs hebben dit getest in simulaties (virtuele omgevingen) met verschillende afstanden en hoeveelheden versterkers.

Korte afstand: Met maar één groep versterkers werkt het al bijna perfect.
Grote afstand: Als het ver weg is (bijv. 200 meter), helpt het om de keten in drie groepen te verdelen. Dan is het geluid (de data) nog steeds sterk en duidelijk.
Stabiliteit: Zelfs als de versterkers niet heel veel stroom hebben, werkt het goed, zolang ze maar genoeg zijn.
Vergelijking: Het resultaat is bijna net zo goed als de digitale computer die er normaal voor wordt gebruikt.

Samenvatting in één zin

In plaats van data digitaal te versturen en in de cloud te laten rekenen, gebruiken ze een keten van slimme versterkers in de lucht die het signaal zo manipuleren dat de lucht zelf de rekenklus van een kunstmatige intelligentie uitvoert, snel en zuinig.

Waarom is dit cool?
Het maakt AI mogelijk op plekken waar geen zware computers zijn (zoals in een drone, een auto of een slimme stad), en het bespaart enorm veel energie en tijd omdat er geen "in- en uitpakken" van data nodig is.

Titel en Context

Het paper onderzoekt de implementatie van een volledig verbonden (Fully Connected - FC) laag van een neurale netwerklagen via "Over-the-Air" (OTA) computing. De auteurs, Tolga Girici, Meng Hua en Deniz Gündüz, stellen een systeem voor dat gebruikmaakt van een multi-hop architectuur met versterkende en doorsturende (Amplify-and-Forward - AF) relais om de berekeningen van een neurale laag fysiek in de radiofrequentie-kanaal uit te voeren.

1. Het Probleem

Moderne randtoepassingen (edge applications) zoals AR/VR, autonome systemen en massale IoT vereisen inferentie met milliseconden-latentie en strikte energielimieten.

Huidige beperkingen: Digitale inferentie in de cloud introduceert latentie en verhoogt het energieverbruik door zware matrixbewerkingen en de noodzaak tot kwantisatie, pakkettering en reconstructie.
OTA Computing: OTA computing gebruikt het draadloze kanaal zelf voor vermenigvuldigen-en-accumuleren (MAC) bewerkingen, waardoor overhead wordt vermeden.
De uitdaging: Bestaande OTA-implementaties van neurale lagen (zoals AirFC) gebruiken vaak directe links of enkelvoudige hops. Dit kan leiden tot rang-deficiëntie (rank deficiency) in het kanaal (vooral in mm-gebieden) of slechte SNR bij grote afstanden. Het gebruik van meerdere Reconfigurable Intelligent Surfaces (RIS) is een alternatief, maar dit vereist aanzienlijke investeringen in hardware en onderhoud.
Doel: Een oplossing vinden die de rang van het effectieve kanaal verbetert en de SNR verhoogt zonder dure RIS-arrays, specifiek door het gebruik van multi-hop AF-relais.

2. Methodologie

Systeemmodel

Het voorgestelde systeem bestaat uit:

Een multi-antenne zender (BS) met $N_t$ antennes.
Een multi-antenne ontvanger (Rx) met $N_r$ antennes.
$L$ opeenvolgende groepen van AF-relais, waarbij elke groep $K_l$ enkel-antenne relais bevat.
De relais zijn georganiseerd in een TDMA-structuur (Time Division Multiple Access) om interferentie tussen groepen te voorkomen.
Er is een optionele directe link ( $H_0$ ) tussen BS en Rx, maar het systeem is ontworpen om te werken zelfs als deze geblokkeerd is.

Het effectieve kanaal ( $H_{eff}$ ) wordt gedefinieerd als de som van de directe link en de cascade van alle versterkte hops:
$H_{eff} = H_0 + H_{L+1}A_L H_L \dots A_2 H_2 A_1 H_1$
Waarbij $A_l$ de diagonale versterkingsmatrix is voor groep $l$ .

Optimalisatieprobleem

Het doel is om de OTA-parameters (precoder $F_1$ bij de zender, combiner $F_2$ bij de ontvanger, en versterkingsfactoren $\{A_l\}$ bij de relais) te optimaliseren zodat het input-output-gedrag van het fysieke kanaal de gewenste digitale FC-laag (met gewichtsmatrix $W$ ) nabootst.

De objectieve functie minimaliseert de imitatiefout (Frobenius-norm van het verschil tussen het gesimuleerde kanaal en $W$ ) plus een ruispenalty (om te voorkomen dat ruis door de versterking de nuttige signalen overstemt):
$\min_{F_1, F_2, \{A_l\}} \| F_2 H_{eff} F_1 - W \|_F^2 + \text{tr}(F_2 R_{in}^n F_2^H)$
Onderworpen aan vermogensbeperkingen voor de zender en elk individueel relais.

Oplossingsframework: Alternating Optimization (AO)

Omdat het probleem niet convex is voor alle variabelen tegelijkertijd, wordt een Alternating Optimization (AO) framework gebruikt. Dit iteratieve proces optimaliseert achtereenvolgens:

BS Precoder ( $F_1$ ): Gegeven de andere variabelen, wordt dit opgelost als een constrained least-squares probleem.
Rx Combiner ( $F_2$ ): Wordt analytisch opgelost als een lineaire MMSE-schatter (Minimum Mean Square Error).
Relais Versterkingsfactoren ( $A_l$ ): Voor elke groep wordt een least-squares probleem opgelost met regularisatie om ruisgevoeligheid te beperken. Een "noise-aware" regularisator wordt gebruikt om te voorkomen dat relais met slechte kanalen onrealistisch hoge versterkingen toepassen. Na de oplossing wordt er een projectie uitgevoerd om aan de per-relais vermogensbeperkingen te voldoen.

Het algoritme convergeert naar een stationair punt omdat elke sub-probleem convex is wanneer de andere blokken vaststaan.

3. Belangrijkste Bijdragen

Multi-hop OTA FC: Dit is de eerste studie die multi-hop AF-relaying toepast voor de implementatie van een neurale netwerklag. Het subsumeert twee-hop systemen als een speciaal geval.
Rangverbetering zonder RIS: Het paper toont aan dat AF-relais kunnen worden gebruikt om de rang van het effectieve kanaal te verhogen en rang-deficiëntie te overwinnen, wat een goedkoper alternatief biedt voor complexe RIS-deployments.
Geoptimaliseerde AO-algoritme: Een nieuw iteratief algoritme dat gezamenlijk de precoder, combiner en versterkingsfactoren optimaliseert onder strikte vermogensbeperkingen.
Schalingsanalyse: Een analyse van hoe prestaties schalen met afstand, padverlies en het aantal hops.

4. Resultaten (Numerieke Simulaties)

De auteurs hebben simulaties uitgevoerd op basis van het Fashion-MNIST dataset met een digitale baseline-accuraatheid van 84,5%.

Invloed van het aantal relais (K): Bij een klein netwerk (100m) en voldoende relaisvermogen (1W), bereikt het systeem bijna perfecte classificatie-accuraatheid (dicht bij de digitale baseline) met slechts 12+ relais per groep, ongeacht het aantal hops (L=1, 2, 3).
Invloed van het aantal hops (L) en afstand:
- Bij grotere afstanden (200m) is een enkel hop-systeem (L=1) onvoldoende en levert lage accurate op.
- Het verhogen van het aantal hops naar L=2 of L=3 verbetert de accurate aanzienlijk door de afstand tussen relais te verkorten en ruisopbouw te verminderen.
- Er is sprake van diminishing returns: L=3 presteert bijna even goed als L=2, en verdere verhoging van hops levert weinig extra voordeel op omdat ruisopbouw per hop de beschikbare versterkingsruimte beperkt.
Vermogenseisen:
- Bij 1W relaisvermogen wordt hoge accurate bereikt.
- Bij 0,1W vermogen daalt de accurate en neemt de variabiliteit toe.
- Bij 0,01W is de prestatie slecht en zeer volatiel, wat aantoont dat voldoende relaisvermogen cruciaal is.
Directe Link: De aanwezigheid van een directe BS-Rx link verbetert de prestatie slechts marginaal (ongeveer 1%), wat aangeeft dat het multi-hop systeem de hoofdrol speelt in de imitatie van de FC-laag.

5. Betekenis en Conclusie

Dit werk demonstreert dat het mogelijk is om complexe neurale netwerkberekeningen volledig in de analoge domain uit te voeren via draadloze kanalen, zelfs over grote afstanden en zonder directe lijn-van-zicht.

Praktische toepassing: Het biedt een energie-efficiënt en low-latency alternatief voor cloud-inferentie, geschikt voor edge computing.
Hardware-onafhankelijkheid: Het gebruik van eenvoudige AF-relais in plaats van dure RIS-arrays maakt de technologie schaalbaarder en goedkoper.
Toekomstperspectief: De auteurs wijzen op toekomstig onderzoek naar synchronisatiefouten, energie-efficiëntie, selectie van optimale relais en het integreren van energiehervinding (energy harvesting).

Kortom, het paper bewijst dat multi-hop OTA computing een robuuste manier is om neurale netwerken te implementeren, waarbij een combinatie van 2 tot 3 relay-groepen vaak voldoende is om digitale prestaties te benaderen, zelfs onder moeilijke omstandigheden.