LOREN: Low Rank-Based Code-Rate Adaptation in Neural Receivers

Riassunto Tecnico: LOREN

1. Il Problema (Problem Statement)

Con l'avvento del 6G, la domanda di throughput elevato e di efficienza energetica estrema sta spingendo la ricerca verso i ricevitori basati su reti neurali (Neural Receivers), che superano le prestazioni dei ricevitori tradizionali in vari scenari di canale. Tuttavia, questi ricevitori presentano due criticità principali per l'implementazione hardware:

• Elevata complessità e memoria: I modelli neurali richiedono un numero enorme di parametri, con conseguente alto consumo di potenza e area sul chip.
• Mancanza di adattabilità al Code Rate (CR): Nei sistemi di comunicazione mobili, il rapporto tra bit utili e bit totali (CR) cambia dinamicamente. I ricevitori neurali standard richiedono un intero set di pesi separato e addestrato per ogni singolo CR, portando a un overhead di memoria insostenibile per i dispositivi mobili.

2. Metodologia (Methodology)

Gli autori propongono LOREN (Low-Rank-Based Code-Rate Adaptation Neural Receiver), un'architettura ispirata alla tecnica LoRA (Low-Rank Adaptation) utilizzata nei Large Language Models, ma adattata specificamente per le reti neurali convoluzionali (CNN) nel dominio delle comunicazioni wireless.

L'approccio si articola in tre fasi:

1. Base Neural Receiver (Frozen): Viene addestrata una rete neurale di base (basata su un'architettura ResNet per sistemi OFDM SIMO) utilizzando un set di dati con CR casualizzati. Una volta addestrata, la rete base viene "congelata" (i suoi pesi non vengono più modificati).
2. LOREN Adapters: Invece di memorizzare nuovi pesi completi per ogni CR, LOREN introduce piccoli adattatori a basso rango integrati nei livelli convoluzionali. Questi adattatori agiscono come convoluzioni $1 \times 1$ che effettuano una proiezione dei canali delle feature (mixing) senza alterare il filtraggio spaziale ($3 \times 3$) della rete base.
3. Formulazione Matematica: L'aggiornamento dei pesi per un dato CR è espresso come:
   $$W(CR) = W_0 + \frac{\alpha}{r} BA$$
   dove $W_0$ è la matrice congelata, $A$ e $B$ sono matrici di rango ridotto ($r$), e $\alpha$ è un fattore di scala. Questo riduce drasticamente il numero di parametri da addestrare e memorizzare.

3. Contributi Chiave (Key Contributions)

• Architettura Adattiva Dinamica: Introduzione di un ricevitore che può passare istantaneamente da un CR all'altro semplicemente selezionando l'adattatore corrispondente, con un overhead di parametri minimo.
• Training End-to-End: Un framework di addestramento che ottimizza contemporaneamente la rete base e i singoli adattatori per CR attraverso simulazioni di link SIMO in canali 3GPP CDL.
• Efficienza Hardware: Dimostrazione che l'adattamento tramite matrici a basso rango è significativamente più efficiente rispetto al retraining o alla memorizzazione di pesi completi.

4. Risultati (Results)

I risultati sono stati valutati sia in termini di prestazioni di comunicazione (BLER) che di implementazione hardware (tecnologia 22nm FD-SOI):

• Prestazioni (BLER): LOREN raggiunge prestazioni comparabili o addirittura superiori ai ricevitori neurali addestrati interamente per un singolo CR. Questo accade perché la rete base condivisa funge da estrattore di feature più generalista, evitando l'overfitting che può colpire i modelli addestrati su un unico punto operativo. L'uso di più strati di adattatori (fino a 4) migliora ulteriormente il BLER.
• Efficienza Hardware:
  • Area del Silicio: Riduzione di oltre il 65% rispetto a un ricevitore neurale base che supporta tre CR.
  • Consumo di Potenza: Riduzione fino al 15% del consumo totale.
  • Scalabilità: L'aggiunta di nuovi CR richiede solo l'aggiunta di minuscole matrici $A$ e $B$, mentre nei sistemi tradizionali richiederebbe l'aggiunta di enormi blocchi di memoria SRAM.

5. Significato (Significance)

Il lavoro di LOREN è significativo perché colma il divario tra l'efficacia teorica dei ricevitori basati su AI e la loro fattibilità pratica nei dispositivi mobili di prossima generazione (6G). Dimostra che è possibile ottenere l'adattabilità necessaria per i protocolli di comunicazione moderni senza compromettere il budget energetico e lo spazio fisico limitato dei chip di banda base.