On Signal Peak Power Constraint of Over-the-Air Federated Learning

1. Il Problema

Il lavoro affronta un limite pratico spesso trascurato nell'apprendimento federato (FL) basato su computazione over-the-air (AirComp): il vincolo di potenza di picco istantaneo imposto dalla non linearità degli amplificatori di potenza (PA) nei dispositivi radio.

• Contesto: L'AirComp permette di aggregare direttamente le aggiornamenti locali dei modelli sul canale wireless sfruttando la sovrapposizione delle onde, superando i colli di bottiglia delle trasmissioni digitali. Tuttavia, i progetti esistenti ottimizzano il controllo della potenza basandosi solo su vincoli di potenza media.
• La Criticità: Gli amplificatori di potenza operano linearmente solo fino a un certo livello di ingresso. Quando il segnale supera questo limite (a causa di un alto rapporto tra potenza di picco e potenza media, o PAPR), l'amplificatore entra in una regione di saturazione non lineare.
• Conseguenze:
  1. Distorsione in-banda: Corrompe l'aggregazione dei gradienti, degradando le prestazioni dell'apprendimento federato.
  2. Emissioni out-of-band: Crea interferenze nelle bande di frequenza adiacenti, violando i regolamenti spettrali.
• Specificità AirComp: A differenza delle comunicazioni digitali, in AirComp l'ampiezza del segnale dipende direttamente dalla distribuzione dei valori dei gradienti. Questo, unito all'uso di sistemi multi-portante (OFDM), genera naturalmente segnali con un PAPR molto elevato, rendendo il problema del picco di potenza critico.

2. Metodologia

Gli autori analizzano l'impatto del vincolo di potenza di picco sia per sistemi a portante singola che per sistemi OFDM multi-portante, proponendo e valutando una soluzione classica per la riduzione del PAPR.

• Modellazione del Sistema:
  • Viene definito un modello di sistema FL con una stazione base (BS) e $K$ dispositivi utente (UE).
  • Si considera la trasmissione analogica dei gradienti normalizzati.
  • Viene introdotto un limite di ampiezza istantanea $A_{max}$ (corrispondente a $P_{inst,max}$) che il segnale trasmesso non deve superare.
• Analisi del PAPR:
  • Si dimostra che, senza mitigazione, il PAPR può raggiungere valori elevati (circa 35 dB nelle simulazioni), superando di gran lunga i limiti di linearità degli amplificatori.
  • Si nota che, controintuitivamente, la trasmissione a portante singola in AirComp può mostrare un PAPR più alto rispetto all'OFDM, poiché la potenza è direttamente legata ai valori istantanei del gradiente.
• Soluzione Proposta: Clipping Iterativo e Filtraggio (ICF):
  • Per rispettare il vincolo di picco, viene applicata la tecnica classica di Iterative Clipping and Filtering.
  • Procedura:
    1. Clipping: Limitazione dell'ampiezza del segnale nel dominio del tempo a $A_{max}$.
    2. Filtraggio: Applicazione di un filtro passa-basso nel dominio della frequenza per sopprimere le emissioni out-of-band generate dal clipping.
    3. Iterazione: Poiché il filtraggio può causare una ricrescita dei picchi (peak regrowth), il processo viene ripetuto iterativamente fino a quando le emissioni fuori banda scendono sotto una soglia accettabile.
  • La metodologia è applicata sia al caso a portante singola (clipping diretto sui valori del gradiente) che al caso OFDM (clipping sui campioni temporali sovracampionati).

3. Contributi Chiave

1. Identificazione del Problema: È il primo lavoro a evidenziare esplicitamente come i vincoli di potenza di picco istantanea, derivanti dalla non linearità dei PA, siano un problema reale e critico per le prestazioni dell'AirComp-FL.
2. Caratterizzazione Dettagliata: Fornisce un'analisi completa del problema del PAPR in scenari AirComp sia single-carrier che multi-carrier, mostrando che i segnali generati dai gradienti spesso superano i limiti di linearità degli amplificatori.
3. Valutazione Empirica: Implementa e testa la soluzione ICF in un contesto realistico (LeNet su CIFAR-10), fornendo dettagli implementativi per entrambe le modalità di trasmissione.
4. Analisi delle Prestazioni: Dimostra che l'applicazione di vincoli di picco, sebbene necessaria per l'hardware, ha un impatto diretto e talvolta severo sulla convergenza e sull'accuratezza finale del modello FL.

4. Risultati delle Simulazioni

Le simulazioni sono state condotte su una rete LeNet con 40 utenti, utilizzando il dataset CIFAR-10 per 500 round di comunicazione.

• PAPR: Senza clipping, il PAPR è molto alto (~35 dB). Dopo l'applicazione di ICF, il PAPR viene ridotto a circa 15 dB, rendendo il segnale gestibile dagli amplificatori.
• Errore di Approssimazione (MSE/TSE):
  • Il clipping introduce un errore di distorsione (True Square Error - TSE) superiore rispetto alla linea di base senza clipping.
  • Paradosso del rumore basso: Nei sistemi multi-portante (OFDM), l'errore post-clipping è maggiore quando il rumore di canale è basso. Questo perché, in condizioni di basso rumore, i fattori di scala ottimali ($\alpha$) sono più grandi per compensare il rumore; di conseguenza, amplificano anche la distorsione in-banda introdotta dal clipping, peggiorando l'errore totale.
• Accuratezza del Modello (Test Accuracy):
  • Portante Singola: Si osserva un calo di accuratezza costante ma contenuto (1.5-2% alla fine dell'addestramento), con un picco di degradazione (~8%) intorno al 50° round.
  • OFDM Multi-portante: La degradazione è più pronunciata. In scenari a basso rumore, l'addestramento può addirittura divergere (fallire completamente) a causa dell'amplificazione della distorsione in-banda.
  • Il sistema OFDM risulta più sensibile al clipping rispetto alla portante singola in condizioni di canale favorevole.

5. Significato e Implicazioni

Questo studio è fondamentale perché sposta l'attenzione dalla teoria ideale dell'AirComp alla sua implementazione pratica.

• Avvertenza per i Progettisti: Le strategie di controllo della potenza basate solo sulla potenza media sono insufficienti. Ignorare i vincoli di picco porta a distorsioni non lineari che possono invalidare i benefici dell'AirComp.
• Trade-off: Esiste un compromesso critico tra il rispetto dei limiti hardware (clipping) e la qualità del segnale aggregato. La soluzione ICF, sebbene standard, non è priva di costi in termini di prestazioni del FL, specialmente in scenari OFDM a basso rumore.
• Direzioni Future: Il lavoro invita a sviluppare nuove tecniche di controllo della potenza consapevoli dei vincoli di picco e metodi di riduzione del PAPR più avanzati specifici per l'AirComp-FL, per mitigare la distorsione in-banda senza sacrificare la convergenza del modello.

In sintesi, il paper dimostra che l'AirComp-FL è vulnerabile alle non linearità degli amplificatori e che la gestione del picco di potenza non è un dettaglio secondario, ma un fattore determinante per il successo dell'addestramento distribuito.