Diffusion-OAMP for Joint Image Compression and Wireless Transmission

1. Enunciato del Problema

Il documento affronta la sfida della Compressione e Trasmissione Wireless Conjunta di Immagini (JCWT). A differenza del ripristino generico delle immagini, la JCWT comporta il recupero di un'immagine sorgente ($s$) da un segnale ricevuto ($y$) che ha subito due trasformazioni lineari distinte:

1. Compressione e Modulazione: L'immagine sorgente viene compressa e modulata in un segnale trasmesso ($x$) tramite un operatore $F$.
2. Trasmissione Wireless: Il segnale attraversa un canale wireless ($A$) corrotto da rumore gaussiano bianco additivo (AWGN, $n$).

Il sistema è modellato come un problema inverso lineare:
$$y = A(Fs) + n = Ax + n$$
dove $A$ rappresenta la matrice del canale e $F$ rappresenta l'operatore congiunto di compressione/modulazione.

Sfide Chiave:

• Condizionamento Scadente: L'operatore combinato $AF$ spesso risulta in un sistema gravemente mal condizionato, specialmente nei canali in fading (ad es. 3GPP TDL-A) e a bassi rapporti di compressione.
• Disallineamento del Prior: Gli algoritmi di recupero tradizionali come Orthogonal Approximate Message Passing (OAMP) si basano su priori analitici (ad es. Bernoulli-Gaussiano) o denoiser creati manualmente (ad es. BM3D). Questi falliscono nel catturare la distribuzione complessa e ad alta dimensionalità delle immagini naturali, portando a prestazioni subottimali quando il prior assunto non corrisponde alla vera distribuzione dell'immagine.

2. Metodologia: Diffusion-OAMP

Gli autori propongono Diffusion-OAMP, un framework di ricostruzione senza addestramento che integra modelli generativi di diffusione pre-addestrati nell'algoritmo OAMP. L'idea centrale è utilizzare il modello di diffusione come un potente Stimatore Non Lineare (NLE) all'interno del ciclo iterativo OAMP.

A. Architettura del Sistema

Il framework opera nel dominio di trasmissione ($x$) ma sfrutta il dominio sorgente ($s$) per i priori generativi:

1. Stimatore Lineare (LE): Uno stimatore LMMSE elabora l'osservazione rumorosa $y$ per produrre una stima a posteriori di $x$.
2. Ortogonalizzazione: L'output viene ortogonalizzato per disaccoppiare lo stimatore lineare dallo stimatore non lineare, producendo "pseudo-osservazioni" estrinseche.
3. Multiplexing Inverso Casuale (RM): La stima viene mappata dal dominio di trasmissione indietro al dominio dell'immagine sorgente ($s$) utilizzando l'inverso dell'operatore di compressione ($F^{-1}$).
4. Corrispondenza SNR: L'algoritmo calcola la varianza del rumore efficace della stima corrente e la mappa a uno specifico passo temporale di diffusione ($t^*$). Ciò garantisce che il modello di diffusione operi al corretto livello di rumore corrispondente all'incertezza dell'iterazione corrente.
5. Stimatore Non Lineare (NLE): Un modello di diffusione pre-addestrato (sia DDIM che Flow Matching) agisce come denoiser, proiettando la stima rumorosa dell'immagine sulla varietà dei dati appresa.
6. Correzione MMSE: L'immagine denoizzata viene rimodulata ($F$) e un passo di correzione aggiorna il prior per la successiva iterazione OAMP utilizzando lo Stimatore di Rischio Non Distorto di Stein (SURE) per garantire l'ortogonalità.

B. Componenti Tecnici Chiave

• Multiplexing Casuale (RM): L'operatore di compressione $F$ combina una matrice di segni casuali, una matrice DCT, una matrice di permutazione e un selettore di righe. Questo design garantisce che la matrice del canale equivalente sia invariante per unità destra, un requisito per l'analisi dell'evoluzione dello stato dell'OAMP.
• Regola di Corrispondenza SNR: Il passo temporale di diffusione $t^*$ viene selezionato dinamicamente in base alla varianza dell'errore OAMP ($v_{post}^{orth}$):
  • Per Flow Matching: $t^* = \frac{1}{1 + \sqrt{v_{post}^{orth}}}$
  • Per DDIM: $t^* = \frac{1}{1 + v_{post}^{orth}}$
  • Man mano che le iterazioni procedono e la varianza dell'errore diminuisce, $t^*$ si sposta verso l'estremità "pulita" della traiettoria di diffusione.
• Senza Addestramento: Il framework non richiede il ri-addestramento dei modelli di diffusione; utilizza modelli pre-addestrati esistenti (ad es. su CelebA) come componenti plug-and-play.

3. Contributi Chiave

1. Framework Innovativo: Introduzione di Diffusion-OAMP, il primo framework che incorpora modelli di diffusione specificamente nell'algoritmo OAMP per il compito congiunto di compressione delle immagini e trasmissione wireless.
2. Flessibilità del Prior: Il metodo è compatibile con molteplici priori generativi. Gli autori lo istanziano sia con DDIM (Denoising Diffusion Implicit Models) che con Flow Matching, dimostrando versatilità.
3. Meccanismo di Corrispondenza SNR: Una regola innovativa per allineare la varianza del rumore interna dell'algoritmo OAMP con lo schema di rumore del modello di diffusione, consentendo un'integrazione senza soluzione di continuità senza fine-tuning.
4. Robustezza alla Distorsione del Canale: Il framework gestisce efficacemente il condizionamento scadente causato da canali di fading wireless realistici (3GPP TDL-A), dove i metodi tradizionali spesso falliscono.

4. Risultati Sperimentali

Gli autori hanno valutato il framework sul dataset CelebA (256x256) sotto vari rapporti di compressione ($\beta \in \{0.1, 0.4, 0.7\}$) e livelli di rumore ($\sigma \in \{0.05, 0.5\}$).

• Compressione Pura di Immagini (AWGN):
  • Diffusion-OAMP (DDIM) ha raggiunto il PSNR più alto, in particolare in regimi ad alto rumore ($\sigma=0.5$), superando OAMP+BM3D e DDRM.
  • Flow Matching ha mostrato una SSIM (somiglianza strutturale) superiore in alcuni casi e una convergenza più rapida (raggiungendo un PSNR vicino all'ottimale in ~6 NFE).
• Compressione Conjunta e Trasmissione Wireless (Canali in Fading):
  • Nei canali di fading realistici 3GPP TDL-A, la matrice di osservazione diventa gravemente mal condizionata.
  • Diffusion-OAMP ha mantenuto una ricostruzione stabile, superando significativamente le linee di base. Ad esempio, a bassa compressione ($\beta=0.1$) e alto rumore ($\sigma=0.5$), Diffusion-OAMP (DDIM) ha raggiunto 21.95 dB PSNR, mentre OAMP+BM3D è sceso a 16.20 dB.
  • I risultati visivi hanno mostrato una conservazione superiore dei dettagli facciali e dell'identità, evitando la sfocatura e gli artefatti osservati nei metodi di base.
• Convergenza:
  • L'algoritmo converge rapidamente, stabilizzandosi entro 3 iterazioni OAMP in tutti gli scenari testati.

5. Significato

• Collegamento tra IA Generativa e Comunicazioni: Questo lavoro dimostra un'applicazione pratica di modelli generativi su larga scala (Diffusione/Flow Matching) nelle comunicazioni del livello fisico, andando oltre il semplice ripristino delle immagini per affrontare problemi complessi di codifica congiunta sorgente-canale.
• Gestione di Problemi Mal Posizionati: Utilizzando un prior generativo appreso, il framework regolarizza il problema inverso in modo più efficace rispetto ai priori creati manualmente, rendendolo robusto contro distorsioni del canale severe e vincoli di bassa larghezza di banda.
• Efficienza: La natura "senza addestramento" dell'approccio significa che può sfruttare modelli generativi esistenti e all'avanguardia senza il costo computazionale di ri-addestrarli per condizioni di canale specifiche.
• Direzione Futura: Apre una nuova strada per la "Comunicazione Semantica" o la progettazione del "Livello Fisico basata sull'Apprendimento Profondo", dove modelli generativi avanzati fungono dalla logica centrale del ricevitore per i sistemi di comunicazione intelligenti di prossima generazione.