Resumen Técnico: Destilación de Conocimiento para la Transmisión de Imágenes mediante NOMA Semántico con Modelo de Difusión

Planteamiento del Problema

El artículo aborda los desafíos de la transmisión de imágenes inalámbrica multiusuario en el enlace ascendente (uplink) para redes 6G, específicamente en el contexto de la Comunicación No Ortogonal Semántica (SemNOMA). Si bien la comunicación semántica ofrece eficiencia de ancho de banda al transmitir características semánticas en lugar de bits brutos, los escenarios NOMA multiusuario introducen obstáculos significativos:

1. Condiciones de Canal Dinámicas: El rendimiento se degrada bajo condiciones variables como el Ruido Blanco Gaussiano Aditivo (AWGN) y el desvanecimiento de Rayleigh.
2. Interferencia Semántica: En NOMA, las señales de múltiples usuarios se superponen, lo que genera una interferencia no ortogonal que distorsiona las características semánticas y reduce la fidelidad a nivel de píxel.
3. Calidad Perceptual: El Deep Joint Source-Channel Coding (DeepJSCC) tradicional suele optimizar la distorsión a nivel de píxel (por ejemplo, MSE), pero no logra mantener una alta calidad perceptual, especialmente bajo condiciones de canal deficientes o altas tasas de compresión.
4. Restricciones de Recursos: Las soluciones multiusuario existentes suelen depender de la asignación de recursos ortogonales, lo que aumenta la sobrecarga a medida que crece el número de usuarios, o carecen de estrategias robustas de mitigación de interferencias en entornos no ortogonales.

Metodología

Los autores proponen KDD-SemNOMA, un marco de dos etapas diseñado para mejorar tanto la precisión a nivel de píxel como la calidad perceptual para la transmisión de imágenes multiusuario.

1. Arquitectura Central: DeepJSCC basado en ConvNeXt con Módulo AF Mejorado

La base es una red DeepJSCC basada en la arquitectura ConvNeXt, modificada para la transmisión semántica.

• Módulo de Característica Adaptativa (AF) Mejorado: Para garantizar la robustez frente a canales dinámicos, los autores introducen un Módulo AF. Este módulo toma como entrada información del lado del canal (Relación Señal-Ruido $\gamma$, y parámetros de amplitud $a$ y fase $\phi$ del desvanecimiento de Rayleigh). El módulo modula dinámicamente las características semánticas utilizando una máscara adaptativa generada mediante una red de fusión, lo que permite al sistema suprimir los componentes corrompidos por el ruido y enfatizar las características robustas.
• Diferenciación de Usuario: En el transmisor, las incrustaciones (embeddings) específicas de cada usuario se concatenan con las imágenes de entrada para permitir que el modelo distinga entre usuarios a pesar de la superposición no ortogonal.

2. Etapa Uno: Destilación de Conocimiento (KD-SemNOMA)

Para mitigar la brecha de rendimiento causada por la interferencia no ortogonal, los autores emplean una estrategia de Destilación de Conocimiento (KD):

• Modelo Maestro (Teacher): Un modelo entrenado en transmisión ortogonal (donde los usuarios no interfieren entre sí, solo existe el ruido del canal). Este modelo aprende representaciones semánticas "libres de interferencia".
• Modelo Estudiante (Student): El modelo SemNOMA real entrenado en transmisión no ortogonal.
• Mecanismo de Destilación: El estudiante es guiado por el maestro a través de dos pérdidas específicas:
  • Destilación de Afinidad de Características (FA): Alinea las matrices de afinidad espacial de los mapas de características intermedios entre el maestro y el estudiante, asegurando que el estudiante aprenda las relaciones estructurales de las características libres de interferencia.
  • Destilación de Predicción de Cabezal Cruzado (CrossKD): Transfiere características intermedias del decodificador del estudiante al decodificador del maestro para generar predicciones de "cabezal cruzado", cerrando la brecha entre los objetivos supervisados y de destilación.
• Eficiencia: Durante la inferencia, solo se utiliza el modelo estudiante, que es ligero, por lo que no incurre en sobrecarga computacional adicional en comparación con el SemNOMA estándar.

3. Etapa Dos: Refinamiento Basado en Modelos de Difusión (KDD-SemNOMA)

Para mejorar aún más la calidad perceptual y recuperar los detalles finos perdidos durante la transmisión, una segunda etapa utiliza un Modelo de Difusión preentrenado:

• Contracción de Error: La reconstrucción inicial ($x_{init}$) de la etapa KD-SemNOMA se trata como una estimación gruesa. El marco aplica un proceso de difusión hacia adelante a $x_{init}$, aprovechando la propiedad matemática de que el proceso de difusión contrae el error de predicción asociado con la estimación inicial.
• Difusión Inversa: Un proceso de difusión inversa (utilizando el muestreo DDIM) denosa iterativamente el estado contraído, guiado por los sesgos generativos del modelo de difusión preentrenado. Esto transforma la salida inicial en una imagen de alta fidelidad ($x_0$) con texturas y coherencia semántica mejoradas.

Principales Contribuciones

1. Marco de Transmisión Semántica No Ortogonal: La propuesta de una arquitectura DeepJSCC basada en ConvNeXt con un Módulo AF mejorado que se adapta dinámicamente tanto a canales AWGN como de desvanecimiento de Rayleigh, garantizando una transmisión de características robusta.
2. Destilación de Conocimiento para la Mitigación de Interferencias: La integración innovadora de un esquema de destilación maestro-estudiante en el marco SemNOMA. Al utilizar un maestro ortogonal para guiar al estudiante no ortogonal mediante afinidad de características y predicción de cabezal cruzado, el método logra ganancias significativas de PSNR (0.2–0.8 dB) sin aumentar la complejidad de la inferencia.
3. Refinamiento de Imagen Mejorado por Difusión: El desarrollo de un enfoque de reconstrucción de dos etapas (KDD-SemNOMA) que combina la precisión a nivel de píxel de KD-SemNOMA con los sesgos generativos de los modelos de difusión. Esta etapa se dirige específicamente a las mejoras de la calidad perceptual, recuperando eficazmente los detalles y mitigando los artefactos en entornos de baja SNR.

Resultados Experimentales

Se realizaron experimentos exhaustivos en los conjuntos de datos CIFAR-10 (baja resolución) y FFHQ-256 (imágenes faciales de alta resolución) bajo canales AWGN y de desvanecimiento de Rayleigh.

• Fidelidad a Nivel de Píxel (PSNR/SSIM):
  • El KD-SemNOMA propuesto supera al DeepJSCC-NOMA de referencia (basado en ResNet) y a los esquemas tradicionales de BPG+LDPC+QAM+SIC.
  • Bajo desvanecimiento de Rayleigh, el Módulo AF mejorado proporciona mejoras de PSNR de 1 a 3 dB sobre los modelos de referencia.
  • La destilación de conocimiento aporta una ganancia adicional de PSNR de aproximadamente 0.2–0.8 dB sobre el SemNOMA sin destilación.
  • El método demuestra una "degradación gradual" en SNR baja, evitando el "efecto de acantilado" observado en los esquemas de codificación separados tradicionales.
• Calidad Perceptual (LPIPS/FID):
  • El KDD-SemNOMA completo (incluyendo el refinamiento por difusión) supera significativamente a los métodos de una sola etapa y al refinamiento basado en GAN (SemNOMA-CGAN) en términos de puntuaciones LPIPS y FID.
  • En regímenes de baja SNR (por ejemplo, 0 dB), KDD-SemNOMA reduce los valores de LPIPS y FID en aproximadamente un 23% y 36% respectivamente en comparación con los métodos basados en GAN, demostrando una capacidad superior para recuperar detalles semánticos y evitar el colapso de modo.
  • Las comparaciones visuales confirman que KDD-SemNOMA preserva mejor los contornos faciales y los detalles de textura que los métodos competidores bajo condiciones de canal severas.

Significado y Reivindicaciones

El artículo afirma que KDD-SemNOMA representa un avance significativo en la comunicación semántica multiusuario al abordar eficazmente los desafíos duales de la mitigación de interferencias y la mejora de la calidad perceptual.

• Escalabilidad y Eficiencia: El marco logra un alto rendimiento sin aumentar la sobrecarga de inferencia (debido a la estrategia de destilación) y reduce la sobrecarga de transmisión en comparación con los esquemas ortogonales (NOMA vs. OMA).
• Robustez: Se demuestra que el sistema es altamente robusto a través de diversas condiciones de canal (AWGN y Rayleigh) y tasas de compresión, lo que lo hace adecuado para escenarios 6G con restricciones de ancho de banda.
• Superioridad Perceptual: Al integrar modelos de difusión, el trabajo va más allá de las métricas de distorsión tradicionales, entregando una recuperación de imágenes de alta fidelidad que se alinea mejor con la percepción visual humana, incluso en condiciones de canal extremadamente pobres.

Los autores concluyen que su enfoque cierra eficazmente la brecha entre la precisión a nivel de píxel y la calidad perceptual, ofreciendo una solución viable para la transmisión de imágenes multiusuario de alta calidad y escalable en las futuras redes 6G.