🔢 mathematics

Knowledge Distillation Driven Semantic NOMA for Image Transmission with Diffusion Model

Cet article propose KDD-SemNOMA, un nouveau cadre de NOMA sémantique pour la transmission d'images multi-utilisateurs en sans fil qui intègre une architecture de codage adaptatif basée sur ConvNeXt, une stratégie de distillation de connaissances en deux étapes pour atténuer les interférences sans surcoût d'inférence, et une étape de raffinement basée sur un modèle de diffusion afin d'obtenir une reconstruction d'image de haute fidélité sous des conditions de canal diverses et difficiles.

Auteurs originaux : Qifei Wang, Zhen Gao, Shuo Sun, Zhijin Qin, Xiaodong Xu, Meixia Tao

Publié 2026-01-27

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Qifei Wang, Zhen Gao, Shuo Sun, Zhijin Qin, Xiaodong Xu, Meixia Tao

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous essayez d'envoyer une photo de haute qualité à un ami, mais que la connexion internet est catastrophique. C'est comme si vous criiez un message dans une pièce bondée et bruyante où plusieurs personnes parlent en même temps. Dans une communication traditionnelle, vous devriez décomposer la photo en minuscules bits numériques (comme des 0 et des 1) et les envoyer un par un. Si le bruit devient trop fort, les bits se perdent et la photo arrive sous la forme d'un désordre incompréhensible.

Ce document propose une méthode plus intelligente pour faire cela, spécifiquement pour un monde futur « 6G » où de nombreux utilisateurs tentent d'envoyer des photos à une tour centrale (la station de base) en même temps. Les auteurs appellent leur nouveau système KDD-SemNOMA.

Voici comment cela fonctionne, décomposé en trois étapes simples utilisant des analogies de la vie quotidienne :

1. Le crieur intelligent (Communication sémantique et adaptation au canal)

Au lieu d'envoyer des bits bruts, ce système envoie le « sens » ou l'« essence » de l'image (les caractéristiques sémantiques). C'est comme envoyer la description détaillée d'un tableau plutôt que les pixels eux-mêmes.

Cependant, envoyer ces descriptions est difficile quand la « pièce » est bruyante (mauvais temps ou interférences). Pour résoudre ce problème, le système utilise un traducteur spécialisé (un réseau neuronal basé sur ce qu'on appelle ConvNeXt).

L'analogie : Imaginez un traducteur qui ne se contente pas de parler la langue, mais qui écoute aussi le bruit de fond. Si la pièce devient venteuse (évanouissement de Rayleigh) ou bruyante (bruit), ce traducteur adapte instantanément sa façon de parler pour s'assurer que le message passe clairement. Il adapte son volume et son ton de manière dynamique pour lutter contre le bruit.

2. Le mentor et l'apprenti (Distillation de connaissances)

Le plus gros problème dans ce scénario est que tout le monde crie en même temps. Cela crée des « interférences », ce qui rend difficile pour le récepteur de distinguer qui a dit quoi.

Le problème : Entraîner un système pour décoder ces cris mélangés est difficile car le bruit provenant des autres utilisateurs perturbe le processus d'apprentissage.
La solution : Les auteurs utilisent une approche Enseignant-Élève.
- L'Enseignant : D'abord, ils entraînent un modèle « Enseignant » dans une pièce parfaite et calme où chacun parle l'un après l'autre (transmission orthogonale). L'Enseignant apprend parfaitement comment décrire les images sans aucune interférence.
- L'Élève : Ensuite, ils entraînent un modèle « Élève » pour travailler dans la pièce bruyante et bondée. Au lieu d'apprendre à partir de zéro, l'Élève observe l'Enseignant. L'Élève essaie d'imiter les « pensées » internes (les caractéristiques) et les prédictions de l'Enseignant.
- Le résultat : Même si l'Élève travaille dans une pièce bruyante, il apprend les « astuces » que l'Enseignant a utilisées dans la pièce calme. Cela permet à l'Élève de filtrer bien mieux le bruit et les interférences que s'il avait appris seul. Crucialement, une fois l'entraînement terminé, l'Enseignant est jeté, de sorte que le système final est rapide et ne nécessite pas de puissance de calcul supplémentaire.

3. Le restaurateur d'art (Raffinement par modèle de diffusion)

Même avec le traducteur intelligent et le mentor, la photo peut encore paraître un peu floue ou présenter quelques « parasites » parce que le canal était très mauvais.

L'analogie : Imaginez que la photo arrive ressemblant à un croquis avec quelques taches. Le système utilise ensuite un Artiste d'IA générative (un modèle de diffusion) pour la réparer.
Comment ça marche : Cet artiste ne fait pas que deviner ; il sait à quoi ressemble un « visage parfait » ou un « paysage parfait » parce qu'il a vu des millions d'images de haute qualité auparavant. Il prend le croquis flou, ajoute un peu de « bruit » (pour réinitialiser les taches), puis « débruite » lentement l'image pour la transformer en une image nette et haute définition.
La magie : Cette étape ne se contente pas de réparer les pixels ; elle restaure la sensation et les détails de l'image (comme la texture de la peau ou la netteté d'un œil) qui ont été perdus lors de la transmission.

Pourquoi est-ce important ?

Le document affirme qu'en combinant ces trois étapes, leur système peut envoyer des images à plusieurs utilisateurs simultanément sur un canal bruyant et encombré, et les récupérer avec un aspect presque parfait.

Meilleur que l'ancienne méthode : Les méthodes traditionnelles (comme l'envoi de bits séparément) échouent complètement lorsque la connexion est mauvaise (l'effet de falaise). Ce système se dégrade de manière progressive.
Meilleur que les autres méthodes d'IA : Il surpasse les autres méthodes d'IA qui tentent de faire la même chose car il utilise l'« Enseignant » pour apprendre plus vite et l'« Artiste » pour mieux corriger les détails.
Efficacité : Il atteint une haute qualité sans avoir besoin d'un super-ordinateur à l'extrémité de la réception pour effectuer le gros du travail pendant l'appel réel.

En résumé, le document présente un système qui agit comme un traducteur intelligent et adaptatif qui apprend d'un mentor parfait, puis engage un maître restaurateur d'art pour s'assurer que vos photos arrivent nettes, même lorsque la connexion internet est catastrophique.

Résumé Technique : KDD-SemNOMA pour la transmission d'images par distillation de connaissances et modèle de diffusion

Énoncé du Problème

L'article traite des défis de la transmission d'images sans fil multi-utilisateurs en liaison montante (uplink) dans les réseaux 6G, plus précisément dans le contexte du l'Accès Multiple Non-Orthogonal Sémantique (SemNOMA). Bien que la communication sémantique offre une efficacité de bande passante en transmettant des caractéristiques sémantiques plutôt que des bits bruts, les scénarios NOMA multi-utilisateurs introduisent des obstacles importants :

Conditions de canal dynamiques : Les performances se dégradent sous des conditions variables telles que le bruit blanc gaussien additif (AWGN) et l'évanouissement de Rayleigh (Rayleigh fading).
Interférence sémantique : Dans le NOMA, les signaux de plusieurs utilisateurs sont superposés, ce qui entraîne une interférence non orthogonale qui distord les caractéristiques sémantiques et réduit la fidélité au niveau des pixels.
Qualité perceptuelle : Le codage conjoint source-canal profond (DeepJSCC) traditionnel optimise souvent la distorsion au niveau des pixels (par exemple, l'MSE) mais ne parvient pas à maintenir une qualité perceptuelle élevée, en particulier dans des conditions de canal médiocres ou avec des taux de compression élevés.
Contraintes de ressources : Les solutions multi-utilisateurs existantes reposent souvent sur une allocation de ressources orthogonale, ce qui augmente la surcharge (overhead) à mesure que le nombre d'utilisateurs croît, ou manquent de stratégies robustes d'atténuation des interférences dans des contextes non orthogonaux.

Méthodologie

Les auteurs proposent KDD-SemNOMA, un cadre à deux étapes conçu pour améliorer à la fois la précision au niveau des pixels et la qualité perceptuelle pour la transmission d'images multi-utilisateurs.

1. Architecture Centrale : DeepJSCC basée sur ConvNeXt avec Module AF amélioré

La base est un réseau DeepJSCC basé sur l'architecture ConvNeXt, modifiée pour la transmission sémantique.

Module de Caractéristiques Adaptatives (AF) amélioré : Pour assurer la robustesse face aux canaux dynamiques, les auteurs introduisent un module AF-Module. Ce module prend comme entrée les informations de côté du canal (rapport signal sur bruit $\gamma$ , et paramètres d'évanouissement de Rayleigh amplitude $a$ et phase $\phi$ ). Il module dynamiquement les caractéristiques sémantiques via un masque adaptatif généré par un réseau de fusion, permettant au système de supprimer les composantes corrompues par le bruit et de mettre l'accent sur les caractéristiques robustes.
Différenciation des Utilisateurs : À l'émetteur, des plongements (embeddings) spécifiques à l'utilisateur sont concaténés avec les images d'entrée pour permettre au modèle de distinguer les utilisateurs malgré la superposition non orthogonale.

2. Première Étape : Distillation de Connaissances (KD-SemNOMA)

Pour atténuer l'écart de performance causé par l'interférence non orthogonale, les auteurs emploient une stratégie de Distillation de Connaissances (KD) :

Modèle Enseignant (Teacher Model) : Un modèle entraîné sur une transmission orthogonale (où les utilisateurs n'interfèrent pas entre eux, seul le bruit du canal existe). Ce modèle apprend des représentations sémantiques "sans interférence".
Modèle Étudiant (Student Model) : Le modèle SemNOMA réel, entraîné sur une transmission non orthogonale.
Mécanisme de Distillation : L'étudiant est guidé par l'enseignant à travers deux pertes spécifiques :
- Distillation d'Affinité de Caractéristiques (FA Distillation) : Aligne les matrices d'affinité spatiale des cartes de caractéristiques intermédiaires entre l'enseignant et l'étudiant, garantissant que l'étudiant apprenne les relations structurelles des caractéristiques sans interférence.
- Distillation de Prédiction Cross-Head (CrossKD Distillation) : Transfère les caractéristiques intermédiaires du décodeur de l'étudiant vers le décodeur de l'enseignant pour générer des prédictions "cross-head", comblant ainsi l'écart entre les objectifs supervisés et de distillation.
Efficacité : Lors de l'inférence, seul le modèle étudiant léger est utilisé, n'entraînant aucun surcharge de calcul supplémentaire par rapport à un SemNOMA standard.

3. Deuxième Étape : Raffinement par Modèle de Diffusion (KDD-SemNOMA)

Pour améliorer davantage la qualité perceptuelle et récupérer les détails fins perdus lors de la transmission, une seconde étape utilise un modèle de diffusion pré-entraîné :

Contraction d'Erreur : La reconstruction initiale ( $x_{init}$ ) issue de l'étape KD-SemNOMA est traitée comme une estimation grossière. Le cadre applique un processus de diffusion direct à $x_{init}$ , exploitant la propriété mathématique selon laquelle le processus de diffusion contracte l'erreur de prédiction associée à l'estimation initiale.
Diffusion Inverse : Un processus de diffusion inverse (utilisant l'échantillonnage DDIM) débruite itérativement l'état contracté, guidé par les priors génératifs du modèle de diffusion pré-entraîné. Cela transforme la sortie initiale en une image haute fidélité ( $x_0$ ) avec une texture et une cohérence sémantique améliorées.

Contributions Clés

Cadre de Transmission Sémantique Non Orthogonale : La proposition d'une architecture DeepJSCC basée sur ConvNeXt avec un module AF amélioré qui s'adapte dynamiquement aux canaux AWGN et de Rayleigh, assurant une transmission de caractéristiques robuste.
Distillation de Connaissances pour l'Atténuation des Interférences : L'intégration innovante d'un schéma de distillation enseignant-étudiant dans le cadre SemNOMA. En utilisant un enseignant orthogonal pour guider l'étudiant non orthogonal via l'affinité de caractéristiques et la prédiction cross-head, la méthode atteint des gains de PSNR significatifs (0,2–0,8 dB) sans augmenter la complexité de l'inférence.
Raffinement par Diffusion : Le développement d'une approche de reconstruction en deux étapes (KDD-SemNOMA) qui combine la précision au niveau des pixels de KD-SemNOMA avec les priors génératifs des modèles de diffusion. Cette étape cible spécifiquement l'amélioration de la qualité perceptuelle, récupérant efficacement les détails et atténuant les artefacts dans les environaux de faible SNR.

Résultats Expérimentaux

Des expériences approfondies ont été menées sur les jeux de données CIFAR-10 (basse résolution) et FFHQ-256 (visages haute résolution) sous des canaux AWGN et de fading de Rayleigh.

Fidélité au Niveau des Pixels (PSNR/SSIM) :
- Le KD-SemNOMA proposé surpasse les modèles de référence DeepJSCC-NOMA (basés sur ResNet) et les schémas traditionnels BPG+LDPC+QAM+SIC.
- Sous évanouissement de Rayleigh, le module AF amélioré fournit des améliorations de PSNR de 1 à 3 dB par rapport aux modèles de référence.
- La distillation de connaissances génère un gain de PSNR supplémentaire d'environ 0,2 à 0,8 dB par rapport au SemNOMA non distillé.
- La méthode démontre une "dégradation gracieuse" à faible SNR, évitant l'effet de chute brutale ("cliff effect") observé dans les schèmes de codage séparés traditionnels.
Qualité Perceptuelle (LPIPS/FID) :
- Le KDD-SemNOMA complet (incluant le raffinement par diffusion) surpasse nettement les méthodes à une seule étape et le raffinement basé sur les GAN (SemNOMA-CGAN) en termes de scores LPIPS et FID.
- Dans les régimes de faible SNR (par exemple, 0 dB), KDD-SemNOMA réduit les valeurs LPIPS et FID d'environ 23 % et 36 % par rapport aux méthodes basées sur les GAN, démontrant une capacité supérieure à récupérer les détails sémantiques et à éviter l'effondrement de mode (mode collapse).
- Les comparaisons visuelles confirment que KDD-SemNOMA préserve mieux les contours et les textures faciales que les méthodes concurrentes dans des conditions de canal sévères.

Signification et Revendications

L'article affirme que KDD-SemNOMA représente une avancée significative dans la communication sémantique multi-utilisateurs en traitant efficacement les doubles défis de l'atténuation des interférences et de l'amélioration de la qualité perceptuelle.

Évolutivité et Efficacité : Le cadre atteint des performances élevées sans augmenter la surcharge d'inférence (grâce à la stratégie de distillation) et réduit la surcharge de transmission par rapport aux schèmes orthogonaux (NOMA vs OMA).
Robustesse : Le système s'avère hautement robuste à travers diverses conditions de canal (AWGN et Rayleigh) et des taux de compression variés, ce qui le rend adapté aux scénarios 6G à bande passante limitée.
Supériorité Perceptuelle : En intégrant les modèles de diffusion, ce travail dépasse les métriques de distorsion traditionnelles, offrant une récupération d'image haute fidélité qui s'aligne mieux avec la perception visuelle humaine, même dans des conditions de canal extrêmement médiocres.

Les auteurs concluent que leur approche comble efficacement le fossé entre la précision au niveau des pixels et la qualité perceptuelle, offrant une solution viable pour la transmission d'images multi-utilisateurs de haute qualité et évolutive pour les futurs réseaux 6G.