Résumé Technique : Adaptation de Domaine sous Contraintes de Réseaux Sans Fil

Énoncé du Problème

Le déploiement de modèles fondés sur les données dans les réseaux sans fil 6G fait face à des défis importants dus aux changements fréquents de distribution causés par le dynamisme environnemental (ex. : mobilité des utilisateurs, modèles de canaux, modèles de trafic). Bien que l'Adaptation de Domaine Non Supervisée (UDA) offre un mécanisme pour adapter des modèles d'un domaine source étiqueté vers un domaine cible non étiqueté sans étiquetage de terrain coûteux, les pipelines d'UDA sont intrinsèquement plus complexes que l'entraînement sur une tâche unique.

Le problème central abordé est de savoir si les bénéfices de l'UDA justifient ses surcoûts de calcul et d'optimisation supplémentaires du point de vue de l'énergie. Plus précisément, les auteurs étudient :

1. L'UDA entraîne-t-elle un coût énergétique plus élevé que l'entraînement à partir de zéro (Classification Indépendante, IC) ?
2. Comment le compromis entre la consommation d'énergie et les coûts d'étiquetage se compare-t-il entre l'UDA et le réentraînement ?
3. Sous quelles conditions (spécifiquement le nombre de domaines cibles) l'UDA devient-elle le choix le plus « vert » (le plus économe en énergie) ?

Cette interrogation est critique pour la 6G, où les modèles doivent être légers, supporter un réentraînement rapide et s'aligner sur les objectifs de durabilité, bien que la littérature existante manque de comparaisons empiriques de la consommation d'énergie de l'UDA par rapport au réentraînement standard sur des séries temporelles.

Méthodologie

1. Estimation de l'Empreinte Énergétique et Carbone

L'étude quantifie la consommation d'énergie sur l'ensemble du cycle de vie de l'IA (collecte de données, prétraitement, entraînement, validation, inférence et surveillance). L'énergie ($E$) est mesurée en kWh et convertie en empreinte carbone ($CF$) en utilisant la formule :
$$CF = CI \times PUE \times E$$
où $CI$ est l'intensité carbone du réseau local et $PUE$ est l'efficacité énergétique des infrastructures (Power Usage Effectiveness). Des outils comme CodeCarbon sont utilisés pour une comptabilité de bout en bout.

2. Modèles de Coût Comparatifs

Les auteurs définissent trois stratégies pour adapter un modèle source ($S$) à $N$ domaines cibles ($T_1, \dots, T_N$) :

• Classification Indépendante (IC) : Un modèle supervisé distinct est entraîné à partir de zéro pour chaque domaine cible. Cela entraîne un coût d'étiquetage ($E_{label}$) et un coût de calcul complet pour chaque domaine.
• UDA – Adaptation Séquentielle (UDA-S) : Le modèle source est entraîné une seule fois. Il est ensuite adapté indépendamment à chaque domaine cible sans étiquettes.
• UDA – Adaptation Conjointe Multi-Cibles (UDA-J) : Le modèle source est adapté une seule fois à tous les $N$ domaines cibles simultanément lors d'une seule exécution conjointe.

3. Analyse du Point de Bascule

La contribution analytique centrale est la dérivation du nombre de cibles de bascule ($N^*$), défini comme le nombre minimum de $N$ où une stratégie UDA devient plus efficace sur le plan énergétique que l'IC.

• Pour UDA-S : $N^*_S = \frac{E_{source}}{E_{ind} - E_{adapt}}$
• Pour UDA-J : $N^*_J = \frac{E_{source} + E_{adapt,joint}}{E_{ind}}$

Où $E_{source}$ est le coût de l'entraînement du modèle source, $E_{ind}$ est le coût de l'entraînement indépendant par domaine, et $E_{adapt}$ est le coût de l'adaptation.

4. Configuration Expérimentale

• Jeux de Données : En raison de l'absence de jeux de données de séries temporelles UDA sans fil en open-source, les auteurs ont utilisé des benchmarks provenant de domaines adjacents présentant des changements de distribution similaires : Reconnaissance d'Activités Humaines (HAR, HHAR, WISDM), Mouvements Sportifs/Vie Quotidienne, et Diagnostic de Défaillance Mécanique (CWRU).
• Algorithmes : L'étude compare diverses approches UDA (alignement adversaire, minimisation de la divergence, apprentissage de représentations fortes) contre une base InceptionTime.
• Contraintes : Pour garantir une comparaison équitable, un budget de temps fixe a été imposé pour l'optimisation des hyperparamètres et l'entraînement de toutes les méthodes, simulant des contraintes de déploiement réalistes où les ressources sont limitées.
• Métriques : La consommation d'énergie (kWh) et la précision de la classification ont été mesurées par étape de pipeline (prétraitement, réglage, entraînement, prédiction, scoring).

Résultats Clés

1. Distribution de l'Énergie du Pipeline

L'étape de réglage (recherche d'hyperparamètres) domine la consommation d'énergie, représentant la majeure partie du coût total et de la variance, suivie par l'étape d'entraînement. Le prétraitement et l'inférence sont négligeables en comparaison (ordres de grandeur inférieurs).

2. Efficacité Algorithmique

• Énergie la plus basse : Inception-DANN, Raincoat et CoDATS ont démontré la consommation d'énergie médiane la plus faible (inférieure à $10^{-2}$ kWh).
• Forte Variance : CoTMix a présenté une forte variance dans la convergence, entraînant un large écart interquartile dans l'utilisation de l'énergie.
• Compromis : Sous le budget contraint, Raincoat offrait le meilleur équilibre entre faible coût et robustesse de l'exactitude, tandis qu'InceptionRain offrait la meilleure précision parmi les méthodes UDA basées sur Inception.

3. Phénomène de Bascule

L'analyse révèle que l'UDA devient efficace énergétiquement avec un nombre remarquablement bas de domaines cibles :

• Adaptation Conjointe (UDA-J) : Atteint le point de bascule à $N \approx 1.0 - 1.4$ domaines cibles. Cela implique qu'adapter à un seul domaine cible conjoint est souvent suffisant pour amortir le coût d'entraînement de la source.
• Adaptation Séquentielle (UDA-S) : Atteint le point de bascule à $N \approx 1 - 2$ domaines cibles.
• Impact des Coûts d'Étiquetage : Lorsque le coût de l'étiquetage ($E_{label}$) est pris en compte, la courbe de la Classification Indépendante (IC) diverge brutalement. Dans les scénarios où les étiquettes cibles sont indisponibles ou coûteuses, l'UDA est strictement préférable dès le premier domaine cible ($N \ge 1$).

Signification et Revendications

L'article affirme fournir la première investigation empirique de l'efficacité énergétique de l'UDA par rapport au réentraînement pour la classification de séries temporelles dans des contextes réalistes. Ses principales contributions sont :

1. Définition du Régime « Vert » : L'étude établle que l'UDA n'est pas intrinsèquement plus coûteuse ; elle devient plutôt le choix le plus « vert » presque immédiatement (après 1 à 2 domaines cibles) par rapport à l'entraînement à partir de zéro, surtout lorsque les coûts d'étiquetage sont considérés.
2. Directives Opérationnelles : Elle offre des directives pratiques pour le déploiement 6G, suggérant que l'Adaptation Conjointe Multi-Cibles (UDA-J) doit être privilégiée dès que possible, car elle atteint les seuils d'efficacité plus tôt que l'adaptation séquentielle.
3. Durabilité de l'IA Sans Fil : Ce travail souligne que pour que la 6G atteigne ses objectifs de durabilité, les modèles d'IA doivent être évalués non seulement sur leur précision, mais aussi sur l'empreinte énergétique de l'ensemble de leur cycle de vie, particulièrement dans des environnements dynamiques où un réentraînement fréquent est nécessaire.

Les auteurs maintiennent une position modeste, notant que leurs conclusions sont basées sur des benchmarks spécifiques et des budgets contraints. Ils suggèrent que les travaux futurs devraient s'étendre à des ensembles de données plus diversifiés et développer des métriques de validation non supervisées pour réduire davantage les coûts de réglage.