🤖 AI

Adaptive DNN Partitioning and Offloading in Heterogeneous Edge-Cloud Continuum

Cet article propose et valide un cadre de partitionnement et de délestage adaptatifs des réseaux de neurones profonds à travers un continuum hétérogène bord-nuage qui s'ajuste dynamiquement aux conditions d'exécution, démontrant des réductions significatives de la consommation énergétique et de la latence par rapport à des bases statiques sur un banc d'essai physique.

Auteurs originaux : Akuen Akoi Deng, Eimantas Butkus, Alfreds Lapkovskis, Praveen Kumar Donta

Publié 2026-05-12

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Akuen Akoi Deng, Eimantas Butkus, Alfreds Lapkovskis, Praveen Kumar Donta

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous avez un robot très intelligent mais fatigué (votre appareil IoT, comme une caméra intelligente ou un drone) qui doit résoudre un casse-tête complexe. Ce casse-tête est un Réseau de Neurones Profond (DNN), qui est essentiellement une recette massive à multiples étapes pour prendre des décisions, comme reconnaître un visage ou identifier une voiture.

Dans le passé, ce robot avait deux mauvaises options :

Tout faire lui-même : Il tente de résoudre tout le casse-tête seul. Il s'épuise (consomme trop de batterie) et cela prend beaucoup de temps.
Tout envoyer au cloud : Il envoie le casse-tête entier par courriel à un ordinateur ultra-rapide dans un centre de données éloigné. C'est rapide pour l'ordinateur, mais le robot passe beaucoup de temps à attendre que le courriel arrive et parte, et la connexion Internet peut être lente ou instable.

Le Problème : Le Plan « Statique »

La plupart des solutions actuelles utilisent un plan statique. C'est comme un chef qui décide : « Je vais hacher les légumes ici, cuire la sauce dans la cuisine du milieu et dresser l'assiette dans la cuisine finale », puis ne change jamais ce plan, même si Internet ralentit, si la cuisine du milieu devient encombrée ou si la batterie du robot faiblit. Cette approche rigide conduit souvent à un gaspillage d'énergie ou à des résultats lents.

La Solution : Le Chef « Adaptatif »

Les auteurs de cet article ont construit un cadre intelligent et adaptatif. Imaginez-le comme un gestionnaire de projet dynamique qui observe constamment l'équipe et modifie le plan en temps réel.

Voici comment leur système fonctionne, en utilisant l'analogie d'un restaurant à trois cuisines :

Les Trois Cuisines (Le Continuum) :
- La Périphérie (Raspberry Pi) : Un petit camion alimentaire alimenté par batterie. Il est proche du client mais possède une petite cuisinière et un carburant limité.
- Le Brouillard (Ordinateur portable) : Une cuisine locale de taille moyenne. Elle dispose d'une meilleure cuisinière mais n'est pas aussi puissante que la grande.
- Le Cloud (Ordinateur de bureau) : Une immense usine industrielle avec un four ultra-rapide et une puissance illimitée, mais elle est loin.
Le Découpage Dynamique :
Au lieu d'une recette fixe, ce système divise le casse-tête (le réseau de neurones) en couches. Il se demande : « Le camion alimentaire doit-il hacher les oignons, ou doit-il les envoyer à la cuisine locale ? »
- Il profile d'abord le casse-tête pour connaître la taille de chaque étape.
- Il mesure les routes (liens réseau) entre les cuisines pour voir si la circulation est dense.
- Il calcule le coût du carburant (énergie) et du temps (latence) pour chaque façon possible de répartir le travail.
La Réévaluation Constante :
C'est la partie magique. Le système ne choisit pas un plan une seule fois. Toutes les quelques minutes, il vérifie :
- « La route vers l'usine s'encombre-t-elle ? »
- « Le camion alimentaire manque-t-il de batterie ? »
- « La cuisine locale devient-elle trop chaude ? »
  Si les conditions changent, il réaffecte instantanément le travail. Peut-être qu'aujourd'hui le camion alimentaire fait le hachage, mais demain, parce que la route est dégagée, il envoie le hachage à l'usine pour économiser la batterie du camion.

Le Test Réel

Les auteurs n'ont pas seulement simulé cela sur un ordinateur ; ils ont construit un bac d'essai physique (un laboratoire réel) :

Périphérie : Un Raspberry Pi (le camion alimentaire).
Brouillard : Un Ordinateur portable (la cuisine locale).
Cloud : Un PC puissant avec une carte graphique haut de gamme (l'usine industrielle).

Ils ont testé cela avec trois célèbres « casse-têtes » (modèles d'IA) : VGG16 (un très complexe), AlexNet (complexité moyenne) et MobileNetV2 (un modèle léger conçu pour les petits appareils).

Les Résultats : Économie de Carburant et de Temps

Lorsqu'ils ont comparé leur gestionnaire « Adaptatif » à l'ancien plan « Statique », les résultats étaient impressionnants :

Économies d'Énergie : Le système adaptatif a économisé 27 % à 36 % d'énergie en plus. C'était comme si le camion alimentaire fonctionnait avec un seul réservoir d'essence beaucoup plus longtemps, car il ne faisait les travaux lourds que lorsque c'était absolument nécessaire et que les routes étaient dégagées.
Améliorations de Vitesse : Il a également rendu le processus 6 % à 23 % plus rapide. En évitant les embouteillages et en envoyant le travail à la bonne cuisine au bon moment, le plat final était servi plus tôt.

La Conclusion

L'article prouve que la flexibilité est meilleure que la rigidité. En observant constamment l'environnement et en déplaçant la charge de travail entre le petit appareil, l'ordinateur local et le grand cloud, vous pouvez économiser une quantité massive de batterie et obtenir des réponses plus rapidement. C'est une avancée majeure pour l'avenir des appareils intelligents qui doivent fonctionner sur batterie tout en prenant des décisions rapides et intelligentes.

Résumé Technique : Partitionnement et Délégation Adaptatifs des DNN dans un Continuum Hétérogène Bord-Nuage

Énoncé du Problème

La prolifération des dispositifs de l'Internet des Objets (IoT) a généré des volumes massifs de données nécessitant un traitement sophistiqué via des Réseaux de Neurones Profonds (DNN). Bien que l'exécution centralisée dans le cloud offre une puissance de calcul, elle introduit une latence prohibitive, des contraintes de bande passante et des risques de confidentialité pour les applications IoT en temps réel. À l'inverse, l'exécution complète des DNN sur des dispositifs de bord aux ressources limitées entraîne souvent une consommation énergétique élevée et des temps d'inférence lents.

Les solutions existantes pour la distribution de l'inférence à travers le continuum bord-cloud reposent généralement sur des stratégies de partitionnement statique. Ces approches définissent des points de séparation fixes pour les couches des réseaux neuronaux avant le déploiement, échouant à s'adapter aux dynamiques d'exécution telles que les fluctuations de la bande passante réseau, la mobilité des nœuds ou les charges de calcul variables. De plus, un écart significatif existe dans la littérature : la plupart des cadres proposés sont évalués dans des environnements simulés supposant des conditions réseau idéales, avec peu de validations sur du matériel physique. En outre, de nombreuses études réelles se concentrent principalement sur la latence ou le temps d'achèvement des tâches, négligeant souvent la consommation énergétique comme objectif d'optimisation principal.

Méthodologie

Les auteurs proposent un cadre de partitionnement et de délégation adaptatif conçu pour diviser dynamiquement les charges de travail d'inférence DNN à travers un continuum hétérogène à trois niveaux (Bord, Brouillard et Nuage) afin de minimiser la consommation énergétique tout en respectant des contraintes de latence strictes.

Architecture Système

Le cadre fonctionne sur un banc d'essai physique composé de :

Bord : Raspberry Pi 4 (ressources limitées).
Brouillard : Ordinateur portable (Intel Core i7).
Nuage : Ordinateur de bureau haute performance (GPU NVIDIA RTX 4070 Ti).

L'architecture permet des schémas de partitionnement où $i$ couches s'exécutent sur le bord, les couches $i+1$ à $j$ s'exécutent sur le brouillard, et les couches $j+1$ à $N-1$ s'exécutent sur le nuage.

Pipeline Algorithmique

Le cadre suit un pipeline en cinq étapes :

Profilage Hors Ligne : Avant l'exécution, le système profile le modèle pour générer deux tables de recherche :
- Tableau de Taille d'Activation : Enregistre la taille des tenseurs intermédiaires à chaque frontière de caractéristique pour estimer les coûts de communication.
- Tableau de Poids de Calcul Relatif : Attribue des fractions normalisées du travail total d'inférence à chaque couche sur la base d'une exécution unique, servant de référence stable pour l'échelle des mesures d'exécution.
Sondage de Lien à Deux Points : Pour estimer les conditions réseau sans surcharge lourde, le système transmet deux charges utiles de tailles contrastées ( $s_1, s_2$ ) à travers les sauts réseau. En moyennant les temps aller-retour, il modélise le lien comme $rtt(s) = \omega + s/\beta$ , dérivant ainsi la surcharge fixe ( $\omega$ ) et le débit effectif ( $\beta$ ).
Estimation des Séparations Candidats : Pour toute séparation candidate $(i, j)$ , le système prédit la latence et l'énergie de bout en bout. La latence est la somme des temps de calcul (dérivés des poids profilés et des vitesses des nœuds) et des temps de transfert (dérivés des modèles de lien). L'énergie est estimée en multipliant les temps de calcul spécifiques aux nœuds par des taux de puissance empiriques.
Recherche du Meilleur Candidat : Le système évalue toutes les paires de séparations valides. Les candidats sont filtrés pour s'assurer qu'ils respectent l'échéance de latence ( $L_{max}$ ) et ne performant pas moins bien qu'une base de référence statique. La séparation optimale minimise un score d'objectif pondéré :
$S(i, j) = w_{end}\frac{\hat{E}_{end}}{n_{end}} + w_{tot}\frac{\hat{E}_{tot}}{n_{tot}} + w_{lat}\frac{\hat{L}}{n_{lat}}$
où les poids privilégient la consommation énergétique du bord (0,6–0,9) par rapport à l'énergie totale du système et à la latence.
Orchestration Adaptative de l'Inférence Distribuée :
- Initialisation : Le système exécute une séparation de base et trois séparations « sonde » (lourde sur le bord, équilibrée, lourde sur le nuage) pour ajuster les taux de calcul par nœud et les modèles de lien.
- État Stable : Le système exécute la séparation actuelle sur une fenêtre d'inférences. Périodiquement, il réévalue l'environnement en resondant les liens et en réajustant les taux. Si un nouveau candidat améliore le score d'objectif d'au moins 3 % (ou si l'échéance de latence est violée), le système bascule vers la nouvelle partition. Si aucun meilleur candidat n'existe lors d'une violation de l'échéance, il revient à la base de référence statique.

Contributions Clés

L'article expose trois contributions principales :

Cadre Adaptatif : Un cadre novateur pour l'inférence DNN qui partitionne dynamiquement les charges de travail à travers un continuum hétérogène bord-cloud, privilégiant l'efficacité énergétique sans violer les contraintes de latence.
Banc d'Essai Physique : La construction et l'utilisation d'un banc d'essai fonctionnel à trois niveaux (Raspberry Pi, Ordinateur portable, Ordinateur de bureau) pour évaluer les stratégies de délégation verticale sur du matériel réel, répondant à la dépendance aux simulations dans les travaux antérieurs.
Évaluation Empirique : Des expériences réelles complètes utilisant trois CNN largement adoptés (VGG16, AlexNet, MobileNetV2), collectant des métriques d'énergie et de latence mesurées sur le matériel pour les configurations sur un seul dispositif, statiques et adaptatives.

Résultats

Le cadre a été évalué par rapport à deux bases de référence : l'exécution sur un seul dispositif et le partitionnement statique (distribution de charge fixe égale).

Réduction de l'Énergie : Le cadre adaptatif a réalisé des économies d'énergie significatives par rapport à la base de référence statique :
- VGG16 : Réduction de 35,82 % (de 5,69 J à 3,65 J).
- AlexNet : Réduction de 35,70 % (de 0,68 J à 0,43 J).
- MobileNetV2 : Réduction de 27,09 % (de 0,92 J à 0,67 J).
Réduction de la Latence : La latence de bout en bout a également été réduite :
- VGG16 : Réduction de 6,34 %.
- AlexNet : Réduction de 22,92 %.
- MobileNetV2 : Réduction de 14,20 %.
Observations : Pour MobileNetV2, le partitionnement statique a en fait augmenté la latence par rapport à l'exécution sur un seul dispositif en raison de la surcharge réseau ; le cadre adaptatif a réussi à atténuer cela en déplaçant le point de séparation. Les résultats montrent systématiquement que les réductions d'énergie dépassent les réductions de latence, reflétant la pondération des objectifs du cadre.

Importance et Revendications

L'article affirme que ses résultats confirment la supériorité du partitionnement adaptatif sur les méthodes statiques dans des environnements dynamiques et hétérogènes. En validant l'approche sur du matériel réel plutôt que sur simulation, le travail comble une lacune critique de la littérature concernant les performances pratiques des stratégies de délégation.

Les auteurs affirment que leur cadre minimise avec succès la consommation énergétique sur les dispositifs de bord aux ressources limitées sans violer les contraintes de latence en temps réel. Contrairement aux approches basées sur l'Apprentissage par Renforcement (RL) ou aux architectures complexes d'inférence parallèle, ce cadre repose sur une évaluation légère et périodique d'une seule fonction d'objectif pondérée, le rendant continuellement adaptable aux changements environnementaux tels que les fluctuations de bande passante réseau et les variations de charge des nœuds. Les résultats sont présentés comme comparables aux travaux de l'état de l'art en matière de réduction de la latence, mais avec un accent distinct sur l'efficacité énergétique, une métrique souvent négligée dans les études existantes sur le continuum hétérogène bord-cloud.