Résumé Technique : Inférence Fractionnée Adaptative à Latence Optimale pour la Collaboration Cloud-Edge-End Préservant la Confidentialité

1. Énoncé du Problème

Les terminaux de l'Internet des Objets (IoT) sont confrontés à un compromis critique lors du traitement de données sensibles (par exemple, des images médicales) : ils manquent de ressources de calcul pour exécuter des réseaux de neurones convolutifs (CNN) complets localement, mais le déchargement de données brutes ou de caractéristiques intermédiaires vers des serveurs cloud ou edge expose des informations sensibles. Bien que le chiffrement totalement homomorphe (FHE) permette de calculer sur des données chiffrées sans déchiffrement, le déploiement du FHE entièrement dans le cloud est prohibitif en termes de vitesse en raison de l'expansion du texte chiffré et des surcoûts de l'arithmétique homomorphe. Inversement, s'appuyer uniquement sur des serveurs edge est insuffisant en raison de leur capacité limitée par rapport au cloud.

Le problème central abordé par cet article est de déterminer où fractionner un CNN et comment distribuer le suffixe chiffré entre les niveaux edge et cloud afin de minimiser la latence de bout en bout tout en préservant strictement la confidentialité. Plus précisément, l'article cherche à résoudre le problème de la sélection d'une paire de fractionnement optimale (un point de fractionnement côté terminal et un point de terminaison côté edge) qui équilibre l'exécution en clair locale, les coûts de chiffrement, les délais de communication et les coûts d'exécution FHE distants.

2. Méthodologie

Architecture Système et Modèle de Menace

Le cadre proposé fonctionne sur une architecture à trois niveaux :

• Terminal (End Device) : Agit comme l'ancre de confiance. Il exécute le préfixe en clair initial du CNN, chiffre l'activation intermédiaire en utilisant le FHE (spécifiquement le schéma CKKS), et conserve la clé secrète localement. Il ne transmet jamais de données brutes ou de caractéristiques en clair.
• Serveur Edge : Le premier niveau externe. Il reçoit les activations chiffrées et exécute un segment continu du modèle sur les textes chiffrés.
• Serveur Cloud : Le niveau à haute capacité. Il achève le suffixe chiffré restant si l'edge n'effectue pas la terminaison de l'inférence.

Modèle de Menace : Les serveurs edge et cloud sont modélisés comme étant « honnêtes mais curieux » (honest-but-curious). Ils suivent le protocole fidèlement mais peuvent tenter d'inférer des informations privées à partir des textes chiffrés qu'ils traitent. Le cadre suppose l'absence de collusion entre les niveaux ; même si l'edge et le cloud combinent leurs observations, ils ne peuvent pas déchiffrer les données sans la clé secrète détenue exclusivement par le terminal.

Conception de Modèle Compatible avec le FHE

Pour permettre une évaluation homomorphe efficace, l'article remplace les fonctions d'activation ReLU standards par une fonction d'activation résiduelle quadratique : $\sigma(z) = (\alpha \cdot z)^2 + z$. Cela préserve une voie résiduelle linéaire tout en utilisant un polynôme de degré 2, ce qui est compatible avec le support de l'addition et de la multiplication du schéma CKKS. Le modèle est entraîné à partir de zéro avec cette activation pour garantir que la précision est maintenue dans le domaine chiffré.

Algorithme de Planification à Latence Optimale

Les auteurs formulent le déploiement comme un problème d'optimisation sous contraintes pour minimiser la latence totale $T_{tot}(q, e)$, où $q$ est le point de fractionnement côté terminal et $e$ est le point de terminaison côté edge. La latence totale est la somme de :

1. Exécution en Clair Locale ($T_{end}$) : Calculée sur la base des GFLOPS du terminal.
2. Chiffrement ($T_{enc}$) : Coût pour chiffrer l'activation de fractionnement.
3. Communication ($T_{comm}$) : Délais de transmission pour les textes chiffrés entre les niveaux, calculés sur la base de la taille de la charge utile (déterminée par les paramètres CKKS et le conditionnement SIMD) et des bandes passantes configurées des liaisons.
4. Exécution FHE Distante ($T_{edge}, T_{cloud}$) : Estimée à l'aide de densités de coût calibrées empiriquement (secondes par GFLOP) pour des groupes de couches spécifiques (par exemple, convolution+pooling, couches entièrement connectées) sur le matériel respectif.

Le planificateur prend en charge deux granularités :

• Niveau Convolution : Permet des points de fractionnement au niveau de couches de convolution individuelles.
• Niveau Bloc : Restreint les points de fractionnement aux limites de blocs de réseau complets ou de couches entièrement connectées.

Le système évalue toutes les paires $(q, e)$ réalisables sous des contraintes telles qu'une politique d'exposition maximale du modèle (limitant la fraction des paramètres du modèle sur le terminal) et une cohérence structurelle, en sélectionnant la paire qui minimise la latence.

3. Contributions Clés

1. Cadre de Fractionnement Préservant la Confidentialité : Une architecture novatrice où le terminal reste le seul détenteur de la clé secrète et des données en clair, tandis que les niveaux edge et cloud effectuent les calculs strictement sur des textes chiffrés FHE.
2. Planificateur Sensible à la Latence : Un modèle de coût unifié et un algorithnement d'optimisation qui considèrent conjointement l'exécution en clair, le chiffrement, la communication et les coûts d'exécution FHE hétérogènes à travers les niveaux edge et cloud.
3. Partitionnement Sensible à la Granularité : Le cadre prend en charge le fractionnement au niveau de la convolution et au niveau du bloc, démontrant que des fractionnements plus fins peuvent réduire considérablement la latence en exploitant mieux les ressources edge.
4. Implémentation de Prototype : Un prototype fonctionnel utilisant CKKS/OpenFHE sur un banc d'essai hybride (Raspberry Pi 4B pour le terminal, conteneurs Docker sur un serveur Xeon pour l'edge/cloud) avec des modèles basés sur VGG16.

4. Résultats Expérimentaux

Les expériences ont été menées sur les jeux de données CIFAR-10 et PathMNIST en utilisant une architecture VGG16 modifiée (SquareVGG16).

• Performance de Latence :

  • Le fractionnement au niveau de la convolution proposé a atteint une latence de bout en bout amortie de 1033,279 s/échantillon sur CIFAR-10 et 1023,429 s/échantillon sur PathMNIST.
  • Cela représente une accélération d'environ 12,9× par rapport à une référence FHE full-cloud et de 3,9× par rapport à une référence de fractionnement au niveau du bloc.
  • La référence FHE full-cloud souffrait d'une latence élevée (environ 13 357 s/échantillon sur CIFAR-10) en raison de l'exécution de l'intégralité du modèle à distance.

• Précision :

  • Le schéma collaboratif a atteint une précision de 88,53 % sur CIFAR-10 et 91,43 % sur PathMNIST.
  • Ces résultats correspondent exactement au modèle SquareVGG16 en clair (ou à 0,01 point de pourcentage près), confirmant que l'activation compatible FHE et l'inférence fractionnée ne dégradent pas les performances du modèle.

• Surcharge de Communication :

  • Le fractionnement au niveau de la convolution a engendré un volume de communication plus élevé (environ 276 Mo/échantillon) par rapport au fractionnement au niveau du bloc (141 Mo/échantillon) car le passage au cloud s'est produit plus tôt (après Conv. III-1 au lieu d'après le Bloc III). Cependant, la réduction du temps d'exécution FHE côté edge a compensé le coût de communication, résultant en une latence totale plus faible.

• Analyse de Sensibilité :

  • Le plan de fractionnement optimal (Bloc II sur le terminal, Conv. III-1 sur l'edge) est resté stable à travers diverses configurations de bande passante. Le plan n'a glissé plus profondément dans le niveau edge que lorsque le taux d'exécution FHE de l'edge approchait celui du cloud.

5. Signification et Revendications

L'article affirme que sa principale importance réside dans la démonstration que l'inférence fractionnée préservant la confidentialité peut être rendue optimale en termes de latence grâce à un partitionnement adaptatif. En traitant la sélection du point de fractionnement comme un problème d'optimisation conjoint impliquant le chiffrement, la communication et les coûts d'exécution FHE hétérogènes, le cadre comble le fossé entre la haute sécurité du FHE et les exigences de latence pratiques des applications IoT.

Les auteurs soulignent que leur travail fournit une solution de niveau système qui :

• Préserve la limite de confidentialité cryptographique du FHE full-cloud (aucune donnée en clair ne quitte le terminal) tout en réduisant drastiquement la latence.
• Valide que le fractionnement à grain fin (niveau convolution) est supérieur au fractionnement à grain grossier (niveau bloc) dans les environnements hétérogènes cloud-edge, même lorsque les coûts de communication augmentent.
• Offre un modèle de coût reproductible et calibré par des tests pour la recherche future en inférence distribuée chiffrée.

L'article conclut modestement, notant que l'implémentation actuelle est un prototype de recherche basé sur CPU pour l'inférence par lots non interactive, et non pour la prise de décision en temps réel, et que les travaux futurs se concentreront sur l'accélération matérielle et des familles de modèles plus larges.