💻 computer science

Exploring CKKS Parameter Trade-offs for Privacy-Preserving Personalized Federated Learning

Cet article introduit pFedCKKS, un cadre qui intègre le schéma de chiffrement homomorphe CKKS à l'apprentissage fédéré personnalisé et fournit le premier guide systématique pour la sélection de ses paramètres afin d'équilibrer la confidentialité, la précision et l'efficacité computationnelle.

Auteurs originaux : Kamolchanok Saengtong, Phanwadee Sinthong, Norrathep Rattanavipanon

Publié 2026-06-09

📖 4 min de lecture☕ Lecture pause café

CC BY 4.0

Auteurs originaux : Kamolchanok Saengtong, Phanwadee Sinthong, Norrathep Rattanavipanon

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez un groupe de médecins, chacun travaillant dans un hôpital différent, qui souhaitent construire une IA super intelligente pour diagnostiquer des maladies. Ils possèdent tous des données de patients, mais les lois sur la protection de la vie privée (comme le RGPD) et les règles éthiques signifient qu'ils ne peuvent pas envoyer les dossiers médicaux réels de leurs patients vers un serveur central.

L'Apprentissage Fédéré (Federated Learning - FL) est la solution qu'ils utilisent : au lieu de partager les données, ils partagent les « leçons apprises » (mises à jour du modèle) de leur IA locale. Cependant, il y a un pièment : même ces « leçons » peuvent parfois être rétro-ingéniérées pour révéler des détails privés sur les patients.

L'Apprentissage Fédéré Personnalisé (Personalized Federated Learning - PFL) va encore plus loin. Dans le FL standard, tout le monde finit avec exactement le même modèle d'IA. Mais dans le PFL, chaque médecin obtient un modèle adapté spécifiquement à la mixité de ses propres patients, tout en apprenant du groupe.

Le Problème : Le Serveur « Honnête mais Curieux »

Dans cette configuration, il y a un serveur central qui coordonne l'entraînement. L'article suppose que ce serveur est « honnête mais curieux ». Il suit les règles et ne vole pas de données, mais il est curieux. Il pourrait essayer de jeter un coup d'œil aux « leçons » envoyées par les médecins pour découvrir des détails privés sur leurs patients.

La Solution : L'« Enveloppe Magique » (CKKS)

Pour empêcher le serveur de jeter un coup d'œil, les auteurs introduisent une « Enveloppe Magique » appelée CKKS (un type de chiffrement homomorphe).

Comment cela fonctionne : Imaginez que vous puissiez mettre une lettre à l'intérieur d'une boîte transparente verrouillée. Vous pouvez effectuer des calculs mathématiques sur l'extérieur de la boîte (additionner ou multiplier le contenu) sans jamais ouvrir la boîte. Le serveur agrège ces boîtes verrouillées. Seuls les médecins possèdent la clé pour ouvrir la boîte finale et lire le résultat.
Pourquoi CKKS ? La plupart des chiffrements sont excellents pour les nombres entiers (comme compter des pommes), mais les modèles d'IA utilisent des décimales (comme 3,14159). CKKS est spécial car il peut effectuer des calculs sur ces nombres décimaux alors qu'ils sont encore enfermés dans la boîte.

La Grande Découverte : Les Paramètres « Boucle d'Or »

La principale contribution de l'article est de comprendre comment configurer ces Enveloppes Magiques. Les auteurs ont découvert que la « taille » du verrou (appelée primes) crée un compromis :

Petits Verrous : Rapides à verrouiller/déverrouiller et légers à envoyer via Internet, mais les calculs à l'intérieur deviennent « flous » (faible précision). L'IA pourrait s'embrouiller et commettre des erreurs.
Enormes Verrous : Très précis mathématiquement, mais ils sont lourds, lents à traiter et occupent beaucoup de bande passante Internet.

Les auteurs ont testé cela avec trois stratégies d'IA différentes (FedFinetune, FedPer, et Ditto) sur trois types de données différents (lettres manuscrites, visages de célébrités et sentiments de tweets).

Le résultat du « Point d'Équilibre » :
Ils ont découvert qu'on n'a pas besoin des verrous les plus grands ou les plus lourds pour obtenir de bons résultats.

Si le verrou est trop petit (18 bits), l'IA se casse et fonctionne très mal.
Si le verrou est énorme (plus de 38 bits), l'IA fonctionne parfaitement, mais elle est si lente et lourde qu'elle est impraticable pour une utilisation réelle.
La Recommandation : Ils ont trouvé un réglage « Boucle d'Or » : des verrous extérieurs de 28 bits et des verrous intérieurs de 26 bits.

À ce réglage spécifique :

L'IA est aussi précise que si aucun chiffrement n'avait été utilisé.
La vitesse et l'utilisation d'Internet sont suffisamment faibles pour être pratiques.

Ce qu'il faut retenir

L'article présente un cadre appelé pFedCKKS. Il prouve que vous pouvez avoir le beurre et l'argent du beurre : vous pouvez entraîner des modèles d'IA personnalisés sur des données privées sans que le serveur central ne voie jamais les données brutes, et sans ralentir excessivement le système.

La leçon clé pour quiconque construit ce système est la suivante : Ne choisissez pas simplement les nombres les plus grands et les plus sûrs que vous puissiez trouver. Au lieu de cela, choisissez les nombres spécifiques « 28 et 26 » que les auteurs ont trouvés, qui équilibrent parfaitement la sécurité, la vitesse et la précision pour ce travail spécifique.

Résumé Technique : Exploration des compromis de paramètres CKKS pour l'apprentissage fédéré personnalisé respectant la vie privée

Énoncé du problème

L'apprentissage fédéré personnalisé (PFL - Personalized Federated Learning) permet aux clients d'entraîner collaborativement des modèles adaptés à leurs données locales et hétérogènes sans partager de jeux de données bruts. Cependant, le PFL standard reste vulnérable aux attaques par inférence de la part de serveurs « honnêtes mais curieux », qui peuvent reconstruire des données d'entraînement privées ou inférer des propriétés sensibles à partir des mises à jour de modèles échangées. Bien que le chiffrement homomorphe (HE), et plus précisément le schéma CKKS, offre une solution en permettant l'agrégation côté serveur sur des mises à jour chiffrées, son application au PFL manque de directives systématiques. Les praticiens sont confrontés à une lacune critique : il n'existe pas de cadre de référence pour configurer les paramètres CKKS (tels que les modules de texte chiffré) qui équilibre les demandes concurrentes de confidentialité, de précision de déchiffrement et d'efficacité de calcul et de communication dans les déploiements de PFL.

Méthodologie

Les auteurs introduisent pFedCKKS, un cadre générique qui intègre le schéma HE CKKS dans les flux de travail de PFL. La méthodologie comprend :

Modèle de système et de menace : Le cadre opère dans un environnement de type "cross-silo" avec un serveur honnête mais curieux et des clients honnêtes. Un leader de confiance (ou un tiers) génère les clés CKKS, distribuant la clé publique et les clés d'évaluation au serveur, et la clé secrète aux clients.
Intégration du flux de travail : Le processus d'entraînement implique que les clients déchiffrent les paramètres globaux, effectuent des mises à jour locales de PFL (en utilisant les algorithmes FedFinetune, FedPer ou Ditto), chiffrent les paramètres globaux mis à jour, et les envoient au serveur. Le serveur effectue une agrégation pondérée homomorphe de ces textes chiffrés sans déchiffrement.
Analyse des paramètres : Les auteurs dérivent les contraintes des paramètres CKKS sous un niveau de sécurité de 128 bits. Ils identifient que pour le contexte du PFL (nécessitant une seule multiplication homomorphe), le problème se réduit à la sélection de deux valeurs : le premier premier ( $q_1$ $q_{1}$ ) et le second premier ( $q_0 = q_2$ $q_{0} = q_{2}$ ).
- $N = 8192$ (fixé pour la sécurité).
- $L = 1$ (profondeur multiplicative).
- Contraintes : $q_0 > q_1$ et $\log_2(q_0) + \log_2(q_1) + \log_2(q_2) < 218$ .
Évaluation empirique : Le cadre est implémenté en utilisant le framework de FL Flower et la bibliothèque TenSEAL. Les expériences sont menées sur trois jeux de données (FEMNIST, CelebA, Sentiment140) à travers trois algorithmes de PFL. L'étude fait varier systématiquement la taille en bits des premiers intérieur et extérieur pour mesurer :
- Communication : Utilisation de la bande passante et surcharge par rapport aux bases non chiffrées.
- Calcul : Surcharge de temps d'exécution (chiffrement/déchiffrement vs entraînement local).
- Précision : Erreur au niveau des paramètres (norme $L_1$ ) et précision de l'exactitude du modèle.

Principales contributions

Cadre pFedCKKS : Le premier cadre générique intégrant CKKS au PFL, démontrant sa compatibilité avec les principales stratégies de PFL (FedFinetune, FedPer et Ditto).
Guide systématique des paramètres : Une dérivation des contraintes complètes des paramètres CKKS pour le PFL, réduisant la complexité de sélection au choix des seuls premiers intérieur et extérieur.
Analyse des compromis : Une évaluation empirique approfondie révélant le compromis inhérent entre précision et coût. L'étude identifie que le premier intérieur est le facteur dominant pour la précision du déchiffrement, tandis que les deux premiers influencent de manière significative les coûts de communication et de calcul.
Directives pratiques : L'identification d'un point de fonctionnement optimal qui équilibre efficacité et précision.

Résultats

Communication : La surcharge de communication augmente linéairement avec la taille des deux premiers (intérieur et extérieur). Par exemple, augmenter le premier intérieur de 18 à 38 bits (avec un premier extérieur fixe de 40 bits) a entraîné une surcharge supplémentaire de plus de 100 %. Le choix de l'algorithme de PFL impacte également la bande passante absolue ; FedPer a considérablement réduit la surcharge sur FEMNIST en transmettant uniquement les couches de base partagées, mais l'a augmentée sur Sentiment140 où les couches partagées constituaient la quasi-totalité du modèle.
Calcul : La surcharge de calcul est significative uniquement lorsque les opérations CKKS (chiffrement/déchiffrement) dominent le temps d'entraînement local. Dans les configurations avec de petits modèles (ex: CelebA) ou de petits sous-ensembles chiffrés (FedPer sur FEMNIST), l'entraînement local masque la surcharge CKKS, entraînant des augmentations de temps d'exécution total négligeables. Cependant, lorsque les opérations CKKS étaient dominantes, des premiers plus grands entraînaient des temps d'exécution plus longs.
Précision :
- Premier intérieur : C'est le facteur critique pour la précision. Un premier intérieur de 18 bits a provoqué une dégradation sévère de la précision (jusqu'à 80 % de chute dans certains cas) en raison de l'instabilité numérique et du dépassement de capacité (overflow). Augmenter le premier intérieur à 22 bits a amélioré la précision, mais montrait toujours des baisses observables. 26 bits ou plus ont maintenu de manière constante l'exactitude du modèle comparable à la base non chiffrée.
- Premier extérieur : A eu un impact négligeable tant sur la précision des paramètres que sur l'exactitude du modèle.
- Convergence : Les modèles avec des premiers intérieurs de 22 bits ont montré une dégradation de l'exactitude après un entraînement prolongé (accumulation de bruit), tandis que les configurations de 26 bits et plus convergeaient de manière similaire à la base de référence.

Signification et recommandations

L'article conclut que bien que CKKS permette un PFL respectant la vie privée, une sélection de paramètres naïve peut entraîner des coûts prohibitifs ou une exactitude de modèle inutilisable. Les auteurs fournissent une directive concrète pour les praticiens :

Configuration recommandée : Une configuration de module de texte chiffré de (28, 26, 28) (premier extérieur de 28 bits, premier intérieur de 26 bits).
Justification : Cette configuration minimise les surcharges de communication et de calcul tout en garantissant que l'exactitude du modèle reste comparable à la base de référence non chiffrée. Elle représente le "point idéal" où l'augmentation du premier intérieur produit des rendements décroissants en termes d'exactitude tout en engendrant des coûts plus élevés.

Ce travail valide que la préservation de la vie privée dans le PFL est réalisable avec des performances efficaces lorsque les paramètres CKKS sont soigneusement ajustés, comblant ainsi une lacune critique dans le déploiement des technologies de renforcement de la confidentialité pour l'apprentissage fédéré personnalisé.