Résumé Technique : Confiance Apprise auprès des Voisins pour le Déploiement Collaboratif dans l'Apprentissage Décentralisé Agnostique au Modèle

Énoncé du Problème

L'apprentissage décentralisé est traditionnellement formulé comme un problème de coordination au moment de l'entraînement, où les nœuds échangent des paramètres ou des gradients pour améliorer des modèles partagés ou personnalisés. Cependant, dans des scénarios de déploiement réalistes tels que l'IoT, l'informatique de périphérie (edge) et le brouillard (fog computing), ce paradigme rencontre des limitations significatives :

1. Hétérogénéité : Les appareils possèdent souvent des capacités de calcul différentes et doivent déployer des architectures de modèles distinctes (par exemple, MobileNet vs EfficientNet), rendant les méthodes de partage de paramètres irréalisables.
2. Pénurie et Déséquilibre des Données : Les jeux de données locaux sont souvent petits, non IID et déséquilibrés, limitant les performances des modèles isolés.
3. Objectif Incomplet : Les méthodes existantes optimisent souvent la collaboration au moment de l'entraînement mais déploient chaque nœud de manière isolée. Cela ignore le potentiel des nœuds à exploiter la capacité supérieure de leurs voisins lors de l'inférence, même lorsque ces voisins ne faisaient pas partie de la coordination d'entraînement.
4. Contraintes de Communication : L'échange de paramètres de haute dimension est gourmand en bande passante.

La question centrale abordée est : Comment les nœuds doivent-ils s'entraîner pour que leurs prédictions s'assemblent bien lors du déploiement, et comment chaque nœud doit-il apprendre à combiner les prédictions qu'il reçoit, sans partager de paramètres, de gradients ou d'étiquettes brutes ?

Méthodologie : Confiance Apprise auprès des Voisins (LNTrust)

Les auteurs proposent LNTrust, un protocole sans serveur et agnostique au modèle où les nœuds échangent uniquement des requêtes (entrées non étiquetées) et des prédictions douces (logits/probabilités). L'approche se compose de deux étapes distinctes :

1. Protocole d'Entraînement en Deux Étapes

• Étape 1 (Entraînement Supervisé Local) : Chaque nœud entraîne son modèle local $h_{\theta_i}$ en utilisant ses données étiquetées $D^L_i$ sans communication. Un ensemble de validation retenu $D^V_i$ est construit à partir de la distribution des données locales pour estimer la qualité des voisins.
• Étape 2 (Distillation Pilotée par la Confiance) :
  • Sondage : Le nœud $i$ interroge tous les voisins $j \in \bar{N}(i)$ (voisinage fermé) sur des images provenant de $D^V_i$.
  • Extraction de Caractéristiques : Le nœud $i$ calcule des caractéristiques relationnelles $\phi_{ij}$ pour chaque voisin basées sur :
    • Performance du Sondage : Précision par classe sur $D^V_i$.
    • Alignement Distributionnel : Divergence KL entre la distribution de classe locale du nœud et la distribution prédite par le voisin sur les données non étiquetées.
    • Spécialisation : Entropie des prédictions du voisin.
    • Topologie : Degré normalisé du voisin.
  • Apprentissage de la Confiance : Le nœud $i$ entraîne un modèle de confiance local compact $g_{\psi_i}$ (un petit MLP) pour mapper ces caractéristiques vers des poids de confiance $\alpha_{ij}$. Le modèle est entraîné pour minimiser l'entropie croisée de l'ensemble pondéré par la confiance sur $D^V_i$.
  • Distillation Pilotée : Pendant l'entraînement, le nœud $i$ utilise des données non étiquetées pour effectuer une distillation de connaissances auprès des voisins. Cependant, cela est piloté :
    • Une Porte de Transfert Négatif compare les performances de validation de l'ensemble à celles du modèle propre du nœud. Si l'ensemble est plus faible, le poids de distillation est réduit ou annulé.
    • Un Filtre de Confiance rejette les pseudo-étiquettes à faible confiance.
    • La perte est une somme pondérée de la perte supervisée et de la perte de distillation, où le poids de distillation est ajusté dynamiquement par la porte.

2. Stratégie de Déploiement

Au moment de l'inférence, le nœud $i$ ne déploie pas son modèle local seul. Au lieu de cela, il forme un ensemble de voisinage fermé :
$$p^{deploy}_i(x) = \sum_{j \in \bar{N}(i)} \alpha^{deploy}_{ij} p_j(x)$$
Les poids $\alpha^{deploy}_{ij}$ sont les mêmes poids de confiance appris lors de l'Étape 2. Cela garantit que la collaboration apprise pendant l'entraînement se transfère directement au déploiement.

Contributions Clés

1. Algorithme (LNTrust)

• Agnostique au Modèle et Sans Serveur : Fonctionne sans coordinateur central et prend en charge des architectures hétérogènes (par exemple, mélanger MobileNetV2 et EfficientNet-B0) en échangeant uniquement des prédictions douces.
• Fonction de Confiance Apprise : Les nœuds apprennent une fonction de confiance compacte à partir de preuves de validation locales pour décider quels voisins faire confiance, tant pour la distillation au moment de l'entraînement que pour l'assemblage au moment de l'inférence.
• Mécanismes de Sécurité : Inclut une porte de transfert négatif pour empêcher la collaboration de dégrader les performances locales si les voisins sont inadaptés.

2. Garanties Théoriques

• Limite de Déploiement : Les auteurs prouvent une borne à échantillon fini montrant que les poids de confiance ajustés par l'ajustement de validation n'engendrent qu'un excès de perte logarithmique de $O(\epsilon^{-1}_{dep} \sqrt{\log |\bar{N}(i)|/m_i})$ par rapport à la meilleure distribution de poids possible, en supposant que les caractéristiques relationnelles sont distinctes.
• Perturbation Contrôlée : Ils prouvent que la trajectoire d'entraînement de LNTrust reste proche d'une trajectoire d'entraînement supervisé "uniquement soi-même". La porte de confiance garantit que si les voisins fournissent de mauvais signaux, la perturbation collaborative s'effondre, protégeant ainsi le nœud d'une divergence catastrophique.

3. Artefact

• Les auteurs publient une plateforme unifiée de benchmarking pour l'apprentissage décentralisé implémentant LNTrust aux côtés de bases de référence (DML, DESA, FedPAE, Mean Teacher, D-PSGD, etc.) sous un protocole commun comptabilisant la communication.

Résultats Expérimentaux

La méthode a été évaluée sur CIFAR-10, CIFAR-100 et EuroSAT à travers trois configurations topologiques :

1. Hétérogène Sparse : Graphique Barabási-Albert avec des architectures mixtes (90 % MobileNetV2, 10 % EfficientNet-B0 aux hubs).
   • Résultat : LNTrust a atteint une précision de 86,5 % sur CIFAR-10 et de 61,5 % sur CIFAR-100, surpassant significativement la meilleure base de référence uniquement sortie (DML à 79,5 % et 56,9 % respectivement). Les méthodes de partage de paramètres étaient irréalisables ici.
2. Géographique (EuroSAT) : Données spatiales réelles avec une connectivité décroissante avec la distance.
   • Résultat : LNTrust a atteint une précision de 96,7 %, surpassant toutes les bases de référence (regroupées autour de 94,2–94,8 %).
3. Homogène Dense : Graphique aléatoire uniforme avec des architectures identiques (tous MobileNetV2).
   • Résultat : LNTrust a atteint une précision de 84,4 %, surpassant toutes les bases de référence uniquement sortie et égalant les méthodes de partage de paramètres comme Gossip-FedAvg (84,2 %), bien qu'il ait été dépassé par la méthode de partage de paramètres de pointe D-PSGD (87,0 %).

Efficacité de la Communication :
LNTrust échange uniquement des logits unidirectionnels de dimension $C$. En termes de précision par Go communiqué, il surpasse significativement les méthodes qui échangent des vecteurs de caractéristiques (DESA) ou des poids complets (méthodes de partage de paramètres), en particulier dans des contextes hétérogènes.

Études d'Ablation :

• Mécanisme de Confiance : Le remplacement du MLP appris par des heuristiques scalaires (LinUCB, Majorité Pondérée) a entraîné une baisse de performance, confirmant la valeur des caractéristiques relationnelles structurées.
• Coût de Validation : La rétention de 20 % des données étiquetées pour la validation a offert le meilleur compromis entre la qualité de l'estimation de la confiance et la disponibilité des données d'entraînement.
• Budget de Distillation : Les performances se sont améliorées avec des budgets de pseudo-étiquettes modérés mais se sont dégradées à des budgets très élevés, indiquant un point de saturation où les signaux des pairs écrasent les informations locales.

Importance et Revendications

L'article affirme que LNTrust comble une lacune critique dans l'apprentissage décentralisé : le décalage entre la coordination au moment de l'entraînement et la réalité au moment du déploiement. En apprenant qui faire confiance sur la base de preuves locales, les nœuds peuvent :

• Exploiter l'Hétérogénéité : Utiliser des voisins plus performants (par exemple, des hubs avec des modèles plus grands) sans exiger d'homogénéité architecturale.
• Optimiser la Bande Passante : Atteindre une haute précision avec une communication significativement moindre que les méthodes précédentes, le rendant adapté aux environnements contraints en bande passante comme l'IoT.
• Assurer la Sécurité : Le mécanisme piloté par la confiance garantit que la collaboration est "sûre", empêchant les nœuds de dégrader leurs performances locales lorsque les voisins sont peu fiables.

Les auteurs soulignent que, bien que LNTrust améliore les bases de référence uniquement sortie et égale les méthodes de partage de paramètres dans des contextes homogènes, son importance principale réside dans la possibilité de permettre une collaboration efficace dans des environnements hétérogènes et sans serveur où l'échange traditionnel de paramètres est impossible. La méthode ne prétend pas résoudre la robustesse aux attaques adverses ni fournir de garanties formelles de confidentialité contre les fuites basées sur les requêtes, notant ces aspects comme des directions futures importantes.