Sovereign-Mohawk: Machine-Checked Hierarchical Byzantine Resilience and Probabilistic Composition for Federated Learning

Dans le monde moderne, les modèles d'apprentissage automatique sont souvent trop volumineux et les données trop sensibles pour être rassemblées en un seul lieu central. Au lieu de cela, une technique appelée apprentissage fédéré permet à des milliers d'appareils, des smartphones aux capteurs industriels, d'entraîner une intelligence partagée sans jamais envoyer leurs données privées vers un serveur central. Chaque appareil apprend de ses propres informations locales et n'envoie qu'une petite partie mise à jour du modèle pour être combinée. Cette approche promet un avenir où l'intelligence artificielle s'améliore sans compromettre la vie privée des individus. Cependant, ce système décentralisé fait face à une vulnérabilité critique : le problème « byzantin ». Dans ce contexte, une défaillance byzantine se produit lorsque certains participants au réseau agissent de manière malveillante ou dysfonctionnent, envoyant des mises à jour corrompues conçues pour empoisonner l'ensemble du modèle. Si même un petit nombre de ces acteurs malveillants peut glisser leurs données corrompues dans le calcul final, le système entier peut échouer.

Pour gérer l'échelle massive de millions d'appareils, les ingénieurs organisent souvent ces participants en une hiérarchie, comme un arbre avec des branches et des feuilles. L'idée est que si chaque groupe local d'appareils vérifie ses propres membres pour détecter d'éventuels acteurs malveillants avant d'envoyer les données plus haut dans la chaîne, l'ensemble du réseau devrait rester sûr. C'est une hypothèse réconfortante : si chaque superviseur local fait son travail, le leader mondial sera hors de danger. Mais cette hypothèse, longtemps tenue pour acquise dans la conception de ces systèmes, s'avère dangereusement erronée. Une nouvelle étude de Ryan Williams, intitulée « Sovereign-Mohawk », expose cette faiblesse cachée et propose une solution mathématiquement prouvée qui remplace l'incertitude par la certitude.

Les chercheurs ont commencé par tester la croyance commune selon laquelle la sécurité locale garantit la sécurité globale. Ils ont construit un modèle mathématique formel d'une hiérarchie à deux niveaux, où des groupes d'appareils envoient leurs mises à jour à des superviseurs régionaux, qui envoient ensuite un résumé à un leader mondial. Dans leur modèle, ils ont créé un scénqueau où chaque superviseur régional suivait les règles parfaitement. Chaque groupe local possédait une majorité d'appareils honnêtes, et les filtres locaux bloquaient avec succès les acteurs malveillants évidents au sein de leurs propres petits cercles. Pourtant, lorsque les chercheurs ont examiné la situation globale, ils ont découvert que le réseau mondial était en réalité dominé par des acteurs malveillants. En plaçant soigneusement les appareils malveillants de manière à ce qu'ils soient juste en dessous du seuil de détection dans chaque groupe local, ils ont réussi à créer une situation où soixante pour cent du réseau total était contrôlé par des adversaires. Les gardes locaux faisaient leur travail, mais le système dans son ensemble s'était effondré. Il ne s'agissait pas d'une simulation d'un échec possible ; c'était une preuve vérifiée par machine que l'ancienne façon de penser ne fonctionne tout simplement pas.

Ayant réfuté l'ancienne méthode, l'équipe devait trouver un moyen de corriger la hiérarchie sans abandonner l'efficacité du traitement local. Ils ont réalisé que le problème provenait du fait que le placement des appareils était prévisible. Si un attaquant sait exactement quels appareils seront regroupés ensemble, il peut organiser ses nœuds malveillants pour passer entre les mailles du filet. Pour résoudre cela, les chercheurs ont introduit une méthode d'assignation aléatoire. Au lieu de laisser les appareils dans des groupes fixes, ils ont proposé de les mélanger dans des comités via un processus similaire au tirage au sort de noms dans un chapeau, mais effectué avec des garanties mathématiques strictes. Ils ont prouvé que si les appareils sont assignés à ces comités de manière aléatoire, la probabilité qu'un groupe malveillant concentre suffisamment d'acteurs malveillants pour briser un filtre local devient si faible qu'elle est pratiquement nulle. Ils ont vérifié cela à l'aide d'un système informatique conçu pour vérifier les preuves mathématiques, montrant que même avec cinquante mille appareils dans un comité et un nombre important d'acteurs malveillants dans la population totale, la probabilité de défaillance est inférieure à un sur un nombre si vaste qu'il possède plus de zéros que d'atomes dans l'univers.

Cette percée théorique n'est pas restée une idée abstraite. Les chercheurs ont construit un système logiciel opérationnel pour démontrer que leur nouvelle méthode pouvait fonctionner dans le monde réel. Ils ont créé un moteur à haute vitesse écrit dans un langage appelé Go, qui gérait le flux de données entre des milliers d'appareils simulés. Ce système comprenait plusieurs couches de protection pour assurer la confidentialité et la sécurité. Il ajoutait un type spécifique de bruit mathématique aux mises à jour des données pour empêcher quiconque de rétro-concevoir les informations privées des utilisateurs individuels. Il utilisait également des outils cryptographiques avancés pour prouver que les données envoyées étaient valides sans révéler les données elles-mêmes, et il employait de nouvelles méthodes de chiffrement conçues pour résister aux attaques des futurs ordinateurs quantiques.

L'équipe a testé ce système dans un environnement contrôlé imitant un réseau massif, faisant tourner jusqu'à mille cinq cents appareils virtuels sur un seul ordinateur physique. Ils ont soumis le système à des attaques agressives, où jusqu'à trente-cinq pour cent des appareils tentaient activement de saboter le processus d'apprentissage. Malgré cette pression intense, le système a tenu bon. Le modèle a continué à apprendre et à s'améliorer, atteignant une précision de 86,4 % après cent cycles d'entraînement. Ce n'était qu'une baisse infime par rapport à un système parfait, non attaqué, qui atteignait 88,2 %. Le coût de cette sécurité était étonnamment bas. Le temps supplémentaire requis pour vérifier les preuves et mélanger les appareils n'a ajouté qu'environ trente-cinq millisecondes au temps total de chaque cycle d'entraînement, un délai si bref qu'il se mesure en microsecondes.

Ce travail représente un changement significatif dans notre façon de concevoir la sécurisation de l'intelligence artificielle à grande échelle. Il déplace le domaine, passant d'une dépendance aux hypothèses d'espoir sur la manière dont les contrôles locaux s'étendent, vers un fondement de garanties rigoureuses vérifiées par machine. En prouvant que l'ancien modèle hiérarchique était défectueux et en fournissant une nouvelle méthode probabiliste pour organiser le réseau, les chercheurs ont montré qu'il est possible de construire des systèmes qui sont à la fois efficaces et sécurisés contre des attaquants déterminés. Le système « Sovereign-Mohawk » constitue un modèle pour un avenir où des millions d'appareils pourront collaborer en toute sécurité, sachant que leur intelligence collective est protégée non pas par l'espoir, mais par des mathématiques qui ont été vérifiées jusque dans leurs moindres détails.