Detecting Atypical Clients in Federated Learning via Representation-Level Divergence

Technische Samenvatting: Detectie van Atypische Clients in Federated Learning via Divergentie op Representatieniveau

Probleemstelling

Federated Learning (FL) maakt collaboratieve modeltraining mogelijk over gedistribueerde clients zonder ruwe data te delen, waarmee privacy- en beveiligingsbeperkingen worden aangepakt. FL staat echter voor aanzienlijke uitdagingen door data-heterogeniteit (niet-i.i.d.-verdelingen), wat vaak leidt tot instabiele convergentie en verslechterde globale prestaties. Naast onschuldige statistische heterogeniteit lopen praktische implementaties risico's waarbij client-updates afwijken door verdelingsverschuivingen, sensor-drift of anormale invoer.

Bestaande benaderingen voor het detecteren van dergelijke afwijkingen vertrouwen vaak op het vergelijken van modelparameters of gradiënten. De auteurs betogen dat deze methoden beperkt inzicht bieden in hoe verschillende clients de interne functionele werking en de beslissingsgrenzen van het Neuronale Netwerk (NN) beïnvloeden. Er is behoefte aan een mechanisme om onderscheid te maken tussen verwachte variabiliteit veroorzaakt door niet-i.i.d.-data en potentieel schadelijke afwijkingen die de stabiliteit of betrouwbaarheid van het aggregatieproces compromitteren.

Methodologie

Het artikel stelt een lichtgewicht, geometrische metriek voor om de functionele divergentie tussen het lokale model van een client en het globale model te kwantificeren. In plaats van parameters te analyseren, richt de aanpak zich op de door activaties geïnduceerde partitie van de invoerruimte.

1. Activatiepatronen en Partitie van de Invoerruimte:

   • Voor een op ReLU gebaseerd Feedforward Neuronale Netwerk (FF) definiëren de auteurs binaire activatiepatronen $a_l(x; \theta)$ voor elke laag $l$.
   • Deze patronen partitioneren de invoerruimte in stuksgewijs-affiene regio's. Steekproeven die hetzelfde activatiepatroon delen, behoren tot dezelfde regio.
   • De auteurs maken gebruik van een vaste, gedeelde proefset $P$ (een i.i.d.-subset van data) om deze patronen te evalueren.

2. Affiniteitsmetriek voor Activaties:

   • Voor een gegeven laag $l$ wordt de activatieaffiniteit $K^\theta_l(i, j)$ tussen twee proefsteekproeven $x_i$ en $x_j$ berekend op basis van de Hamming-afstand tussen hun activatiepatronen.
   • Deze metriek kwantificeert de "afstand" tussen steekproeven in termen van het aantal doorgestoken hypervlakken. Een hoge affiniteit geeft aan dat steekproeven in dezelfde of nabijgelegen regio's liggen; een lage affiniteit geeft scheiding door meerdere hypervlakken aan.
   • Dit resulteert in een affiniteitsmatrix $K^\theta_l$ die vastlegt hoe een model invoer groepeert.

3. Hiërarchische Geometrische Divergentie:

   • Om een clientmodel ($\theta_c$) te vergelijken met het globale model ($\theta_g$), berekenen de auteurs de Frobenius-norm van het verschil tussen hun affiniteitsmatrices: $d_l(\theta, \theta') = \|K^\theta_l - K^{\theta'}_l\|_F$.
   • Een hiërarchische divergentie ($D_{hier}$) wordt gedefinieerd om rekening te houden met de structuur van NN's. Omdat vroege lagen grove scheidingen definiëren en diepere lagen deze verfijnen, worden discrepanties in vroege lagen zwaarder gewogen.
   • De formule is:
     $$D_{hier}(\theta, \theta') = d_1(\theta, \theta') + \sum_{l=2}^{L} \left( \prod_{r=1}^{l-1} \lambda_r \right) d_l(\theta, \theta')$$
     waarbij $\lambda_l = \exp(-\beta d_l)$ fungeert als een downweighting-factor voor diepere lagen als eerdere lagen al significante verschillen vertonen.

4. Anomaliedetectie:

   • In een FL-omgeving wordt de divergentie $D_c^{(t)}$ berekend voor elke client $c$ in ronde $t$.
   • Om atypische clients te identificeren, wordt een robuuste outlier-score (z-score) berekend met behulp van de mediaan en de Mediaan Absolute Afwijking (MAD) van de divergentieverdeling over alle clients.

Belangrijkste Bijdragen

• Geometrisch Perspectief: Introduceert een nieuw perspectief voor het analyseren van FL-clientgedrag op basis van de geometrische structuur die wordt geïnduceerd door NN-activatiepatronen, in plaats van parameterwaarden.
• Lichtgewicht Metriek: Stelt een metriek voor die functionele divergentie kwantificeert door te meten hoe lokale training de organisatie van de invoerruimte verandert, waardoor verschillen worden vastgelegd die verder gaan dan vergelijkingen op parameterniveau.
• Interpreteerbaar Signaal: Demonstreert dat deze metriek een interpreteerbaar signaal biedt voor het monitoren van data-heterogeniteit en het identificeren van atypische clientbijdragen.

Experimentele Resultaten

De auteurs hebben de metriek geëvalueerd in twee scenario's: een MLP op Fashion-MNIST en een ResNet-18 op CIFAR-10, met gebruik van Stochastic Gradient Descent (SGD) en Dirichlet-partitie om niet-i.i.d.-data te simuleren.

1. Validatie van de Metriek (Heterogeniteitsanalyse):

   • Experimenten varieerden de Dirichlet-parameter $\alpha$ (van $\alpha=10$, dicht bij i.i.d., tot $\alpha=0.1$, sterk heterogeen).
   • Resultaten: In bijna i.i.d.-instellingen ($\alpha=10$) stabiliseerden clientdivergenties snel. In sterk heterogene instellingen ($\alpha=0.1$) legde de metriek een systematische toename van divergentie bloot en identificeerde clients die persistent afweken van het globale model, in overeenstemming met de intuïtie dat onderscheidende data-verdelingen onderscheidende geometrische organisaties induceren.

2. Identificatie van Anomale Clients:

   • Een "verschuivende" client werd gesimuleerd door perturbaties (Gaussisch ruis, rotaties, vervaging) toe te passen op de dataset van één client, terwijl de anderen standaard bleven.
   • Resultaten: De verschuivende client vertoonde consistent aanzienlijk hogere geometrische divergentie en robuuste z-scores in vergelijking met reguliere clients over alle rondes. Terwijl reguliere clients convergeerden naar stabiele divergentiewaarden, handhaafde de verschuivende client een persistente afwijking, wat wijst op een fundamenteel verschillende geometrische organisatie van de invoerruimte. Dit gold voor beide architecturen en datasets.

Betekenis en Claims

Het artikel claimt dat het monitoren van de door NN's geïnduceerde geometrische structuur een zinvol en interpreteerbaar signaal biedt voor het beoordelen van clientbijdragen in FL. De voorgestelde metriek onderscheidt effectief tussen stabiele, heterogene clients en die waarvan de updates atypische functionele veranderingen induceren.

De auteurs positioneren dit werk als een hulpmiddel voor risicobewuste aggregatiestrategieën. Door clients te identificeren die functioneel afwijken (in plaats van alleen parametrisch), kan het systeem updates wegen of filteren op basis van hun functionele gedrag. Het artikel concludeert dat deze aanpak de deur opent naar meer geïnformeerde aggregatie, hoewel er wordt opgemerkt dat toekomstig werk vereist is om dit signaal direct in de trainingslus te integreren en toe te passen op grootschalige of adversariële scenario's. Het werk wordt gepresenteerd als complementair aan bestaande cryptografische privacy- en Byzantijnse robuustheidsmethoden, en biedt een geometrisch monitoringssignaal in plaats van formele cryptografische garanties.