Technische Samenvatting: Federated Learning voor Feature-generalisatie met Convex Constraints (FedCONST)

1. Probleemstelling

Federated Learning (FL) staat voor aanzienlijke uitdagingen op het gebied van generalisatie door de heterogeniteit van de datadistributies van cliënten. Het artikel identificeert twee primaire faalmodi in standaard FL-benaderingen:

1. Lokale Overfitting: Lokale modellen hebben de neiging om te overfitten op hun specifieke, schaarse datadistributies, wat hun vermogen om te generaliseren over de globale datadistributie beperkt.
2. Aggregatievervorming: Zelfs wanneer cliënten overdraagbare features leren, kan het aggregatieproces deze features kunnen vervormen, waardoor ze niet meer in lijn zijn met de globale doelstellingen en de algehele prestaties ondermijnen.

Bestaande methoden, zoals regularisatie (bijv. FedProx, MOON) en correctietechnieken (bijv. SCAFFOLD), richten zich op het afstemmen van lokale updates op het globale model, maar verwaarlozen vaak het behoud van generalisatievermogen, wat leidt tot overfitting onder beperkte omstandigheden van data. Daarentegen falen methoden die gericht zijn op lokale generalisatie (bijv. FedAlign, FedSAM) vaak in het handhaven van coherente optimalisatiedoelstellingen over cliënten tijdens aggregatie.

2. Methodologie: FedCONST

De auteurs stellen FedCONST voor (Federated Learning with Convex Constraints for Global Model Generalization), een framework dat de grootte van updates adaptief moduleert op basis van de parametersterkte van het globale model. De kernfilosofie is het behouden van goed geleerde (sterke) features terwijl ondergeleerde (zwakke) features worden versterkt.

2.1. Theoretische Fundering

De methode is gebaseerd op de hypothese dat gewichtsgrootte dient als een proxy voor feature-sterkte, analoog aan de Gradient Signal-to-Noise Ratio (GSNR) die wordt gebruikt in Domain Generalization.

• Conjectuur 1: Grote gewichten duiden op goed geleerde (sterke) features, terwijl kleine gewichten zwakkere features betekenen die verdere training vereisen.
• GSNR Correlatie: Het artikel citeert eerder werk (Liu et al., Michalkiewicz et al.) dat een positieve correlatie vaststelt tussen gewichtsgrootte en GSNR. Omdat het direct berekenen van GSNR in FL onhaalbaar is vanwege communicatiebeperkingen, gebruikt FedCONST globale gewichtsgroottes als een betrouwbare, communicatie-efficiënte proxy.

2.2. Constrained Optimization Framework

FedCONST introduceert een constrained optimization framework dat wordt toegepast tijdens de lokale client-training. Het doel is om de lokale loss $L_m(W)$ te minimaliseren onder twee lineaire convexe restricties:

1. Orthogonale Restrictie: $G_c^l \top (w_c^l - G_c^l) = 0$

   • Dit zorgt ervoor dat lokale updates orthogonaal zijn aan de huidige globale modelparameters ($G_c^l$).
   • Effect: Het voorkomt redundante updates aan reeds sterke (goed geleerde) features, waardoor hun stabiliteit wordt bewaard en overfitting wordt voorkomen.

2. Centralisatie Restrictie: $\mathbf{1}^\top w_c^l = 0$

   • Dit zorgt ervoor dat de som van de updates voor een featurevector nul is.
   • Effect: Het egaliseert de totale impact van de updates, waardoor het leren van zwakke (ondergeleerde) features wordt bevorderd door te voorkomen dat sterke features domineren.

2.3. Convexiteit en Aggregatie

Een cruciale ontwerpkeuze is dat deze restricties lineair en convex zijn.

• Lokale Stabiliteit: De restricties stabiliseren het lokale trainingsproces door de gradiëntvariantie te verminderen.
• Aggregatie Behoud: Omdat de restricties convex zijn en gedeeld worden door alle cliënten, blijven de voordelen voor de generalisatie behouden na de aggregatiestap. Het artikel stelt dat niet-convexe restricties de training lokaal weliswaar kunnen stabiliseren, maar falen in het handhaven van de uitlijning tijdens aggregatie, terwijl convexe restricties ervoor zorgen dat het geaggregeerde model binnen het "generalisatiegebied" blijft.

2.4. Trainingsalgoritme

Het trainingsproces (Algoritme 1) wijzigt de standaard FedAvg-loop:

1. De server stuurt het globale model $w^k$ naar de cliënten.
2. Cliënten voeren lokale updates uit waarbij gradiënten worden geprojecteerd:
   • Centrering: $g \leftarrow C(g) = g - \frac{1}{n}\mathbf{1}^\top g$
   • Projectie: $g \leftarrow P_{w^k}(g) = (I - pp^\top)g$, waarbij $p$ de genormaliseerde globale parameter vector is.
3. De bijgewerkte lokale modellen worden door de server geaggregeerd.

3. Belangrijkste Bijdragen

Het artikel schetst drie primaire bijdragen:

1. Nieuw Framework: Een eenvoudige maar effectieve benadering die goed geleerde features behoudt terwijl de focus ligt op ondergeleerde features, wat nieuwe inzichten biedt in het verbeteren van generalisatie in FL.
2. Theoretische en Empirische Garantie: Analyse die aantoont dat de methode de generalisatie bevordert door grotere update-waarschijnlijkheden op te leggen aan ondergeleerde features terwijl sterke features worden behouden.
3. State-of-the-Art Prestaties: Validatie over een breed scala aan datasets (CIFAR-10, CIFAR-100), modellen (LeNet-5, ResNet-18) en heterogeniteitsniveaus (Cross-Device en Cross-Silo settings), waarbij een significante uitmuntendheid ten opzichte van bestaande FL-methoden wordt getoond.

4. Experimentele Resultaten

Experimenten werden uitgevoerd op CIFAR-10 en CIFAR-100 met variërende graden van datadistributie-heterogeniteit (Dirichlet $\alpha = 0.2$ en $0.5$).

• Prestaties: FedCONST presteerde consistent beter dan baseline algoritmen (FedAvg, FedProx, MOON, SCAFFOLD, FedDyn, FedSAM).
  • In Cross-Device settings met LeNet-5 verbeterde FedCONST de nauwkeurigheid met tot wel +10,95% ten opzichte van SCAFFOLD en +8,16% ten opzichte van FedAvg.
  • In Cross-Silo settings waren de verbeteringen eveneens significant, waarbij ResNet-18 winsten liet zien van +10,59% ten opzichte van SCAFFOLD.
• Stabiliteit: De methode verminderde de gradiëntvariantie vergeleken met FedAvg, wat de lokale updates stabiliseerde in omgevingen met schaarse data.
• Drift Diversiteit: Het verbeterde de drift-diversiteit, waardoor cliënten effectief konden leren en unieke datakenmerken konden reflecteren ondanks de restricties.
• Loss Landscape Analyse:
  • Convexiteit: De toepassing van restricties resulteerde in een meer convexe loss landscape (gemeten aan de ratio $|\lambda_{max}/\lambda_{min}|$), waardoor het model werd weggeleid van zadelpunten.
  • Consistentie: De client-consistentie werd aanzienlijk verbeterd, wat zorgde voor een meer uitgelijnde leerervaring over heterogene cliënten heen.
• Feature Analyse: Experimenten bevestigden de correlatie tussen gewichtsgrootte en GSNR. FedCONST slaagde erin de som van de GSNR-waarden voor globale features te verhogen, wat aangeeft dat gemeenschappelijke generaliseerbare features correct werden versterkt.

5. Betekenis en Claims

Het artikel claimt dat FedCONST effectief lokale en globale doelstellingen afstemt, wat overfitting mitigeert en sterkere generalisatie bevordert in diverse FL-omgevingen.

• Motivatie: Het werk adresseert de kloof in bestaande FL-methoden die ofwel te veel focussen op uitlijning (en daarmee generalisatie verwaarlozen) of op lokale generalisatie (en daarmee uitlijning verwaarlozen).
• Efficiëntie: De methode wordt benadrukt als communicatie-efficiënt en stateless, waarbij geen extra communicatierondes nodig zijn buiten de standaard FedAvg.
• Robuustheid: Door gebruik te maken van convexe restricties afgeleid van globale gewichtsgroottes, zorgt de methode ervoor dat het aggregatieproces de lokaal geleerde generalisatiecapaciteiten niet verstoort.

De auteurs positioneren FedCONST als een oplossing die state-of-the-art prestaties levert terwijl de computationele en communicatieve efficiëntie hoog blijft, wat het geschikt maakt voor real-world implementaties waar data gedistribueerd, ongebalanceerd en ruisgevoelig is.