🤖 AI

From Data Heterogeneity to Convergence: A Data-Centric Review of Federated Learning

Deze enquête biedt de eerste datacentrische review van Federated Learning door systematisch te analyseren hoe non-IID-kenmerken, experimentele splitsingsartefacten en datagerelateerde kwetsbaarheden de modelconvergentie en stabiliteit beïnvloeden, waarbij bruikbare richtlijnen worden geboden voor het ontwerpen van robuuste FL-systemen.

Oorspronkelijke auteurs: Huong Nguyen, Mickaël Bettinelli, Amirhossein Ghaffari, Alexandre Benoit, Hong-Tri Nguyen, Susanna Pirttikangas, Lauri Lovén

Gepubliceerd 2026-06-10

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Huong Nguyen, Mickaël Bettinelli, Amirhossein Ghaffari, Alexandre Benoit, Hong-Tri Nguyen, Susanna Pirttikangas, Lauri Lovén

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een klas probeert te onderwijzen hoe ze verschillende dieren moeten herkennen. In een traditionele klasomgeving (Centralized Learning) verzamel je al het huiswerk, de foto's en de aantekeningen van de leerlingen in één grote stapel op je bureau. Je bestudeert alles tegelijk, vindt de patronen en geeft iedereen hetzelfde definitieve antwoord.

Federated Learning (FL) is anders. Stel je voor dat de leerlingen verspreid over de hele wereld zitten en dat ze te verlegen zijn of wettelijk beperkt worden om hun persoonlijke schriftjes met je te delen. In plaats daarvan stuur je hen een "startgids" (het model). Zij bestuderen hun eigen lokale schriftjes, bepalen wat zij denken dat het antwoord is, en sturen jou alleen hun aantekeningen terug over wat ze hebben geleerd — niet de werkelijke foto's of het huiswerk zelf. Jij combineert hun aantekeningen om de gids bij te werken, stuurt deze weer uit naar de klas, en herhaalt het proces.

Dit artikel is een diepe duik in waarom dit proces soms als een charme werkt en andere keren volledig vastloopt, waarbij specifiek wordt gekeken naar de data. De auteurs stellen dat de meeste mensen zich richten op het algoritme (de wiskunde), maar dat de echte boosdoener de data (het huiswerk) is.

Hier is de uitsplitsing van hun bevindingen met behulp van eenvoudige analogieën:

1. De kwaliteit van het "Huiswerk": Wat maakt leren snel of traag?

Het artikel vraagt: Maakt het type huiswerk uit? Het antwoord is een luidruchtig ja. Ze hebben de kenmerken van data onderverdeeld in drie niveaus van belangrijkheid:

De "Grote Drie" (Sterke impact):
- Provenance (Waar de data vandaan komt): Stel je een klas voor waar sommige leerlingen betrouwbaar zijn en elke dag aanwezig zijn (Cross-Silo, zoals ziekenhuizen), terwijl anderen deeltijdstudenten zijn die slechts af en toe verschijnen en een slordig handschrift hebben (Cross-Device, zoals telefoons). Het artikel stelt vast dat leren veel sneller en stabieler verloopt wanneer iedereen betrouwbaar is. Als leerlingen onbetrouwbaar zijn, raakt de leraar (de server) in de war door de updates en komt de klas nooit tot een gezamenlijk antwoord.
- Intra-Class Variability (Hoe rommelig de voorbeelden zijn): Als je "Kat" leert, en elke leerling heeft alleen foto's van pluizige oranje katten, is dat makkelijk. Maar als één leerling een zwarte kat heeft, een ander een naakte kat, en een derde een kat in een doos, wordt het concept "Kat" rommelig. Hoe meer variatie binnen een enkele categorie, hoe moeilijker het voor de groep is om een definitie overeen te komen.
- Inter-Class Separation (Hoe verschillend de categorieën zijn): Als je "Kat" versus "Hond" leert, en de foto's zien er heel verschillend uit, gaat het leren snel. Als je "Siamese Kat" versus "Perzische Kat" leert (die erg op elkaar lijken), raken de leerlingen in de war en heeft de leraar moeite om de twee groepen van elkaar te onderscheiden.
De "Middelste Laag" (Gemiddelde impact):
- Label Skew (Label-scheefheid): Stel je voor dat één leerling alleen huiswerk heeft over "Katten", een ander alleen over "Honden", en een derde een mix heeft. Als de leraar probeert de meningen van hen te middelen, kan de "Kat"-leerling de hele klas er naartoe trekken om te denken dat alles een kat is. Hoe ongebalanceerder de data over de leerlingen is, hoe langzamer het leren gaat.
- Aantal klassen: Het onderwijzen van 10 dieren is makkelijk. Het onderwijzen van 100 dieren (waarvan velen op elkaar lijken) is veel moeilijker en kost meer tijd.
De "Zwakke Schakel" (Lage impact):
- Aantal samples (Aantal voorbeelden): Verrassend genoeg helpt het hebben van meer huiswerk niet altijd, als het huiswerk nog steeds rommelig of ongebalanceerd is. Het is beter om een paar leerlingen te hebben met duidelijke, evenwichtige voorbeelden dan 1.000 leerlingen met verwarde, rommelige voorbeelden.

2. De "Simulatie"-valstrik: Waarom oefenen niet altijd overeenkomt met de realiteit

Onderzoekers testen deze systemen vaak in een laboratorium door data kunstmatig te mengen om het "rommelig" te laten lijken (non-IID). Ze gebruiken een wiskundig hulpmiddel genaamd een Dirichlet-distributie (denk aan het als een willekeurige getallengenerator die bepaalt hoeveel "Kat"-huiswerk naar Leerling A versus Leerling B gaat).

Het artikel waarschuwt: Dit is een nep-rommel.

De echte wereld: In de echte wereld is de rommeligheid "gekoppeld". Een leerling uit een landelijk gebied heeft misschien minder foto's, andere soorten dieren en ontbrekende categorieën volledig omdat ze daar wonen.
Het lab: Het kunstmatige mengen verandert meestal alleen de hoeveelheid foto's, maar houdt de typen hetzelfde.
Het resultaat: Het artikel stelt dat als je alleen test met deze kunstmatige "nep-rommel", je kunt denken dat je systeem geweldig is, maar dat het in de echte wereld zal crashen omdat het niet is getest op het echte soort rommeligheid (zoals ontbrekende datatypen of enorme verschillen in deelname van leerlingen).

3. De "Spelers" en de "Lichtsbeveiligers" (Beveiliging)

Omdat de leerlingen aantekeningen naar elkaar en de leraar sturen, kunnen kwaadwillenden (hackers) proberen in te breken.

Poisoning (De Saboteur): Een slechte leerling dient aantekeningen in die zeggen: "Een foto van een broodrooster is eigenlijk een Kat." Als de leraar dit vertrouwt, leert de hele klas het verkeerde.
Evasion (De Magiër): Een slechte leerling probeert de leraar tijdens het examen te misleiden door een minuscuul, onzichtbaar stofje toe te voegen aan een foto van een Hond, zodat de leraar denkt dat het een Kat is.
Inference (De Spion): Een spion probeert te raden: "Bevatte het schriftje van Leerling A een foto van mijn huisdier?" door simpelweg naar de definitieve aantekeningen van de leraar te kijken.

De Afweging:
Het artikel heeft gekeken naar "Lichtsbeveiligers" (defensiemethoden) om deze spelers te stoppen. Ze vonden een verrassend ideaal punt:

Goed nieuws: De meeste beveiligers kunnen de saboteurs en spionnen stoppen zonder de les te vertragen of de leraar minder accuraat te maken op normale dagen.
De kosten: Als je supersterke beveiliging wilt, kun je een klein beetje nauwkeurigheid verliezen (ongeveer 1–3%), maar dat is meestal de moeite waard.
De adder onder het gras: Sommige defensies werken geweldig in een schone klas (IID), maar hebben moeite wanneer de leerlingen al rommelig en ongebalanceerd zijn (Non-IID). Je moet de juiste beveiliging kiezen voor het specifieke type chaos dat je hebt.

Samenvatting van de "Kernboodschap" van het artikel

De auteurs willen beoefenaars vertellen: Stop met alleen het finetunen van de wiskunde. Als je Federated Learning-systeem traag of onnauwkeurig is, kijk dan naar je data.

Controleer je bronnen: Zijn je databronnen betrouwbaar? Zijn de categorieën duidelijk onderscheidbaar?
Test realistisch: Gebruik niet alleen willekeurige vermenging in je experimenten. Probeer de echte wereldse rommeligheid na te bootsen (zoals ontbrekende datatypen of ongelijke deelname).
Balanceer beveiliging: Je kunt je systeem meestal beschermen zonder dat dit ten koste gaat van de prestaties, maar je moet de juiste verdediging kiezen voor jouw specifieke datacaos.

Door deze datakenmerken te begrijpen, kun je een systeem ontwerpen dat sneller leert, stabiel blijft en niet wordt bedrogen door slechte actoren.

Technische Samenvatting: Van Datadatheterogeniteit naar Convergentie: Een Datacentrische Review van Federated Learning

1. Probleemstelling

Federated Learning (FL) is een cruciaal paradigma geworden voor het trainen van gedeelde modellen over gedistribueerde cliënten zonder data te centraliseren, wat privacyproblemen en dataschaarste aanpakt. De bestaande surveys hanteren echter overwegend een methode- of systeemgerichte lens, waarbij de focus ligt op algemene fundamenten, beveiligingspraktijken of brede toepassingen. Deze reviews slagen er vaak niet in om diep in te gaan op de specifieke aspecten van data als primaire drijfveer van systeemgedrag. Als gevolg hiervan is er een gebrek aan een "data-lens synthese" die concrete dataeigenschappen (kenmerken), partitioneringsprotocollen en defensiemechanismen expliciet koppelt aan convergentiesnelheid, stabiliteit en uiteindelijke nauwkeurigheid. Praktijkgebruikers worstelen vaak met het voorspellen van hoe specifieke datakenmerken (bijv. label skew, intra-class variabiliteit) of splitsingsstrategieën de trainingsdynamiek zullen beïnvloeden, wat leidt tot onvoorspelbare convergentie en suboptimale systeemontwerpen.

2. Methodologie

De auteurs hanteerden een gestructureerde, datacentrische survey-methodologie om dit gat te dichten:

Zoekstrategie: Primaire zoekopdrachten werden uitgevoerd op Google Scholar met trefwoordcombinaties gerelateerd aan specifieke onderwerpen (bijv. "federated learning" + "attack," "heterogeneity") gekoppeld aan "federated learning."
Selectiecriteria: Prioriteit werd gegeven aan hoog geciteerde en recente werken (2020–2026). Secundaire criteria omvatten de reputatie van de publicatieplaats (Q1/Q2 kwartielen).
Hoogwaardig Bewijs: Voor de specifieke analyse van hoe dataspanning de convergentie beïnvloedt, werd de bewijstabel beperkt tot publicaties uit A tot A*-gerangschikte venues (CORE rank) zoals AAAI, ICLR, CVPR, NeurIPS, etc., om een afgegrenkte comparatieve synthese van hoogwaardige werken te waarborgen.
Scope: De survey richt zich strikt op data als een bepalende factor en een reden voor uitdagingen. Het sluit omgevings- en systeembeperkingen uit (bijv. netwerklatentie, hardware-heterogeniteit), tenzij deze een direct gevolg zijn van keuzes in dataverwerking.
Analyseframework: De studie organiseert bevindingen rond vier Onderzoeksvragen (RQs):
1. Welke kenmerken van de databron beïnvloeden de convergentie?
2. Welke factoren voorkomen dat simulaties de echte wereld reflecteren?
3. Hoe worden datasets doorgaans gesplitst in eerdere experimenten?
4. Wat zijn de convergentie-privacy trade-offs van defensiemethoden?

3. Belangrijkste Bijdragen en Bevindingen

RQ1: Datakenmerken en Convergentie

Het artikel analyseert intrinsieke datakenmerken en rangschikt hun invloed op convergentie als Sterk, Medium of Licht:

Sterke Impact:
- Herkomst (Provenance): Cross-device instellingen (veel, intermitterende cliënten) leiden over het algemeen tot tragere, minder stabiele convergentie vergeleken met cross-silo instellingen (weinig, betrouwbare cliënten) vanwege hogere statistische heterogeniteit en uitval.
- Intra-Class Variabiliteit (ICV): Hogere variabiliteit binnen een klasse (bijv. rommelige achtergronden in SVHN, diverse handschriften in FEMNIST) vergroot de gradiëntvariantie en vertraagt de convergentie.
- Inter-Class Separatie (ICS): Grotere marges tussen klassen (bijv. MNIST vs. Fashion-MNIST) versnellen de convergentie en verbeteren de uiteindelijke nauwkeurigheid.
Medium Impact:
- Label Skew: Natuurlijke label-imbalans (veelvoorkomend in cross-device data) zorgt voor een mismatch in cliëntgradiënten, wat de convergentie vertraagt en de nauwkeurigheid bij een eindig aantal rondes vermindert.
- Aantal Klassen: Meer klassen verminderen de inter-class separatie en vergroten de verwarring (bijv. CIFAR-10 vs. CIFAR-100), wat de convergentie vertraagt.
- Feature Dimensie: Hogere dimensionaliteit verhoogt de steekproefcomplexiteit en gradiëntvariantie, hoewel het effect secundair is aan de geometrie.
- Graph Homophily: Hogere homofilie stemt message passing af op label-smoothness, wat de convergentie versnelt in graph FL.
Lichte Impact:
- Aantal Samples: Het verhogen van het aantal samples helpt alleen als het de labeldekking vergroot of de variantie vermindert; anders verhoogt het primair de rekenkracht per ronde zonder de convergentie te versnellen.

De auteurs bieden een "trait-behavior map" (Tabel 3) en een pairwise relatieanalyse (Figuur 1), die aantonen dat geometrie (ICV/ICS) en herkomst de dominante drijfveren zijn, terwijl schaal (aantal samples) de minst invloedrijke factor is.

RQ2 & RQ3: Dataspanning en Simulatie

Het artikel benadlicht een aanzienlijk gat tussen synthetische simulatie en real-world implementatie:

Beperkingen van Simulatie: Standaard benchmarks gebruiken vaak eenvoudige, gelijke splitsingen of synthetische Dirichlet-distributies die er niet in slagen gekoppelde heterogeniteiten te vangen, zoals long-tailed cliëntgroottes, ontbrekende klassen, domeinverschuivingen en dynamische participatie.
Splitsingsstrategieën:
- Dirichlet-gebaseerd: De meest voorkomende synthetische methode, gecontroleerd door parameter $\alpha$ . Een kleine $\alpha$ creëert extreme skew; een grote $\alpha$ nadert IID.
- Natuurlijke Splitsing: Partitioneert data op basis van de werkelijke herkomst (bijv. gebruikers-ID, ziekenhuislocatie). Dit behoudt realistische heterogeniteit (bijv. FEMNIST, LEAF datasets), maar is moeilijker te controleren en te vergelijken.
- Cluster-gebaseerd & Temporeel: Groeperen op basis van geografie/gelijkenis of tijdsintervallen om specifieke applicatiescenario's na te bootsen.
Aanbeveling: De auteurs pleiten voor het geven van prioriteit aan natuurlijke splitsingen boven synthetische Dirichlet-splitsingen voor externe validiteit, terwijl synthetische baselines worden gebruikt voor gecontroleerde ablatie. Ze benadrukken het rapporteren van kwantitatieve heterogeniteitsdiagnostiek (bijv. cliënt-grootte distributie, klasse-dekking) om vergelijkbaarheid te garanderen.

RQ4: Kwetsbaarheden en Defense Trade-offs

Het artikel onderzoekt systematisch data-gerelateerde kwetsbaarheden (Poisoning, Evasion, Membership Inference, Unintended Leakage) en hun defensies met behulp van een Pareto frontier lens (Clean Utility vs. Under-Attack Utility):

Poisoning (Label Flipping/Backdoor): Defensies zoals FLDetector en DOS kunnen de succesratio van aanvallen reduceren tot bijna nul, terwijl ze de clean accuracy behouden of zelfs licht verbeteren. SparseFed biedt een grote reductie van aanvallen met een kleine daling in clean accuracy (~1–3 pp).
Evasion: Methoden zoals USD-FL (gebruikmakend van reserve-set scoring) en FedDef (pseudo-gradiënten) bereiken significante robuustheidswinsten met minimale verliezen in clean accuracy.
Membership Inference: Defensies zoals MIST, HAMP en Purifier drijven aanvalsmetrieken naar het niveau van toeval met verwaarloosbare of zelfs positieve effecten op de clean utility.
Onbedoelde Blootstelling (Replay Buffers): Technieken zoals KDRSFL en FedPMR mitigeren lekkage en catastrofaal vergeten met bijna nul kosten voor de nauwkeurigheid.
Inzicht in Trade-offs: De meeste goed ontworpen defensies verbeteren de robuustheid met een verwaarloosbare impact op de convergentie. Sterkere bescherming brengt doorgaans slechts een kleine kost met zich mee (1–3% daling in accuracy), terwijl Differential Privacy vaak grotere trade-offs vereist.

4. Betekenis en Claims

Het artikel claimt de eerste survey te zijn die een volledig, datacentrisch begrip biedt van de uitdagingen die de convergentie van FL beheersen. De betekenis ligt in:

Actiegerichte Begeleiding: Het destilleert duidelijke lessen voor praktijkgebruikers, waardoor zij systemen kunnen ontwerpen met voorspelbare convergentie en stabiliteit door te begrijpen hoe specifieke datakenmerken (bijv. ICV, ICS, herkomst) het optimalisatiegedrag dicteren.
Overbruggen van de Kloof: Het koppelt concrete databeslissingen (splitsingsprotocollen, datasetcuratie) direct aan optimalisatie-uitkomsten, waarbij het verder gaat dan abstracte theoretische grenzen naar de empirische realiteiten waargenomen in afbeeldingen, tekst en grafen.
Expliciete Trade-offs: Door defensies op een Pareto-front te mappen, verduidelijkt het wanneer robuustheidswinsten gepaard gaan met materiële kosten versus wanneer ze de bijna-zuivere nauwkeurigheid behouden.
Toekomstige Richtingen: De auteurs identificeren openstaande kwesties, met name met betrekking tot model-initialisatie (simpel vs. pre-trained) en de interactie ermee met non-IID data, waarbij zij opmerken dat er geen consensus bestaat over de vraag of specifieke initialisaties convergentie garanderen.

Het werk dient als een fundamentele gids voor onderzoekers en praktijkgebruikers om te navigeren door de complexe wisselwerking tussen data-heterogeniteit, partitioneringsstrategieën en beveiliging, wat uiteindelijk de weg vrijmaakt voor robuustere en meer uitgebreide federated learning-systemen.