🤖 machine learning

Who Trains Matters: Federated Learning under Enrollment and Participation Selection Biases

Dit artikel adresseert de aanhoudende prestatiekloof in federatief leren die wordt veroorzaakt door zowel inschrijvings- als participatie-selectievooroordeels door een tweestapsselectiemodel te formaliseren en \textsc{FedIPW} voor te stellen, een aggregatieschema op basis van inverse-kansweging dat doelstellingen voor de doelgroep effectief herstelt, zelfs wanneer covariaten op clientniveau beperkt zijn.

Oorspronkelijke auteurs: Gota Morishita

Gepubliceerd 2026-04-30

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Gota Morishita

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je probeert de perfecte taart te bakken voor een hele stad. Om dit te doen, vraag je duizenden thuisbakkers om je een klein stukje van hun beslag te sturen, zodat je het kunt mengen en het ideale recept kunt achterhalen. Dit is in wezen hoe Federated Learning (FL) werkt: in plaats van alle data op één plek te verzamelen, vraagt een centrale server veel apparaten (zoals telefoons) om lokaal een model te trainen en alleen de "updates" (de stukjes beslag) terug te sturen.

Het probleem, zoals dit artikel uitlegt, is dat wie je vraagt om beslag te sturen, net zo belangrijk is als hoe je het mengt.

De twee-trapsfilter: wie komt er binnen?

Het artikel betoogt dat in het echte leven de bakkers van wie je uiteindelijk hoort zelden een perfecte dwarsdoorsnede van de hele stad vormen. Dit gebeurt in twee distincte fasen, zoals een tweestapscontrole bij een concert:

De "Inschrijvings" Bias (Wie krijgt de uitnodiging?):
Eerst moet je in aanmerking komen om aan het project deel te nemen. Misschien heb je een specifiek type telefoon nodig, een bepaalde softwareversie, of moet je gewoon op "Ik Ga Akkoord" klikken op een toestemmingsformulier. Als je telefoon oud is of je in een gebied met slechte internetverbinding woont, krijg je de uitnodiging nooit. Je wordt eruit gefilterd voordat het spel zelfs begint. Het artikel noemt dit Inschrijvings Bias.
- Analogie: Stel je voor dat je alleen mensen uitnodigt die een rode auto bezitten voor je bakclub. Zelfs als je iedereen met een rode auto vraagt deel te nemen, heb je al iedereen gemist met een blauwe auto, een fiets of helemaal geen voertuig. Je "bakclub" is al vertekend.
De "Deelnemings" Bias (Wie komt er daadwerkelijk opdagen?):
Tweede, zelfs onder de mensen die wel een uitnodiging kregen, komt niet iedereen naar elke vergadering. Misschien is hun batterij leeg, is hun internet wisselvallig, of is het 3 uur 's nachts in hun tijdzone. Ze zijn ingeschreven, maar ze nemen niet deel aan die specifieke ronde. Het artikel noemt dit Deelnemings Bias.
- Analogie: Zelfs als je iedereen met een rode auto uitnodigde, rijden misschien alleen degenen die wakker zijn en een volle tank hebben daadwerkelijk naar de vergadering.

Het probleem: de verkeerde taart bakken

De meeste bestaande methoden proberen het tweede probleem op te lossen (wie er opdagen). Ze zeggen: "Oké, de mensen die vanavond opdagen zijn voornamelijk nachtploegwerkers; laten we het recept aanpassen om rekening te houden daarmee."

Maar dit artikel wijst op een groter probleem: Als de mensen die in de eerste plaats werden uitgenodigd (de eigenaren van rode auto's) niet lijken op de rest van de stad, helpt het oplossen van het "wie er opdagen"-gedeelte niet. Je kunt het perfect aanpassen voor de nachtploegwerkers, maar je bakt nog steeds een taart die volledig gebaseerd is op eigenaren van rode auto's. Het eindresultaat zal heerlijk smaken voor eigenaren van rode auto's, maar vreselijk voor iedereen anders.

Het artikel noemt dit een "Mismatch met de Doelpopulatie". Het model leert om de mensen te bedienen die bereikbaar zijn, niet de mensen die het moet bedienen.

De oplossing: een gewogen weegschaal (FedIPW)

Om dit op te lossen, stelt de auteur een nieuwe methode voor genaamd FedIPW (Federated Inverse Probability Weighting).

Stel je dit voor als het gebruik van een gewogen weegschaal in plaats van een eenvoudig gemiddelde.

De oude manier (FedAvg): Als 10 mensen updates sturen, geef je elke persoon 1/10e van het gewicht.
De nieuwe manier (FedIPW): Je kijkt naar wie er niet opdook en vraagt: "Waarom?"
- Als een groep mensen (bijvoorbeeld mensen met Android-telefoons) zelden wordt uitgenodigd vanwege strikte softwareregels, maar ze doen wel opdagen wanneer ze worden uitgenodigd, geeft het algoritme hun updates extra gewicht.
- Als een groep (bijvoorbeeld mensen met nieuwe iPhones) vaak wordt uitgenodigd maar zelden opdagen, worden hun updates ook zorgvuldig gewogen om degenen die wel opdagen te vertegenwoordigen.

Door de updates wiskundig te "herwegen" op basis van de kans om uitgenodigd te worden en de kans om op te dagen, kan de server reconstrueren wat de "gemiddelde stadsbakker" zou hebben bijgedragen, zelfs als ze nooit daadwerkelijk een stukje beslag hebben gestuurd.

Wat als we niet alle details hebben? (De "Beperkte Informatie"-oplossing)

Soms weet de server niet de details van de mensen die niet werden uitgenodigd (bijvoorbeeld: het weet niet hoeveel mensen in de stad oude telefoons hebben). Het weet alleen het grote plaatje (bijvoorbeeld: "20% van de stad gebruikt Android").

In dit geval suggereert het artikel een Calibratie-truc.

Analogie: Stel je voor dat je bakt met een steekproef van bakkers, maar je kent de exacte demografie van de hele stad niet. Je hebt echter een volkstelling die zegt: "De stad is 50% mannen en 50% vrouwen."
Als je steekproef van bakkers 80% mannen is, kun je de vrouwen niet gewoon negeren. In plaats daarvan geef je de updates van mannen minder gewicht en die van vrouwen meer gewicht totdat je steekproef eruit ziet als het volkstellingsrapport (50/50).
Dit lost niet alles perfect op, maar het brengt je veel dichter bij het juiste recept dan niets doen.

De waarschuwing voor de "Bias-vloer"

Het artikel waarschuwt ook voor een "Bias-vloer".
Stel je voor dat je probeert een bullseye te raken. Als je het doel net mist omdat je aim onstabiel is (willekeurige fout), kun je met oefening beter worden. Maar als je geweer krom is (structurele fout), zul je altijd het midden missen, hoe veel je ook oefent.

Het artikel bewijst dat als je de "Inschrijvings"-fase negeert (het kromme geweer), je een Bias-vloer bereikt. Hoeveel trainingsrondes je ook doet, het model zal nooit de ware beste oplossing voor de hele populatie bereiken. Het blijft vastzitten in een "goed genoeg" zone die eigenlijk verkeerd is voor de mensen om wie je geeft.

Samenvatting

Het probleem: Federatief leren faalt vaak omdat de mensen die meedoen aan de training (inschrijving) en de mensen die daadwerkelijk deelnemen, niet representatief zijn voor de hele populatie.
De oplossing: Gebruik een tweestapscorrectie (FedIPW) die de updates wiskundig weegt om rekening te houden met wie er in het begin werd uitgesloten en wie er uitviel tijdens het proces.
De les: Het is niet genoeg om alleen te fixeren wie er opdagen bij de vergadering; je moet ook fixeren wie er in de eerste plaats voor de vergadering werd uitgenodigd. Als je dit niet doet, zal je model vertekend zijn naar een specifieke groep, hoe slim het algoritme ook is.

1. Probleemstelling

Federated Learning (FL) beoogt een globaal model te trainen op een doelpopulatie van gedistribueerde clients zonder ruwe data te centraliseren. Standaardalgoritmen (bijv. FedAvg) gaan impliciet uit van het feit dat de clients die deelnemen aan elke communicatieronde een representatieve steekproef vormen van de doelpopulatie. In de praktijk faalt deze aanname echter vaak door selectiebias, die het artikel identificeert als optredend in twee distincte fasen:

Inschrijvingsbias (Enrollment Bias): Bepaald door toelatingsregels (apparaatbeperkingen, softwarevereisten, gebruikerstoestemming) die bepalen welke clients überhaupt bereikbaar zijn voor training. Dit creëert een mismatch tussen de ingeschreven pool en de doelpopulatie.
Deelnemingsbias (Participation Bias): Bepaald door dynamische factoren (batterij, netwerk, lokale tijd) die bepalen welke ingeschreven clients daadwerkelijk deelnemen aan een specifieke communicatieronde.

Het Kernprobleem: Bestaande literatuur adresseert voornamelijk deelnemingsbias op rond-niveau. Het artikel betoogt echter dat zelfs als deelnemingsbias perfect wordt gecorrigeerd, inschrijvingsbias een aanhoudende mismatch induceert tussen het trainingsdoel (optimaliseren voor de ingeschreven subset) en het doel van de doelpopulatie. Als de ingeschreven pool niet representatief is, convergeert het model naar een suboptimale oplossing voor de beoogde populatie.

2. Methodologie

Het artikel formaliseert FL onder een tweefasen-selectiemodel en stelt een debiasing-framework voor gebaseerd op Inverse Probability Weighting (IPW).

A. Tweefasen-Selectie Framework

De auteurs modelleren client-opname als een causaal proces:

Fase 1 (Inschrijving): Een client $i$ wordt ingeschreven ( $E_i=1$ ) met waarschijnlijkheid $\pi^{enroll}_i = P(E_i=1 | Z_i)$ , waarbij $Z_i$ pre-inschrijvingscovariaten zijn (bijv. apparaattype, regio).
Fase 2 (Deelneming): Voorwaardelijk op inschrijving, neemt client $i$ deel aan ronde $r$ ( $A_{i,r}=1$ ) met waarschijnlijkheid $\pi^{part}_{i,r} = P(A_{i,r}=1 | E_i=1, Z_i, X_{i,r})$ , waarbij $X_{i,r}$ pre-ronde covariaten zijn (bijv. batterij, netwerk).

De totale opnamekans factoriseert als:
$p_{i,r} = \pi^{enroll}_i \times \pi^{part}_{i,r}$

B. Het Voorgestelde Algorithmus: FedIPW

Om de gemiddelde update van de doelpopulatie te herstellen, stellen de auteurs FedIPW (Federated Inverse Probability Weighting) voor.

Mechanisme: In plaats van updates gelijk te middelen, weegt de server de update $\Delta_{i,r}$ van elke client af met het omgekeerde van hun opnamekans:
$\hat{\bar{\Delta}}_r = \frac{1}{N} \sum_{i: A_{i,r}=1} \frac{\Delta_{i,r}}{\hat{p}_{i,r}}$
Schatting: Omdat ware kansen onbekend zijn, schat FedIPW de twee componenten apart:
1. $\hat{\pi}^{enroll}_i$ wordt geschat met behulp van pre-inschrijvingscovariaten en inschrijvingsindicatoren (vereist populatieniveau-data).
2. $\hat{\pi}^{part}_{i,r}$ wordt geschat onder ingeschreven clients met behulp van ronde-niveau covariaten.
Theoretische Garantie: Onder aannames van onafhankelijkheid en positiviteit biedt FedIPW een onbevooroordeelde schatter van de gemiddelde update van de doelpopulatie.

C. Uitbreiding met Beperkte Informatie: Aggregatie-Calibratie

In veel real-world scenario's zijn individuele covariaten voor niet-ingeschreven clients niet beschikbaar, waardoor volledige inschrijvings-IPW onmogelijk is.

Oplossing: De auteurs introduceren een Aggregate-Calibration-uitbreiding.
Methode: Hierbij wordt de ingeschreven steekproef opnieuw gewogen zodat de gewogen verdeling van pre-inschrijvingscovariaten (bijv. regio, OS-versie) overeenkomt met bekende aggregatiesamenvattingen van de doelpopulatie (bijv. volkstellinggegevens).
Rol: Dit fungeert als een partiële correctie voor inschrijvingsbias wanneer volledige individuele data ontbreekt.

3. Belangrijkste Bijdragen

Formalisatie van Tweefasen-Selectie: Het artikel onderscheidt inschrijvingsbias van deelnemingsbias en formaliseert deze als een sequentieel causaal proces. Het toont aan dat het negeren van inschrijvingsbias leidt tot een structurele mismatch die door correcties alleen op deelnemingsniveau niet kan worden opgelost.
FedIPW Algorithmus: Afleiding van een aggregatieschema met inverse-kans-gewogening dat het doel van de doelpopulatie herstelt onder standaardaannames.
Optimalisatieanalyse met Biasvloer: De auteurs bieden een algoritme-onafhankelijke analyse die aantoont dat residuele wegingsfouten (door schattingsfouten of structurele misspecificatie, zoals het weglaten van het inschrijvingsstadium) een niet-verdwijnende biasvloer induceren.
- De foutgrens decomposeert in een transiënte term, een variantieterm en een biasvloer evenredig met $\epsilon_w^2 G^2 / \mu$ , waarbij $\epsilon_w$ de wegingsfout is en $G$ de gradient-heterogeniteit.
- Dit bewijst dat onvolledige selectiecorrectie (bijv. alleen deelneming corrigeren) resulteert in aanhoudende suboptimaliteit.
Aggregatie-Calibratie: Een praktische methode voor regimes met beperkte informatie die populatiesamenvattingen gebruikt om inschrijvingsbias gedeeltelijk te mitigeren.

4. Experimentele Resultaten

De auteurs valideren hun theorie met synthetische federale logistische regressie, waarbij het ware optimum van de doelpopulatie nauwkeurig kan worden berekend.

Doelmismatch: Naïef FedAvg convergeert naar een "opgeleide-client-oplossing" met een aanzienlijk hogere verlieswaarde voor de doelpopulatie in vergelijking met het ware optimum.
FedIPW Prestaties: FedIPW herstelt succesvol het doel van de doelpopulatie en volgt nauwkeurig de "Oracle" (ideale) prestaties, zelfs naarmate inschrijvingsbias toeneemt.
Falen van Alleen Deelneming: Methoden die alleen deelnemingsbias op rond-niveau corrigeren, verbeteren weliswaar ten opzichte van FedAvg, maar halen het optimum niet naarmate inschrijvingsbias sterker wordt, wat het bestaan van de biasvloer bevestigt.
Aggregatie-Calibratie: In situaties waar individuele data van niet-ingeschreven clients ontbreekt, reduceert aggregatie-calibratie de residuele fout die door deelnemings-only methoden achterblijft aanzienlijk, hoewel het gevoelig is voor ruis in de populatiesamenvattingen.

5. Betekenis en Implicaties

Paradigmaverschuiving: Het artikel betoogt dat "wie überhaupt kan trainen" (inschrijving) even kritisch is als "wie deelneemt aan een ronde" (deelneming). Huidige FL-debiasing-inspanningen die zich uitsluitend richten op selectie op rond-niveau zijn onvoldoende als de ingeschreven pool niet representatief is.
Structurele versus Statistische Fout: De analyse onderscheidt statistische schattingsfouten (die kunnen worden verminderd met betere modellen) van structurele misspecificatie (bijv. het weglaten van het inschrijvingsstadium), wat een niet-reduceerbare biasvloer creëert.
Praktische Richtlijnen: Het werk biedt een routekaart voor praktici:
1. Als individuele data voor niet-ingeschreven gebruikers beschikbaar is, gebruik dan FedIPW met tweefasen-gewichting.
2. Als alleen aggregatie-populatiedata beschikbaar is, gebruik dan Aggregate Calibration om inschrijvingsbias gedeeltelijk te corrigeren.
3. Zich uitsluitend verlaten op deelnemingscorrectie is theoretisch onvoldoende om populatie-uitgelijnde doelen te bereiken in heterogene omgevingen.

Kortom, dit artikel stelt vast dat het bereiken van een model dat representatief is voor de doelpopulatie in FL vereist dat selectiebias wordt gecorrigeerd op beide het inschrijvings- en het deelnemingsstadium, en biedt een rigoureus wiskundig kader en praktische algoritmen om dit te bereiken.