Federated Learning by Utility-Constrained Stochastic Aggregation for Improving Rational Participation

Technische Samenvatting: FedUCA – Federatief Leren door Stochastische Aggregatie met Gebruiksgerelateerde Beperkingen

Probleemstelling
Standaard algoritmen voor Federatief Leren (FL), zoals FedAvg, veronderstellen impliciet dat clients passief meewerken aan serverzijde-orkestratie. Echter, in cross-silo-omgevingen (bijvoorbeeld ziekenhuizen, ondernemingen) zijn clients rationele actoren die niet-triviale operationele kosten maken (rekenkracht, naleving, infrastructuur). Bijgevolg wordt deelname een strategische beslissing: een client zal alleen samenwerken als de waargenomen nuttigheid van het globale model strikt hoger is dan de lokale basislijn. Onder aanzienlijke statistische heterogeniteit voldoet een enkel deterministisch aggregatievector vaak niet aan de diverse individuele rationaliteit (IR)-drempels van alle deelnemers tegelijkertijd. Dit leidt tot uitval van clients, waarbij rationele clients afhaken, wat resulteert in een ineenstorting van de prestaties van het globale model en een verslechtering van het federatieproces.

Methodologie
De auteurs stellen FedUCA voor, een raamwerk dat de rol van de server herformuleert als een optimizer die streeft naar het maximaliseren van de prestaties van het globale model door client-participatie te handhaven via nuttigheidsbeperkte stochastische aggregatie.

1. Model voor Rationele Participatie:

   • Clients worden gemodelleerd als rationele actoren die het globale model $\theta_t$ evalueren tegen hun lokale basislijn met behulp van een validatieset.
   • Participatie is conditioneel: een client $k$ participeert dan en slechts dan als zijn nuttigheid $u_k(r_k; \zeta_k) \ge \gamma_k$, waarbij $r_k$ het aggregatiegewicht is, $\zeta_k$ de nuttigheidsparameters zijn, en $\gamma_k$ de minimaal acceptabele drempel is.
   • Het artikel veronderstelt dat de clientnuttigheid een concave functie is van het aggregatiegewicht. Dit vangt afnemende marginale opbrengsten: een client profiteert van verhoogde invloed tot een optimaal punt, waarbeyond oververtegenwoordiging de generalisatie verslechtert.

2. Stochastische Aggregatie en de Jensen-gat:

   • In plaats van het optimaliseren van een enkel deterministisch gewichtsvector, genereert de server een set van $n_s$ kandidaat-aggregatiestrategieën $\{r^j_k\}$ die zijn bemonsterd uit een verdeling $s$.
   • De verdeling $s$ is vast en bemonsterd uit een Dirichlet-verdeling gekenmerkt door een concentratieparameter $\delta$.
   • Het kernmechanisme maakt gebruik van het Jensen-gat: vanwege de concaviteit van clientnuttigheden is de nuttigheid van de verwachte aggregatiegewicht groter dan of gelijk aan de verwachte nuttigheid van de willekeurige aggregatiegewichten ($u_k(\mathbb{E}[r]) \ge \mathbb{E}[u_k(r)]$).
   • Dit gat creëert een impliciet nuttigheidsoverschot. Door te optimaliseren over een mengsel van strategieën, kan de server voldoen aan de IR-beperkingen van heterogene clients die een enkel deterministisch vector niet zou kunnen vervullen.

3. Optimalisatieformulering:

   • De server lost een beperkt haalbaarheidsprobleem op om aggregatiegewichten te vinden die voldoen aan $\sum s_i u_k(r^i_k) \ge \gamma_k + \epsilon$.
   • Als de optimalisatie faalt om aan alle clients te voldoen, zorgt een fallbackmechanisme ervoor dat ten minste één client participeert om degeneratieve updates te voorkomen.
   • De Dirichlet-concentratieparameter $\delta$ moduleert de geometrie van het strategie-mengsel. Theoretische analyse toont aan dat het verwachte Jensen-gat (en dus de haalbaarheid van participatie) niet-monotoon is met betrekking tot $\delta$, met een piek bij intermediaire waarden.

4. Convergentieanalyse:

   • Het artikel biedt een convergentiekarakterisering voor dit endogeen systeem waarbij participatiesets en aggregatiegewichten co-evolueren.
   • De convergentiebound bevat een term voor aggregatieverschil ($E_{agg}$), die de vertekening vertegenwoordigt die wordt geïntroduceerd door af te wijken van de doelwitdoelwitgewichten om aan IR-beperkingen te voldoen. Dit verschil is begrensd door de Dirichlet-parameter $\delta$ en het aantal strategieën $n_s$.

Belangrijkste Bijdragen

• FedUCA-raamwerk: Introduceert een niet-monetaire, prestatiegedreven aggregatieraamwerk dat servercoördinatie behandelt als een beperkt haalbaarheidsprobleem om individuele rationaliteit te bevredigen.
• Jensen-overschotmechanisme: Demonstreert dat het optimaliseren van een Jensen-ondergrens over meerdere aggregatiestrategieën een nuttigheidsoverschot induceert onder concave nuttigheden, dienend als een robuustheidsbuffer tegen heterogeniteit.
• Stochastisch Mechanisme: Stelt een Dirichlet-bemonsterd mengselgewichtmechanisme voor waarbij de concentratieparameter $\delta$ het geïnduceerde Jensen-overschot en de haalbaarheid van participatie reguleert.
• Convergentiekarakterisering: Biedt de eerste convergentieanalyse voor een federatief systeem van deze endogene aard, waarbij het aggregatieverschil direct wordt gekoppeld aan de mechanismedesignparameter $\delta$.

Experimentele Resultaten
De auteurs hebben FedUCA geëvalueerd op CIFAR-10, CIFAR-100, F-MNIST en 20 Newsgroups onder variërende graden van data-heterogeniteit (Dirichlet-splitsingen).

• Deelnamepercentages: Onder rationele participatiebeperkingen leden standaard baselines (FedAvg, FedProx, AAggFF-S) aan zelfversterkende ineenstorting, met deelname die daalde tot onder de 12% op CIFAR-10. IncFL verbeterde dit maar plateauerde rond de 35%. FedUCA handhaafde deelnamepercentages tussen 51% en 54%.
• Globale Nauwkeurigheid: FedUCA behaalde aanzienlijk hogere nauwkeurigheid van het servermodel vergeleken met baselines. Bijvoorbeeld, op CIFAR-10 met Dirichlet(0.5, 1.0) behaalde FedUCA 66,89% nauwkeurigheid versus 16,63% voor FedAvg en 32,35% voor IncFL.
• Parametergevoeligheid: Experimenten bevestigden de theoretische voorspelling dat de Dirichlet-concentratieparameter $\delta$ een niet-monotoon effect heeft op participatie, met optimale prestaties waargenomen in het bereik $\delta \in [0,5, 1,0]$.

Betekenis en Beweringen
Het artikel beweert dat FedUCA een praktische, niet-monetaire alternatief biedt voor evenwichtsgebaseerde en prikkelgedreven benaderingen (zoals contracttheorie of prijsstellingsmechanismen). Door aggregatie te herformuleren als een haalbaarheidsprobleem onder rationele participatie, maakt FedUCA stabiele cross-silo-samenwerking mogelijk zonder externe beloningen of complexe strategische modellering te vereisen. De auteurs benadrukken dat het door het mechanisme geïnduceerde aggregatieverschil een wiskundig voetafdruk is van rationeel participatiemanagement, direct gecontroleerd door de Dirichlet-parameter, waardoor de lus tussen mechanismedesign en optimalisatietheorie effectief wordt gesloten. Het werk valideert dat strategische randomisatie niet louter een heuristiek is, maar een wiskundig onderbouwde methode om het Jensen-gat te overbruggen en participatie te stabiliseren in rationele FL-omgevingen.