Technische Samenvatting: CRAFT (Conflict-Resolved Aggregation for Federated Training)

1. Probleemstelling

Federated Learning (FL) maakt collaboratief modeltrainen mogelijk over gedecentraliseerde clients zonder ruwe data te delen. Een fundamentele bottleneck ontstaat echter door data-heterogeniteit (non-IID-verdelingen), wat leidt tot divergente lokale updates. Conventionele aggregatiemethoden, zoals FedAvg, berekenen gewogen gemiddelden van deze updates. Het artikel betoogt dat naïef middelen een globale update-richting kan opleveren die het globale doel verbetert, maar in conflict staat met specifieke clients (d.w.z. het inwendig product tussen de globale update en de lokale update van een client is negatief). Dit conflict leidt tot prestatiedegradatie voor die specifieke clients, resulterend in grote verschillen in per-client nauwkeurigheid en slechte eerlijkheid, zelfs als de gemiddelde globale nauwkeurigheid hoog is.

Bestaande benaderingen proberen dit te mitigeren via regularisatie (FedProx), normalisatie (FedNova), eerlijkheidsbewuste doelstellingen (AFL, q-FedAvg) of gepersonaliseerde modellen. Conflictbewuste methoden (FedFV, FedLF, ConFIG) zijn opgekomen om de geometrie van updates direct te manipuleren, maar ze vertrouwen vaak op heuristische regels of missen de integratie van temporale informatie om de resolutie te sturen.

2. Methodologie: Het CRAFT-kader

CRAFT herformuleert het aggregatieprobleem niet als een gewogen gemiddelde, maar als een geometrisch correctieprobleem. De kerndoelstelling is het vinden van een globale update-vector $g$ die zo dicht mogelijk bij een stabiele referentierichting ligt, terwijl strikte conflictvrije uitlijningsbeperkingen worden nageleefd.

2.1 Kernformulering

In plaats van een update van scratch te reconstrueren (zoals bij zero-prior methoden) of simpelweg te gladstrijken (zoals bij momentum-methoden), lost CRAFT een referentie-geankerd beperkt kleinste-kwadratenprobleem op:

$$\min_{g \in \mathbb{R}^d} \frac{1}{2} \|g - \hat{g}_t\|^2 \quad \text{s.t.} \quad U_t g = \rho_t$$

Waarbij:

• $\hat{g}_t$ de referentierichting is, gedefinieerd als de genormaliseerde globale update uit de vorige ronde ($\hat{g}_t = U(g_{t-1})$). Voor de eerste ronde is $\hat{g}_0 = 0$.
• $U_t$ de matrix is van genormaliseerde lokale updates van actieve clients ($u_i = g_i / (\|g_i\| + \epsilon)$).
• $\rho_t$ de vector is van positieve uitlijningsdoelen, typisch afgeleid van client-dataaandelen ($\rho_i = |D_i| / \sum |D_j|$).
• De beperking $U_t g = \rho_t$ ervoor zorgt dat de globale update $g$ een positief inwendig product heeft met de genormaliseerde update van elke deelnemende client, waardoor een conflictvrije richting wordt gegarandeerd.

2.2 Gesloten-vorm oplossing

Het probleem is onderbepaald (modeldimensie $d \gg$ aantal clients $m$). CRAFT leidt een gesloten-vorm oplossing af met behulp van de Moore-Penrose-pseudoinversie, waardoor de rekenkundige overhead van iteratieve oplosmethoden of kwadratische programmering wordt vermeden. De update wordt berekend als een correctie $\Delta_t$ op de referentie:

$$g_t = \hat{g}_t + \Delta_t, \quad \text{waarbij} \quad \Delta_t = U_t^\dagger (\rho_t - U_t \hat{g}_t)$$

Deze formulering zorgt ervoor dat als de referentierichting de beperkingen al voldoet, geen correctie wordt toegepast. Anders wordt de kleinste Euclidische correctie toegevoegd om uitlijning af te dwingen.

2.3 Laagsgewijze aanpassing

Omdat diepe neurale netwerken laagspecifieke optimalisatiedynamiek vertonen (bijvoorbeeld kunnen ondiepe lagen lijden onder verschuivingen in inputverdeling terwijl diepere lagen lijden onder label-scheefheid), implementeert CRAFT een laagsgewijze aanpassing. Het optimalisatieprobleem wordt ontbonden in $Q$ onafhankelijke subproblemen voor elke laag $q$, waarbij de correctie afzonderlijk wordt opgelost:
$$g^q_t = \hat{g}^q_t + (U^q_t)^\dagger (\rho_t - U^q_t \hat{g}^q_t)$$
Dit voorkomt dat ernstige conflicten in één laag nuttige componenten in andere onderdrukken.

2.4 Theoretische eigenschappen

Het artikel biedt een theoretische analyse die aantoont dat CRAFT een gemeenschappelijke-afdaalstructuur bevordert. Door niet-negatieve uitlijning met alle client-updates af te dwingen, worden conflicten gemitigeerd. De auteurs stellen eindige-tijd convergentiegaranties vast voor niet-convexe doelstellingen onder standaard-aannames van gladheid en begrenste gradiënten, waarbij een convergentiesnelheid van $O(1/\sqrt{T})$ wordt aangetoond die vergelijkbaar is met standaard niet-convexe optimalisatie, mits de lokale leersnelheid op passende wijze afneemt.

3. Belangrijkste bijdragen

1. Probleemherformulering: De auteurs stellen voor om federale aggregatie te herformuleren als een referentie-geankerd beperkt kleinste-kwadratenprobleem in plaats van een gewogen middelingregel. Dit dwingt direct positieve uitlijning af tussen de globale update en elke client.
2. Efficiënte gesloten-vorm oplossing: In tegenstelling tot iteratieve conflictoplossingsmethoden leidt CRAFT een expliciete oplossing af met behulp van de Moore-Penrose-correctie, waardoor serverzijde berekening lichtgewicht blijft ($O(dm^2 + Qm^3)$).
3. Momentum-achtige referentie: Het gebruik van de globale update van de vorige ronde als referentierichting stelt CRAFT in staat temporale consistentie te behouden en updates te stabiliseren tegen bemonsteringsruis, wat het onderscheidt van methoden die projecteren naar een nul-vector.
4. Laagsgewijze granulariteit: Het kader adresseert conflicten op het niveau van modellagen, waardoor het geschikt is voor diepe neurale netwerken waar globale vectorbeperkingen te grof kunnen zijn.
5. Plug-in uitbreidbaarheid: CRAFT is ontworpen als een generieke aggregatie-operator die gewogen middeling kan vervangen in bestaande gepersonaliseerde FL-pijplijnen (bijv. Ditto) zonder lokale aanpassingsmechanismen te wijzigen.

4. Experimentele resultaten

Uitgebreide experimenten werden uitgevoerd op heterogene benchmarks (FEMNIST, CIFAR-10, CIFAR-100) met verschillende modellen (MLP, CNN, ResNet-20/56/110) en clientpopulaties (tot 1000 clients).

• Globale prestaties: CRAFT presteerde consequent beter dan state-of-the-art baselines in gemiddelde nauwkeurigheid. Op CIFAR-10 met ResNet-20 werd een relatieve verbetering van 53,5% ten opzichte van ConFIG bereikt en een verbetering van 7,8% ten opzichte van FedAvgM op FEMNIST.
• Eerlijkheid en dispariteit: CRAFT verlaagde de standaardafwijking van per-client nauwkeurigheid aanzienlijk. Het verbeterde de prestaties van "staart"-clients (slechtste 10%) zonder "kop"-clients te offeren. Bijvoorbeeld, op CIFAR-10 verbeterde het de nauwkeurigheid van de slechtste 10% met 221,5% ten opzichte van FedLF.
• Convergentie: CRAFT toonde snellere convergentie en hogere uiteindelijke nauwkeurigheid, vooral op diepere netwerken waar andere methoden vaak te vroeg verzadigden of leden onder client-drift.
• Integratie in gepersonaliseerde FL: Wanneer geïntegreerd in het Ditto-kader, verbeterde CRAFT de gemiddelde testnauwkeurigheid met 19,7% op CIFAR-10 en 98,8% op CIFAR-100 ten opzichte van standaard Ditto, wat het vermogen aantoont om gepersonaliseerde pijplijnen te verbeteren.

5. Betekenis en claims

Het artikel claimt dat CRAFT een nieuw perspectief op aggregatieontwerp biedt, met een verschuiving van heuristische conflictoplossing naar een geometrisch onderbouwde, op beperkingen gebaseerde aanpak. De betekenis ligt in:

• Mitigatie van heterogeniteit: Het adresseert direct de oorzaak van eerlijkheidsproblemen in FL (conflicterende updates) in plaats van alleen doelstellingen aan te passen of lokaal trainen te regulariseren.
• Balans tussen nauwkeurigheid en eerlijkheid: Het bereikt hoge gemiddelde nauwkeurigheid terwijl het tegelijkertijd prestatieverschillen vermindert, een dubbel doel dat vaak moeilijk te bereiken is met bestaande methoden.
• Praktijktoepasbaarheid: De methode is rekenkundig efficiënt, vereist geen extra communicatie en is eenvoudig uitbreidbaar naar bestaande gepersonaliseerde FL-kaders.

De auteurs erkennen beperkingen, waarbij ze opmerken dat de huidige referentierichting een eenvoudige momentum-achtige prior is en dat de uitlijningsdoelen gebaseerd zijn op data-aandelen. Zij suggereren dat toekomstig werk adaptieve referenties of doelen kan verkennen op basis van trainingsvoortgang en eerlijkheidseisen. Echter, het huidige werk vestigt CRAFT als een robuust, conflictvrij aggregatiemechanisme voor heterogene federale training.