🤖 machine learning

Federated Learning with Energy-Based Structured Probabilistic Inference

Dit artikel stelt een federated learning-framework voor dat Conditional Random Fields gebruikt om de aggregatiewichten van clients dynamisch te optimaliseren door zowel individuele betrouwbaarheid als interacties tussen clients te modelleren, waardoor de convergentie van het globale model onder non-IID data-heterogeniteit wordt verbeterd.

Oorspronkelijke auteurs: Dario Fenoglio, Daniil Kirilenko, Martin Gjoreski, Marc Langheinrich

Gepubliceerd 2026-06-30

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Dario Fenoglio, Daniil Kirilenko, Martin Gjoreski, Marc Langheinrich

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Grote Plaatje: Een Groepsproject met een Problematische Docent

Stel je een klaslokaal voor waar een docent (de Server) een perfect essay (het Globale Model) wil schrijven op basis van aantekeningen van 10 verschillende leerlingen (de Clients).

De standaard manier om dit te doen (Federated Learning) is dat de docent elke leerling vraagt om een paragraaf te schrijven op basis van hun eigen privé-notitieboekje. Daarna middelt de docent simpelweg alle paragrafen samen om de definitieve versie te maken.

Het Problek:
In de echte wereld hebben leerlingen verschillende notitieboekjes. Sommigen hebben geweldige aantekeningen, anderen hebben slordige krabbels, en sommigen schrijven over totaal andere onderwerpen (dit wordt Non-IID data of "heterogeniteit" genoemd).

Als Leerling A 100 pagina's aan aantekeningen heeft en Leerling B slechts 1, geeft de docent meestal de mening van Leerling A meer gewicht, simpelweg omdat ze meer pagina's hebben.
Maar wat als de 100 pagina's van Leerling A eigenlijk fout zijn? Of wat als de 1 pagina van Leerling B briljant is, maar wordt overstemd?
Huidige methoden proberen dit op te lossen door "outliers" (leerlingen die te veel afwijken) te negeren, maar ze gooien vaak goede informatie weg samen met de slechte. Ze gebruiken rigide, "one-size-fits-all" regels.

De Oplossing: Een "Slimme Redacteur" met een Glazen Bol

Dit paper stelt een nieuwe manier voor waarop de docent kan beslissen hoeveel hij elke leerling moet vertrouwen. In plaats van alleen maar pagina's te tellen of blindelings uitschieters te negeren, gebruikt de docent een Slimme Redacteur die wordt aangedreven door Conditional Random Fields (CRFs).

Zie de CRF als een detective die naar de relaties tussen de aantekeningen van de leerlingen kijkt, en niet alleen naar de aantekeningen zelf.

Hoe de "Slimme Redacteur" werkt

De redacteur gebruikt twee soorten aanwijzingen om te beslissen wie de "hoofdschrijver" mag zijn voor de volgende paragraaf:

1. De Solo-Check (Unary Potentials)
Eerst kijkt de redacteur naar elke leerling individueel.

De Metafoor: Stel je voor dat de docent een "Gouden Standaard" referentieboek heeft. De redacteur controleert: "Ziet de aantekening van Leerling A eruit alsof hij in dit boek thuishoort? Is het te vreemd? Is het te kort of te lang?"
Als de aantekening van een leerling vreemd is of niet bij de algemene sfeer past, krijgt deze een lage "vertrouwensscore".

2. De Groepscheck (Pairwise Potentials)
Dit is het slimme gedeelte. De redacteur kijkt naar hoe leerlingen zich tot elkaar verhouden.

De Metafoor: Stel je voor dat de leerlingen in een cirkel zitten. Als Leerling A en Leerling B allebei heel vergelijkbare, zinvolle dingen schrijven, denkt de redacteur: "Hé, deze twee zijn het met elkaar eens! Ze weten waarschijnlijk waar ze het over hebben."
Maar als Leerling C iets totaal anders schrijft dan de rest, wordt de redacteur achterdochtig. "Leerling C is een eiland. Missie is misschien in de war."
Het systeem moedigt leerlingen die het met elkaar eens zijn aan om samen een hogere vertrouwensscore te krijgen.

Het Resultaat: Een Beter Definitief Essay

Zodra de redacteur dit detectivewerk heeft voltooid, middelt hij de aantekeningen niet zoma van een gemiddelde. Hij creëert een gepersonaliseerd wegingsysteem:

Hij geeft meer gewicht aan leerlingen die individueel betrouwbaar zijn en het eens zijn met hun betrouwbare leeftgenoten.
Hij geeft minder gewicht aan leerlingen die vreemd of geïsoleerd zijn, zelfs als ze veel data hebben.

Wat de Experimenten Lieten Zien

De auteurs testten deze "Slimme Redacteur" op drie verschillende "klaslokalen" (datasets: MNIST, CIFAR-10 en CIFAR-100) waar de leerlingen zeer slordige, verschillende aantekeningen hadden (Non-IID data).

De Oude Manier (FedAvg): De docent middelde gewoon alles. Dit werkte redelijk bij eenvoudige taken, maar kreeg problemen wanneer de leerlingen erg verschillend waren.
De Nieuwe Manier (CRF-gestuurd): De docent gebruikte de detective-logica.
- Op de moeilijkste taken (zoals CIFAR-100) produceerde de nieuwe methode een veel beter definitief essay (hogere nauwkeurigheid).
- Het leerde sneller en kwam niet zo snel vast te zitten als de oude methoden.

Waarom Dit Belangrijk Is (Volgens het Paper)

Het paper betoogt dat we de updates van clients niet alleen als getallen moeten behandelen die gemiddeld worden. We moeten ze behandelen als een groepsdynamiek.

Oude Logica: "Je hebt meer data, dus je telt meer." OF "Je wijkt te veel af, dus ik negeer je."
Nieuwe Logica: "Je bent op jezelf betrouwbaar, EN je bent het eens met je betrouwbare vrienden, dus jij bent de belangrijkste stem op dit moment."

Genoemde Beperkingen

De auteurs geven toe dat hun "Slimme Redacteur" een beetje zwaar is voor de computer van de docent (de server), omdat hij elke leerling met elke andere leerling moet vergelijken. Als er duizenden leerlingen zijn, kost dit veel tijd. Ze suggereren dat ze voor enorme groepen de "groepscheck" later wellicht moeten vereenvoudigen.

Kortom: Dit paper leert de AI-server om een betere beoordelaar van karakter te zijn, waarbij gekeken wordt naar zowel individuele prestaties als groepsconsensus om een slimmer, nauwkeuriger model te bouwen.

Technische Samenvatting: Federated Learning met Energie-gebaseerde Gestructureerde Probabilistische Inferentie

Probleemstelling
Federated Learning (FL) vertrouwt doorgaans op Federated Averaging (FedAvg), waarbij de server de lokale modelupdates van clients aggregeert met gewichten die proportioneel zijn aan de lokale steekproefomvang. Hoewel eenvoudig, is deze heuristiek suboptimaal wanneer clients beschikken over heterogene datadistributies (niet-IID). In dergelijke settings behandelen vaste wegingsregels alle geschaalde updates als even betrouwbaar, wat leidt tot client-drift, trage convergentie of instabiele training. Bestaande oplossingen, zoals proximale termen (FedProx), controlevariabelen (SCAFFOLD) of robuuste aggregatieregels (bijv. afgestrimde mediaan, geometrische mediaan), pakken specifieke faalmodi aan, maar vertrouwen over het algemeen op vaste heuristieken. Ze slagen er niet in om zowel de individuele betrouwbaarheid van clients als de interacties tussen clients expliciet te modelleren binnen een verenigd inferentiekader.

Methodologie
De auteurs stellen voor om het aggregatieprobleem aan de serverzijde te herformuleren als een energie-gebaseerde gestructureerde probabilistische inferentie-taak met behulp van Conditional Random Fields (CRF's). Het kernidee is om discrete "betrouwbaarheidslabels" voor elke client af te leiden op basis van hun lokale modelupdates, in plaats van enkel te vertrouwen op steekproefomvang.

Grafische Formulering:
- Nodes (Knopen): De deelnemende clients in een communicatieronde.
- Observaties ( $x$ ): De lokale modelupdate-vectoren (delta's) en steekproefomvang.
- Latente Variabelen ( $y$ ): Discrete betrouwbaarheidslabels (bijv. $\{0, 0.25, 1\}$ ), waarbij hogere waarden duiden op een groter vertrouwen in de update.
Energiefunctie:
De CRF definieert een energiefunctie $E(y|x)$ bestaande uit twee potentialen:
- Unary Potentialen ( $\psi_u$ ): Meten de individuele betrouwbaarheid van een client. De server berekent een robuuste referentie-update (coördinaat-gewijze mediaan van alle client-delta's). Vervolgens leidt de server drie genormaliseerde statistieken voor elke client af: cosinus-overeenkomst met de referentie, relatieve afstand tot de referentie, en een robuuste update-norm anomalie-score. Deze worden gecombineerd via een sigmoidfunctie om een betrouwbaarheidsscore te genereren, die de unary potentiaal initialiseert.
- Pairwise Potentialen ( $\psi_p$ ): Stimuleren consistentie tussen clients met vergelijkbare updates. De affiniteit tussen client $i$ en $j$ wordt gedefinieerd door de cosinus-gelijkenis van hun updates, afgezwakt door het minimum van hun individuele betrouwbaarheidsscores. Clients met een hoge affiniteit worden gestraft als ze divergente betrouwbaarheidslabels toegewezen krijgen.
Inferentie en Aggregatie:
- Aangezien exacte Maximum a Posteriori (MAP) inferentie onhandelbaar is voor een volledig verbonden graaf, gebruiken de auteurs een mean-field benadering. Dit werkt iteratief aan de posterieure distributie van de betrouwbaarheidslabels voor elke client, gebaseerd op unary scores en de verwachte kosten van buren.
- De uiteindelijke aggregatie-weging voor een client is het product van de basis FedAvg-weging (steekproefomvang) en de afgeleide verwachte betrouwbaarheid. Deze verfijnde wegingsfactor wordt gebruikt om het nieuwe globale model te berekenen.

Belangrijkste Bijdragen

Formulering: Het artikel formuleert de server-aggregatie in FL als een energie-gebaseerd gestructureerd inferentieprobleem over client-betrouwbaarheidsvariabelen.
Instantiatie: Het implementeert een volledig verbonden client-niveau CRF waarbij unary potentialen worden afgeleid van robuuste update-statistieken (mediaan-gebaseerd) en pairwise potentialen worden afgeleid van update-affiniteit.
Algoritme: Het stelt een mean-field aggregatie-algoritme voor dat compatibel is met standaard FedAvg trainingsloops en geen wijzigingen vereist aan de client-zijde optimalisatie.
Evaluatie: De methode wordt geëvalueerd tegen standaard FL-baselines (FedAvg, FedProx, FedNova) en robuuste aggregatiemethoden (Krum, afgestrimde mediaan, geometrische mediaan, RFA).

Experimentele Resultaten
De auteurs hebben de aanpak geëvalueerd op MNIST, CIFAR-10 en CIFAR-100 onder extreme non-IID condities (Dirichlet label-skew met $\alpha=0.003$ en $\alpha=0.1$ ).

Prestaties: De CRF-gestuurde aanpak (CRF-FedAvg en CRF-FedProx) presteerde consistent beter dan de vaste en robuuste aggregatie-baselines over alle datasets.
Significantie van de Winsten: Hoewel de verbeteringen op MNIST bescheiden waren (omdat de meeste methoden een hoge nauwkeurigheid bereikten), waren de winsten op CIFAR-10 en CIFAR-100 duidelijker aanwezig. CRF-FedProx behaalde de hoogste nauwkeurigheid op CIFAR-10, en CRF-FedAvg behaalde de hoogste op CIFAR-100.
Convergentie: Validatieverlies-curves gaven aan dat CRF-gestuurde aggregatie sneller en stabieler convergeerde dan robuuste baselines, met name in de latere communicatierondes. Dit suggereert dat de methode effectief nuttige update-richtingen behoudt terwijl onbetrouwbare richtingen worden onderdrukt, waardoor het conservatieve plateau-effect wordt vermeden dat bij methoden zoals de geometrische mediaan wordt gezien.

Significantie en Claims
Het artikel claimt dat het behandelen van aggregatie als een gestructureerd inferentieprobleem een duidelijk voordeel biedt ten opzien van vaste heuristieken. Door zowel de individuele update-betrouwbaarheid als de client-client compatibiliteit expliciet te modelleren, kan de server gewichten toewijzen die adaptief zijn aan de specifieke geometrie van de huidige ronde van updates.

De auteurs benadrukken dat deze aanpak complementair is aan client-zijde optimalisatietechnieken (zoals FedProx); terwijl FedProx de lokale drift beperkt, verfijnt CRF-gestuurde aggregatie hoe updates na de training worden gecombineerd.
De methode wordt gepresenteerd als een server-zijde plug-in die de client-training of communicatieprotocollen niet wijzigt.
De auteurs merken beperkingen op, waaronder het gebruik van handmatig ontworkte potentialen (in plaats van geleerde), vaste hyperparameters over experimenten, en de computationele kosten van de volledig verbonden graaf ( $O(m^2)$ ), wat sparsificatie kan vereisen voor zeer grote federaties. Ze stellen ook dat de huidige evaluatie zich richt op statistische heterogeniteit in plaats van adversariële (Byzantine) robuustheid.