Beyond Parameter Space: NTK-Guided Personalized Aggregation for Robust Federated Learning

Stel je een wereld voor waarin je telefoon, je smartwatch en de MRI-machine van je ziekenhuis allemaal samen willen leren om slimmer te worden, maar ze kunnen hun geheimen niet met elkaar delen. Dit is de kern van Federated Learning (FL). Denk aan een enorme, wereldwijde studiegroep waar studenten (de apparaten) aan dezelfde huiswerkopdrachten werken, maar verboden zijn om hun schrift aan de leraar of aan elkaar te laten zien. In plaats daarvan sturen ze alleen hun definitieve antwoorden of "updates" naar een centraal knooppunt. Het doel is om een superintelligent model te bouwen dat iedereen helpt zonder ooit privédata zoals je medische geschiedenis of je tekstberichten bloot te leggen.

Toch heeft deze studiegroep een paar problemen. Ten eerste is ieders huiswerk anders; sommige studenten bestuderen wiskunde terwijl anderen kunst bestuderen, en hun "data" is niet uniform. Ten tweede kunnen sommige studenten in de war zijn, defect zijn, of zelfs proberen de groep te saboteren door valse antwoorden in te dienen. In het verleden probeerde de leraar (de centrale server) uit te vogelen wie behulpzaam was door simpelweg te kijken naar de stijl van de antwoorden (de getallen binnen het model). Maar de auteurs van dit artikel stellen dat kijken naar de "stijl" van het antwoord is alsolijk beoordelen van een liedje door alleen naar de inktdichtheid van de bladmuziek te kijken — het vertelt je niet of het liedje daadwerkelijk goed klinkt. Je moet naar de muziek zelf luisteren. Dit artikel onderzoekt een nieuwe manier om naar de muziek te luisteren voordat je iemand toelaat tot het koor.

---

Het Probleem: Een boek beoordelen op zijn cover (of een model op zijn cijfers)

In de wereld van machine learning zijn modellen in essentie enorme lijsten met getallen die "parameters" worden genoemd. Lange tijd, wanneer onderzoekers probeerden te beslissen welk huiswerk van een student goed genoeg was om te mengen in de definitieve studiegids van de groep, vergeleken ze simpelweg deze lijsten met getallen. Ze vroegen: "Zien jouw getallen er vergelijkbaar uit met de mijne?"

De auteurs van dit artikel, Mirko Konstantin en zijn team, zeggen dat dit een slecht idee is. Ze wijzen erop dat twee modellen zeer vergelijkbare getallen kunnen hebben, maar totaal anders kunnen reageren wanneer ze daadwerkelijk een voorspelling doen. Het is alsof twee chefs precies hetzelfde receptenkaartje gebruiken, maar de een een heerlijke taart maakt en de ander een baksteen. In een chaotische omgeving waar data rommelig is (zoals verschillende ziekenhuizen die verschillende scanners gebruiken) of wanneer sommige studenten proberen het systeem te breken, is kijken naar de getallen alleen onbetrouwbaar. Het leidt er vaak toe dat de groep de verkeerde dingen leert of in de war raakt door slechte updates.

De Oplossing: LIGHTYEAR en de "Agreement Score"

Om dit op te lossen, stelt het team een nieuw framework voor genaamd LIGHTYEAR (Local Inference Guided Aggregation for Heterogeneous Training Environments to Yield Enhancement Through Agreement and Regularization). Dat is een mondvol, dus laten we het afbreken met een eenvoudigere analogie.

Stel je voor dat de studiegroep stopt met het gebruiken van een centrale leraar. In plaats daarvan zitten de studenten in een cirkel en geven hun huiswerk rechtstreeks aan elkaar door (een Peer-to-Peer of P2P-netwerk). Voordat een student een stuk huiswerk van een buur accepteert om aan zijn eigen studiegids toe te voegen, kijkt hij niet alleen naar de getallen. Hij probeert het huiswerk daadwerkelijk op een paar oefenvragen die hij in zijn zak heeft zitten.

Dit is waar de magie gebeurt. De auteurs gebruiken een wiskundig hulpmiddel genaamd de Neural Tangent Kernel (NTK). Zie de NTK als een "gedragsvingerafdruk". In plaats van te vragen: "Vallen jouw getallen overeen met de mijne?", vraagt LIGHTYEAR: "Als ik je een specifieke testvraag geef, zul je die dan op dezelfde manier beantwoorden als ik?"

Ze berekenen een Agreement Score. Als het model van een buur een voorspelling doet voor een lokale testvraag op een manier die overeenkomt met het eigen model van de student, is de score hoog en wordt dat huiswerk geaccepteerd. Als het model van de buur volledig uit de bocht vliegt (en wild verschillende dingen voorspelt), is de score laag en wordt die update afgewezen. Dit stelt elke student in staat om een gepersonaliseerde studiegids op te bouwen die alleen hulp bevat van buren die zijn specifieke lokale uitdagingen begrijpen.

Het "Regularization" Veiligheidsnet

Zelfs met de beste buren kan het wankel worden. Soms kunnen zelfs goede updates ervoor zorgen dat de groep te ver in één richting afdrijft. Om dit te voorkomen, voegt LIGHTYEAR een "regularisatie"-term toe. Stel je dit voor als een zachte hand op de schouder. Het zegt: "Hé, verander niet je mening te drastisch alleen omdat een buur iets nieuws zei." Het vertraagt het tempo van verandering, waardoor het leerproces stabieler wordt en minder waarschijnlijk vastloopt wanneer de groep te maken heeft met rommelige, echte data.

Wat ze vonden: Een veerkrachtig team

Het team heeft LIGHTYEAR getest op vijf verschillende datasets, variërend van het herkennen van handgeschreven cijfers (FEMNIST) tot het analyseren van medische beelden zoals huidkanker scans (Isic19) en echografiebeelden van foetale abdominale structuren. Ze zetten hun methode af tegen negen andere populaire technieken, inclusief standaardmethoden zoals FedAvg en robuuste methoden zoals Krum en Ditto.

Ze simuleerden drie soorten probleemmakers:

1. Additive-Noise Attacks: Studenten die willekeurige ruis toevoegen aan hun antwoorden.
2. Sign-Flipping Attacks: Studenten die doelbewust hun antwoorden omdraaien om de groep te verwarren.
3. Random Updates: Studenten die volledig verzonnen, willekeurige antwoorden indienen.

De resultaten waren duidelijk. In bijna elk scenario, vooral wanneer de groep groot was en de data rommelig, presteerde LIGHTYEAR consequent beter dan de anderen. Terwijl andere methoden vaak instortten, met een nauwkeurigheid of "Dice-scores" (een maatstaf voor hoe goed een model een afbeelding segmenteert) die bijna naar nul zakten, hield LIGHTYEAR de groep effectief aan het leren.

Op de Camelyon17 dataset (een moeilijke taak die draait om tumordetectie vanuit verschillende ziekenhuizen), wanneer het aantal defecte studenten toenam, faalden de meeste andere methoden volledig. LIGHTYEAR behield echter een hoge prestatie, en bleef vaak boven de 90% nauwkeurigheid zelfs wanneer 7 van de 8 studenten defect waren. Op de FEMNIST dataset behaalde het ongeveer 90,7% nauwkeurigheid, zelfs met één defecte student, terwijl anderen aanzienlijk worstelden.

De auteurs suggereren dat dit succes voortkomt uit twee belangrijke zaken:

1. Function-Space Selection: Door te controleren hoe het model zich gedraagt (de muziek) in plaats van alleen naar wat de getallen zijn (de inkt), konden ze slechte updates veel effectiever wegfilteren.
2. Personalisatie: Omdat elke student zijn eigen "beste buren" kon kiezen op basis van zijn lokale data, dwong het systeem iedereen niet om tot één enkele, gemiddelde oplossing te komen die misschien slecht is voor iedereen.

De Trade-off

Er is echter een addertje onder het gras. Om naar de muziek te luisteren (het gedrag te evalueren), moet elke student wat meer werk verrichten. Ze moeten extra tests uitvoeren op hun lokale data voordat ze een update van een buur accepteren. Dit betekent meer communicatie en meer rekenkracht vergeleken met de eenvoudige "verzenden en vergeten"-methode. De auteurs merken op dat in een volledig verbonden groep van $N$ studenten, de communicatiekosten groeien met het kwadraat van het aantal studenten ($O(N^2)$), wat veel hoger is dan de lineaire kosten ($O(N)$) van de centrale servermethode. Echter, voor kritieke toepassingen zoals medische beeldvorming waar betrouwbaarheid essentieel is, stellen de auteurs dat deze extra kosten het waard zijn om te garanderen dat het model niet breekt.

De Kernboodschap

Dit artikel suggereert dat we in de rommelige, onvoorspelbare wereld van echte data moeten stoppen met het beoordelen van machine learning-modellen enkel op hun interne getallen. Door een "gedragsvingerafdruk" (de NTK-gebaseerde agreement score) te gebruiken en apparaten de updates te laten controleren tegen hun eigen lokale realiteit, kunnen we een leersysteem bouwen dat veel robuuster is tegen fouten of sabotage. LIGHTYEAR overleeft de chaos niet alleen; het gedijt erin, en biedt een pad naar een slimmere, meer gepersonaliseerde en veiligere toekomst voor collaboratieve AI.