CurvFed: Curvature-Aligned Federated Learning for Fairness without Demographics

Dit artikel introduceert CurvFed, een theoretisch onderbouwd raamwerk voor Federated Learning dat eerlijkheid bereikt zonder demografische gegevens door de kromming van het verlieslandschap te optimaliseren via regularisatie van de Fisher-informatiematrix.

De kern

🌍 Het Grote Probleem: Een Geheimzinnige Wereld van Data

Stel je voor dat miljoenen mensen over de hele wereld slimme horloges of telefoons dragen. Deze apparaten verzamelen gegevens over hoe mensen bewegen, stress ervaren of gebaren maken. Dit is geweldig voor het maken van slimme apps die ons helpen.

Maar er is een groot probleem: Privacy.
Niemand wil dat hun persoonlijke gegevens (zoals hun locatie, gezondheid of gedrag) naar één centrale computer worden gestuurd. Daarom gebruiken we Federated Learning (FL). In plaats van de data naar de server te sturen, gaat de "leermachine" naar de mensen toe. Elke telefoon traint het model lokaal en stuurt alleen de leerresultaten terug. De data blijft veilig op de telefoon.

Maar hier zit de kluif:
Vaak zijn deze apps niet eerlijk. Een model dat gebaren herkent, werkt misschien perfect voor mannen, maar faalt voor vrouwen. Of het werkt goed voor mensen met een horloge aan de linkerkant, maar niet aan de rechterkant.
Normaal gesproken zouden we de computer vertellen: "Hé, let op voor vrouwen en mannen!" Maar dat kan niet, want:

1. De data is verspreid over duizenden telefoons.
2. Privacywetten zeggen dat we die gevoelige informatie (geslacht, leeftijd, etc.) vaak niet mogen zien of gebruiken.
3. Veel mensen hebben geen "geslachtslabel" op hun data staan.

Dit paper noemt dit het probleem van "Fairness without Demographics" (Eerlijkheid zonder Demografie). Hoe maak je een eerlijk model zonder te weten wie wie is?

---

🏔️ De Oplossing: CurvFed (De "Vlakke Weg" Methode)

De auteurs van dit paper, Harshit, Shaily en Asif, hebben een slimme oplossing bedacht: CurvFed.

Om dit uit te leggen, moeten we kijken naar de "Landschap van het Verlies" (Loss Landscape).
Stel je voor dat het trainen van een AI-model is als een blinde hiker die een berg afdaalt om de laagste punt (de beste oplossing) te vinden.

• Scherpe dalen (Sharp Minima): Soms komt de hiker in een heel smal, diep dal terecht. Als hij één stapje opzij zet, valt hij direct weer omhoog. Dit is een "schlechte" oplossing. Het werkt goed voor de huidige situatie, maar faalt als de situatie een beetje verandert (bijvoorbeeld: een andere gebruiker of een andere sensor). Dit leidt tot oneerlijkheid.
• Vlakke dalen (Flat Minima): Soms komt de hiker in een breed, vlak dal. Als hij een paar stappen opzij zet, blijft hij nog steeds op dezelfde hoogte. Dit is een stabiele en eerlijke oplossing. Het werkt goed voor iedereen, ongeacht kleine verschillen.

De kernboodschap van CurvFed:
Als we ervoor zorgen dat het AI-model een vlakke dal vindt in plaats van een scherp punt, dan werkt het model automatisch eerlijker voor iedereen, zelfs als we niet weten wie die "iedereen" is.

---

⚙️ Hoe werkt CurvFed? (De Twee Stappen)

CurvFed doet twee dingen om die "vlakke dalen" te vinden:

1. Lokaal: De "Zachte Trap" (Client Training)

Op elke individuele telefoon (de client) wordt het model getraind. Normaal gesproken probeert de telefoon alleen de fouten te minimaliseren.
CurvFed voegt een extra regel toe: "Probeer niet alleen de fouten te verkleinen, maar zorg ook dat je oplossing niet te 'scherp' is."

• Analogie: Stel je voor dat je een auto bouwt. Normaal probeer je hem zo snel mogelijk te maken. CurvFed zegt: "Maak hem snel, maar zorg ook dat hij niet te strak op de weg ligt, zodat hij niet kantelt als er een steentje op de weg ligt."
• De telefoon gebruikt een wiskundige tool (de Fisher Information Matrix) om te meten hoe "scherp" of "vlak" de oplossing is, en past de training daarop aan.

2. Globaal: De "Slimme Samenvoeger" (Server Aggregation)

Na het trainen sturen alle telefoons hun resultaten terug naar de centrale server. De server moet nu een nieuw, gezamenlijk model maken.
Normaal doet de server een gemiddelde van alles. Maar CurvFed is slimmer.

• Analogie: Stel je voor dat je een team van koks hebt die elk een soep maken. De ene kok heeft een soep die perfect is, maar heel gevoelig (als je één kruidje meer doet, is het rot). De andere kok heeft een soep die iets minder perfect smaakt, maar die altijd goed blijft, ongeacht wat je toevoegt.
• CurvFed geeft meer stemrecht aan de kok met de stabiele, "vlakke" soep. De kok met de "schlechte", gevoelige soep krijgt minder invloed.
• Op deze manier wordt het eindresultaat (het globale model) van nature eerlijker voor iedereen, omdat het gebaseerd is op de meest stabiele oplossingen.

---

🧪 Wat hebben ze bewezen?

De auteurs hebben CurvFed getest in de echte wereld:

• Datasets: Ze hebben het getest op data van mensen die gebaren maken (WiFi), stress voelen (hartslag/huidgevoeligheid) en spraak hebben.
• Hardware: Ze hebben het niet alleen op een computer getest, maar op echte, verschillende apparaten: Google Pixel telefoons, Raspberry Pi's (kleine computers), en krachtige desktops.
• Resultaat: CurvFed was eerlijker dan alle andere methoden, zonder dat ze ooit wisten wie de gebruikers waren (geslacht, handigheid, etc.). Het maakte het model ook nog steeds accuraat genoeg om nuttig te zijn.

🎯 Waarom is dit belangrijk?

1. Privacy: Je hoeft geen gevoelige gegevens te delen om eerlijkheid te bereiken.
2. Toekomstbestendig: Het werkt ook als je niet weet welke factoren (geslacht, leeftijd, sensorpositie) het model beïnvloeden.
3. Praktisch: Het werkt zelfs op kleine, dure apparaten zoals een horloge of een oude telefoon.

Samenvatting in één zin

CurvFed is een slimme methode die AI-modellen dwingt om "stabiele" en "veilige" oplossingen te kiezen in plaats van "kwetsbare" oplossingen, waardoor ze automatisch eerlijk worden voor iedereen, zonder dat we ooit hoeven te weten wie die mensen zijn.

Technische samenvatting

Probleemstelling

Moderne menselijke sensortoepassingen (zoals gezondheidsmonitoring en activiteitsherkenning) genereren enorme hoeveelheden data die gedistribueerd zijn over gebruikers en apparaten. Federated Learning (FL) wordt gebruikt om modellen te trainen zonder ruwe data te centraliseren, wat privacy garandeert. Een groot probleem in dit domein is echter het bereiken van fairness (billijkheid).

Bestaande methoden voor FL-fairness hebben twee fundamentele beperkingen:

1. Afhankelijkheid van demografische labels: De meeste methoden vereisen toegang tot gevoelige attributen (zoals geslacht, leeftijd, etnische achtergrond) om bias te detecteren en te corrigeren. In menselijke sensortoepassingen ontbreken deze labels vaak, of kunnen ze vanwege privacyregels (zoals GDPR) niet worden gebruikt.
2. Onvolledige groepspresentatie: In FL kan elke client (apparaat) data van slechts één persoon of een zeer beperkte demografische subset bevatten. Traditionele methoden die aannemen dat alle gevoelige groepen binnen elke client vertegenwoordigd zijn, falen hierdoor in de praktijk.

Het doel is Fairness without Demographics (FWD): het bereiken van eerlijke modelprestaties over verschillende gebruikersgroepen zonder enige kennis van gevoelige attributen.

Methodologie: CurvFed

Het paper introduceert CurvFed, een theoretisch onderbouwd framework dat fairness bereikt door de kromming (curvature) van de loss-landscape te optimaliseren, in plaats van te vertrouwen op demografische labels. De kerngedachte is dat een "vlakke" (flat) loss-landscape correleert met betere generalisatie en consistentere prestaties over verschillende subgroepen.

De methode bestaat uit twee hoofdbewerkingen:

1. Lokale Client-training met Kromming-Regularisatie:

• In plaats van alleen de verliesfunctie (loss) te minimaliseren, voegt CurvFed een regularisatieterm toe aan de lokale trainingsdoelstelling.
• Deze term straalt de top-eigenwaarde van de Fisher Information Matrix (FIM) af. De FIM dient als een computatie-efficiënt proxy voor de Hessian-matrix (die de kromming meet).
• Door de top-eigenwaarde te straffen, worden de modellen gedwongen om te convergeren naar "vlakke" minima in de loss-landscape. Dit vermindert de gevoeligheid voor kleine veranderingen in de data en zorgt ervoor dat de prestaties consistent blijven binnen de lokale dataset van de client, ongeacht de onderliggende (onbekende) bias-factoren.
• De optimizer Sharpness-Aware Minimization (SAM) wordt gebruikt om dit proces te ondersteunen.

2. Sharpness-Aware Aggregatie (Server-kant):

• Tijdens de aggregatie van lokale modellen naar een globaal model, gebruikt CurvFed een nieuw wegingsschema.
• In plaats van modellen puur op basis van hun lokale verlies (accuracy) te wegen, worden clients gewogen op basis van hun excess loss, wat een combinatie is van hun classificatiefout en hun lokale kromming (FIM top-eigenwaarde).
• Clients met een lage kromming (vlakke minima) en lage fouten krijgen een hogere weging. Clients met hoge kromming (scherpe minima, vaak geassocieerd met overfitting of bias) krijgen een lagere weging.
• Dit zorgt ervoor dat het globale model wordt samengesteld uit de meest robuuste en eerlijke lokale updates, zonder dat de server weet welke gevoelige attributen bij welke client horen.
• Stochastic Weight Averaging (SWA) wordt ook toegepast om de generalisatie verder te verbeteren.

Belangrijkste Bijdragen

1. Eerste FWD-oplossing voor menselijke sensoren: CurvFed is het eerste framework dat fairness in menselijke sensoren-FL bereikt zonder enige kennis van gevoelige attributen of demografische labels.
2. Theoretische onderbouwing: Het paper levert een wiskundige onderbouwing (via Taylor-expansie en eigenschappen van de Hessian/FIM) die aantoont dat het minimaliseren van krommingsverschillen zowel binnen als tussen clients leidt tot een vermindering van prestatieverschillen tussen groepen.
3. Onafhankelijkheid van groepsgrootte: De methode werkt effectief in scenario's waar clients data van slechts één persoon bevatten (single-user) of waar groepen onvolledig zijn vertegenwoordigd, wat een groot probleem is voor bestaande methoden.
4. Meervoudige bias-mitigatie: CurvFed kan tegelijkertijd bias veroorzaakt door meerdere factoren (bijv. geslacht én sensorplaatsing) aanpakken zonder specifieke labels nodig te hebben.

Resultaten

CurvFed werd geëvalueerd op drie real-world datasets met verschillende sensormodaliteiten (WiFi, Inertieel, Fysiologisch, Audio): WIDAR, HugaDB, en Stress Sensing (en PERCEPT-R voor spraak).

• Fairness-Accuracy Trade-off: CurvFed behaalde consistent de hoogste FATE-scores (Fairness-Accuracy Trade-off), wat aangeeft dat het een betere balans vindt tussen nauwkeurigheid en eerlijkheid dan bestaande methoden zoals FedAvg, FedSAM, FedSWA, en de state-of-the-art FWD-methoden FedSRCVaR en KD-FedAvg.
• Robuustheid: De methode presteerde uitstekend in zowel single-user als multi-user client-scenario's, en bleef stabiel bij variabele client-deelname en beperkte lokale data.
• Meervoudige attributen: Bij het testen op meerdere gevoelige attributen tegelijk (bijv. geslacht en handgebruik), behaalde CurvFed de beste resultaten in het verkleinen van de Equal Opportunity (EO) gap zonder de algehele nauwkeurigheid drastisch te verlagen.
• Implementatie: Een live implementatie op een heterogene testbed van zes edge-apparaten (inclusief Raspberry Pi, Jetson Nano en smartphones) toonde aan dat de extra rekenkosten (overhead) voor het berekenen van de FIM en de aggregatie verwaarloosbaar zijn (< 1% extra RAM, minimale latency-toename), wat de haalbaarheid voor echte FL-deployments bevestigt.

Betekenis en Impact

CurvFed biedt een praktische en privacy-bewuste oplossing voor een van de grootste uitdagingen in de toekomst van decentrale AI: het garanderen van eerlijkheid zonder inbreuk te maken op privacy door het verzamelen van gevoelige data.

• Privacy: Het elimineert de noodzaak om demografische data te delen of te labelen, wat strikt in lijn is met privacywetgeving.
• Toepasbaarheid: Het maakt eerlijke AI mogelijk in real-world sensortoepassingen waar bias vaak latent en multi-dimensionaal is (bijv. verschillende lichaamstypes, sensorposities), en waar traditionele fairness-methoden falen.
• Toekomst: Het paper opent de weg voor "bias-resistente" AI-systemen die puur gebaseerd zijn op optimalisatieprincipes (geometrie van de loss-landscape) in plaats van sociale categorisaties, wat essentieel is voor schaalbare en ethische menselijke sensortechnologie.