Beyond Dirichlet Alpha: Realized Client Heterogeneity for Privacy–Utility–Fairness Evaluation in Federated Learning

In de moderne digitale wereld probeert een groeiend aantal mensen en organisaties om intelligentere kunstmatige intelligentie te bouwen zonder ooit hun privédata te delen. In plaats van ieders informatie te verzamelen in één grote centrale database, gebruiken ze een methode genaamd federated learning. In deze aanpak reist het computermodel naar de lokale apparaten van vele verschillende gebruikers, leert het van hun persoonlijke data, en stuurt het vervolgens alleen een samenvatting van wat het heeft geleerd terug naar een centrale server. Dit houdt de ruwe data veilig, maar het introduceert een nieuwe uitdaging: de data op elk apparaat is zelden hetzelfde. De ene gebruiker heeft misschien duizenden foto's van katten, een ander heeft slechts een paar foto's van honden, en een derde heeft een mix van alles. Deze ongelijkheid, bekend als statistische heterogeniteit, kan het leerproces moeilijk maken en kan leiden tot een definitief model dat goed werkt voor sommige gebruikers, maar slecht voor anderen. Onderzoekers proberen deze ongelijkheid al lang te beheersen in hun experimenten door een wiskundig hulpmiddel te gebruiken dat werkt als een draaiknop, waarmee ze de onbalans kunnen instellen op verschillende niveaus. Jarenlang heeft de wetenschappelijke gemeenschap aangenomen dat het instellen van deze draaiknop op een specifere waarde voldoende was om de moeilijkheidsgraad van het experiment te beschrijven.

Een recente studie daagt deze langgehouden aanname uit en stelt dat het simpelweg instellen van de draaiknop niet genoeg is om te begrijpen wat er werkelijk gebeurt. De onderzoekers, werkend met een groep van twintig gesimuleerde gebruikers, ontdekten dat twee experimenten die op exact dezelfde positie van de draaiknop zijn ingesteld, totaal verschillende realiteiten kunnen produceren. Alleen omdat de instellingen op papier identiek zijn, betekent dit niet dat de werkelijke verdeling van de data over de gebruikers hetzelfde is. In de ene uitvoering hebben de gebruikers mogelijk een vrij gelijkmatige spreiding van onderwerpen, terwijl in een andere uitvoering met dezelfde instellingen één gebruiker bijna alle data voor een specifiek onderwerp kan hebben, terwijl anderen er geen hebben. De studie laat zien dat deze verborgen willekeur diepgaand van belang is, vooral wanneer onderzoekers de privacy van de gebruiker proberen te beschermen. Wanneer privacymaatregelen aan het systeem worden toegevoegd, werken deze door de invloed van een enkele gebruiker te beperken en een laag statistische ruis aan de resultaten toe te voegen. Als de onderliggende dataverdeling ongelijkmatiger is dan verwacht, kunnen deze privacymaatregelen het leerproces op onvoorspelbare manieren verstoren, waardoor het moeilijk wordt om te bepalen of een daling in prestaties komt door de privacybescherming of simpelweg omdat de data moeilijker te leren was.

Om dit probleem op te lossen, heeft de auteur een nieuwe manier ontwikkeld om de werkelijke staat van de data te meten voordat het leren begint. In plaats van te vertrouwen op het enkele getal dat wordt gebruikt om het experiment in te stellen, stelt de auteur voor om naar een reeks van vijf specifieke metingen te kijken die de werkelijke situatie beschrijven. Deze metingen controleren hoe ongelijk het aantal monsters is voor elke gebruiker, hoe divers de onderwerpen zijn binnen de collectie van elke gebruiker, hoe verschillend de collectie van elke gebruiker is van het groepsgemiddelde, of elk onderwerp door elke gebruiker wordt vertegenwoordigd, en hoeveel verschillende onderwerpen een gebruiker daadwerkelijk genoeg data heeft om van te leren. Door deze vijf factoren bij te houden, kunnen onderzoekers de ware vorm van het datalandschap zien. De studie vond dat het veranderen van de oorspronkelijke draaiknopinstelling niet slechts één ding verandert; het verschuift al deze vijf factoren tegelijkertijd, en de manier waarop ze verschuiven hangt sterk af van hoeveel verschillende onderwerpen er worden bestudeerd. Bijvoorbeeld, het verlagen van de draaiknop om meer onbalans te creëren, kan de data er heel anders uit laten zien in een systeem met tien onderwerpen vergeleken met een systeem met honderd onderwerpen, zelfs als de instelling hetzelfde is.

De onderzoekers hebben deze nieuwe kennis vervolgens toegepast op een gecontroleerde test waarbij twee veelvoorkomende leermethoden en een strikt privacyprotocol betrokken waren. Ze voerden de experimenten meerdere keren uit, waarbij ze de werkelijke dataverdeling exact hetzelfde hielden terwijl ze alleen de privacyinstellingen of de leermethode veranderden. Dit maakte het mogelijk om de resultaten eerlijk te vergelijken, waarbij het effect van privacy werd geïsoleerd van de moeilijkheid van de data. Ze ontdekten dat wanneer je de werkelijke dataverdeling negeert en alleen naar de privacyinstellingen kijkt, je gemakkelijk de verkeerde conclusies kunt trekken over hoe goed het systeem werkt. Een systeem kan er eerlijk of oneerlijk uitzien op basis van een enkel getal, maar wanneer je naar het volledige plaatje van de data kijkt, verandert het verhaal. De studie benadrukt dat eerlijkheid niet alleen gaat over hoe gelijk de resultaten zijn, maar ook over hoe goed de resultaten voor iedereen zijn. Een systeem zou de prestaties van iedereen precies hetzelfde kunnen maken door de prestaties van iedereen slecht te maken, wat op papier eerlijk zou lijken, maar in de praktijk nutteloos is.

De kernboodschap van dit werk is dat om echt te begrijpen hoe goed een privaat, gedistribueerd leersysteem presteert, wetenschappers de werkelijke data moeten meten waarmee ze werken, en niet alleen de instellingen die ze gebruikten om het te creëren. De studie biedt geen nieuwe manier om de leermodellen te bouwen of een nieuwe privacytool; in plaats daarvan biedt het een betere manier om de resultaten van deze experimenten te rapporteren en te interpreteren. Door de gerealiseerde dataverdeling te behandelen als een gemeten feit in plaats van een theoretische gok, kunnen onderzoekers duidelijkere, betrouwbaardere claims maken over de afwegingen tussen privacy, prestaties en eerlijkheid. Deze aanpak zorgt ervoor dat wanneer een systeem als succesvol of eerlijk wordt verklaard, die claim gebaseerd is op de concrete realiteit van de data, en niet alleen op de abstracte instellingen van het experiment. De bevindingen suggereren dat toekomstige studies in dit veld altijd deze gedetailleerde metingen van het datalandschap moeten rapporteren, wat een veel duidelijker en eerlijker beeld geeft van wat er werkelijk gebeurt in het proces van machine learning.