FedQUIT: On-Device Federated Unlearning via a Quasi-Competent Virtual Teacher

Dit paper introduceert FedQUIT, een nieuw on-device federatief vergeten-algoritme dat kennisdistillatie via een virtuele leraar gebruikt om de invloed van specifieke clientdata op het globale model te verwijderen zonder de communicatie- en rekenefficiëntie van het standaard FedAvg-protocol te compromitteren.

De kern

Stel je voor dat je deelneemt aan een groot, gezamenlijk project: een kunstwerk dat gemaakt wordt door duizenden mensen die elk een klein stukje informatie bijdragen. Dit is Federated Learning. In plaats dat iedereen hun geheime foto's of berichten naar één centrale computer stuurt, leren de computers van iedereen lokaal en sturen ze alleen de "leerpunten" (de verbeteringen) naar de leider. Zo blijft je privacy gewaarborgd.

Maar wat als je later zegt: "Ik wil niet meer dat mijn gegevens in dit kunstwerk zitten. Verwijder alles wat ik heb bijgedragen!" Dit is het Recht op Vergetelheid.

Het probleem is dat je niet zomaar een steentje uit een muur kunt trekken zonder de hele muur te laten instorten. Als je gewoon je gegevens verwijdert, moet je het kunstwerk vaak helemaal opnieuw bouwen (vanaf nul), wat enorm veel tijd en energie kost.

Hier komt FedQUIT om de hoek kijken. Het is een slimme, nieuwe manier om je gegevens te laten "vergeten" door de machine, zonder dat je het hele project hoeft te herbouwen.

De Analogie: De "Bijna-Bevoegde" Virtuele Leraar

Stel je voor dat de machine die het kunstwerk maakt, een student is. Normaal gesproken leert deze student van een meester (het huidige, grote kunstwerk).

Nu wil je dat de student vergeet wat hij van jou heeft geleerd. De oude methoden waren als volgt:

1. De "Terugdraai" methode: Je probeert precies te berekenen welke stenen jij hebt gelegd en trekt die eruit. Maar je moet dan heel veel oude notities bewaren, wat gevaarlijk is voor je privacy.
2. De "Van Nieuw" methode: Je gooit de hele muur plat en bouwt hem opnieuw. Dit is veilig, maar duurt eeuwen en kost een fortuin aan energie.

FedQUIT doet het anders. Het gebruikt een virtuele leraar.

1. De Leraar: De machine kijkt naar het kunstwerk dat er nu is.
2. De Truc: De leraar zegt tegen de student: "Kijk naar dit specifieke stukje van het kunstwerk (jouw gegevens). Ik wil dat je dit stukje niet meer herkent als jouw werk. Verlies je vertrouwen in dit antwoord!"
3. De Slimme Nuance: Maar hier is het genie van FedQUIT: De leraar zegt ook: "Verlies je vertrouwen in jouw antwoord, maar onthoud wel hoe de andere kleuren en vormen met elkaar samenhangen."

In technische termen noemen ze dit een "Quasi-Competent Virtuele Leraar".

• Quasi-competent: Hij is bijna net zo slim als de oorspronkelijke meester, maar hij is "gecensureerd" op het punt van jouw gegevens.
• De Truc: Hij straft de machine af als ze denkt: "Ah, dit is zeker een foto van mijn vriend!" (hij verlaagt het vertrouwen in het juiste antwoord). Maar hij laat de machine wel weten: "Dit is nog steeds een foto, en het lijkt op een hond, niet op een auto." (hij behoudt de relaties tussen de andere opties).

Waarom is dit zo goed?

Stel je voor dat je een boek leest en je wilt een bepaalde zin vergeten.

• Oude methode: Je snijdt de hele pagina eruit en hoopt dat de rest van het verhaal nog logisch loopt. Vaak is het verhaal dan verward.
• FedQUIT: Je leest de zin opnieuw, maar je zegt tegen jezelf: "Ik geloof niet dat deze zin hier hoort." Je hersenen passen zich aan, maar je begrijpt de rest van het verhaal nog steeds perfect.

De voordelen in het dagelijks leven:

• Snelheid: Het kost een fractie van de tijd en energie om je gegevens te laten vergeten, in vergelijking met het opnieuw bouwen van het hele model.
• Privacy: Je hoeft je oude gegevens of updates niet op te slaan op een centrale server (wat een risico is). Alles gebeurt op jouw eigen telefoon.
• Kwaliteit: Het kunstwerk (het AI-model) wordt niet "dommer" voor de rest van de wereld. Het vergeet alleen wat het van jou heeft geleerd, maar blijft slim voor iedereen anders.

Samenvattend

FedQUIT is als een slimme "herinnerings-uitwisser" voor AI. Het gebruikt een slimme truc met een virtuele leraar die je vertelt: "Vergeet dit specifieke feit, maar onthoud de rest van de wereld zoals hij is." Hierdoor kunnen mensen hun recht op vergetelheid uitoefenen, zonder dat de hele AI-gemeenschap duizenden uren moet werken om het systeem weer op te bouwen. Het is snel, veilig en behoudt de kwaliteit van het resultaat.

Technische samenvatting

Probleemstelling

Federated Learning (FL) maakt het mogelijk om machine learning-modellen te trainen zonder dat gebruikersdata centraal wordt verzameld. Echter, privacywetgeving zoals de GDPR verleent gebruikers het "recht om vergeten te worden". Dit betekent dat gebruikers kunnen vragen om hun data te verwijderen uit het globale model.

Het verwijderen van data uit een getraind diep leermodel is echter niet triviaal. Simpelweg de data verwijderen is onvoldoende omdat het model deze informatie kan hebben "geleerd" (gememoriseerd) en deze nog steeds kan doorgeven. Bestaande methoden voor Federated Unlearning (FU) hebben verschillende nadelen:

• Ze vereisen vaak het opslaan van historische modelupdates (wat privacyrisico's en opslagkosten met zich meebrengt).
• Ze gebruiken soms complexe multi-round protocollen waarbij de client lang actief moet blijven.
• Ze vereisen vaak extra datasets (publieke data) of hulpmodules.
• Ze zijn vaak inefficiënt in termen van communicatie- en rekentijd vergeleken met het volledig opnieuw trainen van het model ("retraining from scratch").

Methodologie: FedQUIT

Het artikel introduceert FedQUIT, een nieuw algoritme dat unlearning direct op het apparaat van de client uitvoert zonder historische updates of externe data. De kern van de methode is een kennisdistillatie (Knowledge Distillation - KD) framework met een "quasi-bevoegde virtuele leraar".

Het proces verloopt als volgt:

1. Virtuele Leraar Constructie: Wanneer een client vraagt om unlearning, gebruikt het huidige globale model $w_t$ als basis. Op de data die moet worden vergeten ($D_{forget}$) worden de logits (uitvoerwaarden) van dit model aangepast om een "virtuele leraar" te creëren.
   • De true-class logit (de score voor de juiste klasse) wordt verlaagd naar een lage waarde $v$ (bijvoorbeeld het minimum van alle logits). Dit straft het vertrouwen in de juiste label af, wat essentieel is voor het "vergeten".
   • De non-true class logits (scores voor de andere klassen) blijven ongewijzigd. Dit behoudt de geometrische relaties tussen de andere klassen, wat cruciaal is om de bruikbaarheid (generalisatie) van het model te behouden.
2. Student Training: Het lokale model van de client fungeert als "student". Het wordt getraind om de outputverdeling van deze virtuele leraar na te bootsen op de te vergeten data, door de Kullback-Leibler (KL) divergentie te minimaliseren.
3. Single-Round Protocol: Dit proces vindt plaats in één enkele ronde op het apparaat van de client. Na afloop wordt het "ongeleerde" model naar de server gestuurd, waarna het standaard FedAvg-protocol kan worden hervat met de overige clients.

Theoretische onderbouwing:
De auteurs bewijzen dat deze aanpak een "gecontroleerd vergetensignaal" biedt. Door alleen de true-class te bestraffen en de rest van de structuur te behouden, wordt de parameterverandering (perturbatie) begrensd. Dit garandeert dat het hervatten van FedAvg vanaf dit punt de standaard convergentie-eigenschappen behoudt, met slechts een kleine, kwantificeerbare afwijking in de startpositie.

Belangrijkste Bijdragen

1. FedQUIT Algoritme: Een efficiënte, on-device unlearning-methode die kennisdistillatie gebruikt van een virtuele leraar die specifiek de true-class score verlaagt terwijl de non-true class geometrie behouden blijft.
2. Theoretische Analyse: Bewijzen dat de distillatie-update leidt tot een begrenste parameterverschuiving, waardoor de convergentiegaranties van FedAvg behouden blijven na het unlearning-proces.
3. Uitgebreide Evaluatie: Vergelijking met zes state-of-the-art (SOTA) methoden (zoals FedEraser, PGA, MoDe) over vier datasets (CIFAR-10, CIFAR-100, CUB-200, Tiny-Shakespeare), verschillende modelarchitecturen (ResNet, MiT, LSTM) en data-distributies (IID en Non-IID).
4. Code Openbaar: De implementatie is beschikbaar gesteld voor reproducibiliteit.

Resultaten

De experimentele evaluatie toont aan dat FedQUIT superieure of vergelijkbare prestaties levert ten opzichte van bestaande methoden, met name op het gebied van efficiëntie:

• Effectiviteit (Unlearning Efficacy): FedQUIT benadert de "gold standard" (het model dat volledig opnieuw is getraind zonder de vergeten data) zeer nauwkeurig. Het bereikt de laagste of tweede laagste gap in "Forget Accuracy" en Membership Inference Attacks (MIA) scores, wat betekent dat het de data effectief verwijdert zonder dat het model dit "weet".
• Efficiëntie:
  • Communicatie & Berekening: FedQUIT reduceert de cumulatieve communicatie- en rekentkosten aanzienlijk (vaak met een factor 20x tot 60x) ten opzichte van het opnieuw trainen van het model.
  • Vergelijking met SOTA: In tegenstelling tot methoden zoals FedEraser (die historische updates nodig hebben) of MoDe (die meerdere rondes vereist), werkt FedQUIT in één ronde zonder extra opslag.
  • Fixed Budget: Zelfs onder beperkte communicatiebudgetten (bijv. 50% van de kosten van retraining) behoudt FedQUIT een betere balans tussen het behoud van nuttige kennis (Retain Accuracy) en het effectief vergeten van data.
• Ablatie Studies: De studie bevestigt dat het behoud van de geometrie van de non-true klassen cruciaal is. Als deze structuur wordt verwijderd (bijv. door te flattenen), daalt de prestatie van het model na het herstelproces drastisch.

Betekenis en Conclusie

FedQUIT biedt een praktische en theoretisch onderbouwde oplossing voor het "recht om vergeten te worden" in Federated Learning. Het overwint de belangrijkste beperkingen van bestaande methoden door:

1. Geen historische data of updates op te slaan (privacy-vriendelijk).
2. Geen externe datasets te vereisen.
3. Unlearning in één enkele ronde op het apparaat mogelijk te maken.
4. De stabiliteit en convergentie van het federale leerproces te garanderen.

De methode maakt het dus mogelijk om privacyvereisten na te komen zonder de schaalbaarheid en efficiëntie van Federated Learning te offeren, wat een belangrijke stap is voor de implementatie van FL in strikt gereguleerde omgevingen.