💻 computer science

Toward Individual Fairness Without Centralized Data: Selective Counterfactual Consistency for Vertical Federated Learning

Dit artikel stelt SCC-VFL voor, een servercentrisch kader voor verticaal federatief leren dat individuele tegenfeitelijke rechtvaardigheid afdwingt door differentieel privé functierolontdekking, gemaskerde tegenfeitelijke generatie en een consistentieverlies te combineren om de beslissingsflippercentages aanzienlijk te verminderen terwijl voorspellende nauwkeurigheid en privacy worden behouden.

Oorspronkelijke auteurs: Dawood Wasif, Chandan K. Reddy, Terrence J. Moore, Jin-Hee Cho

Gepubliceerd 2026-05-12

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Dawood Wasif, Chandan K. Reddy, Terrence J. Moore, Jin-Hee Cho

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een lening aanvraagt. Je financiële leven is als een puzzel, maar de stukjes liggen verspreid over verschillende gebouwen. Bank A heeft je rekeninggeschiedenis, je werkgever heeft je loonstroken, en een kredietbureau heeft je schuldenregistratie. Geen van hen wil zijn privébestanden aan een centrale baas overhandigen vanwege privacywetten. Daarom gebruiken ze een systeem genaamd Verticale Federatie Learning (VFL). Denk hierbij aan een groep chefs in aparte keukens die elk verschillende ingrediënten hebben. Ze sturen alleen kleine, bereide proefjes van hun gerechten naar een hoofdkok (de server) die ze mengt om de maaltijd te proeven, zonder ooit de rauwe ingrediënten in de andere keukens te zien.

Het probleem is: Is de uiteindelijke beslissing eerlijk?

Als je 25 jaar bent, krijg je dan de lening? Als je 26 was, zou je hem dan krijgen? Als het antwoord verandert puur vanwege je leeftijd (een beschermde eigenschap), is dat onfair. Maar hier is het nog ingewikkelder, omdat het puzzelstukje "leeftijd" misschien in de ene keuken zit, terwijl het stukje "banenstabiliteit" in een andere zit. Het systeem zou per ongeluk je leeftijd kunnen gebruiken om je banenstabiliteit te raden en dat vervolgens gebruiken om je lening te weigeren, zelfs als leeftijd er niet toe zou mogen doen.

De auteurs van dit artikel, SCC-VFL, stellen een nieuwe manier voor om dit op te lossen. Ze noemen het Selectieve Contrfactuele Consistentie. Hier is hoe het werkt, met eenvoudige analogieën:

1. De "Wat-als"-test (Contrfactuelen)

Stel je voor dat je een tijdmaker bent. Je gaat terug in de tijd en verandert één ding aan jezelf: je leeftijd. Je vraagt: "Als ik 26 was in plaats van 25, maar alles andere in mijn leven exact hetzelfde bleef, zou ik dan nog steeds de lening krijgen?"

Eerlijk: Als het antwoord "Ja, ik krijg nog steeds de lening" is, is het systeem stabiel.
Onfair: Als het antwoord "Nee, ik word afgewezen" is, is het systeem instabiel en potentieel bevooroordeeld.

Het doel is om ervoor te zorgen dat het antwoord hetzelfde blijft, zelfs als je je leeftijd verandert.

2. Het probleem met "Blinde" oplossingen

Eerdere pogingen om dit op te lossen waren als proberen een foto te bewerken door het hele beeld te vervagen. Ze probeerden alle sporen van leeftijd uit de data te verwijderen. Maar dit is te hard. Soms doet leeftijd er wettelijk of logisch toe (bijvoorbeeld: een 21-jarige kan geen auto huren, maar een 25-jarige wel). We moeten slim zijn over wat we veranderen.

3. De SCC-VFL-oplossing: De "Slimme Editor"

De auteurs bouwden een systeem dat fungeert als een Slimme Editor met drie specifieke hulpmiddelen:

Hulpmiddel A: Het "Privacy-masker" (Het vinden van de rollen)

Voordat er bewerkt wordt, moet het systeem weten welke kenmerken wat zijn.

Niet-afstammelingen (De "Vaste" Ankers): Dit zijn dingen die niet kunnen veranderen alleen omdat je leeftijd veranderde. Bijvoorbeeld je leenbedrag of hoe lang je in je huis hebt gewoond. Deze moeten exact hetzelfde blijven in de "Wat-als"-scenario.
Mediators (De "Toegestane" Bewegers): Dit zijn dingen die wel natuurlijk kunnen veranderen met de leeftijd. Bijvoorbeeld je dienstjaren of kredietgeschiedenis kunnen er anders uitzien voor een 26-jarige dan voor een 25-jarige. Het systeem mag deze updaten om te passen bij de nieuwe leeftijd.
Proxies (De "Verboden" Lekken): Dit zijn sluwe kenmerken die het systeem stiekem je leeftijd vertellen zonder dat je het zegt (zoals een specifieke postcode of een demografische code). Het systeem moet deze blokkeren om invloed op de beslissing te voorkomen.

Hoe vinden ze deze zonder de ruwe data te zien? Ze gebruiken een Privacy-schets. Stel je voor dat de server de partij die de leeftijdsdata houdt vraagt om een "vage" versie van de leeftijdslijst te sturen (zoals een mistige foto) die individuele privacy beschermt maar het algemene patroon toont. Met behulp van deze mistige foto figuurt het systeem uit welke kenmerken "Ankers", "Bewegers" of "Lekken" zijn, zonder ooit de echte namen of leeftijden te zien.

Hulpmiddel B: De "Gemaskeerde Generator" (De veilige bewerking)

Zodra de rollen zijn toegewezen, maakt het systeem een "Wat-als"-versie van je aanvraag.

Het vergrendelt de Ankers (Niet-afstammelingen) zodat ze niet verschuiven.
Het werkt de Bewegers (Mediators) bij om realistisch te lijken voor de nieuwe leeftijd (bijvoorbeeld: iets langere dienstjaren).
Het bewaakt de Lekken (Proxies) zodat ze per ongeluk niet de oude leeftijd fluisteren naar de beslissingsnemer.

Dit is als een kleermaker die de mouwen van een pak mag aanpassen (Mediators) om te passen bij een nieuwe maat, maar streng verboden is om het stofpatroon te veranderen (Ankers) of een verborgen label toe te voegen dat de oorspronkelijke eigenaar onthult (Proxies).

Hulpmiddel C: De "Stabiliteitscontrole" (Handhaving aan de kant van de server)

Tot slot kijkt de server naar de oorspronkelijke beslissing en de "Wat-als"-beslissing.

Als de beslissing omkeert (bijvoorbeeld van "Goedgekeurd" naar "Afgewezen") puur vanwege de toegestane veranderingen, krijgt het systeem een straf.
Het dwingt het model om een manier van beslissen te leren die stabiel is. Het leert het model: "Als de enige dingen die veranderden de dingen waren die we toelieten te veranderen, moet het resultaat hetzelfde blijven."

De resultaten: Een eerlijker, veiliger systeem

De auteurs testten dit op drie realistische scenario's: Krediet (leningen), Zorg (risico op hartziekten) en Strafrecht (risico op recidive).

Het resultaat: Hun systeem (SCC-VFL) was veel beter in het stabiel houden van beslissingen. In sommige gevallen verminderde het "beslissingsomkeringen" (waarbij een persoon een ander antwoord krijgt puur vanwege een beschermde eigenschap) met 98% ten opzichte van andere methoden.
Geen afweging: Meestal maakt het eerlijker maken van een systeem het minder accuraat (zoals een bewaker die iedereen stopt om veilig te zijn). Maar SCC-VFL hield de nauwkeurigheid hoog terwijl het de beslissingen eerlijker maakte.
Privacy: Het maakte het ook moeilijker voor hackers om je privé-eigenschappen (zoals leeftijd of ras) te raden door te kijken naar de data die het systeem deelde.

Samenvatting

Denk aan SCC-VFL als een Eerlijkheidsfilter voor een team van geheimzinnige chefs. Het zorgt ervoor dat wanneer ze hun geheime ingrediënten combineren om een beslissing te nemen, de uiteindelijke smaak niet willekeurig verandert alleen omdat één geheim ingrediënt (zoals je leeftijd) iets anders is. Dit doet het door:

De gevoelige informatie te vervagen om privacy te beschermen.
Kenmerken te sorteren in "Vast", "Mag Veranderen" en "Verboden".
De "Toegestane" delen realistisch te bewerken.
Het systeem te straffen als de uiteindelijke beslissing onfair verandert.

Het resultaat is een systeem dat privacy respecteert, data gedistribueerd houdt, en ervoor zorgt dat je lening of medische beslissing afhangt van je werkelijke kwalificaties, en niet van een verborgen vooroordeel tegen je leeftijd, ras of geslacht.

Technische Samenvatting: Selectieve Contrafactuele Consistentie voor Verticale Federatief Leren (SCC-VFL)

1. Probleemstelling

Het artikel behandelt de uitdaging om individuele rechtvaardigheid te waarborgen in Verticale Federatief Leren (VFL)-omgevingen, waarbij data-kenmerken zijn verdeeld over meerdere instellingen (partijen) en gevoelige attributen (bijv. ras, leeftijd, geslacht) privé kunnen worden gehouden door één enkele partij of een enclave.

In VFL houden partijen disjuncte subsets van kenmerken voor overlappende entiteiten. Hoewel federatief leren collaboratief modeltrainen mogelijk maakt zonder ruwe data te centraliseren, bemoeilijkt het de handhaving van rechtvaardigheid. Bestaande benaderingen voor rechtvaardigheid vertrouwen vaak op groepsniveau-metrics (bijv. demografische pariteit, gelijkwaardige kansen) of veronderstellen volledige toegang tot kenmerken en causale grafieken, die in VFL niet beschikbaar zijn. Bovendien zijn naïeve contrafactuele ingrepen in VFL instabiel vanwege:

Partiële Zichtbaarheid: Geen enkele partij observeert alle kenmerken, wat het moeilijk maakt om te bepalen welke kenmerken toelaatbare mediators versus ontoelaatbare proxies van een gevoelig attribuut zijn.
Privacybeperkingen: Gevoelige attributen zijn vaak privé, wat directe ingrepen tijdens het trainen verhindert.
Lekkage: Gedeelde representaties of updates kunnen onbedoeld gevoelige informatie lekken of proxies toelaten om gevoelige invloed door te geven.

De auteurs richten zich op contrafactuele stabiliteit op individueel niveau: ervoor zorgen dat de voorspelling voor een individu onveranderd blijft onder een hypothetische ingreep op hun beschermde attribuut, mits niet-afstammende kenmerken vastgehouden worden en alleen door het beleid toegestane mediators mogen variëren.

2. Methodologie: SCC-VFL

De auteurs stellen SCC-VFL (Selectieve Contrafactuele Consistentie voor Verticale Federatief Leren) voor, een server-gedreven raamwerk dat individuele rechtvaardigheid operationaliseert via drie geïntegreerde componenten:

A. Grafiekvrije, Differentieel Private (DP) Maskerontdekking

Omdat causale grafieken zelden beschikbaar zijn in multi-partij-omgevingen, gebruikt SCC-VFL een grafiekvrije, DP-procedure om de kenmerken van elke partij te partitioneren in drie sets:

Niet-afstammenden ( $N$ ): Kenmerken die vast moeten blijven onder een ingreep op een gevoelig attribuut.
Mediators ( $M$ ): Kenmerken die toegestaan zijn om te veranderen (toegestane paden volgens het beleid).
Proxies ( $P$ ): Een subset van mediators die fungeren als ontoelaatbare paden voor gevoelige invloed en onderdrukt moeten worden.

Mechanisme:

Een betrouwbare houder (of enclave) genereert een DP-schets ( $z_s$ ) van het gevoelige attribuut $s$ door contingency-tabellen te clippen en Gaussisch ruis toe te voegen. Deze schets voldoet aan $(\epsilon, \delta)$ -DP, maar wordt niet toegepast op de volledige trainingspijplijn.
Partijen gebruiken $z_s$ als een aanvullende covariaat om te testen of hun lokale kenmerken statistisch responsief zijn op $s$ .
Het systeem berekent twee metrics voor elk kenmerk:
- Risicowinst ( $\Delta_j$ ): Verbetering in het voorspellen van het kenmerk wanneer $z_s$ wordt opgenomen.
- Hilbert-Schmidt Independence Criterion (HSIC): Residuele afhankelijkheid van $z_s$ na conditionering op andere lokale kenmerken.
Kenmerken met een lage HSIC worden toegewezen aan $N$ ; die met een hoge HSIC zijn kandidaten voor $M$ . Binnen $M$ worden kenmerken met een hoge risicowinst (sterke gevoeligheid voor $s$ maar lage taakrelevantie) gemarkeerd als proxies $P$ .

B. Gemaskerde Contrafactuele Generatie

Elke partij traint een lokale conditionele generator (een cVAE) om contrafactuele invoer te creëren.

Behoud van Identiteit: Niet-afstammenden ( $N$ ) worden exact gekopieerd ( $x^{cf}_N = x_N$ ).
Bewerking van Mediators: Mediators ( $M$ ) worden bewerkt om te liggen op het draagvlak van de conditionele verdeling $p(x_M | x_N, c, z_{s'})$ , waarbij $z_{s'}$ de doeldoelige gevoelige embedding is.
Onderdrukking van Lekkage: Proxies ( $P$ ) passeren ongewijzigd maar zijn onderhevig aan een adversariële loss. Een adversary probeert $z_s$ te herstellen uit de contrafactuele proxy-kenmerken; de generator minimaliseert dit succespercentage om residuele gevoelige signalen te onderdrukken.

C. Server-side Selectieve Contrafactuele Consistentie (SCC) Loss

De server aggregeert representaties van originele en gemaskerde contrafactuele invoer om gefuseerde representaties $z$ en $z^{cf}$ te vormen.

Consistentiestraf: De server minimaliseert een loss-term $\mathcal{L}_{SCC}$ die het verschil tussen voorspellingen $f_\theta(z)$ en $f_\theta(z^{cf})$ bestraft.
Doel: Dit dwingt uit dat de beslissing van het model niet willekeurig omklapt wanneer alleen door het beleid toegestane mediators worden bewerkt. Het totale doel combineert taaknut, SCC-consistentie en validiteitsbeperkingen (identiteit, draagvlak, lekkage).

3. Belangrijkste Bijdragen

Probleemformulering: Definieerde Selectieve Contrafactuele Consistentie (SCC) voor VFL, gericht op stabiliteit per instantie onder door beleid gespecificeerde ingrepen in plaats van groepspariteit.
DP Maskerontdekking: Introduceerde een grafiekvrije, differentieel private mechanisme om kandidaat-niet-afstammenden, mediators en proxies te identificeren zonder een vooraf gedefinieerde causale grafiek of toegang tot ruwe gevoelige data te vereisen.
Gemaskerde Generatie met Lekkagebeheersing: Ontwierp partij-lokale generators die alleen mediators bewerken, terwijl identiteit op niet-afstammenden wordt afgedwongen en proxy-lekkage wordt onderdrukt via adversariaal trainen.
Server-gedwongen Handhaving: Implementeerde een consistentieloss op de server die ontoelaatbare veranderingen in voorspellingen bestraft, gevalideerd over diverse domeinen.

4. Experimentele Resultaten

De auteurs evalueerden SCC-VFL op drie real-world datasets: German Credit (Bankwezen), UCI Hartziekte (Zorg) en COMPAS Cox (Strafrecht), onder zowel IID als Non-IID (distributieverplaatsing) splits.

Rechtvaardigheidsmetrics: SCC-VFL verlaagde de Flip Rate (FR) (het fractie van samples die van voorspelling verandert onder ingreep) significant met tot 98% in vergelijking met sterke baselines (bijv. Adv-NoMask, Uniform-CF, Beleid-blinde Masker). Het bereikte ook de laagste Selectieve Consistentie Gap (SCG).
- Voorbeeld: Op German Credit (Non-IID) verlaagde SCC-VFL de FR naar 0,12% in vergelijking met 6,24–8,22% voor baselines.
Nut: De methode behield of verbeterde de voorspellende nauwkeurigheid en LogLoss, wat gunstige afwegingen tussen nut en rechtvaardigheid aantoont.
Privacy en Robuustheid:
- Attribuut-inferentie-aanvallen (AIA): SCC-VFL verlaagde het succespercentage van aanvallen met 4–5 procentpunten in vergelijking met baselines.
- Subspace-PGD-aanvallen: Onder gerichte perturbaties van mediator-coördinaten vertoonde SCC-VFL de laagste succespercentages (bijv. 9,3% bij $\epsilon=0,20$ versus 21,7% voor Adv-NoMask), wat wijst op afgevlakte beslissingsgrenzen langs gevoelige richtingen.
Ablatiestudies: Het verwijderen van een component (maskerontdekking, generator of consistentieloss) degradeerde de prestaties, wat de noodzaak bevestigt van de volledige pijplijn voor stabiliteit en lekkagebeheersing.

5. Betekenis en Claims

Het artikel claimt dat SCC-VFL een praktisch auditabele rechtvaardigheidsdoelstelling biedt voor VFL-implementaties waar data gesiloed is en gevoelige attributen privé zijn.

Individuele Verantwoordelijkheid: In tegenstelling tot groepsniveau-metrics die individuele inconsistenties kunnen maskeren, zorgt SCC-VFL ervoor dat specifieke individuen stabiele beslissingen ontvangen onder contrafactuele veranderingen aan beschermde attributen, in lijn met wettelijke vereisten tegen discriminatie (bijv. leeftijdsdiscriminatie bij leningen).
Beleidsovereenstemming: Het raamwerk dwingt een verklaard beleid af met betrekking tot welke causale paden toelaatbaar zijn. Het claimt niet om grondwaarheid-causaliteit te ontdekken, maar operationaliseert eerder een door governance gedefinieerde specificatie ( $N/M/P$ ) in een leeralgoritme.
Robuustheid tegen Verplaatsing: De methode blijft effectief onder Non-IID-instellingen en distributieverplaatsingen, waar basismethoden vaak lijden aan stabiliteitsdegradatie.
Privacy Scope: De auteurs stellen expliciet dat de formele DP-garantie alleen van toepassing is op de schets die wordt gebruikt voor maskerontdekking, niet op de volledige trainingspijplijn (representaties, gradiënten of modelparameters). De in experimenten waargenomen privacyvoordelen zijn empirische verminderingen van lekkage onder specifieke bedreigingsmodellen, geen formele end-to-end DP-garanties.

Het werk positioneert contrafactuele stabiliteit op individueel niveau als een levensvatbare aanvulling op groepsrechtvaardigheid, en biedt een mechanisme voor stakeholders om te auditeren, te betwisten en te verifiëren dat algoritmische beslissingen niet willekeurig worden gedreven door beschermde attributen in gedistribueerde leeromgevingen.