💻 computer science

Toward Individual Fairness Without Centralized Data: Selective Counterfactual Consistency for Vertical Federated Learning

Dieser Artikel schlägt SCC-VFL vor, ein serverzentriertes Framework für vertikales föderiertes Lernen, das individuelle kontrafaktische Fairness durch die Kombination von differenziell privater Entdeckung von Feature-Rollen, maskierter kontrafaktischer Generierung und einer Konsistenzverlustfunktion erzwingt, um die Raten von Entscheidungswechseln erheblich zu reduzieren, während gleichzeitig die Vorhersagegenauigkeit und der Datenschutz gewahrt bleiben.

Ursprüngliche Autoren: Dawood Wasif, Chandan K. Reddy, Terrence J. Moore, Jin-Hee Cho

Veröffentlicht 2026-05-12

📖 6 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Dawood Wasif, Chandan K. Reddy, Terrence J. Moore, Jin-Hee Cho

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie beantragen einen Kredit. Ihr finanzielles Leben ist wie ein Puzzle, doch die Teile sind auf verschiedene Gebäude verteilt. Bank A hat Ihre Kontohistorie, Ihr Arbeitgeber Ihre Gehaltsabrechnungen und eine Auskunftei Ihre Schuldenaufzeichnungen. Keine von ihnen möchte ihre privaten Dateien aufgrund von Datenschutzgesetzen einem zentralen Chef übergeben. Daher nutzen sie ein System namens Vertikales Federated Learning (VFL). Stellen Sie sich das wie eine Gruppe von Köchen in separaten Küchen vor, die jeweils unterschiedliche Zutaten haben. Sie senden nur kleine, zubereitete Proben ihrer Gerichte an einen Küchenchef (den Server), der sie mischt, um das Endgericht zu probieren, ohne jemals die rohen Zutaten in den anderen Küchen zu sehen.

Das Problem ist: Ist die endgültige Entscheidung fair?

Wenn Sie 25 Jahre alt sind, erhalten Sie den Kredit? Wenn Sie 26 wären, erhielten Sie ihn? Wenn sich die Antwort nur wegen Ihres Alters (einem geschützten Merkmal) ändert, ist das unfair. Doch hier ist es noch komplizierter, denn das Puzzleteil „Alter" könnte sich in einer Küche befinden, während das Puzzleteil „Berufsstabilität" in einer anderen liegt. Das System könnte versehentlich Ihr Alter nutzen, um Ihre Berufsstabilität zu erraten, und dies dann nutzen, um Ihren Kredit abzulehnen, obwohl das Alter keine Rolle spielen sollte.

Die Autoren dieses Papiers, SCC-VFL, schlagen einen neuen Weg vor, um dies zu beheben. Sie nennen es Selektive kontrafaktische Konsistenz. So funktioniert es, unter Verwendung einfacher Analogien:

1. Der „Was-wäre-wenn"-Test (Kontrafaktika)

Stellen Sie sich vor, Sie sind ein Zeitreisender. Sie reisen zurück und ändern eine Sache an sich: Ihr Alter. Sie fragen: „Wenn ich 26 statt 25 wäre, aber alles andere in meinem Leben genau gleich bliebe, würde ich dann immer noch den Kredit erhalten?"

Fair: Wenn die Antwort „Ja, ich erhalte immer noch den Kredit" lautet, ist das System stabil.
Unfair: Wenn die Antwort „Nein, ich werde abgelehnt" lautet, ist das System instabil und potenziell voreingenommen.

Das Ziel ist es sicherzustellen, dass die Antwort gleich bleibt, selbst wenn Sie Ihr Alter ändern.

2. Das Problem mit „blinden" Lösungen

Frühere Versuche, dies zu beheben, waren wie der Versuch, ein Foto zu bearbeiten, indem man das gesamte Bild unscharf macht. Sie versuchten, alle Spuren des Alters aus den Daten zu entfernen. Doch dies ist zu hart. Manchmal spielt das Alter tatsächlich gesetzlich oder logisch eine Rolle (z. B. kann ein 21-Jähriger kein Auto mieten, ein 25-Jähriger aber schon). Wir müssen klug darüber sein, was wir ändern.

3. Die SCC-VFL-Lösung: Der „Intelligente Editor"

Die Autoren haben ein System entwickelt, das wie ein Intelligenter Editor mit drei spezifischen Werkzeugen funktioniert:

Werkzeug A: Die „Privatsphären-Maske" (Die Rollen finden)

Bevor bearbeitet wird, muss das System wissen, welche Merkmale welche sind.

Nicht-Nachkommen (Die „Fixen" Anker): Das sind Dinge, die sich nicht ändern können, nur weil sich Ihr Alter geändert hat. Zum Beispiel Ihr Kreditbetrag oder wie lange Sie in Ihrem Haus gewohnt haben. Diese müssen im „Was-wäre-wenn"-Szenario exakt gleich bleiben.
Vermittler (Die „Erlaubten" Bewegungen): Das sind Dinge, die sich natürlich mit dem Alter ändern können. Zum Beispiel könnte Ihre Berufserfahrung oder Ihre Kredithistorie für einen 26-Jährigen anders aussehen als für einen 25-Jährigen. Das System darf diese aktualisieren, um dem neuen Alter zu entsprechen.
Proxy (Die „Verbotenen" Lecks): Das sind hinterhältige Merkmale, die dem System heimlich Ihr Alter verraten, ohne dass Sie es sagen (wie eine bestimmte Postleitzahl oder ein demografischer Code). Das System muss verhindern, dass diese die Entscheidung beeinflussen.

Wie finden sie diese, ohne die Rohdaten zu sehen? Sie verwenden eine Privatsphären-Skizze. Stellen Sie sich vor, der Server bittet die Partei, die die Altersdaten hält, eine „verschmierte" Version der Altersliste zu senden (wie ein nebliges Foto), die die Privatsphäre Einzelner schützt, aber das allgemeine Muster zeigt. Mithilfe dieses nebligen Fotos ermittelt das System, welche Merkmale „Anker", „Bewegungen" oder „Lecks" sind, ohne jemals die echten Namen oder Alter zu sehen.

Werkzeug B: Der „Maskierte Generator" (Die sichere Bearbeitung)

Sobald die Rollen zugewiesen sind, erstellt das System eine „Was-wäre-wenn"-Version Ihres Antrags.

Es sichert die Anker (Nicht-Nachkommen), damit sie sich nicht rühren.
Es aktualisiert die Bewegungen (Vermittler), damit sie für das neue Alter realistisch aussehen (z. B. etwas längere Berufserfahrung).
Es schützt die Lecks (Proxy), damit sie dem Entscheidungsträger nicht versehentlich das alte Alter zuflüstern.

Das ist wie ein Schneider, der die Ärmel eines Anzugs (Vermittler) anpassen darf, um in eine neue Größe zu passen, dem es aber strengstens verboten ist, das Stoffmuster (Anker) zu ändern oder ein verstecktes Etikett hinzuzufügen, das den ursprünglichen Besitzer verrät (Proxy).

Werkzeug C: Der „Stabilitätscheck" (Serverseitige Durchsetzung)

Schließlich betrachtet der Server die ursprüngliche Entscheidung und die „Was-wäre-wenn"-Entscheidung.

Wenn sich die Entscheidung umkehrt (z. B. von „Genehmigt" zu „Abgelehnt"), nur wegen der erlaubten Änderungen, erhält das System eine Strafe.
Es zwingt das Modell, eine Entscheidungsweise zu lernen, die stabil ist. Es lehrt das Modell: „Wenn sich nur die Dinge geändert haben, die wir erlaubt haben zu ändern, sollte das Ergebnis gleich bleiben."

Die Ergebnisse: Ein faireres, sichereres System

Die Autoren testeten dies in drei realen Szenarien: Kreditwesen (Kredite), Gesundheitswesen (Risiko für Herzerkrankungen) und Strafrecht (Rückfallrisiko).

Das Ergebnis: Ihr System (SCC-VFL) war viel besser darin, Entscheidungen stabil zu halten. In einigen Fällen reduzierte es „Entscheidungswechsel" (bei denen eine Person nur wegen eines geschützten Merkmals eine andere Antwort erhält) um 98 % im Vergleich zu anderen Methoden.
Kein Kompromiss: Normalerweise macht es ein System weniger genau, wenn man es fairer macht (wie ein Sicherheitsbeamter, der jeden anhält, um sicher zu sein). Doch SCC-VFL hielt die Genauigkeit hoch, während es die Entscheidungen fairer machte.
Datenschutz: Es erschwerte es auch Hackern, Ihre privaten Merkmale (wie Alter oder Ethnie) zu erraten, indem sie die vom System geteilten Daten betrachteten.

Zusammenfassung

Stellen Sie sich SCC-VFL als einen Fairness-Filter für ein Team geheimer Köche vor. Es stellt sicher, dass, wenn sie ihre geheimen Zutaten kombinieren, um eine Entscheidung zu treffen, der endgültige Geschmack nicht willkürlich ändert, nur weil eine geheime Zutat (wie Ihr Alter) leicht unterschiedlich ist. Dies erreicht es durch:

Verschmieren der sensiblen Informationen zum Schutz der Privatsphäre.
Sortieren der Merkmale in „Fix", „Darf sich ändern" und „Verboten".
Bearbeiten der „erlaubten" Teile realistisch.
Bestrafen des Systems, wenn sich die endgültige Entscheidung unfair ändert.

Das Ergebnis ist ein System, das die Privatsphäre respektiert, Daten verteilt hält und sicherstellt, dass Ihre Kredit- oder medizinische Entscheidung von Ihren tatsächlichen Qualifikationen abhängt und nicht von einer versteckten Voreingenommenheit gegenüber Ihrem Alter, Ihrer Ethnie oder Ihrem Geschlecht.

Technische Zusammenfassung: Selektive kontrafaktische Konsistenz für vertikales föderiertes Lernen (SCC-VFL)

1. Problemstellung

Die Arbeit adressiert die Herausforderung, individuelle Fairness in Vertikalen Föderierten Lernumgebungen (VFL) zu gewährleisten, in denen Datenmerkmale über mehrere Institutionen (Parteien) verteilt sind und sensible Attribute (z. B. Ethnie, Alter, Geschlecht) möglicherweise privat von einer einzelnen Partei oder einem Enklave gehalten werden.

In VFL halten Parteien disjunkte Teilmengen von Merkmalen für sich überschneidende Entitäten. Während föderiertes Lernen eine kollaborative Modelltraining ohne Zentralisierung der Rohdaten ermöglicht, erschwert dies die Durchsetzung von Fairness. Bestehende Fairness-Ansätze verlassen sich häufig auf gruppenbasierte Metriken (z. B. demografische Parität, equalized odds) oder gehen von vollem Zugriff auf Merkmale und kausale Graphen aus, die in VFL nicht verfügbar sind. Darüber hinaus sind naive kontrafaktische Interventionen in VFL instabil, weil:

Partielle Sichtbarkeit: Keine einzelne Partei beobachtet alle Merkmale, was es schwierig macht, zu bestimmen, welche Merkmale zulässige Mediatoren versus unzulässige Proxy-Indikatoren eines sensiblen Attributes sind.
Datenschutzbeschränkungen: Sensible Attribute sind oft privat, was direkte Interventionen während des Trainings verhindert.
Leckage: Geteilte Repräsentationen oder Updates können unbeabsichtigt sensible Informationen offenbaren oder es Proxies ermöglichen, sensiblen Einfluss zu übertragen.

Die Autoren konzentrieren sich auf individuelle kontrafaktische Stabilität: Sicherzustellen, dass die Vorhersage einer Person unter einer hypothetischen Intervention auf ihrem geschützten Attribut unverändert bleibt, sofern nicht-nachfolgende Merkmale konstant gehalten werden und nur policy-zulässige Mediatoren variieren dürfen.

2. Methodik: SCC-VFL

Die Autoren schlagen SCC-VFL (Selektive kontrafaktische Konsistenz für vertikales föderiertes Lernen) vor, ein serverzentriertes Framework, das individuelle Fairness durch drei integrierte Komponenten operationalisiert:

A. Graphenfreie, differentialprivat (DP) Masken-Entdeckung

Da kausale Graphen in Multi-Parteien-Szenarien selten verfügbar sind, verwendet SCC-VFL ein graphenfreies, DP-Verfahren, um die Merkmale jeder Partei in drei Mengen zu partitionieren:

Nicht-Nachfolger ( $N$ ): Merkmale, die unter einer Intervention des sensiblen Attributes konstant bleiben sollten.
Mediatoren ( $M$ ): Merkmale, die geändert werden dürfen (policy-zulässige Pfade).
Proxies ( $P$ ): Eine Teilmenge der Mediatoren, die als unzulässige Pfade für sensiblen Einfluss fungieren und unterdrückt werden müssen.

Mechanismus:

Ein vertrauenswürdiger Inhaber (oder Enklave) generiert eine DP-Skizze ( $z_s$ ) des sensiblen Attributes $s$ , indem Kontingenztabellen geklippt und mit Gaußschem Rauschen versehen werden. Diese Skizze erfüllt $(\epsilon, \delta)$ -DP, wird jedoch nicht auf den gesamten Trainingspipeline angewendet.
Parteien verwenden $z_s$ als zusätzliche Kovariable, um zu testen, ob ihre lokalen Merkmale statistisch auf $s$ reagieren.
Das System berechnet zwei Metriken für jedes Merkmal:
- Risikogewinn ( $\Delta_j$ ): Verbesserung bei der Vorhersage des Merkmals, wenn $z_s$ einbezogen wird.
- Hilbert-Schmidt-Unabhängigkeitskriterium (HSIC): Restliche Abhängigkeit von $z_s$ nach Konditionierung auf andere lokale Merkmale.
Merkmale mit niedrigem HSIC werden $N$ zugeordnet; solche mit hohem HSIC sind Kandidaten für $M$ . Innerhalb von $M$ werden Merkmale mit hohem Risikogewinn (starke Sensitivität gegenüber $s$ , aber geringe Aufgabenrelevanz) als Proxies $P$ markiert.

B. Maskierte kontrafaktische Generierung

Jede Partei trainiert einen lokalen bedingten Generator (ein cVAE), um kontrafaktische Eingaben zu erzeugen.

Identitätserhaltung: Nicht-Nachfolger ( $N$ ) werden exakt kopiert ( $x^{cf}_N = x_N$ ).
Mediator-Bearbeitung: Mediatoren ( $M$ ) werden so bearbeitet, dass sie im Träger der bedingten Verteilung $p(x_M | x_N, c, z_{s'})$ liegen, wobei $z_{s'}$ die Ziel-sensible Einbettung ist.
Leckage-Unterdrückung: Proxies ( $P$ ) unverändert durchlaufen, unterliegen jedoch einem adversariellen Verlust. Ein Angreifer versucht, $z_s$ aus den kontrafaktischen Proxy-Merkmalen wiederherzustellen; der Generator minimiert diese Erfolgsrate, um restliche sensible Signale zu unterdrücken.

C. Serverseitige selektive kontrafaktische Konsistenz (SCC) Verlustfunktion

Der Server aggregiert Repräsentationen aus ursprünglichen und maskierten kontrafaktischen Eingaben, um fusionierte Repräsentationen $z$ und $z^{cf}$ zu bilden.

Konsistenz-Strafterm: Der Server minimiert einen Verlustterm $\mathcal{L}_{SCC}$ , der die Differenz zwischen den Vorhersagen $f_\theta(z)$ und $f_\theta(z^{cf})$ bestraft.
Ziel: Dies erzwingt, dass die Entscheidung des Modells nicht willkürlich umschlägt, wenn nur policy-zulässige Mediatoren bearbeitet werden. Das Gesamtziel kombiniert Aufgaben-Nützlichkeit, SCC-Konsistenz und Gültigkeitsbedingungen (Identität, Träger, Leckage).

3. Hauptbeiträge

Problemformulierung: Definition von Selektiver kontrafaktischer Konsistenz (SCC) für VFL, mit Fokus auf Instanz-stabilität unter policy-spezifizierte Interventionen statt Gruppenparität.
DP-Masken-Entdeckung: Einführung eines graphenfreien, differentialprivaten Mechanismus zur Identifizierung von Kandidaten für Nicht-Nachfolger, Mediatoren und Proxies ohne Anforderung eines vordefinierten kausalen Graphen oder Zugriffs auf Rohdaten sensibler Attribute.
Maskierte Generierung mit Leckage-Kontrolle: Entwicklung von party-lokalen Generatoren, die nur Mediatoren bearbeiten, während Identität bei Nicht-Nachfolgern erzwungen und Proxy-Leckage durch adversarielles Training unterdrückt wird.
Serverzentrierte Durchsetzung: Implementierung eines Konsistenzverlusts auf Serverseite, der unzulässige Vorhersageänderungen bestraft, validiert über diverse Domänen.

4. Experimentelle Ergebnisse

Die Autoren bewerteten SCC-VFL an drei realen Datensätzen: German Credit (Bankwesen), UCI Heart Disease (Gesundheitswesen) und COMPAS Cox (Strafrecht), unter sowohl IID- als auch Non-IID-Splits (Verteilungsverschiebung).

Fairness-Metriken: SCC-VFL reduzierte die Flip-Rate (FR) (der Anteil der Proben, die ihre Vorhersage unter Intervention ändern) im Vergleich zu starken Baselines (z. B. Adv-NoMask, Uniform-CF, Policy-blind Mask) um bis zu 98%. Es erzielte zudem die niedrigste Selektive Konsistenz-Lücke (SCG).
- Beispiel: Bei German Credit (Non-IID) reduzierte SCC-VFL die FR auf 0,12% im Vergleich zu 6,24–8,22% für Baselines.
Nützlichkeit: Die Methode behielt die Vorhersagegenauigkeit und den LogLoss bei oder verbesserte sie und zeigte günstige Trade-offs zwischen Nützlichkeit und Fairness.
Datenschutz und Robustheit:
- Attribut-Inferenz-Angriffe (AIA): SCC-VFL reduzierte die Erfolgsraten von Angriffen um 4–5 Prozentpunkte im Vergleich zu Baselines.
- Subspace-PGD-Angriffe: Unter gezielten Störungen von Mediator-Koordinaten zeigte SCC-VFL die niedrigsten Erfolgsraten (z. B. 9,3% bei $\epsilon=0,20$ gegenüber 21,7% für Adv-NoMask), was auf abgeflachte Entscheidungsgrenzen entlang sensibler Richtungen hindeutet.
Ablationsstudien: Das Entfernen einer beliebigen Komponente (Masken-Entdeckung, Generator oder Konsistenzverlust) verschlechterte die Leistung, was die Notwendigkeit der gesamten Pipeline für Stabilität und Leckage-Kontrolle bestätigt.

5. Bedeutung und Behauptungen

Die Arbeit behauptet, dass SCC-VFL ein praktisch auditierbares Fairness-Ziel für VFL-Einsätze bietet, bei denen Daten isoliert sind und sensible Attribute privat gehalten werden.

Individuelle Verantwortlichkeit: Im Gegensatz zu gruppenbasierten Metriken, die individuelle Inkonsistenzen verschleiern können, stellt SCC-VFL sicher, dass bestimmte Individuen stabile Entscheidungen unter kontrafaktischen Änderungen geschützter Attribute erhalten, was mit gesetzlichen Anforderungen gegen Diskriminierung (z. B. Altersdiskriminierung bei Kreditvergabe) übereinstimmt.
Policy-Ausrichtung: Das Framework setzt eine deklarierte Policy bezüglich der zulässigen kausalen Pfade durch. Es beansprucht nicht, die Ground-Truth-Kausalität zu entdecken, sondern operationalisiert eine governance-definierte Spezifikation ( $N/M/P$ ) in einen Lernalgorithmus.
Robustheit gegenüber Verschiebungen: Die Methode bleibt unter Non-IID-Bedingungen und Verteilungsverschiebungen effektiv, wo Baseline-Methoden häufig unter Stabilitätsverschlechterung leiden.
Datenschutzumfang: Die Autoren stellen explizit fest, dass die formale DP-Garantie nur für die zur Masken-Entdeckung verwendete Skizze gilt, nicht für die gesamte Trainingspipeline (Repräsentationen, Gradienten oder Modellparameter). Die in Experimenten beobachteten Datenschutzvorteile sind empirische Reduktionen der Leckage unter spezifischen Bedrohungsmodellen, keine formalen End-to-End-DP-Garantien.

Die Arbeit positioniert individuelle kontrafaktische Stabilität als praktikable Ergänzung zur Gruppenfairness und bietet einen Mechanismus für Stakeholder, algorithmische Entscheidungen in verteilten Lernumgebungen zu auditieren, anzufechten und zu verifizieren, dass sie nicht willkürlich durch geschützte Attribute getrieben werden.