🤖 machine learning

Fairness-Aware Federated Learning with Trajectory Shapley Value

Dieser Artikel stellt FedTSV vor, ein Fairness-bewusstes Framework für Federated Learning, das den Trajectory Shapley Value nutzt, um die Beiträge der Clients dynamisch basierend auf ihrem zeitlichen Einfluss auf die Optimierungstrajektorie des globalen Modells zu gewichten und dadurch die Konvergenzgeschwindigkeit, Robustheit und Gerechtigkeit in heterogenen und adversarialen Szenarien zu verbessern.

Ursprüngliche Autoren: Daniel Kuznetsov, Ziqi Wang

Veröffentlicht 2026-05-29

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Daniel Kuznetsov, Ziqi Wang

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich eine Gruppe von Menschen vor, die versuchen, gemeinsam ein riesiges Puzzle zu lösen, sich aber in verschiedenen Räumen befinden und sich ihre Teile nicht zeigen können. Dies ist Federated Learning. Anstatt alle Puzzleteile an einen zentralen Tisch zu bringen (was langsam wäre und die Privatsphäre gefährden würde), arbeitet jeder an seinem eigenen Abschnitt des Puzzles in seinem Raum und sendet eine Beschreibung zurück, wie sein Teil passt. Ein zentraler „Server" versucht dann, diese Beschreibungen zusammenzufügen, um das endgültige Bild zu erstellen.

Das Problem mit der alten Methode (genannt FedAvg) besteht darin, dass der Server alle genau gleich behandelt. Er gibt jeder Person eine gleichberechtigte Stimme bei der Zusammenfügung der Teile, unabhängig davon, ob es sich um ein Genie beim Puzzle-Lösen, einen verwirrten Anfänger oder jemanden handelt, der das Bild absichtlich sabotieren möchte. Dies führt zu einem unordentlichen, instabilen Endbild.

Diese Arbeit stellt eine neue, intelligentere Methode für dieses Gruppenprojekt vor, die FedTSV heißt. So funktioniert sie, unter Verwendung einfacher Analogien:

1. Das Problem: Der Fehler der „festen Stimme"

Im alten System erhält bei 100 Personen jeder genau 1 % der Stimmgewalt.

Das Gute: Es ist einfach.
Das Schlechte: Wenn eine Person versucht, das Puzzle auf den Kopf zu kleben (ein „bösartiger" Client) oder einfach nur sehr schlecht im Puzzeln ist (ein „verrauschter" Client), zählt ihr schlechter Rat trotzdem mit 1 %. Wenn eine Person ein Meister beim Puzzle-Lösen ist, erhält sie keine zusätzliche Anerkennung. Das Ergebnis ist ein wackeliges, ungenaues Endbild.

2. Die Lösung: Der „Trajectory Shapley Value" (TSV)

Die Autoren schlagen eine neue Methode vor, um zu messen, wer tatsächlich hilft. Sie nennen dies den Trajectory Shapley Value.

Stellen Sie sich den Server als einen Trainer vor, der einen „perfekten Übungsplan" (ein Validierungsdatensatz) hat.

Der Zug des Trainers: Bevor er das Team um Hilfe bittet, führt der Trainer allein eine kurze Übungseinheit mit dem perfekten Übungsplan durch. Dies zeigt dem Trainer genau, in welche Richtung sich das Team bewegen sollte, um das Puzzle am schnellsten zu lösen.
Der Zug des Teams: Die Teammitglieder senden ihre Vorschläge (Updates) zurück.
Der Vergleich: Der Trainer schaut nicht nur auf die endgültige Antwort; er betrachtet den Pfad, den das Team genommen hat. Hat der Vorschlag des Teams sie näher an den „perfekten Übungsplan" des Trainers gebracht?
- Wenn der Vorschlag eines Teammitglieds perfekt mit dem Plan des Trainers übereinstimmt, erhält er eine hohe Punktzahl.
- Wenn sein Vorschlag das Team in die falsche Richtung drängt oder wild hin und her zickzackt, erhält er eine niedrige Punktzahl.

Dies ist der „Trajectory"-Teil: Es geht nicht nur um das Ziel, sondern darum, ob man bei jedem Schritt in die richtige Richtung läuft.

3. Der „Shapley Value"-Teil: Fairness in Teams

Der „Shapley Value" ist ein mathematisches Konzept aus der Spieltheorie. Stellen Sie sich eine Gruppe von Freunden vor, die versuchen, ein schweres Sofa zu bewegen.

Wenn man berechnet, wie viel jede Person beigetragen hat, indem man sieht, wie viel einfacher die Aufgabe ist, wenn sie anwesend ist, im Vergleich zu ihrer Abwesenheit, erhält man eine faire Punktzahl.
In dieser Arbeit berechnet die Mathematik: „Wie sehr hat diese spezifische Person die gesamte Gruppe in dieser spezifischen Runde näher an das Ziel gebracht?"

Durch die Kombination des Pfads des Trainers (Trajectory) mit der fairen Team-Bewertung (Shapley Value) erstellt das System eine dynamische Punktzahl für jeden Client.

4. Das Ergebnis: FedTSV (Der intelligente Kleber)

Das neue System, FedTSV, verwendet diese Punktzahlen, um zu entscheiden, wie sehr man dem Kleber jeder Person „vertrauen" soll.

Die guten Spieler: Wenn Sie dem Team konsequent helfen, in die richtige Richtung zu bewegen, wird Ihr „Kleber" stärker. Sie erhalten mehr Mitspracherecht beim endgültigen Bild.
Die schlechten Spieler: Wenn Sie versuchen, das Puzzle zu sabotieren oder einfach nur verwirrt sind, sinkt Ihre Punktzahl. Das System ignoriert Ihren Kleber effektiv oder gibt ihm ein sehr geringes Gewicht.
Die Dynamik: Im Gegensatz zum alten System, bei dem Ihre Stimme festgelegt ist, ändert sich Ihre Stimme hier in jeder Runde basierend darauf, wie gut Sie gerade eben abgeschnitten haben.

Was die Arbeit herausfand

Die Autoren testeten dies an zwei berühmten Bilddatensätzen (MNIST und CIFAR-10) und simulierten eine Welt mit:

Guten Spielern (die ähnliche Daten haben).
Verschiedenen Spielern (die sehr unterschiedliche Daten haben).
Saboteuren (die versuchen, das Modell zu ruinieren).

Die Ergebnisse:

Schnelleres Lernen: Das FedTSV-System lernte das Puzzle schneller als die alten Methoden.
Robuster: Selbst wenn Saboteure versuchten, alles durcheinanderzubringen, ignorierte FedTSV sie und hielt das endgültige Bild klar.
Faire: Das System identifizierte korrekt, wer half und wer schadete, und gab den „guten" Spielern mehr Einfluss und den „schlechten" Spielern fast keinen.

Zusammenfassung

Kurz gesagt ersetzt diese Arbeit ein „Einheitsgrößen"-Abstimmungssystem durch ein dynamisches, trainerähnliches Bewertungssystem. Anstatt alle gleich abstimmen zu lassen, beobachtet der Server, wie sich alle während des Trainingsprozesses bewegen, belohnt diejenigen, die in die richtige Richtung gehen, und verstummt diejenigen, die in die falsche Richtung gehen. Dies führt zu einem schnelleren, genaueren und fairen Ergebnis.

Technische Zusammenfassung: Fairness-bewusstes Federated Learning mit Trajectory Shapley Value

Problemstellung
Federated Learning (FL) ermöglicht das kollaborative Modelltraining über verteilte Clients hinweg, ohne Rohdaten auszutauschen, und adressiert dabei Datenschutz- und Kommunikationsbeschränkungen in Bereichen wie erneuerbare Energien, Gesundheitswesen und autonome Systeme. Herkömmliche Aggregationsschemata, insbesondere Federated Averaging (FedAvg), verlassen sich jedoch auf feste Gewichte (typischerweise einheitlich oder proportional zur Datengröße). Diese statischen Gewichte berücksichtigen weder zeitlich variierende Client-Beiträge, noch Datenheterogenität oder eine teilweise Teilnahme. Folglich kann das globale Modell unter Bias, Instabilität und der Anfälligkeit gegenüber Clients mit geringer Qualität oder böswilligen (byzantinischen) Clients leiden, die einen unverhältnismäßig großen Einfluss ausüben.

Bestehende Methoden zur Client-Bewertung nutzen häufig den Shapley-Wert (SV) aus der kooperativen Spieltheorie, um faire Scores basierend auf marginalen Beiträgen zuzuweisen. Die exakte Berechnung des SV ist jedoch für große Netzwerke nicht handhabbar. Approximationen wie Monte-Carlo-Sampling können Clients, die spät beitreten oder nur selten teilnehmen, unterbewerten, während gradientenbasierte Methoden (z. B. Cosine-Gradient Shapley Value) Updates großer Magnitude überbetonen und informationsbasierte Validierungsinformationen vermissen lassen. Es besteht ein Bedarf nach einer Beitragsmetrik, die zeitlich konsistent ist, robust gegenüber adversärem Verhalten und in der Lage ist, Clients basierend auf ihrem Einfluss auf die Optimierungstrajektorie zu bewerten, anstatt nur auf statischer Verlustreduktion.

Methodik: Trajectory Shapley Value (TSV) und FedTSV
Die Autoren schlagen Trajectory Shapley Value (TSV), eine neuartige Beitragsmetrik, und FedTSV, einen adaptiven Aggregationalgorithmus, vor.

Trajectory Shapley Value (TSV):
- Konzept: Anstatt sich ausschließlich auf statische Verlustreduktion zu konzentrieren, bewertet TSV, wie gut der Koalitions-Update eines Clients mit der Optimierungstrajektorie des globalen Modells übereinstimmt.
- Referenz-Update: In jeder Kommunikationsrunde $t$ berechnet der Server ein Referenz-Update ( $\Delta^t_{val}$ ), indem er $K$ Schritte des Stochastic Gradient Descent (SGD) auf zurückgehaltenen Validierungsdaten ausgehend vom aktuellen globalen Modell $\theta_t$ durchführt.
- Nutzenfunktion: Für jede Koalition $S$ teilnehmender Clients berechnet der Server deren durchschnittlichen Update ( $\Delta^t_S$ ). Eine begrenzte Nutzenfunktion pro Runde $v_t(S)$ wird definiert basierend auf dem Abstand zwischen dem Koalitions-Update und dem Validierungs-Referenz-Update:
  $v_t(S) = \left( 1 + \frac{\text{Dist}(\Delta^t_S, \Delta^t_{val})^2}{\sigma_t} \right)^{-1}$
  wobei $\text{Dist}$ eine Metrik (z. B. euklidisch) und $\sigma_t$ ein Normalisierungsfaktor ist, um die Stabilität in der Nähe stationärer Punkte sicherzustellen.
- Bewertung: Der Nutzen $v_t(S)$ steigt, je näher der Koalitions-Update geometrisch zur Validierungs-Abstieg-Richtung liegt. Der Shapley-Wert wird pro Runde unter Verwendung von Monte-Carlo-Sampling auf dieser begrenzten Nutzenfunktion geschätzt und über die Zeit akkumuliert, um einen kumulativen Beitragsscore zu bilden.
FedTSV-Algorithmus:
- Adaptive Gewichtung: Die kumulativen Shapley-Werte werden in nicht-negative, zeitabhängige Aggregationsgewichte ( $\alpha^t_i$ ) umgewandelt.
- Mechanismus: Clients mit positiven kumulativen Beiträgen erhalten höhere Gewichte, während solche mit negativen Beiträgen (die auf böswilliges Verhalten oder eine inkonsistente Ausrichtung hindeuten) auf null abgeschnitten werden.
- Robustheit: Dieser Mechanismus ermöglicht es dem Server, in Echtzeit dynamisch auf heterogene und adversäre Teilnahme zu reagieren, indem er böswillige Clients heruntergewichtet, ohne dass vorheriges Wissen über ihren Status erforderlich ist.
- Komplexität: Die Methode erfordert nur einen Client-Trainingsdurchlauf pro Runde plus einen serverseitigen Validierungsdurchlauf und bleibt damit rechnerisch machbar.

Hauptbeiträge
Die Arbeit skizziert drei primäre Beiträge:

TSV-Metrik: Einführung einer neuartigen Beitragsmetrik, die Clients durch ihren Einfluss auf die Optimierungstrajektorie bewertet und eine zeitlich konsistente Alternative zu herkömmlichen SV-basierten Methoden bietet.
FedTSV-Algorithmus: Entwicklung eines adaptiven Gewichtungsalgorithmus, der TSV nutzt, um Aggregationsgewichte dynamisch anzupassen, wodurch Fairness und Robustheit in heterogenen und adversären Umgebungen verbessert werden.
Empirische Validierung: Demonstration der Wirksamkeit von FedTSV über Bildklassifizierungs-Benchmarks (MNIST und CIFAR-10) und verschiedene FL-Szenarien hinweg, wobei die Vorteile für datenschutzkonformes verteiltes Lernen hervorgehoben werden.

Experimentelle Ergebnisse
Die Autoren bewerteten FedTSV gegenüber Baselines, darunter FedAvg, Cosine-Gradient Shapley Value (CGSV) und Leave-One-Out (LOO)-Methoden, auf den Datensätzen MNIST und CIFAR-10 mit 100 Clients (70 IID, 10 non-IID, 20 böswillig).

Konvergenz und Genauigkeit: FedTSV beschleunigte die Konvergenz konsistent und erreichte im Vergleich zu den Baselines eine höhere globale Genauigkeit. Auf CIFAR-10 stagnierte FedAvg bei niedrigeren Genauigkeitsniveaus (~0,65), während FedTSV eine stabile und überlegene Leistung aufrechterhielt.
Robustheit: FedTSV zeigte eine größere Stabilität gegenüber Label-Korruption und statistischer Heterogenität. Die Leistungsschwankungen von FedTSV waren signifikant geringer als bei anderen Methoden, insbesondere auf der komplexeren CIFAR-10-Landschaft.
Beitragsbewertung: Die Visualisierung der Client-Gewichte zeigte, dass FedTSV Client-Typen effektiv trennte: Böswillige Clients erhielten niedrige Scores, IID-freundliche Clients konzentrierten sich im positiven Bereich, und non-IID-freundliche Clients lagen dazwischen. Im Gegensatz dazu wies FedAvg einheitliche Gewichte zu, während CGSV und LOO verstreute Verteilungen oder aufgeblähte Gewichte für adversäre Clients zeigten.

Bedeutung und Behauptungen
Die Arbeit behauptet, dass FedTSV eine prinzipielle Grundlage für fairheitsbewusstes federiertes Optimieren bietet. Durch die Integration einer trajektorienbasierten Update-Analyse mit Shapley-Wert-Prinzipien bietet die Methode einen Mechanismus, der sowohl effizient als auch robust ist. Die Autoren behaupten, dass FedTSV die Robustheit in Gegenwart heterogener und adversärer Clients verbessert und gleichzeitig die rechnerische Effizienz bewahrt.

Die Arbeit bleibt bezüglich theoretischer Garantien bescheiden und stellt fest, dass die üblichen Konvergenzbeweise für FedAvg nicht direkt auf das zeitvariierende Ziel von FedTSV anwendbar sind, sodass eine rigorose Konvergenzanalyse zukünftigen Arbeiten vorbehalten bleibt. Als zukünftige Forschungsrichtungen wurden die Untersuchung der theoretischen Grundlagen von FedTSV aus spieltheoretischer Sicht identifiziert, mit einem spezifischen Fokus auf Anreizkompatibilität und Fairness im langfristigen kollaborativen Lernen.