RESFL: An Uncertainty-Aware Framework for Responsible Federated Learning by Balancing Privacy, Fairness and Utility

1. Problemstellung

Federated Learning (FL) ermöglicht das kollaborative Trainieren von Modellen, ohne dass Rohdaten zentralisiert werden müssen, was den Datenschutz verbessert. Dennoch bestehen in FL-Systemen zwei kritische Herausforderungen, die oft in Konflikt stehen:

• Privatsphäre vs. Fairness: Um Privatsphäre zu wahren (z. B. durch Differential Privacy), werden sensible Attribute (wie Hautfarbe, Geschlecht oder Alter) oft verschleiert oder nicht geteilt. Dies verhindert jedoch, dass das System Bias (Voreingenommenheit) erkennt und korrigiert, was zu ungleichen Leistungsergebnissen zwischen verschiedenen demografischen Gruppen führt.
• Unsicherheit und Zuverlässigkeit: In sicherheitskritischen Anwendungen (wie autonomen Fahrzeugen) führen Umgebungsunsicherheiten (Wetter, Beleuchtung, Sensorrauschen) zu einer degradierten Modellzuverlässigkeit. Diese Unsicherheit trifft oft bestimmte Untergruppen härter als andere, was die Fairness weiter verschlechtert.
• Adversarielle Bedrohungen: FL-Systeme sind anfällig für bösartige Clients, die Updates manipulieren oder Vertrauenssignale verfälschen können, was die Diskrepanzen zwischen Gruppen vergrößert.

Bisherige Ansätze optimieren meist nur ein Ziel (z. B. Privatsphäre oder Fairness) auf Kosten der anderen, ohne die epistemische Unsicherheit des Modells systematisch zu nutzen.

2. Methodik: Das RESFL-Framework

RESFL (Responsible Federated Learning) ist ein domänenagnostisches Framework, das Privatsphäre, Fairness und Nutzen (Utility) durch die Integration zweier komplementärer Komponenten in einer einzigen Pipeline optimiert:

A. Adversarielle Privatsphäre-Entflechtung (Adversarial Privacy Disentanglement)

Um zu verhindern, dass sensible Attribute aus den geteilten Modell-Updates abgeleitet werden können, verwendet RESFL einen Gradient Reversal Layer (GRL).

• Mechanismus: Ein lokaler Feature-Extractor wird gemeinsam mit einem adversariellen Klassifikator trainiert. Der Klassifikator versucht, das sensible Attribut (z. B. Hautfarbe) aus den latenten Repräsentationen vorherzusagen. Der Feature-Extractor wird jedoch so trainiert, dass er die Vorhersage des Klassifikators maximiert (durch Umkehrung des Gradienten), während er gleichzeitig die Hauptaufgabe (z. B. Objekterkennung) minimiert.
• Ziel: Die gelernten Repräsentationen werden invariant gegenüber dem sensiblen Attribut, wodurch die gegenseitige Information $I(H; S)$ minimiert und das Risiko von Attribut-Inferenz-Angriffen reduziert wird, ohne die Nützlichkeit des Modells stark zu beeinträchtigen.

B. Unsicherheitsgesteuerte, faire Aggregation (Uncertainty-Guided Fairness-Aware Aggregation)

Anstatt Updates einfach zu mitteln (wie bei FedAvg), gewichtet RESFL die Beiträge der Clients basierend auf ihrer Fairness und Zuverlässigkeit.

• Evidential Neural Network (ENN): Jeder Client ersetzt den Standard-Softmax-Ausgang durch einen evidenzbasierten Ausgabeschicht, der einen Konzentrationsvektor $\alpha$ für eine Dirichlet-Verteilung vorhersagt. Dies ermöglicht die Berechnung der epistemischen Unsicherheit (Unsicherheit aufgrund von Datenmangel oder -variabilität) ohne aufwendige Monte-Carlo-Sampling-Verfahren.
• Uncertainty Fairness Metric (UFM): Aus den evidenzbasierten Unsicherheiten wird pro Client eine Metrik berechnet, die die Diskrepanz der Unsicherheit zwischen verschiedenen demografischen Gruppen misst. Eine hohe UFM bedeutet eine große Ungleichheit in der Zuverlässigkeit zwischen Gruppen.
• Aggregationsgewichtung: Der Server aggregiert die Updates mit Gewichten $\omega_i$, die exponentiell von der UFM des Clients abhängen:
  $$\omega_i \propto \exp(-\beta \cdot \text{UFM}_i)$$
  Clients mit niedriger interner Diskrepanz (hohe Fairness) und hoher Konfidenz erhalten ein höheres Gewicht. Dies fördert Updates, die sowohl robust als auch gerecht sind.

C. Gemeinsame Optimierung

Die lokale Verlustfunktion eines Clients kombiniert die Hauptaufgabe (z. B. Objekterkennung), den adversariellen Privatsphäre-Verlust und den Unsicherheits-basierten Fairness-Term:
$$\mathcal{L}_{local} = \mathcal{L}_{task} + \lambda_{priv} \mathcal{L}_{adv} + \lambda_{fair} \mathcal{L}_{uncertainty}$$

3. Schlüsselbeiträge

1. Integriertes Framework: RESFL ist einer der ersten Ansätze, der Privatsphäre (durch Entflechtung) und Gruppen-Fairness (durch Unsicherheitsgewichtung) in einem einzigen FL-Algorithmus vereint, ohne auf zentrale sensible Daten angewiesen zu sein.
2. Theoretische Fundierung: Die Autoren leiten theoretische Schranken her, die zeigen, dass die Kontrolle der UFM die generalisierte Diskrepanz zwischen Gruppen begrenzt und die Fairness unter Unsicherheit verbessert.
3. Robustheit gegen Umgebungsbedingungen: Das Framework wurde speziell für Szenarien mit hoher Variabilität (Wetter, Licht) entwickelt und nutzt Unsicherheitsschätzungen, um Übervertrauen in schwierigen Situationen zu dämpfen.
4. Domänenagnostizität: Obwohl primär für autonomes Fahren getestet, wurde RESFL auch auf tabellarische (Adult-Datensatz) und textbasierte (TweetEval) Daten angewendet und zeigt dort ähnliche Verbesserungen.

4. Experimentelle Ergebnisse

Die Evaluation erfolgte auf dem FACET-Datensatz (reale Bilder mit Hautfarb-Annotationen) und dem CARLA-Simulator (autonomes Fahren unter verschiedenen Wetterbedingungen).

• Leistung (Utility): RESFL erreicht eine mittlere durchschnittliche Präzision (mAP) von 0,6654 auf FACET, was nahe an den besten Fairness-Methoden (FairFed: 0,7013) liegt, aber deutlich über reinen Privacy-Methoden (FedAvg-DP: 0,4612) liegt.
• Fairness:
  • Reduktion der Equality of Opportunity Gap ($\Delta EOP$) um 17% im Vergleich zum FedAvg-Baseline.
  • Konsistente Leistung über alle 10 Hautfarb-Gruppen (Monk Skin Tone Scale) hinweg, während Baseline-Modelle bei dunkleren Hauttönen stark abfallen.
• Privatsphäre:
  • Reduktion des Erfolgs von Membership Inference Attacks (MIA) um 37% gegenüber FedAvg.
  • Deutlich geringere Erfolgsraten bei Attribute Inference Attacks (AIA) im Vergleich zu DP-basierten Ansätzen.
• Robustheit unter adversen Bedingungen:
  • Unter extremen Bedingungen (z. B. 100% Nebel) bleibt RESFL funktionsfähig (mAP ~0,17), während andere Modelle (z. B. FedAvg-DP) fast vollständig versagen (mAP < 0,10).
  • RESFL zeigt eine höhere Widerstandsfähigkeit gegen Byzantine-Angriffe und Datenvergiftung.
• Skalierbarkeit: Das Framework skaliert linear mit der Anzahl der Clients und fügt nur einen konstanten Rechenaufwand hinzu.

5. Bedeutung und Fazit

RESFL adressiert eine der größten Lücken im Bereich des maschinellen Lernens: den Zielkonflikt zwischen Datenschutz und ethischer Fairness.

• Praktische Relevanz: Für sicherheitskritische Anwendungen wie autonomes Fahren oder Gesundheitswesen ist es unerlässlich, dass Modelle nicht nur privat, sondern auch fair und zuverlässig unter Unsicherheit funktionieren. RESFL bietet einen Weg, dies ohne zentrale Datensammlung zu erreichen.
• Paradigmenwechsel: Anstatt Fairness als nachträgliche Korrektur oder Privatsphäre als reinen Rausch-Filter zu behandeln, nutzt RESFL die inhärente Unsicherheit des Modells als Signal, um faire Aggregation zu steuern.
• Zukunftsaussichten: Die Arbeit legt den Grundstein für „Responsible AI" in dezentralen Umgebungen und zeigt, dass es möglich ist, hohe Genauigkeit, starke Privatsphäre und faire Ergebnisse gleichzeitig zu erreichen, selbst wenn sensible Attribute lokal vorhanden, aber nicht geteilt werden dürfen.

Zusammenfassend stellt RESFL einen robusten, skalierbaren und theoretisch fundierten Ansatz dar, der die Grenzen des aktuellen Federated Learning erweitert und eine neue Richtung für vertrauenswürdige KI-Systeme aufzeigt.