🤖 machine learning

FedCF: Fair Federated Conformal Prediction

Dieses Paper stellt FedCF vor, ein Framework, das Conformal Fairness auf das Setting des föderierten Lernens erweitert, um eine gerechte Unsicherheitsquantifizierung über verschiedene demografische Gruppen hinweg zu auditieren und sicherzustellen, während gleichzeitig die Austauschbarkeit-Annahme genutzt wird.

Ursprüngliche Autoren: Anutam Srinivasan, Aditya T. Vadlamani, Amin Meghrazi, Srinivasan Parthasarathy

Veröffentlicht 2026-06-02

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Anutam Srinivasan, Aditya T. Vadlamani, Amin Meghrazi, Srinivasan Parthasarathy

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie stellen ein Team von Köchen aus verschiedenen Stadtvierteln ein, um ein einziges, perfektes Rezeptbuch zu erstellen. Jeder Koch hat seine eigenen lokalen Zutaten und seinen eigenen Kochstil, aber sie dürfen ihre geheimen Rezepte oder Zutatenlisten nicht untereinander teilen, da Datenschutzregeln gelten. Dies ist die Welt des Föderierten Lernens (Federated Learning): Viele Menschen trainieren gemeinsam ein Modell, ohne ihre privaten Daten zu teilen.

Das Problem? Manchmal kann das fertige Rezeptbuch für einige Gruppen von Menschen großartig schmecken, aber für andere schrecklich sein. Vielleicht funktioniert es perfekt für Liebhaber von scharfem Essen, aber versagt kläglich bei denen, die mildere Geschmässe bevorzugen. In der Welt des maschinellen Lernens nennt man das Ungerechtigkeit (Unfairness).

Dieses Paper stellt ein neues Werkzeug namens FedCF (Federated Conformal Fairness) vor, um dies zu beheben. So funktioniert es, unterteilt in einfache Konzepte:

1. Das „Sicherheitsnetz“ (Conformal Prediction)

Bevor wir über Fairness sprechen, müssen wir das „Sicherheitsnetz“ verstehen. In der Welt des maschinellen Lernens raten Modelle meistens einfach eine Antwort (z. B. „Das ist eine Katze“). Aber was ist, wenn sich das Modell unsicher ist?

Standard-Vorhersage: „Das ist eine Katze.“ (Wenn die Vorhersage falsch ist, haben Sie keine Warnung).
Conformal Prediction (CP): „Ich bin mir zu 95 % sicher, dass dies eine Katze ist, aber es könnte auch ein Hund sein.“ Es liefert eine Liste von Möglichkeiten. Wenn das Modell sicher ist, ist die Liste kurz (nur „Katze“). Wenn es unsicher ist, ist die Liste lang („Katze, Hund, Fuchs“).
Die Garantie: Das Paper garantiert, dass, wenn Sie „95 % Konfidenz“ angeben, die richtige Antwort in 95 % der Fälle tatsächlich in dieser Liste enthalten sein wird. Es ist ein mathematisches Versprechen von Zuverlässigkeit.

2. Das Problem: Das Sicherheitsnetz ist voreingenommen

Die Autoren fanden heraus, dass dieses „Sicherheitsnetz“ zwar im Durchschnitt gut funktioniert, aber nicht gerecht ist.

Die Analogie: Stellen Sie sich vor, das Sicherheitsnetz ist ein Fischernetz. Für die „reiche“ Gruppe der Daten hat das Netz kleine Maschen und fängt fast alles. Für die „arme“ Gruppe hat das Netz riesige Löcher, durch die viele Fische entkommen können.
Das Ergebnis: Das Modell könnte für Gruppe A zu 95 % zuverlässig sein, aber nur zu 80 % zuverlässig für Gruppe B. Dies ist ungerecht, besonders in kritischen Bereichen wie dem Gesundheitswesen oder dem Finanzwesen.

3. Die Lösung: FedCF (Der Fairness-Auditor)

FedCF ist eine neue Methode, um diese Voreingenommenheit zu prüfen und zu korrigieren, ohne dass die Köche (Clients) jemals ihre geheimen Zutaten (Daten) an den Chefkoch (Server) weitergeben müssen.

Hier ist der schrittweise Prozess:

Das „Lokale Audit“: Jeder Client (Koch) betrachtet seine eigenen lokalen Daten. Er zählt, wie oft sein „Sicherheitsnetz“ die richtige Antwort für verschiedene Gruppen einfängt (z. B. „Wie oft fängt mein Netz die richtige Antwort für Gruppe A im Vergleich zu Gruppe B?“). Er sendet nicht die Daten selbst, sondern nur eine einfache Zahl (einen Score), die diesen Zählwert repräsentiert.
Das „Globale Puzzle“: Der Server sammelt diese einfachen Zahlen von allen Beteiligten. Er weiß nicht, wer welche Daten hat, aber er kann diese Zahlen mathematisch kombinieren, um die allgemeine Fairness des gesamten Systems zu bestimmen.
Der „Einstellknopf“: Wenn der Server sieht, dass das Netz von Gruppe B zu weitmaschig (ungerecht) ist, dreht er einen „Knopf“ (einen Schwellenwert). Dies zieht das Netz für Gruppe B enger, was die Vorhersageliste etwas größer (weniger effizient), aber genauer macht.
Die Abstiegssuche (Descent Search): Anstatt die Einstellung des Knopfes eins nach dem anderen zu raten (was ewig dauern würde), nutzt FedCF eine intelligente „Abstiegsmethode“. Es ist wie das Rutschen einen Hügel hinunter, um den tiefsten Punkt zu finden. Es findet schnell die perfekte Einstellung, bei der das Netz für alle fair ist, ohne dass tausende Kommunikationsrunden nötig sind.

4. Zwei Wege zum Spielen (Privatsphäre vs. Geschwindigkeit)

Das Paper bietet zwei Möglichkeiten, diese Zahlen zu senden, je nachdem, worauf Sie mehr Wert legen:

Der „schnelle“ Weg: Die Clients senden nur wenige Zahlen. Das ist schnell und verbraucht weniger Internetbandbreite, aber ein gerissener Server könnte eventuell ein wenig über die Datenverteilung erraten.
Der „private“ Weg: Die Clients führen mehr Berechnungen auf ihrer Seite durch und senden eine „Differenz-Zahl“ (wie etwa zu sagen: „Ich habe 5 mehr als der Durchschnitt“ statt „Ich habe 5“). Dies verbirgt die individuellen Daten viel besser, erfordert aber das Senden von etwas mehr Informationen.
Das Hybrid-Modell: Man kann beides mischen! Einige Clients können schnell sein, andere privat, und das System funktioniert trotzdem.

5. Was sie herausgefunden haben (Die Ergebnisse)

Die Autoren haben dies mit echten Daten getestet (wie Einkommensdaten, Bildungsniveau und Bilder von Hautzuständen), die über verschiedene Regionen verteilt waren.

Die gute Nachricht: FedCF hat das „Sicherheitsnetz“ erfolgreich fair gestaltet. Es stellte sicher, dass die Zuverlässigkeit der Vorhersagen für alle Gruppen in etwa gleich war (z. B. wenn sie 95 % für die eine Gruppe betrug, dann auch 95 % für die andere).
Der Kompromiss (Trade-off): Um es fair zu machen, wurden die „Listen“ der Möglichkeiten manchmal etwas länger (weniger effizient). Aber das Paper zeigt, dass diese Kosten gering sind im Vergleich zum Nutzen der Fairness.
Die „Audit“-Funktion: Sie zeigten auch, dass dieses System als „Zeugnis“ genutzt werden kann. Regulierungsbehörden können es verwenden, um zu prüfen, ob ein Modell fair ist, ohne die privaten Daten der beteiligten Personen sehen zu müssen.

Zusammenfassung

FedCF ist wie ein Fairness-Inspektor für ein Team von Remote-Arbeitern. Es stellt sicher, dass das Endprodukt (das KI-Modell) alle gleich behandelt, obwohl die Arbeiter niemals ihre privaten Notizen geteilt haben. Es nutzt kluge Mathematik, um die Konfidenzniveaus des Modells anzupassen, damit keine Gruppe ein „undichtes“ Sicherheitsnetz erhält – und das alles unter Wahrung der Privatsphäre und bei schneller Kommunikation.

Technisches Resümee: FedCF: Fair Federated Conformal Prediction

Problemstellung

Maschinelle Lernmodelle weisen oft eine unterschiedliche Performance über verschiedene demografische Subgruppen hinweg auf, was zu Verzerrungen (Biases) führen kann, die in sicherheitskritischen Bereichen wie dem Gesundheitswesen oder dem Finanzwesen verstärkt werden können. Während Conformal Prediction (CP) eine rigorose, modellagnostische Unsicherheitsquantifizierung mit Garantien für die Abdeckung bei endlicher Stichprobengröße bietet, ist das Standard-CP gegenüber sensiblen Attributen agnostisch und gewährleistet keine Fairness. Bestehende Methoden für „Fair Conformal Prediction“ (CF) adressieren dies, indem sie Garantien für die bedingte Abdeckung über Subgruppen hinweg sicherstellen, beruhen jedoch auf zentralisiertem Datenzugriff.

In Federated Learning (FL) verbleiben Daten dezentral, um die Privatsphäre zu wahren, was die Anwendung von Standard-CF unmöglich macht. Darüber hinaus deutet jüngste Forschung darauf hin, dass der Übergang zu einer datenschutzfreundlichen dezentralen Trainingsweise unbeabsichtigt Unfairness verstärken kann, bedingt durch Datenheterogenität und variierende Client-Kapazitäten. Die zentrale Herausforderung besteht darin, die theoretischen Garantien von CF auf ein föderiertes Setting zu erweitern, ohne die Datenschutzbeschränkungen zu verletzen oder einen prohibitiven Kommunikationsaufwand zu verursachen, während gleichzeitig die Non-IID-Natur föderierter Daten berücksichtigt wird.

Methodik

Die Autoren schlagen FedCF (Federated Conformal Fairness) vor, ein Framework, das das Conformal Fairness (CF)-Framework an das föderierte Setting anpasst. Die Methodik stützt sich auf drei Säulen:

1. Optimierung mittels Gradientenabstieg (Descent-Based Optimization)

Der ursprüngliche CF-Algorithmus verwendet eine Gittersuche über einen diskretisierten Raum, um den minimalen Schwellenwert $\lambda$ zu finden, der die Fairness-Constraints erfüllt. Dies ist in FL aufgrund der hohen Kosten der Kommunikationsrunden ineffizient. FedCF formuliert dies als ein Optimierungsproblem basierend auf dem Gradientenabstieg um. Anstatt einer Gittersuche aktualisiert der Algorithmus den Schwellenwert $\lambda$ adaptiv mithilfe einer Momentum-basierten Aktualisierungsregel. Dies ermöglicht es dem System, in deutlich weniger Kommunikationsrunden zu einem constraint-erfüllenden $\lambda$ zu konvergieren (in Experimenten als ~10-fache Beschleunigung nachgewiesen) und gleichzeitig lokale Minima durch zufällige Neustarts zu umgehen.

2. Mixture-of-Clients Coverage Gap Formulierung

Um dezentrale Daten zu handhaben, kann FedCF die für Fairness-Metriken erforderliche bedingte Abdeckung nicht direkt schätzen. Die Autoren führen eine Mixture-of-Clients-Formalisierung basierend auf der Annahme der partiellen Austauschbarkeit (partial exchangeability) ein. Sie zerlegen das globale fairness-spezifische Abdeckungsniveau ( $\Pi_{cov}$ ) in vier Terme:

Terme I & II: Werden lokal von jedem Client basierend auf deren Kalibrierungsdaten und dem spezifischen Gruppen-Label-Paar berechnet.
Term III: Die Wahrscheinlichkeit, dass ein Testpunkt mit den Daten eines spezifischen Clients austauschbar ist (gewichtet nach der Client-Größe).
Term IV: Die globale Wahrscheinlichkeit, dass der Fairness-Filter aktiv ist.

Durch die Ableitung von Intervallgrenzen (Theorem 3.1) für diese Terme kann der Server lokale Statistiken aggregieren, um die globale Abdeckungsdifferenz (Coverage Gap) zu begrenzen, ohne jemals die Rohdaten der Clients zu sehen. Das Framework bietet zudem eine Variante der Maximum-Likelihood-Schätzung (MLE) für engere, wenn auch weniger konservative Schätzungen unter einer partiellen IID-Annahme.

3. Flexible Aggregationsprotokolle

FedCF adresset den Zielkonflikt zwischen Kommunikationseffizienz und Datenschutz durch zwei Protokolle:

Kommunikationseffizient: Clients senden Zusammenfassungsstatistiken ( $\alpha$ -Werte) für jedes Gruppen-Label-Paar. Der Server aggregiert diese, um die Grenzen zu berechnen. Dies weist eine lineare Kommunikationskomplexität in Bezug auf die Anzahl der Gruppen auf.
Verbesserter Datenschutz (Enhanced Privacy): Clients berechnen paarweise Differenzen der Abdeckungsterme lokal, bevor sie diese an den Server senden. Dies verschleiert die individuelle Verteilungsinformation und verhindert Rekonstruktionsangriffe, geht jedoch auf Kosten einer quadratischen Kommunikationskomplexität in Bezug auf die Anzahl der Gruppen.
Hybrid: Clients können zwischen den Protokollen wählen, basierend auf ihren Ressourcenbeschränkungen.

Das Framework unterstützt zudem Differential Privacy (DP) durch das Hinzufügen von Gaußschem Rauschen zu den Client-Updates, was die Robustheit gegenüber bösartigen Servern gewährleistet.

Zentrale Beiträge

Erweiterung von CF auf FL: Die Arbeit präsentiert das erste Framework, das Conformal Fairness auf ein föderiertes Setting erweitert und theoretisch beweist, dass bedingte Abdeckungsgarantien in einer verteilten Umgebung unter partieller Austauschbarkeit aufrechterhalten werden können.
Descent-basierter Algorithmus: Ein neuartiger Optimierungsansatz, der die Gittersuche durch eine adaptive Abstiegsmethode ersetzt und dadurch die Anzahl der benötigten Kommunikationsrunden in FL drastisch reduziert.
Theoretische Schranken: Die Ableitung von Intervallgrenzen für fairness-spezifische Abdeckungsniveaus in einem föderierten Setting, was eine rigorose Methode zur Prüfung von Fairness-Gaps bietet, ohne Daten zu zentralisieren.
Privacy-Communication Trade-offs: Der Vorschlag distinkter Aggregationsprotokolle (Kommunikationseffizient, Verbesserter Datenschutz und Hybrid), die es Clients ermöglichen, Bandbreitenbeschränkungen gegen Datenschutzanforderungen abzuwägen.
Empirische Validierung: Umfangreiche Experimente auf Tabular- (ACSIncome, ACSEducation), Graph- (Pokec) und Vision-Datensätzen (Fitzpatrick) zeigen, dass FedCF die Fairness-Disparitäten (z. B. Demographic Parity, Equal Opportunity) erfolgreich kontrolliert und gleichzeitig die ursprünglichen CP-Abdeckungsgarantien beibehält.

Experimentelle Ergebnisse

Die Autoren evaluierten FedCF über mehrere Domänen und Fairness-Metriken hinweg:

Fairness-Kontrolle: FedCF erreicht konsistent das benutzerdefinierte Ähnlichkeitskriterium ( $c$ ) für die Fairness-Disparität, während die Baseline Federated Conformal Prediction (FCP) ohne Fairness-Constraints daran scheitert, diese Lücken zu kontrollieren.
Effizienz vs. Fairness: Es besteht ein inhärenter Trade-off; das Erzwingen strengerer Fairness (kleineres $c$ ) erhöht die Größe des Vorhersagesets (verringert die Effizienz). Jedoch minimiert FedCF diese Kosten im Vergleich zu Baselines.
Robustheit gegenüber Heterogenität: Das Framework arbeitet effektiv über eine variierende Anzahl von Clients (2 bis 48) und unterschiedliche Datenteilungsverfahren (natürliche geografische Splits vs. Dirichlet-Partitionen) hinweg.
Graph-Daten: FedCF lässt sich erfolgreich mit graph-spezifischen Non-Conformity-Scores (DAPS) integrieren, was die Anwendbarkeit über Standard-Tabellendaten hinaus demonstriert.
Privacy-Protokolle: Experimente zeigen, dass das Protokoll „Enhanced Privacy“ zwar aufgrund engerer Grenzen konservativer ist (größere Vorhersagesets), aber die Fairness-Disparitäten effektiv kontrolliert und gleichzeitig die Client-Daten schützt.

Bedeutung und Ansprüche

Das Paper behauptet, dass FedCF eine theoretisch fundierte und praktisch praktikable Lösung für die Prüfung und Sicherstellung von Fairness in föderierten Machine-Learning-Modellen bietet. Seine Bedeutung liegt in:

Regulatorische Compliance: Es bietet einen Mechanismus, um die Anforderungen entstehender Regulierungen (z. B. EU AI Act, NYC Local Law 144) zu erfüllen, die Fairness-Audits in dezentralen Systemen ohne Kompromisse beim Datenschutz verlangen.
Vertrauenswürdiges ML: Es schließt die Lücke zwischen Unsicherheitsquantifizierung und Fairness und stellt sicher, dass Modelle nicht nur mit bekannten Fehlerschranken vorhersagen, sondern dies auch fair über sensible Gruppen hinweg tun.
Auditierbarkeit: Das Framework kann post-hoc zur Prüfung bestehender föderierter Modelle eingesetzt werden, um festzustellen, ob sie die Fairness-Spezifikationen erfüllen, ohne dass ein Training oder Zugriff auf Rohdaten erforderlich ist.

Die Autoren räumen Einschränkungen ein, insbesondere die Abhängigkeit von der Annahme der partiellen Austauschbarkeit, die in Szenarien mit dynamischem Data Drift verletzt werden kann. Sie schlagen zukünftige Arbeiten vor, die nicht-austauschbare CP und robuste föderierte Lerntechniken einbeziehen, um solche Szenarien zu adressieren.