A Survey on Decentralized Federated Learning

Diese Arbeit bietet eine umfassende Übersicht über dezentriertes Federated Learning (DFL) von 2018 bis 2026, klassifiziert die Methoden in traditionelle und blockchain-basierte Ansätze, entwickelt eine einheitliche, herausforderungsorientierte Taxonomie und identifiziert kritische Forschungsbedarfslücken in Bezug auf Topologie, Privatsphäre, Anreize und Modellziele.

Das Wesentliche

🌍 Das große Problem: Der "Einzelne Boss"

Stell dir vor, eine Gruppe von Leuten möchte gemeinsam ein sehr kluges Gehirn (eine Künstliche Intelligenz) bauen, um Dinge wie Sprache zu verstehen oder Krankheiten zu erkennen.

Im herkömmlichen Weg (Federated Learning) gibt es einen zentralen Chef (einen Server).

• Jeder Teilnehmer schickt seine privaten Daten (z. B. Fotos von seinem Handy) nicht an den Chef.
• Stattdessen schickt er nur die "Lernergebnisse" (die Updates) an den Chef.
• Der Chef mischt alles zusammen, macht das Gehirn schlauer und schickt es zurück.

Das Problem: Dieser Chef ist ein Single Point of Failure. Wenn er ausfällt, ist das ganze System tot. Außerdem muss man ihm blind vertrauen: Was, wenn er böse ist und die Daten ausspioniert oder manipuliert?

🚀 Die Lösung: Das "Schwarm-Prinzip" (Dezentrales Lernen)

Die Autoren dieses Artikels untersuchen eine neue Methode: Dezentrales Federated Learning (DFL).
Stell dir das wie einen Schwarm von Bienen oder eine Straßenparty vor, bei der es keinen DJ gibt.

• Jeder Teilnehmer (die "Peers") lernt selbst mit seinen eigenen Daten.
• Statt alles an einen Chef zu schicken, tauschen sie sich direkt mit ihren Nachbarn aus.
• Wenn du ein neues Wissen hast, gibst du es deinem Nachbarn weiter, der es seinem Nachbarn gibt, und so weiter.
• Vorteil: Es gibt keinen Chef, der ausfallen kann. Das System ist robuster.
• Nachteil: Es ist chaotischer. Wer vertraut wem? Wie stellt man sicher, dass niemand lügt?

Der Artikel ist eine große Übersicht (Survey), die alle Forschungsarbeiten von 2018 bis 2026 gesammelt und sortiert hat. Die Autoren haben diese Forschung in zwei große Lager eingeteilt:

1. Das "Klassische P2P-Lager" (Traditional Distributed FL)

Hier nutzen die Forscher die alten, bewährten Methoden des Peer-to-Peer-Netzes (wie bei Filesharing-Programmen, aber für KI).

• Wie es funktioniert: Die Computer verbinden sich direkt miteinander, wie ein Netz aus Spinnweben.
• Die Herausforderung: Wie stellt man sicher, dass das Netz nicht zerfällt, wenn Leute ein- und aussteigen? Wie verhindert man, dass jemand falsche Informationen in den Kreis wirft?
• Trend: Hier passiert aktuell die meiste Forschung. Man versucht, die Kommunikation effizienter zu machen und mit unterschiedlichen Daten (z. B. wenn ein Teilnehmer nur Bilder von Katzen hat und ein anderer nur von Hunden) umzugehen.

2. Das "Blockchain-Lager" (Blockchain-based FL)

Hier nutzen die Forscher die Technologie der Blockchain (wie bei Bitcoin), aber ohne Kryptowährung.

• Die Idee: Stell dir die Blockchain als ein unveränderliches, öffentliches Notizbuch vor. Jeder schreibt mit, was gelernt wurde. Niemand kann das Notizbuch später heimlich ändern.
• Vorteil: Es schafft Vertrauen. Man kann genau nachvollziehen, wer wann was beigetragen hat. Das ist super für Belohnungssysteme (Incentives).
• Nachteil: Es ist langsam und teuer (wie ein schwerer Lastwagen im Vergleich zu einem Fahrrad). Die Forschung hier hat sich in den letzten Jahren etwas abgekühlt, weil die Blockchain oft zu viel Overhead bringt, wenn man nur schnell lernen will.

🧩 Die größten Hindernisse (Die "Monster" im Spiel)

Die Autoren haben herausgefunden, dass es vier große Monster gibt, die DFL noch schwer machen:

1. Der Verräter (Sicherheit): In einem dezentralen Netz kann sich jeder anschließen. Was, wenn ein Hacker sich als normaler Teilnehmer ausgibt und das Gehirn kaputt macht?
   • Lösungsideen: Man prüft die Nachbarn genau oder nutzt "Vertrauensscores".
2. Der Lügner (Privatsphäre): Auch wenn man nur die Lernergebnisse schickt, kann man manchmal aus diesen Ergebnissen die Originaldaten zurückrechnen (wie wenn man aus einem fertigen Kuchen die genauen Zutaten rekonstruiert).
   • Lösungsideen: Man fügt künstliches "Rauschen" hinzu (Differential Privacy), damit die Daten nicht zurückverfolgt werden können.
3. Der Faulpelz (Anreize): Warum sollte jemand seine Rechenleistung opfern? Wenn alle warten, dass die anderen arbeiten, passiert nichts.
   • Lösungsideen: Man braucht Belohnungssysteme (z. B. Punkte oder Krypto), damit sich alle beteiligen.
4. Der chaotische Nachbarschaftsverein (Daten-Heterogenität): Nicht jeder hat die gleichen Daten. Ein Arzt in Berlin hat andere Patienten als ein Arzt in Tokio. Wenn man diese unterschiedlichen Daten einfach mischt, wird das Gehirn verwirrt.
   • Lösungsideen: Man muss die Lernprozesse anpassen, damit sie mit den unterschiedlichen Daten klarkommen.

🔮 Was kommt als Nächstes? (Die Zukunft)

Die Autoren geben uns einige wichtige Tipps für die Zukunft:

• Kein "Einheitsbrei" mehr: Vielleicht wollen wir gar kein einziges, riesiges globales Gehirn, sondern viele kleine, spezialisierte Gehirne für verschiedene Gruppen (z. B. ein Gehirn für deutsche Ärzte, eines für italienische).
• Bessere Sicherheitsnetze: Wir brauchen Tests, die realistisch sind. Nicht nur "Was passiert, wenn 10% böse sind?", sondern "Was passiert, wenn die Bösen sich absprechen und genau wissen, wie wir uns verteidigen?"
• Vertrauen neu definieren: In einer Welt ohne Chef müssen wir lernen, Vertrauen nicht auf eine Person, sondern auf das System und die Mathematik zu setzen.

📝 Fazit in einem Satz

Dieser Artikel sagt uns: Dezentrales Lernen ist wie eine Weltreise ohne Reiseführer. Es ist riskanter und chaotischer, aber wenn wir es richtig machen, ist es viel sicherer, fairer und robuster als das alte System mit dem einen Chef, der alles kontrolliert. Die Forschung ist dabei, die besten Karten und Regeln für diese Reise zu schreiben.

Technische Zusammenfassung

Hier ist eine detaillierte technische Zusammenfassung des Papers „A Survey on Decentralized Federated Learning" auf Deutsch:

1. Problemstellung

Das klassische Federated Learning (FL) ermöglicht das kollaborative Trainieren von Modellen, ohne dass Rohdaten zentralisiert werden müssen. Es basiert jedoch auf einer Client-Server-Architektur mit einem zentralen Koordinator (Server). Diese Zentralisierung führt zu mehreren kritischen Problemen:

• Single Point of Failure: Ein Ausfall des Servers kann das gesamte System lahmlegen.
• Vertrauens- und Sicherheitsrisiken: Der Server hat Zugriff auf alle lokalen Modell-Updates, was Angriffe wie Model Inversion, Membership Inference oder Model Poisoning begünstigt. Zudem kann der Server selbst böswillig handeln.
• Skalierbarkeit und Latenz: Die Kommunikation mit Millionen von Geräten erzeugt hohe Bandbreitenkosten und Latenzen.
• Ressourcenengpässe: Der Server wird zum Flaschenhals bei der Aggregation.

Decentralized Federated Learning (DFL) adressiert diese Probleme, indem es den zentralen Koordinator eliminiert und durch eine Peer-to-Peer (P2P)-Architektur ersetzt. In DFL trainieren Knoten lokal und aggregieren Updates direkt mit ihren Nachbarn. Dies führt jedoch zu neuen Herausforderungen: Topologie-Abhängigkeit, Heterogenität der Daten (Non-IID), Schwierigkeiten bei der Konsensfindung ohne zentrale Instanz, neue Angriffsvektoren durch P2P-Netzwerke und das Fehlen von Anreizmechanismen für die Teilnahme.

2. Methodik

Die Autoren führen eine systematische Literaturreview durch, die sich an den PRISMA-Richtlinien (Preferred Reporting Items for Systematic Reviews and Meta-Analyses) orientiert.

• Zeitraum: Die Untersuchung deckt Arbeiten von 2018 bis Anfang 2026 ab.
• Suchprozess: Es wurden Datenbanken wie IEEE Xplore, ScienceDirect, ACM Digital Library und Google Scholar durchsucht.
• Auswahlkriterien: Aus 123 gefundenen Artikeln wurden nach Entfernen von Duplikaten und strenger Prüfung von Titeln, Abstracts und Volltexten 35 relevante Arbeiten für die finale Analyse ausgewählt.
• Klassifizierung: Die Arbeit unterscheidet zwischen zwei Hauptarchitekturfamilien:
  1. Traditional Distributed FL (TD-FL): Nutzt Standard-Distributed-Computing-Techniken (P2P-Netzwerke).
  2. Blockchain-based FL (BC-FL): Nutzt Blockchain-Technologie für Koordination, Auditierbarkeit und Anreize.

3. Wichtige Beiträge

Die zentralen Beiträge des Papers sind:

• Einheitliche, herausforderungsgetriebene Taxonomie: Die Autoren stellen eine neue Taxonomie vor, die TD-FL und BC-FL nicht nur nach Architektur, sondern nach den Kernproblemen kategorisiert, die sie lösen (z. B. Fehlertoleranz, Datenschutz, Sicherheit, Anreize, Datenheterogenität, Bandbreitennutzung).
• Vergleichende Analyse: Sie zeigen auf, dass BC-FL-Ansätze (insbesondere zwischen 2019–2022) stark auf Sicherheit und Auditierbarkeit fokussiert waren, während TD-FL-Ansätze (2023–2025) stärker auf Effizienz, Heterogenität und theoretische Erweiterungen abzielen.
• Identifikation von Forschungslücken: Das Paper deckt systematische Lücken auf, insbesondere in Bezug auf:
  • Fehlende einheitliche Evaluierungsstandards (viele Studien nutzen nur kleine, saubere Datensätze wie MNIST/CIFAR).
  • Mangelnde Berücksichtigung von „strategischen" Angreifern, die nicht das System zerstören, sondern ihren eigenen Nutzen maximieren wollen.
  • Unzureichende Anreizmechanismen, die sowohl privat als auch manipulationssicher sind.
• Kritische Bewertung der Blockchain: Die Autoren argumentieren, dass Blockchain nicht als Standardlösung für Dezentralisierung dienen sollte, sondern nur dort eingesetzt werden sollte, wo spezifische Anforderungen (z. B. Auditierbarkeit, Anreizabrechnung) bestehen, die reine P2P-Koordination nicht erfüllen kann, da Blockchain erhebliche Overheads (Latenz, Speicher, Energie) mit sich bringt.

4. Ergebnisse und Erkenntnisse

Die Analyse der 35 ausgewählten Arbeiten führt zu folgenden technischen Ergebnissen:

• Fehlertoleranz: TD-FL-Lösungen nutzen oft P2P-Verbreitungsmechanismen (z. B. Gossip-Protokolle) oder adaptive Topologien, um mit Knotenausfällen und instabilen Verbindungen umzugehen. BC-FL nutzt Smart Contracts und replizierte Ledger, um den Zustand zu sichern, leidet aber unter Konsens-Latenzen.
• Datenschutz & Sicherheit:
  • In TD-FL wird Datenschutz oft durch Proxy-Modelle, verschlüsselte Berechnungen oder dezentrales Differential Privacy (f-DP) erreicht.
  • In BC-FL wird die Transparenz des Ledgers als Risiko gesehen; daher werden oft Hashes on-chain und Daten off-chain gespeichert.
  • Sicherheitslücke: Viele BC-FL-Systeme verlagern das Vertrauen lediglich vom Server auf Miner/Validator-Komitees, was eine neue Hierarchie schafft. Zudem fehlen robuste Verteidigungen gegen „strategische Insider", die versuchen, ihren eigenen Modell-Status zu verbessern, ohne das globale Modell zu sabotieren.
• Datenheterogenität (Non-IID): Dies ist eine der größten Herausforderungen. TD-FL-Lösungen ersetzen das einfache Mittelwert-Verfahren oft durch Wissenstransfer (Knowledge Distillation), Clustering von Nachbarn oder probabilistische Updates, um „Client Drift" zu vermeiden.
• Bandbreitennutzung: TD-FL nutzt Kompression, Sparsifizierung und segmentierte Gossip-Protokolle, um den Kommunikationsaufwand zu senken. BC-FL hat hier oft Nachteile durch die Notwendigkeit, Transaktionen zu validieren und Blöcke zu propagieren.
• Anreizmechanismen: In TD-FL sind Anreize kaum vorhanden. In BC-FL werden Kryptowährungen oder Reputationssysteme genutzt, basierend auf Datenmenge oder Modellqualität. Ein großes Problem bleibt die faire Bewertung des Beitrags ohne Offenlegung der Rohdaten.

5. Signifikanz und zukünftige Richtungen

Dieser Survey ist signifikant, da er den ersten umfassenden Überblick bietet, der TD-FL und BC-FL unter einer einheitlichen, problemorientierten Linse betrachtet. Er verschiebt den Fokus von rein architektonischen Vergleichen hin zu den tatsächlichen System-Herausforderungen.

Zukünftige Forschungsrichtungen, die vom Paper identifiziert werden:

1. Topologie-bewusste Bedrohungsmodelle: Sicherheitsanalysen müssen berücksichtigen, wie die Netzwerkstruktur Angriffe (wie Poisoning oder Backdoors) beeinflusst.
2. Dezentrale Privatsphäre-Konzepte: Datenschutz muss neu definiert werden, um die wiederholte Exposition gegenüber vielen Nachbarn (in TD-FL) oder die globale Sichtbarkeit über das Ledger (in BC-FL) zu berücksichtigen.
3. Robuste Anreizmechanismen: Entwicklung von Mechanismen, die manipulationssicher sind und strategisches Verhalten (nicht nur Free-Riding, sondern auch Nutzenmaximierung) verhindern.
4. Neudefinition des „Globalen Modells": In stark dezentralen, heterogenen Umgebungen mit Churn (Knotenwechsel) ist ein einzelnes globales Modell vielleicht nicht das Ziel. Die Forschung sollte sich auf personalisierte Lösungen oder Cluster-Modelle konzentrieren.
5. Realistische Evaluierung: Es werden standardisierte Benchmarks benötigt, die reale Bedingungen (Non-IID, begrenzte Bandbreite, dynamische Topologien) abbilden, anstatt nur kleine, saubere Datensätze zu verwenden.

Zusammenfassend liefert das Paper einen kritischen Wegweiser für die Entwicklung robuster, skalierbarer und sicherer dezentraler Lernsysteme, die über reine Protokoll-Experimente hinausgehen.