Federated Learning Enhanced by Feature Reconstruction for Semantic Communication Module Updates of Agents

Technische Zusammenfassung: FedSFR – Durch Merkmalsrekonstruktion verbessertes föderiertes Lernen für semantische Kommunikation

Problemstellung
Jüngste Fortschritte in der semantischen Kommunikation, insbesondere bei der Bildübertragung mittels neuronaler netzbasierter Joint Source-Channel Coding (JSCC), stehen vor erheblichen Herausforderungen in Multi-Agenten-Umgebungen. Während das föderierte Lernen (Federated Learning, FL) eine datenschutzfreundliche Lösung für die Aktualisierung dieser Modelle bietet, stoßen Standard-FL-Ansätze in kapazitätsbeschränkten digitalen Kommunikationsumgebungen an Grenzen. Insbesondere verursacht die Übertragung vollständiger lokaler Modellaktualisierungen von zahlreichen Clients an einen Parameterserver (PS) einen erheblichen Kommunikationsoverhead. Darüber hinaus vernachlässigen bestehende FL-Methoden, die speziell für die semantische Kommunikation entwickelt wurden, oft die einzigartigen Eigenschaften von auf Vektorquantisierung (VQ) basierenden Systemen oder versäumen es, den Kompromiss zwischen Kommunikationseffizienz und der Stabilität der Modellkonvergenz zu adressieren. Zudem können veraltete Modelle und uneingespielte Wissensbasen zwischen den Agenten zu Fehlern in der semantischen Kommunikation führen, was robuste und effiziente Aktualisierungsmechanismen erforderlich macht.

Methodik: Das FedSFR-Framework
Die Autoren schlagen FedSFR (Federated Learning with Semantic Feature Reconstruction) vor, ein neuartiges Framework, das für kapazitätsbeschränkte digitale Bild-Semantik-Kommunikationssysteme konzipiert ist. FedSFR führt eine hybride Aktualisierungsstrategie und einen serverseitigen Verfeinerungsprozess ein:

1. Hybride Übertragungsstrategie:

   • Clients werden dynamisch in zwei Mengen basierend auf der Kanalqualität unterteilt: $A_m$ (günstige Kanäle) und $A_o$ (schlechte Kanäle).
   • Clients in $A_m$ übertragen komprimierte lokale Modellaktualisierungen ($\bar{g}_k$) mittels Top-$S$-Sparsifizierung und Fehlerrückkopplung (Error Feedback), ähnlich dem Standard-FL.
   • Clients in $A_o$ übertragen kompakte Merkmalsvektoren ($Y_k$), die von ihren lokal aktualisierten JSCC-Encodern generiert wurden, anstatt vollständiger Modellaktualisierungen. Dies nutzt die Tatsache aus, dass die Größe der Merkmalsvektoren ($2N$) signifikant kleiner ist als die Größe der Modellparameter ($D$).

2. Merkmalsrekonstruktion (FR) am Server:

   • Nach Erhalt der Merkmalsvektoren von $A_o$ erstellt der PS einen serverseitigen Datensatz.
   • Der PS führt einen dedizierten Prozess der Merkmalsrekonstruktion (Feature Reconstruction, FR) durch. Dies beinhaltet das Durchlaufen der empfangenen Merkmalsvektoren durch einen emulierten drahtlosen Kanal (einschließlich Quantisierung, Modulation, Rauschzugabe und Demodulation) und deren anschließende Rekonstruktion unter Verwendung des aktuellen globalen JSCC-Encoders und -Decoders des Servers.
   • Der Server optimiert das globale Modell, um den Rekonstruktionsfehler zwischen den ursprünglichen empfangenen Merkmalen und den rekonstruierten Merkmalen zu minimieren. Dieser Schritt verfeinert das globale Modell effektiv, indem er Kompressionsfehler kompensiert und Wissen von Clients mit schlechten Kanälen integriert, ohne eine vollständige Modellübertragung zu erfordern.

3. Design der Verlustfunktion:

   • Eine spezifische Verlustfunktion wurde für das FR-Lernen entworfen, definiert als der mittlere quadratische Fehler (Mean Squared Error, MSE) zwischen den ursprünglichen und den rekonstruierten Merkmalsvektoren.
   • Die Arbeit liefert eine mathematische Rechtfertigung (via Taylor-Reihe erster Ordnung und Lipschitz-Stetigkeit), die zeigt, dass die Minimierung dieses Merkmalsrekonstruktionsfehlers als gültiger Ersatz für die Minimierung des letztendlichen Bildrekonstruktionsfehlers dient.

4. Konvergenzanalyse:

   • Die Autoren erstellen eine rigorose Konvergenzanalyse für FedSFR. Sie leiten explizite Schranken für die Konvergenzrate ab und zeigen, dass der Algorithmus unter Standard-FL-Annahmen eine Rate von $O(1/\sqrt{T})$ erreicht.
   • Die Analyse hebt hervor, dass das serverseitige FR-Update die Kompressionsfehler (Quantisierung/Sparsifizierung) effektiv kompensiert, was zu einer schnelleren Konvergenz im Vergleich zu Baseline-Methoden führt.

Zentrale Beiträge

• Neuartiges Framework: Vorschlag von FedSFR, einem FL-Framework, das speziell für die Aktualisierung von JSCC-Modulen in VQ-basierten Bild-Semantik-Kommunikationssystemen unter digitalen Übertragungsbeschränkungen entwickelt wurde.
• Merkmalsrekonstruktionslernen: Einführung eines auf VQ-Systeme zugeschnittenen serverseitigen FR-Prozesses. Die Arbeit liefert detaillierte mathematische Ableitungen, die erklären, wie das FR-Lernen die Bildrekonstruktionsaufgaben aus der Perspektperfektive der Taylor-Reihe und der Lipschitz-Stetigkeit begünstigt.
• Theoretische Garantien: Eine rigorose Konvergenzanalyse, die explizite Schranken für die Konvergenzrate festlegt und den Einfluss von FR auf die Optimierungsdynamik charakterisiert.
• Empirische Validierung: Umfangreiche Experimente mit den Datensätzen CIFAR-10 und CelebA unter Verwendung eines 256-QAM-Modulationsschemas. FedSFR wurde gegen mehrere Baselines verglichen, einschließlich FedAvg (mit Kompression), aggregationsgewichteter Varianten (FedDMA, FedLol) und Knowledge-Distillation-basierten (KD) Ansätzen (SKBS, FedSFD).

Experimentelle Ergebnisse
Die Experimente wurden mit den Datensätzen CIFAR-10 und CelebA unter Verwendung eines 256-QAM-Modulationsschemas durchgeführt. FedSFR wurde mit mehreren Baselines verglichen, darunter FedAvg (mit Kompression), aggregationsgewichtete Varianten (FedDMA, FedLol) sowie Knowledge-Distillation-basierte (KD) Ansätze (SKBS, FedSFD).

• Leistung: FedSFR demonstrierte ein überlegenes Peak Signal-to-Noise Ratio (PSNR) im Vergleich zu allen Baselines. Es erreichte eine höhere Rekonstruktionsqualität und eine schnellere Konvergenz, insbesondere in den anfänglichen Trainingsphasen.
• Stabilität: Im Gegensatz zu KD-basierten Methoden und Standard-Aggregationsansätzen, die Instabilitäten zeigten, behielt FedSFR ein konsistentes Trainingsverhalten bei. Diese Stabilität wird dem FR-Schritt zugeschrieben, der kompressionsbedingte Fehler reduziert.
• Robustheit: Das Framework arbeitete sowohl unter AWGN- als auch unter Rayleigh-Fading-Kanälen robust. Es behielt zudem eine überlegene Leistung unter Non-IID-Datenverteilungen und niedrigerem Trainings-SNR (10 dB) bei.
• Ablationsstudien: Die Ergebnisse deuteten darauf hin, dass die Lernrate des Servers sorgfältig abgestimmt werden muss (speziell $\eta_s < \eta_c$), um sicherzustellen, dass der FR-Schritt die Konvergenz unterstützt und nicht behindert. Darüber hinaus ist die Aufrechterhaltung eines ausgewogenen Verhältnisses zwischen den Clients, die Modellaktualisierungen übertragen, und jenen, die Merkmale übertragen, entscheidend für ein stabiles Training.

Bedeutung und Ansprüche
Das Paper behauptet, dass FedSFR eine skalierbare und praktische Lösung für reale digitale Bild-Semantik-Kommunikationsanwendungen bietet. Durch die Nutzung der Merkmalsrekonstruktion gelingt es dem Framework, die Auswirkungen von Kompressionsfehlern und Kommunikationsbeschränkungen zu mildern, ohne die Modellleistung zu opfern. Die Autoren betonen, dass ihr Ansatz die Trainingsstabilität und Konvergenzgeschwindigkeit im Vergleich zu bestehenden Baselines verbessert, insbesondere in kapazitätsbeschränkten Szenarien. Die Arbeit unterscheidet sich vom Stand der Technik dadurch, dass sie gezielt die digitale Kommunikation mit VQ-Codebüchern (im Gegensatz zu analogen Settings) adressiert und einen dedizierten theoretischen und mathematischen Rahmen für die Merkmalsrekonstruktion in diesem Kontext bereitstellt.