Enhanced Byzantine-Robust Federated Learning Via Truncated-Quadratic Loss for Heterogeneous Data

Probleemstelling
Federated Learning (FL) maakt het mogelijk om deep learning-modellen te trainen over gedistribueerde clients (bijv. mobiele apparaten, sensoren) zonder de ruwe data te delen, wat de privacy ten goede komt. Deze gedistribueerde architectuur introduceert echter kwetsbaarheden voor Byzantine-aanvallen, waarbij kwaadwillende clients willekeurige updates sturen om het leerproces te verstoren. Bovendien bevatten real-world FL-scenario's vaak heterogene data (non-IID), waarbij de datadistributies aanzienlijk variëren tussen clients. Bestaande robuuste aggregatieregels, zoals Krum, Coordinate-wise Median (CM) en Robust Federated Aggregation (RFA), gaan vaak uit van data-homogeniteit en presteren minder goed onder omstandigheden van heterogeniteit. Hoewel Centered Clipping (CC) en Huber loss-gebaseerde aggregatoren zijn voorgesteld om heterogene data aan te pakken, identificeert dit artikel dat zij een kritiek gebrek vertonen: ze produceren vertekende (biased) oplossingen wanneer ze worden geconfronteerd met uitschieters (outliers) met een grote magnitude, met name onder condities van hoge data-heterogeniteit of een aanzienlijk deel van de Byzantine clients. Deze bias stapelt zich op over communicatierondes, wat leidt tot falend leren.

Methodologie
Het artikel stelt een nieuwe robuuste aggregatieregel voor op basis van de Truncated-Quadratic (TQ) loss. De methodologie verloopt via de volgende stappen:

1. Theoretische analyse van bestaande methoden: De auteurs maken eerst gebruik van de convexe conjugaattheorie om de equivalentie tussen Centered Clipping (CC) en Huber loss-minimalisatie voor Byzantine-robuuste FL aan te tonen. Ze bewijzen dat beide voldoen aan $(f, \kappa)$-robuustheid, maar een gemeenschappelijke beperking delen: ze maken gebruik van de $\ell_1$-norm (of equivalente clipping-mechanismen) om uitschieters te weerstaan. Het artikel analyseert en demonstreert theoretisch dat deze aanpak een bias oplevert die groeit met data-heterogeniteit en het deel van de Byzantine clients.
2. Voorstel van Truncated-Quadratic (TQ) loss: Om de bias die inherent is aan Huber/CC te mitigeren, introduceren de auteurs de TQ loss-functie. In tegenstelling tot Huber, die lineair groeit bij grote fouten, knipt (clipt) TQ de loss van uitschieters volledig af zodra deze een drempelwaarde $\tau$ overschrijden. Het aggregatieprobleem wordt geformuleerd als het minimaliseren van de som van de TQ losses over de client-updates.
3. Optimalisatie en Implementatie: Omdat de TQ loss niet-glad (non-smooth) en niet-convex is, gebruiken de auteurs de convexe conjugaattheorie om het minimalisatieprobleem te herformuleren naar een equivalente iteratieve vorm (Algoritme 1). Dit maakt efficiënte berekening mogelijk waarbij updates worden geclipped op basis van de afstand tot de huidige aggregatie.
4. Hyperparameter Schatting: De TQ-regel vereist een drempelparameter $\tau_k$ en kennis van het aantal Byzantine clients ($f$). Het artikel stelt een robuuste afwijkingsschattingsstrategie voor met behulp van de Mediaan en de Median Absolute Deviation (MAD) om het gemiddelde en de variantie van de 'goede' clients te schatten zonder voorkennis. Daarnaast analyseren de auteurs het scenario waarin alleen een schatting van het aantal Byzantine clients ($\hat{f}$) beschikbaar is, en tonen aan dat de aggregator robuust blijft, zelfs als $\hat{f}$ een overschatting is (tot aan het breakdown point).
5. FL Algoritme Integratie: De TQ-aggregator wordt geïntegreerd in een Byzantine-robuust FL-framework (Algoritme 2) met gebruik van momentum om de gradiëntvariantie te verminderen en time-coupled aanvallen te bestrijden.

Belangrijkste Bijdragen

• Equivalentie en Bias Analyse: Het artikel stelt formeel de equivalentie tussen Huber loss en Centered Clipping vast via de convexe conjugaattheorie. Het biedt een theoretische analyse die aantoont dat beide methoden vertekende oplossingen produceren onder heterogeniteit en uitschieters, wat hun empirische falen verklaart.
• TQ Aggregator: De auteurs stellen de TQ-gebaseerde aggregator voor, die de bias van bestaande methoden effectief mitigeert door grote uitschieters volledig af te knippen.
• Robuustheidsgaranties: Het artikel bewijst dat de TQ-aggregator voldoet aan $(f, \kappa)$-robuustheid met een breakdown point $\delta_{min} = 0.5$. Het demonstreert dat TQ order-optimale Byzantine-robuuste leerprestaties bereikt onder niet-convexe loss-functies en heterogene data.
• Praktische Schattingsstrategieën: Er wordt een robuuste afwijkingsschattingsstrategie geleverd voor de TQ-hyperparameter, en het artikel analyseert de impact van het schatten van het aantal Byzantine clients, waarbij wordt aangetoond dat de methode effectief blijft, zelfs met imperfecte schattingen.

Experimentele Resultaten
De voorgestelde TQ-aggregator werd geëvalueerd op de MNIST, Fashion-MNIST en CIFAR-10 datasets onder diverse omstandigheden:

• Aanvalstypes: Prestaties werden getest tegen zes verschillende aanvallen: Gaussian Attack (GA), Label-Flipping (LF), Bit-Flipping (BF), Inner Product Manipulation (IPM), MIMIC, en "A Little Is Enough" (ALIE).
• Heterogeniteit: Experimenten bestreken variërende graden van data-heterogeniteit ($\rho$).
• Vergelijkingen: TQ werd vergeleken met RFA, CM, TM, Krum, Huber, en Maximum Correntropy Aggregation (MCA), zowel met als zonder pre-aggregatiestappen zoals Bucketing en Nearest Neighbor Mixing (NNM).

Bevindingen:

• Superieure Robuustheid: TQ presteerde consequent beter dan concurrerende aggregatoren, met name onder hoge data-heterogeniteit en een hoog deel van de Byzantine clients (tot 50%).
• Bias Mitigatie: In tegenstelling tot Huber en CC, die een significante prestatieverslechtering en bias-accumulatie vertoonden naarmate het aantal Byzantine clients toenam, behield TQ een hoge nauwkeurigheid.
• Gemengde Aanvallen: In scenario's waarin verschillende Byzantine clients gelijktijdig verschillende soorten aanvallen uitvoerden, presteerde TQ significant beter dan andere methoden over variërende heterogeniteitsniveaus.
• Schattingsrobuustheid: De resultaten gaven aan dat TQ robuust blijft, zelfs wanneer het aantal Byzantine clients wordt geschat in plaats van exact bekend te zijn.

Betekenis en Claims
Het artikel claimt dat de voorgestelde TQ-aggregator de betrouwbaarheid van federated learning-systemen verhoogt door de specifieke faalmodi van huidige state-of-the-art methoden onder data-heterogeniteit aan te pakken. Door te bewijzen dat TQ order-optimale leerfouten bereikt (in lijn met de theoretische ondergrens beschreven in Lemma 2), beargumenteren de auteurs dat hun methode een belangrijke stap voorwaarts is in Byzantine-robuuste FL. Het werk biedt zowel een theoretische rechtvaardiging voor het falen van Huber/CC in heterogene settings als een praktisch, robuust alternatief dat geen precieze kennis vereist van het aantal kwaadwillende clients.