A Privacy-Aware and Communication-Efficient Federated Spam Detection Framework for Multi-Cloud Environments

Technische Samenvatting: Een Privacy-bewust en Communicatie-efficiënt Federated Spam Detectie Framework voor Multi-Cloud Omgevingen (FPSD-MCP)

Probleemstelling
De snelle proliferatie van spamverkeer in gedistribueerde multi-cloud omgevingen brengt aanzienlijke uitdagingen met zich mee wat betreft schaalbaarheid, communicatie-efficiëntie en gegevensprivacy. Traditionele gecentraliseerde spamdetectie-benaderingen zijn steeds minder geschikt vanwege strikte beperkingen op het gebied van gegevensdeling tussen organisaties en cloudproviders, evenals de hoge communicatieoverhead die gepaard gaat met het aggregeren van ruwe gegevens. Hoewel Federated Learning (FL) een gedecentraliseerd alternatief biedt door modellen te trainen op lokale gegevens zonder dat ruwe inputs worden gedeeld, kampen standaard FL-benaderingen met kritieke beperkingen in multi-cloud settings. Deze omvatten kwetsbaarheid voor privacy-lekken door gradient inversion attacks, degradatie van modelprestaties onder heterogene (non-IID) gegevensdistributies, en de substantiële computationele en communicatieoverhead die wordt geïntroduceerd bij de integratie van privacy-waarborgende mechanismen zoals Secure Multi-Party Computation (MPC) en Homomorphic Encryption (HE). Bestaande frameworks behandelen privacy en communicatie-efficiëntie vaak als afzonderlijke zaken, waardoor ze er niet in slagen een verenigde oplossing te bieden die een balans vindt tussen modelnauwkeurigheid, privacygaranties en systeemoverhead.

Methodologie
De auteurs stellen FPSD-MCP (Federated Privacy-Preserving Spam Detection for Multi-Cloud Platforms) voor, een nieuw framework dat Federated Learning integreert met MPC en HE om veilige, schaalbare spamdetectie mogelijk te maken over heterogene cloudclusters.

• Framework Architectuur: Het systeem opereert binnen een multi-cloud cluster waarbij elke cloudprovider fungeert als een client-node met onafhankelijke data en infrastructuur. Een Central Secure Router (CSR) coördineert de aggregatie van modelupdates. Het framework hanteert een semi-vertrouwde assumptie voor de CSR, wat ervoor zorgt dat zelfs de coördinator geen toegang heeft tot plaintext modelupdates dankzij cryptografische bescherming.
• Privacy-mechanismen:
  • Differential Privacy (DP): Lokale gradiënten worden geclipt en geperturbeerd met Gaussische ruis om informatielekken te voorkomen.
  • Homomorphic Encryption (HE): Privacy-bewuste gradiënten worden versleuteld (met behulp van de Microsoft SEAL-bibliotheek) om rekenkundige operaties op ciphertexts mogelijk te maken zonder decryptie.
  • Secure Multi-Party Computation (MPC): Versleutelde updates worden verwerkt met behulp van MPC-protocollen (via MP-SPDZ) om veilige aggregatie uit te voeren via secret sharing, waardoor de vertrouwelijke aard van individuele client-bijdragen tijdens het aggregatieproces gewaarborgd blijft.
• Adaptieve Aggregatiestrategie: Een kerncomponent van FPSD-MCP is een privacy-bewuste en communicatie-efficiënte aggregatiemechanisme. In tegenstelling tot standaard FedAvg, dat uniforme weging gebruikt, formuleert FPSD-MCP federated training als een multi-objective optimalisatieprobleem. Het weegt client-updates ($w_i$) adaptief op basis van drie factoren:
  1. Lokale Gegevensdistributie: De omvang van de dataset van de client ($|D_i|$).
  2. Communicatiekosten: De bandbreedte- en latentiebeperkingen ($C_i$), die hoger zijn onder HE vanwege ciphertext expansie.
  3. Privacy-geïnduceerde Ruis: De variantie van de differential privacy ruis ($\sigma_i^2$).
     Deze strategie weegt clients met hoge communicatiekosten of hoge privacyruis naar beneden, waardoor de afweging tussen modelconvergentie, nauwkeurigheid en systeemefficiëntie wordt geoptimaliseerd.
• Modelimplementatie: Het spamdetectiemodel maakt gebruik van een LSTM-gebaseerde classifier die is geoptimaliseerd voor sequentiële e-mailrepresentatie. Het framework werd getest met de Enron en SpamAssassin datasets, die zijn opgedeeld in non-IID client-subsets om realistische multi-cloud condities te simuleren.

Belangrijkste Bijdragen
Het artikel schetst vier primaire bijdragen:

1. Nieuwe Aggregatiestrategie: Een privacy-bewust en communicatie-efficiënt wegingsmechanisme dat de bijdragen van clients adaptief aanpast op basis van gegevensdistributie, communicatiekosten en privacyruis, wat de robuustheid onder non-IID condities verbetert.
2. Multi-Objective Optimalisatie: Een formulering die classificatieverlies, communicatieoverhead en privacykosten gezamenlijk minimaliseert binnen een verenigd framework.
3. Geïntegreerd Privacy Framework: De combinatie van FL, MPC en HE om end-to-end privacybescherming en veilige samenwerking tussen heterogene cloudproviders te waarborgen.
4. Uitgebreide Evaluatie: Uitgebreide experimentele validatie die verbeterde nauwkeurigheid, snellere convergentie en lagere communicatieoverhead aantoont in vergelijking met state-of-the-art aggregatiemethoden (FedAvg, FedProx, FedNova).

Experimentele Resultaten
Het FPSD-MCP framework werd geëvalueerd op de Enron en SpamAssassin datasets tegenover baseline modellen (Logistic Regression, LSTM, BERT) en standaard aggregatiestrategieën.

• Prestatiewinsten: FPSD-MCP presteerde aanzienlijk beter dan de baseline modellen. Op de Enron-dataset behaalde het winsten van 4,5% in precisie, 3,6% in recall en 4,1% in F1-score vergeleken met bestaande methoden. Op de SpamAssassin-dataset waren de verbeteringen nog prominenter, met winsten van 11,7% in precisie, 7,1% in recall en 9,4% in F1-score.
• Convergentie en Efficiëntie: Het voorgestelde framework had minder communicatierondes nodig om te convergeren (28 rondes voor Enron, 26 voor SpamAssassin) vergeleken met FedProx en FedNova, terwijl het een lagere communicatieoverhead behield (16,3 MB voor Enron, 14,1 MB voor SpamAssassin).
• Robuustheid:
  • Non-IID Data: Onder zware gegevensdistributie-skew behield FPSD-MCP een F1-score van 0,90, waarmee het Logistic Regression (0,71) en BERT (0,84) aanzienlijk versloeg.
  • Adversariële Aanvallen: In de aanwezigheid van 30% vergiftigde data vertoonde FPSD-MCP een hoge veerkracht, met een daling van de F1-score van slechts 0,06 (van 0,94 naar 0,88), terwijl Logistic Regression een degradatie van meer dan 40% leed.
  • Schaalbaarheid: Het framework behield een stabiele prestatie (96,8% nauwkeurigheid) naarmate het aantal clients toenam tot 100, waarmee het BERT en LSTM versloeg in grootschalige settings.
• Privacy-Efficiëntie Afweging: De ablatie-studie bevestigde dat hoewel de integratie van MPC en HE een minimale nauwkeurigheidsdaling introduceert (minder dan 3%) en hogere computationele kosten met zich meebrengt vergeleken met plaintext FL, het framework deze kosten succesvol balanceert met sterke beveiligingsgaranties.

Betekenis en Claims
De auteurs beweren dat FPSD-MCP een schaalbare en veilige oplossing biedt voor gedistribueerde spamdetectie, waarmee de beperkingen van huidige FL-benaderingen in multi-cloud omgevingen effectief worden aangepakt. De betekenis van het werk ligt in het verenigde ontwerp, waarbij privacy en communicatie-efficiëntie niet als onafhankelijke beperkingen worden behandeld, maar als gezamenlijk geoptimaliseerde doelstellingen. Door een adaptieve aggregatiestrategie te introduceren die rekening houdt met systeemniveau-afwegingen, maakt het framework betrouwbare modeltraining mogelijk over heterogene, non-IID gegevensdistributies zonder de lokale gegevensintegriteit in gevaar te brengen. De resultaten suggereren dat FPSD-MCP een levensvatbare kandidaat is voor real-world implementatie in privacygevoelige, multi-cloud infrastructuren waar het balanceren van detectienauwkeurigheid met strikte privacygaranties en communicatiebeperkingen cruciaal is. Toekomstig werk is geïdentificeerd als gericht op het verder verbeteren van de communicatie-efficiëntie en het optimaliseren van de resourceallocatie.