Federated Breast Cancer Detection Enhanced by Synthetic Ultrasound Image Augmentation

Probleemstelling

De paper adresseert de uitdagingen bij het trainen van robuuste deep learning-modellen voor de classificatie van borstkanker in echobeelden (ultrasound) binnen een federated learning (FL) omgeving. Hoewel federated learning het mogelijk maakt om modellen te trainen over meerdere instellingen zonder gevoelige patiëntdata te delen, worden de prestaties vaak beperkt door:

1. Kleine datasets: Veel klinische centra hebben beperkte lokale data, vooral voor zeldzame gevallen (zoals maligne laesies).
2. Niet-onafhankelijke en identiek verdeelde data (Non-IID): De data-distributie verschilt sterk tussen instellingen, wat de generalisatie van het globale model belemmert.
3. Privacybeperkingen: Het delen van ruwe medische beelden is vaak verboden door regelgeving, wat de samenwerking bemoeilijkt.

Het doel is om een framework te ontwikkelen dat deze beperkingen overwint door synthetische data te gebruiken om de lokale datasets te verrijken, terwijl de privacy van de patiënten volledig wordt gewaarborgd.

Methodologie

De auteurs stellen een federated learning framework voor dat gebruikmaakt van generatieve modellen voor data-augmentatie. De aanpak omvat de volgende kerncomponenten:

1. Generatie van Synthetische Beelden
Er worden twee soorten generatieve modellen getraind om realistische synthetische borstechobeelden te creëren voor de klassen "benign" (goedaardig) en "malignant" (kwaadaardig):

• Deep Convolutional GANs (DCGAN): Er worden twee aparte DCGAN-modellen getraind (één per klasse). De generator mapt een ruisvector en een laesie-masker af op een grijs-waarde echobeeld. De discriminator leert onderscheid te maken tussen echte en synthetische beelden. De beelden worden gegenereerd met een resolutie van 128x128 en later opgeschaald naar 224x224 voor classificatie.
• Class-Conditioned Denoising Diffusion Probabilistic Model (DDPM): In plaats van aparte modellen per klasse, wordt één class-geconditioneerd DDPM getraind. Dit model gebruikt classifier-free guidance tijdens het trainen (labels worden willekeurig gedropt) om tijdens de inferentie gerichte synthese mogelijk te maken. Dit model produceert beelden van 256x256 die worden gedownsampled naar 224x224.

2. Federated Learning Framework

• Opzet: Drie clients (vertegenwoordigend voor de datasets BUS-BRA, BUSI en UDIAT) trainen lokale classificatiemodellen.
• Data-isolatie: Ruwe data blijft strikt lokaal en wordt nooit gedeeld.
• Synthetische Data Deling: Elke client traint lokaal een generatief model op zijn eigen data. De gegenereerde synthetische beelden worden vervolgens gedeeld tussen alle clients en de server. Deze synthetische data wordt gebruikt om de lokale classificatiemodellen te verrijken tijdens het trainen.
• Algoritmen: Er worden twee standaard FL-algoritmen gebruikt: FedAvg (gewichtsgemiddelde van lokale updates) en FedProx (voegt een proximal-term toe om stabiliteit te bieden bij heterogene data).
• Balans: In de experimenten wordt ongeveer 12% synthetische data gebruikt (160 beelden per epoch) om overfitting te voorkomen.

Belangrijkste Bijdragen

1. Novel Framework: Een nieuw federated learning framework dat synthetische data uit DCGANs en DDPMs integreert om de prestaties van borstechoclassificatie te verbeteren zonder privacy te schenden.
2. Vergelijking Generatieve Modellen: Een systematische vergelijking tussen DCGANs en Diffusion Models in een federale context, waarbij wordt aangetoond dat Diffusion Models superieure prestaties leveren.
3. Ablatie-studie over Data-volume: Een kritieke bevinding dat een moderate hoeveelheid synthetische data de prestaties verbetert, maar dat excessieve synthetische data leidt tot prestatieverlies door overfitting op kunstmatige kenmerken. Dit benadrukt de noodzaak van een zorgvuldige balans tussen echte en synthetische samples.
4. Privacybehoud: Het bewijzen dat het delen van gegenereerde beelden (in plaats van ruwe data) effectief is voor multi-center leren.

Resultaten

De experimenten zijn uitgevoerd op drie publieke datasets (BUSI, BUS-BRA, UDIAT) met een DenseNet-121 als backbonemodel.

• Prestatieverbetering: Het toevoegen van synthetische data verbeterde consistent de gemiddelde AUC (Area Under the Curve) voor zowel FedAvg als FedProx.
  • FedAvg: Steeg van 0.9206 (zonder synthetische data) naar 0.9362 (met DDPM).
  • FedProx: Steeg van 0.9429 naar 0.9574 (met DDPM).
• Vergelijking Modellen: De class-geconditioneerde DDPM presteerde beter dan de DCGANs, wat aangeeft dat diffusion-modellen diversere en realistischere augmentaties bieden voor dit specifieke probleem.
• Centrale vs. Federale Leren: Het federale framework met DDPM-augmentatie haalde bijna dezelfde prestaties als een centraal getraind model (AUC 0.9391) en overtrof dit zelfs in sommige gevallen (FedProx + DDPM: 0.9574), terwijl het de privacy behield.
• Impact van Overmatige Data: De ablatiestudie toonde aan dat het verdubbelen van de synthetische data (van 1000 naar 2000 beelden per klasse) de prestaties deed dalen (bijv. AUC van 0.9237 naar 0.9203 bij FedAvg), waarschijnlijk door ruis in de verdeling.

Betekenis en Conclusie

Deze studie demonstreert dat generatieve modelgebaseerde augmentatie een krachtige strategie is om de beperkingen van federated learning in de medische beeldvorming te overwinnen. Door synthetische data te genereren en te delen, kunnen instellingen samenwerken om robuustere modellen te bouwen zonder de privacy van patiënten te riskeren.

De belangrijkste inzichten zijn:

• Synthetische data kan de kloof tussen federale en centrale training dichten of zelfs overbruggen.
• Diffusion-modellen (DDPM) zijn superieur aan GANs voor deze toepassing in termen van stabiliteit en diversiteit.
• Er is een kritieke "sweet spot" voor de hoeveelheid synthetische data; te veel data is schadelijk.

De auteurs concluderen dat dit framework de weg effent voor efficiëntere, privacy-bewuste samenwerking in de medische diagnostiek, met potentie voor uitbreiding naar andere beeldvormingsmodaliteiten.