Recovering Clinical Utility Under Differential Privacy: Empirical Validation of Adaptive Federated Aggregation on Heterogeneous Cardiovascular Datasets

Technische Samenvatting: Herstel van Klinische Bruikbaarheid onder Differential Privacy

Probleemstelling
De centrale uitdaging die wordt geadresseerd, is de spanning tussen de behoefte aan grote, diverse datasets voor het trainen van hoogwaardige cardiovasculaire risicomodellen en de juridische verboden (bijv. AVG/GDPR, LGPD) tegen het centraliseren van patiëntendossiers. Hoewel Federated Learning (FL) instellingen in staat stelt om samen te werken zonder ruwe gegevens te delen, wordt het geconfronteerd met twee cumulatieve technische barrières in klinische settings:

1. Statistische Heterogeniteit (Non-IID): Real-world klinische data variëren aanzienlijk tussen instellingen in demografie, ziekteprevalentie en verzamelprotocollen, wat leidt tot "client drift" waarbij lokale gradiënten afwijken van het globale optimum.
2. Privacy-Utility Trade-off: Differential Privacy (DP) is vereist om inferentie-aanvallen te voorkomen, maar introduceert gekalibreerde ruis die de modelconvergentie destabiliseert, vooral onder Non-IID-omstandigheden. Dit leidt vaak tot een significante degradatie van de klinische bruikbaarheid, met name voor minderheidsklassen (hoog-risicopatiënten).
   Vorig werk door de auteurs legde een theoretische en synthetische basis voor een oplossing, maar miste validatie op authentieke, heterogene klinische data. Deze studie overbrugt dat gat door over te stappen van gecontroleerde synthetische benchmarks naar real-world multi-institutionele validatie.

Methodologie
De studie valideert het FedCVR-framework, een architectuur die server-zijde adaptieve optimalisatie integreert met client-zijde Differential Privacy.

• Architectuur:
  • Client-zijde: Vijf heterogene instellingen (Framingam, Cleveland, Hongarije, Zwitserland, Long Beach VA) voeren lokale training uit op private Elektronische Gezondheids Dossiers (EHR). Clients passen Differential Privacy toe via gradiënt clipping (L2-norm $C=1.0$) en het toevoegen van gekalibreerde Gaussische ruis ($\sigma$) voordat zij de update-vectoren naar de server verzenden.
  • Server-zijde: In plaats van standaard gewogen middeling (FedAvg), gebruikt de server een Adam-gebaseerde adaptieve optimizer. Deze houdt eerste-moment (gemiddelde) en tweede-moment (variantie) schattingen van de gradiënten bij. Dit mechanisme fungeert als een "temporele denoiser", waarbij momentum wordt gebruikt om de door DP geïnjecteerde zero-mean Gaussische ruis glad te strijken en oscillaties veroorzaakt door client drift te dempen.
• Data-configuratie:
  • Vijf real-world cardiovasculaire datasets zijn geharmoniseerd naar een 13-attribuut UCI-schema.
  • De datasets vertonen echte heterogeniteit: variërende steekproefgroottes (123 tot 4.238 records), ziekteprevalentie (15% tot 94%) en ontbrekende feature-patronen (bijv. de bijna volledige afwezigheid van cholesterol in de Zwitserse dataset).
  • Evaluatieprotocol: Een client-level leave-one-institution-out cross-validatie werd gebruikt. In elke fold wordt één instelling volledig uitgesloten voor testen, terwijl het model wordt getraind op de overige vier. Dit test de generalisatie naar ongeziene zorginstellingen.
• Experimentele Opstelling:
  • Modellen werden getraind voor 100 communicatierondes met 5 lokale epochs.
  • Privacy-budgetten varieerden van $\epsilon \approx 4.2$ (operationeel) tot $\epsilon \approx 1.2$ (strikt).
  • Vergelijkingen werden gemaakt met standaard FedAvg, FedCVR zonder DP, en lokale-only modellen.

Belangrijkste Bijdragen

1. Eerste Empirische Validatie met Real-Data: Dit werk biedt de eerste evaluatie van de FedCVR-architectuur op authentieke, multi-institutionele cardiovasculaire data, waarmee de eerdere synthetische bevindingen worden uitgebreid naar een realistisch federated netwerk.
2. Robuust Evaluatieprotocol: De introductie van een client-level cross-validatie protocol met een samengestelde globale testset biedt een sterkere maatstaf voor generalisatie dan onafhankelijke resampling, wat direct de scenario's simuleert van het toevoegen van een nieuwe instelling aan een federatie.
3. Karakterisering van Real-World Heterogeniteit: De studie kwantificeert hoe authentieke data-uitdagingen (ontbrekende features, ongecontroleerde klassenimbalans, distributionele edge cases) de privacy-utility trade-off beïnvloeden, waarbij verder wordt gegaan dan geconstrueerde synthetische benchmarks.

Resultaten

• Prestaties: Onder een operationeel privacy-budget ($\sigma=0.8, \epsilon \approx 4.2$), bereikte FedCVR een F1-score van 79,2% en een AUC van 0,96.
• Statistische Superioriteit: FedCVR presteerde statistisch superieur aan standaard FedAvg over alle metrieken (gepaarde t-testen, alle $p \le 0,003$, significant onder Bonferroni-correctie). Het adaptieve mechanisme verbeterde de F1-score met 2,8 procentpunten ten opzichte van FedAvg.
• Convergentie: FedCVR convergeerde aanzienlijk sneller en bereikte 95% van de uiteindelijke prestatie in 45 rondes, vergeleken met 85 rondes voor FedAvg. Het adaptieve mechanisme mitigeerde effectief het oscillerende gedrag ("client drift") dat bij FedAvg werd waargenomen.
• Privacy Kosten: De introductie van Differential Privacy veroorzaakte een minimale utility kost. Vergeleken met de niet-private adaptieve baseline (F1 79,5%), resulteerde het striktste privacy-regime ($\epsilon \approx 1.2$) in slechts een daling van 1,4 procentpunt (F1 78,1%).
• Generalisatie: Het globale federated model presteerde competitief met of beter dan lokaal getrainde modellen over alle instellingen. Met name kleinere instellingen (Cleveland, Hongarije) zagen significante winsten (+3,2% en +2,8% F1 respectievelijk), terwijl de grootste instelling (Framingham) geen degradatie vertoonde, wat de waarde van het framework bevestigt voor data-arme locaties zonder data-rijke locaties te benadelen.

Betekenis en Claims
Het artikel claimt dat server-zijde adaptieve optimalisatie een structurele vereiste is voor het herstellen van klinische bruikbaarheid in federated learning onder Differential Privacy. De resultaten demonstreren dat de "temporele denoising" eigenschap van momentum-gebaseerde aggregatie generaliseert van synthetische omgevingen naar authentieke, heterogene klinische data.

De belangrijkste kernpunten die door de auteurs worden benadrukt, zijn:

• Regulatoire Leefbaarheid: Strikte naleving van privacy (AVG/GDPR/LGPD) en hoge klinische bruikbaarheid zijn niet wederzijds uitsluitend; het framework bereikt rigoureuze privacy-garanties met een verwaarloosbaar prestatieverlies (<2% degradatie).
• Democratisering van AI: De aanpak stelt kleinere, beperkte zorgfaciliteiten in staat om toegang te krijgen tot modelkwaliteit die voorheen alleen haalbaar was door grootschalige data-centralisatie, zonder de datasoevereiniteit in gevaar te brengen.
• Architecturale Robuustheid: Het adaptieve aggregatiemechanisme filtert inherent zowel de stochastische ruis van statistische heterogeniteit als de bewuste ruis van Differential Privacy, wat de convergentie stabiliseert in complexe, real-world federated netwerken.

De auteurs hanteren een bescheiden standpunt door te erkennen dat, hoewel de resultaten statistisch significant en robuust zijn over de folds, de studie steunt op gecureerde publieke datasets in plaats van ruwe, ongecureerde EHR's, en dat toekomstig werk prospectieve klinische validatie vereist om de impact op patiëntuitkomsten te bevestigen.