Class-Aware Adaptive Differential Privacy in Deep Learning for Sensor-Based Fall Detection

Technische Samenvatting: Klassebewuste Adaptieve Differentiële Privacy in Deep Learning voor Sensorgebaseerde Valdetectie

Probleemstelling
Valdetectie is een kritieke zorgtoepassing voor ouderen, waarbij tijdige interventie ernstige verwondingen kan voorkomen. Hoewel sensorgebaseerde systemen met versnellingsmeters en gyroscopen voordelen bieden ten opzichte van visiegebaseerde methoden, zijn de door hen verzamelde data uiterst gevoelig en bevatten ze gedrags- en gezondheidsgerelateerde informatie. Deep learning-modellen die op deze data zijn getraind, zijn kwetsbaar voor privacy-aanvallen, zoals lidmaatschapsinference en modelinversie.

Bestaande privacybehoudende benaderingen, voornamelijk Differentiële Private Stochastic Gradient Descent (DP-SGD), lossen dit op door uniforme ruis toe te voegen aan alle trainingsstalen. Valdetectiedatasets zijn echter inherent onevenwichtig, waarbij valgebeurtenissen (minderheidsklasse) aanzienlijk minder voorkomen dan Activiteiten van het Dagelijkse Leven (ADL's). De auteurs betogen dat het toepassen van uniforme ruis de leerprestaties van minderheidsklassen onevenredig verslechtert, wat leidt tot een significante daling in voorspellingsprestaties en recall voor valgebeurtenissen. Er ontbreken kaders die ruimtetemporele featurelearning en privacybehoud gezamenlijk aanpakken, terwijl rekening wordt gehouden met klasonevenwichtigheid.

Methodologie
Het artikel stelt een Klassebewuste Adaptieve Differentiële Privacy (CA-ADP)-kader voor, geïntegreerd met een hybride 3D Convolutional Neural Network en Bidirectional Long Short-Term Memory (3D CNN-BiLSTM)-architectuur.

1. Modelarchitectuur:

   • 3D CNN: Extrahert ruimtetemporele kenmerken uit ruwe sensorsignalen (versnellingsmeter- en gyroscoopdata) die zijn opgedeeld in segmenten met vaste lengte.
   • BiLSTM: Verwerkt de geëxtraheerde kenmerken in zowel voorwaartse als achterwaartse richting om langetermijntemporele afhankelijkheden en contextuele informatie rondom potentiële valgebeurtenissen vast te leggen.
   • Output: Een volledig verbonden laag met een sigmoid-activering voor binaire classificatie (Val vs. Niet-Val).

2. Klassebewuste Adaptieve Differentiële Privacy (CA-ADP):

   • In tegenstelling tot standaard DP-SGD, dat een vaste ruisvermenigvuldiger toepast, past CA-ADP de ruisgrootte dynamisch aan op basis van de klascompositie van elke mini-batch.
   • Mechanisme: De standaarddeviatie van de ruis ($\sigma_b$) voor een mini-batch wordt berekend als $\sigma_b = \sigma_{base}(1 - \alpha \bar{y}_b)$, waarbij $\bar{y}_b$ het gemiddelde label van de batch is (aandeel valgebeurtenissen) en $\alpha$ een adaptieve factor is.
   • Effect: Batches die gedomineerd worden door valgebeurtenissen (minderheidsklasse) ontvangen minder ruisinjectie om het gradiëntsinal te behouden, terwijl batches die gedomineerd worden door ADL's (meerderheidsklasse) meer ruis ontvangen.
   • Privacygarantie: Het systeem handhaaft een formele $(\epsilon, \delta)$-Differentiële Privacy-garantie. Het privacybudget wordt berekend met behulp van de Rényi Differentiële Privacy (RDP)-accountant, gebaseerd op de maximale ruiswaarde ($\sigma_{base}$) die over alle batches wordt toegepast om een conservatieve bovengrens te waarborgen.

3. Experimentele Opstelling:

   • Datasets: Het kader werd geëvalueerd op drie publieke benchmarkdatasets: SisFall, UP-Fall en MobiAct.
   • Preprocessing: Een gestandaardiseerde pijplijn met ruisfiltering (Butterworth low-pass filter voor SisFall), normalisatie (StandardScaler) en segmentatie met schuifvensters met 50% overlapping.
   • Baselines: Vergelijkingen werden gemaakt met een standalone 3D CNN, standalone BiLSTM en een hybride 3D CNN-BiLSTM met conventionele uniforme DP-SGD (CONV-DP).

Belangrijkste Resultaten
Het voorgestelde CA-ADP-kader toonde superieure prestaties in vergelijking met conventionele privacybehoudende modellen op alle drie de datasets:

• Prestatiewinst: In termen van F-score behaalde CA-ADP verbeteringen van 3,3% (SisFall), 8,5% (UP-Fall) en 7,5% (MobiAct) ten opzichte van de conventionele DP-SGD-baseline.
• Recall-verbetering: De meest significante winsten werden waargenomen in Recall, waarbij CA-ADP gemiddeld ongeveer 0,088 verbeterde ten opzichte van CONV-DP. Dit is cruciaal voor valdetectie, waarbij het missen van een val (False Negative) schadelijker is dan een vals alarm.
• Statistische Significantie: Wilcoxon signed-rank-tests bevestigden dat de prestatieverbeteringen van CA-ADP ten opzichte van CONV-DP statistisch significant zijn ($p < 0,0167$ na Bonferroni-correctie) voor alle metrieken en datasets.
• Privacy-Utility Trade-off: De analyse toonde aan dat CA-ADP een betere balans bereikt tussen privacy en nut. Op de SisFall- en UP-Fall-datasets behaalde CA-ADP lagere privacybudgetten ($\epsilon$) dan CONV-DP (wat wijst op sterkere privacybescherming voor hetzelfde nut), terwijl op MobiAct het privacybudget vergelijkbaar was.
• Vergelijking met eerdere werken: Het voorgestelde model behaalde concurrerende of superieure nauwkeurigheid en F-scores in vergelijking met eerdere studies op deze datasets, met het extra voordeel van het bieden van formele privacygaranties, wat bij eerdere werken grotendeels ontbrak.

Betekenis en Beweringen
De auteurs beweren dat deze studie de eerste is die een Klassebewuste Adaptieve Differentiële Privacy-mechanisme specifiek toepast op het valdetectieprobleem.

• Aanpakken van Onevenwichtigheid: De primaire bijdrage is het aantonen dat adaptieve ruisplanning op basis van de klascompositie van mini-batches de prestatiedegradering die typisch geassocieerd wordt met differentiële privacy in onevenwichtige zorgdatasets kan mitigeren.
• Formele Garanties: In tegenstelling tot veel bestaande valdetectiestudies die zich uitsluitend op nauwkeurigheid richten, biedt dit werk rigoureuze $(\epsilon, \delta)$-DP-garanties, waarmee de ethische en juridische noodzaak van het beschermen van gevoelige gebruikersdata in zorg-AI wordt aangepakt.
• Praktisch Nut: De resultaten suggereren dat CA-ADP niet alleen privacy behoudt, maar ook kan fungeren als een impliciete regularisator, wat potentieel de generalisatie en recall voor zeldzame gebeurtenissen (vallen) in bepaalde scenario's beter verbetert dan niet-privacy-baselines.

Beperkingen en Toekomstige Richtingen
De auteurs erkennen bescheiden dat de behaalde privacybudgetten ($\epsilon > 10$) niet zo streng zijn als die worden bepleit in sommige literatuur over differentiële privacy, een gevolg van de gebruikte kleine batchgrootte en ruisvermenigvuldigers. Zij merken ook op dat de datasets onder gecontroleerde laboratoriumomstandigheden zijn verzameld. Toekomstig werk heeft tot doel het privacybudget te verlagen naar het bereik van $\epsilon = 3-5$, zero-concentrated differential privacy te onderzoeken, het kader uit te breiden naar multi-class valtypeherkenning en het mechanisme te integreren in een federated learning-omgeving.