Federated Learning Framework with Differential Privacy over Homomorphic Vector Encryption for Data-Sensitive Applications
Het artikel stelt een lichtgewicht, veilig Federated Learning-framework voor dat Differential Privacy integreert met Homomorphic Vector Encryption om gegevensgevoelige toepassingen zoals IoMT te beschermen tegen reverse-engineering-aanvallen, terwijl de daarmee gepaard gaande voorspellende en cryptografische overhead wordt gekwantificeerd.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
In de moderne digitale wereld is kunstmatige intelligentie een stille motor geworden die beslissingen stuurt in de gezondheidszorg, financiën en het dagelijks leven. Om effectief te leren, hebben deze systemen traditioneel enorme hoeveelheden gegevens nodig, waarbij vaak persoonlijke informatie van miljoenen gebruikers naar een centraal magazijn wordt gehaald. Deze aanpak creëert een aanzienlijk risico: als dat centrale magazijn wordt gebroken, worden privédetails over individuen blootgesteld. Om dit op te lossen, ontwikkelden onderzoekers een methode genaamd federated learning. In plaats van de gegevens naar een centrale computer te verplaatsen, reist het computermodel naar de gegevens. Elk apparaat, zoals een smartphone of een medische sensor, traint het model lokaal met de eigen privé-informatie en stuurt alleen de geleerde verbeteringen terug naar de centrale server. De ruwe gegevens verlaten het apparaat nooit. Echter, zelfs deze verbeteringen kunnen soms door een nieuwsgierige waarnemer worden teruggebracht naar de oorspronkelijke gegevens (reverse-engineering), wat een beveiligingsgat laat voor de meest gevoelige toepassingen.
Een team van onderzoekers heeft een nieuw framework voorgesteld dat is ontworpen om dit gat te dichten, specifiek voor omgevingen waar gegevens zeer vertrouwelijk zijn, zoals medische dossiers of financiële details. Hun oplossing, genaamd Fed-DHVE, combineert twee verschillende lagen van bescherming om ervoor te zorgen dat noch de centrale server, noch een externe luistervink kan zien wat een enkele gebruiker heeft bijgedragen. De eerste laag voegt een berekende hoeveelheid willekeurige ruis toe aan de leerupdates voordat ze worden verzonden. Deze techniek, bekend als differential privacy, zorgt ervoor dat de aanwezigheid of afwezigheid van de gegevens van één persoon de uiteindelijke resultaten niet merkbaar verandert, waardoor de link tussen de update en het individu effectief wordt vervaagd. De tweede laag versleutelt deze ruizige updates met een speciaal wiskundig systeem dat de server in staat stelt om ze te combineren zonder de individuele stukken ooit te ontgrendelen of te zien. Alleen het uiteindelijke, gecombineerde resultaat wordt ontsleuteld om het globale model te verbeteren.
De onderzoekers testten dit systeem door een netwerk van duizend apparaten te simuleren die samenwerken om afbeeldingen te herkennen, een veelvoorkomende taak voor kunstmatige intelligentie. Ze vergeleken hun nieuwe framework met standaardmethoden en andere bestaande beveiligingstechnieken. De resultaten toonden aan dat het systeem succesvol nauwkeurige modellen trainde terwijl de individuele bijdragen verborgen bleven. Op vier verschillende beelddatasets behaalde het framework hoge niveaus van nauwkeurigheid, variërend van ongeveer 94 procent tot bijna 98 procent. Hoewel dit iets lager was dan een standaard, onbeveiligd systeem, was de daling verwacht en vertegenwoordigt het een bewuste afweging om sterkere privacy te verkrijgen. Het systeem mat ook de tijd die nodig is om de complexe encryptie- en decryptiestappen uit te voeren, en stelde vast dat het net iets meer dan twee seconden duurde om de updates te versleutelen en minder dan één seconde om het uiteindelijke gecombineerde resultaat te ontsleutelen.
De studie benadrukt dat hoewel het systeem goed werkt in deze gesimuleerde omgeving, het nog geen volledige oplossing is voor elke mogelijke dreiging. De onderzoekers merkten expliciet op dat hun huidige opstelling bescherming biedt tegen een server die de regels volgt maar probeert te leren van de gegevens, evenals tegen externe luisteraars, maar het pakt nog geen aanvallen aan waarbij een gebruiker het model zou kunnen vergiftigen of het systeem zou kunnen misleiken. Bov�elijk bevatte de studie geen specifieke tests om te zien of een aanvaller nog steeds de oorspronkelijke afbeeldingen zou kunnen reconstrueren uit de ruizige, versleutelde gegevens, noch berekende het een precieze wiskundige privacyscore voor het gehele proces. Dit zijn geïdentificeerde noodzakelijke volgende stappen voor validatie. Het werk demonstreert dat het haalbaar is om deze twee beveiligingsmethoden op elkaar te stapelen om gegevens te beschermen in omgevingen met beperkte middelen, wat een stabiel pad biedt voor gevoelige toepassingen zoals het Internet of Medical Things, waar de kosten van een datalek te groot zijn om te negeren.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.