Geometric Data Perturbation with Noisy-Anchor Alignment for Privacy-Preserving Collaborative Learning
Dit artikel stelt een privacy-bewarend collaboratief leerframework voor dat de Geometric Data Perturbation-methode verbetert door ruis toe te voegen aan gedeelde ankerrepresentaties in plaats van aan private data, waardoor aanvallen door collusie tussen analist en deelnemer effectief worden gemitigeerd terwijl een hoge leerutiliteit behouden blijft in vergelijking met bestaande benaderingen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
In de moderne digitale wereld houden organisaties vaak stukjes van een grotere puzzel vast. Een ziekenhuis heeft misschien patiëntendossiers, een bank heeft misschien transactiegeschiedenissen en een universiteit heeft misschien gegevens over de prestaties van studenten. Om betere kunstmatige intelligentie te bouwen, moeten deze groepen hun informatie combineren. Wetten en privacyzorgen verhinderen echter meestal dat zij hun ruwe gegevens simpelweg delen. Dit creëert een moeilijk probleem: hoe kunnen groepen samenwerken om van elkaar te leren zonder ooit hun privégeheimen te onthullen? Een veelbelovende oplossing omvat een techniek genaamd geometrische dataperturbatie. Stel je voor dat je een foto neemt en deze draait of licht verschuift zonder de afstand tussen de twee punten in de afbeelding te veranderen. De foto ziet er anders uit, maar de interne structuur blijft intact. Door deze wiskundige verschuivingen toe te passen op data, kunnen organisaties een vervormde versie van hun informatie naar een centrale analist sturen. De analist kan vervolgens krachtige modellen trainen op de gecombineerde, vervormde data, terwijl de oorspronkelijke privérecords verborgen blijven.
De uitdaging ontstaat wanneer de centrale analist en een van de deelnemende organisaties besluiten om samen te werken om de privacy van de anderen te doorbreken. Als de organisaties exact dezelfde wiskundige verschuiving zouden gebruiken, zouden de samenzweerende partners het proces gemakkelijk kunnen omkeren en de privédata van iedereen kunnen zien. Om dit te voorkomen, suggereerden onderzoekers eerder dat elke organisatie zijn eigen unieke verschuiving zou moeten gebruiken. Dit creëert echter een nieuw probleem: de data van verschillende groepen eindigen in incompatibele formaten, waardoor het onmogelijk wordt om effectief één enkel model te trainen. Een slimme workaround genaamd "anchor alignment" werd ontwikkeld om dit op te lossen. Het maakt gebruik van een gedeelde, synthetische set referentiepunten—zoals een gemeenschappelijk raster op een kaart—die elke organisatie transformeert samen met hun privédata. De analist gebruikt deze getransformeerde referentiepunten om de verschillende datasets uit te lijnen tot één bruikbaar formaat. Maar een nieuwe studie onthult een kritiek gebrek in deze aanpak: als een samenzweerende partner de oorspronkelijke referentieraster onthult, kan de analist de unieke verschuivingen van alle andere deelnemers wiskundig omkeren, waardoor hun privédata volledig wordt blootgesteld.
Onderzoekers van de Universiteit van Tsukuba hebben een nieuwe methode voorgesteld om dit specifieke kwetsbaarheid op te lossen. Ze realiseerden zich dat het toevoegen van ruis, of willekeurige statische elektriciteit, rechtstreeks aan de privédata om deze te beschermen, de kwaliteit van het uiteindelijke model zou ruïneren. In plaats daarvan besloten ze de ruis aan de referentieraster zelf toe te voegen. In hun nieuwe systeem gebruikt elke organisatie nog steeds zijn eigen unieke verschuiving voor zijn privédata, maar wanneer ze de gedeelde referentieraster transformeren, voegen ze een laag willekeurige ruis toe aan deze voordat ze deze naar de analist sturen. Deze ruis maakt het wiskundig onmogelijk voor de analist en een samenzweerende partner om de unieke verschuivingen van de andere deelnemers perfect om te keren. De analist kan de data nog steeds goed genoeg uitlijnen om een nuttig model te trainen, maar de weg om de privé-informatie te stelen wordt geblokkeerd door de ruis.
Het team testte dit idee met behulp van twee grote afbeeldingendatasets: één die handgeschreven cijfers bevat en een andere die duizenden beroemde gezichten bevat. Ze simuleerden een scenario waarin een analist en één deelnemer samenwerkten om de data van de anderen te stelen. Wanneer ze ruis aan de privédata zelf toevoegden, daalde de nauwkeurigheid van het model aanzienlijk naarmate de privacybescherming toenam. Echter, wanneer ze alleen ruis aan de referentieraster toevoegden, vonden ze een veel betere balans. Het systeem behield een hoge nauwkeurigheid voor het machine learning-model, terwijl het extreem moeilijk werd voor de aanvallers om de oorspronkelijke afbeeldingen te reconstrueren. In hun experimenten lieten ze zien dat de nieuwe methode het systeem in staat stelde om een hoge leeraccuratesse te bereiken, zelfs wanneer het risico op datalekken laag werd gehouden. De onderzoekers toonden aan dat door het uitlijningssignaal te beschermen in plaats van de data zelf, ze een systeem konden creëren dat zowel nuttig is voor samenwerking als robuust tegen interne dreigingen. Deze aanpak biedt een praktische manier voor organisaties om samen te werken aan gevoelige projecten zonder te hoeven kiezen tussen privacy en prestaties.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.