In de moderne digitale wereld is gevoelige informatie vaak verspreid over vele verschillende apparaten en organisaties, van ziekenhuisservers tot persoonlijke smartphones. Om intelligente systemen te bouwen die ongebruikelijke patronen kunnen herkennen—zoals een zeldzame ziekte in medische dossiers of een frauduleuze transactie in bankgegevens—moeten deze systemen meestal leren van enorme hoeveelheden informatie. Echter, privacywetgeving en beveiligingszorgen kunnen organisaties er echter toe weerhouden om hun ruwe gegevens met een centrale autoriteit te delen. Dit heeft geleid tot de opkomst van een collaboratieve aanpak genaamd federated learning (federatief leren). In plaats van de data naar een centrale computer te verplaatsen, verplaatst het leerproces zich naar de data. Elk apparaat traint een klein deel van het model lokaal en stuurt alleen de wiskundige updates terug naar een centrale server, die deze combineert om het globale systeem te verbeteren. Hoewel dit de ruwe data privé houdt, kunnen de wiskundige updates zelf soms te veel onthullen. Als het systeem zo goed is ontworpen om normale patronen te herkennen dat het deze kan recreëren, zou een nieuwsgierige waarnemer de oorspronkelijke private data uit die updates kunnen terugontwerpen.

Onderzoekers van Carnegie Mellon University en Sandia National Laboratories hebben een nieuwe methode ontwikkeld om dit specifieke probleem op te lossen, met name voor systemen die autoencoders gebruiken, een type kunstmatige intelligentie die is ontworpen om te leren hoe normale data gereconstrueerd kan worden. Ze noemen hun aanpak Global Centroid Alignment. In traditionele federated learning met deze systemen sturen apparaten de complexe wiskundige gewichten van hun modellen terug, wat een zware belasting vormt voor netwerkverbindingen en nog steeds een risico op datalekken met zich meebrengt. De nieuwe methode verandert de regels van de uitwisseling volledig. In plaats van het model zelf te sturen, stuurt elk apparaat slechts een kleine, gecomprimeerde samenvatting van wat het heeft geleerd: een reeks abstracte codes die de data vertegenwoordigen die het heeft gezien. Een centrale server groepeert vervolgens deze codes om gemeenschappelijke patronen, of "centra", te vinden, en stuurt deze eenvoudige samenvattingen terug naar de apparaten. De apparaten passen vervolgens hun eigen leerproces aan om af te stemmen op deze globale centra, zonder ooit hun ruwe data of hun interne modelstructuren te onthullen.

De onderzoekers testten deze methode op zeven verschillende datasets, variërend van financiële gegevens en medische data tot afbeeldingen van alledaagse objecten. Ze ontdekten dat deze nieuwe aanpak de data aanzienlijk beter beschermde dan bestaande methoden en ook de nauwkeurigheid van het uiteindelijke systeem verbeterde. In tests waarbij een kwaadwillende server probeerde de oorspronkelijke private data te reconstrueren uit de ontvangen informatie, maakte de nieuwe methode het een aanvaller veel moeilijker om succesvol te zijn. De gereconstrueerde afbeeldingen en records waren veel minder vergelijkbaar met de oorspronkelijke trainingsdata vergeleken met de resultaten van standaardmethoden. Sterker nog, in eenentwintig van de eenentwintig vergelijkingen met een leidende standaardtechniek bood de nieuwe methode een sterkere bescherming tegen data-extractie. Het verminderde ook de hoeveelheid data die over het netwerk werd verzonden met wel 99,15 procent, waardoor het veel efficiënter is voor apparaten met een beperkte bandbreedte.

De kern van deze innovatie ligt in de manier waarop het leren plaatsvindt. In de standaardbenadering trainen apparaten een autoencoder om de invoerdata perfect te recreëren. Om kennis te delen, sturen ze het volledige blauwdruk van deze schepper naar de server. De nieuwe methode houdt de blauwdruk lokaal. In plaats daarvan stuurt het apparaat een kleine steekproef van de abstracte codes die het genereerde terwijl het de data verwerkte. De server verzamelt deze codes van alle deelnemende apparaten en gebruikt een clusteringtechniek om de gemiddelde posities, of zwaartepunten (centroids), van deze codes te vinden. Vervolgens zendt de server deze gemiddelde posities terug naar de apparaten. De apparaten passen vervolgens hun interne encoders aan om hun eigen codes te laten overeenkomen met deze globale gemiddelden, waarbij extra gewicht wordt gegeven aan de zeldzame of minder voorkomende patronen om ervoor te zorgen dat er niets verloren gaat. Dit proces herhaalt zich, waardoor het systeem kan leren van de collectieve ervaring van alle apparaten zonder ooit de ruwe data of de gedetailleerde modelparameters bloot te leggen.

De resultaten van de studie tonen aan dat deze verschuiving in strategie een krachtige afweging biedt. Door alleen deze abstracte samenvattingen en statistische gemiddelden uit te wisselen, vermijdt het systeem de zware communicatiekosten van het verzenden van volledige modelupdates. Belangrijker nog, het verwijdert de directe link die aanvallers vaak exploiteren. In de experimenten, waarbij de onderzoekers een aanval simuleerden waarbij een server probeerde de trainingsdata terug te ontwerpen, produceerde de nieuwe methode consequent resultaten die veel verder verwijderd waren van de oorspronkelijke data dan die van de standaardmethoden. De gereconstrueerde data was niet alleen iets anders; het was vaak onherkenbaar vergeleken met de oorspronkelijke inputs. Deze bescherming bleef standhouden, zelfs wanneer het werd vergeleken met andere geavanceerde privacytechnieken die ruis aan de data toevoegen, die in bepaalde omgevingen soms faalden om reconstructie te voorkomen. De nieuwe methode bleef stabiel en effectief in alle geteste scenario's.

Naast beveiliging bleek de methode ook zeer effectief bij haar primaire taak: het detecteren van anomalieën. In scenario's waar het systeem zeldzame of ongebruikelijke gebeurtenissen moet identificeren, zoals een defect in een industriële machine of een frauduleuze banktransactie, bereikte de nieuwe aanpak een hogere nauwkeurigheid dan de standaardmethode in vijf van de zeven datasets. Het kwam overeen met of overtrof de prestaties van andere geavanceerde federated learning-technieken, terwijl het slechts een fractie van de communicatieresources gebruikte. De onderzoekers merkten op dat de methode goed werkt, zelfs wanneer de data niet perfect gebalanceerd is over de apparaten, een veelvoorkomend probleem in real-world toepassingen. Het vermogen om een hoge nauwkeurigheid te behouden terwijl het risico op datalekken en de kosten van communicatie drastisch worden verminderd, suggereert een praktische weg voorwaarts voor de implementatie van veilige, collaboratieve intelligentie in gevoelige omgevingen.

De studie onderzocht ook de theoretische fundamenten van waarom dit werkt, waarbij werd aangetoond dat het zicht van de server op de data fundamenteel beperkt is. Omdat de server alleen de abstracte codes ziet en niet de originele afbeeldingen of getallen, kan het niet uniek bepalen hoe de oorspronkelijke data eruitzag. Er zijn veel mogelijke originele inputs die dezelfde abstracte code kunnen produceren, wat het onmogelijk maakt voor een aanvaller om er zeker van te zijn dat hij het juiste private record heeft hersteld. Deze wiskundige eigenschap biedt een laag van beveiliging die verder gaat dan alleen het verbergen van de data; het verandert de aard van de gedeelde informatie zodat de oorspronkelijke geheimen effectief verloren gaan in de vertaling.

Uiteindelijk biedt dit werk een concrete oplossing voor een hardnekkig dilemma in kunstmatige intelligentie: hoe te leren van vele bronnen zonder de privacy van één enkele bron in gevaar te brengen. Door de uitwisseling van complexe modelblauwdrukken te vervangen door het delen van eenvoudige, abstracte samenvattingen, hebben de onderzoekers een systeem gecreëerd dat zowel veiliger als efficiënter is. De bevindingen suggereren dat voor toepassingen waar dataprivacy van cruciaal belang is, zoals in de gezondheidszorg of de financiële sector, er een levensvatbaar alternatief is voor de huidige praktijken dat geen concessies hoeft te doen aan prestaties. De methode staat als een demonstratie dat met zorgvuldig ontwerp de doelen van samenwerking, efficiëntie en privacy tegelijkertijd kunnen worden bereikt, waardoor machines samen kunnen leren zonder ooit elkaars geheimen te hoeven zien.