In der modernen digitalen Welt sind sensible Informationen oft über viele verschiedene Geräte und Organisationen verstreut, von Krankenhausservern bis hin zu persönlichen Smartphones. Um intelligente Systeme zu bauen, die ungewöhnliche Muster erkennen können – wie etwa eine seltene Krankheit in medizinischen Unterlagen oder eine betrügerische Transaktion in Bankdaten –, müssen diese Systeme normalerweise aus riesigen Mengen an Informationen lernen. Datenschutzgesetze und Sicherheitsbedenken verhindern jedoch oft, dass Organisationen ihre Rohdaten mit einer zentralen Instanz teilen. Dies hat zum Aufstieg eines kollaborativen Ansatzes namens Federated Learning (föderiertes Lernen) geführt. Anstatt die Daten zu einem zentralen Computer zu bewegen, wandert der Lernprozess zu den Daten. Jedes Gerät trainiert ein kleines Stück des Modells lokal und sendet nur die mathematischen Aktualisierungen zurück an einen zentralen Server, der diese kombiniert, um das globale System zu verbessern. Während dies die Rohdaten privat hält, können die mathematischen Aktualisierungen selbst manchmal zu viel preisgeben. Wenn das System so gut darin ist, normale Muster zu erkennen, dass es diese rekonstruieren kann, könnte ein neugieriger Beobachter in der Lage sein, die ursprünglichen privaten Daten aus diesen Aktualisierungen zurückzuentwickeln.

Forscher der Carnegie Mellon University und der Sandia National Laboratories haben eine neue Methode entwickelt, um dieses spezifische Problem zu lösen, insbesondere für Systeme, die Autoencoder verwenden – eine Art künstliche Intelligenz, die darauf ausgelegt ist, zu lernen, wie man normale Daten rekonstruiert. Sie nennen ihren Ansatz Global Centroid Alignment. Im traditionellen Federated Learning mit diesen Systemen senden die Geräte die komplexen mathematischen Gewichte ihrer Modelle zurück, was eine schwere Last für die Netzwerkverbindungen darstellt und dennoch das Risiko eines Datenlecks birgt. Die neue Methode ändert die Regeln des Austauschs grundlegend. Anstatt das Modell selbst zu senden, sendet jedes Gerät nur eine kleine, komprimierte Zusammenfassung dessen, was es gelernt hat: eine Reihe abstrakter Codes, die die gesehenen Daten repräsentieren. Ein zentraler Server gruppiert diese Codes dann, um gemeinsame Muster oder „Zentren“ zu finden, und sendet diese einfachen Zusammenfassungen an die Geräte zurück. Die Geräte passen dann ihr eigenes Lernen an, um sich an diesen globalen Zentren auszurichten, ohne jemals ihre Rohdaten oder ihre internen Modellstrukturen preiszugeben.

Die Forscher testeten diese Methode anhand von sieben verschiedenen Datensätzen, die von Finanzunterlagen und medizinischen Daten bis hin zu Bildern von Alltagsgegenständen reichten. Sie fanden heraus, dass dieser neue Ansatz die Daten nicht nur deutlich besser schützte als bestehende Methoden, sondern auch die Genauigkeit des Gesamtsystems verbesserte. In Tests, bei denen ein böswilliger Server versuchte, die ursprünglichen privaten Daten aus den erhaltenen Informationen zu rekonstruieren, machte die neue Methode es einem Angreifer wesentlich schwerer, erfolgreich zu sein. Die rekonstruierten Bilder und Datensätze waren weit weniger ähnlich zu den ursprünglichen Trainingsdaten als die durch Standardmethoden erzeugten. Tatsächlich bot die neue Methode in einundzwanzig von einundzwanzig Vergleichen gegen eine führende Standardtechnik einen stärkeren Schutz gegen Datenextraktion. Sie reduzierte zudem die Menge der über das Netzwerk gesendeten Daten um bis zu 99,15 Prozent, was sie für Geräte mit begrenzter Bandbreite weitaus effizienter macht.

Der Kern dieser Innovation liegt darin, wie das Lernen stattfindet. Im Standardansatz trainiert ein Gerät einen Autoencoder so, dass er seine Eingabedaten perfekt rekonstruiert. Um Wissen zu teilen, senden sie den gesamten Bauplan dieses Erzeugers an den Server. Die neue Methode hält den Bauplan lokal. Stattdessen sendet das Gerät eine kleine Stichprobe der abstrakten Codes, die es während der Verarbeitung seiner Daten generiert hat. Der Server sammelt diese Codes von allen teilnehmenden Geräten und nutzt eine Clustering-Technik, um die durchschnittlichen Positionen, oder Zentroiden, dieser Codes zu finden. Er überträgt diese durchschnittlichen Positionen dann an die Geräte zurück. Die Geräte passen dann ihre internen Encoder so an, dass ihre eigenen Codes den globalen Durchschnitten entsprechen, wobei sie seltenen oder weniger häufigen Mustern ein höheres Gewicht geben, um sicherzustellen, dass nichts verloren geht. Dieser Prozess wiederholt sich, sodass das System aus der kollektiven Erfahrung aller Geräte lernen kann, ohne jemals die Rohdaten oder die detaillierten Modellparameter offenzulegen.

Die Ergebnisse der Studie zeigen, dass dieser Strategiewechsel einen leistungsstarken Kompromiss bietet. Durch den Austausch dieser abstrakten Zusammenfassungen und statistischen Durchschnitte vermeidet das System die hohen Kommunikationskosten des Sendens vollständiger Modellaktualisierungen. Wichtiger noch: Es entfernt die direkte Verbindung, die Angreifer oft ausnutzen. In den Experimenten, in denen die Forscher einen Angriff simulierten, bei dem ein Server versuchte, die Trainingsdaten zurückzuentwickeln, lieferte die neue Methode konsistent Ergebnisse, die viel weiter von den Originaldaten entfernt waren als die der Standardmethoden. Die rekonstruierten Daten waren nicht nur leicht anders; sie waren oft unerkennbar im Vergleich zu den ursprünglichen Eingaben. Dieser Schutz blieb auch dann bestehen, wenn die Methode mit anderen fortgeschrittenen Datenschutztechniken verglichen wurde, die Rauschen in die Daten einfügen, welche in bestimmten Szenarien teilweise daran scheiterten, eine Rekonstruktion zu verhindern. Die neue Methode blieb in allen getesteten Szenarien stabil und effektiv.

Neben der Sicherheit erwies sich die Methode auch bei ihrer primären Aufgabe – der Erkennung von Anomalien – als äußerst effektiv. In Szenarien, in denen das System seltene oder ungewöhnliche Ereignisse identifizieren muss, wie etwa einen Defekt an einer Industriemaschine oder eine betrügerische Banktransaktion, erreichte der neue Ansatz in fünf der sieben Datensätze eine höhere Genauigkeit als die Standardmethode. Er entsprach oder übertraf die Leistung anderer anspruchsvoller Federated-Learning-Techniken bei gleichzeitig nur einem Bruchteil der Kommunikationsressourcen. Die Forscher merkten an, dass die Methode auch dann gut funktioniert, wenn die Daten nicht perfekt über die Geräte verteilt sind, was eine häufige Herausforderung in realen Anwendungen darstellt. Die Fähigkeit, eine hohe Genauigkeit aufrechtzuerhalten und gleichzeitig das Risiko von Datenlecks sowie die Kosten der Kommunikation drastisch zu senen, deutet auf einen praktischen Weg für den Einsatz sicherer, kollaborativer Intelligenz in sensiblen Umgebungen hin.

Die Studie untersuchte auch die theoretischen Grundlagen, warum dies funktioniert, und zeigte auf, dass die Sicht des Servers auf die Daten grundlegend begrenzt ist. Da der Server nur die abstrakten Codes und nicht die ursprünglichen Bilder oder Zahlen sieht, kann er nicht eindeutig bestimmen, wie die ursprünglichen Daten ausgesehen haben. Es gibt viele mögliche ursprüngliche Eingaben, die denselben abstrakten Code erzeugen könnten, was es einem Angreifer unmöglich macht, sicher zu sein, dass er das korrekte private Datensegment wiederhergestellt hat. Diese mathematische Eigenschaft bietet eine Sicherheitsebene, die über das bloße Verbergen der Daten hinausgeht; sie verändert die Art der geteilten Informationen so, dass die ursprünglichen Geheimnisse effektiv in der Übersetzung verloren gehen.

Letztendlich bietet diese Arbeit eine konkrete Lösung für ein hartnäckiges Dilemma der künstlichen Intelligenz: wie man aus vielen Quellen lernt, ohne die Privatsphäre einer einzelnen Quelle zu gefährden. Durch den Ersatz des Austauschs komplexer Modell-Baupläne durch das Teilen einfacher, abstrakter Zusammenfassungen haben die Forscher ein System geschaffen, das sowohl sicherer als auch effizienter ist. Die Ergebnisse legen nahe, dass es für Anwendungen, bei denen der Datenschutz oberste Priorität hat, wie etwa im Gesundheitswesen oder im Finanzwesen, eine praktikable Alternative zu aktuellen Praktiken gibt, die nicht die Leistung opfern muss. Die Methode ist ein Beleg dafür, dass mit sorgfältigem Design die Ziele der Kollaboration, Effizienz und Privatsphäre gleichzeitig erreicht werden können, sodass Maschinen gemeinsam lernen können, ohne jemals die Geheimnisse der anderen sehen zu müssen.