Encryptability As a Coordinate Choice: Depth-One Homomorphic Federated Learning of Quantum Neural Networks
Diese Arbeit zeigt auf, dass durch die Darstellung der Gewichte eines Quanten-Neuronalen-Netzwerks in einem Einheitsquaternionen-Koordinatensystem die für verschlüsseltes föderiertes Lernen erforderlichen nichtlinearen Gruppenoperationen bilinear werden, wodurch ein effizientes, nicht-interaktives Homomorphes Training von hybriden Quanten-Klassik-Modellen mit vernachlässigbarem Genauigkeitsverlust und ohne die Notwendigkeit von Bootstrapping ermöglicht wird.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
In der modernen Welt der künstlichen Intelligenz lernen Maschinen, indem sie Muster in riesigen Mengen an Daten finden. Oftmals sind diese Daten sensibel und gehören Einzelpersonen, die ihre Privatsphäre wahren möchten, wie etwa medizinische Unterlagen oder persönliche Finanzhistorien. Um dies zu lösen, entwickelten Wissenschaftler eine Methode namens Federated Learning, bei der die Daten auf dem Gerät des Nutzers verbleiben und nur die aus ihnen gelernten Lektionen an einen zentralen Server gesendet werden, um ein gemeinsames Modell zu verbessern. Das Senden selbst dieser Lektionen birgt jedoch ein Risiko: Ein neugieriger Beobachter könnte potenziell die ursprünglichen Daten aus den Aktualisierungen zurückentwickeln. Um dies zu verhindern, nutzen Forscher eine Technik namens Verschlüsselung, die die Informationen so verschlüsselt, dass nur der beabsichtigte Empfänger sie lesen kann. Die Herausforderung entsteht, wenn das Lernmodell Quantencomputer involviert, die nach den seltsamen Regeln der Quantenphysik arbeiten. In diesen Systemen sind die Zahlen, die das Modell trainieren, keine einfachen Werte, sondern repräsentieren Rotationen in einem komplexen, mehrdimensionalen Raum. Lange Zeit galt die Verschlüsselung dieser spezifischen Arten von Rotationen als prohibitiv teuer, da sie so viel Rechenleistung erforderte, dass der Prozess unpraktikabel wurde.
Ein Team von Forschern am Imperial College London hat entdeckt, dass diese Schwierigkeit kein Naturgesetz war, sondern eine Folge der Art und Weise, wie die Zahlen aufgeschrieben wurden. Sie fanden heraus, dass durch die Änderung der mathematischen „Sprache“, die diese Quantenrotationen beschreibt, der Prozess der Verschlüsselung dieser Rotationen überraschend einfach und effizient wird. Anstatt ein komplexes System zu verwenden, das tausende Schritte für jede einzelne Aktualisierung erforderte, zeigten die Forscher, dass die Verwendung eines spezifischen Koordinatensystems basierend auf Einheitsquaternionen die Arbeit auf eine einzige, einfache Berechnung reduziert. Dieser Durchbruch ermöglicht es, Quanten-neuronale Netze über viele Geräte hinweg zu trainieren und gleichzeitig die Daten vollständig verborgen zu halten, ohne die schwere Rechenbelastung, die dies zuvor unmöglich gemacht hatte.
Der Kern des Problems lag darin, wie Quantencomputer ihre Operationen beschreiben. Die trainierbaren Teile dieser Maschinen sind im Wesentlichen Rotationen, vergleichbar mit dem Drehen eines Reglers. In der Standardart, diese Drehungen zu beschreiben, war die Mathematik so komplex, dass die Verschlüsselung der Aktualisierungen eine massive Verarbeitung erforderte, die oft tausende separate Operationen für jedes einzelne Gewicht im Netzwerk benötigte. Dies ließ die Idee eines datenschutzwahrenden Quantenlernens unerreichbar erscheinen. Die Forscher erkannten, dass die Komplexität ein Artefakt des Koordinatensystems war, ähnlich wie die Beschreibung eines Kreises mit einem gezackten, schrittweisen Gitter kompliziert aussieht, während die Beschreibung mit einer glatten Kurve einfach ist. Durch den Wechsel zu einem System basierend auf Einheitsquaternionen, einem mathematischen Werkzeug, das Rotationen in vier Dimensionen beschreibt, wurde die Beziehung zwischen den Zahlen perfekt linear und einfach. In dieser neuen Sprache ist das Kombinieren zweier Rotationen lediglich eine einfache Multiplikation – eine Aufgabe, die Verschlüsselungssysteme mit Leichtigkeit bewältigen können.
Dieser Perspektivwechsel transformierte den gesamten Prozess. Die Forscher demonstrierten, dass der Server die verschlüsselten Aktualisierungen vieler verschiedener Clients kombinieren kann, ohne sie jemals entschlüsseln oder die schweren, repetitiven Berechnungen durchführen zu müssen, die zuvor erforderlich waren. Der Prozess wurde so effizient, dass er den Bedarf an einem spezifischen, zeitaufwendigen Schritt eliminierte, der als „Bootstrapping“ bekannt ist und der zuvor als essenziell erachtet wurde, um die Verschlüsselung während komplexer Berechnungen sicher zu halten. Das Team baute ein funktionierendes Protokoll, das es Clients ermöglichte, ihre Modelle lokal zu trainieren, die Ergebnisse mit dieser neuen Methode zu verschlüsseln und sie an einen Server zu senden. Der Server konnte diese Aktualisierungen dann kombinieren und das Ergebnis zurücksenden, während die Daten vollständig verschlüsselt blieben. Sie testeten dieses System auf zwei verschiedenen kryptografischen Backends, um sicherzustellen, dass die Ergebnisse nicht nur ein Zufall einer spezifischen Software waren, und bestätigten, dass der Effizienzgewinn eine fundamentale Eigenschaft der Mathematik selbst ist.
Um zu verifizieren, dass diese neue Methode nicht die Qualität des Lernens opfert, führten die Forscher strenge Experimente durch. Sie trainierten ein hybrides Modell, das einen kleinen Quantenschaltkreis mit einem klassischen Computer kombiniert, an realen Datensätzen wie Hauspreisen und Weinqualität. Sie verglichen die Leistung des verschlüsselten Systems direkt mit einem identischen unverschlüsselten System und führten die Tests mehrmals mit unterschiedlichen Ausgangsbedingungen durch, um Fairness zu gewährleisten. Die Ergebnisse zeigten, dass die Verschlüsselung keinen messbaren Nachteil für den Lernprozess darstellte. Die Genauigkeit des Modells blieb exakt dieselbe, was bewies, dass der Datenschutz nicht auf Kosten der Leistung ging. Darüber hinaus testeten sie, ob das durch die Verschlüsselung eingeführte Rauschen dem Modell versehentlich helfen könnte, besser zu lernen – ein Phänomen, das in anderen Kontexten manchmal beobachtet wird. Durch das Durchlaufen des Systems mit unterschiedlichen Präzisionsstufen fanden sie heraus, dass das Hinzufügen von mehr Rauschen die Ergebnisse nicht verbesserte, was bestätigte, dass die Verschlüsselung lediglich ein transparenter Schild und kein versteckter Helfer war.
Die Forscher befassten sich auch mit der praktischen Frage, wie diese Modelle mit Verbindungen zwischen verschiedenen Teilen des Quantenschaltkreises, den sogenannten Entanglern, umgehen. Sie bewiesen mathematisch, dass selbst mit diesen komplexen Verbindungen die neue Verschlüsselungsmethode nur eine konstante, geringe Menge an Arbeit hinzufügt, unabhängig davon, wie tief oder komplex der Schaltkreis wird. Dies bedeutet, dass die Effizienz der Methode auch dann bestehen bleibt, wenn die Modelle größer und anspruchsvoller werden. Um die Ergebnisse in der realen Welt zu validieren, führten sie das Protokoll auf einem physischen Quantenprozessor mit 156 Qubits aus. Das System erreichte eine hohe Fidelity, was bedeutet, dass die verschlüsselten Operationen fast so perfekt funktionierten wie die unverschlüsselten, wobei der winzige Unterschied auf die natürlichen Unvollkommenheiten der Hardware zurückzuführen war und nicht auf die Verschlüsselung selbst.
Die Studie hob auch die Kompromisse (Trade-offs) dieses Ansatzes hervor. Während die neue Methode die Anzahl der Kommunikationsrunden zwischen dem Server und den Clients drastisch reduzierte – von Dutzenden von Austauschvorgängen auf nur einen einzigen –, erforderte sie das Senden größerer Datenmengen pro Austausch. Die Forscher berechneten, dass dieser Kompromiss für die meisten realen Szenarien vorteilhaft ist, insbesondere für Weitverkehrsnetze, bei denen die Verbindungsgeschwindigkeit der limitierende Faktor ist. Sie merkten an, dass für sehr schnelle, lokale Verbindungen die alten interaktiven Methoden möglicherweise immer noch etwas effizienter sind, aber für die breiteren, institutionenübergreifenden Netzwerke, in denen die Privatsphäre am kritischsten ist, bietet die neue Methode einen klaren Vorteil. Die Arbeit kommt zu dem Schluss, dass die Barriere für verschlüsseltes Quantenlernen nie ein Mangel an Leistung war, sondern eine Wahl der Perspektive. Indem sie erkannten, dass die Schwierigkeit ein Koordinatenproblem und kein fundamentales Problem war, haben die Forscher die Tür zu einer Zukunft geöffnet, in der Quantenmaschinen kollaborativ lernen können, ohne jemals die Privatsphäre der Daten zu gefährden, die sie nutzen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.