Compiler-Guided Polynomial-Level Parallelism for FHE-Encrypted Machine Learning Inference
Das Paper stellt CRISP vor, einen compilergestützten Ansatz, der durch das Einbüßen von Laufzeit-SIMD-Vektorisierung zugunsten von Compile-Zeit-OpenMP-Parallelisierung eine sichere Parallelisierung auf Polynomebene für die FHE-verschlüsselte Inferenz maschinellen Lernens ermöglicht, was innerhalb des ANT-ACE-Compiler-Frameworks zu signifikanten Geschwindigkeitssteigerungen und Latenzreduzierungen führt.
Originalarbeit lizenziert unter CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
In der modernen digitalen Welt reisen sensible Informationen oft durch Netzwerke, die von Fremden kontrolliert werden. Eine Bank könnte Ihren Kreditantrag auf einem Server bearbeiten, der ihr nicht gehört, oder ein Krankenhaus könnte Patientenakten mithilfe eines Cloud-Dienstes analysieren, der von einem Drittanbieter betrieben wird. In diesen Szenarien sind die Daten gefährdet; wenn der Server kompromittiert wird, werden die privaten Informationen offengelegt. Jahrzehntelang war der einzige Weg, Daten in solchen Situationen zu schützen, sie offline zu halten oder dem Serverbetreiber vollkommen zu vertrauen. Vollständig homomorphe Verschlüsselung bietet einen anderen Weg. Es handelt sich um eine mathematische Methode, die es einem Computer ermöglicht, Berechnungen auf Daten durchzuführen, die in einem verschlüsselten Zustand verriegelt bleiben. Der Computer sieht niemals die tatsächlichen Zahlen; er manipuliert lediglich den verschlüsselten Code. Wenn die Berechnung abgeschlossen ist, wird das Ergebnis entschlüsselt, um die korrekte Antwort zu enthüllen, als wäre die Arbeit an den ursprünglichen, unverschlüsselten Daten durchgeführt worden. Diese Technologie verspricht eine Zukunft, in der die Privatsphäre gewahrt bleibt, selbst wenn die Berechnung auf einer nicht vertrauenswürdigen Infrastruktur stattfindet.
Dieser Privatsphäre steht jedoch ein hoher Preis gegenüber. Da der Computer mit verschlüsseltem Code statt mit klaren Zahlen arbeiten muss, sind die Berechnungen unglaublich langsam. Eine Aufgabe, die bei normalen Daten einen Bruchteil einer Sekunde dauert, kann bei verschlüsselten Daten Stunden oder sogar Tage in Anspruch nehmen. Diese Langsamkeit hat verhindert, dass die Technologie für Echtzeitanwendungen eingesetzt wird, wie etwa die Analyse medizinischer Scans oder die Verarbeitung von Finanztransaktionen während sie geschehen. Der Engpass liegt darin, wie der Computer die massiven Mengen an mathematischer Arbeit bewältigt, die erforderlich sind, um die Verschlüsselung intakt zu halten. Um diese Technologie praktikabel zu machen, müssen Forscher Wege finden, diese Berechnungen zu beschleunigen, ohne die Sicherheitsregeln zu brechen, die die Daten schützen.
Ein Forschungsteam der Hunan University und des Guangdong Provincial Key Laboratory of Power System Network Security hat eine neue Methode entwickelt, um dieses Geschwindigkeitsproblem anzugehen. Sie haben ein System namens CRISP geschaffen, das als spezialisierter Übersetzer für den Computercode fungiert, der diese verschlüsselten Berechnungen ausführt. Ihre Arbeit konzentriert sich auf eine spezifische Art von Verschlüsselungsverfahren namens CKKS, das weit verbreitet in Aufgaben des maschinellen Lernens eingesetzt wird. In diesem Schema wird das verschlüsselte Datum als eine Sammlung großer mathematischer Objekte, sogenannter Polynome, dargestellt. Um eine Berechnung durchzuführen, muss der Computer diese Polynome durch eine Reihe von Schritten verarbeiten, die darin bestehen, sie in kleinere Stücke zu zerlegen und wieder zusammenzusetzen. Die Forscher entdeckten, dass die bestehende Software, die diese Berechnungen ausführt, die Leistung moderner Prozessoren nicht voll ausschöpft.
Moderne Computerprozessoren enthalten mehrere Kerne, ähnlich einem Team von Arbeitern, von denen jeder in der Lage ist, eine Aufgabe gleichzeitig zu erledigen. Die Standardsoftware für verschlüsselte Berechnungen wurde entwickelt, um eine Technik namens SIMD zu nutzen, was so ist, als ließe man einen einzelnen Arbeiter eine Aufgabe an vielen kleinen Gegenständen gleichzeitig mit einem Spezialwerkzeug ausführen. Obwohl dies effektiv ist, begrenzt dieser Ansatz die Anzahl der Arbeiter, die gleichzeitig aktiv sein können. Die Forscher erkannten, dass die Struktur der verschlüsselten Berechnungen eine andere Strategie zuließ: Anstatt sich für jeden kleinen Gegenstand auf das Spezialwerkzeug zu verlassen, konnten sie verschiedene große Blöcke der Arbeit verschiedenen Arbeitern zuweisen. Sie entwickelten einen compilergesteuerten Ansatz, der den Code vor der Ausführung reorganisiert, sodass der Computer seine Mehrkern-Leistung effektiver nutzen kann. Dieser Wechsel vom Ein-Arbeiter-viele-Gegenstände-Ansatz zum Viele-Arbeiter-viele-Blöcke-Ansatz ist der Kern ihrer Innovation.
Die Forscher bauten ihr System CRISP auf einem bestehenden End-to-End-Compiler namens ANT-ACE auf. Dieser Compiler nimmt ein Modell des maschinellen Lernens, wie etwa eines zur Bilderkennung, und wandelt es automatisch in ein Programm um, das auf verschlüsselten Daten laufen kann. Das Team fügte ihre neue Parallelisierungsstrategie in die letzte Phase dieses Prozesses ein, in der das Programm in die Polynomoperationen übersetzt wird, die die Verschlüsselungsbibliothek versteht. Durch dies auf der Ebene des Compilers konnten sie die gesamte Struktur der Berechnung sehen und sicherstellen, dass die neue Art der Aufteilung der Arbeit nicht gegen die strengen Regeln der Verschlüsselung verstößt. Sie mussten vorsichtig sein, da die verschlüsselten Daten spezifische mathematische Eigenschaften besitzen, die bewahrt werden müssen; wenn die Arbeit falsch aufgeteilt wird, wird das Endergebnis falsch sein. Ihre Methode analysiert sorgfältig die Abhängigkeiten zwischen den verschiedenen Teilen der Berechnung, um sicherzustellen, dass die parallelen Arbeiter sich nicht gegenseitig stören.
Die Ergebnisse ihrer Experimente waren signifikant. Sie testeten das System auf einem Standard-Mehrkern-Computerprozessor mit sechs verschiedenen verschlüsselten Modellen des maschinellen Lernens. Als sie die verschlüsselten Berechnungen mit ihrer neuen Methode ausführten, wurden die Kern-Mathematikoperationen im Durchschnitt 2,65-mal schneller als bei der Verwendung der Standardmethode. Diese Beschleunigung war konsistent über verschiedene Arten von Berechnungen hinweg, einschließlich der Addition und Multiplikation der verschlüsselten Zahlen. Für den gesamten Prozess der Inferenz des maschinellen Lernens – die Zeit, die benötigt wird, um ein Modell auf ein einzelnes Stück an Daten auszuführen – reduzierte die neue Methode die Gesamtzeit im Vergleich zur besten existierenden Version um durchschnittlich 137 Sekunden. In einigen Fällen war die Reduktion sogar noch dramatischer, wobei das System bei spezifischen Multiplikationsaufgaben fast siebenmal schneller lief. Diese Verbesserungen wurden erzielt, ohne das zugrunde liegende Verschlüsselungsverfahren zu ändern oder neue Hardware zu benötigen; die Gewinne kamen ausschließlich aus einer klügeren Organisation der vorhandenen Arbeit.
Die Forscher verifizierten auch, dass ihre Methode gut funktioniert, wenn sie mit anderen Optimierungen kombiniert wird. Modelle des maschinellen Lernens beinhalten oft komplexe Schritte, bei denen verschiedene Operationen zusammengeführt werden, um Zeit zu sparen. Das Team zeigte, dass ihre Parallelisierungsstrategie mit diesen Zusammenführungs-Techniken koexistieren kann und die Vorteile beider Methoden bewahrt. Sie testeten das System mit bis zu sechzehn Prozessor-Kernen und fanden heraus, dass sich die Leistung weiter verbesserte, obwohl die Gewinne abflachten, als das System sich den Grenzen seiner Speicherbandbreite näherte. Dies deutet darauf hin, dass die Methode gut mit leistungsstärkerer Hardware skaliert. Entscheidend ist, dass sie bestätigten, dass die durch das neue System erzeugten Ergebnisse mathematisch identisch mit den Ergebnamen des Standardsystems sind, was beweist, dass die Geschwindigkeit nicht auf Kosten der Genauigkeit ging.
Diese Arbeit stellt einen praktischen Schritt nach vorn dar, um verschlüsseltes maschinelles Lernen für den realen Einsatz lebensfähig zu machen. Indem sie die Kontrolle darüber, wie Berechnungen parallelisiert werden, von der Laufzeitbibliothek zum Compiler verlagerten, haben die Forscher ein neues Leistungsniveau freigeschaltet, das zuvor unzugänglich war. Ihr Ansatz beruht nicht auf Magie oder neuen theoretischen Durchbrüchen, sondern vielmehr auf einer sorgfältigen Reorganisation der Nutzung bestehender Werkzeuge. Die Ergebnisse legen nahe, dass die Verarbeitung verschlüsselter Daten schnell genug für Anwendungen gemacht werden kann, die unmittelbare Ergebnisse erfordern, wie etwa die Echtzeit-Betrugserkennung oder die private medizinische Diagnostik. Das Team hat seine Implementierung zur Verfügung gestellt, damit andere sie studieren und darauf aufbauen können, was die Tür für weitere Verfeinerungen öffnet. Während der Bedarf an privatsphäre-wahrender Berechnung wächst, bieten Methoden wie CRISP einen klaren Weg, um die sichere Datenverarbeitung als Standardteil der digitalen Landschaft und nicht nur als theoretische Möglichkeit zu etablieren.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.