Portable SIMD Acceleration of Sparse Linear Algebra Libraries on RISC-V
Diese Arbeit präsentiert eine leistungstragbare SIMD-Beschleunigung von Sparse-Linear-Algebra-Bibliotheken (Ginkgo, PETSc und SLEPc) unter Verwendung von Google Highway auf RISC-V-Hardware, wobei die Abwägungen zwischen Portabilität, Programmierbarkeit und Leistung evaluiert werden, um die zukünftige Einführung auf aufkommenden Open-ISA-Plattformen zu leiten.
Originalarbeit lizenziert unter CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Moderne Computer sind darauf ausgelegt, riesige Mengen an Daten zu verarbeiten, aber sie haben oft Schwierigkeiten, wenn diese Daten verstreut und unvollständig sind. In der Welt des wissenschaftlichen Rechnens beinhalten viele Probleme „dünnbesetzte“ (sparse) Informationen, bei denen die meisten Zahlen in einem großen Gitter Null sind. Stellen Sie sich eine Karte einer Stadt vor, auf der nur die Straßen eingezeichnet sind und die leeren Felder leer gelassen wurden; ein Computer, der den Verkehrsfluss auf dieser Karte berechnen soll, muss die leeren Felder nicht verarbeiten, dennoch verschwenden herkömmliche Methoden oft Zeit damit, sie dennoch zu überprüfen. Um diese Probleme effizient zu lösen, verlassen sich Ingenieure auf spezialisierte Softwarebibliotheken, die als Motor für Simulationen in der Physik, im Ingenieurwesen und in der Klimawissenschaft dienen. Über Jahrzehnte hinweg wurden diese Bibliotheken durch den Einsatz einer Technik namens SIMD schneller, die es einem Prozessor ermöglicht, dieselbe Berechnung an mehreren Zahlen gleichzeitig durchzuführen, ganz ähnlich wie eine Fabrik-Montageleitung, die identische Teile in einer einzigen Bewegung prägt, anstatt sie nacheinander abzuarbeiten. Da jedoch neue Arten von Computerchips entstehen, insbesondere solche, die auf der offenen RISC-V-Architektur basieren, ist es schwierig geworden, diesen Geschwindigkeitsvorteil beizubehalten, da die Anweisungen, die dem Chip sagen, wie er zu arbeiten hat, von einem Hersteller zum anderen stark variieren.
Ein Forschungsteam aus Spanien hat einen Weg untersucht, um diese Hochgeschwindigkeitsberechnungen reibungslos über verschiedene Arten von Hardware hinweg lauffähig zu machen, ohne die Software für jeden neuen Chip neu schreiben zu müssen. Sie konzentrierten sich auf drei bedeutende Bibliotheken, die weltweit von Wissenschaftlern verwendet werden: Ginkgo, PETSc und SLEPc, die darauf ausgelegt sind, komplexe mathematische Rätsel zu lösen, die mit großen, dünnbesetzten Gittern von Zahlen zu tun haben. Die Forscher testeten ein Werkzeug namens Google Highway, ein Stück Softwarecode, das als universeller Übersetzer für diese Berechnungen fungiert. Anstatt spezifische Anweisungen für einen bestimmten Chip zu schreiben, können Entwickler mithilfe dieses Werkzeugs einen Satz von Anweisungen schreiben, und dieser passt sich automatisch an, um auf dem verfügbaren Prozessor zu laufen, sei es ein Chip eines großen Technologieunternehmens oder ein neueres, Open-Source-Design wie RISC-V. Das Team nahm die Kern-Mathematikoperationen aus diesen drei Bibliotheken, baute sie unter Verwendung dieses universellen Werkzeugs neu auf und ließ sie dann auf einem kommerziellen RISC-V-Chip namens SpacemiT K1 laufen, um zu sehen, ob die Geschwindigkeit standhält.
Die Ergebnisse zeigten, dass dieser Ansatz funktioniert, jedoch mit wichtigen Einschränkungen hinsichtlich der Organisation der Daten. Als die Forscher die Software auf dem RISC-V-Chip testeten, stellten sie fest, dass das universelle Werkzeug die Berechnungen erfolgreich beschleunigte, was bewies, dass es möglich ist, Code einmal zu schreiben und auf verschiedenen Maschinen schnell auszuführen. Die Geschwindigkeitsgewinne waren jedoch nicht bei allen Aufgaben einheitlich. Einige Operationen, insbesondere solche, die Zwischenergebnisse im schnellen Speicher des Prozessors hielten, erfuherten massive Verbesserungen, wobei einige Schritte mehr als zehnmal schneller liefen als die Standardversion. Andere Aufgaben, die eine ständige Bewegung von Daten in und aus dem Speicher erforderten, zeigten viel geringere Gewinne. Eine entscheidende Entdeckung war, dass das Format, in dem die Daten gespeichert waren, wichtiger war als der Code selbst. Als die Forscher die verstreuten Daten in eine spezifische, gepufferte Struktur umordneten, waren die Geschwindigkeitsverbesserungen signifikant. Als sie die Daten in ihrem ursprünglichen, unregelmäßigen Format ließen, war die Beschleunigung minimal. Dies deutet darauf hin, dass das universelle Übersetzungswerkzeug zwar effektiv ist, die physische Anordnung der Daten jedoch der wichtigste Faktor für das Erreichen einer hohen Leistung bleibt.
Die Studie hob auch die Kompromisse hervor, die mit der Verwendung dieses universellen Ansatzes verbunden sind. Die Forscher fanden heraus, dass das Werkzeug den Code zwar einfacher zu schreiben und portabler machte, es jedoch erforderlich war, einige der komplexen, flexiblen Funktionen der ursprünglichen Bibliotheken zu entfernen, um die Berechnungen effizient auszuführen. Sie mussten die interne Logik der Software vereinfachen und bestimmte bedingte Prüfungen entfernen, die den Prozessor verlangsamten. Dies bedeutete, dass sie, um die beste Leistung zu erzielen, das Tool nicht einfach in die bestehenden Bibliotheken einfügen konnten, sondern spezifische Teile der Software von Grund auf neu aufbauen mussten. Trotz dieser technischen Herausforderungen demonstrierte das Experiment, dass das universelle Werkzeug die Lücke zwischen verschiedenen Prozessortypen erfolgreich überbrückt hat. Die Forscher kamen zu dem Schluss, dass das Werkzeug zwar eine starke Grundlage für die Zukunft bietet, das Erreichen der höchsten möglichen Geschwindigkeit jedoch weiterhin von der sorgfältigen Planung der Datenspeicherung und der Strukturierung der Berechnungen abhängt. Die Arbeit bietet einen praktischen Weg nach vorn für Entwickler, die schnelle, wissenschaftliche Software erstellen wollen, die auf der vielfältigen Palette an Computerchips laufen kann, die in der Zukunft erwartet werden.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.