Hybrid Coarse-Grained Transprecision boosted by a Custom GEMM Kernel to accelerate Parametric Linear Systems

In der Welt der modernen Ingenieurwissenschaften und der Wissenschaft beruht das Lösen komplexer physikalischer Probleme oft auf einer Technik, die als die Finite-Elemente-Methode bezeichnet wird. Stellen Sie sich vor, Sie versuchen zu verstehen, wie eine Brücke im Wind schwankt oder wie Elektrizität durch einen Halbleiter fließt. Wissenschaftler zerlegen diese massiven, kontinuierlichen Objekte in Millionen von winzigen, handhabbaren Teilen und verwandeln die Gesetze der Physik in ein riesiges System von Gleichungen. Um ein präzises Ergebnis zu erhalten, müssen Computer Zahlen mit äußerster Sorgfalt verarbeiten, wobei sie ein Format verwenden, das als Double Precision (doppelte Genauigkeit) bekannt ist. Diese Methode behandelt jede Zahl mit der höchstmöglichen Genauigkeit, um sicherzustellen, dass winzige Fehler nicht zu massiven Fehlern anschwellen. Dieser unermüdliche Drang nach Perfektion hat jedoch einen hohen Preis: Er erfordert enorme Mengen an Zeit und Energie. Für Anwendungen, die Antworten sofort benötigen, wie etwa ein digitaler Zwilling eines Fabrikbodens oder ein Roboter, der durch ein Katastrophengebiet navigiert, ist das Warten auf diese langsamen, hypergenauen Berechnungen schlichtweg keine Option.

Die Herausforderung liegt in einer spezifischen Art der Berechnung, die in diesen Simulationen immer wieder auftaucht. Sie beinhaltet einen massiven, festen Datensatz, der die physische Struktur repräsentiert, kombiniert mit einem sich ändernden Satz von Parametern, die die aktuellen Bedingungen beschreiben, wie etwa Materialfestigkeit oder Temperatur. Der Computer muss diese miteinander multiplizieren, um die Lösung zu finden. Da der feste Datensatz so gewaltig ist, wird die Berechnung zu einem Flaschenhals, der alles verlangsamt. Forscher haben lange vermutet, dass für viele dieser Aufgaben die extreme Präzision der Double-Precision-Mathematik unnötig ist. Genau wie das menschliche Auge in einem dunklen Raum nicht zwischen zwei leicht unterschiedlichen Grautönen unterscheiden kann, können viele physikalische Simulationen kleine numerische Fehler tolerieren, ohne dass das Endergebnis unbrauchbar wird. Die Frage ist, ob wir diese zusätzliche Genauigkeit sicher gegen einen massiven Geschwindigkeitsgewinn eintauschen können.

Ein Team von Forschern der Queen's University Belfast und der University of Edinburgh hat einen neuen Weg entwickelt, um dieses Problem anzugehen, und bietet eine Lösung, die sowohl intelligenter als auch schneller ist. Sie haben ein System geschaffen, das wie ein zweistufiger Filter für die mathematische Präzision wirkt. Zuerst analysiert das System in einer Offline-Phase eine repräsentative Stichprobe der sich ändernden Parameter, um die niedrigste Präzision zu bestimmen, die den Endergebnis noch innerhalb einer sicheren Fehlermarge hält. Es testet verschiedene Formate, die von Standard-Hochpräzisionszahlen bis hin zu viel kompakteren, niedrigeren Präzisionsversionen reichen. Sobald dieser Basiswert etabliert ist, wechselt das System in eine Online-Phase, in der es Echtzeitdaten verarbeitet. Sobals ein neuer Satz von Parametern eintrifft, prüft das System schnell dessen Bereich und wählt automatisch das effizienteste verfügbare Präzisionsformat auf der Grafikkarte aus. Wenn die Zahlen klein und stabil sind, verwendet es ein sehr kompaktes Format; wenn sie größer oder volatiler sind, wechselt es zu einem etwas robusteren Format. Diese dynamische Anpassung ermöglicht es dem Computer, mit Höchstgeschwindigkeit zu arbeiten, ohne die Zuverlässigkeit des Ergebnisses zu opfern.

Um diese Beschleunigung noch dramatischer zu gestalten, haben die Forscher auch eine maßgeschneiderte Engine für die Berechnungen gebaut. Normalerweise führt ein Computer diese Art der Matrixmultiplikation in zwei separaten Schritten aus: Zuerst skaliert er die Daten mit den Parametern und multipliziert dann die Ergebnisse miteinander. Dies erfordert das Hin- und Herbewegen von Daten zwischen verschiedenen Teilen des Computersystems, was Zeit verschwendet. Das Team hat diese beiden Schritte zu einer einzigen, benutzerdefinierten Operation verschmolzen. Indem sie die Daten skalieren, während sie in den schnellen Speicher des Prozessors geladen werden, eliminierten sie die Notwendigkeit, die Daten zweimal zu bewegen. Dieser optimierte Ansatz beseitigte einen erheblichen Teil der verschwendeten Anstrengung und ermöglichte es dem System, dieselbe Berechnung viel effizienter durchzuführen.

Die Ergebnisse dieses Ansatzes wurden an einer Vielzahl von groß angelegten Problemen unter Verwendung leistungsstarker Grafikkarten aus drei verschiedenen Technologiegenerationen getestet. Die Ergebnisse waren beeindruckend. Für einen massiven Datensatz mit über 21 Millionen Zeilen konnte die neue Methode die Informationen bis zu 117 Mal schneller verarbeiten als die traditionelle, ultrapräzise Methode. In Bezug auf die Energie verbrauchte das System 36 Mal weniger Leistung, um das gleiche Ergebnis zu erzielen. Entscheidend ist, dass trotz dieser massiven Gewinne an Geschwindigkeit und Effizienz der durchschnittliche Fehler im Endergebnis unglaublich niedrig blieb und deutlich unter einem Prozent lag. In einem spezifischen Testfall mit einem Datensatz von 80,3 Gigabyte konnte das System zwei verschiedene Sätze von Parametern pro Sekunde auswerten – eine Leistung, die mit den alten, langsamen Methoden unmöglich wäre.

Die Forscher befassten sich auch mit dem Problem der Speicherlimits. Wenn die Daten zu groß sind, um vollständig auf die Grafikkarte zu passen, müssen Standardmethoden oft unterbrechen, um Daten aus dem Hauptspeicher des Computers abzurufen, was langsam ist. Das Team fand heraus, dass sich durch die Verwendung ihrer Formate mit niedrigerer Präzision der Datenfußabdruck so weit verkleinert, dass die Daten vollständig auf die Karte passen, wodurch diese langsamen Pausen vermieden werden. Sie verglichen zwei Strategien für den Umgang mit Daten, die nicht hineinpassten: das Neuladen der Originaldaten aus dem Hauptspeicher gegenüber dem Neu berechnen der Daten „on the fly“. Sie entdeckten, dass es für sehr große Datensätze signifikant schneller war, die Daten neu zu berechnen, anstatt auf das Neuladen zu warten, sofern die Präzision sorgfältig verwaltet wurde, um zu verhindern, dass sich Fehler über die Zeit aufbauen.

Diese Arbeit zeigt, dass die starre Anforderung nach Double-Precision-Mathematik in der wissenschaftlichen Computertechnik nicht immer notwendig ist. Indem man die Präzision der Berechnung intelligent an die spezifischen Bedürfnisse des Problems anpasst und dadurch optimiert, wie der Computer die Daten handhabt, ist es möglich, Echtzeit-Leistung bei Problemen zu erzielen, die zuvor zu langsam waren, um sie im laufenden Betrieb zu lösen. Die Studie bestätigt, dass Wissenschaftler und Ingenieure mit den richtigen Werkzeugen komplexe Simulationen in Echtzeit durchführen können, was die Tür zu reaktionsschnelleren digitalen Zwillingen, schnelleren Diagnosetools und effizienteren Konstruktionsentwürfen öffnet – und das bei nur einem Bruchteil der zuvor erforderlichen Energie.