Investigating reservoir computing for branch predictionin pipelined processors using emerging CMOS memristor devices
Diese Arbeit präsentiert ein neuartiges, auf Memristoren basierendes Reservoir-Computing-Framework für die Zweigvorhersage in RISC-V-Pipelines-Prozessoren, das durch Simulation eine hohe Vorhersagegenauigkeit demonstriert, aber eine signifikante 15-fache Verlangsamung der Adaptionsgeschwindigkeit im Vergleich zu hochmodernen TAGE-Prädiktoren offenbart.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich das Gehirn eines Computers, die Zentraleinheit (CPU), als eine superschnelle Montagestraße in einer riesigen Fabrik vor. Arbeiter (Instruktionen) bewegen sich die Linie entlang, werden gebaut und fertiggestellt, einer nach dem anderen. Aber manchmal muss ein Arbeiter eine Entscheidung treffen: „Wenn die Box rot ist, gehe nach links; wenn sie blau ist, gehe nach rechts.“ Dies wird als „Branch“ (Verzweigung) bezeichnet. In einer traditionellen Fabrik muss die Linie anhalten und warten, bis die Entscheidung getroffen wurde, bevor sich jemand weiterbewegen kann. Dies erzeugt einen Stau, oder eine „Pipeline-Blase“, bei der alle herumstehen und nichts tun. Um die Fabrik mit Lichtgeschwindigkeit am Laufen zu halten, verwenden Ingenieure einen „Branch Predictor“ (Verzweigungsvorhersager) – einen klugen Ratenden, der vergangene Muster betrachtet und ruft: „Gehe nach links!“, noch bevor die Entscheidung überhaupt getroffen wurde. Wenn die Vermutung richtig ist, fließt die Linie weiter. Wenn sie falsch ist, muss die Fabrik die gesamte Linie säubern und von vorne beginnen, was kostbare Zeit und Energie verschwendet.
Über Jahrzehnte hinweg sind diese Ratenden immer klüger geworden, aber sie sind auch riesig, komplex und energiefressend geworden, so als würde man versuchen, ein Rätsel mit einer Bibliothek voller Bücher zu lösen. Währenddessen haben Wissenschaftler mit einem seltsamen neuen Material namens „Memristor“ experimentiert. Stellen Sie sich einen Memristor als einen winzigen, intelligenten Widerstand vor, der sich merkt, wie viel Strom durch ihn geflossen ist. Er ist wie ein Schwamm, der seine Textur ändert, je nachdem, wie viel Wasser man durch ihn hindurchgedrückt hat, und diese Textur bleibt unverändert, bis man sie in die andere Richtung drückt. Indem man tausende dieser „intelligenten Schwämme“ miteinander verbindet, können Forscher einen „Reservoir-Computer“ bauen. Anstatt strengen Regeln zu folgen, wirkt dieses Reservoir wie ein chaotischer, brodelnder Topf Wasser. Wenn man einen Kieselstein (einen Input) hineinwirft, breiten sich die Wellen auf komplexe, nicht-lineare Weise aus. Man muss den Topf nicht lehren, wie er kräuselt; man muss nur lernen, die Wellen zu lesen, um herauszufinden, was passiert ist. Diese Arbeit stellt eine große Frage: Können wir einen Topf aus diesen elektronischen Schwämmen verwenden, um einen superschnellen, energieeffizienten Ratenden für unsere Computerfabriken zu bauen?
Das Experiment: Ein Topf aus elektronischen Schwämmen
In diesem Projekt entschied sich der Autor, Harvey, eine virtuelle Version dieses „Memristor-Topfes“ zu bauen, um zu sehen, ob er die Rot-oder-Blau-Entscheidungen in einer Montagestraße eines Computers vorhersagen könnte. Er baute ihn nicht mit echten physischen Schwämmen; stattdessen nutzte er Computersimulationen, um zu modellieren, wie sich diese Geräte verhalten würden. Er schuf ein digitales Framework, in dem die „Schwämme“ (Memristoren) in einem Netzwerk angeordnet waren, und fütterte sie mit Daten, die die Historie der Entscheidungen des Computers darstellten.
Das System arbeitet in drei Phasen. Zuerst werden die Eingangsdaten (die Historie der Verzweigungen) in elektrische Spannungen umgewandelt und in das Reservoir „geworfen“. Zweitens lässt das Reservoir, ein chaotisches, miteinander verbundenes Netz aus Memristoren, diese Spannungen hindurchwellen. Da die Memristoren nicht-linear sind und ein Gedächtnis besitzen, erzeugen die Wellen ein komplexes, hochdimensionales Muster, das die „Form“ der Verzweigungshistorie erfasst. Drittens betrachtet ein einfaches digitales Gehirn (ein Perzeptron) das endgültige Muster der Wellen und gibt eine Vermutung ab: „Taken“ (gehe nach links) oder „Not Taken“ (gehe nach rechts). Wenn die Vermutung falsch ist, passt das System die Gewichte des Perzeptrons sofort an, um aus dem Fehler zu lernen – ein Prozess, der als „In-situ-Training“ bezeichnet wird.
Was die Simulationen fanden
Die Ergebnisse dieser Simulationen waren eine Mischung aus aufregendem Potenzial und ernüchternder Realität. Auf der positiven Seite arbeitete das Memristor-Reservoir. Es lernte erfolgreich, die Verzweigungsmuster eines Standard-Computer-Benchmarks namens Dhrystone vorherzusagen. In der besten Konfiguration erreichte das System eine Genauigkeit von etwa 96,50 %. Dies ist eine massive Verbesserung gegenüber der Basisvoraussetzung von 70 %, was beweist, dass das Konzept, einen „brodelnden Topf“ aus Memristoren für die Vorhersage zu nutzen, physikalisch möglich ist und mit hohen Geschwindigkeiten (bis zu 1 GHz, oder 1 Milliarde Vorhersagen pro Sekunde) und angemessenen Spannungen (etwa 2,8 V) arbeiten kann.
Dennoch schließt das Paper die Idee explizit aus, dass dieses neue System bereit ist, die aktuellen Champions der Branch-Vorhersage zu ersetzen. Als Harvey sein Memristor-System mit dem hochmodernen „TAGE“-Predictor (einer hochkomplexen, traditionellen Methode, die in modernen CPUs verwendet wird) verglich, blieb das Memristor-System in einem kritischen Bereich zurück: der Lerngeschwindigkeit. Während der TAGE-Predictor die Verzweigungsmuster lernte und die 100 % Genauigkeit in nur 10 Iterationen erreichte, benötigte das Memristor-System etwa 166 Iterationen, um nahe an seine Spitzenleistung heranzukommen. Das bedeutet, dass das Memristor-System etwa 15 Mal langsamer darin ist, sich an neue Muster anzupassen.
Das Paper legt nahe, dass der Flaschenhals nicht der „brodelnde Topf“ selbst ist, sondern das „digitale Gehirn“ (das Perzeptron), das die Wellen liest. Das einfache, niederpräzise digitale Gehirn, das in der Simulation verwendet wurde, hatte Schwierigkeiten, schnell genug zu lernen. Der Autor stellt fest, dass das System zwar stabil und robust ist, aber einen besseren Lernmechanismus benötigt, um aufzuholen.
Das Urteil
Ist der Memristor-Branch-Predictor also die Zukunft? Das Paper deutet darauf hin, dass es eine sehr vielversprechende Richtung ist, aber kein fertiges Produkt. Die Simulationen zeigen, dass Memristoren in der Tat als schnelles, energieeffizientes Reservoir für die Verarbeitung zeitbasierter Daten dienen können und dass das System mit Geschwindigkeiten kompatibel ist, die modernen Prozessoren entsprechen. Jedoch ist das aktuelle Design zu langsam beim Lernen neuer Muster, um heute in echten Computern eingesetzt werden zu können. Der Autor kommt zu dem Schluss, dass mit besserer Device-Engineering und einem fortschrittlicheren Lernalgorithmus für die Readout-Schicht dieser „elektronische Schwamm“-Ansatz eines Tages zu einer praktikablen, energieeffizienten Alternative für die massiven, komplexen Vorhersager werden könnte, die wir jetzt verwenden. Für den Moment bleibt es ein faszinierender Proof-of-Concept, der zeigt, dass wir vielleicht komplexe Logik gegen einfache, chaotische Physik eintauschen können, um einige der schwierigsten Probleme des Computings zu lösen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.