FeNN-DMA: A RISC-V SoC for SNN acceleration
Das Papier präsentiert FeNN-DMA, ein voll programmierbares RISC-V SoC für UltraScale+ FPGAs, das eine erstklassige Energieeffizienz und Klassifizierungsgenauigkeit für Spiking Neural Networks erreicht, während es gleichzeitig komplexe Neuronenmodelle sowie signifikant höhere Neuron- und Synapsenanzahlen im Vergleich zu bestehenden fest verdrahteten Beschleunigern unterstützt.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie versuchen, ein superschnelles, energieeffizientes Gehirn für einen Roboter zu bauen. Jahrelang haben Ingenieure versucht, die Funktionsweise unseres menschlichen Gehirns zu kopieren, aber sie haben die falschen Werkzeuge verwendet.
Das Problem: Das falsche Werkzeug für den Job
Denken Sie an herkömmliche Künstliche Intelligenz (wie die Art, die Ihr Gesicht erkennt oder Aufsätze schreibt) als eine riesige Fabrik-Montageband-Anlage. Sie arbeitet dadurch, dass sie ständig riesige Stapel von Kisten (Daten) hin- und herschiebt und schwere Mathematik bei jeder einzelnen Box betreibt, selbst wenn die meisten Kisten leer sind. Das ist großartig für große, stetige Aufgaben, verbraucht aber viel Elektrizität und ist langsam, wenn die Arbeit unvorhersehbar ist.
Das menschliche Gehirn hingegen ist eher wie ein Flüster-Netzwerk. Neuronen (Gehirnzellen) verhalten sich meist ruhig. Sie „sprechen“ (senden ein Signal namens „Spike“) nur dann, wenn etwas Wichtiges passiert. So funktionieren Spiking Neural Networks (SNNs). Sie sind unglaublich effizient, weil sie nur dann Arbeit verrichten, wenn es etwas zu sagen gibt.
Das Problem ist, dass die Supercomputer, die wir normalerweise verwenden (wie GPUs in Gaming-PCs), für diesen „Montageband“-Stil gebaut sind. Sie sind schlecht darin, mit dem „Flüster“-Stil umzugehen, weil sie ständig auf Daten warten, die niemals kommen, was Energie verschwendet.
Die Lösung: FeNN-DMA
Die Autoren dieser Arbeit haben einen neuen, maßgeschneiderten Gehirn-Chip namens FeNN-DMA entwickelt. Betrachten Sie FeNN-DMA als einen spezialisierten, programmierbaren Roboter-Vorarbeiter, der speziell dafür entworert wurde, ein Flüster-Netzwerk zu verwalten.
So funktioniert es, unter Verwendung einfacher Analogien:
- Der RISC-V Vorarbeiter: Anstatt einen generischen Computerchip zu verwenden, haben sie ihr System um einen flexiblen, Open-Source-„Vorarbeiter“ (einen RISC-V Prozessor) herum aufgebaut. Dieser Vorarbeiter kann komplexe Anweisungen verstehen und sich an verschiedene Arten von Gehirnnetzwerken anpassen, im Gegensatz zu älteren Chips, die gebaut wurden, um nur eine einzige spezifische Sache zu tun.
- Das „Spur“-System: Stellen Sie sich eine Autobahn mit 32 Spuren vor. Die meisten Chips versuchen, nur ein Auto nach dem anderen zu bewegen. FeNN-DMA bewegt 32 Autos (Datenpunkte) gleichzeitig. Dies wird als „Vektor“-Prozessor bezeichnet. Es ist, als hätte man 32 Arbeiter statt nur einem, die alle gleichzeitig eine Wand streichen.
- Das intelligente Postamt (DMA): Der Chip besitzt ein spezielles „Postamt“ (Direct Memory Access Controller). In der Vergangenheit musste das gesamte System anhalten und warten, bis die Post von außerhalb des Chips eintraf, wenn das Gehirn eine Erinnerung abrufen wollte. Das Postamt von FeNN-DMA ist so effizient, dass es neue Post abholt, während die Arbeiter noch mit der aktuellen Charge beschäftigt sind. Das bedeutet, dass die Arbeiter niemals aufhören müssen, um zu warten.
- Die „Spur-lokalen“ Schließfächer: Um mit der Tatsache umzugehen, dass Gehirnverbindungen chaotisch und spärlich sind (viele Verbindungen existieren gar nicht), verfügt der Chip über winzige, persönliche Schließfächer für jeden der 32 Arbeiter. Dies ermöglicht es ihnen, bestimmte Informationen sofort zu greifen, ohne die Hauptverkehrsader zu verstopfen.
Was haben sie bewiesen?
Das Team hat diesen neuen „Vorarbeiter“ bei drei schwierigen Aufgaben getestet, die reale sensorische Daten nachahmen:
- Erkennen handgeschriebener Ziffern (aber auf eine Weise, die simuliert, wie Augen Bewegungen wahrnehmen).
- Identifizieren von gesprochenen Worten (wie „Ja“ oder „Nein“) aus Klangmustern.
- Lesen von Braille durch Berührung.
Sie fanden heraus, dass FeNN-DMA 16.000 Neuronen und 256 Millionen Verbindungen auf einem einzigen Chip verarbeiten konnte. Das ist ein gewaltiges Ausmaß.
Die Ergebnisse
- Genauigkeit: Es schnitt genauso gut ab wie die beste Software, die auf leistungsstarken Computern läuft, und besser als andere spezialisierte Hardware-Chips, die an denselben Aufgaben getestet wurden.
- Effizienz: Es verbraucht etwa die gleiche Menge an Elektrizität und Platz wie diese spezialisierten Chips, aber da es programmierbar ist, kann es viel komplexere Gehirnmodelle (wie solche mit „Verzögerungen“ oder Schleifen) handhaben, die die älteren Chips nicht bewältigen konnten.
- Geschwindigkeit: Während es nicht ganz so schnell ist wie ein Chip, der nur für ein einziges spezifisches mathematisches Problem gebaut wurde (ein „Fixed-Function“-Chip), ist es viel schneller, als diese Gehirnmodelle auf einem Standardcomputer auszuführen.
Das Fazit
Das Paper präsentiert ein neues, flexibles Hardware-Design, das es endlich ermöglicht, komplexe, effiziente, gehirnähnliche Netzwerke auf echter Hardware laufen zu lassen, ohne dafür ein Kraftwerk zu benötigen. Es überbrückt die Lücke zwischen der theoretischen Effizienz des menschlichen Gehirns und der praktischen Realität, es in Silizium zu erschaffen.
Die Autoren merken an, dass sie zwar einen einzelnen „Vorarbeiter“ (und sogar eine Dual-Vorarbeiter-Version) gebaut haben, der nächste Schritt jedoch darin besteht, mehrere Vorarbeiter miteinander zu verbinden, um noch größere Gehirne zu verwalten, und diese Systeme dazu zu bringen, zu lernen (trainieren) anstatt nur zu erkennen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.