Mitigating the Impact of Retention Loss on Inference Accuracy in 65 nm Single-Poly Floating-Gate Analog In-Memory Computing
Dieses Paper demonstriert durch Experimente an einem 65-nm-Single-Poly-Floating-Gate-Analog-In-Memory-Computing-Array sowie System-Level-Simulationen, dass die Kombination aus Schaltungsebene-Kompensation und algorithmischer Batch-Normalization-Rekalibrierung die Inferenzgenauigkeit nach 60 Tagen Retention-Verlust innerhalb von 2–4 % des Baselines wiederherstellen kann.
Originalarbeit unter CC0 1.0 der Gemeinfreiheit gewidmet (http://creativecommons.org/publicdomain/zero/1.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich eine Welt vor, in der Ihr Computer nicht nur Zahlen in einer Fabrik berechnet, sondern wie ein Gehirn denkt und Elektrizität nutzt, um die Art und Weise nachzuahmen, wie Neuronen feuern. Dies ist das Reich des analogen In-Memory-Computings. Anstatt Daten ständig zwischen einem Speicherbank und einem Prozessor hin- und herzuschieben (was so ist, als müsste man jedes Mal in die Küche laufen, wenn man einen Löffel braucht), speichert diese Technologie die „Gewichte“ eines neuronalen Netzes – die Erinnerungen und Lektionen des Gehirns – direkt in den Speicherzellen selbst. Es ist, als hätte man eine Bibliothek, in der die Bücher auch die Mathematik für einen erledigen können.
Es gibt jedoch einen Haken. Diese Speicherzellen bestehen oft aus winzigen, schwebenden Inseln elektrischer Ladung. Im Laufe der Zeit verlieren diese Zellen, genau wie ein kleiner, leckender Luftballon, langsam ihre Ladung. Dies wird als Retentionsverlust bezeichnet. In einer digitalen Welt könnte ein kleiner Ladungsverlust lediglich eine 0 in eine 1 verwandeln, was leicht zu beheben ist. Aber in diesem analogen Gehirn ist die Ladung die Antwort. Wenn die Ladung driftet, wird die Mathematik falsch, und der Computer könnte eine Katze mit einem Toaster verwechseln. Wissenschaftler sind verzweifelt auf der Suche nach einem Weg, wie sie diese „leckenden“ Memorie-Gehirne über Monate oder Jahre hinweg präzise halten können, denn wenn ihnen das nicht gelingt, wird diese super-effiziente Technologie niemals den Weg aus dem Labor finden.
Dieses Paper taucht genau in dieses Problem ein und verwendet einen speziellen Typ von Speicherchip, der mit der Standard-65-nm-Technologie (eine gängige Fertigungsgröße) gebaut wurde. Die Forscher, Mirko Brazzini und sein Team, wollten sehen, ob sie ein neuronales Netz daran hindern können, seine Lektionen zu vergessen, während die Speicherzellen im Laufe der Zeit langsam Ladung verlieren. Sie haben nicht nur geraten; sie haben einen echten Chip gebaut, ihn programmiert und beobachtet, was passiert ist, über einen Zeitraum von 60 Tagen.
Das Team entdeckte, dass der Ladungsverlust auf zwei verschiedene Arten auftritt, wie zwei unterschiedliche Arten von Wetter, die einen Garten beeinflussen. Erstens gibt es einen systematischen Drift, bei dem jede Zelle Ladung auf eine vorhersehbare, durchschnittliche Weise verliert, was das gesamte Wachstum des Gartens in eine Richtung verschiebt. Zweitens gibt es stochastisches Rauschen, ein chaotisches, zufälliges Zittern, bei dem einige Zellen etwas mehr und andere etwas weniger verlieren, was ein unordentliches, unvorhersehbares Muster erzeugt.
Um dies zu beheben, probierte das Team zwei verschiedene Werkzeuge aus, vergleichbar mit einem Gärtner, der sowohl eine Sprinkleranlage als auch Dünger verwendet. Das erste Werkzeug war die Schaltungsebene-Kompensation (circuit-level compensation). Sie erkannten, dass sie durch die bloße Anpassung der „Lese-Spannung“ (des Drucks, der verwendet wird, um den Speicher zu prüfen) den vorhersehbaren, durchschnittlichen Drift kompensieren konnten. Es ist, als würde man die Lautstärke bei einem Radio hochdrehen, um einen Effekt auszugleichen, der für alle Beteiligten etwas leiser wird. Das zweite Werkzeug war die algorithmische Rekalibrierung, speziell etwas namens Batch-Normalization-Rekalibrierung (BNR). Dies ist ein Software-Trick, der die internen Einstellungen des neuronalen Netzes neu abstimmt, um das zufällige, chaotische Rauschen zu bewältigen, das die Spannungsanpassung nicht beheben konnte. Es ist, als würde man das Gehirn lehren, das Rauschen im Radio zu ignorieren und sich statlich auf das Lied zu konzentrieren.
Die Ergebnisse waren vielversprechend. Als sie ihr System an zwei verschiedenen neuronalen Netzen (VGG-10 und WideResNet-28-10) testeten, die darauf trainiert waren, Bilder zu erkennen, stellten sie fest, dass Nichtstun eine Katastrophe war; nach 60 Tagen brach die Genauigkeit drastisch ein. Die Verwendung der Spannungsanpassung allein half zwar, aber das Netzwerk hatte immer noch mit dem zufälligen Rauschen zu kämpfen. Die Verwendung der reinen Software-Rekalibrierung half bei dem Rauschen, verpasste aber den großen Drift. Doch als sie beides kombinierten – die Spannungsanpassung und die Software-Rekalibrierung –, war das System ein Held. In ihren Simulationen, die mit realen experimentellen Daten kalibriert wurden, stellte das Netzwerk seine Basis-Genauigkeit auf innerhalb von nur 2–4 % wieder her, selbst nach 60 Tagen.
Das Paper weist sorgfältig darauf hin, dass dies kein Zauberstab ist, der alles für immer löst. Die Ergebnisse basieren auf System-Level-Simulationen, die sorgfältig auf die Realmessungen ihres 65-nm-Chips abgestimmt wurden. Es zeigt explizit, dass man sich nicht auf nur eine Methode verlassen kann; man benötigt sowohl die Hardware-Lösung als auch die Software-Lösung, um die Aufgabe zu bewältigen. Während das Paper nicht behauptet, dass dies ein gelöstes Problem für alle zukünftigen Computer ist, demonstriert es einen klaren, praktischen Weg nach vorne. Es legt nahe, dass diese kombinierten Techniken Floating-Gate-analoge Chips in die Lage versetzen könnten, zuverlässige, langfristige Inferenz-Aufgaben für Deep Learning auszuführen und ihre „Erinnerungen“ für mindestens zwei Monate scharf zu halten, ohne dass ein Reset erforderlich ist.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.