🤖 machine learning

A Synthesizable RTL Implementation of Predictive Coding Networks

Diese Arbeit stellt eine vollständig synthetisierbare RTL-Architektur vor, die das Lernen und die Inferenz von Predictive-Coding-Netzwerken durch lokale, verteilte Vorhersagefehler-Dynamik und eine einheitliche Klemm-Primitive direkt in Hardware realisiert, wodurch die Einschränkungen des Backpropagation-Algorithmus für Online-Lernsysteme umgangen werden.

Ursprüngliche Autoren: Timothy Oh

Veröffentlicht 2026-03-20

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Timothy Oh

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stell dir vor, du versuchst, ein riesiges Team von Tausenden von kleinen Robotern zu bauen, die gemeinsam ein Puzzle lösen sollen.

In der heutigen Welt des „Künstlichen Intelligenz"-Trainings (Deep Learning) funktioniert das normalerweise so: Alle Roboter arbeiten an ihren Teilen, aber am Ende muss ein großer, zentraler Chef (der Computer) alle Ergebnisse sammeln, berechnen, wo Fehler gemacht wurden, und dann eine lange Liste mit Anweisungen an jeden einzelnen Roboter zurücksenden, damit er es beim nächsten Mal besser macht. Das nennt man „Backpropagation".

Das Problem dabei ist: Es ist wie ein Orchester, bei dem der Dirigent erst warten muss, bis jedes Instrument gespielt hat, dann die Partitur durchgeht, jedem Musiker sagt, wo er falsch lag, und erst dann das nächste Stück beginnt. Das ist langsam, braucht viel Platz für Notizen und ist schwer auf kleine, verteilte Chips zu übertragen, die in echten Geräten (wie Robotern oder Sensoren) laufen sollen.

Die neue Idee: Das „Vorhersage-Team"

Dieser Paper beschreibt eine völlig andere Art, wie diese Roboter lernen könnten. Statt auf einen zentralen Chef zu warten, arbeiten sie nach dem Prinzip des „Predictive Coding" (Vorhersage-Kodierung).

Stell dir das Team als eine Kette von Nachbarn vor:

Der untere Nachbar schaut sich etwas an (z. B. ein Bild).
Der obere Nachbar sagt: „Ich denke, du siehst so aus."
Der untere Nachbar vergleicht: „Hm, du hast recht, aber da ist ein kleiner Unterschied."
Dieser kleine Unterschied (der Fehler) wird sofort zwischen den beiden ausgetauscht.

Jeder Roboter (oder „Neuron") passt sich sofort an, basierend nur auf dem, was sein direkter Nachbar oben und unten ihm sagt. Es gibt keinen zentralen Chef, der die ganze Welt im Kopf hat. Jeder kümmert sich nur um seine eigene kleine Ecke der Welt.

Was hat der Autor gebaut?

Timothy Oh hat in diesem Papier nicht nur eine neue Theorie aufgestellt, sondern einen echten, physischen Bauplan für einen Computerchip entworfen, der genau so funktioniert.

Der „Neural Core" (Das Herzstück): Jeder kleine Teil des Chips ist ein eigenständiger Roboter. Er hat sein eigenes Gedächtnis, rechnet selbst und spricht nur mit seinen direkten Nachbarn.
Keine zentrale Datenbank: Es gibt keinen riesigen Speicher, der alle Gewichte für das ganze Netz hält. Jeder Chip speichert nur seine eigenen Verbindungen.
Ein fester Takt: Alles läuft in einem strengen Rhythmus (Taktzyklen). In jedem Takt macht jeder Roboter einen kleinen Schritt: Er hört zu, berechnet seinen Fehler, passt sich an und gibt das Ergebnis weiter.

Die Analogie: Das Orchester ohne Dirigent

Stell dir ein Orchester vor, das ohne Dirigent spielt.

Das alte System (Backpropagation): Der Dirigent (der Computer) hört zu, sagt jedem Instrument, wo es falsch lag, und dann spielen alle gemeinsam den nächsten Takt. Wenn das Orchester riesig ist, dauert das ewig.
Das neue System (Predictive Coding): Jeder Musiker hört nur auf den neben ihm. Wenn die Geige einen Ton spielt, passt die Bratsche sofort ihren Ton an, um harmonisch zu klingen. Wenn die Bratsche einen Fehler macht, korrigiert sie sich selbst basierend auf dem, was die Geige sagt. Das ganze Orchester findet den perfekten Klang durch lokales Hören und sofortiges Anpassen, nicht durch Befehle von oben.

Warum ist das wichtig?

Echtzeit-Lernen: Da jeder Chip sofort reagiert, kann das System lernen, während es arbeitet. Es muss nicht erst „Pause" machen, um alle Daten zu sammeln. Das ist perfekt für Roboter, die in der echten Welt unterwegs sind und sich sofort an neue Situationen anpassen müssen.
Energieeffizienz: Weil keine riesigen Datenmengen hin und her geschickt werden müssen, spart das enorm viel Energie.
Hardware-Freundlichkeit: Der Autor hat den Code so geschrieben, dass er direkt in einen echten Chip „gebrannt" werden kann. Es ist keine Simulation mehr, sondern ein fertiger Bauplan für Hardware.

Das Fazit

Dieses Papier zeigt, dass wir KI nicht nur als Software auf einem riesigen Supercomputer brauchen, die alles zentral steuert. Wir können KI auch als eine Verteilung von kleinen, schlauen Teilen bauen, die sich gegenseitig korrigieren.

Es ist wie der Unterschied zwischen einem strengen Lehrer, der jeden Schüler einzeln abhört, und einer Gruppe von Freunden, die gemeinsam ein Lied singen und sich dabei gegenseitig helfen, den richtigen Ton zu finden. Der Autor hat den Bauplan für die „Freunde" geliefert, die das selbstständig tun können – direkt in der Hardware.

1. Problemstellung

Herkömmliche Deep-Learning-Systeme werden primär mittels Backpropagation trainiert. Dieser Ansatz stößt bei der Implementierung als vollständig verteiltes, online lernendes Hardware-System auf erhebliche Hindernisse:

Globale Abhängigkeiten: Der Fehler muss rückwärts durch das gesamte Netzwerk propagiert werden, was eine globale Koordination erfordert.
Phasentrennung: Training und Inferenz erfordern getrennte Phasen (Vorwärtsdurchlauf, Rückwärtsdurchlauf, Gewichtsaktualisierung), was Synchronisation und Zwischenspeicherung von Aktivierungen nötig macht.
Zentralisierter Speicher: Backpropagation ist stark von zentralisierten Speichern und massiven Datenbewegungen abhängig.
Biologische Plausibilität: Die Anforderungen an Differentiierbarkeit und globale Synchronisation passen nicht gut zu biologischen neuronalen Systemen oder eingebetteten Hardware-Umgebungen.

Das Paper zielt darauf ab, eine Alternative zu schaffen, die lokal, online und vollständig verteilt in Hardware realisierbar ist.

2. Methodik: Predictive Coding in Hardware

Die vorgeschlagene Lösung basiert auf Predictive Coding (PC), einem Paradigma, bei dem Inferenz und Lernen durch die Minimierung von Vorhersagefehlern in einer Hierarchie entstehen.

Lokale Dynamik: Jede Schicht sagt die Aktivität der darunterliegenden Schicht voraus. Ein neuronales Element aktualisiert seinen Zustand und seine synaptischen Gewichte ausschließlich basierend auf lokal verfügbaren Größen:
- Eigene Aktivität ( $x$ ).
- Eigenen Vorhersagefehler ( $\varepsilon = x - \mu$ ).
- Präsynaptischer Aktivität der darüberliegenden Schicht.
- Fehlerprodukten der darunterliegenden Schicht.
Hardware-Architektur (RTL):
- Neural Core: Das Herzstück ist ein „Neural Core", der einer einzelnen skalaren Einheit entspricht. Jeder Core verwaltet seinen eigenen Zustand, Fehler und Gewichte.
- Datapath: Es wird eine sequenzielle MAC-Datapath (Multiply-Accumulate) verwendet, die IEEE-754 Single-Precision-Arithmetik nutzt. Dies reduziert die Fläche pro Neuron, erhöht jedoch die Latenz pro Takt (Tick).
- Finite-State-Machine (FSM): Jeder Core folgt einem festen, deterministischen Ablaufplan pro Takt:
  1. PRED: Berechnung der Vorhersage.
  2. ERR: Berechnung des lokalen Fehlers.
  3. BACKSUM: Akkumulation des rückwärts propagierten Fehlers.
  4. BACKVEC: Erzeugung von Produkten für die obere Schicht.
  5. WUP: Aktualisierung der Gewichte.
  6. STATE: Aktualisierung des Zustands.
- Kommunikation: Die Kommunikation erfolgt strikt punkt-zu-punkt zwischen benachbarten Schichten über fest verdrahtete Signale. Es gibt keinen globalen Lerncontroller oder geteilten Parameterspeicher.
- Clamping-Interface: Für überwachtes Lernen und Inferenz wird ein einheitliches „Clamping"-Primitiv pro Neuron verwendet. Dies erzwingt Randbedingungen (z. B. Eingabe- oder Zielwerte), ohne den internen Update-Zeitplan zu ändern.

3. Wichtige Beiträge

Das Paper liefert keine neue Lernregel, sondern eine vollständige, synthetisierbare digitale Infrastruktur:

Zusammensetzbarer Neural-Core: Eine Architektur, die diskrete Predictive-Coding-Updates mittels sequenzieller MAC-Datapaths implementiert.
Uniforme Clamping-Schnittstelle: Ermöglicht überwachtes Training und Inferenz durch externe Randbedingungen, während die interne Logik unverändert bleibt.
Deterministisches RTL: Eine vollständig synthetisierbare Hardware-Implementierung auf Basis von IEEE-754, die eine direkte Korrespondenz zwischen den mathematischen Gleichungen und den FSM-Stufen der Hardware aufweist.
Open-Source-Verfügbarkeit: Eine vollständige Referenzimplementierung in SystemVerilog mit Testbänken ist öffentlich verfügbar, um die Reproduzierbarkeit zu gewährleisten.

4. Ergebnisse

Die Autoren validierten die Architektur durch Verilator-Simulationen in verschiedenen Szenarien:

Teacher-Student Regression: Ein Netzwerk (2→4→3) mit ReLU-Aktivierung lernte, eine feste Teacher-Funktion nachzubilden. Der MSE (Mean Squared Error) sank von ~0,34 auf ~0,006 innerhalb von 25 Epochen.
Nichtlineare Regression (Tanh): Ein kleineres Netzwerk (2→2→1) mit Tanh-Aktivierung reduzierte den MSE um mehr als zwei Größenordnungen (von ~1,1 auf ~0,004) in nur 3 Epochen.
Skalierbarkeit: Die Architektur wurde auf drei verschiedene Größen skaliert (2→4→3, 4→8→4, 8→16→8).
- Wichtiges Ergebnis: Keine Änderungen am RTL-Code oder an der FSM-Logik waren nötig. Die Skalierung erfolgte ausschließlich durch Instanziierung weiterer Neural Cores.
- Größere Netzwerke zeigten ein ähnliches Lernverhalten (schneller Abfall, gefolgt von einem stabilen Residual-Floor), wobei größere Netze aufgrund des inkrementellen Regimes mehr Ticks pro Beispiel benötigten, um sich zu stabilisieren.
Lernverhalten: Das System operiert in einem inkrementellen Regime (kein vollständiges Konvergieren der Inferenz zwischen Gewichtsupdates), was durch den festen Taktplan erzwungen wird.

5. Bedeutung und Ausblick

Paradigmenwechsel: Die Arbeit demonstriert, dass Lernen nicht als Software-Programm auf einer festen Hardware, sondern als lokaler dynamischer Prozess in der Hardware selbst realisiert werden kann. Die Struktur des Tasks wird durch Konnektivität, Parameter und Randbedingungen definiert, nicht durch eine Befehlssequenz.
„Mortal Computation": Das Konzept nähert sich dem von Hinton eingeführten Begriff der „mortalen Berechnung" an, bei dem Algorithmus und Hardware untrennbar sind. Die Lernregeln sind direkt in den Datenpfad instantiiert.
Anwendungspotenzial: Solche Architekturen sind besonders vielversprechend für eingebettete Systeme, die kontinuierliches, online Lernen in verrauschten oder teilbeobachtbaren Umgebungen benötigen, da sie keine globale Synchronisation benötigen.
Herausforderungen: Die aktuelle Implementierung nutzt sequenzielle Datapaths, was die Latenz bei großen Fan-Ins erhöht. Zukünftige Arbeiten sollten Parallelisierung, genauere Aktivierungsfunktionen und theoretische Stabilitätsanalysen für diskrete, endliche Präzisionssysteme untersuchen.

Zusammenfassend stellt dieses Paper einen bedeutenden Schritt dar, um Predictive Coding von einer theoretischen Idee in eine praktisch synthetisierbare, hardware-effiziente Realität zu überführen, die die Grenzen zwischen Lernen und Inferenz in der Hardware auflöst.