🤖 machine learning

Generative Models on Analog Hardware with Dynamics

Dieses Paper führt Analog Interaction Systems (AIS) ein, ein vereinheitlichtes Framework, das die Lücke zwischen fester, physikalisch determinierter analoger Hardware und flexibler generativer Modellierung durch den Einsatz zeitvariabler Parameter und verborgener Zustände schließt und dabei eine Reduktion des Energieverbrauchs um zwei Größenordnungen sowie signifikant verbesserte FID-Scores auf MNIST-Datensätzen im Vergleich zu bisherigen hardwarebasierten Ansätzen erreicht.

Ursprüngliche Autoren: Yu-Neng Wang, Sara Achour

Veröffentlicht 2026-06-26

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Yu-Neng Wang, Sara Achour

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie versuchen, einem Roboter das Zeichnen von Bildern beizubringen.

Der alte Weg (Digitale Computer):
Derzeit verwenden wir leistungsstarke digitale Computer (wie die GPUs in Ihrem Gaming-PC oder in Rechenzentren), um dies zu tun. Diese Computer sind wie sehr schnelle, sehr präzise Buchhalter. Um ein Bild zu zeichnen, zerlegen sie die Aufgabe in Millionen von winzigen, diskreten mathematischen Schritten. Sie berechnen, halten inne, berechnen erneut und halten wieder inne. Dieser Prozess ist unglaublich genau, verbraucht aber eine enorme Menge an Elektrizität – so als würde man eine Hochleistungs-Klimaanlage laufen lassen, nur um eine Skizze zu zeichnen.

Die neue Idee (Analoge Hardware):
Die Autoren dieser Arbeit schlagen vor, stattdessen „analoge Hardware“ zu verwenden. Denken Sie dabei nicht an einen Buchhalter, sondern an einen riesigen, miteinander vernetzten Spielplatz aus Schaukeln und Federn.

In diesem Spielplatz geschieht die „Berechnung“ ganz natürlich. Wenn man eine Schaukel anstößt, zieht die Physik der Seile und Ketten automatisch an den benachbarten Schaukeln.
Das System zählt keine Schritte; es fließt einfach. Es löst Probleme, indem es die physikalischen Gesetze (wie Schwerkraft oder Magnetismus) die Arbeit erledigen lässt. Dies ist unglaublich energieeffizient, vergleichbar mit der Nutzung des Windes, um ein Segelboot zu bewegen, anstatt Treibstoff zu verbrennen.

Das große Problem:
Es gibt eine Diskrepanz. Moderne KI-Modelle sind wie flexible Software, die jede Form oder jedes Muster lernen kann. Aber unser analoger Spielplatz ist starr. Die Schaukeln sind auf eine bestimmte Weise durch die Physik miteinander verbunden, und sie können nur in spezifischen Mustern schwingen. Es ist, als würde man versuchen, einem Schaukelgerüst beizubringen, einen perfekten Kreis zu zeichnen, obwohl es eigentlich nur dafür gebaut wurde, vor und zurück zu schwingen. Der „Spielplatz“ ist nicht von Natur aus flexibel genug, um auf eigene Faust komplexe Bilder zu lernen.

Die Lösung: „Analog Interaction Systems“ (AIS)
Die Autoren haben einen neuen Rahmen namens Analog Interaction Systems (AIS) entwickelt, um diese Lücke zu schließen. Sie haben nicht versucht, die Schaukeln dazu zu zwingen, wie ein digitaler Computer zu agieren; stattdessen haben sie clevere Wege gefunden, den Spielplatz expressiver zu machen, ohne die Gesetze der Physik zu brechen.

Sie haben drei Haupttricks eingeführt, um die starren Schaukeln in die Lage zu versetzen, komplexe Bilder zu zeichnen:

Zeitgesteuerte Kontrollen (Der „Dirigent“):
Anstatt dass die Verbindungen zwischen den Schaukeln für immer feststehen, stellen Sie sich einen Dirigenten vor, der die Regeln alle paar Sekunden ändert. Für die erste Sekunde sind die Schwingen fest miteinander verbunden; für die nächste Sekunde sind sie locker miteinander verbunden. Durch das Ändern der „Spielregeln“ über die Zeit kann das System viel komplexere Bewegungen erzeugen, als wenn die Regeln gleich blieben.
Verborgene Schaukeln (Die „Geist-Tänzer“):
Die Autoren haben „verborgene“ Schaukeln hinzugefügt, die man im fertigen Bild nicht sieht, die aber mit den sichtbaren Schaukeln verbunden sind. Diese verborgenen Schaukeln fungieren wie ein geheimes Support-Team. Sie tanzen umher und helfen den sichtbaren Schaukeln, den richtigen Pfad zu finden, um ein Bild zu formen, obwohl man die verborgenen Schaukeln im Endergebnis nie sieht. Dies verleiht dem System viel mehr „Rechenleistung“, ohne dass mehr sichtbare Teile benötigt werden.
Das Loslassen des Pfades (Das „Ziel-orientierte“ Ziel):
Normalerweise sagen wir einer KI beim Training genau, wie sie sich bei jedem einzelnen Schritt bewegen muss (wie ein GPS, das Schritt-für-Schritt-Anweisungen gibt). Da die analoge Hardware jedoch starr ist, ist es unmöglich, sie dazu zu zwingen, einem spezifischen Pfad zu folgen.
Stattdessen haben die Autoren einen GAN-Ansatz (Generative Adversarial Network) verwendet. Sie sagten dem System: „Es ist mir egal, wie du dorthin kommst, stelle nur sicher, dass du am richtigen Ziel ankommst.“

Der Generator: Der analoge Spielplatz versucht, aus zufälligem Rauschen ein Bild zu erzeugen.
Der Kritiker: Ein digitaler Computer betrachtet das fertige Bild und sagt: „Das sieht aus wie eine Katze“ oder „Das sieht nach Müll aus“.
Der Spielplatz lernt durch Versuch und Irrtum und findet seinen eigenen, einzigartigen, gewundenen Pfad vom Rauschen zum Bild, anstatt gezwungen zu werden, einer geraden Linie zu folgen.

Die Ergebnisse:
Das Team testete dies an einfachen Bilddatensätzen (wie handgeschriebenen Zahlen und Modeartikeln).

Leistung: Ihr analoges System erzeugte Bilder, die 3- bis 4-mal besser waren als bisherige Versuche der analogen Bildgenerierung.
Effizienz: Das ist der große Gewinn. Sie schätzten, dass ihr System etwa 23 Mikrojoule Energie verbraucht, um ein einzelnes Bild zu erzeugen.
- Um das in Relation zu setzen: Ein Standard-Digitalcomputer könnte für dieselbe Aufgabe etwa 7 bis 79 Millijoule verbrauchen.
- Das bedeutet, dass das analoge System um den Faktor 100 energieeffizienter (zwei Größenordnungen) ist als der digitale Baseline-Vergleich.

Zusammenfassend:
Die Arbeit zeigt, dass wir eine neue Art von KI bauen können, die auf physischer Hardware (wie Oszillatoren und Federn) läuft, anstatt nur auf digitalen Chips. Indem sie die Einschränkungen der Hardware akzeptierten und clevere Trainingsmethoden nutzten (Änderung der Regeln über die Zeit, Hinzufügen verborgener Helfer und Konzentration nur auf das Endergebnis), schufen sie ein System, das Bilder mit einem Bruchteil des Energieaufwands heutiger Computer zeichnet. Es ist ein Beweis dafür, dass die Physik der Natur genutzt werden kann, um komplexe KI-Aufgaben effizient zu bewältigen.

Technisches Resümee: Generative Modelle auf analoger Hardware mit Dynamik

Problemstellung
Moderne generative Modelle, insbesondere solche, die auf Diffusion und Flow Matching basieren, verlassen sich auf flexible, softwaredefinierte Dynamiken, die durch neuronale Netze implementiert werden. Diese Modelle verursachen erhebliche Energiekosten aufgrund der iterativen numerischen Integration auf digitaler Hardware. Im Gegensatz dazu lösen analoge Hardwareplattformen (z. B. gekoppelte Oszillatoren, Analog Ising Machines) Differentialgleichungen von Natur aus mit hoher Energieeffizienz unter Ausnutzung physikalischer Gesetze. Es besteht jedoch eine grundlegende Diskrepanz: Analoge Hardware erzwingt feste, physikalisch determinierte Differentialgleichungen mit begrenzter Approximationskapazität, während moderne generative Modelle flexible Vektorfelder erfordern. Diese Arbeit adresset die Herausforderung, eine Architektur für generative Modelle zu entwerfen, die für die Implementierung auf analoger Hardware geeignet ist und gleichzeitig die Einschränkungen durch feste Dynamiken, nicht-standardisierte Interaktionskerne und Hardwarebeschränkungen wie Rauschen und begrenzte Präzision überwindet.

Methodik
Die Autoren führen Analog Interaction Systems (AIS) ein, einen vereinheitlichten Rahmen für hardwareimplementierbare dynamische Systeme. Der Kernansatz umfasst drei zentrale methodische Säulen:

Architektur und Dynamik:
- AIS-Modelle werden durch gewöhnliche Differentialgleichungen (ODEs) definiert, bei denen die Zustandsentwicklung durch physikalische Interaktionen (z. B. sinusförmige Kopplung in Oszillatoren, polynomielle oder sigmoidale Nichtlinearitäten in Ising-Maschinen) gesteuert wird.
- Um die Ausdruckslücke zwischen fester Physik und flexiblen neuronalen Netzen zu schließen, schlagen die Autoren zwei hardwarekompatible Mechanismen vor:
  - Zeitstückweise Parameter (Time-piecewise parameters): Aufteilung des Integrationsintervalls in Segmente mit unabhängigen Parametersätzen, um die Komplexität des Vektorfeldes zu erhöhen.
  - Verborgene physikalische Zustände (Hidden physical states): Erweiterung des sichtbaren Zustandsraums durch verborgene physikalische Elemente, die mit den sichtbaren Knoten interagieren, wodurch der effektive Parameterraum erweitert wird, ohne dass die Trajektorie der verborgenen Zustände direkt beobachtet werden muss.
- Die Hardwarearchitektur ist als spärliches Gitter (sparse grid) physikalischer Elemente (PEs) mit lokalen und begrenzten Langstreckenverbindungen konzipiert, um den Routing-Overhead zu minimieren. Parameter werden auf niedrige Bitbreiten quantisiert, um die DAC-Fläche und den Stromverbrauch zu reduzieren.
Trainingsparadigma:
- Die Autoren argumentieren, dass eine exakte Trajektorienüberwachung (z. B. Optimal Transport Conditional Flow Matching), die das Modell dazu zwingt, in jedem Zeitschritt einem spezifischen Pfad zu folgen, für AIS aufgrund struktureller Beschränkungen nicht praktikabel ist.
- Stattdessen setzen die Autoren ein Wasserstein Generative Adversarial Network (WGAN) Trainingsverfahren ein. Diese Methode nutzt die Endpunktüberwachung (endpoint supervision), wobei nur der terminale sichtbare Zustand ( $v(T)$ ) und nicht die intermediären Trajektorien bestraft werden. Dies ermöglicht es dem physikalischen System, sich selbst zu organisieren und seinen eigenen Pfad vom Rauschen zu den Daten zu entdecken, indem es über verborgene Zustände optimiert, für die keine Ground-Truth-Trajektorien existieren.
Strategie zur Hardwareimplementierung:
- Die vorgeschlagene Architektur unterstützt zeitvariable Gewichte durch drei Strategien: „Save-and-reprogram“ (Digitalisierung intermediärer Zustände), „Weight stationary“ (räumliche Entfaltung über mehrere Kerne) und „State stationary“ (dynamische Gewichtsaktualisierung innerhalb eines einzelnen Kerns).
- Die Leistungsschätzung wird aus bestehenden 28-nm-Messungen gekoppelter Oszillator-Ising-Maschinen extrapoliert und skaliert für Knotenzahl, Kopplungsdichte und Gewichtspräzision.

Wesentliche Beiträge

Vereinheitlichter Rahmen: Definition von Analog Interaction Systems (AIS) als eine Klasse dynamischer Systeme, bei denen die Berechnung aus der Bauteilphysik hervorgeht, im Gegensatz zu digitalen Emulationen von Neural ODEs.
Mechanismen zur Ausdrucksstärke: Empirische Identifizierung und Validierung von zeitstückweisen Parametern und verborgenen physikalischen Zuständen als effektive Methoden, um die Ausdruckslücke zwischen physikbeschränkten Systemen und neuronalen Netzwerk-Baselines zu verringern.
Innovations im Training: Entwicklung eines WGAN-Trainingsverfahrens, das speziell für analoge Hardware angepasst ist, indem es die Form der Trajektorie von der Zielqualität entkoppelt und so die Optimierung von Systemen mit festen Interaktionskernen ermöglicht.
Hardware-bewusstes Design: Vorschlag einer spärlichen, niedrig-bit-breiten Architektur mit Skalierungsgesetzen, die zeigen, dass spärliche Konnektivität und Quantisierung für praktische Energieeffizienz notwendig sind.

Ergebnisse

Studie zur Ausdrucksstärke: Bei niedrigdimensionalen synthetischen Verteilungsaufgaben (z. B. Transformation von Gaußschen Verteilungen zu multimodalen Mischungen) reduzierte die Kombination aus SWD (Sliced Wasserstein Distance) Endpunktüberwachung, zeitstückweisen Gewichten und verborgenen Zuständen den Wasserstein-Abstand ( $W_2^2$ ) signifikant im Vergleich zu Fixed-Parameter- oder Trajektorien-überwachten Baselines. KuraSHIL (Kuramoto mit Injection-Locking) erwies sich als der stärkste Performer.
Generative Qualität: Bei den Datensätzen MNIST und Fashion-MNIST erreichte der oszillatorbasierte AIS FID-Werte (Fréchet Inception Distance) von 27,6 bzw. 80,8. Dies übertrifft die besten bisherigen hardwareimplementierbaren analogen generativen Modelle (DTM und NLM) um den Faktor 3–4×.
Robustheit: Das Modell behielt eine hohe Leistung mit 4-Bit quantisierten Gewichten (FID 27,2/81,9) bei und zeigte Resilienz gegenüber transientem Rauschen ( $\delta=0,025$ ).
Energieeffizienz: Die Autoren schätzen die Energiekosten auf 23 $\mu$ J pro generiertem Bild für einen 56×56 AIS-Kern, der mit 100 MHz arbeitet. Dies stellt eine Verbesserung um zwei Größenordnungen gegenüber digitalen Baselines (geschätzt 7–79 mJ pro Bild) dar. Die Skalierungsanalyse zeigt, dass der Übergang zu All-to-All-Konnektivität oder höheren Bitbreiten den Energieverbrauch drastisch erhöhen würde, was die Notwendigkeit spärlicher, niedrig-präziser Designs validiert.

Bedeutung
Das Paper behauptet, dass die durch analoge Hardware auferlegten Einschränkungen – insbesondere feste Dynamiken und physikalische Beschränkungen – überwunden werden können, um expressive, energieeffiziente generative Modelle zu erhalten. Durch die Verschiebung des Trainingsziels von der Trajektorienanpassung zur Endpunkt-Verteilungsanpassung via WGANs und durch die Nutzung verborgener Zustände und zeitvariabler Parameter demonstrieren die Autoren, dass analoge Hardware nativ differentialgleichungsbasierte generative Modellierung implementieren kann. Diese Arbeit deutet auf einen gangbaren Weg zu leistungsfähiger, energieeffizienter Generative AI hin, welche die intrinsische Physik des Substrats nutzt, statt digitale Algorithmen zu emulieren. Die Ergebnisse zeigen, dass analoge Systeme mit geeigneten architektonischen und trainingsbezogenen Anpassungen eine konkurrenzfähige generative Qualität erreichen können, während sie gleichzeitig erhebliche Energieeinsparungen gegenüber digitalen GPU-basierten Alternativen bieten.

Mehr davon