Stellen Sie sich die Welt der künstlichen Intelligenz als einen riesigen, Hochgeschwindigkeits-Bahnhof vor. Jahrelang sind die Züge (unsere KI-Modelle) immer schneller und leistungsfähiger geworden, aber sie werden auch unglaublich schwer und energiehungrig. Die derzeit populärste Art von Zug heißt „Diffusionsmodell“. Stellen Sie es sich wie einen Bildhauer vor, der mit einem Block aus chaotischem, verrauschtem Marmor beginnt und den Lärm Schritt für Schritt wegmeißelt, bis eine wunderschöne Statue zum Vorschein kommt. Um diese perfekte Statue zu erhalten, muss der Bildhauer tausende winziger, sorgfältiger Meißelbewegungen ausführen. Jede Bewegung kostet Zeit und Energie, und je größer die Statuen werden, desto erschöpfender wird der Prozess für unsere aktuellen Computerchips, die wie digitale Taschenrechner funktionieren, die nur eine Sache gleichzeitig, aber sehr schnell erledigen können.

Hier kommt die Idee des „analogen Rechnens“ ins Spiel. Wenn digitale Computer wie eine digitale Uhr sind, die in präzisen, getrennten Sekunden tickt, dann sind analoge Computer wie ein fließender Fluss oder ein schwingendes Pendel. Sie zählen keine Schritte; sie lassen die Physik die Arbeit erledigen. Anstatt eine Zahl zu berechnen, lassen sie ein Signal durch einen Schaltkreis fließen, bis es sich natürlich in einem stabilen Zustand einpendelt, ganz ähnlich wie ein Pendel schließlich am tiefsten Punkt seiner Schwingung zur Ruhe kommt. Wissenschaftler hoffen schon lange, dass die Nutzung dieser „fließenden“ Maschinen die KI unglaublich schnell und energieeffizient machen könnte. Es gab jedoch ein hartnäckiges Problem: Die KI-Algorithmen waren für die Denkweise des „digitalen Uhren-Stils“ konzipiert. Der Versuch, sie auf „fließende Fluss“-Hardware zu zwingen, bedeutete meist entweder, das Gehirn der KI zu beschädigen oder die Hardware nur für einen winzigen Teil der Aufgabe zu nutzen, während die schwere Arbeit weiterhin von den alten, energiehungrigen digitalen Computern geleistet wurde.

Dieses Paper stellt einen klugen neuen Weg vor, um diese Lücke zu schließen, genannt Analog Diffusion Models (ADMs). Die Forscher von Microsoft Research entdeckten, dass die Art und Weise, wie ein Diffusionsmodell den „Lärm wegmeißelt“, verdächtig ähnlich aussieht wie die Art und Weise, wie ein physikalisches analoges System sich natürlich zu einem stabilen Zustand „einschwingt“. Anstatt die KI zu zwingen, ihre Persönlichkeit an die Hardware anzupassen, haben sie die Schritte der KI so neu konzipiert, dass die Hardware die Arbeit natürlich erledigen kann. Sie testeten dies auf einem speziellen optischen Computer, der Licht und Elektrizität nutzt, um Berechnungen durchzuführen. In ihren Experimenten generierte das System erfolgreich Bilder und Datenmuster vollständig auf dieser analogen Hardware, wobei jeder Schritt der Prozess nur 10–15 Mikrosekunden dauerte.

Das Team blieb nicht bei dem kleinen Prototyp stehen. Sie nutzten einen „Digitalen Zwilling“ – eine supergenaue Computersimulation ihrer Hardware – um zu testen, wie diese Idee bei viel größeren, realen KI-Modellen, einschließlich einiger mit Milliarden von Parametern, funktionieren würde. Diese Simulationen legen nahe, dass dieser Ansatz ein Wendepunkt sein könnte. Durch die Verwendung dieser „Einschwing“-Methode benötigt die KI möglicherweise bis zu 16-mal weniger Schritte, um ein qualitativ hochwertiges Bild zu erstellen, im Vergleich zu Standardmethoden. Auch wenn jeder dieser neuen Schritte einige interne „Einschwingschleifen“ erfordert, sinkt die gesamte Arbeitslast erheblich. Die Forscher deuten darauf an, dass, falls diese Technologie auf zukünftige, miniaturisierte Hardware skaliert wird, sie massive Energieeinsparungen bieten könnte, was die nächste Generation der KI wesentlich nachhaltiger machen könnte, ohne dass wir die Algorithmen, die wir bereits lieben, neu erfinden müssen.

Die Kernidee: Die Physik das Meißeln lassen

Um zu verstehen, warum das so wichtig ist, schauen wir uns an, wie das „Meißeln“ normalerweise funktioniert. In einer Standard-KI berechnet der Computer einen Schritt, hält an, speichert das Ergebnis, berechnet den nächsten Schritt und so weiter. Es ist wie ein Roboter, der nach jedem einzelnen Meißelschlag am Marmor innehalten, nachdenken und dann seinen Arm bewegen muss. Das ist langsam und verbraucht viel Strom.

Die Forscher erkannten, dass die „implizite“ Mathematik, die in einigen fortgeschrittenen KI-Modellen verwendet wird, tatsächlich ein „Fixpunktproblem“ ist. In einfachen Worten ausgedrückt bedeutet dies, einen Ort zu finden, an dem man, wenn man eine Regel anwendet, exakt am selben Ort landet. Es ist wie ein Ball, der einen Hügel hinunterrollt; er bewegt sich weiter, bis er den Boden erreicht und stoppt. Sobald er unten ist, bewirkt das Anwenden der Regel „hinunterrollen“ nichts mehr, da er bereits dort ist.

Die Magie dieses Papers ist, dass analoge Hardware genau das tut. Wenn man ein Signal durch eine Schleife aus Licht und Elektronik schickt, zählt sie keine Schritte. Sie fließt einfach, bis sie sich stabilisiert. Die Autoren erkannten, dass, wenn sie ihr KI-Modell korrekt aufbauen, das „Einschwingen“ des Lichts und der Elektrizität bereits der „Schritt“ der KI ist. Die Hardware muss nicht angewiesen werden, nach einer Berechnung aufzuhören; sie findet die Antwort natürlich, indem sie das Gleichgewicht erreicht.

Das Experiment: Licht, Spiegel und Mikro-LEDs

Um zu beweisen, dass dies funktioniert, baute das Team eine physische Maschine namens Analog Optical Computer (AOC). Stellen Sie sich ein winziges, hochtechnologisches Labyrinth aus Licht vor.

• Die Lichtquelle: Sie verwendeten Anordnungen winziger Lichter (Mikro-LEDs), um die Daten darzustellen.
• Die Gewichte: Sie verwendeten spezielle Spiegel, sogenannte Spatial Light Modulators (SLMs), die verändern können, wie viel Licht sie reflektieren. Diese Spiegel fungieren als das „Gehirn“ der KI und halten die Gewichte (das Wissen) des Modells.
• Die Schleife: Das Licht wandert von den LEDs zu den Spiegeln, wird von Sensoren summiert, und das Ergebnis wird dann zurück in das System gespeist.

Dies erzeugt eine Rückkopplungsschleife. Das System passt sich ständig selbst an, bis sich das Lichtmuster stabilisiert. Diese Stabilisierung geschieht in einem Wimpernschlag – genauer gesagt, in 10 bis 15 Mikrosekunden pro Schritt.

Sie testeten dies bei verschiedenen Aufgaben:

1. 2D-Formen: Sie baten die Maschine, einfache 2D-Muster wie Herzen, Sterne und Buchstaben zu generieren. Die Hardware erledigte dies erfolgreich und erzeugte Formen, die den digitalen Simulationen fast perfekt entsprachen.
2. Generierung im Latent Space: Sie verwendeten eine Technik namens „Latent Diffusion“ (so wie moderne Bildgeneratoren wie DALL-E oder Stable Diffusion arbeiten). Sie ließen den gesamten iterativen Prozess auf der analogen Hardware ablaufen und nutzten für den allerletzten Schritt einen digitalen Computer, um das Ergebnis in ein Bild umzuwandeln. Sie generierten erfolgreich Bilder von handgeschriebenen Ziffern (MNIST), Modeartikeln (FashionMNIST) und Buchstaben (EMNIST).

Das große Ganze: Simulationen und Skalierung

Die physische Maschine, die sie gebaut haben, ist klein, mit 2.304 programmierbaren Gewichten. Das ist winzig im Vergleich zu modernen KI-Modellen, die Milliarden von Gewichten haben können. Woher wissen wir also, ob das auch für große Modelle funktioniert?

Die Forscher erstellten einen „Digitalen Zwilling“ (DT). Dies ist eine Computersimulation, die das exakte Verhalten, das Rauschen und die Eigenheiten ihrer physischen Hardware nachahmt. Sie trainierten Standard-KI-Modelle auf regulären digitalen Computern, sagten ihnen aber, dass sie das „Rauschen“ und das Verhalten der analogen Maschine erwarten sollen. Dann ließen sie diese Modelle durch den Digitalen Zwilling laufen, um zu sehen, wie sie performen würden, wenn sie tatsächlich auf der lichtbasierten Hardware laufen würden.

Sie testeten dies an:

• Convolutional Neural Networks (U-Nets)
• Diffusion Transformers (DiT)
• Riesige Modelle mit bis zu 13 Milliarden Parametern (wie das FLUX.1-Modell).

Die Ergebnisse waren vielversprechend. In diesen Simulationen konnten die „Analog Diffusion Models“ (ADMs) die gleichen hochwertigen Bildresultate wie Standard-Digitalmethoden erzielen, jedoch mit bis zu 16-mal weniger Diffusionsschritten.

Beispielsweise benötigte die Standardmethode bei einem Datensatz von Schmetterlingsbildern 128 Schritte, um ein gutes Bild zu erhalten. Die analoge Methode benötigte nur 8 Schritte, um eine ähnliche Qualität zu erreichen. Obwohl jeder dieser 8 Schritte einige interne „Einschwingschleifen“ (Fixed-Point-Iterationen) erforderte, war die gesamte Arbeitslast dennoch deutlich geringer.

Warum das wichtig ist (und was es nicht ist)

Das Paper deutet einen neuen Weg an. Anstatt zu versuchen, KI-Algorithmen in die Beschränkungen neuer Hardware zu pressen (was oft die KI beschädigt), haben sie die natürliche Physik der Hardware mit den Bedürfnissen des Algorithmus in Einklang gebracht.

Was das Paper NICHT behauptet:

• Es sagt nicht, dass dies ein fertiges Produkt ist, das man heute kaufen kann. Die Hardware ist noch ein Prototyp.
• Es behauptet nicht, das Energieproblem für die gesamte KI bereits gelöst zu haben. Die Energieeinsparungen sind „prognostiziert“ basierend auf Simulationen und der bekannten Effizienz des optischen Computings.
• Es sagt nicht, dass jeder KI-Modell auf diese Weise besser funktionieren wird. In einigen spezifischen Tests (wie mit dem AFHQ-Datensatz unter Verwendung eines DiT-Modells) hatte die Basismethode Schwierigkeiten, aber eine fortgeschrittenere Version namens „Implicit-CN“ (Crank-Nicolson) behob das Problem.

Das Vertrauensniveau:
Die Autoren sind sehr vorsichtig in ihrer Ausdrucksweise. Sie haben das Konzept auf der kleinen Hardware demonstriert. Sie haben gezeigt, dass die 2D- und Latent-Space-Ergebnisse mit dem Digitalen Zwilling übereinstimmen. Sie deuten an, dass die Skalierungsergebnisse (für die Milliarden-Parameter-Modelle) sehr wahrscheinlich zutreffen, da die Mathematik dies stützt, aber diese spezifischen groß angelegten Ergebnisse sind derzeit Simulationen, keine physischen Experimente an einer Maschine mit Milliarden von Gewichten.

Die Roadmap für die Zukunft

Das Paper skizziert eine Roadmap für die Zukunft. Die aktuelle Hardware ist etwa so groß wie ein kleiner Chip. Die Autoren schlagen vor, dass durch das Stapeln dieser optischen Systeme in drei Dimensionen (indem man die dritte Dimension nutzt, um Licht zu leiten, statt nur über eine flache Oberfläche) sie die Skalierung auf 100 Millionen Gewichte innerhalb eines Volumens von der Größe eines Zentimeters erreichen könnten.

Falls diese Skalierung stattfindet und die Hardware in der Lage ist, mit Gigahertz-Geschwindigkeiten zu arbeiten (was viel schneller ist als die aktuellen Megahertz-Geschwindigkeiten), könnte die Energieeffizienz 100-mal besser sein als die aktueller digitaler Chips für den eigentlichen Rechenteil. Selbst wenn man die Kosten für den finalen digitalen Schritt zur Umwandlung des Ergebnisses in ein Bild hinzurechnet, könnte das Gesamtsystem immer noch 26-mal effizienter sein als aktuelle Methoden.

Kurz gesagt: Dieses Paper legt nahe, dass wir, indem wir auf die Physik von Licht und Elektrizität hören und die KI natürlich „einschwingen“ lassen, anstatt sie zum Zählen zu zwingen, endlich die massiven Energieeinsparungen freisetzen könnten, die das analoge Rechnen seit Jahrzehnten verspricht. Es ist ein Wechsel von „den Algorithmus an die Maschine anpassen“ hin zu „die Maschine das tun lassen, was sie am besten kann“.