← Nieuwste papers
💻 computer science

Analog Diffusion Models

Dit artikel introduceert Analog Diffusion Models (ADMs), die een vaste punt-correspondentie tussen analoge hardware-dynamiek en impliciete diffusie-inferentie benutten om volledig analoge, hoogefficiënte generatieve AI mogelijk te maken zonder dat modelherontwerp vereist is of de compatibiliteit met standaard trainingsecosystemen in gevaar wordt gebracht.

Oorspronkelijke auteurs: Jiaqi Chu, Heiner Kremer, Fabian Falck, Grace Brennan, Burcu Canakci, James Clegg, Daniel Cletheroe, Doug Kelly, Christos Gkantsidis, Michael Hansen, Paul Jeha, Kirill Kalinin, Jim Kleewein, Babak Rah
Gepubliceerd 2026-08-06
📖 9 min leestijd🧠 Diepgaand

Oorspronkelijke auteurs: Jiaqi Chu, Heiner Kremer, Fabian Falck, Grace Brennan, Burcu Canakci, James Clegg, Daniel Cletheroe, Doug Kelly, Christos Gkantsidis, Michael Hansen, Paul Jeha, Kirill Kalinin, Jim Kleewein, Babak Rahmani, Saravan Rajmohan, Victor Rühle, Jannes Gladrow, Francesca Parmigiani, Hitesh Ballani

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je de wereld van kunstmatige intelligentie voor als een enorm, razendsnel treinstation. Jarenlang zijn de treinen (onze AI-modellen) sneller en krachtiger geworden, maar ze zijn ook ongelooflijk zwaar en energieverslindend geworden. Het meest populaire type trein op dit moment is een "diffusiemodel". Denk aan het als een beeldhouwer die begint met een blok chaotische, ruisende marmer en stap voor stap de ruis wegbeitelt, totdat er een prachtig beeldhouwwerk verschijnt. Om dat perfecte beeld te krijgen, moet de beeldhouwer duizenden kleine, zorgvuldige beitelslagen uitvoeren. Elke beweging kost tijd en energie, en naarmate de beelden groter worden, wordt het proces uitputtend voor onze huidige computerchips, die als digitale rekenmachines zijn die slechts één ding tegelijk heel snel kunnen doen.

Maak kennis met het idee van "analoge computing". Als digitale computers als een digitale klok zijn die in precieze, afzonderlijke seconden tikt, dan zijn analoge computers als een stromende rivier of een zwaaiende pendel. Ze tellen geen stappen; ze laten de natuurkunde het werk doen. In plaats van een getal te berekenen, laten ze een signaal door een circuit stromen totdat het van nature een stabiele toestand bereikt, vergelijkbaar met hoe een pendel uiteindelijk tot rust komt onderaan zijn zwaai. Wetenschappers hopen al lang dat het gebruik van deze "stromende" machines AI ongelooflijk snel en energie-efficiënt kan maken. Er was echter een hardnekkig probleem: de AI-algoritmen waren ontworpen voor de manier van denken van de "digitale klok". Het proberen te dwingen om op "stromende rivier"-hardware te draaien, betekende meestal ofwel het breken van het AI-brein, ofwel het slechts gebruiken van de hardware voor een klein deel van de taak, waardoor het zware werk bij de oude, energieverslindende digitale computers bleef liggen.

Dit paper introduceert een slimme nieuwe manier om die kloof te overbruggen, genaamd Analog Diffusion Models (ADMs). De onderzoekers, werkzaam bij Microsoft Research, ontdekten dat de manier waarop een diffusiemodel de ruis "wegbeitelt" verdacht veel lijkt op de manier waarop een fysiek analoog systeem van nature naar een stabiele toestand "tot rust komt". In plaats van de AI te dwingen om van persoonlijkheid te veranderen om bij de hardware te passen, hebben ze de stappen van de AI opnieuw geïmplementeerd zodat de hardware het werk natuurlijk kan doen. Ze testten dit op een speciale optische computer die licht en elektriciteit gebruikt om berekeningen uit te voeren. In hun experimenten genereerde het systeem succesvol afbeeldingen en datapatronen volledig op deze analoge hardware, waarbij elke stap van het proces slechts 10–15 microseconden duurde.

Het team stopte niet bij alleen het kleine prototype. Ze gebruikten een "digitale tweeling" — een supernauwkeurige computersimulatie van hun hardware — om te testen hoe dit idee zou werken op veel grotere, real-world AI-modellen, inclusief sommige met miljarden parameters. Deze simulaties suggereren dat deze aanpak een game-changer kan zijn. Door deze "settling"-methode te gebruiken, heeft de AI mogelijk tot wel 16 keer minder stappen nodig om een hoogwaardige afbeelding te creëren vergeleken met standaardmethoden. Zelfs als een van deze nieuwe stappen een paar interne "settling"-lussen vereist, is de totale hoeveelheid werk aanzienlijk lager. De onderzoekers suggereren dat als deze technologie wordt opgeschaald naar toekomstige, geminiaturaliseerde hardware, het enorme energiebesparingen kan bieden, wat de volgende generatie AI potentieel veel duurzamer kan maken zonder de algoritmen die we al liefhebben te hoeven heruitvinden.

De Kern van het Idee: De Natuurkunde het Beitelwerk Laten Doen

Om te begrijpen waarom dit zo belangrijk is, laten we kijken naar hoe het "beeldhouwen" gewoon werkt. In een standaard digitale AI berekent de computer één stap, stopt, slaat het resultaat op, berekent de volgende stap, enzovoort. Het is als een robot die na elke beitelbeweging die hij uit het marmer verwijdert, moet pauzeren, nadenken en dan zijn arm moet bewegen. Dit is traag en verbruikt veel elektriciteit.

De onderzoekers realiseerden zich dat de "impliciete" wiskunde die in sommige geavanceerde AI-modellen wordt gebruikt, eigenlijk een "fixed-point" probleem is. In gewone mensentaal betekent dit het vinden van een plek waar, als je een regel toepast, je precies op dezelfde plek uitkomt. Het is als een bal die een heuvel afrolt; hij blijft bewegen totdat hij de onderkant bereikt en stopt. Zodra hij onderaan is, verandert het toepassen van de regel "naar beneden rollen" niets meer, omdat hij er al is.

De magie van dit paper is dat analoge hardware precies dit van nature doet. Wanneer je een signaal door een lus van licht en elektronica stuurt, telt het geen stappen. Het stroomt gewoon totdat het stabiliseert. De auteurs realiseerden zich dat als ze hun AI-model correct instellen, het "tot rust komen" van het licht en de elektriciteit is de stap die de AI neemt. De hardware hoeft niet te worden verteld om te stoppen na één berekening; het vindt het antwoord van nature door een evenwichtstoestand te bereiken.

Het Experiment: Licht, Spiegels en Micro-LED's

Om te bewijzen dat dit werkt, bouwde het team een fysieke machine genaamd een Analog Optical Computer (AOC). Stel je een kleine, high-tech doolhof voor gemaakt van licht voor.

  • De Lichtbron: Ze gebruikten arrays van kleine lampjes (micro-LED's) om de data te representeren.
  • De Gewichten: Ze gebruikten speciale spiegels genaamd Spatial Light Modulators (SLMs) die kunnen veranderen hoeveel licht ze reflecteren. Deze spiegels fungeren als het "brein" van de AI en bevatten de gewichten (de kennis) van het model.
  • De Lus: Het licht reist van de LED's, raakt de spiegels, wordt opgeteld door sensoren, en vervolgens wordt het resultaat teruggevoerd in het systeem.

Dit creëert een feedbacklus. Het systeem past zichzelf voortdurend aan totdat het lichtpatroon stabiliseert. Deze stabilisatie vindt plaats in een oogwenk — specifiek, in 10 tot 15 microseconden per stap.

Ze testten dit op een aantal verschillende taken:

  1. 2D-vormen: Ze vroegen de machine om eenvoudige 2D-patronen te genereren, zoals harten, sterren en letters. De hardware deed dit succesvol en produceerde vormen die bijna perfect overeenkwamen met hun digitale simulaties.
  2. Latente Ruimte Generatie: Ze gebruikten een techniek genaamd "latent diffusion" (dit is hoe moderne beeldgeneratoren zoals DALL-E of Stable Diffusion werken). Ze draalden het volledige iteratieve proces op de analoge hardware en gebruikten alleen een digitale computer voor de allerlaatste stap om het resultaat in een plaatje te veranderen. Ze genereerden succesvol afbeeldingen van handgeschreven cijfers (MNIST), mode-items (FashionMNIST) en letters (EMNIST).

Het Grotere Plaatje: Simulaties en Schaling

De fysieke machine die ze bouwden is klein, met 2.304 programmeerbare gewichten. Dat is klein vergeleken met moderne AI-modellen, die miljarden gewichten kunnen hebben. Dus, hoe weten we dat dit werkt voor grote modellen?

De onderzoekers creëerden een "Digitale Tweeling" (DT). Dit is een computersimulatie die exact het gedrag, de ruis en de eigenaardigheden van hun fysieke hardware nabootst. Ze trainden standaard AI-modellen op reguliere digitale computers, maar vertelden hen om de "ruis" en het gedrag van de analoge machine te verwachten. Vervolgens draalden ze deze modellen door de Digitale Tweeling om te zien hoe ze zouden presteren als ze daadwerkelijk op de lichtgebaseerde hardware zouden draaien.

Ze testten dit op:

  • Convolutionele Neurale Netwerken (U-Nets)
  • Diffusion Transformers (DiT)
  • Enorme modellen met tot wel 13 miljard parameters (zoals het FLUX.1-model).

De resultaten waren veelbelovend. In deze simulaties konden de "Analog Diffusion Models" (ADMs) dezelfde hoogwaardige beeldresultaten behalen als standaard digitale methoden, maar met tot wel 16 keer minder diffusiestappen.

Bijvoorbeeld, op een dataset van vlinderbeelden had de standaardmethode 128 stappen nodig om een goed plaatje te krijgen. De analoge methode had slechts 8 stappen nodig voor een vergelijkbare kwaliteit. Hoewel elk van die 8 stappen een paar interne "settling"-lussen vereiste, was de totale hoeveelheid werk nog steeds veel lager.

Waarom Dit Er Toe Doet (En Wat Het Niet Is)

Het paper suggereert een nieuwe weg voorwaarts. In plaats van te proberen AI-algoritmen te dwingen in de beperkingen van nieuwe hardware (wat vaak de AI breekt), hebben ze de natuurkunde van de hardware afgestemd op de behoeften van het algoritme.

Wat het paper NIET beweert:

  • Het zegt niet dat dit een afgewerkt product is dat je vandaag kunt kopen. De hardware is nog een prototype.
  • Het beweert niet dat het energieprobleem voor alle AI al heeft opgelost. De energiebesparingen zijn "geprojecteerd" op basis van simulaties en de bekende efficiëntie van optisch computergebruik.
  • Het zegt niet dat elke AI-model hier beter door zal werken; in sommige specifieke tests (zoals met de AFHQ-dataset met een DiT-model) had de basismethode moeite, maar een geavanceerdere versie genaamd "Implicit-CN" (Crank-Nicolson) loste dit op.

Het Vertrouwensniveau:
De auteurs zijn zeer voorzichtig in hun taalgebruik. Ze hebben het concept gedemonstreerd op de kleine hardware. Ze hebben getoond dat de 2D- en latente ruimte-resultaten overeenkomen met de digitale tweeling. Ze suggereren dat de schaleringsresultaten (voor de miljard-parameter modellen) zeer waarschijnlijk stand zullen houden omdat de wiskunde klopt, maar die specifieke grootschalige resultaten zijn momenteel simulaties, geen fysieke experimenten op een machine met een miljard gewichten.

De Toekomstige Roadmap

Het paper schetst een roadmap voor de toekomst. De huidige hardware is ongeveer zo groot als een kleine chip. De auteurs stellen voor dat door deze optische systemen in drie dimensies te stapelen (het gebruik van de derde dimensie om licht te routeren, in plaats van alleen over een plat oppervlak), ze kunnen opschalen naar 100 miljoen gewichten binnen een volume ter grootte van een centimeter.

Als deze opschaling plaatsvindt, en als de hardware op gigahertz-snelheden kan werken (wat veel sneller is dan de huidige megahertz-snelheden), kan de energie-efficiëntie 100 keer beter zijn dan die van huidige digitale chips voor het eigenlijke rekenwerk. Zelfs wanneer je de kosten van de laatste digitale stap meerekent om het resultaat in een afbeelding te veranderen, kan het totale systeem nog steeds 26 keer efficiënter zijn dan de huidige methoden.

Kortom, dit paper suggereert dat door te luisteren naar de natuurkunde van licht en elektriciteit, en de AI er "natuurlijk te laten settelen" in plaats van hem te dwingen te tellen, we eindelijk de enorme energiebesparingen kunnen ontsluiten die analoge computing decennialang heeft beloofd. Het is een verschuiving van "het algoritme aanpassen aan de machine" naar "de machine laten doen waar hij het beste in is."

Verdrinkt u in papers in uw vakgebied?

Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.

Probeer Digest →