🤖 AI

MADAR: An Address-Free Processor

MADAR introduceert een nieuwe adresvrije processorarchitectuur die traditionele geheugenhiërarchieën en operand fetching vervangt door circulerende ringen van slots en compile-time scheduling, wat de energie- en oppervlakteoverhead voor voorspelbare workloads zoals AI-acceleratie aanzienlijk vermindert.

Oorspronkelijke auteurs: Mohamed Amine Bergach

Gepubliceerd 2026-06-16

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Mohamed Amine Bergach

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je een moderne computerprocessor voor als een druk, chaotisch vliegveld.

In een standaardcomputer (zoals die in je telefoon of laptop) worden de "data" (passagiers) en de "instructies" (vluchtplannen) opgeslagen in een gigantale, statische terminal. Om iets gedaan te krijgen, moet de computer:

De passagier in de terminal vinden (adressering).
Hun ID controleren tegen een lijst (tags).
Beslissen naar welke gate ze gaan (arbitratie).
Ze door de beveiliging en naar het vliegtuig leiden (bypass-netwerken).

Het artikel stelt dat 90% van de energie en ruimte in een moderne computer wordt verspild aan dit "zoeken en verplaatsen"-proces. De eigenlijke wiskunde (de vlucht zelf) is goedkoop en neemt zeer weinig ruimte in beslag.

MADAR is een nieuw ontwerp dat de vliegterminal volledig wegwerpt. In plaats van een statisch gebouw, is MADAR een reusachtige, bewegende carrousel.

Zo werkt het, met behulp van eenvoudige analogieën:

1. De Bewegende Carrousel (Circulerende Opslag)

In plaats van data op vaste plekken op te slaan, plaatst MADAR alles op een grote ring die bij elke kloktik één stap draait.

Geen Adressen: Je zegt niet: "Ga naar Stoel 42." Je zegt: "Ga naar de stoel die momenteel 3 plaatsen voor mij ligt."
Geen Fetching: De data wacht niet om opgehaald te worden. Het blijft gewoon ronddraaien. Wanneer de data een werker passeert, grijpt de werker het.

2. De Trein van Wagons (Co-circulatie)

In een normale computer staan de "instructie" (wat te doen) en de "data" (waar het mee te doen) op verschillende plekken. In MADAR zitten ze op dezelfde treinwagon.

Stel je een trein voor waarbij elke wagon een passagier en een ticket vervoert. Terwijl de trein rond de baan draait, komen de passagier en het ticket tegelijkert aan bij het station. Ze zijn van elkaar niet te onderscheiden; ze rijden gewoon samen.

3. De Vaste Werkers (Collision Execution)

Stel je een fabrieksvloer voor met een lopende band (de ring) die erlangs draait.

Vaste Stations: Er staan werkers (ALU's, vermenigvuldigers) op specifieke plekken op de vloer. Zij bewegen nooit.
De Botsing: Wanneer een treinwagon (met een instructie en de bijbehorende data) een werker passeert, voert de werker direct de berekening uit. Dit wordt "collision execution" genoemd.
Niet Wachten: De werker wacht niet op een signaal dat hij "klaar" is. Hij doet simpelweg de berekening op het moment dat de wagon voorbijkomt. Als de wagon er niet is, doet de werker niets. Als hij er wel is, vindt de berekening plaats.

4. De Snelheidsbanen (De Geheugenhiërarchie)

Dit is het slimste deel. MADAR heeft ringen van verschillende groottes, zoals banen op een racecircuit.

De Binnenring (Snel): Een kleine, snelle ring (zoals een lus van 16 stappen). Dit is voor data die je nu meteen nodig hebt. Deze draait zeer snel.
De Buitenring (Traag): Een enorme, langzame ring (zoals een lus van 64.000 stappen). Dit is voor data die je later nodig hebt. Deze draait langzaam.
De Overdracht: In plaats van een "cache miss" (waarbij de computer in paniek raakt en op zoek gaat naar data), plant de compiler (de persoon die de code schrijft) precies wanneer een passagier van de langzame buitenring naar de snelle binnenring moet worden verplaatst. Het is als een geplande liftrit. Er zijn geen verrassingen; alles is gepland voordat de machine zelfs maar begint.

Waarom is dit een grote zaak?

Het artikel beweert dat door het "zoeken en ophalen" (het adresatiesysteem) te verwijderen, MADAR een enorme hoeveelheid energie bespaart.

De Kosten: De enige kosten zijn de energie om de carrousel te laten draaien.
De Opbrengst: Voor taken waarbij de beweging voorspelbaar is (zoals AI-berekeningen of videoverwerking), is de energie die bespaard wordt door niet te hoeven zoeken naar data, veel groter dan de energie die nodig is om de ring te laten draaien.

De "Sweet Spot"

Het artikel gebruikt een specifiek voorbeeld: AI Inference (het draaien van een neuraal netwerk).

Bij AI doe je steeds opnieuw dezelfde wiskunde (getallen vermenigvuldigen en optellen).
In een normale computer haal je deze getallen constant uit het geheugen, wat traag en energieverslindend is.
In MADAR laad je de getallen één keer op de ring. Ze blijven ronddraaien. Elke keer dat ze een wiskundige werker passeren, voert de werker de berekening uit. De energiekosten blijven vlak, ongeacht hoeveel getallen je moet verwerken, omdat je nooit stopt om ze te "zoeken".

Wat MADAR NIET is

Het artikel is heel duidelijk over de beperkingen:

Het is niet voor alles: Als je iets onvoorspelbaars doet, zoals het volgen van een willekeurige link op een website of het spelen van een videogame waarbij de speler willekeurig beweegt, heeft MADAR moeite. Het moet het pad voordat het begint kennen.
Het is geen magie: Als de ring te groot is voor de taak, wordt de energiekosten van het draaien van de lege ruimte te hoog, en verliest het het van een normale computer.

Samenvatting

MADAR is een processor die het "zoeken en ophalen"-model vervangt door een "draaien en botsen"-model. Het behandelt de computer als een draaiende carrousel waar de instructies en de data samen rijden, en waar de wiskunde automatisch plaatsvindt terwijl ze vaste werkers passeren. Het ruilt de complexiteit van het vinden van zaken in voor de eenvoud van rotatie, waardoor het ongelooflijk efficiënt is voor voorspelbare, repetitieve taken zoals AI.

Technische Samenvatting: MADAR – Een Adresvrije Processor

Probleemstelling

Moderne processors wijden het overgrote deel van hun oppervlakte en energie aan adressering in plaats van aan rekenkunde. De machinerie die nodig is om operanden van en naar registerbestanden en caches te verplaatsen—inclusief tag-arrays, miss-queues, bypass-netwerken en multi-port registerbestanden—verantwoordt in bepaalde workloads voor meer dan 90% van de energieoverhead van een kern, terwijl functionele eenheden minder dan 6% verbruiken. Deze overhead komt voort uit de fundamentele spanning van de von Neumann-architectuur: de datapad stroomt operanden, maar het geheugensysteem moet waarden stoppen op vaste locaties om ze een adres toe te wijzen voor on-demand ophalen.

Methodologie en Architectuur

Het paper stelt MADAR (Arabisch voor "baan") voor, een processorarchitectuur die het concept van een adres volledig afschaft. In plaats van statische opslag vertrouwt MADAR op rotatie. De architectuur wordt gedefinieerd door vier conjunctieve eigenschappen:

Circulerende Opslag: Alle status bevindt zich in ringen van slots ( $R_0 \dots R_n$ ) die elke klokcyclus één positie opschuiven. Een waarde wordt niet geïdentificeerd door een adres, maar door een $(ring, fase)$ coördinaat. De fysieke implementatie gebruikt letterlijke verschuivingsregisters voor kleine, snelle ringen en single-port SRAM-banken die door een roterende pointer worden gescand voor grote, langzame ringen.
Co-circulatie: Instructies en data bezetten dezelfde slots en circuleren samen. Ze worden alleen onderscheiden door een "soort"-veld in de packet-header.
Collision Execution (Botsingsexecutie): Compute-stations (ALU, vermenigvuldiger, etc.) zijn vast geplaatst op specifieke posities op de ringen. Een instructie wordt uitgevoerd wanneer deze een station passeert. Operanden worden benoemd door hun rotationele offset (een positie binnen een vaste window, bijv. $W=8$ slots vooruit) in plaats van door een adres. Executie is statisch en wordt op compile-tijd gepland; er is geen dynamische matching, scoreboard of wakeup-logica.
Periode-hiërarchie als Geheugenhiërarchie: Ringen met geometrisch toenemende perioden (bijv. 16, 256, 4K, 64K slots) vervangen de traditionele cache-hiërarchie. Transfers tussen ringen worden op compile-tijd gepland in plaats van getriggerd door cache-misses. Promotie naar een kortere ring fungeert als een cache-fill; demotie naar een langere ring fungeert als een eviction.

Control Flow en Datamovement:

Steering (Sturing): Control flow wordt beheerd door "steer"-stations die predicaten evalueren. Als aan een voorwaarde wordt voldaan, verwijdert (doodt) het station specifieke instructie-packets uit de ring, waardoor hun slots in "bubbles" veranderen.
Transfer: Inter-ring datamovement wordt afgehandeld door transfer-stations op geplande fases.
Relays: Als een producent en consument verder van elkaar gescheiden zijn dan de operand-window ( $W$ ), voegt de compiler expliciete "copy relay"-instructies in om de kloof te overbruggen, wat ringcapaciteit verbruikt.
Rendezvous: Voor data-afhankelijke toegangen waarbij de doel-fase niet bekend is op compile-tijd, vangt een rendezvous-station een waarde op wanneer een vrijlopende fase-teller overeenkomt met een gevraagde waarde, wat een latency-penalty van ongeveer een halve rotatie met zich meebrengt.

Belangrijkste Bijdragen

Het paper levert zes specifieke bijdragen:

Definitie van het Executiemodel: Een precieze definitie van het MADAR-model, inclusief de adressering-invariant die correctheid garandeert.
Contextualisering: Een gedetailleerde vergelijking met eerdere circulating-store, temporal-addressing en dataflow-architecturen (bijv. Pilot ACE, Mill, Groq), waarmee wordt aangetoond dat MADAR de eerste is die alle vier de definiërende eigenschappen combineert.
Validatie: Een cycle-accurate register-transfer-level (RTL) implementatie in SystemVerilog (gesimuleerd met Verilator) die de executie-semantiek valideert.
Constructieve Scheduler: Een compiler die automatisch seating-arrangementen en transfer-schema's genereert voor kernels (straight-line code en getelde loops) zonder handmatige interventie. Elk uitgegeven programma wordt gecontroleerd tegen het RTL-model.
Energiekostenmodel: Een first-order energie-model dat de trade-off kwantificeert tussen de kosten van rotatie en de besparingen door het verwijderen van adressering-machinerie.
Case Study: Een analyse van streaming AI-inferentie, die aantoont hoe de architectuur met dense lineaire algebra omgaat.

Resultaten

Correctheid: De RTL-implementatie bevestigde dat rotatie fungeert als opslag, collision fungeert als executie, en steering de branching vervangt. Handmatig geplaatste en door de compiler gegenereerde programma's produceerden correcte resultaten (bijv. een getelde som-loop die $0+1+\dots+(R-1)$ cumuleert).
Energie Crossover: Het energie-model identificeert een "crossover punt" waar MADAR efficiënter wordt dan een eenvoudige in-order baseline (verondersteld op 70 pJ/instructie).
- Winning Regime: Kernels die binnen kleine ringen passen (bijv. een 16-slot ring) met weinig of geen relays, zoals multiply-accumulate loops en FIR-taps, tonen crossover-punten tussen 26–63 pJ/instructie, wat de baseline aanzienlijk overtreft.
- Losing Regime: Kernels die grote ringen of veel relays vereisen (bijv. diepe accumulatieketens of graad-5 polynomen) lijden onder de energiekosten van het verschuiven van veel live packets. Deze vertonen crossover-punten tussen 126–205 pJ/instructie, waardoor ze minder efficiënt zijn dan de baseline.
AI-inferentie Case Study:
- Flat Reductions: Een flat dot product tree is inefficiënt omdat de ringgrootte moet groeien met de reductielengte, wat leidt tot excessieve rotatie-energie.
- Streaming Inner Product: Door operanden van lange ringen naar een vaste compute-ring te streamen via geplande transfers, blijft de energie per multiply-accumulate constant, ongeacht de reductielengte.
- Operand Reuse: De meest efficiënte dataflow voor matrixvermenigvuldiging routeert operand-reuse door de periode-hiërarchie: het promoten van gedeelde operanden van grote SRAM-gestuurde ringen naar kleine shift-register ringen. Deze aanpak bereikte 86 pJ/multiply-accumulate voor een 8x8 matrix-vector product, wat zowel fused-tile als single-stream benaderingen overtreft.

Betekenis en Claims

Het paper claimt dat MADAR een nieuw ontwerppunt vertegenwoordigt voor berekeningen waarbij datamovement bekend is voordat de uitvoering begint. De betekenis ligt in:

Elimineren van Adresseringsoverhead: Door het verwijderen van de noodzaak voor tags, willekeurige access decoders en miss-status registers, richt de architectuur zich op de primaire bron van energieverspilling in moderne cores.
Deterministische Timing: Omdat het schema vaststaat op compile-tijd, zijn er geen reactieve stalls of cache-misses, wat de architectuur geschikt maakt voor hard real-time en constant-time cryptografie.
Efficiëntie in Streaming Workloads: Het paper beargumenteert dat voor AI-inferentie en streaming DSP, de "geheugenhiërarchie" effectief wordt vervangen door een "periode-hiërarchie", waarbij de rotatie van data de taak van caching uitvoert.

Beperkingen en Omvang:
De auteurs zijn bescheiden over de omvang. MADAR is geen universele vervanging voor random-access machines. Het is minder geschikt voor pointer-chasing, onregelmatige graaf-traversals of workloads met onvoorspelbare datadependenties, die een aanzienlijke latency-penalty met zich meebrengen. Bovendien behandelt de huidige scheduler straight-line ketens en loops, maar geen willekeurige reductie-trees of complexe herordeningen. De energieclaims zijn gebaseerd op een first-order model; de auteurs erkennen dat een volledige synthese-gebaseerde vergelijking nodig is om definitief het energievoordeel ten opzichte van state-of-the-art statische schedulers zoals Groq te bewijzen.

Concluderend demonstreert MADAR dat voor een specifieke klasse van statisch programmeerbare, streaming workloads, de kosten van het roteren van data lager kunnen zijn dan de kosten van het adresseren van statische data, wat een fundamenteel andere trade-off biedt tussen beweging en stilstand in processorontwerp.