The Architectural Inflection Point: When Reversible Microarchitecture Overtakes Adiabatic Device Efficiency

Computers zijn altijd motoren van snelheid geweest, maar de afgelopen twee decennia zijn ze tegen een harde muur aangelopen: ze kunnen niet veel sneller worden zonder te veel energie te verbruiken. Jarenlang losten ingenieurs dit op door transistoren kleiner en slimmer te maken, maar die trucjes raken uitgeput. Nu is de enige manier om snellere processors te bous, ze breder en speculatiever te maken, waarbij ze voorspellen wat de volgende stap is en tegelijkertijd vele opties openhouden. Het probleem is dat telkens wanneer de computer een foutieve gok maakt of oude gegevens overschrijft, er informatie wordt vernietigd. De natuurkunde leert ons dat het vernietigen van informatie energie kost, een fundamentele regel die geen enkele vorm van engineering kan omzeilen. Deze kosten zijn de prijs voor het wissen van een enkele bit aan data, en dit bepaalt een minimale limiet aan hoeveel vermogen een computer moet gebruiken. Terwijl onderzoekers jarenlang hebben geprobeerd apparaten te bouwen die energie recyclen tijdens elke schakeling, suggereert een nieuwe studie dat de werkelijke flessenhals niet langer het apparaat zelf is, maar de manier waarop de computer is ontworpen om dingen weg te gooien.

Byron Gregg en Christof Teuscher van de Portland State University hebben een specifiek moment geïdentificeerd dat zij het "Architectural Inflection Point" noemen. Dit is de drempel waarbij het efficiënter maken van de hardware minder helpt dan het veranderen van de computerarchitectuur om te voorkomen dat er informatie wordt vernietigd. Hun werk, gebaseerd op gedetailleerde simulaties van moderne processors, laat zien dat we dit punt waarschijnlijk al zijn gepasseerd voor de meest geavanceerde energie-recyclende apparaten. De onderzoekers ontdekten dat hoewel de hardware ongelooflijk efficiënt kan worden gemaakt, de gewoonte van de computer om data weg te gooien een bodem van energieverspilling creëert die de hardware alleen niet kan oplossen. Om verder te gaan, moeten we de processor herontwerpen zodat deze een verslag bijhoudt van zijn stappen en deze kan ongedaan maken, in plaats van ze simpelweg te wissen.

De studie begon met het bekijken van hoe moderne processors werken. Deze machines volgen niet alleen instructies één voor één; ze voorspellen de toekomst. Als een programma zegt "als dit waar is, doe dat", raadt de processor welke weg juist is en begint direct met werken aan die weg. Als de gok achteraf onjuist blijkt te zijn, gooit de processor al het werk dat hij zojuist heeft verricht weg en begint opnieuw. Het overschrijft ook voortdurend oude getallen in zijn geheugenregisters met nieuwe. Elke keer dat dit gebeurt, vernietigt de computer informatie. De onderzoekers maten precies hoeveel informatie verloren gaat in een standaardprocessor die zes verschillende soorten software draait. Ze ontdekten dat voor elke instructie die de computer succesvol voltooit, er gemiddeld bijna achtendertig bits aan informatie wordt vernietigd. Een deel hiervan komt door het overschrijven van registers, een deel door het weggooien van foutieve gokken, en een deel door het vervangen van data in de geheugencache.

Om de energiekosten te begrijpen, splitste het team het probleem in twee delen. Het eerste deel is de energie die verloren gaat door de fysieke hardware zelf bij elke schakeling aan of uit. Ingenieurs hebben hard gewerkt om deze kosten te verlagen door speciale soorten circuits te creëren die het grootste deel van de energie die bij een schakeling wordt gebruikt, terugwinnen en teruggeven aan de stroomvoorziening. Het tweede deel is de energie die verloren gaat door het ontwerp van de computer wanneer deze informatie vernietigt. Deze kosten worden bepaald door de software en het ontwerp van de processor; deze verbeteren niet simpelweg omdat de hardware kleiner of efficiënter wordt. De onderzoekers berekenden dat naarmate de hardware verbetert, de energiekosten van de hardware dalen, maar de energiekosten van het vernietigen van informatie exact gelijk blijven. Uiteindelijk moeten deze twee lijnen elkaar kruisen. Zodra ze elkaar kruisen, levert het uitgeven van meer geld aan het verbeteren van de hardware zeer weinig rendement op, terwijl het besteden van inspanning aan het herontwerpen van de architectuur om de vernietiging van informatie te stoppen, veel meer energie zou besparen.

Met behulp van een simulatie van een moderne, snelle processor bepaalden de auteurs dit kruispunt. Ze testten dit tegen de prestaties van verschillende soorten energie-recyclende circuits die in laboratoria zijn gebouwd en getest. De resultaten waren opmerkelijk. Vergeleken met een standaard computersysteemgeheugen, had elk van deze geavanceerde, energie-recyclende circuits al het kantelpunt gepasseerd. Dit betekent dat voor deze apparaten de grootste bron van energieverspilling niet langer de hardware is, maar het feit dat de processor is ontworpen om data weg te gooien. De meest efficiënte circuits die tot nu toe zijn aangetoond, zijn zo goed dat het enige dat hen tegenhoudt de eigen gewoonte van de processor is om informatie te wissen.

De studie onderzocht ook wat er zou gebeuren als het geheugensysteem van de computer ook energie zou recyclen. De onderzoekers ontdekten dat zelfs als het geheugen perfect efficiënt zou zijn, de processor nog steeds beperkt zou worden door de informatie die hij tijdens zijn berekeningen vernietigt. Om echt de laagst mogelijke energiegrens te bereiken, heeft een computer twee zaken nodig die samenwerken: een geheugensysteem dat energie recyclet en een processorarchitectuur die nooit informatie weggooit. Dit betekent het herontwerpen van de kern van de computer, zodat deze in plaats van oude data te overschrijven, zijn stappen omkeert om terug te keren naar een vorige staat, wat effectief het werk ongedaan maakt in plaats van het te wissen. De onderzoekers noemen deze aanpak "Fully Adiabatic, Reversible, and Superscalar" processing.

De bevindingen suggereren dat de toekomst van ultra-efficiënte computing minder ligt in het bouwen van betere transistoren en meer in het heroverwegen van hoe computers denken. Het team simuleerde zes verschillende werklasten, variërend van eenvoudige compressietaken tot complexe compilatie van code, en vond dat het exacte punt waarop de omschakeling plaatsvindt afhangt van het type werk dat de computer verricht. Voor sommige taken is de hardware nog steeds het belangrijkste aandachtspunt, maar voor de meeste moderne werklasten is de architectuur de flessenhals. De onderzoekers merkten op dat hoewel ze hebben bewezen dat reversibele branch predictors (het deel van de computer dat gokken maakt) kunnen werken, de rest van de processor moet volgen. Ze identificeerden dat de geheugenhiërarchie, die dataopslag afhandelt, momenteel de grootste bron van energieverspilling is en honderden keren meer kost dan de daadwerkelijke vernietiging van databits. Omdat het geheugen echter zo groot is, is het maken ervan reversibel de moeilijkste uitdaging, terwijl het oplossen van de datavernietiging in de processor de meest directe winst oplevert.

Dit werk beweert niet dat we het probleem van energie-efficiëntie hebben opgelost, noch zegt het dat reversibele computers klaar zijn om onze huidige machines te vervangen. De simulaties laten zien dat de weg vooruit een massale verschuiving vereist in hoe we processors ontwerpen, van een model van wissen naar een model van reversibiliteit. De onderzoekers hebben een duidelijke kaart geboden van waar de huidige technologie staat en waar deze naartoe moet. Ze hebben aangetoond dat het tijdperk van simpelweg apparaten kleiner en efficiënter maken ten einde loopt, en dat de volgende grote sprong in rekenkracht zal komen van architecten die in staat zijn machines te ontwerpen die alles onthouden wat ze doen, in plaats van het te vergeten.