AMORL: A Training-Aware, Adaptive, Multi-Objective RL-CNN Framework for Dynamic DNN Mapping on Networks-on-Chip
Dit artikel introduceert AMORL, een training-bewust, adaptief framework dat reinforcement learning en convolutionele neurale netwerken combineert om diverse DNN-workloads dynamisch toe te wijzen aan heterogene Networks-on-Chip, waarbij significante reducties in communicatiekosten, belastingimbalans en latentie worden bereikt terwijl een hoge doorvoer en energie-efficiëntie behouden blijven.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
In de moderne wereld van computing worden de krachtigste machines niet langer gedefinieerd door één enkele, massieve hersenpan, maar door duizenden kleinere processoren die in unison samenwerken. Stel je een stad voor waar miljoenen kleine arbeiders constant briefjes naar elkaar moeten doorgeven om één enkel, complex probleem op te lossen. Als de wegen tussen hen verstopt raken, komt de hele stad tot stilstand. Dit is de realiteit van de diepe neurale netwerken die de huidige kunstmatige intelligentie aandrijven, van beeldherkenning tot taalvertaling. Deze systemen zijn gebouwd uit lagen kunstmatige neuronen die communiceren in enorme, complexe patronen. Om ze efficiënt te laten draaien, plaatsen ingenieurs deze neuronen op gespecialiseerde chips die many-core systemen worden genoemd, waarbij de processoren verbonden zijn door een netwerk van minuscule draden dat een Network-on-Chip wordt genoemd. Dit interne netwerk fungeert als het bloedsomloopssysteem van de chip en transporteert data tussen de processoren. Echter, naarmate deze kunstmatige breinen groter en complexer worden, wordt het verkeer op deze interne wegen een flessenhals. Traditionele methoden om te beslissen welke processor welk deel van de berekening afhandelt, falen vaak omdat ze geen rekening houden met de unieke, veranderende eisen van verschillende AI-modellen, wat leidt tot verspilde energie, oververhitting en trage prestaties.
Een onderzoeker aan de Eastern Illinois University heeft een nieuwe aanpak ontwikkeld om dit verkeersprobleem op te lossen, een systeem dat zij AMORL noemen. In plaats van een vaste set regels te gebruiken om taken aan processoren toe te wijzen, leert dit systeem hoe het de datastroom dynamisch kan in kaart brengen, vergelijkbaar met een slim verkeersleidingscentrum dat de signaalafstanden in realtime aanpast op basis van de huidige congestie. De onderzoeker trainde het systeem met een combinatie van twee krachtige technieken: reinforcement learning, waardoor een computer kan leren door middel van vallen en opstaan, en een convolutioneel neuraal netwerk, dat het systeem helpt ruimtelijke patronen te herkennen in de manier waarop data beweegt. Door het systeem te leren om naar de gehele chip als een kaart te kijken, kan het identificeren welke processoren vrij zijn en welke overbelast zijn, om vervolgens direct de informatiestroom om te leiden zodat alles soepel blijft draaien.
De kerninnovatie van AMORL ligt in het vermogen om zich aan te passen aan de specifieke behoeften van verschillende modellen voor kunstmatige intelligentie en de veranderende omstandigheden van de chip zelf. De onderzoeker testte het systeem op zes verschillende soorten neurale netwerken, variërend van eenvoudige modellen voor basisbeeldclassificatie tot enorme, complexe architecturen zoals ResNet-50 en BERT-tiny. Er werden simulaties uitgevoerd waarbij deze modellen draaiden op chipnetwerken van verschillende groottes, van kleine roosters van 16 processoren tot enorme arrays van meer dan duizend. Het systeem werd ontworpen om de volledige levenscyclus van een trainingssessie te beheren, waarbij werd erkend dat de communicatiebehoeften van een kunstmatig brein veranderen terwijl het leert. Tijdens de initiële leerfase stuurt het systeem data vooruit; later stuurt het foutsignalen terug om fouten te corrigeren; en tot slot werkt het de interne gewichten bij. AMORL leert de plaatsing van taken voor elke fase te optimaliseren, waardoor de meest kritieke data de kortst mogelijke afstand aflegt.
In hun simulaties waren de resultaten opmerkelijk. Vergeleken met oudere mappingstrategieën die vertrouwden op willekeurige toewijzing of standaard optimalisatie-algoritmen, verminderde het AMORL-framework de kosten van communicatie met meer dan 70 procent. Dit betekent dat de data aanzienlijk minder stappen (hops) tussen de processoren hoefde af te leggen, wat de tijd die het systeem nodig had om een taak te voltooien drastisch verkortte. Het systeem verbeterde ook de load balancing met wel 86 procent, waardoor gegarandeerd werd dat geen enkele processor ongebruikt bleef terwijl anderen overbelast waren. Misschien wel het belangrijkste is dat het systeem dit wist te doen terwijl het energieverbruik laag hield en voorkwam dat de chip oververhit raakte. De onderzoeker incorporeerde een thermische veiligheidsmetriek in het leerproces, waardoor het systeem automatisch taken weg kon sturen van processoren die te warm werden, om zo te voorkomen dat de chip moest vertragen om af te koelen.
Om te verifiëren dat deze bevindingen standhielden onder realistische omstandigheden, liet de onderzoeker de mappings door een zeer gedetailleerde, cycle-accurate simulator lopen die het fysieke gedrag van het chipnetwerk nabootst. Ze testten het systeem op een 4x4 rooster van processoren en een groter 8x8 rooster, waarbij de injectieratio van data verhoogd werd om te zien hoe het systeem presteerde onder zwaar verkeer. Op het kleinere rooster behield het systeem een doorvoer van tot wel 876 gigabits per seconde. Op het grotere 8x8 rooster bereikte het een verbazingwekkende doorvoer van meer dan 2,77 terabits per seconde. Deze cijfers geven aan dat het systeem niet alleen in theorie werkt, maar zelfs onder immense druk een hoge efficiëntie behoudt. De simulaties bevestigden dat de door AMORL gegenereerde mappings de diverse en onvoorspelbare eisen van real-world AI-workloads konden afhandelen zonder dat het systeem telkens opnieuw getraind hoefde te worden wanneer een nieuw model werd geïntroduceerd.
De onderzoeker onderzocht ook hoe verschillende componenten van hun systeem bijdroegen aan het succes. Ze ontdekten dat het deel van het systeem dat verantwoordelijk is voor het dynamisch wegen van verschillende doelen — zoals snelheid versus energie-efficiëntie — de meest cruciale factor was. Wanneer ze deze adaptieve weging verwijderden, daalde de prestatie van het systeem aanzienlijk, wat bewees dat een 'one-size-fits-all'-benadering onvoldoend is voor deze complexe taken. Op dezelfde manier was de component die ruimtelijke patronen op de chip herkende essentieel voor het verminderen van communicatiekosten, vooral naarmate de chipgrootte toenam. Het systeem demonstreerde ook een opmerkelijk vermogen om snel aan te passen aan plotselinge veranderingen in de werklast. Als het type data of de omvang van de taak halverwege de operatie veranderde, kon het systeem snelle aanpassingen maken zonder een volledige hertrainingscyclus nodig te hebben, wat zorgde voor continue hoge prestaties.
Dit werk vormt een belangrijke stap voorwaarts in het efficiënter en aanpasbaarder maken van hardware voor kunstmatige intelligentie. Door de chip zelf te leren hoe het zijn eigen interne verkeer moet organiseren, heeft de onderzoeker een framework gecreëerd dat kan schalen van kleine, eenvoudige netwerken naar de enorme, complexe systemen van de toekomst. Het vermogen om gezamenlijk te optimaliseren voor snelheid, energie en warmtebeheer betekent dat toekomstige AI-versnellers sneller en koeler kunnen draaien, en een breder scala aan taken kunnen afhandelen zonder de noodzaak van constante menselijke interventie. De bevindingen suggereren dat naarmate we bewegen naar chips met duizenden kernen, de sleutel tot het ontsluiten van hun volledige potentieel niet alleen ligt in het toevoegen van meer kracht, maar in het leren hoe ze die kracht intelligent kunnen delen. Het AMORL-framework biedt een blauwdruk voor deze intelligentie, en laat zien dat met de juiste leerstrategieën deze complexe systemen hun eigen optimale paden door het digitale landschap kunnen vinden.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.