Measurement of Generative AI Workload Power Profiles for Whole-Facility Data Center Infrastructure Planning
Dit artikel presenteert een openbaar dataset en een methode om de stroomverbruiksprofielen van generatieve AI-werklasten op hoge resolutie te koppelen aan de totale energievraag van een datacenter, waardoor realistische infrastructuurplanning voor netaansluiting en lokale energieopwekking mogelijk wordt.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
De Stroomrekening van de AI: Hoe Datacenters Zich Houden aan de Stroom
Stel je voor dat datacenters de enorme keukens zijn van de digitale wereld. Vroeger kookten ze vooral soep (gewone websites en e-mails), wat een voorspelbare hoeveelheid gas en elektriciteit vergde. Maar nu is er een nieuwe trend: Generatieve AI. Dit is alsof diezelfde keuken plotseling moet gaan bakken voor duizenden gasten tegelijk, waarbij ze tegelijkertijd een 100-gangenmenu moeten bereiden, een taart moeten decoreren en een live-show moeten regelen.
Deze nieuwe "AI-koks" (de computers) zijn ongelooflijk snel, maar ze zijn ook hongerig. Ze eten elektriciteit als er geen einde aan komt. De vraag is: hoeveel stroom hebben we echt nodig om deze keuken te laten draaien zonder dat de bliksemschakelaar eruit vliegt?
Dit onderzoek van het National Laboratory of the Rockies (NLR) is als het ware een super-accurate energiemeter die we op de keuken hebben gezet om te zien hoe het echt gaat.
1. Het Probleem: De Gok in het Donker
Tot nu toe was het een beetje gokken. Bedrijven zeggen: "Onze AI-servers verbruiken X," maar die cijfers zijn vaak geheim of onnauwkeurig. Het is alsof je een restaurant runt zonder te weten of je gasten een kleine salade of een hele koe bestellen. Als je de elektriciteitskabels te klein maakt, valt het licht uit. Als ze te groot zijn, heb je geld verspild.
De onderzoekers wilden dit oplossen door niet te gokken, maar te meten. Ze hebben een echte datacenter-keuken gebruikt met de krachtigste "koks" die er zijn: de NVIDIA H100 GPU's.
2. De Meting: De "0,1-seconde" Camera
De onderzoekers hebben een camera gebruikt die 10 keer per seconde een foto maakt van het energieverbruik (elke 0,1 seconde). Dit is cruciaal, want AI werkt niet als een constante stroom, maar als pieken en dalen.
Training (Het leren): Stel je voor dat de AI een student is die een heel dik boek moet leren. Soms zit hij stil en leest hij (laag verbruik), en soms schrijft hij razendsnel notities (hoge piek). De onderzoekers keken naar hoe dit verbruik veranderde als je 2, 4, 8 of 16 van deze studenten tegelijk liet studeren.
- Verrassing: Meer studenten betekent niet altijd sneller leren. Soms praten ze te veel met elkaar (communicatie), waardoor ze minder tijd hebben om te studeren en het verbruik stijgt zonder dat de taak sneller klaar is.
Inference (Het antwoorden): Dit is wanneer de AI een vraag krijgt en antwoordt, zoals een chatbot.
- Het patroon: Als er weinig vragen zijn, is de AI traag en verbruikt hij weinig. Maar zodra er een stroom aan vragen komt, gaat de AI op volle toeren. Interessant genoeg: als je te veel vragen tegelijk stuurt, raakt de AI in de stress, wordt hij traag en verbruikt hij niet per se meer stroom, maar wel minder efficiënt. Het is alsof een kok die te veel bestellingen tegelijk probeert te maken, de pan laat vallen.
3. De Simulatie: Van Eén Keuken naar Hele Stad
Nu hadden ze de data van één "keuken" (één server). Maar hoe ziet dat eruit voor een heel datacenter met duizenden servers?
Ze bouwden een virtuele simulatie (een soort computerspel) genaamd DIPLOEE.
- Ze vulden dit spel met de echte meetdata.
- Ze lieten het spel een heel jaar spelen, met wisselende drukte (mensen werken overdag, slapen 's nachts, en zijn drukker op maandag dan in het weekend).
- Ze keken wat er gebeurde bij verschillende bezettingsgraden: 20% drukte, 40%, 60% en 80%.
4. De Resultaten: Wat Leerden We?
De simulatie gaf een paar verrassende inzichten:
- De "Pieken" zijn het gevaar: Zelfs als je datacenter vol zit (100% bezet), verbruikt het niet altijd 100% van de maximale stroom. De AI-servers werken vaak niet op hun absolute maximum. Het is alsof een raceauto die in de file staat: de motor draait, maar hij rijdt niet met 300 km/u.
- Het Paradox van de Drukte: Als je een datacenter heel vol maakt (80% bezet), wordt het stroomverbruik eigenlijk stabieler. Waarom? Omdat de servers constant aan het werk zijn en er minder grote pieken en dalen zijn. Maar het nadeel? De "klanten" (de gebruikers) moeten dan lang wachten (wachtrijen).
- De Stroomkabels: Omdat de pieken soms lager zijn dan verwacht, zouden we misschien minder zware stroomkabels en transformatoren kunnen bouwen dan we dachten. Dat bespaart veel geld en ruimte.
5. Waarom is dit belangrijk voor jou?
Je hoeft geen ingenieur te zijn om dit te begrijpen. Dit onderzoek helpt bij het bouwen van een betere toekomst:
- Stabiel Net: Als we weten precies hoeveel stroom AI nodig heeft, kunnen we het elektriciteitsnet beter plannen. Geen zwarte schermen meer door een plotselinge piek.
- Duurzamer: Door te weten hoe AI werkt, kunnen we datacenters slimmer bouwen. Misschien kunnen we zonnepanelen of batterijen op de juiste momenten gebruiken.
- Betere Diensten: Als we de balans vinden tussen snelheid en stroomverbruik, krijgen we snellere chatbots en slimme hulpmiddelen zonder dat de elektriciteitsrekening de pan uitrijst.
Kortom:
De onderzoekers hebben de "stroomrekening" van de AI-futuur in kaart gebracht. Ze hebben laten zien dat AI niet zomaar een constante stroomverbruiker is, maar een dynamische speler met pieken en dalen. Met hun nieuwe meetmethoden en simulaties kunnen we nu de "keukens" van de toekomst bouwen die niet alleen krachtig zijn, maar ook slim omgaan met de stroom.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.