Measurement of Generative AI Workload Power Profiles for Whole-Facility Data Center Infrastructure Planning
Diese Studie stellt eine öffentlich zugängliche Methodik vor, die hochauflösende Leistungsprofile von Generative-AI-Workloads auf NVIDIA H100-GPUs mit einem bottom-up-Modell verknüpft, um realistische Ganztags-Energiebedarfsprofile für die Infrastrukturplanung von Rechenzentren zu erstellen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Titel: Wie viel Strom braucht die „künstliche Intelligenz"? Eine Reise durch das Herz eines Rechenzentrums
Stellen Sie sich vor, Sie bauen eine riesige Fabrik. Aber statt Autos oder Schokolade produziert diese Fabrik Gedanken – oder genauer gesagt, Antworten auf Fragen, Bilder und Texte, die von einer künstlichen Intelligenz (KI) erstellt werden. Diese Fabriken nennt man Rechenzentren.
In den letzten Jahren ist diese KI-Industrie explodiert. Jeder will Chatbots, Bildgeneratoren und intelligente Assistenten. Das Problem? Diese Fabriken sind extrem hungrig. Sie fressen Strom wie ein unersättlicher Teenager.
Die Forscher von der National Laboratory of the Rockies (NLR) haben sich gefragt: „Wie viel Strom fressen diese KI-Fabriken wirklich, und wie sieht ihr Hunger im Laufe des Tages aus?"
Bisher war das ein Rätsel. Die großen Tech-Konzerne halten ihre Stromrechnungen geheim, wie ein Familienrezept. Und die wenigen Daten, die es gab, waren oft ungenau oder nur für kleine Teile der Fabrik. Die Forscher wollten aber das ganze Gebäude verstehen, um zu planen, wie man diese Fabriken mit Strom versorgt, ohne das Stromnetz zum Kippen zu bringen.
Hier ist, was sie getan haben, einfach erklärt:
1. Die Messung: Der „Strom-Tracker" für einzelne Maschinen
Stellen Sie sich vor, Sie wollen wissen, wie viel Energie ein einzelner LKW verbraucht, wenn er eine schwere Ladung transportiert. Die Forscher haben das für die Computer-Chips (die „Motoren" der KI) gemacht.
Sie haben spezielle Computer mit den stärksten Grafikkarten der Welt (NVIDIA H100) genommen und sie mit verschiedenen Aufgaben beschäftigt:
- Training: Die KI lernt etwas Neues (wie ein Schüler, der für eine Prüfung lernt).
- Feinabstimmung: Die KI wird auf eine spezielle Aufgabe trainiert (wie ein Schüler, der sich auf Mathe spezialisiert).
- Inferenz: Die KI antwortet auf Fragen (wie ein Lehrer, der gerade Prüfungen korrigiert).
Sie haben den Stromverbrauch jede Zehntelsekunde gemessen. Das ist wie ein Hochgeschwindigkeitsvideo, das zeigt, wie der Stromverbrauch auf und ab springt, wenn die KI kurz nachdenkt oder plötzlich eine schwere Rechnung macht.
Das Ergebnis: Der Stromverbrauch ist nicht konstant wie ein Fließband. Er ist wie ein Herzschlag. Mal schlägt es ruhig, mal hämmert es wild. Und je mehr Computer gleichzeitig arbeiten, desto lauter wird der „Herzschlag" des gesamten Gebäudes.
2. Die Simulation: Der „Puppenhaus"-Ansatz
Jetzt hatten sie die Daten für einen Computer. Aber ein Rechenzentrum hat Tausende davon. Wie berechnet man den Stromverbrauch für das ganze Gebäude?
Die Forscher haben ein digitales Modell namens DIPLOEE gebaut. Stellen Sie sich das wie ein Puppenhaus vor, in dem Sie Tausende von kleinen Spielzeug-Computern haben.
- Sie sagen dem Modell: „Hier sind 10.000 Computer."
- Sie sagen: „Hier sind die Regeln, wie Menschen die KI nutzen (morgens viel, nachts wenig, am Wochenende weniger)."
- Das Modell simuliert dann ein ganzes Jahr in Minuten: Welche Computer arbeiten wann? Wie viele Anfragen kommen rein?
Dadurch konnten sie sehen, wie sich der Stromverbrauch im ganzen Gebäude über einen Tag, eine Woche und ein Jahr verändert.
3. Die Überraschungen: Was sie herausfanden
Der „Strom-Headroom": Selbst wenn alle Computer im Gebäude voll ausgelastet sind (100 %), verbrauchen sie oft nur etwa 73–80 % der maximal möglichen Stromleistung, die die Kabel und Transformatoren aushalten könnten.
- Die Analogie: Es ist wie ein Autobahnabschnitt, der für 100 Autos pro Stunde ausgelegt ist. Aber selbst wenn der Verkehr am stärksten ist, fahren nur 80 Autos. Das bedeutet, man könnte die Infrastruktur (die „Autobahn") vielleicht etwas kleiner bauen, um Kosten zu sparen, ohne dass es zu Staus kommt.
Der Unterschied zwischen Lernen und Antworten:
- Wenn die KI lernt (Training), ist der Stromverbrauch wie ein Marathonläufer: Er ist lange Zeit hoch und gleichmäßig, aber mit vielen kleinen Schwankungen.
- Wenn die KI antwortet (Inferenz), ist der Verbrauch wie ein Sprinter, der auf eine Startpistole wartet. Es gibt kurze, heftige Stromspitzen, wenn viele Fragen gleichzeitig kommen, gefolgt von Ruhephasen.
Das Netz-Risiko: Wenn Tausende von Computern gleichzeitig anfangen zu arbeiten (z. B. wenn eine neue KI-Funktion live geht), kann das wie ein plötzlicher Stromschlag sein. Das kann das Stromnetz destabilisieren. Die Forscher zeigen, dass man diese „Spitzen" vorhersagen kann, wenn man das Verhalten der Nutzer kennt.
4. Warum ist das wichtig?
Früher haben Planer für Kraftwerke und Stromnetze nur grobe Schätzungen gemacht. Das ist wie zu versuchen, eine Party für 100 Leute zu planen, ohne zu wissen, ob sie nur Wasser trinken oder Champagner.
Mit dieser neuen Methode können die Planer jetzt genau sagen:
- „Wir brauchen an diesem Tag mehr Strom."
- „Wir sollten Solaranlagen bauen, die genau dann liefern, wenn die KI am meisten arbeitet."
- „Wir müssen die Kabel nicht überdimensionieren, weil wir wissen, dass die KI nie wirklich 100 % ihrer theoretischen Maximalleistung zieht."
Fazit
Dieser Bericht ist wie eine Landkarte für den Stromhunger der KI. Er zeigt uns, dass die Zukunft der KI nicht nur davon abhängt, wie schlau die Algorithmen sind, sondern auch davon, wie clever wir die Stromversorgung für diese gigantischen digitalen Fabriken planen.
Die Forscher haben ihre Daten öffentlich gemacht, damit jeder – von Ingenieuren bis zu Politikern – diese „Landkarte" nutzen kann, um sicherzustellen, dass unsere KI-Zukunft nicht an einem Stromausfall scheitert.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.