💻 computer science

LLM-Powered Predictive Decision-Making for Sustainable Data Center Operations

Dieses Paper präsentiert ein durch LLMs gestütztes prädiktives Planungssystem, das die Ausführungszeit und den Energieverbrauch ausgehend vom Quellcode prognostiziert, um die GPU-Ressourcenallokation zu optimieren, wodurch eine Reduzierung des Energieverbrauchs um 32 % und eine Verringerung der Wartezeit um 30 % für nachhaltige Rechenzentrumsabläufe erreicht wird.

Ursprüngliche Autoren: Hanzhao Wang, Jingxuan Wu, Yumeng Li, Yu Pan, Guanting Chen

Veröffentlicht 2026-08-20

📖 6 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Hanzhao Wang, Jingxuan Wu, Yumeng Li, Yu Pan, Guanting Chen

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Die moderne Welt wird von einem leisen, unsichtbaren Motor angetrieben: dem Rechenzentrum. Diese riesigen Lagerhäuser voller Computerserver treiben alles an, vom Streaming von Filmen bis hin zu den Werkzeugen der künstlichen Intelligenz, die unsere Art zu arbeiten und zu denken, grundlegend verändern. Dieser digitale Komfort geht jedoch mit einem hohen physischen Preis einher. Das Training der fortschrittlichsten Modelle der künstlichen Intelligenz erfordert immense Rechenleistung, was wiederum einen gewaltigen Bedarf an Elektrizität und Wasser für die Kühlung nach sich zieht. Mit dem Wachstum der Nachfrage nach diesen intelligenten Systemen steigt auch die Belastung unserer Stromnetze und der Umwelt. Die Herausforderung für Ingenieure besteht nicht mehr nur darin, diese Systeme schneller zu machen; es geht darum, sie nachhaltig zu gestalten und sicherzustellen, dass die digitale Zukunft nicht die physischen Ressourcen verbraucht, die sie zu unterstützen braucht.

Um dieser wachsenden Spannung zu begegnen, hat ein Team von Forschern einen neuen Weg entwickelt, um den Arbeitsfluss innerhalb dieser Rechenzentren zu steuern. Anstatt zu raten, wie lange eine Computeraufgabe dauern wird oder wie viel Strom sie verbrauchen wird, haben sie ein System geschaffen, das ein hochentwickeltes Sprachmodell nutzt, um den Computercode selbst zu lesen und das Ergebnis vorherzusagen, noch bevor die Arbeit überhaupt beginnt. Dieser Ansatz behandelt den Quellcode – die von menschlichen Programmierern geschriebenen Anweisungen – wie eine Geschichte, die der Computer verstehen kann. Durch die Analyse der Struktur und Logik des Codes kann das System die benötigte Zeit zur Fertigstellung einer Aufgabe und den Energieverbrauch abschätzen, und das alles, ohne die Aufgabe zuerst ausführen zu müssen. Diese Vorhersagefähigkeit ermöglicht es dem Rechenzentrum, klügere Entscheidungen darüber zu treffen, welche leistungsstarken Computerchips welchen Aufgaben zuzuweisen sind, um die Last zu balancieren, Energie zu sparen und Wartezeiten zu reduzieren.

Die Forscher bauten ein Prototyp-System, das in zwei unterschiedlichen Phasen arbeitet. Zuerst liest ein vortrainiertes Modell der künstlichen Intelligenz, das darauf ausgelegt ist, menschliche Sprache und Code zu verstehen, die vom Nutzer eingereichten Anweisungen. Es übersetzt den komplexen Code in eine mathematische Repräsentation, die das Wesen der Aufgabe erfasst. Dieses Modell beruht nicht auf starren, handgeschriebenen Regeln oder spezifischen Merkmalen, die Ingenieure für jede neue Art von Programm manuell definieren müssen. Stattdessen nutzt es sein breites Training, um Muster zu erkennen und den Kontext des Codes zu verstehen, ganz so, wie ein geschickter Leser den Handlungsstrang einer Geschichte erfassen kann, ohne eine Zusammenfassung zu benötigen. Sobald das System die Aufgabe verstanden hat, sagt es zwei kritische Zahlen voraus: wie lange die Aufgabe zur Fertigstellung benötigen wird und wie viel Elektrizität sie verbrauchen wird. Diese Vorhersagen werden in weniger als einer Sekunde getroffen, schnell genug, um für Entscheidungen in Echtzeit genutzt zu werden.

Mit diesen Vorhersagen in der Hand übernimmt die zweite Phase des Systems die Kontrolle: ein Scheduling-Algorithmus, der entscheidet, wie die verfügbaren Computerressourcen verteilt werden. In einem typischen Rechenzentrum treffen Aufgaben in einem kontinuierlichen Strom ein, und der Manager muss entscheiden, welcher Computerchip jeder Aufgabe zugewiesen wird. Weist der Manager eine Aufgabe einem Chip zu, der zu leistungsstark ist, wird Energie verschwendet. Wenn er sie einem Chip zuweist, der zu schwach ist, oder wenn er zu lange mit der Zuweisung wartet, verweilt die Aufgabe in einer Warteschlange, was die Ergebnisse verzögert. Das neue System nutzt die Vorhersagen der ersten Phase, um die bestmögliche Zuweisung für jede eingehende Aufgabe zu berechnen. Es berücksichtigt die aktuelle Verfügbarkeit verschiedener Arten von Computerchips, die geschätzten Energiekosten und die Zeit, die die Aufgabe beanspruchen wird. Das Ziel ist es, den Gesamtenergieverbrauch zu minimieren und gleichzeitig die Wartezeit für alle Aufgaben so kurz wie möglich zu halten.

Um zu testen, ob diese Idee in der realen Welt funktioniert, arbeiteten die Forscher mit einem Rechenzentrum zusammen, um eine Simulation unter Verwendung von zwei Monaten tatsächlicher Betriebsdaten durchzuführen. Sie verglichen ihr neues, prädiktives System mit der Standardmethode, die die Einrichtung verwendet und die auf einfacheren, regelbasierten Entscheidungen beruht. Die Ergebnisse waren signifikant. Das neue System reduzierte den Gesamtenergieverbrauch des Rechenzentrums um 32 Prozent. Gleichzeitig senkte es die Zeit, die Aufgaben in der Warteschlange verbrachten, um 30 Prozent. Diese Verbesserungen wurden nicht durch eine Änderung der Hardware oder der physischen Infrastruktur erreicht, sondern durch eine Änderung der Art und Weise, wie das Rechenzentrum über die zu erledigende Arbeit nachdenkt. Das System bewies, dass die Einrichtung durch das Verständnis des Codes vor der Ausführung mit wesentlich größerer Effizienz arbeiten konnte.

Einer der beeindruckendsten Aspekte dieser Arbeit ist ihre Flexibilität. Traditionelle Methoden zur Vorhersage des Energieverbrauchs erfordern oft ein separates, eigens gebautes Modell für jede andere Art von Computerprogramm. Wenn eine neue Art von Aufgabe auftauchte, hatte das alte System Schwierigkeiten, deren Bedarf vorherzusagen. Der neue Ansatz hingegen nutzt ein einziges, einheitliches Modell, das eine Vielzahl von Aufgaben bewältigen kann, vom Training komplexer Bilderkennungssysteme bis hin zum Ausführen von Sprachmodellen. Dies liegt daran, dass das zugrunde liegende Modell der künstlichen Intelligenz gelernt hat, die fundamentale Struktur von Code zu verstehen, anstatt nur spezifische Beispiele auswendig zu lernen. Die Forscher fanden heraus, dass das System selbst dann noch genaue Vorhersagen treffen konnte, wenn der Code in einem leicht anderen Stil oder von einer anderen Person geschrieben wurde. Um dies weiter zu verbessern, fügten sie einen sekundären Schritt hinzu, bei dem das System unbekannten Code in einen Stil umschreiben kann, der seinen Trainingsdaten entspricht, wodurch sichergestellt wird, dass die Vorhersagen auch für Aufgaben genau bleiben, die das System zuvor noch nie gesehen hat.

Die Studie unterstreicht auch einen Wandel in der Art und Weise, wie wir über Ressourcenmanagement im digitalen Zeitalter nachdenken könnten. Jahrelang haben Rechenzentren auf Schätzungen operiert, die von Nutzern stammen oder auf historischen Durchschnittswerten basieren, die oft danebenliegen. Diese neue Methode ersetzt das Raten durch fundierte Vorhersage. Sie legt nahe, dass der Schlüssel zu einer nachhaltigeren digitalen Zukunft in besseren Entscheidungswerkzeugen liegt, die in der Lage sind, sich an die Komplexität moderner Computertechnik anzupassen. Während sich das aktuelle System auf Zeit und Energie konzentriert, merken die Forscher an, dass derselbe Rahmen auch auf andere Umweltauswirkungen wie den Wasserverbrauch für die Kühlung oder Kohlenstoffemissionen ausgeweitet werden könnte, sofern das Rechenzentrum diese Kennzahlen erfasst.

Der Erfolg dieses Prototyps zeigt, dass künstliche Intelligenz nicht nur dazu verwendet werden kann, neue Technologien zu erschaffen, sondern auch, um die Infrastruktur zu optimieren, die sie unterstützt. Indem das System den Code liest und die Kosten der Arbeit vorhersagt, verwandelt es das Rechenzentrum in einen reaktionsfähigeren und effizienteren Organismus. Die Reduktion des Energieverbrauchs um 32 Prozent und die Verkürzung der Wartezeit um 30 Prozent sind nicht nur Zahlen; sie stellen einen greifbaren Schritt dar, um den ökologischen Fußabdruck der KI-Revolution zu verringern. Während die Nachfrage nach künstlicher Intelligenz weiter steigt, bieten Methoden wie diese einen praktischen Weg nach vorn und beweisen, dass wir eine intelligentere, nachhaltigere digitale Welt bauen können, ohne die Leistung zu opfern. Die Arbeit zeigt, dass mit den richtigen Werkzeugen der unsichtbare Motor des Internets sauberer und effizienter als je zuvor laufen kann.

Technisches Resümee: LLM-gestützte prädiktive Entscheidungsfindung für nachhaltige Rechenzentrumsoperationen

1. Problemformulierung

Die rasante Expansion von KI-gesteuerten Arbeitslasten, insbesondere von Large Language Models (LLMs), hat den Energie- und Ressourcenverbrauch von Rechenzentren intensiviert. Aktuelle operative Pipelines in Rechenzentren verlassen sich oft auf heuristische Algorithmen, die Ressourcen (z. B. GPUs) basierend auf den vom Nutzer bereitgestellten Schätzungen der Aufgabendauer und des Ressourcenbedarfs zuweisen. Die genaue Vorhersage der Ausführungszeit und des Energieverbrauchs ist jedoch aufgrund der Komplexität moderner Computersysteme (einschließlich Bandbreite, Speicher, Software-Stacks und Hardware-Variationen) inhärent schwierig. Infolgedessen verfügen weder Nutzer noch Rechenzentren über präzise Kenntnisse über die optimalen Ressourcenanforderungen, was zu Ineffizienzen, Ressourcenverschwendung und erhöhten ökologischen Fußabdrücken führt.

Die Autoren formulieren ein zweiteiliges Problem:

Vorhersage (Prediction): Gegeben ein vom Nutzer eingereichter Quellcode $x$ und eine potenzielle GPU-Konfiguration $z$ , soll die Ausführungszeit $t$ und der Energieverbrauch $e$ vorhergesagt werden. Diese werden als unbekannte Funktionen $t = f(x, z)$ und $e = g(x, z)$ modelliert, die spezifisch für die Infrastruktur des Rechenzentrums sind.
Entscheidungsfindung (Decision-Making): Entwicklung einer Policy $\pi$ , um GPU-Ressourcen sequenziell an eintreffende Aufgaben zuzuweisen, um eine gewichtete Summe aus Ausführungszeit, Wartezeit und Energiekosten unter Berücksichtigung begrenzter GPU-Inventarbeschränkungen zu minimieren. Dieses Problem wird durch das Vorhandensein einer Warteschlange und die Notwendigkeit, mehrere Ziele auszubalancieren (Multi-Purpose-Optimierung), erschwert, für die es keine analytische Lösung gibt.

2. Methodik

A. LLM-basiertes prädiktives Modell

Das Kernstück des vorgeschlagenen Systems ist ein einheitliches, End-to-End-prädiktives Modell, das ein vortrainiertes Large Language Model (LLM) zur Verarbeitung von Quellcode nutzt.

Architektur: Das Modell besteht aus zwei Stufen:
1. Repräsentations-Extraktion: Ein vortrainiertes LLM (bezeichnet als $l_{\theta_1}$ ) nimmt den Quellcode $x$ als Eingabe entgegen und gibt eine $d$ -dimensionale Vektorrepräsentation aus. Die LLM-Parameter $\theta_1$ bleiben dabei fixiert.
2. Probing: Ein leichtgewichtiges überwachtes Modell (ein „Probe“, bezeichnet als $h_{\theta_2}$ oder $q_{\theta_2}$ ) nimmt die extrahierte Repräsentation und die GPU-Konfiguration $z$ als Eingabe, um die Zielmetrik (Zeit oder Energie) vorherzusagen.
Training: Das System wird auf einem Datensatz trainiert, der Quellcode gepaart mit tatsächlichen Ausführungsergebnissen (Zeit und Energie) über verschiedene GPU-Konfigurationen hinweg enthält. Bemerkenswerterweise benötigt das Modell nur einen kleinen Datensatz (etwa 500 Quellcode-Beispiele), da das vortrainierte LLM bereits über ein umfassendes kontextuelles Verständnis von Code verfügt.
Vorteile gegenüber traditionellen Methoden:
- Generalisierung: Im Gegensatz zu bisherigen Methoden, die auf handgefertigten Merkmalen (z. B. Schichttiefe, Anzahl der Durchläufe) basieren, die spezifisch für bestimmte Modelltypen sind (z. B. nur CNNs), generalisiert der LLM-Ansatz über diverse Aufgabentypen und zusammengesetzte Aufgaben (z. B. CNN gefolgt von LSTM).
- Dateneffizienz: Das vortrainierte LLM fungt als leistungsstarker Merkmalsextraktor, was die Notwendigkeit massiver Trainingsdatensätze reduziert.
- Flexibilität: Dieselbe Repräsentation kann für verschiedene Vorhersageziele (Zeit, Energie und potenziell Wasser-/Kohlenstoffmetriken) verwendet werden, indem einfach unterschiedliche Probes trainiert werden.

B. Sequenzielle Entscheidungsalgorithmen

Um die Ressourcenallokation zu optimieren, schlagen die Autoren zwei datengesteuerte Algorithmen vor, die die Vorhersagen des LLM-Modells nutzen:

Greedy-Algorithmus: Weist Aufgaben nach dem First-Come-First-Served-Prinzip zu und wählt den GPU-Typ aus, der den geschätzten Zielwert ( $\alpha \hat{t} + \beta w + \gamma \hat{e}$ ) für die aktuelle Aufgabe minimiert.
Wertbasierter Algorithmus (Value-Based Algorithm): Inspiriert vom multiplen Knapsack-Problem (Rucksackproblem), betrachtet dieser Algorithmus die gesamte Warteschlange. Er weist Aufgaben basierend auf ihrem „Wert“ bei der Reduzierung der gesamten Wartezeit und der Energiekosten zu, anstatt strikt der Ankunftsreihenfolge zu folgen.

C. Umgang mit Out-of-Distribution (OOD) Aufgaben

Die Autoren identifizieren eine potenzielle Inkonsistenz, bei der funktional äquivalenter Code, der von verschiedenen Ingenieuren geschrieben wurde, zu unterschiedlichen LLM-Repräsentationen führen kann, was Vorhersagefehler zur Folge hat. Um dies abzumildern, schlagen sie eine erweiterte Pipeline vor:

Align-LLM: Wenn die Repräsentation einer neuen Aufgabe signifikant von den Trainingsclustern abweicht, schreibt ein Hilfsmodell namens „Align-LLM“ den Quellcode um, um ihn an den Stil ähnlicher Aufgaben in der lokalen Codebasis anzupassen. Dies gleicht die Eingabserepräsentation an die Trainingsverteilung an und verbessert so die Vorhersagegenauigkeit, ohne die Funktionalität des Codes zu verändern.

3. Zentrale Beiträge

Methodische Beiträge

LLM-basiertes vielseitiges prädiktives Modell: Die erste umfassende End-to-End-Lösung, die rohen Quellcode als Eingabe verwendet, um die Ausführungszeit und den Energieverbrauch zu schätzen. Sie eliminiert die Notwendigkeit aufgabenspezifischer, handgefertigter Merkmale.
Vollautomatisches prädiktives Scheduling-System: Ein einheitliches Framework, das in der Lage ist, jeden eingereichten Aufgabentyp zu verarbeiten und sofortige Schätzungen bereitzustellen, wodurch die Einschränkungen traditioneller, starrer Vorhersagemodelle überwunden werden.
Sequenzielle Entscheidungsfindung: Ein datengesteuerter Algorithmus, der das komplexe, mehrzielige Ressourcenallokationsproblem mit Warteschlangen adressiert – ein Szenario, in dem Standard-Analyselösungen versagen.

Anwendungsbezogene Beiträge

Praktische Implementierung: Die Pipeline wird innerhalb einer Sekunde ausgeführt, was ein Echtzeit-Scheduling ermöglicht. Sie ist selbst bei begrenzten Trainingsdaten effektiv.
Mehrzweckige Nachhaltigkeit: Das Framework ist darauf ausgelegt, erweiterbar zu sein, sodass es verschiedene Nachhaltigkeitsmetriken (z. B. Kohlenstoffemissionen, Wasserverbrauch) vorhersagen kann, sofern die entsprechenden Daten verfügbar sind.

4. Experimentelle Ergebnisse

Die Autoren validierten ihren Ansatz durch eine Zusammenarbeit mit einem Rechenzentrum unter Verwendung von zwei Monaten Betriebsdaten (1. Juli 2024 – 1. September 2024).

Leistungsmetriken: Im Vergleich zur Baseline des Rechenzentrums („Simple Rule“: First-Come-First-Served mit Präferenz für die leistungsstärkste GPU) erreichte der vorgeschlagene wertbasierte Algorithmus:
- Eine Reduktion des Gesamtenergieverbrauchs (TEC) um 32 %.
- Eine Reduktion der gesamten Wartezeit (TWT) um 30 %.
- Eine Reduktion der Anzahl verzögerter Aufgaben um 24 %.
Vergleich: Der wertbasierte Algorithmus schnitt signifikant besser ab als der Greedy-Algorithmus, da er den globalen Zustand der Warteschlange berücksichtigte, anstatt nur die unmittelbare Aufgabe zu betrachten.
Robustheit: Die erweiterte Pipeline mit dem Align-LLM milderte Vorhersagefehler durch Variationen im Codestil erfolgreich ab, indem sie Out-of-Distribution-Aufgaben näher an die Trainingsverteilung brachte und so die Vorhersagegenauigkeit verbesserte.

5. Bedeutung und Behauptungen

Das Paper behauptet, dass diese Arbeit eine praktische, skalierbare Lösung für die Modernisierung von Rechenzentrumsoperationen bietet, um Nachhaltigkeitsziele zu erreichen. Durch die Nutzung des kontextuellen Verständnisses und der Generalisierungsfähigkeiten von LLMs überwindet das vorgeschlagene System die Starrheit traditioneller heuristischer und physikbasierter Vorhersagemethoden.

Die Autoren betonen, dass ihr Ansatz:

Infrastruktur vorantreibt: Er bietet einen Weg zu effizienteren und umweltfreundlicheren KI-Infrastrukturen.
Theorie und Praxis verbindet: Er demonstriert, dass LLMs mit minimalem Datenbedarf effektiv in Echtzeit-Entscheidungszyklen integriert werden können.
Skalierbarkeit bietet: Die einheitliche Natur des Modells ermöglicht es ihm, sich an diverse Aufgabentypen und zukünftige Nachhaltigkeitsmetriken anzupassen, ohne die Architektur der Vorhersage vollständig neu entwerfen zu müssen.

Die Arbeit kommt zu dem Schluss, dass die Integration von LLM-basierter prädiktiver Modellierung mit sequenzieller Entscheidungsfindung eine praktikable Strategie ist, um die Umweltauswirkungen von KI-gesteuerten Arbeitslasten signifikant zu reduzieren und gleichzeitig die operative Effizienz zu steigern.