AgentDecarbonizer: Carbon-Aware Execution for AI Agents
Dieses Paper stellt AgentDecarbonizer vor, einen kohlenstoffbewussten Ausführungsoptimierer für KI-Agenten, der die Kohlenstoffemissionen um bis zu 57,9 % reduziert, indem er die Flexibilität von Fristen nutzt, um Aufgaben in Zeiten mit geringer Kohlenstoffintensität oder auf saubereren Stromnetzen zu planen, während gleichzeitig Ausführungsunsicherheiten und Cache-Rekomputationsaufwand berücksichtigt werden.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Jedes Mal, wenn ein Computer eine Berechnung durchführt, bezieht er Elektrizität aus dem Stromnetz. Diese Elektrizität ist nicht immer sauber; je nachdem, woher der Strom kommt und wann er erzeugt wird, kann der Prozess unterschiedliche Mengen an Kohlendioxid in die Atmosphäre freisetzen. In den letzten Jahren ist eine neue Art von Software entstanden, die wie ein digitaler Assistent fungiert, der zu komplexem, mehrstufigem Denken fähig ist. Im Gegensatz zu einem einfachen Chatbot, der eine einzige Frage beantwortet und dann aufhört, können diese autonomen Agenten eine lange Reise planen, sie in kleinere Aufgaben unterteilen, Werkzeuge nutzen, um Informationen zu sammeln, und ihre eigenen Fehler auf dem Weg korrigieren. Sie können Code schreiben, Daten analysieren oder Zeitpläne verwalten, ohne ständiger menschlicher Aufsicht. Da diese Agenten jedoch über längere Zeiträume laufen und weitaus mehr Anfragen an die zugrunde liegenden Modelle der künstlichen Intelligenz stellen als ein Standard-Chat, verbrauchen sie jedoch signifikant mehr Energie. Da diese Werkzeuge immer verbreiteter werden, wird der CO2-Fußabdruck ihres endlosen Denkens zu einem ernsthaften Umweltproblem.
Forscher der University of Waterloo und der University of Chicago haben ein neues System entwickelt, das darauf ausgelegt ist, diese digitalen Assistenten umweltfreundlicher zu machen, ohne sie zu verlangsamen oder weniger effektiv zu machen. Sie nennen ihr Werkzeug AgentDecarbonizer. Um zu verstehen, wie es funktioniert, muss man zuerst betrachten, wie diese Agenten arbeiten. Wenn ein Agent eine Aufgabe erhält, denkt er nicht nur einmal; er denkt in einer Schleife. Er stellt eine Frage, erhält eine Antwort, nutzt ein Werkzeug wie eine Websuche oder einen Dateieditor und nutzt diese neuen Informationen dann, um die nächste Frage zu stellen. Dieser Zyklus wiederholt sich viele Male. Die Forscher fanden heraus, dass dieser Prozess unglaublich schwer auf „Input“ lastet, was bedeutet, dass der Agent eine riesige Menge an Text an das Computermodell sendet, um es über den Gesprächsverlauf und die vorangegangenen Schritte auf dem Laufenden zu halten. Da der Agent oft Teile dieser Historie wiederholt, kann das Computersystem Energie sparen, indem es sich merkt, was es bereits verarbeitet hat – eine Technik, die als Context Caching bekannt ist. Wenn der Agent am selben Ort bleibt, kann er diese gespeicherten Erinnerungen wiederverwenden. Wenn er sich an einen anderen Ort bewegt, muss er alles vergessen und neu lernen, was Energie verschwendet.
Das Team stellte fest, dass die Kohlenstoffkosten beim Betrieb dieser Agenten stark von zwei Dingen abhängen: wo der Computer lokalisiert ist und wann die Arbeit erledigt wird. Das Stromnetz in verschiedenen Teilen der Welt stützt sich auf unterschiedliche Energiequellen. Einige Regionen beziehen den Großteil ihres Stroms aus Wind, Sonne oder Wasserkraftwerken, die sehr wenig Kohlenstoff produzieren. Andere verlassen sich stärker auf fossile Brennstoffe wie Kohle oder Gas, die wesentlich mehr produzieren. Darüber hinaus ändert sich die Zusammensetzung der Energie im Laufe des Tages. Ein Stromnetz kann mittags, wenn die Sonne scheint, sehr sauber sein, aber nachts, wenn die Solarenergie nicht verfügbar ist, schmutziger werden. Die Forscher beobachteten, dass ein Agent, der in einer bestimmten Region zu einer bestimmten Zeit läuft, fast dreimal so viele Kohlenstoffemissionen erzeugen kann wie derselbe Agent, der in einer anderen Region oder zu einer anderen Zeit läuft.
Um dies zu lösen, bauten die Forscher AgentDecarbonizer, um als intelligenter Scheduler zu fungieren, der parallel zum Agenten läuft. Anstatt den Agenten sofort mit seiner Arbeit beginnen zu lassen, blickt das System voraus. Es schätzt, wie lange die Aufgabe dauern wird, und prüft die Vorhersage für die Sauberkeit der Elektrizität in verschiedenen Teilen der Welt. Wenn der Agent eine flexible Frist hat, wie etwa eine Aufgabe, die innerhalb von vierundzwanzig Stunden abgeschlossen werden muss, kann das System warten, bis das Stromnetz am saubersten ist. Es kann auch entscheiden, die Arbeit in eine Region zu verlagern, in der die Luft sauberer ist. Das System ist jedoch vorsichtig, die Arbeit nicht einfach nur deshalb zu verschieben, weil eine Region auf dem Papier sauberer aussieht. Es berechnet, ob die durch die Nutzung sauberer Energie eingesparte Energie durch den Aufwand der Verschiebung des Agenten-Gedächtnisses an einen neuen Ort verschwendet würde. Wenn die Kosten für das Verschieben und Neulernen zu hoch sind, behält das System den Agenten dort, wo er ist, selbst wenn der lokale Strom etwas schmutziger ist.
Die Forscher testeten ihr System mit einer Sammlung von sechzig realistischen Aufgaben, die von der Analyse wissenschaftlicher Arbeiten bis hin zum Debugging von Computercode reichten. Sie führten diese Aufgaben über vier verschiedene Stromnetze mit variierenden Energiemixen aus. Die Ergebnisse zeigten, dass das System durch die sorgfältige Wahl des Zeitpunkts und des Ortes der Ausführung die Kohlenstoffemissionen drastisch senken konnte. Wenn es einen vollen Tag Zeit hatte, um eine Aufgabe abzuschließen, reduzierte das System die Emissionen im Vergleich zu einem Standardansatz, der Kohlenstoff ignoriert, um bis zu 57,9 Prozent. Selbst wenn die Frist eng war und nur drei Stunden zur Fertigstellung verblieben, schaffte es das System immer noch, die Emissionen um über 34 Prozent zu senken. Das System bewies, dass es möglich ist, diese leistungsstarken digitalen Assistenten nachhaltiger zu machen, indem man einfach klüger darüber entscheidet, wann und wo sie ihre Arbeit verrichten, um sicherzustellen, dass die Zukunft der künstlichen Intelligenz nicht auf Kosten des Klimas unseres Planeten geht.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.