AgentDecarbonizer: Carbon-Aware Execution for AI Agents
Dit artikel introduceert AgentDecarbonizer, een koolstofbewuste executie-optimizer voor AI-agenten die de koolstofemissies met wel 57,9% vermindert door gebruik te maken van deadlineflexibiliteit om taken te plannen tijdens perioden met een lage koolstofintensiteit of op schonere elektriciteitsnetten, terwijl rekening wordt gehouden met executieonzekerheden en de overhead van cache-herberekening.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Elke keer dat een computer een berekening uitvoert, trekt deze elektriciteit uit het elektriciteitsnet. Die elektriciteit is niet altijd schoon; afhankelijk van waar de stroom vandaan komt en wanneer deze wordt opgewekt, kan het proces variërende hoeveelheden kooldioxide in de atmosfeer vrijgeven. In de afgelopen jaren is er een nieuw soort software opgekomen dat fungeert als een digitale assistent die in staat is tot complexe, meerstapsdenkprocessen. In tegen afzetting van een eenvoudige chatbot die één vraag beantwoordt en stopt, kunnen deze autonome agenten een lange reis plannen, deze opdelen in kleinere taken, hulpmiddelen gebruiken om informatie te verzamelen en hun eigen fouten onderweg te corrigeren. Ze kunnen code schrijven, gegevens analyseren of schema's beheren zonder constante menselijke supervisie. Omdat deze agenten echter gedurende langere perioden draaien en veel meer verzoeken naar de onderliggende kunstmatige intelligentiemodellen sturen dan een standaard chat, verbruiken ze aanzienlijk meer energie. Nu deze tools gebruikelijker worden, vormt de koolstofvoetafdruk van hun eindeloze denkwerk een serieus milieuprobleem.
Onderzoekers aan de University of Waterloo en de University of Chicago hebben een nieuw systeem ontwikkeld dat ontworpen is om deze digitale assistenten milieuvriendelijker te maken zonder ze te vertragen of minder effectief te maken. Ze noemen hun hulpmiddel AgentDecarbonizer. Om te begrijpen hoe het werkt, moet men eerst kijken naar hoe deze agenten opereren. Wanneer een agent een taak krijgt, denkt hij niet slechts één keer; hij denkt in een lus. Hij stelt een vraag, ontvangt een antwoord, gebruikt een hulpmiddel zoals een webzoekopdracht of een bestand-editor, en gebruikt die nieuwe informatie vervolgens om de volgende vraag te stellen. Deze cyclus herhaalt zich vele malen. De onderzoekers ontdekten dat dit proces ongelooflijk zwaar is op "input", wat betekent dat de agent een enorme hoeveelheid tekst naar het computermodel stuurt om het op de hoogte te houden van de gesprekshistorie en voorgaande stappen. Omdat de agent vaak delen van deze geschiedenis herhaalt, kan het computersysteem energie besparen door te onthouden wat het al heeft verwerkt, een techniek die bekend staat als context caching. Als de agent op dezelfde plek blijft, kan hij deze opgeslagen herinneringen hergebruiken. Als hij naar een andere locatie beweegt, moet hij alles vergeten en opnieuw leren, wat energie verspilt.
Het team ontdekte dat de koolstofkosten van het draaien van deze agenten sterk afhangen van twee zaken: waar de computer zich bevindt en wanneer het werk wordt uitgevoerd. Het elektriciteitsnet in verschillende delen van de wereld vertrouwt op verschillende energiebronnen. Sommige regio's halen het grootste deel van hun stroom uit wind, zon of waterkrachtcentrales, die zeer weinig kooldioxide produceren. Andere regio's vertrouwen meer op fossiele brandstoffen zoals kolen of gas, die veel meer produceren. Bovendien verandert de mix van energie gedurende de dag. Een netwerk kan heel schoon zijn rond het middaguur wanneer de zon schijnt, maar vuiler worden in de nacht wanneer zonne-energie niet beschikbaar is. De onderzoekers observeerden dat een agent die in één regio op een specifiek tijdstip draait, bijna drie keer zoveel koolstofemissies kan produceren als dezelfde agent die in een andere regio of op een ander tijdstip draait.
Om dit op te lossen, bouwden de onderzoekers AgentDecarbonizer om te fungeren als een slimme planner die naast de agent draait. In plaats van de agent direct met zijn werk te laten beginnen, kijkt het systeem vooruit. Het schat in hoe lang de taak zal duren en controleert de voorspelling voor de zuiverheid van de elektriciteit in verschillende delen van de wereld. Als de agent een flexibele deadline heeft, zoals een taak die binnen vierentwintig uur voltooid moet zijn, kan het systeem wachten op een moment waarop het netwerk het schoonst is. Het kan ook besluiten om het werk te verplaatsen naar een regio waar de lucht schoner is. Het systeem is echter voorzichtig om het werk niet te verplaatsen enkel omdat een regio op papier schoner lijkt. Het berekent of de energie die bespaard wordt door het gebruik van schone stroom, niet verloren gaat aan de inspanning om de geheugen van de agent naar een nieuwe locatie te verplaatsen. Als de kosten van het verplaatsen en opnieuw leren te hoog zijn, houdt het systeem de agent op zijn plek, zelfs als de lokale stroom iets vuiler is.
De onderzoekers testten hun systeem met een collectie van zestig realistische taken, variërend van het analyseren van wetenschappelijke artikelen tot het debuggen van computercode. Ze voerden deze taken uit over vier verschillende elektriciteitsnetten met variërende energiemixen. De resultaten lieten zien dat door zorgvuldig te kiezen wanneer en waar het werk wordt uitgevoerd, het systeem de koolstofemissies drastisch kon verminderen. Wanneer het een volledige dag kreeg om een taak te voltooien, verminderde het systeem de emissies met wel 57,9 procent vergeleken met een standaardbenadering die koolstof negeert. Zelfs toen de deadline krap was, met slechts drie uur om te voltooien, slaagde het systeem er nog steeds in om de emissies met meer dan 34 procent te verminderen. Het systeem bewees dat het mogelijk is om deze krachtige digitale assistenten duurzamer te maken door simpelweg slimmer te zijn over wanneer en waar ze hun werk doen, zodat de toekomst van kunstmatige intelligentie niet ten koste gaat van het klimaat van de planeet.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.