Service-preserving carbon- and water-aware resource allocation for geo-distributed AI inference
Dit artikel stelt een trace-gestuurd, tweestaps lexicografisch raamwerk voor geo-gedistribueerde AI-inferentie voor dat de haalbaarheid van de dienstverlening prioriteert terwijl de koolstofemissies worden geoptimaliseerd onder strikte fysieke waterbeperkingen, waarbij significante milieutrade-offs worden aangetoond en een reproduceerbare benchmark wordt geboden voor duurzame toewijzing van middelen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Wanneer kunstmatige intelligentiesystemen een vraag beantwoorden of een afbeelding genereren, bestaan ze niet in een vacuüm. Ze draaien op enorme netwerken van computers verspreid over verschillende steden en landen, een opstelling die bekendstaat als geo-gedistribueerde computing. Hoewel deze systemen krachtig zijn, verbruiken ze enorme hoeveelheden elektriciteit en water om de servers te koelen die hen draaiende houden. De elektriciteit komt uit elektriciteitsnetten die variëren in hoe schoon ze zijn; sommige regio's leunen zwaar op kolen, terwijl andere wind of zon gebruiken. Evenzo wordt het water dat gebruikt wordt om deze machines te koelen, onttrokken aan lokale rivieren en reservoirs, die afhankelijk van het seizoen en het lokale klimaat te maken hebben met verschillende niveaus van stress. De uitdaging voor ingenieurs is om te beslissen waar ze elke aanvraag naartoe sturen. Ze moeten een balans vinden tussen de behoefte aan snelheid, de beschikbaarheid van computerkracht en de wens om de schade aan het milieu te minimaliseren. Als een systeem werk simpelweg naar het schoonste elektriciteitsnet stuurt, kan het per ongeluk een lokale rivier uitputten in een gebied dat kampt met droogte. Als het werk verplaatst om water te besparen, kan het meer koolstof uitstoten. Het vinden van de juiste balans zonder de dienstverlening te vertragen is een complexe puzzel die onderzoekers pas net beginnen op te lossen.
Een team van onderzoekers aan de North China Electric Power University heeft een nieuwe manier ontwikkeld om dit puzzelstuk op te lossen, specifiek gericht op de enorme AI-systemen die afbeeldingen en tekst genereren. Ze creëerden een tweestaps planningsmethode die ervoor zorgt dat de AI-dienst nooit vertraagt of faalt, zelfs niet terwijl het systeem probeert milieuvriendelijker te zijn. Hun aanpak beschouwt de dienst zelf als het belangrijkste te beschermen element. Eerst berekent het systeem de absolute maximale hoeveelheid werk die het kan voltooien, gegeven de huidige beperkingen van computercapaciteit, netwerksnelheid en de reistijd van gegevens. Zodra dit maximum is vastgelegd, zoekt het systeem vervolgens naar de beste manier om exact diezelfde hoeveelheid werk te verdelen om koolstofemissies en waterverbruik te verminderen. Deze methode voorkomt een veelvoorkomende fout waarbij een systeem beweert "groener" te zijn door simpelweg minder werk te doen of moeilijke taken over te slaan. In plaats daarvan vindt het de groenste route voor de volledige werklast.
De onderzoekers testten hun methode met behulp van een echt verslag van meer dan 26.000 succesvolle AI-aanvragen die plaatsvonden over een periode van 554 uur. Ze simuleerden een netwerk met vier verschillende regio's, elk met zijn eigen mix van energiebronnen, watervoorziening en computerlimieten. In hun meest gedetailleerde test creëerden ze een kaart met 21 verschillende scenario's, variërend van het toestaan van alle waterconsumptie tot het volledig verbieden van watergebruik in de meest belaste gebieden. Ze ontdekten dat door door het strikt vermijden van watergebruik in regio's waar water al schaars is, het systeem 2,4250 liter directe water kon besparen vergeleken met een standaardbenadering die alleen om koolstof geeft. Deze besparing ging gepaard met een zeer kleine kostenpost: het systeem produceerde een aanvullende 0,0582 kilogram koolstofdioxide-equivalent. Echter, zelfs met deze kleine toename bleef de totale koolstofvoetafdruk aanzienlijk lager dan wanneer het systeem simpelweg geweigerd zou hebben werk tussen regio's te verplaatsen om tijd te besparen.
De studie toonde aan dat de kosten van groener zijn niet hetzelfde zijn op elk niveau. Wanneer de onderzoekers de waterregels iets versoepelden, kon het systeem veel water vermijden met bijna geen extra koolstofkosten. Maar naarmate ze de regels strenger maakten, in een poging de allerlaatste druppels water in belaste gebieden te vermijden, begonnen de koolstofkosten scherp te stijgen. Dit creëert een duidelijke trade-off curve, of frontlijn, die managers kunnen gebruiken om beslissingen te nemen. Ze kunnen precies zien hoeveel extra koolstof ze zouden moeten accepteren om een specifieke hoeveelheid water te besparen. De onderzoekers testten ook duizenden verschillende combinaties van elektriciteitsnetcondities, computersnelheden en netwerkvertragingen om ervoor te zorgen dat hun bevindingen standhielden onder druk. Ze ontdekten dat hoewel de exacte cijfers veranderden afhankelijk van de omstandigheden, de algemene richting hetzelfde bleef: het is mogelijk om de dienst te beschermen, water te besparen in belaste gebieden en tegelijkertijd de koolstofemissies laag te houden.
Een van de belangrijkste bevindingen was dat de locatie van het water belangrijker is dan de totale hoeveelheid. Omdat het water dat gebruikt wordt om servers te koelen wordt berekend op basis van hoeveelheid elektriciteit die wordt verbruikt, veranderde het totale volume aan water dat door het systeem werd geconsumeerd niet simpelweg omdat ze het werk verplaatsten. Wat veranderde, was waar dat water vandaan kwam. Door het werk weg te verschuiven van regio's met een hoge waterstress naar regio's met voldoende water, voorkwam het systeem druk op kwetsbare lokale ecosystemen. De onderzoekers bevestigden dat dit resultaat geen toevalstreffer was van hun specifieke data; ze draaiden duizenden simulaties met verschillende tijdspatronen en waterefficiëntiepercentages, en de kernconclusie bleef stabiel. De methode biedt een transparante, controleerbare manier om deze enorme AI-systemen te beheren, waardoor exploitanten duidelijke limieten kunnen stellen aan het waterverbruik en de exacte milieuprijs van die limieten kunnen zien voordat ze worden toegepast. Dit geeft besluitvormers een instrument om de eisen van een groeiende digitale wereld in balans te brengen met de fysieke grenzen van de planeet, en ervoor te zorgen dat de AI van de toekomst efficiënt kan draaien zonder de middelen uit te putten waarvan zij afhankelijk is.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.