AgentDecarbonizer: Carbon-Aware Execution for AI Agents
Ce document présente AgentDecarbonizer, un optimiseur d'exécution sensible au carbone pour les agents IA qui réduit les émissions de carbone jusqu'à 57,9 % en exploitant la flexibilité des échéances pour planifier les tâches pendant les périodes de faible intensité carbone ou sur des réseaux plus propres, tout en tenant compte des incertitudes d'exécution et des frais généraux de recomputation du cache.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Chaque fois qu'un ordinateur effectue un calcul, il puise de l'électricité sur le réseau électrique. Cette électricité n'est pas toujours propre ; selon l'origine de l'énergie et le moment où elle est générée, le processus peut rejeter des quantités variables de dioxyde de carbone dans l'atmosphère. Ces dernières années, un nouveau type de logiciel est apparu, agissant comme un assistant numérique capable d'une pensée complexe et multi-étapes. Contraigèrement à un simple chatbot qui répond à une seule question puis s'arrête, ces agents autonomes peuvent planifier un long voyage, le diviser en tâches plus petites, utiliser des outils pour recueillir des informations et corriger leurs propres erreurs en cours de route. Ils peuvent écrire du code, analyser des données ou gérer des calendriers sans supervision humaine constante. Cependant, parce que ces agents fonctionnent pendant des périodes plus longues et effectuent beaucoup plus de requêtes auprès des modèles d'intelligence artificielle sous-jacents qu'un chat standard, ils consomment nettement plus d'énergie. À mesure que ces outils deviennent plus courants, l'empreinte carbone de leur pensée incessante devient une préoccupation environnementale sérieuse.
Des chercheurs de l'Université de Waterloo et de l'Université de Chicago ont développé un nouveau système conçu pour rendre ces assistants numériques plus respectueux de l'environnement sans les ralentir ni les rendre moins efficaces. Ils appellent leur outil AgentDecarbonizer. Pour comprendre comment il fonctionne, il faut d'abord observer comment ces agents opèrent. Lorsqu'un agent reçoit une tâche, il ne se contente pas de réfléchir une seule fois ; il réfléchit en boucle. Il pose une question, reçoit une réponse, utilise un outil comme une recherche web ou un éditeur de fichiers, puis utilise cette nouvelle information pour poser la question suivante. Ce cycle se répète de nombreuses fois. Les chercheurs ont découvert que ce processus est incroyablement lourd en « entrée », ce qui signifie que l'agent envoie une vaste quantité de texte au modèle informatique pour le tenir informé de l'historique de la conversation et des étapes précédentes. Comme l'agent répète souvent des parties de cet historique, le système informatique peut économiser de l'énergie en mémorisant ce qu'il a déjà traité, une technique connue sous le nom de mise en cache du contexte (context caching). Si l'agent reste au même endroit, il peut réutiliser ces souvenirs sauvegardés. S'il se déplace vers un nouvel emplacement, il doit oublier et réapprendre tout, ce qui gaspille de l'énergie.
L'équipe a découvert que le coût carbone de l'exécution de ces agents dépend fortement de deux choses : l'endroit où l'ordinateur est situé et le moment où le travail est effectué. Le réseau électrique dans différentes parties du monde repose sur différentes sources d'énergie. Certaines régions tirent l'essentiel de leur puissance de l'éolien, du solaire ou de barrages hydroélectriques, qui produisent très peu de carbone. D'autres dépendent davantage des combustibles fossiles comme le charbon ou le gaz, qui en produisent beaucoup plus. De plus, le mélange énergétique change tout au long de la journée. Un réseau peut être très propre à midi lorsque le soleil brille, mais devenir plus polluant la nuit lorsque l'énergie solaire n'est plus disponible. Les chercheurs ont observé qu'un agent s'exécutant dans une région à un moment précis pouvait produire près de trois fois les émissions de carbone du même agent s'exécutant dans une autre région ou à un moment différent.
Pour résoudre ce problème, les chercheurs ont construit AgentDecarbonizer pour qu'il agisse comme un planificateur intelligent qui fonctionne aux côtés de l'agent. Au lieu de laisser l'agent commencer son travail immédiatement, le système anticipe. Il estime le temps que prendra la tâche et vérifie les prévisions de propreté de l'électricité dans différentes parties du monde. Si l'agent a une échéance flexible, comme une tâche qui doit être terminée dans les vingt-quatre heures, le système peut attendre un moment où le réseau est le plus propre. Il peut également décider de déplacer le travail vers une région où l'air est plus pur. Cependant, le système fait attention à ne pas déplacer le travail simplement parce qu'une région semble plus propre sur le papier. Il calcule si l'énergie économisée par l'utilisation d'une énergie propre serait gaspillée par l'effort de déplacer la mémoire de l'agent vers un nouvel emplacement. Si le coût du déplacement et de l'apprentissage est trop élevé, le système maintient l'agent là où il se trouve, même si l'énergie locale est légèrement plus sale.
Les chercheurs ont testé leur système en utilisant une collection de soixante tâches réalistes, allant de l'analyse de documents scientifiques au débogage de code informatique. Ils ont exécuté ces tâches à travers quatre réseaux électriques différents avec des mélanges énergétiques variés. Les résultats ont montré qu'en choisissant soigneusement quand et où exécuter le travail, le système pouvait réduire considérablement les émissions de carbone. Lorsqu'on lui donnait une journée entière pour accomplir une tâche, le système réduisait les émissions jusqu'à 57,9 % par rapport à une approche standard qui ignore le carbone. Même lorsque l'échéance était serrée, avec seulement trois heures pour finir, le système réussissait toujours à réduire les émissions de plus de 34 %. Le système a prouvé qu'il est possible de rendre ces puissants assistants numériques plus durables en étant simplement plus intelligents sur le moment et l'endroit où ils effectuent leur travail, garantissant que l'avenir de l'intelligence artificielle ne se fasse pas au détriment du climat de la planète.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.