🤖 AI

Green SARC: Predictive Cost and Carbon Governance for Agentic AI Systems

L'article présente Green SARC, un cadre de gouvernance architecturale qui intègre des contrôles prédictifs de coût et de carbone directement dans les boucles d'IA agentiques afin de prévenir les dépassements budgétaires et de réaliser des économies significatives de jetons, de finances et de carbone, contrastant sa fiabilité supérieure par rapport à la surveillance post-exécution et aux méthodes de pénalité souple.

Auteurs originaux : Gaston Besanson

Publié 2026-06-16

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Gaston Besanson

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous engagiez un assistant très enthousiaste et hautement qualifié (une « IA Agentique ») pour accomplir une tâche complexe. Cet assistant ne se contente pas d'exécuter une seule tâche ; il décompose le travail, utilise des outils, demande l'aide d'autres assistants et continue jusqu'à ce que le travail soit terminé.

Le problème ? Cet assistant n'a aucune notion de budget ou de limite d'énergie. Il pourrait accidentellement épuiser tout le solde de votre carte de crédit ou utiliser assez d'électricité pour alimenter une petite ville, tout en essayant de résoudre un problème simple.

Ce document présente Green SARC, un nouveau « système de gouvernance » conçu pour stopper cette dérive financière et environnementale avant qu'elle ne se produise. Voici comment cela fonctionne, expliqué à travers des analogies de la vie quotidienne.

1. Le Problème : La « Boule de Neige » et le « Tableau de Bord »

Actuellement, les entreprises gèrent les coûts de l'IA de deux manières :

Le Tableau de Bord : Elles consultent une facture après la fin du mois. À ce moment-là, l'argent est déjà dépensé et le carbone est déjà émis. C'est comme consulter son compte bancaire après avoir déjà plafonné sa carte de crédit.
La Pénalité Douce : On dit à l'IA : « S'il te plaît, essaie d'être peu coûteuse. » Mais l'IA n'est qu'un optimiseur ; si elle pense qu'en dépensant plus d'argent elle obtient un meilleur résultat, elle dépensera volontiers plus. C'est comme dire à une personne affamée de « manger modérément » alors qu'elle se trouve devant un buffet à volonté.

La « Boule de Neige d'État » : Le papier a découvert une raison spécifique pour laquelle les coûts explosent. Si une IA conserve une liste de tout ce qu'elle a fait jusqu'à présent (le « contexte ») et l'ajoute à chaque nouveau message, le message devient de plus en plus long.

Analogie : Imaginez que vous écrivez une lettre. Dans le premier paragraphe, vous écrivez 10 mots. Dans le deuxième, vous recopiez le premier paragraphe et ajoutez 10 mots de plus. Dans le troisième, vous recopiez les deux premiers et ajoutez 10 mots de plus. Au 20ème paragraphe, vous recopiez des milliers de mots juste pour dire « Bonjour ».
Le papier prouve mathématiquement que cela provoque une croissance quadratique (exponentielle) des coûts. Les données du monde réel montrent que cela arrive même plus vite que ce que les mathématiques prédisent.

2. La Solution : La « Porte de Pré-Action »

Green SARC installe un Portier juste avant que l'IA ne prenne une action. Ce n'est pas un tableau de bord ; c'est un videur à la porte.

Comment ça marche : Avant que l'IA n'envoie un message, le Portier demande : « Si tu envoies ceci, combien cela coûtera-t-il ? Avons-nous assez d'argent restant dans le budget ? »
La Prédiction : Le Portier ne devine pas ; il utilise une prévision apprise. Il examine le contexte et prédit le coût.
Le Filet de Sécurité : Le papier utilise un truc statistique appelé Prédiction Conforme. Considérez cela comme une « marge de sécurité ». Si l'IA prédit un coût de 10 $, le Portier ajoute une marge (disons 5 $) pour être sûr. Il ne laisse passer l'action que si ces 15 $ sont inférieurs au budget restant.
Le Résultat : Le papier montre que ce Portier ne laisse jamais le budget être dépassé (0 % de taux d'échec dans leurs tests), alors que les « pénalités douces » (demander simplement à l'IA d'être prudente) échouent 91,5 % du temps.

3. Les Quatre « Postes de Garde »

Le système utilise quatre points de contrôle spécifiques (empruntés à un cadre appelé SARC) pour maintenir l'IA sur les rails :

La Porte de Pré-Action (Le Videur) : Arrête les actions coûteuses avant qu'elles ne se produisent.
Le Moniteur de Temps d'Action (Le Chronomètre) : Si l'IA s'enlise dans une boucle (répétant la même erreur encore et encore), cela coupe l'alimentation immédiatement.
L'Auditeur Post-Action (Le Comptable) : Après l'action, il vérifie : « Le coût correspond-il à notre prédiction ? » Si l'IA a menti ou si la prédiction était erronée, elle apprend de cette erreur pour s'améliorer la prochaine fois.
Le Routeur d'Escalade (Le Manager) : Si le budget est totalement épuisé, il transmet la tâche à un humain ou à un système plus simple et moins coûteux.

4. Les Résultats : Des Économies Réelles

Les auteurs ont testé cela sur des données réelles et des scénarios synthétiques. Voici ce qu'ils ont trouvé :

Économies Massives : En utilisant le Portier et les autres outils, ils ont réduit les coûts (argent, jetons/tokens et carbone) de 47 % à 55 %.
Le Bouton « Portée » (Scope) : Le plus grand économiseur a été de limiter simplement la quantité d'historique dont l'IA se souvient (arrêter la « Boule de Neige »). C'est comme dire à l'IA : « Ne regarde que les 5 dernières minutes de conversation, pas toute la journée. »
Le Bouton « Routage » : Si l'IA doit effectuer une tâche simple, le système l'oriente automatiquement vers un modèle plus petit et moins cher. Si elle doit effectuer une tâche difficile, il utilise le modèle coûteux. Cela permet d'économiser de l'argent sans changer le nombre de mots utilisés.
La Sécurité d'Abord : Le système garantit que le budget ne sera jamais dépassé. Ce n'est pas un « peut-être » ; c'est une règle stricte imposée par l'architecture.

5. Ce que ce n'est PAS

Ce n'est pas une baguette magique pour la qualité : Le papier admet que si vous coupez le contexte de manière trop agressive (pour économiser de l'argent), l'IA peut commettre des erreurs. Le système économise de l'argent, mais l'opérateur humain doit décider de la part de qualité qu'il est prêt à sacrifier pour ces économies.
Ce n'est pas seulement pour des objectifs « Verts » : Bien qu'il suive le carbone, le moteur principal est financier (FinOps). Économiser de l'argent et économiser du carbone vont ici de pair.
Ce n'est pas parfait contre les menteurs : Si une IA est trompée pour faire croire qu'une tâche est peu coûteuse alors qu'elle est en réalité coûteuse (une attaque adverse), le Portier pourrait la laisser passer. Cependant, l'« Auditeur » détectera cette erreur par la suite et la consignera, afin que le système apprenne à ne plus se faire piéger.

Résumé

Green SARC est une nouvelle façon de gérer les agents d'IA. Au lieu d'attendre l'arrivée de la facture ou d'espérer que l'IA se comporte bien, il place un videur intelligent et mathématiquement prouvé à la porte. Ce videur prédit le coût, ajoute une marge de sécurité et ne laisse l'IA agir que si cela respecte le budget. Le résultat est un système qui économise près de la moitié de l'argent et du carbone tout en garantissant que vous ne dépasserez jamais votre limite.

Résumé Technique : Green SARC

Énoncé du Problème

Le centre de coût de l'intelligence artificielle est passé d'un entraînement à conception fixe à des trajectoires d'inférence stochastiques dans les systèmes agentiques. Contra�то de l'appel API classique aux coûts bornés, les flux de travail agentiques impliquent des séquences dynamiques d'appels de modèles, d'invocations d'outils et de tentatives de réessai, ce qui fait varier la consommation de jetons (tokens) et les coûts financiers/carbone associés de plusieurs ordres de grandeur, même pour des tâches identiques.

Les stratégies d'atténuation actuelles — l'audit post-hoc et le "policy-as-code" évalué parallèlement à la boucle de l'agent — souffrent d'un défaut fondamental : elles évaluent les contraintes après ou à côté de l'exécution. Un dépassement de budget détecté en fin de mois ne peut pas « dé-dépenser » des jetons ; un excédent de carbone consigné dans un tableau de bord ne peut pas « dé-émettre » de carbone. L'article soutient qu'une gouvernance efficace exige que les contraintes soient appliquées à l'intérieur de la boucle d'exécution, en prédisant les coûts avant que les actions ne soient engagées.

Méthodologie : Architecture Green SARC

Green SARC applique le cadre SARC (gouvernance par l'architecture) à la FinOps et à la GreenOps. Il traite les contraintes de coût et de carbone comme des objets de spécification de premier rang, en les appliquant à travers quatre sites spécifiques au sein de la boucle de l'agent :

Porte de Pré-Action (Pre-Action Gate) : L'innovation centrale. Au lieu d'une règle statique, ce site utilise une prévision apprise et calibrée pour prédire le coût en jetons et le carbone d'une action proposée. Il n'admet une action que si la prévision respecte le budget restant avec un niveau de confiance spécifié ( $1-\delta$ ).
Moniteur de Temps d'Action (Action-Time Monitor) : Applique des limites strictes sur le nombre de boucles et les coûts marginaux (coupe-circuits) pour stopper les boucles de réessai ou de replanification incontrôlées.
Auditeur Post-Action (Post-Action Auditor) : Consigne les coûts prédits versus réels pour fournir une piste d'audit et générer des signaux d'entraînement pour l'estimateur.
Routeur d'Escalade (Escalation Router) : Dirige les tâches qui épuisent les budgets ou les plafonds de carbone vers une révision humaine ou des replis déterministes.

Fondements Théoriques

Théorème de la Boule de Neige d'État (State Snowball Theorem) : Le papier formalise le fait que les boucles multi-agents naïves, où chaque étape renvoie l'intégralité du contexte accumulé, engendrent un coût de prompt cumulatif de $\Theta(n^2)$ . Le coefficient principal est $p/2$ , où $p$ est l'incrément de jetons par saut.
Porte Prédictive et Calibration : La porte utilise un estimateur $\hat{f}_\theta$ entraîné sur les résidus historiques. Pour garantir la sécurité sans supposer une distribution spécifique des résidus, le papier emploie la prédiction conforme scindée (split-conformal prediction). Cela fournit une garantie de couverture marginale sans dépendance à la distribution et avec un échantillon fini : la probabilité d'un dépassement de budget pour une action admise est bornée par $\delta$ .
Sécurité Valide à Tout Moment (Anytime-Valid Safety) : En utilisant l'inégalité de Ville et des hypothèses de sous-gaussianité (ou des bornes de Bernstein empiriques pour les données réelles à queue lourde), le cadre fournit une borne uniforme dans le temps sur le dépassement cumulé de dépenses sur n'importe quel préfixe de trajectoire.
Découplage : L'architecture découple explicitement la gouvernance des coûts de la gouvernance de la correction. Un système peut être sûr mais coûteux, ou bon marché mais non sûr ; Green SARC gouverne le premier de manière indépendante.

Contributions Clés

Théorème de la Boule de Neige d'État : Une preuve formelle et une confirmation empirique que l'accrétion de contexte non contrainte mène à une croissance quadratique des coûts, et que limiter l'incrément par saut (via un Nœud Adaptateur) réduit cela à une croissance linéaire.
Porte Prédictive Calibrée : Une porte d'exécution qui généralise la comptabilité basée sur des règles aux prévisions apprises, offrant une garantie de sécurité sans dépendance à la distribution via la calibration conforme scindée.
Dominance de la Frontière de Pareto : Preuve empirique montrant que la porte architecturale domine les approches à pénalité douce (Lagrangien). Alors que les pénalités douces ajustées pour correspondre à un budget en attente violent ce budget sur environ 91,5 % des graines (seeds), la porte architecturale ne viole le budget sur 0 % des graines tout en maximisant le travail accompli.
Validation sur Traces Réelles : La validation de la couverture sur des données réelles ShareGPT (résidus non gausiens) démontre que les portes Normal- $\sigma$ standards sous-couvrent à des niveaux de risque serrés, tandis que la calibration conforme scindée maintient la couverture nominale.
Implémentation Open-Source : Une bibliothèque Python sans dépendances (Phase 1) implémentant l'architecture à quatre sites, incluant une porte Normal- $\sigma$ et un calibrateur conforme scindé optionnel.

Résultats Expérimentaux

Évaluation Synthétique (Charge de travail IBP)

Ablation : Décomposition des économies par levier (Périmètre, Routage, Coupe-circuit).
- Périmètre (Nœud Adaptateur) : Entraîne une réduction des jetons (~43-55 %) en plafonnant la croissance du contexte.
- Routage : Convertit les économies de jetons en USD et en carbone en basculant vers des modèles plus efficaces, sans réduire davantage le nombre de jetons.
- Coupe-circuit : Ajoute des économies de jetons supplémentaires en terminant les boucles incontrôlées.
Budgets Contraignants : Sous des budgets serrés (25 % de la ligne de base), la porte admet 90 % des étapes avec 0 % d'incidence de dépassement de budget, tandis que les pénalités douces ne parviennent pas à terminer les trajectoires sans violer le budget.
Qualité de la Prévision : L'estimateur appris réduit l'erreur absolue moyenne (MAE) de ~~4 000 jetons (démarrage à froid) à la limite du bruit (~~34 jetons) en environ 20 observations.

Validation sur Traces Réelles

ShareGPT (Trafic de Chat) : Les conversations réelles présentent une courbure de prompt cumulatif négative (concave), ce qui signifie que la "boule de neige" $\Theta(n^2)$ est un artefact d'une orchestration naïve, et non une propriété intrinsèque du chat. Cependant, la porte Normal- $\sigma$ sous-couvre les résidus réels (asymétriques, à queue lourde), tandis que la conforme scindée maintient la couverture nominale.
BurstGPT (Trafic de Production) : Sur 50 000 requêtes réelles Azure OpenAI, l'ordre des leviers (Périmètre $\to$ Jetons, Routage $\to$ USD/Carbone) est validé. Le coupe-circuit est resté dormant (pas de tempêtes de réessai), confirmant qu'il s'agit d'une protection pour les scénarios de stress multi-étapes.
SWE-rebench (Agents Multi-étapes) : Sur 3 000 plans d'agents réels résolvant des problèmes GitHub :
- La Boule de Neige d'État est confirmée : 100 % des plans ont montré une courbure quadratique positive ( $\hat{c}_2 > 0$ ), avec une médiane de courbure (216) dépassant la prédiction linéaire (134).
- Le Coupe-circuit est actif : Il s'est déclenché sur 11,4 % des trajectoires, fournissant les économies de jetons marginales pour l'ensemble de la pile.
- Compromis Coût-Utilité : Une troncature agressive du contexte économise des jetons mais risque la résolution de la tâche. Un plafond "sûr" (2 $\times$ médiane) n'a économisé que 2,3 % des jetons, tandis qu'un plafond agressif (0,5 $\times$ ) a économisé 55 % mais a tronqué 100 % des plans dans la pire analyse de cas.

Robustesse Adversaire

Padding conscient du périmètre : Les attaquants peuvent ajouter du remplissage (padding) aux prompts pour rester juste en dessous du plafond afin de maximiser le travail légitime ; la porte admet ces cas (limitation fondamentale de la gouvernance de prompt borné).
Attaques visant la prévision : Les attaques qui gonflent la complétion ou rapportent mal les coûts du modèle sont détectées post-hoc par l'Auditeur, qui consigne les écarts et déclenche l'escalade. L'architecture repose sur la boucle "prédire-agir-consigner-réentraîner" plutôt que sur un rejet parfait au moment de l'admission.

Signification et Revendications

L'article affirme que Green SARC fournit un changement architectural nécessaire pour la gouvernance de l'IA agentique. Sa signification réside dans :

Passer du Post-Hoc au Prédictif : Déplacer le contrôle des coûts de la réconciliation vers la prédiction pré-action avec des garanties de sécurité calibrées.
Contraintes Strictes vs Pénalités Douces : Démontrer que les pénalités finies (relaxation lagrangienne) ne peuvent remplacer les contraintes d'exécution strictes dans des environnements stochastiques ; seule une porte architecturale peut garantir le respect du budget.
Sécurité Sans Dépendance à la Distribution : Prouver que la prédiction conforme est essentielle pour le déploiement réel où les résidus sont non-gausiens, garantissant que la promesse de sécurité tient même lorsque la distribution des données sous-jacentes change.
Modularité : Le cadre est orthogonal à la gouvernance de la correction (SARC) et peut être déployé indépendamment pour gérer les factures cloud et l'empreinte carbone sans modifier la logique de base de l'agent.

Les auteurs notent explicitement les limites : l'implémentation actuelle (Phase 1) utilise un budget à processus unique et une porte Normal- $\sigma$ par défaut (avec le conforme en option). La "Boule de Neige d'État" est confirmée comme un mode de défaillance d'une orchestration naïve, et non une propriété intrinsèque de la conversation. Le papier présente ces résultats avec modestie, reconnaissant que les économies de jetons via le plafonnement du périmètre dépendent des politiques et font l'objet d'un arbitrage avec l'utilité de la tâche.