💻 computer science

The Hidden Cost of Thinking: Energy Use and Environmental Impact of LMs Beyond Pretraining

Ce papier révèle que l'impact environnemental du développement des modèles de langage modernes est dominé par l'expérimentation post-entraînement et les pipelines de raisonnement complexes — représentant 82,2 % de la puissance de calcul totale et rendant les modèles de raisonnement 17 fois plus coûteux à entraîner après l'entraînement que les modèles ajustés par instruction — mettant en lumière un écart critique et non signalé dans les normes actuelles de reporting environnemental.

Auteurs originaux : Jacob Morrison, Noah A. Smith, Emma Strubell

Publié 2026-05-05

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Jacob Morrison, Noah A. Smith, Emma Strubell

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

La Vue d'Ensemble : L'Iceberg des Coûts de l'IA

Imaginez que vous construisez une usine high-tech massive pour cuire le gâteau parfait (un modèle d'IA intelligent). Depuis des années, tout le monde ne comptabilise que l'électricité utilisée pour cuire le gâteau final et inscrit ce chiffre sur l'étiquette.

Ce document soutient que c'est comme regarder un iceberg et ne compter que la pointe émergée. Les auteurs sont allés sous l'eau pour mesurer l'ensemble de l'iceberg. Ils ont découvert que la « cuisson » du modèle final n'est en fait qu'une infime partie de l'histoire. La véritable consommation d'énergie, les émissions de carbone et l'utilisation d'eau se produisent lors du processus désordonné et expérimental de comprendre comment cuire le gâteau dès le départ.

1. Les Modèles « Pensants » sont Goulus en Énergie

Les chercheurs ont étudié une nouvelle famille de modèles d'IA appelée Olmo 3. Ils en ont construit deux types :

Le Modèle « Instruction » : Suit bien les ordres (comme un assistant serviable).
Le Modèle « Pensant » : Résout des problèmes complexes en « réfléchissant » étape par étape (comme un mathématicien rédigeant une démonstration).

L'Analogie :
Imaginez que le modèle « Instruction » est un sprinteur. Il court une courte course et termine. Le modèle « Pensant » est un marathonien qui s'arrête pour résoudre des énigmes en cours de route.

La Découverte : L'entraînement du modèle « Pensant » a nécessité 17 fois plus d'énergie que le modèle « Instruction ».
Pourquoi ? Le modèle « Pensant » doit générer d'énormes quantités de « séances d'entraînement » (appelées déployements ou rollouts) pour apprendre à raisonner. C'est comme un étudiant qui doit rédiger 100 essais de pratique juste pour apprendre à en écrire un bon. Le document appelle cela le « coût de la pensée ».

2. Le Coût « Caché » : Essais et Erreurs

La plus grande surprise du document concerne les coûts de développement.

Ancienne Croyance : Nous pensions que la majeure partie de l'énergie était utilisée pour la dernière séance d'entraînement (le « examen final »).
Nouvelle Réalité : 82 % de l'énergie totale a été utilisée pour l'expérimentation. Cela inclut les tentatives échouées, les tests de différents paramètres et l'essai de différents mélanges de données avant même que le modèle final ne soit construit.

L'Analogie :
Pensez à un chef essayant de créer un nouveau plat signature.

Le Plat Final : Celui servi au client (le modèle final).
Le Développement : Le chef brûlant 100 casseroles de soupe, jetant 50 batches de biscuits et goûtant 20 mélanges d'épices différents pour obtenir le résultat souhaité.
Le Point du Document : Si vous ne comptabilisez que l'électricité utilisée pour cuire le seul plat final servi au client, vous ignorez les 100 casseroles de soupe brûlées dans la cuisine. Le document a constaté que pour l'IA moderne, la « soupe brûlée » (les expériences échouées) coûte 5 fois plus cher que le plat final.

3. Le Problème de l'Eau : Ce n'est pas la Faute du Centre de Données

Le document a également examiné la consommation d'eau. Il a constaté que le processus a utilisé une énorme quantité d'eau (suffisante pour qu'une personne boive pendant 140 ans).

L'Analogie :
Beaucoup de gens pensent que l'IA utilise de l'eau parce que les ordinateurs chauffent et doivent être refroidis à l'eau (comme un radiateur de voiture).

La Réalité : Le centre de données utilisait un système en « boucle fermée », ce qui signifie qu'il ne perdait pas d'eau pour le refroidissement.
Le Vrai Coupable : L'eau a été utilisée pour produire l'électricité qui alimentait les ordinateurs. Les centrales électriques (charbon, gaz, nucléaire) utilisent d'énormes quantités d'eau pour générer l'énergie nécessaire au fonctionnement de l'IA.
La Leçon : Si vous voulez économiser l'eau, vous n'avez pas seulement besoin de construire de meilleurs ordinateurs ; vous devez changer la façon dont nous produisons l'électricité qui les alimente.

4. La Facture Totale

Lorsque les chercheurs ont additionné tout cela — l'entraînement final, les expériences échouées, la génération de données et la fabrication du matériel — le coût total pour la construction des modèles Olmo 3 était le suivant :

Énergie : Environ 12,3 millions de kilowattheures (suffisant pour alimenter 847 foyers américains pendant une année entière).
Carbone : Environ 4 251 tonnes de CO2.
Eau : Environ 15 887 000 litres.

Pourquoi Cela Compte

Le document conclut que la façon dont nous signalons actuellement l'impact environnemental de l'IA est défaillante. Nous ne signalons que le coût de la « séance finale », ce qui fait paraître le problème beaucoup plus petit qu'il ne l'est réellement.

À mesure que les modèles d'IA deviennent plus intelligents et nécessitent plus de « pensée » (raisonnement), et que le processus de développement devient plus complexe, ces coûts cachés vont exploser. Les auteurs demandent aux développeurs de cesser de dissimuler la « soupe brûlée » et de commencer à signaler le coût complet de toute la cuisine, et pas seulement du dernier repas.

En bref : Construire une IA intelligente est coûteux, mais le processus consistant à déterminer comment la construire l'est encore plus, et les modèles « pensants » sont les plus goulus en énergie de tous.

Résumé technique : Le coût caché de la pensée

Énoncé du problème

Les rapports environnementaux actuels sur les grands modèles de langage (LLM) se concentrent étroitement sur les coûts énergétiques et carbone du préentraînement d'un seul modèle final. Cette approche rend invisible la majeure partie du cycle de développement moderne. Alors que les pipelines de modèles ont évolué pour inclure le mid-training, l'extension de contexte long, la génération de données synthétiques, l'affinement supervisé (SFT), l'optimisation des préférences (DPO) et l'apprentissage par renforcement (RL), l'empreinte environnementale s'est considérablement étendue. De plus, l'émergence de modèles de « raisonnement », qui reposent fortement sur l'apprentissage par renforcement avec récompenses vérifiables (RLVR), introduit des charges de travail intensives en calcul (spécifiquement la génération de rollouts) qui ne sont pas capturées dans les rapports standard centrés sur le préentraînement. Par ailleurs, des travaux antérieurs ont suggéré que les coûts de développement (expérimentation, échecs, ablations) sont substantiels, mais l'ampleur de ces coûts dans des pipelines complexes et multi-étapes reste non quantifiée.

Méthodologie

Les auteurs fournissent une comptabilité environnementale détaillée pour la famille de modèles Olmo 3 (7B et 32B paramètres), publiée dans des variantes suivant les instructions (« Instruct ») et de raisonnement (« Think »).

Portée : L'étude couvre l'ensemble du pipeline de développement : génération de données, préentraînement, mid-training, extension de contexte long et toutes les étapes post-entraînement (SFT, DPO, RLVR), incluant à la fois les exécutions finales et les itérations de développement (recherches d'hyperparamètres, ablations, exécutions échouées) les précédant.
Matériel et infrastructure : L'entraînement a eu lieu sur le cluster Jupiter (Cirrascale, Texas) utilisant des GPU NVIDIA H100-80 Go. La génération de données a utilisé le supercalculateur Frontier avec des GPU AMD MI250X.
Calcul de l'énergie et des émissions :
- Puissance : La puissance totale du centre de données ( $P_{DC}$ ) est calculée comme $P_{GPU} \times 1,74 \times PUE$ . Le facteur 1,74 prend en compte la surcharge des serveurs non GPU et de l'infrastructure informatique (selon Epoch AI, 2025), améliorant les méthodes antérieures qui ne multipliaient la puissance GPU que par le PUE.
- Carbone : Les émissions sont calculées comme $CO_2e = P_{DC} \times CI$ , où l'intensité carbone (CI) est de 0,332 kg CO2/kWh.
- Eau : La consommation est calculée comme $Water = P_{DC} \times (WUE_{onsite} + WUE_{offsite})$ . Le centre de données utilise un refroidissement en boucle fermée ( $WUE_{onsite} = 0$ ), ce qui signifie que toute la consommation d'eau est attribuée à la production d'électricité ( $WUE_{offsite} = 1,29$ L/kWh).
- Émissions incorporées : Les impacts de la fabrication du matériel sont amortis sur une durée de vie de 4 ans.
Comparaison : L'étude compare les variantes « Think » (raisonnement) et « Instruct », qui partagent un modèle de base commun mais divergent dans leurs stratégies post-entraînement.

Contributions clés

Première ventilation détaillée du post-entraînement : Ce travail est le premier à mesurer et à signaler les coûts environnementaux d'étapes spécifiques de post-entraînement (SFT, DPO, RL) et de génération de données synthétiques, permettant une comparaison directe entre les étapes et les variantes de modèles.
Quantification des coûts de « pensée » : Les auteurs démontrent que les modèles de raisonnement sont nettement plus coûteux à entraîner en post-entraînement que les modèles ajustés par instruction, spécifiquement en raison de la génération de rollouts RLVR.
Révision des estimations des coûts de développement : L'étude met à jour l'estimation des coûts de développement (expérimentation et exécutions échouées) de l'environ 50 % du calcul total précédemment rapporté à 82,2 %, soulignant que le signalement des seules exécutions finales sous-estime l'impact réel d'environ 5 fois.
Analyse de l'attribution de l'eau : L'article clarifie que la consommation d'eau dans cette configuration spécifique est entièrement pilotée par l'infrastructure de production d'électricité plutôt que par le refroidissement du centre de données, remettant en question les récits courants qui attribuent l'utilisation de l'eau principalement au refroidissement des charges de travail de l'IA.

Résultats

Impact environnemental total

Le développement de la série Olmo 3 (incluant les exécutions finales, les itérations de développement et la génération de données) a résulté en :

Énergie : ~12,3 GWh d'énergie de centre de données.
Carbone : ~4 251 tCO2eq (équivalent à l'électricité d'environ 847 foyers américains pendant un an).
Eau : ~15 887 kL (équivalent à environ 140 ans de consommation d'eau par une personne américaine moyenne).
Calcul : ~13,2 millions d'heures GPU au total.

Le coût du raisonnement (Think vs Instruct)

Disparité énergétique : La phase de post-entraînement du modèle « Think » de 32B consomme 17 fois plus d'énergie de centre de données que le modèle « Instruct » de 32B.
Facteur déterminant : Cette disparité est pilotée par la génération de rollouts RLVR. Dans le modèle Think de 32B, la génération de rollouts RLVR représente 87 % de l'énergie de post-entraînement.
Mécanisme : Le générateur RLVR (inférence autorégressive) fonctionne à environ 600 W par GPU, tandis que l'entraîneur fonctionne à 130–220 W. Le générateur est fonctionnellement identique à une inférence à grande échelle mais nécessite de générer des traces extrêmement longues (moyenne >10 000 tokens, maximum 32 768) sur de nombreuses itérations.
Volume de tokens : L'entraîneur RLVR pour le modèle Think de 32B traite environ 18,7 milliards de tokens, contre environ 564 millions pour la variante Instruct (une différence de 33 fois).

Coûts de développement

Proportion : Les activités de développement (recherches d'hyperparamètres, ablations, exécutions échouées) ont représenté 82,2 % des heures GPU totales et 80,9 % de l'énergie GPU totale (hors génération de données).
Variation par étape : Les étapes de post-entraînement sont particulièrement lourdes en itérations. Les fractions de développement pour les étapes de post-entraînement ont dépassé 91 % (par exemple, 97,5 % pour le mid-training/mélange de données, 97,1 % pour le DPO).
Comparaison : Cela représente une augmentation significative par rapport à la fraction de développement d'environ 50 % rapportée dans des travaux antérieurs (Morrison et al., 2025) pour des pipelines centrés sur le préentraînement.

Consommation d'eau

Source : 100 % de la consommation d'eau a été attribuée à la production d'électricité ( $WUE_{offsite}$ ), car le centre de données utilisait un refroidissement en boucle fermée ( $WUE_{onsite} = 0$ ).
Implication : Les coûts en eau sont strictement proportionnels à la consommation d'énergie dans cette configuration, suggérant que la réduction de la consommation d'énergie est le levier principal pour réduire l'impact sur l'eau, plutôt que de changer l'infrastructure de refroidissement.

Importance et affirmations

L'article soutient que la norme actuelle consistant à signaler uniquement les coûts de préentraînement est insuffisante pour une comptabilité environnementale précise. À mesure que les pipelines deviennent plus complexes et que les modèles de raisonnement deviennent le paradigme par défaut, les « coûts cachés » du post-entraînement et du développement augmentent rapidement.

Transparence : Les auteurs affirment qu'une comptabilité précise, basée sur des mesures, de l'ensemble du cycle de développement est essentielle pour des directives réglementaires éclairées et pour que la communauté de recherche développe des stratégies efficaces afin de réduire l'empreinte environnementale de l'IA.
Faisabilité : Contrairement aux affirmations selon lesquelles un tel signalement détaillé serait peu pratique, les auteurs démontrent qu'il est possible de décomposer les coûts à travers plusieurs étapes et variantes.
Recommandations politiques : L'article se termine par quatre recommandations :
1. Signaler les coûts complets du pipeline (post-entraînement et génération de données), pas seulement le préentraînement.
2. Inclure les coûts de développement (au minimum sous forme de multiplicateur).
3. Divulguer les métriques d'efficacité des centres de données (PUE, WUE, type de refroidissement, mix énergétique).
4. Les fabricants de GPU doivent divulguer les impacts de la fabrication (émissions incorporées).

Ce travail se positionne comme une étape fondamentale vers la compréhension de la véritable empreinte environnementale de l'IA moderne, soulignant que le « coût de la pensée » est un facteur en escalade rapide qui doit être pris en compte dans les normes de durabilité.