Evaluation of ML Resource Utilization Requires Model Life Cycle Assessment
Ce document de position soutient que l'évaluation de l'impact environnemental et des besoins en ressources des systèmes d'IA nécessite une approche d'analyse du cycle de vie complète qui tient compte des coûts sur l'ensemble de la chaîne de développement et de déploiement des modèles, plutôt que de se concentrer uniquement sur des événements isolés d'entraînement ou d'inférence.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez que vous achetiez une voiture. Si vous ne regardiez que le prix de l'essence nécessaire pour faire le trajet de votre maison jusqu'à l'épicerie, il vous manquerait une énorme partie de l'histoire. Vous ne sauriez pas quelle quantité d'énergie a été utilisée pour extraire le métal du moteur, quelle pollution a été générée par la construction de l'usine, ou quelle quantité de déchets est créée lorsque la voiture est finalement mise à la casse.
Ce document soutient que nous faisons actuellement exactement la même chose avec l'Intelligence Artificielle (IA). Nous ne comptons que le « carburant » (l'électricité utilisée pour un seul calcul), en ignorant tout le reste de la vie de la voiture.
Voici une décomposition simple de ce que disent les auteurs :
Le Problème : Nous ne comptons que le « carburant »
Actuellement, lorsque des chercheurs ou des entreprises tentent de mesurer à quel point un modèle d'IA est « vert » ou efficace, ils regardent généralement un seul instant minuscule :
- La phase d'entraînement : Quelle quantité d'électricité a été nécessaire pour enseigner une leçon spécifique à l'IA ?
- L'inférence : Quelle quantité d'électricité a été nécessaire pour répondre à une seule question ?
Les auteurs affirment que cela revient à juger l'efficacité d'une voiture en ne regardant que l'essence utilisée pour un seul kilomètre. C'est trompeur car l'IA moderne est incroyablement complexe. Avant qu'un modèle puisse même répondre à une question, il traverse un parcours chaotique et gourmand en ressources impliquant :
- La conception de l'architecture du modèle.
- La réalisation de milliers d'expériences et de tests.
- La création de données synthétiques.
- L'ajustement (fine-tuning) et le réentraînement.
- Enfin, la réponse à la question.
Si vous ne comptez que l'étape finale, vous manquez la quantité massive de ressources dépensées pour les « essais préparatoires » et la fabrication du matériel qui a rendu tout cela possible.
La Solution : La vision du « Cycle de Vie »
Les auteurs proposent d'utiliser un outil appelé Analyse du Cycle de Vie (ACV). Vous connaissez peut-être cet outil dans le domaine des sciences environnementales, où il est utilisé pour suivre l'impact de tout, d'une bouteille en plastique à un panneau solaire.
Considérez l'ACV comme un système de comptabilité « du berceau à la tombe » pour l'IA. Au lieu de simplement regarder le moment où l'IA parle, l'ACV suit les ressources du tout début jusqu'à la toute fin :
- Le Berceau (Le Matériel) : L'extraction des métaux rares et la fabrication des puces informatiques (GPU) nécessaires pour faire fonctionner l'IA.
- Le Développement (L'Entraînement) : L'électricité et l'eau utilisées pour entraîner le modèle, y compris toutes les expériences ratées et les réentraînements.
- L'Utilisation (L'Inférence) : L'électricité utilisée chaque fois que l'IA répond à une question.
- La Tombe (L'Élimination) : Ce qui arrive au matériel lorsqu'il est cassé ou obsolète.
Pourquoi cela importe : L'analogie de l'« Amortissement »
Le document utilise le concept d'amortissement pour expliquer pourquoi cela est important.
Imaginez que vous achetiez une machine à café très chère et haut de gamme pour votre bureau.
- Scénario A : Vous l'utilisez une fois par an. Le « coût » de cette tasse de café est astronomique car vous devez payer le prix total de la machine à chaque utilisation.
- Scénario B : Vous l'utilisez 10 000 fois par an. Le « coût » de cette tasse de café tombe à quelques centimes car le coût de la machine est réparti sur des milliers de tasses.
Les auteurs soutiennent que pour l'IA, nous devons répartir le coût de la « machine » (l'entraînement et le matériel) sur toutes les « tasses de café » (les réponses qu'elle donne).
- Si un modèle d'IA est utilisé des milliards de fois, le coût environnemental de sa construction est dilué, et le coût par réponse est faible.
- Si un modèle d'IA est entraîné mais rarement utilisé, le coût par réponse est énorme.
Sans une vision d'ensemble, nous ne pouvons pas savoir si une IA est réellement efficace ou si elle est simplement un gaspillage de ressources.
L'effet de « Rebond »
Le document met également en garde contre un phénomène complexe : le paradoxe de Jevons. Historiquement, lorsque la technologie devient plus efficace (comme les voitures consommant moins d'essence), les gens finissent par en utiliser plus, et non moins, parce qu'elle devient moins chère et plus attractive.
Les auteurs suggèrent que même si nous rendons les algorithmes d'IA extrêmement efficaces, nous pourrions simplement finir par les utiliser plus souvent, ce qui pourrait entraîner une consommation totale d'énergie plus élevée qu'auparavant. L'ACV nous aide à voir le « tableau d'ensemble » afin que nous puissions mieux gérer les ressources, plutôt que de simplement célébrer de petites victoires d'efficacité qui pourraient mener à une plus grande consommation totale.
Que faut-il faire ensuite ?
Le document conclut par un appel à l'action. Pour que cette comptabilité du « Cycle de Vie » fonctionne, nous avons besoin de :
- De meilleures étiquettes : Tout comme les aliments ont des étiquettes nutritionnelles, les modèles d'IA devraient avoir des « étiquettes de ressources » qui indiquent le coût total de l'entraînement, du matériel et de l'utilisation.
- De la transparence : Les entreprises doivent partager davantage de données sur la quantité d'énergie et d'eau qu'elles utilisent réellement, et pas seulement sur les résultats finaux.
- Des règles standardisées : Les gouvernements et les scientifiques doivent s'accorder sur la manière de mesurer ces éléments afin que tout le monde compare des choses comparables.
En résumé : Nous ne pouvons pas corriger l'impact environnemental de l'IA si nous ne regardons qu'une infime tranche du gâteau. Nous devons regarder le gâteau entier — de l'usine qui a construit l'ordinateur au moment où l'IA dit « bonjour ».
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.