Evaluation of ML Resource Utilization Requires Model Life Cycle Assessment
本立场文件认为,评估人工智能系统的环境影响和资源需求需要一种全面的生命周期评估方法,该方法应当考量整个模型开发与部署流水线的全过程成本,而非仅仅关注孤立的训练或推理事件。
原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
想象一下你正在买一辆车。如果你只看从你家开车到杂货店所消耗的汽油价格,你就会错过故事的大部分内容。你不会知道制造发动机所需的金属开采消耗了多少能量,制造工厂产生了多少污染,或者当汽车最终报废时会产生多少废物。
这篇论文认为,我们目前在人工智能(AI)领域正是在做完全相同的事情。我们只计算了“汽油”(单次计算消耗的电量),却忽略了汽车寿命中的其他部分。
以下是作者观点的简单拆解:
问题所在:我们只计算了“汽油”
现在,当研究人员或公司试图衡量一个 AI 模型有多“绿色”或多高效时,他们通常只看时间轴上的一个微小瞬间:
- 训练阶段(The Training Run): 教导 AI 完成某一个特定课程需要消耗多少电量?
- 推理阶段(The Inference): 回答一个单一问题需要消耗多少电量?
作者说,这就像是通过只看行驶一英里所用的汽油来判断汽车的效率一样。这是具有误导性的,因为现代 AI 极其复杂。在模型能够回答问题之前,它必须经历一段混乱且耗费资源的旅程,包括:
- 设计模型架构。
- 运行数千次实验和测试。
- 创建合成数据。
- 微调和重新训练。
- 最后,回答问题。
如果你只计算最后一步,你就会错过在这些“练习赛”以及让这一切成为可能的硬件制造过程中所投入的大量资源。
解决方案:“生命周期”视角
作者提议使用一种叫做**生命周期评估(Life Cycle Assessment, LCA)**的工具。你可能在环境科学中听说过它,它被用于追踪从塑料瓶到太阳能电池板的所有影响。
把 LCA 想象成一套针对 AI 的**“从摇篮到坟墓”的会计系统**。LCA 不仅仅看 AI 说话的那一刻,它还追踪从最开始到最后结束的资源:
- 摇篮(硬件): 开采稀土金属以及运行 AI 所需的计算机芯片(GPU)的制造过程。
- 开发(训练): 训练模型所消耗的电力和水资源,包括所有失败的实验和重新训练。
- 使用(推理): 每次 AI 回答问题时消耗的电量。
- 坟墓(处置):: 当硬件损坏或过时时会发生什么。
为什么这很重要:“摊销”类比
论文使用了一个叫做**摊销(amortization)**的概念来解释为什么这很重要。
想象你为办公室买了一台非常昂贵的、高端的咖啡机。
- 场景 A: 你一年只用它一次。那么,那一杯咖啡的“成本”是天文数字,因为你每次使用都要分摊掉机器的整个售价。
- 场景 B: 你一年使用 10,000 次。那么,那一杯咖啡的“成本”就会降至分毫,因为机器的成本被分摊到了数千杯咖啡中。
作者认为,对于 AI 而言,我们需要将“机器”(训练和硬件)的成本分摊到所有的“咖啡杯”(它给出的答案)中。
- 如果一个 AI 模型被使用了数十亿次,构建它的环境成本就会被稀释,单次回答的成本就很低。
- 如果一个 AI 模型经过训练但很少被使用,那么单次回答的成本就会非常高。
如果不看整体情况,我们就无法判断一个 AI 到底是真正的有效率,还是仅仅在浪费资源。
“反弹”效应
论文还警告了一种棘手的现象——杰文斯悖论(Jevons' Paradox)。从历史上看,当技术变得更加高效时(例如汽车使用更少的汽油),人们最终会使用更多的技术,而不是更少,因为技术变得更便宜且更具吸引力。
作者指出,即使我们让 AI 算法变得超级高效,我们也可能只是更频繁地运行它们,从而可能消耗比以前更多的总能量。LCA 能帮助我们看到“大局”,以便我们更好地管理资源,而不是仅仅庆祝那些可能导致更大总消耗的小规模效率提升。
下一步需要做什么?
论文最后提出了行动呼吁。为了让这种“生命周期”会计法奏效,我们需要:
- 更好的标签: 就像食品有营养标签一样,AI 模型也应该有“资源标签”,告诉人们训练、硬件和使用的总成本。
- 透明度: 公司需要分享更多关于它们实际消耗了多少能源和水的资料,而不仅仅是最终结果。
- 统一的标准: 政府和科学家需要就如何衡量这些指标达成一致,以便所有人都能在相同的标准下进行比较。
简而言之: 如果我们只看蛋糕的一小块,我们就无法解决 AI 对环境的影响。我们需要看到整个蛋糕——从制造计算机的工厂,到 AI 说出“你好”的那一刻。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。