Green BOA: Determining the environmental break-even point for ML-based data compression
本文通过计算碳当量平衡点，评估了基于机器学习的数据压缩在环境可持续性方面的表现，该平衡点是指由存储减少所带来的节能效果抵消训练和推理基础设施碳足迹的临界点。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在现代科学那广阔且轰鸣的殿堂中，像大型强子对撞机那样的实验所产生的数据量正以威胁要压倒我们存储能力的规模不断增长。科学家们正在记录数个艾字节（exabytes）的信息，这一体积如此巨大，不仅需要巨额的预算，还需要大量的环境资源来确保其安全。随着世界寻求减少碳足迹，存储这座数字大山所需的能量已成为一个紧迫的问题。传统上，研究人员一直依赖标准方法来缩小这些文件，但新一波的技术正在利用机器学习来进一步压缩数据。然而，这些智能算法对计算能力有着极高的渴求；它们需要强大的计算机来学习如何挤压数据，然后再运行压缩过程。这产生了一个复杂的权衡：教计算机压缩数据所消耗的能量，是否真的比存储更大的、未压缩的文件所节省的能量更多？
曼彻斯特大学的一个研究小组着手通过计算一种名为 BOA 的特定机器学习压缩工具的环境平衡点来回答这个问题。他们想确切知道，在处理多少数据之前，训练和运行机器学习模型所产生的碳排放，能被由于减少硬驱和磁带卡带需求而节省下来的碳减排量所抵消。该研究专注于一种无损压缩算法，这意味着它在不丢失任何信息的情况下缩小文件，这是科学数据的关键要求。研究人员将用于训练模型并在图形处理器（GPU）上运行模型的电力碳成本，与如果数据被压缩后所节省的物理存储设备制造和运行的碳成本进行了对比。
调查显示，答案很大程度上取决于计算发生的地点。电力的碳足迹因国家而异，这取决于电网中有多少比例来自清洁能源而非化石燃料。研究人员发现，数据中心的位置是决定机器学习方法是否具有环境效益的最敏感因素。如果压缩是在一个碳密集型能源组合的地区进行的，那么训练模型的成本很容易超过减少存储带来的节省。然而，在清洁能源丰富的地区，平衡发生了转移，机器学习方法可以成为更环保的选择。研究还强调，虽然机器学习压缩通常比标准算法实现更好的压缩比，但它是以更慢的速度和更高的单位数据处理能耗为代价的。
为了得出这些结论，该团队使用特定的显卡 Nvidia T4 模拟了整个过程，并追踪了中央处理器、显卡和内存的能耗。他们模拟了将数据在硬盘驱动器（HDD）和磁带（常用于长期存档）上存储五年的碳影响。他们计算了制造这些设备以及维持其运行所需的电力的排放量。结果表明，磁带虽然访问速度较慢，但其碳足迹低于硬盘驱动器。这意味着，要使机器学习压缩在环境成本上变得划算，其节省的部分必须足够显著，以至于能够取代大量的物理存储。研究人员指出，他们的计算代表了能耗的“最坏情况”，因为他们假设模型是从头开始在整个数据集上进行训练的，而在实践中，模型很可能可以在较小的样本上进行训练，然后应用于更大规模的数据。
研究结果表明，对于机器学习压缩是否环保，并没有一个单一的、普遍的答案。相反，决策必须基于数据中心位置的具体背景以及被取代的存储类型。为了让机器学习方法证明其环境成本是合理的，被压缩的数据量必须足够大，以抵消最初在训练模型上的能量投入。该团队强调，虽然目前该算法的吞吐量低于标准方法，但提高这一速度可以使其技术更具可行性。最终，这项研究作为一个概念验证，证明了先进压缩技术的环境效益并非自动实现的，而是取决于计算能量与存储节省之间的微妙平衡。随着科学不断产生更多数据，理解这个平衡点对于确保对知识的追求不会以不可持续的地球代价为代价至关重要。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。