✨ 要点🔬 技术摘要
当人工智能系统回答问题或生成图像时,它们并非存在于真空之中。它们运行在分布在不同城市和国家的庞大计算机网络之上,这种设置被称为地理分布式计算。虽然这些系统功能强大,但它们消耗大量的电力和水资源来为维持运行的服务器降温。电力来自电力网,而各地的电力网在清洁程度上各不相同;有些地区严重依赖煤炭,而另一些地区则使用风能或太阳能。同样,用于冷却这些机器的水源取自当地的河流和水库,而这些水源所面临的压力程度因季节和当地气候的不同而异。工程师面临的挑战是决定将每个请求发送到哪里。他们必须在速度需求、计算能力可用性以及减少对环境造成伤害的愿望之间寻求平衡。如果系统仅仅将工作发送到最清洁的电网,它可能会在干旱地区的河流面临枯竭风险。如果它为了节省水资源而发送工作,它可能会产生更多的碳排放。在不降低服务速度的前提下找到正确的平衡点是一个复杂的谜题,研究人员才刚刚开始解决这个问题。
华北电力大学的一个研究小组开发了一种解决这一谜题的新方法,专门针对生成图像和文本的大规模人工智能系统。他们创建了一种两步规划法,确保即使在系统试图变得更加环保的同时,AI服务也绝不会变慢或失败。他们的方法将服务本身视为最重要的保护对象。首先,系统会根据当前的计算容量、网络速度和数据传输时间的限制,计算出能够完成工作的绝对最大量。一旦锁定了这个最大值,系统随后会寻找分配这完全相同的工作量的最佳方式,以减少碳排放和水资源使用。这种方法防止了一个常见的错误,即系统通过减少工作量或跳过困难任务来声称自己更“绿色”。相反,它是在保证全额工作量的前提下寻找最绿色的路径。
研究人员使用超过26,000次成功的AI请求(历时554小时)的真实记录测试了他们的方法。他们模拟了一个包含四个不同区域的网络,每个区域都有自己的能源构成、水资源可用性和计算限制。在最详细的一次测试中,他们创建了一个包含21种不同情景的地图,范围从允许使用所有水资源到完全禁止在压力最大的地区用水。他们发现,通过严格避免在水资源匮乏地区用水,与仅关注碳排放的标准方法相比,该系统可以节省2.4250升的直接用水量。这种节省伴随着一个极小的代价:系统额外产生了0.0582千克的二氧化碳当量。然而,即便有这微小的增加,总碳足迹仍显著低于如果系统为了节省时间而拒绝在不同区域间转移工作的做法。
研究表明,变得更绿色的成本在不同水平上是不一样的。当研究人员稍微放宽水资源规则时,系统可以避免大量用水且几乎不产生额外的碳成本。但当他们试图让规则变得更严格,试图避开压力地区最后的一滴水时,碳成本开始大幅上升。这创造了一个清晰的权衡曲线,或称之为“前沿面”,管理者可以利用它进行决策。他们可以清楚地看到,为了节省特定数量的水,需要接受多少额外的碳排放。研究人员还测试了数千种不同的电力网状况、计算机速度和网络延迟的组合,以确保他们的发现经得起压力测试。他们发现,虽然具体数值会根据条件而变化,但总体方向保持不变:即在保护服务、节省压力地区水资源的同时,依然可以保持较低的碳排放。
最重要的发现之一是,水的地理位置比总量更重要。因为用于冷却服务器的水量是基于电力消耗量来计算的,所以仅仅因为移动了工作量,系统的总耗水量并不会改变。改变的是这些水是从哪里提取的。通过将工作从高水压地区转移到水资源充足的地区,系统避免了给脆弱的局部生态系统施加压力。研究人员证实,这一结果并非其特定数据的偶然现象;他们使用不同的时间模式和水效率率进行了数千次模拟,核心结论始终保持稳定。该方法为管理这些大规模人工智能系统提供了一种透明、可审计的方式,允许运营商设定明确的水资源使用限制,并在应用这些限制之前看到这些限制带来的确切环境代价。这为决策者提供了一个工具,使他们能够在不断增长的数字世界需求与地球的物理极限之间取得平衡,确保未来的AI能够高效运行,而不至于耗尽其赖以生存的资源。
技术摘要:面向地理分布式 AI 推理的服务保留型碳与水感知资源分配
问题陈述 地理分布式 AI 推理呈现出一种复杂的资源分配挑战,其工作负载放置需要在异构容量、延迟和迁移约束与环境目标之间取得平衡。现有方法通常依赖于模糊了服务、碳和水之物理单位及优先级的加权评分,或者未能确保环境优化不会以牺牲可服务的可行服务为代价。此外,水约束与碳约束不同;它们并不一定具有共变性,且需要特定的区域背景(例如水压力)才具有意义。核心问题在于,在严格保留最大可行 AI 推理服务水平的前提下,确定随着逐步限制高压力地区物理直接用水量所产生的碳惩罚。
方法论 作者提出了一种基于追踪驱动的两阶段列词典优化框架,将系统问题转化为可检查的碳-水前沿面。
系统模型与核算:
服务代理: 模型使用源自 Alibaba GenAI Serving Top-Down Dataset 2026 (GenTD26) 的执行时间(D t = ∑ τ j / 3600 D_t = \sum \tau_j / 3600 D t = ∑ τ j /3600 )导出的“单加速器等效”服务代理。
物理核算: 碳量通过 IT 能源 × \times × PUE × \times × 区域碳因子计算。直接用水量通过 IT 能源 × \times × 水利用效率 (WUE) 计算。至关重要的是,PUE 影响设施电力和碳排放,但不影响直接用水量。
筛选机制: 基于 Aqueduct 基准水压力的二元位置筛选,将区域识别为“高”或“极高”。这些区域的直接用水量受上限约束,而其他区域的用水量不受约束。
两阶段列词典优化:
第一阶段(服务最大化): 在满足容量、迁移限制和延迟阈值的情况下,最小化未服务服务量 (u t u_t u t )。这确立了最大可行服务水平 (S m a x S_{max} S ma x )。
第二阶段(环境优化): 将未服务服务量固定在第一阶段的最优值(在数值容差范围内),并最小化总建模碳量。此阶段在可选的 ϵ \epsilon ϵ -约束下运行:∑ W t r H ≤ ϵ \sum W_{tr}^H \leq \epsilon ∑ W t r H ≤ ϵ ,其中 W t r H W_{tr}^H W t r H 代表经过筛选的直接用水量。
方法: 这种结构确保了环境比较仅在提供相同服务水平的分配方案之间进行。ϵ \epsilon ϵ -约束使碳和水保持物理单位(kgCO2e 和 升)进行运算,而不是将其坍缩为一个加权得分。
实验设计:
参考前沿面: 通过将水上限从无约束碳优先分配方案的筛选水暴露量的 0% 到 100% 进行变化,生成一个 21 点的前沿面。
场景包络: 采用完全析因设计(243 个单元格),交叉了三种碳映射、三种 PUE 场景、三种容量场景、三种迁移限制和三种延迟阈值。
敏感性分析: 包括 81 个空间 WUE 剖面、能量规模检查以及 4,000 个配对的 24 小时循环块重采样,以隔离时间组成的影响。
关键结果
参考前沿面: 在参考场景中,避免 2.4250 L 的筛选直接用水量(通过将上限设为 0%)相对于无约束碳优先分配方案会产生 0.0582 kgCO2e 的额外碳成本。然而,这仍比“无迁移”基准低 13.083% 的碳排放。
边际成本: 随着上限收紧,每避免一升筛选水的边际碳成本会增加,从较宽松区段的 0.0016 kgCO2e/L 上升到接近零上限的最终区段的 0.0707 kgCO2e/L。
分配偏移: 随着水上限收紧,模型将分配从筛选区域(北侧和西北侧)转移到非筛选区域(西南侧),而源区域(东侧)保持不变。
场景鲁棒性: 在 243 个单元格网格中的 1,215 个最优解中,相对于无迁移基准的碳变化范围为 -48.151% 到数值零。碳减少的方向是稳定的,尽管其量级随联邦假设的不同而显著变化。
WUE 敏感性: 空间 WUE 差异会影响中间阶段的上限惩罚,但不会改变参考设置中的零上限或 100% 上限端点。
时间稳定性: 配对重采样确认,尽管避免的水量有所不同,但碳减少的方向在不同追踪段的时间组成下保持一致。
核心贡献
服务等效可行集: 引入了一个框架,在该框架下,环境比较被严格限制在能够交付最大可行服务的分配方案中,从而防止了通过简单降低需求来实现“绿色”方案的情况。
物理单位集成: 将物理直接用水核算与区域压力筛选结合为显式约束,保留了可解释的单位(升和 kgCO2e),而非使用不透明的加权得分。
可检查的前沿面: 展示了一个 21 点的前沿面及相邻上限的碳成本,允许资源管理者可视化水限制与碳惩罚之间的权衡。
全面的压力测试: 通过完整的 243 单元格联邦网格、1,215 个受限上限求解以及广泛的重采样,将结构化模型属性与场景依赖的量级区分开来,提供了一个可审计的证据链。
意义与声明 本文声称提供了一个可复现的规划基准 和一个用于评估服务保留型环境约束的资源管理接口 。其主要意义在于将服务可行性与环境优化解耦,使更高层级的编排系统能够:
声明一个筛选水额度,并获得在联邦约束内可实现的最小建模碳量。
指定一个可接受的碳惩罚,并识别相应的可行水上限和区域分配。
作者强调,该框架是一个设计时层(design-time layer) ,旨在揭示服务等效的可行分配方案和约束成本。它不是一个运行时系统;它不处理队列、故障或实时遥测。本研究明确限定其范围为操作性直接用水(IT 能源 × \times × WUE),并未声称代表完整的生命周期水足迹或水文学效益,并指出更广泛的评估需要当前模型中不存在的其他区域性和时间性证据。该工作作为一个模块化组件,旨在为未来集成到生产编排栈中提供支持。
每周获取最佳 computer science 论文。
受到斯坦福、剑桥和法国科学院研究人员的信赖。
请查收邮箱确认订阅。
出了点问题,再试一次?
无垃圾邮件,随时退订。