💻 computer science

Evaluating the Environmental Impact of using SLMs and Prompt Engineering for Code Generation

该论文通过实证研究揭示了在小型语言模型代码生成中，提示工程策略（如思维链）能在不牺牲准确性的前提下显著优化能源效率与碳排放，并指出电网碳强度是部署阶段排放的主导因素，从而为“绿色”提示工程提供了量化基础。

原作者： Md Afif Al Mamun, Sayan Nath, Gias Uddin, Novarun Deb

发布于 2026-04-07

📖 1 分钟阅读☕ 轻松阅读

原作者： Md Afif Al Mamun, Sayan Nath, Gias Uddin, Novarun Deb

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

这篇论文就像是在给程序员们上一堂生动的“绿色编程”课。它探讨了一个有趣的问题：当我们用人工智能（AI）来写代码时，我们是在“烧钱”还是“烧碳”？而且，有没有办法既让代码写得好，又让地球少受罪？

为了让你更容易理解，我们可以把这篇研究想象成一次**“汽车拉力赛”，但这次比的不是谁跑得快，而是谁最省油、谁排出的尾气最少**。

1. 比赛背景：从“云端大车”到“本地小车”

以前，大家写代码用的 AI 都像是一辆巨大的、耗油的豪华大巴（大语言模型，LLM），它住在遥远的云端数据中心，虽然力气大，但每次调用都要消耗大量电力，而且碳排放很高。

现在，出现了一种新趋势：大家开始把 AI 模型下载到自己的电脑上运行。这些模型变小了，变成了**“本地小轿车”**（小语言模型，SLM）。

好处：隐私好，不用联网，随时能用。
坏处：以前大巴的油耗是集中计算的，现在成千上万辆“小轿车”分散在世界各地，每个人都在用自己的电。如果每个人都不注意，加起来的环境负担可能比大巴还大，而且大家往往看不见自己到底排了多少“尾气”（碳排放）。

2. 核心实验：给 AI 不同的“指令方式”

研究人员找了 11 辆不同大小的“小轿车”（从 10 亿参数到 340 亿参数不等的 AI 模型），然后给它们 6 种不同的**“驾驶指令”**（提示词工程策略），看哪种指令能让车跑得准（代码写对），又开得省油。

这 6 种指令就像不同的开车风格：

直接指令 (Direct)：就像直接说“去北京”，简单粗暴，但可能走错路。
思维链 (Chain-of-Thought, CoT)：就像说“先查地图，规划路线，再出发”。让 AI 先想一步再写代码。
自我一致性 (Self-Consistency)：就像让 AI 自己开 5 次，然后投票选最好的路线。这很准，但太费油了（跑了 5 倍的路）。
其他复杂策略：像让 AI 边开车边修车、边看风景边思考，虽然听起来很高级，但往往费油多，提速却不多。

3. 惊人的发现：省油秘籍大公开

🏆 发现一：越“聪明”的指令，不一定越“环保”

最费油的策略：让 AI 多跑几遍（自我一致性）或者搞太复杂的推理。这就像为了省几块钱过路费，特意绕了 100 公里路，结果油费花了一大堆，最后到达的时间也没快多少。
最佳平衡点：“思维链” (CoT)。
- 比喻：这就好比让司机在出发前花 1 分钟想清楚路线。虽然多花了 1 分钟思考，但避免了走错路（代码错误），而且比让司机反复试错（多跑几遍）要省油得多。
- 结论：用“思维链”指令，既能保证代码写得对，又能比那些花里胡哨的复杂指令节省 80% 的碳排放。

🏆 发现二：车的大小（模型参数）不是决定油耗的关键

很多人以为模型越大越费电。但研究发现，模型大小和碳排放的关系并不像想象中那么直接。

有些小模型（比如 17 亿参数）如果训练得好，写代码的能力甚至能打败大模型，而且更省油。
有些大模型如果“脑子”不好使（比如输出格式乱码），反而要反复重试，最后更费电。

🏆 发现三：真正的“幕后黑手”是你所在地的电网

这是论文最震撼的结论之一。

比喻：想象你在两个地方开车。
- 地点 A（阿尔伯塔）：这里的电主要来自烧煤和天然气（像烧煤炉子）。
- 地点 B（安大略）：这里的电主要来自核能和水电（像清洁能源）。
结果：即使你在地点 B 开了一辆更耗油的大卡车（高性能电脑），而在地点 A 开了一辆省油的小摩托车（低功耗电脑），地点 B 的总碳排放反而比地点 A 低 78%！
启示：决定你写代码是否环保的，不是你用了多强的电脑，而是你用的电是从哪里来的。如果你所在的地区电很脏（煤电多），哪怕你只写了一行代码，碳排放也可能很高。

4. 给普通人的启示

这篇论文告诉我们要学会**“绿色编程”**：

别盲目追求“高大上”：在写代码提示词时，不需要搞那些复杂的、让 AI 反复思考的策略。简单的**“先思考，再行动” (Chain-of-Thought)** 往往是最划算的。
关注“每瓦特准确率”：不要只看 AI 写得对不对，还要看它为了写对这一行代码，消耗了多少电。
地理位置很重要：如果你是开发者，尽量在清洁能源丰富的地区运行你的 AI 任务。这比换一台更贵的电脑更能减少碳排放。

总结

这就好比我们平时开车：

与其为了省油买一辆极难开的赛车（复杂的模型），不如学会看路牌、规划路线（使用好的提示词策略）。
与其纠结车的大小，不如选择一条更清洁的路线（使用绿色电力）。

这篇论文就是给开发者们的一份**“省油驾驶指南”**，告诉大家如何在写出好代码的同时，也守护我们的地球。

这是一份关于论文《Evaluating the Environmental Impact of using SLMs and Prompt Engineering for Code Generation》（评估使用小型语言模型和提示工程进行代码生成的环境影响）的详细技术总结。

1. 研究背景与问题 (Problem)

随着大型语言模型（LLMs）从云端向本地部署的小型语言模型（SLMs）转变，AI 辅助编程变得更加民主化，但也导致了环境足迹的分散化。

核心问题：
- 环境足迹的不可见性：虽然提示工程（Prompt Engineering）策略（如思维链 CoT、ReAct 等）被广泛用于优化代码生成，但它们对能耗和碳排放的具体影响对开发者而言几乎是“隐形”的。
- 去中心化的挑战：与云端集中式推理不同，本地部署将推理的能源消耗和碳排放责任直接转移到了开发者的硬件和所在区域的电力网络上。
- 缺乏系统性评估：现有的研究主要关注代码生成的准确性，缺乏对提示策略在 SLMs 上如何权衡“准确性”与“可持续性”（能耗、碳排放）的系统性实证研究。
研究目标：量化不同的提示工程策略在 SLM 代码生成任务中对准确性、能耗、碳排放和推理延迟的影响，探索是否存在“绿色”提示工程的最佳实践。

2. 方法论 (Methodology)

本研究采用系统性的实证方法，涵盖了模型、提示策略、硬件环境和评估指标。

数据集：
- 使用 HumanEval+（164 个编程问题）和 MBPP+（选取 150 个问题）作为基准测试集。
模型选择 (11 个开源 SLM)：
- 涵盖 1B 到 34B 参数量的模型。
- 分类：微型（1B-3B）、小型（7B-16B）、中型（20B-34B）。
- 类型：通用模型（如 Llama, Gemma）与代码专用模型（如 CodeLlama, Qwen-Coder）。
- 特性：包含具备推理能力的模型和不具备推理能力的模型。
提示策略 (6 种)：
1. Direct：直接提示（基线）。
2. Chain-of-Thought (CoT)：思维链，要求分步推理。
3. Program-of-Thought (PoT)：在推理过程中执行生成的代码以验证中间结果。
4. Self-Consistency：生成多个 CoT 样本并投票选择最佳答案。
5. Least-to-Most (LtoM)：将问题分解为子问题并逐步解决。
6. ReAct：推理与行动循环，结合工具使用（语法验证）。
- 实现框架：所有策略均通过 DSPy 框架实现，确保输出为机器可解析的标准代码格式，模拟真实开发工作流。
实验环境：
- 硬件：两台不同配置的机器（Machine 1: Xeon Silver + A100; Machine 2: Xeon Gold + L40S）。
- 地理位置：分别在加拿大 阿尔伯塔省 (Alberta) 和 安大略省 (Ontario) 运行，以测试电网碳强度（Grid Carbon Intensity, GCI）的影响。
评估指标：
- 准确性：Pass@1（首次尝试通过率）。
- 能耗：kWh（通过 CodeCarbon 框架测量 CPU/GPU/RAM 总能耗）。
- 碳排放：kgCO2eq（能耗 × 当地电网碳强度）。
- 其他：推理延迟、Token 使用量。

3. 关键贡献 (Key Contributions)

首个系统性实证研究：首次全面评估了 SLMs 在不同提示策略下，代码生成准确性与环境可持续性（能耗/碳排放）之间的权衡关系。
揭示“准确性 - 可持续性”解耦：证明了代码生成的环境优化往往可以在不牺牲准确性的情况下实现，两者并非强正相关。
提出“碳/正确答案”指标 (CpCA)：引入了 Carbon per Correct Answer 指标，用于衡量产生一个正确解决方案所需的碳排放量，为“绿色提示工程”提供了量化基础。
硬件与区域影响分析：量化了电网碳强度（GCI）对排放的决定性影响，其影响程度往往超过硬件效率差异。

4. 主要结果 (Results)

RQ1: 模型规模与排放的关系

准确性不随参数量单调递增：某些较小的模型（如 Qwen3:1.7B）在特定任务上表现优于更大的模型（如 CodeLlama:34B），这得益于其推理能力。
排放与参数量弱相关：单次查询的 CO2 排放量主要取决于推理效率和运行时配置，而非单纯的参数量。
小模型格式问题：极小模型（如 StarCoder2:3B）在 DSPy 框架下经常无法生成符合语法结构的输出，导致解析失败率高。

RQ2: 提示策略的影响

CoT 是最佳平衡点：Chain-of-Thought (CoT) 策略在保持接近最优准确率（比 Self-Consistency 低约 2.7%）的同时，将能耗和碳排放降低了近 80%。
复杂策略的边际效益递减：
- Self-Consistency 虽然准确率最高（65.75%），但需要生成多个样本，导致能耗和碳排放是 CoT 的 4.9 倍。
- ReAct 和 Least-to-Most 等复杂策略并未带来成比例的准确性提升，反而显著增加了 Token 消耗和能耗。
结论：对于 SLMs，简单的提示策略（特别是 CoT）提供了最佳的准确性 - 效率权衡。

RQ3: 硬件与区域电网的影响

电网碳强度 (GCI) 是主导因素：
- 在安大略省（以核电和水电为主，GCI 低）运行的 Machine 2，尽管能耗比阿尔伯塔省（以化石燃料为主，GCI 高）的 Machine 1 高出 113%，但其碳排放却低了 78%。
- 这表明部署地点的能源结构对碳排放的影响远大于硬件本身的能效差异。

RQ4: 指标间的相关性

推理时间是排放的最佳预测指标：推理时间与 CO2 排放呈现极强的相关性（ $R^2 \approx 0.92$ ）。
Token 数量相关性较弱：Token 数量仅能解释部分能耗和排放的变异（ $R^2 \approx 0.41-0.52$ ）。
准确性与可持续性解耦：Pass@1 准确率与能耗、碳排放之间没有显著相关性。这意味着追求更高的准确率并不必然导致更高的环境成本。

5. 意义与启示 (Significance)

对开发者的建议：
- 应优先考虑**“每瓦特准确率” (Accuracy-per-watt)** 而非单纯的准确率。
- 在 SLM 上，CoT 是性价比最高的提示策略，而过度复杂的推理框架（如 Self-Consistency）在 SLM 上往往得不偿失。
- 开发者应关注部署地点的电网碳强度。如果可能，将推理任务调度到清洁能源丰富的地区（如安大略省）可以大幅降低碳足迹。
对工具设计的启示：
- 未来的 IDE 和开发工具应集成实时碳排放监控，帮助开发者在提示工程阶段做出更环保的选择。
- 需要建立标准化的可持续性基准测试，推动“绿色 AI"在软件工程领域的落地。
政策与行业影响：
- 强调了去中心化 AI 部署中环境责任的重要性。
- 指出单纯依靠硬件升级无法解决排放问题，能源基础设施的转型和区域性的碳感知调度更为关键。

总结：该论文通过严谨的实验证明，在利用 SLMs 进行代码生成时，通过选择适当的提示策略（如 CoT）和考虑部署区域的电网碳强度，可以在不牺牲性能的前提下显著降低环境成本。这为构建可持续的 AI 辅助编程系统提供了重要的量化依据和实践指南。