Pushing the Limits: A Framework to Reform Institutional Ethics Review of Environmentally-Impactful Computing Research
本文提出了一个改革机构伦理审查的框架，通过建立具体的范围界定与证据标准，以确保计算密集型研究在环境影响及其与行星极限的一致性方面得到评估。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，一所大学就像一个巨大且繁忙的厨房。在厨房里，厨师（研究人员）正在利用巨大的烤箱和搅拌机（计算机与人工智能）创造新的食谱（科学发现）。有时，这些厨师需要使用那些能想象到的最庞大、最耗能的电器来烹饪他们的佳肴。
根据这篇论文，问题在于：厨房里的“健康与安全检查员”（伦理委员会）非常擅长检查厨师是否伤害了人类或使用了危险食材，但他们往往忽略了一个事实——厨师们仅仅为了烧开一锅水，就消耗了整座城市的电力供应。
作者尼古拉斯·戈尔德（Nicolas Gold）和罗斯·普尔维斯（Ross Purves）认为，我们需要更新检查员的规则手册，以便他们能够检查这些高科技实验的环境成本，而不仅仅是人类安全。
以下是他们提议的简单拆解：
1. 问题所在：“隐形的烟雾”
目前，如果一名研究人员想要训练一个大规模的 AI 模型（比如一个巨大的数字大脑），除非他们使用了人类数据，否则通常不需要向伦理委员会申请许可。委员会假设，既然没有对人类进行实验，那么就不存在伦理问题。
但作者指出，这就像是在无视烟囱里冒出的烟雾，仅仅因为没有人站在烟雾中。这里的“烟雾”是指计算机消耗的大量能源和资源。由于计算机通常位于遥远且隐形的“云端”数据中心，研究人员无法看到自己造成的环境破坏。他们在伦理上与这种伤害处于“疏离”状态。
2. 解决方案：厨房的新规则手册
该论文提出了一个涉及三个群体、包含三个步骤的框架：检查员（伦理委员会）、审核员（负责检查申请的人）以及厨师（研究人员）。
步骤 A：守门人（伦理委员会）
目标： 决定哪些实验需要进行特殊的“环境检查”。
类比： 想象一个夜店门口的保镖。目前，他们只拦截携带武器的人。作者建议，保镖需要一份新的清单，来拦截那些带入“过多燃料”的人。
新规则： 如果研究人员的项目涉及以下任何一项，则必须对其环境影响进行审查：
- 使用特殊的、重型任务的计算机芯片（如 GPU）。
- 因为自己的电脑无法承受，而租用大规模的云端计算能力。
- 使用比标准桌面软件复杂得多的算法。
- 使用依赖上述技术的服务（例如要求一个巨大的 AI 来编写代码）。
如果任何一个问题的答案为“是”，该项目就会进入伦理审查流程的绿灯阶段。
步骤 B：审核员（检查者）
目标： 为那些检查申请的人提供一份清晰的问题清单。
类比： 想象一次汽车检测。你不仅要检查引擎，还要检查轮胎、刹车和机油。作者提出了 7 个具体问题，要求审核员询问研究人员：
- 数据量： 你是否使用了尽可能少的数据？
- 必要性： 你真的需要超级计算机吗？还是普通的笔记本电脑就能胜任？
- 存储： 你会将这些数据保存多久？永久存储这些数据的能量消耗是否值得？
- 计算： 你是否使用了最高效的代码？
- 供应链： 你知道你的电力来自哪里吗？是绿色的吗？
- 影响： 你是否计算过你的项目会排放多少碳？
- 再利用： 你是在使用旧设备，还是需要购买新的、耗能巨大的机器？
步骤 C：研究人员（厨师）
目标： 在申请之前，帮助研究人员深入思考自身的潜在影响。
类比： 想象一位厨师必须绘制出其食谱旅程的地图。他们必须绘制一条向前看的（未来 5 年或 10 年会发生什么？）以及向后看的（过去 10 年我们做了什么导致了今天？）的时间线。
工具： 作者建议使用一个简单的“因果与影响”表。
- 向前看： 研究人员填写一个网格，以观察他们的项目是否会导致“基础设施扩张”（建设更多数据中心）或“浪费”（丢弃旧电脑）。
- “如果……会怎样”测试： 然后，他们进行一次“现实检查”。假设世界里不再有额外的能源可以提供。如果他们的项目在失去这些额外能源的情况下就会崩溃，那么他们必须承认其研究依赖于“无限增长”，而这在现实中可能并不存在。
- 向后看： 他们也回顾过去。他们的研究是否建立在一些已经很浪费的既有项目之上？这有助于他们察觉到“缓慢暴力”的存在——即随着时间推移而产生的微小、累积的环境伤害，而非仅仅是一次巨大的爆炸。
为什么这很重要
作者并不是想要阻止科学。他们希望确保科学是可持续的。
他们认为，如果我们现在不改变规则，研究人员就会不断构建越来越大的数字机器，却意识不到自己正在撞向一堵墙（即地球的极限）。通过将环境影响作为伦理检查的标准部分——就像检查人类安全一样——我们迫使每个人在开始“烹饪”之前，先思考其创意的“代价”。
简而言之：仅仅因为你可以计算某件事，并不意味着你“应该”去计算，除非你已经考虑到了对地球的代价。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。