When Code Becomes Abundant: Redefining Software Engineering Around Orchestration and Verification
本文认为，随着人工智能降低代码生产成本以及硬件约束增加失效风险，软件工程必须发生根本性转变，从关注代码构建转向以人类意图表达、架构控制和系统化验证为核心的学科，以应对新兴的问责挑战。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
以下是对论文《当代码变得丰盈》（When Code Becomes Abundant）的解释，采用了简单易懂的语言和日常类比。
大局观：“代码过多”的问题
想象一个这样的世界：一台神奇的机器可以写书、画画或盖房子，其速度远超人类阅读、观看或理解的速度。这正是目前软件工程正在经历的过程。
作者 Karina Kohl 和 Luigi Carro 认为，我们正面临一种奇特的挤压：
- 从上方挤压： AI 使得生成代码变得极其廉价且快速。这就像拥有一座可以成百万上千万地打印软件的工厂。
- 从下方挤压： 我们面临着物理极限。计算机正在变得更热，消耗更多能量，并触及了缩小零件尺寸的极限。这意味着错误现在变得更加昂贵且危险。
由于这种挤压，旧有的工作方式——即人类花费大部分时间编写代码——已经失效了。论文指出，软件工程需要从构建（建造事物）转向编排（指挥管弦乐队）和验证（检查乐谱）。
核心问题：“问责崩溃”
论文引入了一个令人担忧的概念，称为问责崩溃（Accountability Collapse）。
类比：
想象一家餐厅，一位机器人厨师每秒钟可以烹饪一千份餐食。
- 旧方式： 一位人类厨师烹饪一份餐食。如果味道不好，你知道是谁做的以及哪里出了错。
- 新方式： 机器人根据“做点辣的”这种模糊指令烹饪 1,000 份餐食。如果其中一份餐食让顾客生病了，机器人会立即重新生成接下来的 1,000 份餐食。那份糟糕餐食的具体“食谱”消失了，被下一批次覆盖了。
结果： 你知道发生了什么（有人生病了），但你无法解释为什么或者谁该负责。人类决策与最终结果之间的联系已经崩溃。论文认为，如果我们不解决这个问题，我们将交付无法解释也无法信任的软件。
软件工程师的新角色
如果机器负责“编写”，那么人类做什么？论文称我们的工作转向了三个主要方面：
1. 编排（指挥家）
人类不再是拉小提琴的人，而是成为了指挥家。
- 旧工作： 编写音符（编码）。
- 新工作： 告诉管弦乐队演奏什么、音量多大以及它们必须遵循什么规则。
- 在软件中： 人类必须清晰地定义目标、约束条件（AI 不被允许做的事情）以及价值观。如果指令模糊，AI 就会产生垃圾。人类的工作是成为设定边界的“建筑师”。
2. 验证（质量检查员）
既然我们无法阅读 AI 写的每一行代码，我们就必须不断检查结果。
- 转变： 测试不再仅仅是发布前的最后一步，它变成了一个持续的安全网。
- 类比： 把它想象成一辆自动驾驶汽车。你不需要知道发动机是如何工作的，但你必须不断验证汽车是否保持在车道内并为红灯停车。如果汽车产生“幻觉”（把不存在的停止标志看成了停止标志），人类必须准备好踩下刹车。
3. 维护（长期守护者）
论文挑战了这样一种观点，即“如果 AI 可以重建软件，那么维护就很简单”。
- 陷阱： 如果你可以瞬间重新生成一个系统，你可能会认为不需要修复漏洞。但如果你重新生成了一个系统 50 次，其行为方式背后的“历史”就会丢失。
- 新现实： 维护变成了记录我们为什么做出更改。这就像为机器人厨师每次修改食谱都写一份日志。如果你不保留这份日志，你就不会知道为什么今天的食物味道和昨天不一样。
这对未来意味着什么
论文提出了三个重大的变化：
- 研究： 科学家需要研究如何为 AI 编写“规则”，使其不至于脱轨，以及当事情出错时如何追踪责任归属。
- 教育： 学校不应只教学生如何更快地编码。他们需要教学生如何成为 AI 的“管理者”——如何设计控制 AI 的系统，如何验证其输出，以及如何在决定 AI 应该构建什么时做出伦理决策。
- 实践： 公司衡量成功的标准不应仅仅是“我们发布得有多快”。他们需要衡量“我们能在多大程度上证明我们的软件是安全且可解释的”。
底线
软件工程并没有消失；它只是获得了一次晋升。它正在从一名砖匠（铺设砖块/编码）转变为一名工头（检查蓝图、确保安全并确保建筑物不会坍塌）。
如果我们不完成这种转变，我们就有可能构建出一个充满软件的世界，这些软件在运行完美时看起来无懈可击，但一旦出问题，将无人知晓原因，也无人承担责任。论文的信息很简单：当代码变得廉价且丰盈时，人类的判断力成为了最宝贵的资源。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。