Requirements Debt in AI-Enabled Perception Systems Development: An Industrial RE4AI Perspective
通过对来自汽车和科研领域的 19 位专家进行的定性研究，本文揭示了人工智能赋能感知系统中功能性与非功能性需求的快速演变如何产生并传播“需求债”，从而最终威胁到这些关键系统的安全性、可靠性及认证就绪状态。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你正在建造一辆自动驾驶汽车。在软件开发的旧时代，编写规则就像写食谱：你列出食材、步骤和预期的味道，一旦食谱写好，它就会保持不变，直到你决定编写新的食谱。
但有了人工智能（AI），汽车不再仅仅遵循静态的食谱。它通过品尝成千上万种不同的餐食（数据）来学习，并不断在运行中重写自己的食谱。
本文探讨了一个隐藏的问题，称为“需求债务”（ReD）。将其想象成金融债务。如果你今天买了东西但没有付款，你以后就必须连本带利偿还。在软件领域，如果你快速更改了汽车的“大脑”（AI），却忘记更新官方规则手册（需求），你就会积累债务。最终，利息（缺陷、安全风险、认证延误）会变得如此之高，以至于项目陷入停滞。
以下是研究人员发现的简单分解，使用了日常类比：
1. 核心问题：食谱与厨师
在传统软件中，“厨师”（开发者）严格按照“食谱”（需求）行事。
在 AI 中，“厨师”在不断习得新技巧。
- 债务：厨师学会了切菜的新方法（新的 AI 模型更新），但食谱书上仍写着“使用刀具”。
- 结果：厨房一片混乱。员工（工程师）不知道应遵循哪条规则。汽车可能会因为一个塑料袋而停下，因为旧的规则手册没有考虑到新 AI 的“想象力”。
2. 债务如何累积（功能需求）
研究人员采访了汽车公司的专家，发现“食谱”会在以下七个具体方面过时：
- 移动的目标（算法更新）：AI 每周都在变得更聪明。它开始预测行人将要在哪里，而不仅仅是他们现在在哪里。但规则手册仍然只问“他们现在在哪里？”AI能够做什么与规则手册声称它做什么之间的差距被称为语义漂移。这就像将汽车引擎升级为火箭，但手册上仍写着“它使用汽油运行”。
- 新工具（传感器升级）：想象将普通摄像头换成高科技的 3D 激光扫描仪。关于“我们能看到多远”的旧规则现在已不再正确。如果你不更新这些新工具如何相互通信的规则，你就会产生接口债务。这就像试图将 USB-C 充电器插入旧的 USB-A 端口；什么都不匹配，系统也会崩溃。
- 沉默的假设（新功能）：AI 开始做一些很酷的事情，比如猜测司机是否困倦。但没有人将其写入官方规则。后来，当汽车未能正确猜测时，团队会说：“那不在需求里！”这就是隐性债务——你甚至不知道自己拥有的债务。
- 不同国家的不同规则：在瑞典销售的汽车可能需要应对积雪，而在佛罗里达销售的汽车则需要应对高温。如果公司试图为两者使用一本巨大的规则手册，就会变得混乱。这就是变体债务。这就像试图写一本涵盖北极和撒哈拉沙漠的旅行指南；最终它会变得令人困惑且无用。
- 变化的蓝图（架构）：汽车的大脑正从简单的指令列表转变为复杂的、自我学习的神经网络。旧的安全规则（如“检查这个特定传感器”）在新的大脑上不起作用。这产生了架构债务。这就像试图将专为马车设计的交通法规强制执行在一队自动驾驶特斯拉上。
- 速度陷阱（实时需求）：汽车处理数据的速度变快了，但规则手册仍写着“你有 10 秒钟做出反应”。现在汽车在 0.1 秒内做出反应，但规则已经过时。这就是时序债务。
- 新的计算能力：如果你将汽车的计算机升级为超快的量子处理器，证明汽车安全的旧测试就不再有效。你必须重新测试一切，但你却不断推迟它。这就是验证债务。
3. “软”规则（非功能需求）
这些是关于汽车表现得有多好的规则，而不仅仅是它做什么。这里的债务更加棘手：
- 安全滞后：安全规则（如 ISO 标准）就像一列缓慢移动的火车。AI 是一列子弹头列车。等到安全规则赶上新的 AI 时，AI 已经再次改变了。汽车正在“安全差距”中行驶。
- 黑盒（透明度）：AI 做出决定，但无法解释为什么（就像人类有一种直觉）。规则手册要求解释，但 AI 无法提供。这就是透明度债务。这就像法官做出判决却拒绝说明原因，导致公众失去信任。
- 信任问题：如果汽车每周都根据新数据改变其行为，你如何信任它？如果规则不跟踪这些变化，你就会产生可信度债务。
- 可扩展性：汽车收集的数据太多，以至于快要被淹没。规则说“处理数据”，但系统已经堵塞。这就是可扩展性债务。
4. 后果：你为什么要在意？
当这种债务堆积时，它不仅仅是一个文书问题。它会创建一个质量侵蚀循环：
- 困惑：团队不知道汽车应该做什么。
- 延误：他们必须停下来重新测试一切，因为旧的测试已无效。
- 风险：汽车可能会犯错，因为它遵循的“规则”与其实际的“大脑”相比已经过时。
- 认证失败：政府不会允许汽车上路，因为文件与现实不符。
主要结论
该论文认为，在 AI 汽车的世界里，你不能写完规则手册就转身离开。规则手册必须是一份随着 AI 变化而变化的“活文档”。
如果你将需求视为静态的石碑，你将积累巨大的“债务”，最终导致项目崩溃。相反，你需要一个“动态账本”，每当 AI 学到新东西时，规则就会立即更新。如果你不这样做，你就是在驾驶一辆地图损坏、引擎强劲的汽车，径直冲向悬崖。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。