To Build or Not to Build? Factors that Lead to Non-Development or Abandonment of AI Systems
本文通过综合范围综述与实证案例数据，探讨了导致人工智能系统未能开发或被弃用的未被充分研究的因素，揭示出除伦理关切外，资源限制、法律问题和组织动态等多样化的实际杠杆显著影响着这些关键的部署前决策。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，人工智能（AI）的世界就像一个庞大而繁忙的施工现场。通常，当我们听到关于 AI 的消息时，焦点总是那些已经竣工的建筑、拔地而起的摩天大楼，以及人们如何居住其中。我们谈论的是这些完工结构的“用途”和“影响”。
但这篇论文提出了一个不同的问题：那些被废弃的施工现场又怎样呢？ 那些半建成的房屋、被揉成一团的蓝图，以及在第一块砖尚未砌起前就被关闭的起重机，又该如何看待？
作者 Shreya Chappidi 和 Jatinder Singh 认为，我们忽略了这个故事中巨大的一部分。他们想要了解组织为何决定不构建 AI 系统，或者为何在构建过程中半途而废。
以下是他们研究发现的简要分解，辅以一些日常生活中的类比：
重大误解
大多数人认为，公司停止构建 AI 是因为他们意识到：“哦不，这不道德！”或者“这很危险！”
论文指出：这只是故事的一部分。
虽然伦理问题（如偏见或隐私）很重要，但它们往往只是冰山一角。在现实世界中，公司放弃 AI 项目通常是因为更枯燥、更实际的原因——比如资金耗尽、时间不够，或者发现数学原理根本行不通。
施工停止的六大原因（分类法）
研究人员查阅了数百份报告并与工程师交谈，从而整理出一份关于 AI 项目为何被取消的“菜单”。他们发现了六个主要类别：
伦理关切（“良心”检查）：
- 类比： 建筑师意识到房子是建在墓地之上，或者会遮挡邻居的阳光。
- 现实： 团队担心 AI 可能会歧视人们、侵犯隐私，或被用于邪恶目的（如武器）。
利益相关者反馈（“市政厅”会议）：
- 类比： 邻居、工人或未来的居民聚集在一起说：“我们不想要这栋建筑在这里，”或者“如果你建它，我们就罢工。”
- 现实： 员工、客户或活动人士提出反对。他们可能会抗议、拒绝使用该工具，或威胁辞职，迫使公司停止项目。
开发生命周期挑战（“蓝图”问题）：
- 类比： 你试图建造一座桥梁，但发现河流太宽、钢材太弱，或者无法弄清楚如何浇筑混凝土。
- 现实： 数据混乱或缺失，模型无法正确学习，或者数学难题无法求解。项目撞上了一道无法逾越的技术墙壁。
组织动态（“办公室政治”）：
- 类比： 老板改变了主意，部门预算被削减，或者争夺指挥权的团队无法就建造什么达成一致。
- 现实： 公司的战略发生转变，领导层失去兴趣，或者不同团队的目标相互冲突。项目仅仅失去了内部支持。
资源限制（“空钱包”）：
- 类比： 你有一个建造豪宅的绝佳计划，但你的钱只够建一个棚屋。或者，你没有合适的工具或合适的工人。
- 现实： 建造或维护的成本太高。他们没有足够强大的计算机（GPU）、足够的数据，或者足够的熟练工程师。有时，从别人那里购买工具比自己建造更便宜。
法律/监管关切（“许可证”问题）：
- 类比： 城市规划委员会说：“你不能在这里建造，”或者“你需要一个我们无法获得的许可证。”
- 现实： 新法律（如欧盟《人工智能法案》）或数据隐私规则（如 GDPR）使得项目风险过大，或法律上无法完成。
数据实际显示的内容
研究人员观察了两组不同的故事，以了解实际情况：
第一组：“新闻”故事（事件数据库）
- 这些是登上头条的著名失败案例（例如，因种族歧视而被叫停的面部识别系统）。
- 发现： 在这些公开故事中，伦理关切和利益相关者反馈是主角。这很合理，因为这些是会被新闻报道的故事。
第二组：“幕后”故事（从业者调查）
- 这些是发生在公司内部、从未登上新闻的安静失败案例。
- 发现： 在这里，故事完全不同。停止项目最常见的原因是技术挑战（行不通）、资源限制（太贵）和组织动态（管理层改变了主意）。
- 关键见解： 许多项目在到达公众视野之前就被扼杀了，因为它们太难、太贵，或者根本不适合该公司。
“幽灵”项目
论文还指出，有时项目被取消，但后来又会复活。
- 类比： 建筑工人因下雨而停工。两年后，太阳出来了，他们又开始挖掘地基。
- 现实： 公司经常暂停项目，等待更好的技术或更低的成本，然后再尝试建造。或者，他们可能会取消某个特定功能（如面部识别），但保留系统的其余部分。
主要启示
作者对 AI 社区说：“停止只关注完工的建筑和伦理丑闻。”
要真正理解如何使 AI 安全且负责任，我们需要理解施工阶段。我们需要帮助公司认识到，决定“不建造” 是一个有效、明智，有时甚至是必要的选择。
他们建议，我们需要更好的工具和清单，以帮助组织提出以下问题：
- “我们实际上有足够的资金和技能来完成这个项目吗？”
- “这个技术难题可以解决吗？”
- “现在是建造这个项目的合适时机吗？”
如果我们能让公司更容易出于实际原因说出“不，我们不应该建造这个”，我们或许能在许多未来问题开始之前就预防它们。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。