You Shall Not Pass! Where and Why Developers Draw The Line on AI Autonomy
通过对 448 名微软开发人员进行的混合方法研究，本文揭示了对软件工程中 AI 自主性的接受程度因任务特征和个人特质而异，其中开发人员最抵制将定义身份的工作、面向人的工作以及面向设计的任务进行委托，而更愿意委托具有高需求或低问责制特征的任务。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
将软件开发想象成一个规模宏大、繁忙有序的建筑工地。多年来，工人们（开发者）已经完成了从地基到屋顶的一切建设工作。现在，一种新型的助手来到了现场：一个速度极快、极其聪明的机器人（AI），它不仅能砌砖、拌水泥，甚至还能设计蓝图。
核心问题不再是机器人“能不能”做这些工作，而是机器人应该在多大程度上独立完成工作？
这篇题为《你不能通过！》（"You Shall Not Pass!"）的论文，就像是对微软公司（Microsoft）内部 448 名建筑工人（开发者）进行的一项调查，旨在找出他们究竟在哪里划定了界限。他们想知道：我们什么时候让机器人独自工作，又什么时候必须握紧现场的钥匙？
三道控制之门
研究人员发现，开发者并不仅仅是对 AI 说“是”或“否”。相反，他们构想了一系列三道门（或锁），AI 必须通过这些门才能获得更多的自由。这就像机场的安全检查站，只不过对象是代码。
第一道门：“建议”之门
- 规则： 机器人可以低声提议想法，但实际操作必须由人类完成。
- 感受： “我会听取你的想法，但我才是那个拿锤子的人。”
- 何时开启？ 几乎总是开启。开发者喜欢利用 AI 的建议来进行头脑风暴或修复微小的漏洞。
第二道门：“行动”之门（第一道重大分界线）
- 规则： 机器人可以实际建造东西（编写代码），但人类必须对其进行检查，并在投入使用前给出“赞成”信号。
- 感受： “你可以砌好这面墙，但我必须在刷漆之前检查它。”
- “禁区”： 如果人类对结果感到负有个人责任（问责制/Accountability），他们通常会在这里拦住机器人。他们不希望在自己没有亲手检查过的墙上签下自己的名字。
第三道门：“决策”之门（最后的防线）
- 规则： 机器人不仅可以建造，还可以决定要建造什么以及何时建造，而人类仅在情况变得极其糟糕时才会介入。
- 感受： “你现在是工头了；我只在阳台上看着就好。”
- “禁止通行”区： 这是大多数人说“你不能通过！”的地方，尤其是针对以下情况：
- 身份认同（Identity）： 那些让他们觉得自己是真正专家的任务（如设计复杂的系统架构）。他们不想失去这项工作的“手艺感”。
- 人类连接（Human Connection）： 指导后辈、与客户沟通或教学。机器人无法很好地处理这些“人性化”的事情。
- 高风险（High Stakes）： 如果一个错误可能毁掉整个项目，人类希望保留最终决定权。
他们为何在这些地方划定界限？
论文发现，界限的划定位置并非对每个人或每项任务都一样。这取决于四个主要因素：
- “自我”因素（身份认同）： 如果一项任务是开发者热爱并定义其身份的任务（如创意设计），他们会严密监控机器人。他们不想失去亲自从事这项工作的乐趣。
- “责备”因素（问责制）： 如果开发者知道如果出了问题会受到惩罚，他们就会拒绝让机器人在没有直接审批的情况下行动。他们希望成为那个签字确认的人。
- “工作量”因素（需求）： 如果开发者正淹没在枯燥、重复的工作中（如搭建服务器或编写基础文档），他们很乐意让机器人接管决策权。他们太累了，只想让机器人处理繁重的工作。
- “机器人语者”因素（经验）： 使用过 AI 且不惧冒险的开发者，更愿意让机器人主导局面。
“级联锁”隐喻
作者将这一过程描述为**运河船闸（canal locks）**的过程。
- AI 的自主性是一艘试图向上游行驶的船。
- 问责制是第一道闸门。如果人类感到负责，闸门就会关闭，船只无法通过。
- 身份认同是第二道闸门。如果任务处于人类身份的核心，这道门就会关闭。
- 工作量是水压。如果人类不堪重负，水压会推开闸门，让船只更快地向上移动。
警示信号（反模式）
论文警告说，如果公司默认让 AI 工具来决定规则，会导致糟糕的结果：
- “橡皮图章”问题： 如果人类因为太忙而停止检查机器人的工作，他们就会变成仅仅是“橡皮图章”，对并不理解的东西进行签字认可。
- “空洞的指挥家”： 如果机器人承担了所有的深度思考，人类开发者就会丧失技能。他们会变成一个管理机器人的管理者，却无法真正理解这个机器人，就像一个不懂得演奏乐器的指挥家。
- “断裂的管道”： 如果 AI 承担了所有的初级工作，新入行的开发者就永远学不会基础知识。他们无法成长为专家，因为他们从未练习过基本功。
总结
论文得出结论，我们不能仅仅列出一份“AI 可以做的任务”和“人类必须做的任务”清单，因为随着 AI 变得越来越聪明，这份清单每天都在变化。
相反，我们需要设计那些能保持工作意义感的职位。我们需要确保人类对重大决策负责，保留工作的“手艺感”，并利用 AI 来处理那些无聊的任务，从而让他们能够专注于那些让他们感到自己是专家的事情。如果我们不这样做，我们可能会面临这样一个未来：人类只是在旁观机器人工作，却根本不理解机器是如何运作的。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。