To Copilot and Beyond: 22 AI Systems Developers Want Built
该论文基于对 860 名微软开发者的调查，识别出他们渴望构建的 22 种 AI 系统，并揭示了开发者希望 AI 承担代码组装等辅助工作，但严格保留核心创作控制权以维护专业身份的“有限委托”模式。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
这篇论文就像是一份来自860 位微软程序员的“愿望清单”和“避坑指南”。
想象一下，现在的 AI 编程助手（比如 GitHub Copilot）就像是一个超级勤奋的实习生。它写代码的速度快得惊人，但程序员们发现，自己每天只有10% 的时间在真正“写代码”，剩下的90% 时间都在做其他事：修 bug、查合规、写文档、开会、教新人、审查别人的代码。
现在的 AI 只盯着那 10% 的“写代码”时间猛卷，却忽略了剩下那 90% 的“苦活累活”。这导致了一个尴尬的局面：代码生成得越快，后面审核、修复、解释代码的人就越累，甚至累到崩溃。
为了解决这个问题，研究人员问了这些程序员：“你们希望 AI 帮你们做什么？又绝对不想让它碰什么？”
结果，他们整理出了22 个程序员最想要的 AI 系统。我们可以把这些系统比作一个超级智能的“后勤管家”团队，他们愿意干所有的杂活，但绝不越权做决定。
核心概念：有边界的“放权” (Bounded Delegation)
这是整篇论文最有趣的发现。程序员们并不想让 AI 当“老板”或“艺术家”，他们只想让 AI 当“搬运工”和“质检员”。
- 比喻：想象你在盖房子。
- 你想让 AI 做的：搬砖、搅拌水泥、把砖头砌成墙、把墙刷白、检查墙有没有裂缝。这些是组装工作。
- 你绝对不让 AI 做的：决定房子盖成什么风格、决定承重墙在哪里、决定这房子安不安全。这些是手艺和判断。
- 结论：程序员希望 AI 把周围繁琐的“组装工作”全包了，但核心的“手艺”和“责任”必须留在人类手中。
程序员想要的 5 类"AI 管家”
研究人员把这 22 个系统分成了五大类，每一类都对应着程序员日常工作中的痛点：
1. 开发类：修旧如旧的“整理大师”
- 痛点：老代码像一堆乱糟糟的旧衣服，想整理一下（重构），但怕改坏了。
- 想要的 AI：
- 技术债清理员：能自动识别哪些旧代码该删、该改，但必须把改动拆成小块，让人类确认后再执行。它不能自己突然把整个大楼拆了重建。
- 代码体检仪：在写代码的同时，实时指出“这里有个漏洞”或“这里没写测试”，而不是等代码写完了再给一堆泛泛的警告。
- 故障侦探：当系统崩溃时，它能自动把日志、报错信息拼凑成一个“侦探报告”，告诉人类“大概是这个原因”，但绝不直接去修，因为修错了后果很严重。
2. 设计与规划类：不知疲倦的“秘书”
- 痛点：设计一个系统很烧脑，但把设计变成具体的任务列表、排期、文档，很枯燥。
- 想要的 AI：
- 任务拆解秘书：把老板的一个大想法，自动拆解成具体的开发任务，列出依赖关系，但最终拍板还是人来定。
- 架构顾问：能提出几种设计方案供参考，但绝不替你做决定。它就像个博学的顾问，而不是独断专行的老板。
- 决策记忆库：能记住“为什么半年前我们决定用这个技术”，防止新人来了不知道前因后果。
3. 质量与风险类：严格的“守门员”
- 痛点：代码写完了，怎么保证它没 bug？怎么保证它符合安全规定？
- 想要的 AI：
- 智能测试生成器：根据代码变动，自动写出对应的测试用例，但必须让人类确认“这个测试真的有用吗”。
- 代码审查助手：在代码合并前，先帮人类看一眼，指出哪里可能有问题，但绝不直接说“通过”或“拒绝”。
- 合规翻译官：把复杂的法律/安全条文翻译成程序员能看懂的“检查清单”，但绝不代替人类签字确认合规。
4. 运维类：冷静的“监控员”
- 痛点：服务器报警了，要查日志、查配置，手忙脚乱。
- 想要的 AI：
- 报警降噪员：把成千上万个报警信息整理成一份“重点简报”，告诉人类“出大事了，可能是这个原因”，但绝不自动去重启服务器或修改配置（怕搞砸）。
- 故障排查向导：自动收集证据，但绝不直接动手修复生产环境。
5. 协作与文档类：贴心的“记录员”
- 痛点：代码改了，文档没改；新人来了，没人教；给非技术人员解释技术很难。
- 想要的 AI：
- 文档同步器：代码一变，自动提示文档哪里过时了，并生成修改建议，但绝不自动发布文档（怕乱写）。
- 新人导师：为新员工定制学习路径，但绝不代替老员工进行面对面的指导和情感交流。
- 沟通翻译官：帮程序员把技术术语翻译成老板或客户能听懂的大白话，但绝不自动发送邮件（怕语气不对）。
程序员给 AI 设下的“四条铁律”
无论 AI 多聪明，程序员都要求它必须遵守以下四条规则，否则就不敢用：
- 明确权限（Explicit Authority Scoping）：AI 只能在划定的范围内干活，一旦遇到需要“拍板”或“判断”的事，必须停下来问人。
- 来源可查（Provenance）：AI 说的每一句话、生成的每一行代码，都要能查到来源。不能“无中生有”（幻觉）。
- 不懂就喊（Uncertainty Signaling）：如果 AI 不确定，必须老实说“我不确定”，而不是自信满满地胡说八道。
- 最小权限（Least-Privilege Access）：AI 只能看它该看的数据，绝对不能碰敏感数据，更不能在没有人类批准的情况下修改生产环境。
总结：AI 的价值在于“知止”
这篇论文告诉我们，未来 AI 在软件开发中的价值，不在于它能做多少工作，而在于它知道在哪里停下来。
就像那个超级实习生，如果你让他把活都干了，你反而更累，因为你要时刻盯着他别搞砸。但如果你让他帮你把搬砖、扫地、整理文件这些杂活都干了，只留给你“设计图纸”和“验收质量”这些核心工作，那才是真正的解放。
一句话总结：
程序员想要的是懂规矩、知进退、能干活但不抢功的 AI 助手，而不是一个自作聪明、越俎代庖的“替身”。只有守住这条“有边界的放权”底线，AI 才能真正成为人类的好帮手，而不是新的麻烦制造者。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。