Who Writes the Docs in SE 3.0? Agent vs. Human Documentation Pull Requests
本研究分析了新兴 SE 3.0 时代的近 2,000 个文档拉取请求,揭示了 AI 智能体提交的文档变更显著多于人类,然而这些贡献往往在极少人工审查的情况下被合并,从而引发了对文档质量保证以及人机协作可靠性的严重担忧。
原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
想象一个繁忙的建筑工地,一种新型的工人已经抵达:AI Agent(人工智能代理)。在过去,这些机器人就像沉默的助手,只有在你提出特定问题时才会做出回应。但在被称为“SE 3.0”的新时代,它们更像是自主的队友。它们可以走进工地,决定哪里需要修理,甚至可以在没有被指令的情况下,提交自己的变更蓝图。
这篇论文就像一份现场检查报告,提出了一个简单但至关重要的问题:“究竟是谁在为这些项目编写说明书(文档),而人类监工是否在检查他们的工作?”
以下是研究人员的发现,已用通俗易懂的语言进行了拆解:
1. 机器人在编写手册(比你想象的还要多)
研究人员查看了近 2,000 个“Pull Request”(这类似于更新项目文件的正式请求)。他们想看看谁在进行编写工作。
- 结果: AI Agent 是主力军。它们提交了 1,478 次文档更新,而人类开发者仅提交了 519 次。
- 类比: 想象一个图书馆,机器人正在编写 75% 的新书摘要和书架标签,而人类图书管理员只编写剩下的 25%。
- 令人惊讶之处: 机器人并不仅仅是与人类协作。事实上,96% 的文件是由机器人或人类编辑的,但两者很少同时在同一个文件上进行协作。这就像机器人和人类在不同的班次工作,极少在同一页纸上交汇协作。
2. “大杂烩”问题
研究人员还注意到关于机器人正在修改什么内容的一些奇怪现象。
- 结果: 在被机器人标记为“文档更新”的请求中,大约有 29% 实际上并没有触及任何文档文件。它们正在修改代码或其他非文档类文件。
- 类比: 这就像一个机器人举手说:“我是来修理图书馆标牌的!”但实际上它却跑去重新布置后屋的家具。标签写着“修理标牌”,但实际做的工作却是另一回事。这会让期望看到标牌被修复的人类审核员感到困惑。
3. “信任坠落”(人类是否在检查工作?)
这是研究中最关键的部分。当机器人提交一项变更时,通常需要人类进行审查并批准。研究人员想知道:人类是在认真阅读并编辑机器人的作品,还是仅仅点击了“批准”?
- 结果: 人类大多是在原封不动地接受机器人的工作。
- 在 85% 的案例中,人类保留了机器人所写的大部分内容。
- 在 34% 的案例中,人类甚至没有删除机器人新增的任何一行。
- 平均而言,机器人添加的行数中有 86.8% 保留在最终版本中。
- 类比: 想象一名学生把作文交给老师。老师扫了一眼,说“看起来不错”,然后就把它存档了,没有划掉任何一个字,也没有添加任何修正。
- 担忧: 虽然这表明机器人的表现尚可,但也提出了一个警示。如果机器人负责编写手册,而人类并没有真正进行编辑或检查,那么手册可能会出现轻微错误、令人困惑或过时的情况,且无人能察觉。
核心结论
论文总结道,AI Agent 已成为这些项目中软件文档的主要编写者。然而,人类“审核员”往往更像是盖章员而非编辑。他们让机器人的工作以极少的后续跟进直接通过。
作者警告说,虽然这很高效,但也创造了一种新的风险:我们可能在没有足够的人类眼睛来复核指令是否准确的情况下,就过度信任机器人来编写说明手册。 他们建议,我们需要更好的方法来确保这些机器人编写的手册在交付给世界之前是可靠的。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。