AI Policy, Disclosure, and Human in the Loop: How Are Contribution Guidelines Adapting to GenAI?
这项针对 1,000 个 GitHub 仓库的实证研究表明，尽管大多数开源项目现在都允许 AI 辅助型贡献，但大多数项目都强制要求披露 AI 使用情况，并在开发过程中保持人类监督。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，软件开发的世界就像一座繁忙、喧嚣的大都市，数以百万计的人正在不断地建造、修复和扩建一座名为“开源”的巨大共享摩天大楼。多年来，这座城市一直遵循着一个简单的规则：如果你想增加一个新房间或修理一扇破损的窗户，你必须亲自动手，并且城市的志愿者检查员（被称为“维护者”）会检查你的蓝图以确保它们是安全的。但最近，一种新型的施工队来到了这座城市：生成式人工智能。把它们想象成超级快速、带有魔力的机器人，可以在几秒钟内起草出整套蓝图。虽然这听起来像是一个梦想，但也造成了一场交通堵塞。这些机器人太快了，以至于每天都向城市涌入成千上ของ份新蓝图，让人类检查员应接不暇。其中一些机器人起草的计划非常出色，但另一些则是“AI 废料”——那些看起来还凑合，但一旦尝试建造就会崩溃的杂乱、低质量草稿。这座城市面临的大问题不再仅仅是“我们能否建造？”，而是“我们如何在让机器人提供帮助的同时，不让它们接管施工现场？”
本论文通过研究 GitHub 上 1,000 个最受欢迎软件项目的“规则手册”（贡献指南），深入探讨了这一问题。研究人员想要观察这些项目是如何适应机器人劳动力的。他们发现，大多数项目并没有禁止机器人，而是试图建立一种“人机协同”（Human-in-the-Loop）系统。想象一下一个建筑工地，机器人可以搅拌混凝土和铺设砖块，但人类监工必须站在旁边，手持抹刀，理解每一个步骤，并在工作成为建筑的一部分之前签字认可。该研究分析了 1提到 AI 的 118 份特定规则手册，并发现了一个清晰的模式：虽然 78% 的项目表示“是的，你可以使用 AI”，但它们几乎总是要求两件事。首先，你必须举手示意：“我为此使用了机器人”（披露）；第二，你必须证明你，作为人类，确实理解机器人构建的内容（人机协同）。
研究人员发现，51% 的项目明确要求你在使用 AI 时进行披露，将其视为食品包装上的安全标签。他们希望检查员知道：“嘿，这个部分是由 AI 起草的，所以请仔细检查。”另外 27% 的项目允许使用 AI 但并未明确表示欢迎；而还有一小部分（22%）表示：“禁止使用机器人；我们要 100% 人造的代码。”然而，最引人注目的发现是，74% 的项目坚持要求“人在回路中”。这意味着，即使是机器人编写的代码，也必须由人类阅读、理解并承担全部责任。论文指出，如果没有这种人类监督，这座城市可能会被“AI 废料”淹没——即浪费大家时间的低质量代码。
有趣的是，论文提到，虽然许多项目都有这些规则，但指令有时可能有些模糊。有些规则手册说“如果 AI 做了大量的工作，请予以披露”，但它们并不总是定义究竟什么是“大量”。这就像一位老师说“如果你用了计算器就告诉我”，却没说这意味着是用于一道数学题还是整个考试。作者建议，项目需要更加精确以避免混淆。他们还警告说，虽然一些项目正试图通过自动关闭低质量的 AI 提交来阻止它们，但这可能会在无意中惹恼那些恰好使用了 AI 工具的真实人类贡献者。最终，论文得出结论：开源的未来不在于在人类和机器人之间做选择，而在于确保人类牢牢掌握驾驶座，将机器人作为一个强大的工具，而不是让它来开车。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。