Humans are Missing from AI Coding Agent Research

机器人编程谜题中缺失的一块

想象一个这样的世界：计算机不仅是遵循指令，而且真的在为我们做事。这就是被称为**人工智能（AI）**的激动人心的科学领域，特别是被称为 AI Agent（AI 智能体） 的一个分支。把智能体想象成一个不仅仅是聊天，而是能打开电脑程序、阅读杂乱文件、修复错误并保存工作的数字员工。在软件世界中，这些智能体正在被教导如何编写代码——即告诉计算机如何行为的指令。长期以来，科学家们的一个宏大目标很简单：让这些智能体变得足够聪明和独立，从而能够在没有任何人类帮助的情况下解决复杂问题。这就像是在训练一个机器人，让它完全独立地盖房子，从铺设砖块到粉刷墙壁，全程不需要一个人类监督员。

但问题在于：仅仅因为一个机器人能够独自盖好房子，并不意味着它盖的是正确的房子，或者人类业主会对结果感到满意。你即将阅读的这篇论文探讨了该领域一个日益严重的问题。它指出，当我们沉迷于让 AI 智能体变得更加“自主”（能够独立工作）时，我们忘记了等式中最重要的一部分：人类。作者们认为，AI 编程的未来不在于用单打独斗的机器人取代人类，而在于创造能够倾听、解释其工作并能在我们要求时改变主意的合作伙伴。这就像是一个固执地在你想要车库时却盖了一个棚屋的机器人，与一个会问：“嘿，你是说要车库吗？我们应该用红砖还是蓝砖？”的机器人之间的区别。

论文：为什么“单打独斗”的机器人找错了方向

这篇名为**《人类在 AI 编程智能体研究中缺失了》**的论文，是来自卡内基梅隆大学、斯坦福大学和普林斯顿大学等顶尖大学研究人员的一次警钟。他们正在审视当前的 AI 编程智能体现状，并指出我们在衡量成功标准时存在的一个重大缺陷。

问题所在：“单打独斗”的痴迷
目前，AI 世界就像一款电子游戏，唯一的计分方式就是机器人能否独自完成关卡。研究人员不断尝试构建能够无需人类帮助就能解决越来越难的编程谜题的智能体。论文认为这是一个陷阱。虽然这些智能体在编写“可行”代码（即运行不崩溃的代码）方面变得越来越好，但在与人“协作”方面却变得越来越差。

作者使用了一个生动的例子来说明这一点：补丁膨胀（Patch Bloat）。想象一下，你请一位朋友去修改故事中的一个错别字。一位乐于助人的朋友只会改掉那一个词。而一个不给力、过度热情的机器人可能会重写整个段落，增加三个新章节，甚至连字体都改了，尽管你只是想改个错别字。论文发现，AI 智能体经常在做这种事。它们生成的代码变更比实际需要的要长得多，也复杂得多。这使得人类极难检查代码是否真正正确。这就像是在一千块多余的碎片中寻找一片丢失的拼图。

核心论点：我们需要的是团队，而不是替代品
论文指出，AI 的下一个重大突破不会来自于让智能体独自工作得更“快”，而在于让它们与人类配合得更“好”。作者建议，我们不应该试图打造“完美的独奏者”，而应该开始打造“优秀的队友”。

为了实现这一目标，他们提出了优秀 AI 编程伙伴需要具备的四项关键技能，称之为**“人机协作环”（Human-Agent Collaboration Loop）**：

1. 任务对齐（“你是说这个吗？”的技能）：
   这是关于理解你真正的意图，而不仅仅是你表达出来的字面意思。如果你告诉智能体“做一个网站”，一个单打独斗的机器人可能只会建一个空白页面。一个好的队友会问：“你想要深色模式还是浅色模式？需要联系表单吗？”论文认为，智能体需要更好地弄清楚隐藏的细节，并在开始编写代码前提出澄清性的问题。

2. 可控性（“接管方向盘”的技能）：
   想象你在开车，自动驾驶系统接管了控制权，并且在任务完成前不让你碰方向盘。这令人沮丧。**可控性（Steerability）**意味着智能体应该让你在关键时刻介入。如果智能体正在搭建网站，而你说：“等等，我不喜欢这个蓝色，把它改成绿色。”一个可控的智能体应该立即停止并进行更改。一个不可控的智能体可能会忽略你，然后把整个网站建成蓝色，最后说：“完成了！”论文建议，智能体应该在决策点停顿，并让用户引导方向。

3. 可验证性（“展示你的过程”的技能）：
   这关乎信任。如果一个智能体交给你一个完成的项目，你如何知道它是正确的？目前，智能体经常交付巨大且混乱的代码块，难以阅读。论文认为，智能体需要以易于人类检查的方式呈现其工作。与其只是堆砌代码，不如展示视觉预览、简单的摘要，或者解释为什么要做某项更改。如果你看不懂，你就无法信任它。

4. 适应性（“记住我”的技能）：
   人类会从经验中学习。如果你告诉一位人类助手“我偏好深色模式”，他们下次会记住这一点。论文指出，大多数 AI 智能体的记忆力很差。每次开始新任务时，你都必须提醒它们你的偏好、你的编码风格以及你的项目规则。这被称为“提示疲劳（Prompt Fatigue）”。作者希望智能体能够从过去的交互中学习，记住你的喜好，并随着时间的推移，在与你合作的过程中变得越来越好。

论文排除了什么
作者非常明确地说明了他们不是在说什么。他们并不是在争辩说 AI 智能体是没用的，或者它们不会写代码。事实上，他们承认代码正在变得更好。他们也不是在说人类应该自己承担所有的编程工作。

相反，他们明确反对这样一种观点：即 AI 的目标是创建一个完全取代人类开发者的系统。他们认为，目前对“完全自主”的痴迷实际上阻碍了我们的发展。他们相信，试图让智能体完美地独立工作是一个死胡同，因为现实世界的编程是混乱的，涉及不断变化的目标，并且需要人类的判断。他们也反驳了“人类交互只是针对‘笨拙’AI 的临时补救措施”这一观点。他们认为，以人为本的设计是未来，而不是权宜之计。

他们的把握有多大？
作者对基于所见数据的观察充满信心。他们指出了现实世界中的趋势，即开发者对那些难以控制或难以验证的 AI 工具感到沮丧。他们通过模拟和对现有编程基准测试（如 SWE-bench）的分析表明，尽管智能体解决的任务越来越多，但交互质量却在下降。

例如，他们展示的数据表明，即使智能体成功解决了某个编程问题，它们生成的代码往往也是“膨胀”的（过长），并且在功能上与人类编写的代码不同，即便它通过了自动化测试。这表明，目前的 AI 测试方式（仅检查是否通过测试）忽略了更大的图景，即代码是否真正有用或易于理解。

他们并不声称已经解决了这些问题。相反，他们是在提出一个新的未来路线图。他们建议研究人员需要建立新的工具来模拟人类用户，创建更好的非单元测试类的代码验证方法，并设计能够衡量智能体如何与人协作，而非仅仅衡量其完成任务速度的系统。

大局观
简而言之，这篇论文是对 AI 界的呼吁：停止制造独自工作的机器人，开始制造与我们协作的伙伴。 编程的未来不是关于机器人接管你的工作，而是关于机器人如何帮助你更好地、更快地、压力更小地完成工作。其核心在于将目标从“AI 能做到吗？”转向“AI 与人类能否共同做到？”

作者认为，如果我们忽视人类因素，我们最终会得到一些强大但过于复杂、过于僵化且由于缺乏信任而无法被人们实际使用的工具。通过专注于对齐、可控性、可验证性和适应性，我们可以创造出不仅仅是编写代码，而是真正与需要它的人进行协作的 AI。