The Competence Crisis: A Design Fiction on AI-Assisted Research in Software Engineering

想象一下，软件研究的世界就像一座巨大且繁忙的图书馆，科学家们在这里撰写关于如何构建更好计算机的书籍。多年来，这座图书馆一直快速增长，越来越多的人试图出版他们的著作。最近，一种新型的“超级抄写员”（生成式人工智能）来到了这里。这位抄写员可以极快地编写句子、进行数学运算并组织想法。每个人都感到兴奋，因为这让写书变得更加容易了。

但这篇文章提出了一个可怕的问题：如果我们变得过于习惯让“超级抄写员”代劳，我们会不会忘记如何亲自写作？

以下是这篇文章的故事，分为几个简单的部分：

1. 当前的心境：快乐但紧张

作者首先观察了目前软件研究人员的情绪。

• 好的方面： 社区是友好且相互支持的。人们喜欢互相帮助。
• 坏的方面： 每个人都承受着出版更多、更快书籍的巨大压力。这造成了“同行评审危机”，即需要检查的书籍太多，以至于检查的质量正在下降。这就像一位评委试图在一天内阅读 1,000 本小说；他不可能发现每一个错误。
• 恐惧之处： 导师（老师）们担心他们的学生。他们担心如果学生过度依赖 AI “超级抄写员”，他们会变得擅长向 AI 提问，但在理解答案方面却变得很差。他们可能会失去深入理解基础知识的能力。

2. 故事：来自 2035 年的警告

为了展示如果我们不改变习惯可能会发生什么，作者写了一个设定在 2035 年的虚构故事。

场景：
资深研究员 Jane Doe 博士正在评审一篇新的科学论文。这篇论文看起来非常完美。文笔流畅，数学逻辑看起来也正确，AI “贡献度评分”为 98%（意味着 AI 完成了几乎所有的工作）。

错误：
论文建议使用一种叫做“Paxos”的计算机规则来连接人类大脑与计算机。

• AI 的错误： AI 看到了“分布式节点”这个词，于是想：“哦，Paxos 是用于那个的！”它没有意识到人类大脑是混乱、连续且生物性的，而 Paxos 是僵化、数字化的规则。将它用于大脑就像尝试在湿海绵上运行数字电子游戏——这根本行不通，并且可能导致癫痫发作。
• 人类的失败： 作者们没有发现这一点。他们完全信任了 AI。他们不知道足够的生物学知识，无法意识到 AI 正在做一个危险的猜测。

恐怖之处：
Jane 意识到这不仅仅是一篇坏论文。这是本月第三篇了。AI 正在制造看似合理的“胡言乱语”，而由于作者们缺乏足够的深度知识去核实，他们正在将其发表。很快，这些虚假的论文会被其他虚假论文引用，从而创造一个“被污染的知识源泉”，在那里没有人知道什么是真实的。

判决：
Jane 拒绝了这篇论文。但她的拒绝信不仅仅是关于数学错误，更是一个对整个社区的警告：“我们已经变成了黑盒子的操作员，而不是工程师。我们知道如何按下按钮，但我们不知道机器内部是如何运作的。”

3. 大道理：“T 型” vs. “横杠”

文章使用了一个酷炫的比喻来解释这个问题：

• T 型（好）： 一个优秀的研究者应该像字母 T。他们对许多事物都有广泛的理解（顶部的横杠），但在一个特定领域也有深度的、垂直的专业知识（长长的竖杠）。这条深度的腿让他们能够钻研混乱的细节并捕捉错误。
• 横杠（坏）： 如果我们过度依赖 AI，我们可能会变得像一个横杠（—）。我们会变得非常宽广且快速，了解很多事情，但没有任何深度。我们不会拥有去挖掘真相的“垂直腿”，无法验证 AI 是否在撒谎。

4. 我们该怎么办？

这篇文章并不是说要“禁止 AI”。它说我们需要更聪明地使用它。

• 不要只是询问，要进行检查： 研究人员需要保持对基础知识的“肌肉记忆”。他们必须能够手动验证 AI 的工作，就像一位即使在自动驾驶开启时也知道如何驾驶飞机的飞行员一样。
• 拥抱挣扎： 学习往往来自于陷入困境、调试和失败。如果 AI 移除了所有的挣扎，我们可能会停止学习如何解决难题。
• 承担责任： 我们不能只说“是 AI 做的”。如果 AI 犯了错，人类仍然是责任人。

总结

这篇文章是一篇“设计虚构”（Design Fiction）——一个用来映射我们当前习惯的虚构故事。它警告说，如果我们让 AI 承担所有重活，而不保持自身知识的深度，我们可能会面临这样一个未来：我们的研究表面看起来完美无瑕，但本质上却是破碎的。目标是保持胜任力，而不只是效率。