AI-Augmented Science and the New Institutional Scarcities
本文认为，随着人工智能以近乎零的边际成本生成胜任的判断，科学机构必须从仅仅适应人工智能转向重新设计其认证基础设施，以应对经过验证的信号、合法性、真实来源以及最为关键的社区对委托认知的整合能力等方面的新稀缺性。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象科学界是一座庞大、高风险的工厂。几个世纪以来，这座工厂最宝贵的产品并非原材料（数据）或机器（计算机），而是判断力。
科学家以及大学、期刊等机构曾是“质量控制检验员”。他们的工作是审视一个新想法，判断其真伪，并盖上“认证”印章。这是一项艰巨的工作，由于人类的注意力有限，优秀的检验员天然短缺。这种短缺反而使系统得以平稳运行。
人工智能革命：“伪造”的检验员
如今，人工智能已经到来。但它不仅让检验员变得更快，还制造了大量看似称职却几乎零成本的检验员洪流。
不妨这样想：想象一家面包店，旧规矩是“只有经主厨品尝过的面包才能出售”。突然，一个机器人出现了，它能每秒品尝一百万条面包，并说“这看起来真美味！”问题在于，机器人只是基于模式在猜测。它可以写出一篇听起来完美的评论，给一篇虚假的科学论文排名，或者起草一份看似精彩却毫无实质内容的资助申请书。
该论文指出，旧有的经济规则（“人工智能使预测变得廉价，但人类判断依然昂贵”）在科学领域已不再适用。在科学中，“产品”本身就是判断。当人工智能能以零成本生成一百万个虚假判断时，旧体系就会崩塌。
四大新瓶颈
当每个人都能瞬间产出“看起来不错”的科学成果时，有四样东西变得稀缺而珍贵。这些是科学必须解决的新瓶颈：
已验证的信号（“生命证明”）：
- 隐喻： 想象一个世界，任何人都能印出外观完美的假100美元钞票。如今唯一重要的是安全特征，它能证明钞票是真的。
- 科学层面： 仅由人类“审阅”过的论文已不再足够。新的黄金标准是那些结果已通过代码重新运行并验证的论文。稀缺资源不再是观点，而是数学确实成立的证明。
合法性（“信任银行”）：
- 隐喻： 想想银行的声誉。如果银行开始接受假支票，它失去的不仅仅是金钱，更是其存在的执照。
- 科学层面： 科学期刊和会议拥有一笔“声誉预算”。每发表一篇被证实为虚假或不可复现的论文，他们就会消耗一点这笔预算。如果预算耗尽，他们就会变得无关紧要。稀缺资源不再是出版行为本身，而是维持信任所需的劳动。
真实的来源（“收据”）：
- 隐喻： 如果你买一幅画，你想知道是谁画的、用了什么颜料、以及之前由谁收藏。如果这幅画是由机器人创作的，你需要一张数字收据，确切显示是哪一个机器人以及使用了哪些数据。
- 科学层面： 目前，科学论文并不告诉你是否由人工智能撰写、基于哪些数据训练、或使用了什么提示词。新的稀缺性在于完整且不可篡改的记录，记录科学主张是如何从代码到人工修改被创造出来的。
整合能力（“信任上限”）：
- 隐喻： 想象一个城镇，人们开始让机器人驾驶汽车。起初这没问题。但如果90%的汽车都由机器人驾驶，人类可能会完全不再信任道路，甚至彻底停止驾驶。社区在陷入恐慌之前，对委托代理的承受力是有限度的。
- 科学层面： 这是最关键的瓶颈。它是社区容忍人工智能进行思考的限度。如果一家期刊接受了太多人工智能生成的论文，读者、医生和政策制定者将不再信任它。你无法用更好的软件购买这种信任；这是一种社会极限。
解决方案：重新设计工厂
该论文得出结论：解决方案并非让人工智能更快，或进一步自动化审稿流程。那只会加速混乱。
相反，我们需要重新设计这座工厂。
- 停止计算速度： 不要仅仅自动化等待阅读的论文队列。
- 开始计算证明： 建立一个系统，只有附带“已验证”印章（重新运行的代码）和完整“收据”（来源记录）的论文才能被接受。
- 建立共享的安全网： 创建一个社区共有的系统（“公地”），分担核查事实的艰巨工作，以免较小或较贫困的机构被抛在后面。
核心结论
该论文警告，科学的未来不属于那些能处理最多论文最快的期刊。它将属于那些能够证明其论文真实性的期刊。
制造一个“听起来很聪明”的科学主张，现在已成为科学中最廉价的部分。而制造一个合法、可信的主张，正变得成为最昂贵且最重要的部分。人工智能/机器学习社区是首个面临这一危机的群体，他们必须在科学界其他领域跟进之前，先修缮好自己的家园。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。