The Verification Bottleneck
本文认为，虽然生成式人工智能降低了研究产出的成本，但它也可能通过使较弱的研究者能够模仿较强的研究者，从而使评审能力过载并导致验证瓶颈，在均衡状态下反常地减少科学验证和经证实的知识。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
科学的进步遵循着一个简单的两步节奏：有人提出一个新想法，然后社区对其进行检验。这种被称为同行评审的独立检查过程，是可靠知识的引擎。它依赖于一种稀缺资源：专家们自愿阅读、评判和验证同事工作的精力和时间。几十年来，该系统一直维持着稳定的投稿流，但现状正在迅速发生变化。新的人工智能工具现在可以以惊人的速度进行写作、编写代码和分析数据，极大地降低了产出研究论文所需的成本。虽然这预示着新想法的涌现，但也提出了一个关键问题：如果生成研究变得极其廉价且容易，人类的验证系统能否跟上步伐？
经济学家彼得·阿希姆（Peter Achim）最近的一项研究通过对科学期刊运作方式的数学模型，探讨了这种紧张关系。该研究探讨了当生产论文的成本降至如此之低，以至于即使是那些想法较弱的研究人员也能轻易模仿顶尖科学家宏大项目时，会发生什么。该模型将期刊编辑视为一名守门人，必须决定对每份投稿进行多深程度的审查。由于编辑在阅读之前无法看到研究者想法的真实质量，他们依赖于可观察的特征，例如项目的规模或雄心，来推测对方的身份。一个更大、更复杂的项目通常是严肃研究者的信号，因为对于一个想法较弱的人来说，伪造这种水平的雄心难度较大。
然而，研究发现，当人工智能使得编写和扩展复杂想法变得廉ла廉价时，这种信号就会失效。如果一个持有平庸想法的研究者可以使用人工智能瞬间生成一个规模宏大、充满野心的项目，那么论文的“规模”就不再能向编辑传达其背后思想质量的太多信息。为了补偿这一点，编辑被迫要求更加庞大、更复杂的项目，以此试图将优秀的科研人员与平庸者区分开来。这产生了一个悖论：为了维持同样的信任水平，系统必须要求更多的工作量，而这反过来又需要评审人员投入更多的时间。
该论文证明，在技术进步达到一定程度后，这个循环将变得不可持续。随着生产成本的下降，编辑发现，保持研究者诚实的唯一方法就是要求他们承担日益繁重的任务，从而消耗大量的评审时间。这耗尽了系统的能力。由于评审员是根据工作的预期价值来决定投入多少时间的志愿者，他们会对这种低效做出反应并选择退缩。他们看到自己的时间正被浪费在一个难以区分好想法与坏想法的系统中，因此减少了时间的投入。结果出现了“验证瓶颈”。在这种情景下，尽管研究产出的速度比以往任何时候都更快、更便宜，但经核实的可靠知识总量实际上却在下降。系统产生的真理变少了，并不是因为想法变差了，而是因为用于检查它们的机制被那些让生产变得更容易的工具给堵塞了。
研究还表明，这个问题是由于信息的隐蔽性造成的。如果编辑从一开始就能看到每位研究者的真实质量，那么更廉价的生产只会带来更多经过验证的知识。瓶颈之所以出现，是因为编辑必须去猜测谁是谁，而那些让“猜测”变得更难的工具，恰恰也是让“写作”变得更容易的工具。论文建议，解决方案不在于产出更多的论文，而在于改进验证工具本身。更好的初步筛选或更快速的事实核查手段，可以使系统在无需要求如此沉重、耗时的项目的情况下，依然能够区分出优秀的工作。论文最后总结道，如果不进行这些改进，科学界可能会面临这样一个未来：研究的数量在增长，但已建立的、经过验证的知识存量却停滞甚至萎缩。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。