Credential farming in the age of generative AI: relocating trust from outputs to communities
本文认为，生成式人工智能已经削弱了传统学术凭证作为能力代理指标的可靠性，从而迫使认识论上的信任从精美的产出转向那些真正培养并见证学术判断力的关系共同体与形成性过程。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
几十年来，科学界一直运作在一个简单且值得信赖的假设之上：如果你能产出一篇精美的研究论文，那么你一定理解其中的内容。这一理念依赖于资历——学位、发表的文章和职位头衔——它们是衡量一个人批判性思维能力及对共享知识做出贡献能力的简写。这些文件并非衡量人类思想的完美标准，但它们曾是可靠的，因为创造这些文件需要真正的努力和深度的学习。然而，生成式人工智能的兴起开始打破这种联系。现在，一个人可以使用计算机程序写出一篇完美的科研文章，包括数据分析和引用，而无需真正理解这些文字的含义或结论是如何得出的。这种转变创造了一个危险的鸿沟：文档看起来完美无瑕，但其背后的那个人可能并未学到任何东西。
这种新现实威胁着我们选拔科学家和医生的整个体系。如果机构继续仅仅根据提交的论文来评判一个人，那么它们面临着风险，即雇佣那些精通“向计算机索取答案”而非“寻找答案之技能”的人。一群研究人员（包括来自全球各地的大学的学生和教授）认为，解决方案不在于构建更好的工具来抓捕使用 AI 的人，而在于改变我们信任的对象。他们建议，与其关注最终产物，我们必须关注一个人在社群中学习和思考的过程。
这篇论文的作者是一个由高中生到医学研究人员组成的多元化团队，他们认为传统的评估能力的方式正在崩溃。他们描述了一种被称为“资历农场”（credential farming）的现象，即个体在没有实际为赋予这些头衔意义的科学事业做出贡献的情况下，榨取学位或出版物的社会价值。在过去，撰写一篇研究论文证明了某人曾花费多年时间掌握某一学科。今天，生成式 AI 让任何人都能瞬间生成同样的证明，无论其实际知识水平如何。作者指出，试图通过检测软件来解决这个问题是一场注定失败的战斗。这些工具往往并不可靠，可能会不公平地惩罚那些母语非英语的作者，并且无法捍卫那道不再能区分博学与无知者的边界。
研究人员建议不要将重点放在“检测战争”上，而是将重心从输出转向科学家的“塑造”。他们认为，真正的能力并不存储在文档中，而是通过在群体中经历一个漫长且被见证的过程而建立起来的。这一概念借鉴了这样一个观点：我们通过与他人共同工作来学习，而他人可以观察到我们的错误并引导我们的思考。在一个健康的科学共同体中，成员的学习不仅是通过阅读事实，更是通过参与对话——在对话中，他们必须解释自己的推理，承认自己的错误，并根据同行的反馈修改自己的想法。这种学习很难伪造，因为它发生在一段时间内，并与他人建立起关系；而计算机可以瞬间生成一篇看似完美的文章，却无法揭示作者的思想。
为了测试这一想法，作者描述了研究社群可以采取的三个实践步骤。首先，他们建议根据思维的深度而非简历的清晰度来选拔新成员。这涉及提出没有单一正确答案的开放式问题，例如要求候选人描述一次新思想动摇其世界观的经历。计算机可以生成一个看似合理的答案，但它无法复制真实人类在对话中所带来的那种真诚的迟疑、反思和个人经历。其次，他们建议建立小型、非正式的小组，让人们可以在没有产出最终报告压力的情况下自由交谈。这些小圈子允许进行诚实的交流，使人们可以直言“我不理解这个”，并从中获得帮助，从而模拟现实生活中的学习方式。最后，作者敦促这些社群抵制将这些新方法转化为新指标的冲动。如果他们开始统计某人发言的次数或回复的速度，他们只会重新创造旧的问题——即优化数字而非追求真实的理解。
论文强调，这种转变对于身处资源匮乏环境的研究人员尤为关键，因为这些人通常通过那些在传统机构中“隐形”的非正式网络进行学习。这些人可能拥有深厚的求知欲和真正的技能，但缺乏以精英大学所期望的方式展示自己的精炼词汇。通过关注“塑造”和社群关系，机构可以发现这些目前被忽视的优秀人才。作者承认，这种方法并非完美方案，也带有其自身的风险，例如在主观对话中产生偏见的可能性。他们承认性格很难观察，且他们的团队本身就包含仍在学习的学生，这意味着他们无法从内部完全证明自身的“塑造”过程。
最终，论文得出结论：机器可以撰写论文，但它们无法成为值得信赖的人。科学机构的任务不再是验证一份文档是否存在，而是判断一个人是否真正学会了思考。这要求从评判最终产物转向见证学习本身的旅程。这是一个呼吁，旨在重建一个能够重视科学成长的过程中那些混乱、艰难且充满人性色彩的过程，而非仅仅看重那些光鲜亮丽、人工制造的结果。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。