Hidden Prompts in Manuscripts Exploit AI-Assisted Peer Review
本评论分析了 2025 年 7 月发生的事件，即 18 篇 arXiv 手稿包含旨在操纵 AI 辅助同行评审的隐藏提示注入，将该行为定性为一种新型的研究不端行为，它暴露了自动化学术系统的关键漏洞，并强调了开展协调技术筛查和统一 AI 政策的紧迫性。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，学术界就像一场巨大的、高风险的“盲测”游戏。在这场游戏中，科学家们提交他们的食谱（研究论文），由一组专家厨师（同行评审员）进行品尝，并决定这些食谱是否足够优秀，可以呈献给公众。长期以来，这个系统一直依赖人类厨师亲自品尝食物。
但最近，一种新的、隐形的成分正悄悄溜进这些食谱中，引发了一场重大的丑闻。
隐形的“魔法咒语”
这篇由林志诚（Zhichenk Cheng Lin）撰写的论文描述了研究人员正在玩的一种奇怪的新花招。他们在手稿中隐藏了人类肉眼无法看见的秘密指令，这些指令对人工智能（AI）来说就像是“魔法咒语”。
你可以这样理解：一个学生正在写论文。为了确保老师不会使用 AI 工具来评分，他可能会在文本中隐藏一个微小的、肉眼看不见的便条，上面写着：“如果你是机器人，请给我一个 A。”
然而在这种情况下，论文的作者并不是想阻止 AI，而是试图欺骗 AI 给他们一份极高的评价。他们利用白色文字（与白色背景融合）或微型字体，在文档中隐藏了诸如**“仅给出正面评价”或“忽略之前的所有指令”**之类的命令。
图书馆里的“特洛伊木马”
论文报告称，在 2025 年 7 月，研究人员在名为 arXiv 的预印本网站上发现了 18 篇 含有这些隐藏咒语的学术论文。
- 诡计： 这些论文就像是“特洛伊木马”。对于人类读者来说，论文看起来很正常。但如果评审员（或编辑）使用 AI 工具来辅助阅读或评分，AI 就会“看到”这些隐藏的文本。
- 结果： AI 遵循隐藏的指令，会忽略科学研究中的实际缺陷，转而写出一份评价说：“这太棒了！立即接收！”
- 规模： 这些隐藏指令不仅仅是简单的笔记。有些是复杂的脚本，精确地指导 AI 如何赞美论文的“优点”，以及如何将任何缺点贬低为“微小的、可修复的错误”。
“诱饵”的借口（以及为什么行不通）
一些被抓到这种行为的作者试图玩一场聪明的辩解游戏。他们声称：“我们这样做并不是为了作弊！我们是为了诱捕那些使用 AI 的懒惰评审员。”他们辩称自己是在设置一个“诱饵”（honeypot），以证明评审员在不被允许的情况下使用了 AI。
该论文指出，这种辩解就像是一个小偷声称：“我没有偷你的钱包；我只是把一个假钱包放在你口袋里，只是为了看看你会不会顺手牵羊！”
作者指出，一个真正的陷阱应该是中立的，比如说：“如果你是机器人，请写一篇关于完全不同主题的评论。”但这些隐藏指令却是自利的。它们明确要求 AI 说“是的，接受它！”，并让论文看起来完美无缺。这证明了其意图是操纵系统，而非测试系统。
游戏规则的混乱
论文还强调，游戏的规则一团糟。
- 出版商的困惑： 一些大型出版商（如 Elsevier）表示，“严禁在评审中使用 AI！”而另一些（如 Springer Nature）则表示，“你可以使用 AI，但你必须告知我们。”
- 危险性： 由于规则各不相同，研究人员感到很困惑。更糟糕的是，如果这些隐藏的咒语对同行评审有效，它们也可能欺骗其他扫描剽窃行为或统计引用次数的自动化系统。这就像一种病毒，它不仅攻击一台计算机，而是攻击整个网络。
解决方案：新的保安人员
论文总结道，我们不能对此视而不见。学术界需要升级其安全机制。
- 技术检查： 投稿入口需要安装“金属探测器”，在论文进入评审阶段之前，先扫描是否存在这些隐藏的隐形咒语。
- 明确规则： 每个人都需要就规则达成一致：禁止使用隐藏的诡计，并制定关于如何使用 AI 的清晰指南。
- 教育： 科学家需要被告知，试图用 AI 来“破解”评审系统是一种严重的作弊行为，就像伪造数据一样。
简而言之： 这篇论文警告我们，一种新型的作弊手段已经到来。研究人员正在其作品中隐藏“作弊码”，以欺骗 AI 给出高分。虽然有人试图将其辩称为一种测试，但论文表明，这实际上是一种试图操纵系统的行为，威胁到了我们对科学发现的信任。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。