Position: Academic Conferences are Potentially Facing Denominator Gaming Caused by Fully Automated Scientific Agents

以下是论文《学术会议可能正面临由全自动科学代理引发的分母博弈》的通俗解释，包含类比和示例。

核心理念：一种“博弈”系统的新方式

想象一家享有盛誉的艺术画廊，每年只接受提交作品的 25%。这一规则严格且每年保持一致，以维持画廊的声誉。

这篇论文的作者警告说，一种新型“黑客”正在出现。这些黑客并非试图创作杰作以入选，而是利用 AI 机器人绘制数千幅糟糕、丑陋的画作，并一次性全部提交。

他们的目标并非让那些丑陋的画作被接受。他们的目标是淹没画廊，迫使画廊为了维持"25% 的录取率”规则而不得不接受更多的画作。通过将“分母”（提交总数）填满垃圾，他们意外地让自己真正的高质量画作更容易被录取。

论文将这种现象称为"代理分母博弈"（Agentic Denominator Gaming）。

---

运作机制：“炮灰”策略

论文将这一机制分解为三个简单步骤：

1. 稳定的规则：顶级 AI 会议（如 NeurIPS 或 ICML）有一个传统，即保持录取率稳定（通常在 20%–30% 之间），即使提交数量激增也是如此。
2. AI 洪流：恶意行为者利用 AI 代理（机器人）撰写并提交数千篇论文。这些论文封面看起来像真实研究，但内容实际上是胡言乱语。制作它们的成本几乎为零。
3. 数学诡计：
   • 如果一个会议收到 100 篇论文并录取 25 篇，录取率为 25%。
   • 如果黑客增加了 300 篇假论文，总数现在变为 400 篇。
   • 为了保持 25% 的录取率，会议现在必须录取 100 篇论文（而不是 25 篇）。
   • 由于那 300 篇假论文是垃圾，它们会被拒绝。但会议仍然需要再找出 75 篇真实论文来填补额外的名额。
   • 结果：原本处于“被拒边缘”的真实科学家现在被录取了，并非因为他们的研究有所改进，而是因为系统被噪音淹没。

为何这很危险（“三大灾难”）

论文认为，这不仅仅是一个技术故障；这是一场系统性危机，将从三个方面破坏学术界：

1. “免费劳动力”陷阱（经济不对称）

• 攻击者的成本：几分钱。他们利用廉价的 AI 工具生成数千篇论文。
• 社区的成本：数百万美元的工时损失。真正的科学家是志愿者，免费审稿。如果他们必须阅读 1,000 篇假论文才能找到 100 篇真实论文，他们就会精疲力竭。
• 类比：就像一个恶作剧者往游泳池里倒了一桶泥。恶作剧者只花了 1 美元买泥。而救生员（审稿人）不得不花费数小时清理泳池，否则泳池将无法使用。

2. “倦怠”危机
审稿人已经疲惫不堪。如果他们被迫在 AI 生成的垃圾堆中筛选，他们将退出。

• 类比：想象一位急诊室医生。如果有人每小时往候诊室扔进 1,000 名假病人，医生就无法治疗真正的病人。医生最终会崩溃或离开，整个系统随之瘫痪。

3. “代理工厂”的兴起
我们已经有“论文工厂”（出售虚假研究的机构）。这一威胁将它们升级为“代理工厂”。

• 不再是人类撰写假论文，而是机器人以工业规模进行制作。
• 类比：这就像一个小偷每天伪造一张假钞，与一家工厂每小时印刷一百万张假钞之间的区别。科学的质量会下降，我们再也无法信任我们所读到的内容。

为何“检测”假论文行不通

论文认为，我们不能仅仅依靠构建"AI 检测器”来解决这个问题。

• 猫鼠游戏：一旦我们构建了检测器，AI 机器人就会学会如何欺骗它。这就像一把锁，每次你试图撬开它时，它的形状都会改变。
• 错误指控：目前的检测器很糟糕。它们经常错误地指控真实的人类作者是 AI。如果会议基于有缺陷的检测器禁止论文，他们可能会拒绝杰出的科学家，这既不公平又具有破坏性。

拟议的解决方案（修改规则，而不仅仅是技术）

由于技术修复（如检测器）不可靠，作者建议改变游戏规则：

1. 收取费用：向作者收取少量提交费。这将阻止“洪流”，因为生成数千篇假论文的成本将变得过高。（不过论文指出，这可能会伤害贫困的研究人员。）
2. 停止“稳定录取率”规则：这是关键一点。会议应停止承诺固定的录取百分比（例如，“我们将始终录取 25%"）。相反，他们应该说：“无论提交多少篇，我们将确切录取 500 篇。”
   • 为何有效：如果录取的论文数量是固定的，用假论文淹没系统就无济于事。假论文只会被拒绝，而真实论文的录取几率保持不变。
3. 声誉系统：仅允许受信任的研究人员（或由受信任人士推荐的人）提交论文。这将阻止匿名机器人创建数千个虚假账户来淹没系统。

核心结论

这篇论文是一个警告。它指出，如果我们保持当前的规则（稳定的录取率）并任由 AI 在撰写论文方面变得更加强大，恶意行为者就可以在不尝试发表任何“好”论文的情况下破坏系统。他们只需要制造足够多的“坏”噪音来改变数学计算即可。

为了维护学术诚信，我们需要改变激励措施和规则，而不仅仅是试图用更好的软件抓住坏机器人。