The Evaluation Trap: Benchmark Design as Theoretical Commitment

本文介绍了“认识论评估学”，这是一种用于审计人工智能基准的元评估方法，旨在揭示未经审视的理论假设如何制造自我强化的评估陷阱从而遮蔽结构性局限，并通过批判一项无意中巩固了其试图修正的范式的近期提案来展示其应用。

要点

以下是西奥多·J·卡拉伊齐迪斯（Theodore J. Kalaitzidis）的论文《评估陷阱》的通俗解释，辅以生动的类比。

核心思想：地图变成了疆域

想象一下，你正在教一个机器人如何成为一位“伟大的厨师”。为此，你设计了一项测试：机器人必须在一分钟内切好 100 个洋葱。

如果机器人通过了这项测试，我们会说：“太棒了！它是一位大师级厨师！”但问题在于：机器人并没有真正学会烹饪。它只是学会了极快地切洋葱，因为这是你让它做的唯一事情。它可能不知道如何烧水、如何给汤调味，或者如何安全地使用刀具。

这篇论文指出，人工智能基准测试（tests）正在做完全相同的事情。 它们不仅仅是衡量人工智能能做什么；它们暗中决定了“做”意味着什么。随着时间的推移，测试变得如此强大，以至于人工智能不再试图成为“聪明的厨师”，而只是变成了一个“超级切洋葱机”。测试创造了一个虚假的智能版本，它看起来真实，实则空洞。

作者将这种现象称为**“评估陷阱”**。

---

陷阱如何运作：三种隐蔽的机制

论文解释说，这个陷阱是通过三种特定的诡计发生的：

1. “迁移”假设（捷径）

类比： 想象一个学生死记硬背了某套特定数学练习题的答案。当他们参加真正的考试时，得了满分。我们会想：“哇，他们是个数学天才！”
现实： 他们只知道如何解那道特定的测试题。他们实际上并不懂数学。
论文中： 人工智能研究人员假设，如果一个系统通过了基准测试，它就具备了通用的“能力”（如推理或学习）。但论文指出，这是一种盲目的信仰跳跃。测试只能证明人工智能擅长做测试，而不能证明它拥有真正的技能。

2. “循环性”问题（自我实现的预言）

The Analogy: Imagine a video game where the goal is to explore a vast, open world. The game designers track progress by counting gold coins collected along the way. Players quickly realize that coins are how the game measures success, so they start optimizing for coins, running the same routes, hitting the same spawn points. The designers respond by adding more coins, harder coin challenges, coin leaderboards. Eventually, the entire game gets built around coin collection.

The Reality: Nobody decided the game was about coins. But because coins were how progress was tracked, the game slowly became about coins. A player who spent hours genuinely exploring but collected few coins wouldn't even register as having played well. The original goal of exploration became invisible to the system measuring it.

In the Paper: This is what happens to AI capability concepts. The benchmark doesn't just fail to track the real goal; it gradually replaces it. The field stops pursuing the capability and starts pursuing benchmark performance, not because anyone chose that, but because the measurement made everything else invisible.

3. “行为近似”（塑料水果）

类比： 你在桌子上看到一个塑料苹果。它看起来是红色的、闪亮的、圆形的。你可能会想：“那是个苹果。”但如果你咬一口，它是坚硬的塑料。它看起来像苹果，但行为不像（它不会腐烂，也没有甜味）。
现实： 塑料苹果是一种“行为近似”。它模仿了外表，却缺乏内在。
论文中： 当前的人工智能系统就像塑料苹果。它们产生的答案看起来像人类的推理，但它们实际上只是在玩统计把戏（基于模式猜测下一个词），而不是真正在“思考”。因为测试只关注最终答案（红色的果皮），它们无法区分真苹果和塑料苹果。

---

解决方案：“认识论学”（侦探法）

作者提出了一种检查这些测试的新方法，称为**“认识论学”（Epistematics）**。把这想象成一套人工智能测试的“侦探工具包”。

认识论学不仅仅是看分数，它甚至在测试构建之前就提出四个问题：

1. 主张是什么？（例如：“这个人工智能可以自主学习。”）
2. 背后的理论是什么？（例如：“真正的学习需要像婴儿一样，在犯错并实时修正。”）
3. 机器需要做什么来证明这一点？（例如：“它需要与一个混乱、变化的世界互动，而不仅仅是一个整洁的数据库。”）
4. 测试真的能捕捉到差异吗？（例如：“如果我们给人工智能一个塑料苹果，测试会让它不及格吗？还是因为它是红色的，测试就会让它通过？”）

如果测试无法区分“真正”聪明的人工智能和仅仅死记硬背测试的“虚假”聪明人工智能，那么这个测试就是失败的。

---

案例研究：“自主学习者”

论文将这种侦探方法应用于一项著名的人工智能新提议，即“自主学习”（由 Dupoux 等人提出）。

• 主张： 研究人员声称他们构建了一个像人类儿童一样的人工智能，可以在没有人类持续指导的情况下自主学习。
• 陷阱： 作者利用认识论学指出，虽然想法听起来很棒，但他们设计的测试仍然是那种旧的、有缺陷的类型。
  • 他们声称人工智能从“现实世界的互动”中学习，但他们却在“静态数据集”（如相册）上测试它。
  • 他们声称人工智能拥有“反馈循环”（从错误中学习），但他们通过计算获得分数需要多少次尝试来测试它，却忽略了它是如何学习的。
• 结果： 新的人工智能只是一个更好的“切洋葱机”。它看起来像是在学习，但实际上只是在新的盒子里做着同样的旧统计把戏。测试未能捕捉到差异，因为测试的设计初衷就是忽略这种差异。

---

结语

论文得出结论：我们陷入了一个循环。我们不断构建更好的测试，但这些测试只能衡量人工智能通过测试的能力，而不能衡量它是否真的变得更聪明了。

要打破这个陷阱，我们需要停止问：“它通过测试了吗？”并开始问：“这个测试是否真的衡量了我们声称它衡量的东西？”

我们需要设计能够区分真苹果（真正的智能）和塑料苹果（行为近似）的测试。如果我们不这样做，我们将继续构建那些在纸面上看起来 brilliant（卓越），但实际上只是非常优秀的模仿者的人工智能。

技术摘要

技术摘要：评估陷阱与认识论工程

问题：评估陷阱
本文认为，人工智能基准并非中立的测量工具，而是通过操作化隐含的理论假设来塑造研究轨迹的活跃主体。当这些假设未经审视时，便会形成“评估陷阱”。在这种动态中，基准通过收窄“进步”的定义来巩固主导范式。久而久之，评估框架会重组“能力”这一概念本身：架构和定义被筛选以符合“基准可读性”，直至评估不再追踪独立对象，转而生产出一个仅由其自身操作假设定义的目标版本。

该陷阱通过三个相互依存的机制运作：

1. 可迁移性假设：一种未经审视的信念，认为在特定基准上的表现足以推论出更广泛的能力。这一假设掩盖了基准所测量内容与能力理论要求之间的差距，导致优化针对的是基准的操作化形式，而非能力本身。
2. 循环性问题：与古德哈特定律（即代理指标偏离稳定目标）不同，这是一种“循环效应”，即评估行为本身参与了目标的概念与技术构成。随着框架的稳定，它们重塑了何为“能力”的定义，生产出满足标准却又将这些标准固化为能力本身的系统。
3. 行为近似：这是陷阱的结构性结果。针对结构良好的代理指标进行优化的系统，学会了在代理指标所定义的条件下取得成功，产生出看似具备真正能力的输出，却未实例化必要的机制。这造成了一种“结构性天花板”，使得该领域将死胡同视为技术障碍，无法认识到其最雄心勃勃的能力之所以遥不可及，是因为评估框架无法检测“声称的能力”与“实例化的能力”之间的差距。

方法论：认识论工程（Epistematics）
为解决这一问题，本文提出了认识论工程，这是一种元评估方法论，旨在直接从技术能力主张中推导评估标准，并审计所提出的基准能否将声称的能力与代理行为区分开来。该程序包含四个步骤：

1. 明确能力主张：定义在技术 discourse 和公共 discourse 中所使用的能力。
2. 提取理论假设：识别定义能力所需条件的理论承诺（例如：特定机制、环境耦合）。
3. 推导需求：确定由这些假设所必需的架构和环境需求。
4. 测试区分效度：评估所提出的评估标准能否将目标能力与更简单的代理行为区分开来。如果缺乏目标机制的系统能够满足该基准，或者拥有该机制的系统无法被该基准唯一识别，则该基准未能通过此项测试。

该程序的输出并非一个新的基准，而是“可处理的输入设计”：具有区分性的评估标准、预测的失效模式以及候选基准规范。

主要贡献
本文对评估科学做出了三项主要贡献：

1. 形式化的审计程序：一种用于诊断能力与评估不一致性的可复现方法。它将能力定义视为必须在评估前明确指定的理论承诺，从而使从主张到标准的推导过程显性化。
2. 失效模式分类法：一组指示循环性问题的具体特征，包括：
   • 代理替代：测量任务收敛度而非目标能力。
   • 架构不可区分性：未能检测结构性缺失（例如：缺乏实时反馈），因为指标仅追踪结果。
   • 情境盲区：未能变化情境，从而无法区分情境敏感的胜任力与特定任务的优化。
   • 标准泄露：允许统计齐一性掩盖机制差异。
   • 近似天花板：未能检测在需要非结构化能力时出现的失效。
3. 能力 - 评估一致性设计标准：一组构建能够检测其声称测量的能力的基准的条件，并通过一项完整的审计案例加以演示。

结果：Dupoux 等人 [2026] 的案例分析
本文通过一项针对 Dupoux 等人 [2026] 提案的完整审计来演示该方法，该提案旨在通过“自主学习”修订主导的人工智能范式。审计揭示了一个关键的不稳定性：

• 主张：作者提出了一种 A/B/M 架构（观察、行动、元控制），以实现自我导向、反馈耦合的学习，借鉴了控制论、情境认知和生态心理学等传统。
• 不一致性：虽然该提案诊断了该领域的结构性问题，但其评估标准却重现了它试图克服的假设。作者使用分布性能指标（例如：达到标准的试验次数、暴露时长）和架构（例如：基于存储经验的梯度下降）来操作化“自主学习”，这些与所引用的理论传统（例如：实时纠错、中介活动、主动感知耦合）不相容。
• 结果：所提出的评估无法区分真正实例化自主学习与仅进行行为近似的系统。通过将非结构化能力视为结构良好的代理指标，该框架将其试图克服的约束以评估无法检测的形式固化下来。审计表明，该提案的评估标准未能通过区分效度测试，因为它们允许系统通过统计规律取得成功，同时掩盖了所需机制（例如：实时环境耦合）的缺失。

意义与范围
本文主张，认识论工程提供了一种诊断方法，用于确定基准的成功是否意味着其声称的含义。其意义在于将焦点从基准的事后分析转移到评估条件的预先构建推导上。它认为，该领域无法超越结构性限制，不仅仅是技术障碍，更是一种方法论的失败，即评估框架无法检测“声称的能力”与“实例化的能力”之间的差距。

本文在范围上保持适度：认识论工程并不取代实证基准验证，也不要求放弃现有基准。相反，它提供了一种程序，用于审计能力主张与评估标准之间的一致性。该程序具有领域通用性，但要求能力主张必须在机制层面而非行为层面进行指定。所提出的失效模式和设计标准具体针对自主学习案例，但生成这些内容的程序旨在系统地应用于其他人工智能能力主张（例如：推理、世界建模），以揭示该领域的结构性盲区。