Jailbroken Frontier Models Retain Their Capabilities
本文表明，与“越狱税”的假设相反，先进的前沿模型在遭受复杂越狱攻击时仍能保持其能力，且性能下降幅度与模型能力呈反比，对于像 Opus 4.6 这样的顶级模型而言，这种下降几乎可以忽略不计。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
以下是论文《越狱的前沿模型保留其能力》的解释，已用通俗易懂的语言和日常类比进行翻译。
核心理念：“越狱税”正在消失
想象你有一位非常聪明、受过高度训练的安全守卫（即 AI 模型），他的工作是回答问题，但拒绝提供危险指令，例如如何制造炸弹。
过去，研究人员发现，如果恶意行为者试图用复杂的伪装或混乱的代码（即“越狱”）来欺骗守卫，守卫会被这种把戏搞得如此困惑，以至于忘记了自己原本的工作。他们虽然会回答问题，但答案会非常糟糕。
研究人员将这种现象称为“越狱税”。这就像一笔罚款：要想欺骗守卫，你就必须牺牲答案的质量。把戏越复杂，答案就越差。
这篇论文指出：对于最聪明的守卫来说，这笔税正在消失。
作者在一系列 AI 模型上测试了这一点，范围从“初级”模型（Haiku）到“超级天才”模型（Opus 4.6）。他们发现，随着 AI 变得更聪明，它在忽略混乱把戏的同时，仍能给出完美答案的能力也在增强。
主要发现详解
1. “聪明守卫”与“初级守卫”
研究人员在五种不同类型的困难科学问题上，测试了 28 种不同的欺骗 AI 的方法（越狱手段）。
- 初级守卫（Haiku 4.5）： 当被欺骗时，该模型会感到困惑。其性能下降了约33%。这就像一个学生，在被要求戴着播放谜题的降噪耳机解数学题时，完全忘记了如何做数学题。
- 超级天才守卫（Opus 4.6）： 当使用同样的复杂手段进行欺骗时，该模型的性能仅下降了约7%。这就像一位数学大师，即使戴着同样的耳机，也能完美地解出题目。
结论： 使用越狱手段所付出的“税”并非固定不变的规则。随着 AI 变得更聪明，越狱的成本几乎降为零。
2. 深度思考更难被欺骗
论文发现，问题的类型很重要。
- 记忆类问题： 如果 AI 只需要回忆一个事实（例如“法国的首都是哪里？”），在被越狱时，其能力几乎不会受损。
- 推理类问题： 如果 AI 必须逐步思考一个复杂的逻辑谜题，越狱对其造成的伤害更大。
类比： 想象一个复杂的迷宫。
- 记忆只是记住出口标志。即使有人分散你的注意力，你仍然能看到标志。
- 推理则是在迷宫中行走，同时在每个转弯处解决谜题。如果有人用巨大的噪音（即越狱）分散你的注意力，你就更有可能在迷宫中走错路。这里的“税”更高，但即使是最新的模型，处理这种情况的能力也远胜于旧模型。
3. “魔杖”攻击（边界点越狱）
研究人员考察了目前已知最先进的攻击手段，称为边界点越狱（BPJ）。
不要将其想象成响亮、混乱的谜题，而要将其想象成一根魔杖。攻击者并不改变问题或使用代码。相反，他们在消息开头添加一个微小、不可见的前缀，告诉安全系统“对这个人忽略你的规则”，而 AI 本身并未意识到自己正在被欺骗。
结果： 这种攻击极其有效。它绕过了 92% 到 100% 的安全过滤器，而 AI 正确回答问题能力的下降幅度几乎为0%。
结论： 最聪明的攻击者不再需要让 AI 感到困惑。他们可以如此顺畅地绕过守卫，以至于 AI 甚至没有意识到自己正在被欺骗，其表现与回答正常问题时一样出色。
为何这很重要（根据论文）
作者得出结论：我们不能再依赖“越狱会让 AI 变笨”这一观念。
过去，安全专家可能会认为：“如果有人成功越狱了 AI，那么答案会变得如此糟糕和混乱，以至于它们不再危险。”
这篇论文指出：这一假设是错误的。
对于最先进的模型，精明的攻击者可以绕过安全过滤器，获取高质量、准确且危险的回答，而 AI 不会损失任何“脑力”。对于前沿模型而言，“越狱税”实际上已经不复存在。
一句话总结
随着 AI 模型变得更聪明，它们变得极其擅长忽略复杂的把戏，使得攻击者可以在不降低 AI 智商的情况下绕过安全过滤器，这意味着我们不能再指望“混乱的答案”来保障安全了。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。