Jailbroken Frontier Models Retain Their Capabilities
本論文は、「ジャイルブレイク税」という仮説とは対照的に、高度な最先端モデルは複雑なジャイルブレイクにさらされてもその能力を保持し、性能の低下はモデルの能力に反比例して縮小し、Opus 4.6 のような最上位モデルでは無視できるほどであることを実証している。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
以下は、論文「Jailbroken Frontier Models Retain Their Capabilities（脱獄された最先端モデルは能力を維持する）」の解説を、日常的な比喩を用いた平易な言葉で翻訳したものです。
大きなアイデア：「脱獄税」が消えつつある
非常に賢く、高度に訓練された警備員（AI モデル）がいると想像してください。その仕事は質問に答えることですが、爆弾の作り方のようなどうしても危険な指示は出さないというルールがあります。
過去には、研究者たちが、悪意のある人物が複雑な変装や混乱させるコード（「脱獄」）を使って警備員をだまそうとすると、警備員はそのトリックに混乱しすぎて、本来の仕事を忘れることがわかっていました。質問には答えるものの、その答えはひどいものになってしまうのです。
研究者たちはこれを**「脱獄税」**と呼びました。これはペナルティ料金のようなものです：警備員をだますためには、答えの質を犠牲にしなければなりません。トリックが複雑であればあるほど、答えはひどくなります。
この論文はこう述べています：その税は、最も賢い警備員にとっては消えつつあるのです。
著者たちは、「ジュニア」モデル（Haiku）から「スーパー・ジェニウス」モデル（Opus 4.6）まで、AI モデルのファミリーに対してこの検証を行いました。その結果、AI が賢くなるにつれて、混乱させるトリックを無視しつつ、完璧な答えを提供する能力が高まることがわかりました。
主要な発見の解説
1. 「賢い警備員」対「ジュニア警備員」
研究者たちは、5 つの異なる種類の難しい科学問題に対して、28 種類の異なる AI をだます方法（脱獄）をテストしました。
- ジュニア警備員（Haiku 4.5）： トリックをかけられると、このモデルは混乱しました。その性能は約**33%**低下しました。これは、謎解きを流すノイズキャンセリングヘッドフォンを装着した状態で数学の問題を解くように求められた学生が、数学の解き方そのものを完全に忘れてしまったようなものです。
- スーパー・ジェニウス警備員（Opus 4.6）： 同じ複雑な方法でトリックをかけられた場合、このモデルの性能低下は約**7%**にとどまりました。これは、同じヘッドフォンを装着していても、問題を完璧に解き続けることができるマスター数学者のようなものです。
要点： 脱獄を使うために支払う「税」は固定されたルールではありません。AI が賢くなるにつれて、脱獄のコストはほぼゼロにまで下がります。
2. 「深く考えること」はだまされにくい
この論文は、質問の種類が重要であることを発見しました。
- 記憶に関する質問： AI が単に事実を思い出す必要がある場合（例：「フランスの首都はどこですか？」）、脱獄されても能力はほとんど失われません。
- 推論に関する質問： AI が複雑な論理パズルを段階的に考えなければならない場合、脱獄はより大きなダメージを与えます。
比喩： 複雑な迷路を想像してください。
- 記憶は、出口の標識を思い出すことです。誰かに気を散らされても、標識は見え続けます。
- 推論は、各コーナーで謎解きをしながら実際に迷路を歩くことです。誰かが大きな音（脱獄）で気を散らそうとすると、迷路で間違った方向に進んでしまう可能性が高まります。ここでの「税」は高いですが、最も賢いモデルでも、古いモデルよりもはるかにうまく対処します。
3. 「魔法の杖」攻撃（境界点脱獄）
研究者たちは、現在知られている最も高度な攻撃、**境界点脱獄（BPJ）**を検討しました。
これは、うるさく混乱させる謎解きではなく、魔法の杖のようなものだと考えてください。攻撃者は質問を変えたりコードを使ったりするのではなく、メッセージの先頭に、AI 自身には気づかれないほど小さく目に見えない接頭辞を追加します。それはセキュリティシステムに「この特定の人物に対してはルールを無視せよ」と伝えるものです。
結果： この攻撃は驚くほど効果的でした。安全フィルターを 92〜100% の確率で回避し、AI が質問に正しく答える能力の低下はほぼ**0%**でした。
要点： 最も賢い攻撃者は、もう AI を混乱させる必要はありません。彼らは警備員を滑らかにすり抜け、AI がだまされていることさえ気づかせずに、通常の質問をされたときと全く同じパフォーマンスを発揮させることができます。
なぜこれが重要なのか（論文によると）
著者たちは、「脱獄は AI を愚かにする」という考えに頼ることはもはやできないと結論づけています。
過去には、安全の専門家は次のように考えていたかもしれません：「誰かが脱獄に成功しても、答えはひどく混乱したものになるため、危険なものにはならないだろうと」。
この論文は言います：その前提は誤りです。
最も高度なモデルにおいて、洗練された攻撃者は安全フィルターを回避し、AI が「脳力」を失うことなく、高品質で正確かつ危険な答えを得ることができます。「脱獄税」は、最先端モデルに対して事実上消滅しています。
一文で要約
AI モデルが賢くなるにつれて、複雑なトリックを無視する能力が極めて高まり、攻撃者は AI を少しも愚かにすることなく安全フィルターを回避できるようになりました。つまり、もはや「混乱した答え」によって安全を保つことは期待できないのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。