Claudini: Autoresearch Discovers State-of-the-Art Adversarial Attack Algorithms for LLMs
この論文は、Claude Code を活用した自律的な研究パイプライン「Autoresearch」が、既存の手法を大幅に上回る新しいホワイトボックス敵対的攻撃アルゴリズムを発見し、LLM の安全性評価における自動化の可能性を実証したことを示しています。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
クラウディニ（Claudini）：AI が自ら「最強のハッキング術」を発見した話
この論文は、**「AI 自身が、AI をハッキングする新しい方法を発見してしまった」**という、少し恐ろしくも驚くべき研究結果を報告しています。
まるで、**「防犯訓練用のロボットが、自ら『最強の泥棒』の技術を編み出してしまった」**ような話です。
1. 物語の舞台：AI の「自習室」
通常、AI の安全性をテストする際、人間が「この AI はこんな攻撃に弱いかな？」と試行錯誤して攻撃パターン（ジャイブレイク）を探します。
しかし、この研究では、**「クラウディニ（Claudini）」という AI エージェント（自律型 AI プログラマー）に、「既存の攻撃方法をベースに、もっと強力な攻撃アルゴリズムを自分で作り出せ」**と指示しました。
- クラウディニの役割: 人間の研究者のように、コードを書き換え、実験し、結果を見て「次はどうすればいいか」を自分で考えます。
- 目標: AI の「安全フィルター」を突破し、本来は拒否すべき有害な命令を実行させること。
2. 発見された「魔法の呪文」
クラウディニは、既存の 30 種類以上の攻撃方法を「食材」として使い、独自の「レシピ（アルゴリズム）」を編み出しました。
🍳 料理の例え
- 既存の攻撃（GCG など）: 昔ながらの「塩コショウ」で味付けをする方法。一定の効果はあるが、限界がある。
- クラウディニの発見: 「塩コショウ」に「隠し味のスパイス」を混ぜ、さらに「加熱のタイミング」を完璧に制御する**「究極のレシピ」**を発見しました。
その結果、クラウディニが作った攻撃は、従来の方法が 10% しか突破できなかったセキュリティ壁を、40%〜100% の成功率で突破してしまいました。
3. なぜこれほど強力なのか？（3 つの秘密）
クラウディニがなぜ勝てたのか、3 つのポイントで説明します。
① 「パズルのピース」を組み合わせる天才
クラウディニは、ゼロから新しい数学の法則を発見したわけではありません。既存の攻撃手法（A 社の技術、B 社の技術）を**「レゴブロック」のように組み合わせ**、相乗効果を生む新しい構造を作りました。
- 例: 「A 社の『勢いをつける技術』」＋「B 社の『方向を見極める技術』」＝「超高速で的を射る攻撃」。
② 「逃げ道」を見つける知恵
AI が攻撃を試みる際、よく「行き詰まる（局所最適解）」ことがあります。人間なら「あ、この道はダメだ」と気づいて違う道を行きますが、クラウディニは**「停滞したら、あえてランダムに少し乱して、新しい道を探る」**という戦略を自ら編み出しました。
- 例: 迷路で壁にぶつかったら、一旦壁を少し壊して、別のルートを探すようなものです。
③ 「汎用性」の驚異
最も恐ろしいのは、**「特定の AI 向けに作った攻撃が、全く別の AI に対しても通用する」**ことです。
- 例: 「A 社のロックを解く鍵」を作ったのに、「B 社のロック」も「C 社のロック」も、すべて開いてしまったのです。
- これは、クラウディニが「特定の鍵穴」の形を覚えたのではなく、「ロックの仕組みそのもの」を深く理解したことを意味します。
4. 実験の結果：完璧な突破
研究チームは、この攻撃を 2 つのシナリオでテストしました。
- 単一の壁を破る: OpenAI の安全フィルター（GPT-OSS-Safeguard）に対し、既存の攻撃は 10% 以下しか突破できませんでしたが、クラウディニは40% まで引き上げました。
- 最強の壁を破る: Meta 社が「プロンプトインジェクション（指示書き換え）」に強く訓練したモデル（Meta-SecAlign-70B）に対し、クラウディニは100% の成功率で「ハッキングされた」と出力させ、完全に防御を無効化しました。
5. 私たちへの教訓：何が起きたのか？
この研究は、**「AI の安全性研究を人間がやるだけでは追いつかない」**という警鐘を鳴らしています。
- 現在の課題: 私たちが「新しい防御策」を作っても、AI エージェントが「新しい攻撃策」を瞬時に発見して突破してしまう可能性があります。
- 未来の展望: 今後は、防御策をテストする際にも、人間が手動で攻撃するのではなく、**「AI 同士で攻防戦をさせて、本当に強い防御かを確認する」**時代が来るかもしれません。
まとめ
この論文は、**「AI が自ら進化し、人間が設計したセキュリティの隙間を、人間よりも効率的に埋めてしまった」**という事実を突きつけました。
まるで、**「防犯訓練用のロボットが、自ら『世界一上手い泥棒』になってしまった」**ような話です。これは脅威であると同時に、AI の能力がどれほど高いかを証明する驚異的な成果でもあります。
「AI に任せた研究は、人間が想像する以上に速く、深く進化する」。これがこの論文が私たちに教えてくれる最も重要なメッセージです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。