Mastermind: Strategy-grounded Learning for Repository-Scale Vulnerability Reproduction
本論文は、高レベルな戦略を学習・転移するようにプランナーを訓練することで、リポジトリ規模の脆弱性再現を改善するデュアルループフレームワークであるMastermindを紹介し、CyberGymにおいて84.5%のパス率を達成し、複数の凍結されたLLMエグゼキュータにわたって既存のベースラインを大幅に上回る性能を実現した。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
巨大で複雑な機械（巨大なコードのライブラリのようなもの）の中に、非常に特定された隠れた欠陥を見つけ出そうとしている場面を想像してください。その欠陥が存在することを証明するには、その機械を特定の形でクラッシュさせるために、完璧にフィットする小さなカスタムキー（「概念実証」または「PoC」）を作る必要があります。もしそれができれば、脆弱性を見つけたことになります。
この論文は、問題は「作業員（AI）」がキーを作ることや、鍵を回すことに不慣れなことではないと主張しています。問題は、作業員が「間違ったキー」を試し続けたり、「間違った部屋」を探し続けていることです。彼らは行動することには効率的ですが、計画を立てることに関しては非常に拙いのです。
以下は、Mastermindと呼ばれるこの論文の解決策を、簡単な比喩を用いて説明したものです。
問題点：「忙しいけれど迷子」の作業員
非常に熟練したメカニック（AIエグゼキューター／実行役）を想像してください。彼はどんな道具でも使いこなし、どんなドアも開け、どんなエンジンも修理できます。しかし、もしあなたが「壊れた部品を探してこい」と命じたら、彼はエンジンのブロックを見逃して、ラジオやタイヤ、シートをチェックすることに何時間も費やしてしまうかもしれません。
最近のAIエージェントはこのメカニックのような状態です。彼らは指示には完璧に従えますが、どこを最初に探すべきかという戦略を持っていないため、行き止まりを探索して時間を無駄にしてしまうことがよくあります。
解決策：Mastermind（「将軍」と「書記」）
Mastermindは、「考えること」と「行うこと」を明確に分離することで、仕事を2つの異なる役割に分割します。
- 将軍（プランナー／計画役）： これは学習を行う部分です。彼は道具に触れたり、機械を操作したりしません。彼の唯一の仕事は、「エンジンルームへ行き、燃料ラインをチェックし、バルブを時計回りに回してみろ」といった、短く明確な地図（「戦略」）を書くことです。
- 書記／作業員（エグゼキューター／実行役）： これは、実際に作業を行う固定されたAI（GPT-5.5など）です。彼は将軍の地図を読み、指示されたアクションを実行します。彼は変更されたり再学習されたりすることはありません。ただ命令に従うだけです。
Mastermindの学習方法：「二重ループ」システム
この論文は、将軍がより優れた地図を書けるようにするための、巧妙な二部構成の学習システムを導入しています。
ループ1：「教訓ノート」（経験ループ）
将軍が、その特定の機械に関するノートを持っていると考えてください。もし将軍が「燃料ラインをチェックしろ」と言い、作業員が何も見つけられなかった場合、将理はノートにこう書き込みます。「燃料ラインは正常だった。二度とチェックするな」。このノートは一時的なものであり、その特定の機械に特化したものです。これにより、将軍は次の試行において、同じ機械に対して同じ間違いを繰り返すのを避けることができます。ループ2：「脳のトレーニング」（ポリシー・ループ）
ここで、将軍が実際に賢くなっていくプロセスが行われます。多くの試行を経て、多くの異なる機械を扱った後、将軍は自分のノートを見返し、こう問いかけます。「『燃料ラインをチェックしろ』と書いたとき、それは通常うまくいっただろうか？『タイヤをチェックしろ』と書いたとき、それは通常失敗しただろうか？」。
システムは報酬制度（ビデオゲームのスコアのようなもの）を使用して、将軍にこう伝えます。「よくやった、その戦略がクラッシュにつながった！」「ダメだ、それは時間の無駄だった」。将軍は、自身の内部的な脳（重み）を更新し、欠陥を見つけるための一般的なルールを学習します。そして、それを見たこともない新しい機械に対しても活用できるようになります。
なぜこれが重要なのか
この論文は、CyberGymというベンチマークを用いてテストを行いました。これには、現実世界のコードの脆弱性が数百含まれています。
- Mastermindなしの場合： 単にAIにランダムな推測をさせたり（あるいは8つのランダムな推測を同時に試させたり）した場合、問題の約**63%**を解決しました。
- Mastermindありの場合： AIに優れた戦略を計画させることで、同じ基礎となるAI作業員を使用しながら、問題の**84.5%**を解決しました。
重要な教訓
この論文は、複雑なソフトウェアのタスクにおいては、「生のパワー」よりも「戦略」の方が重要であると主張しています。
これは宝探しのようなものです。あなたは最強で最速のランナー（AIエグゼキューター）を手にしているかもしれませんが、もし彼が良い地図（戦略）を持っていなければ、彼は同じ場所をぐるぐる回ることになります。Mastermindは、AIに「より良い地図を描く方法」を教えます。一度AIが優れた地図の描き方を学べば、その地図を「あらゆるランナー（たとえ小さかったり異なるAIであっても）」に与えることができ、彼らは皆、より上手く宝を見つけ出すことができるのです。
要約すると： Mastermindは、AIの手の動きを強くするのではなく、AIが「どこで手を動かすべきか」を決める知性を高めるものです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。