💻 computer science

SkillRevise: Improving LLM-Authored Agent Skills via Trace-Conditioned Skill Revision

SkillReviseは、実行トレースから欠陥を診断し、修復原則を検索し、最適なバージョンを経験的に選択することによって、不完全な初期エージェントスキルを反復的に洗練させる実行に基づいたフレームワークであり、これにより、ワンショット生成手法と比較してエージェントの成功率とモデル間の転移性を大幅に向上させます。

原著者： Yuxuan Liu, Zhaochen Su, Lingyun Xie, Yuhao Zhang, Qing Zong, Jiahe Guo, Zhongwei Xie, Yiyan Ji, Yauwai Yim, Hongyu Luo, Xiyu Ren, Ruan Chenyu, Haoran Li, Yangqiu Song

公開日 2026-06-02

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Yuxuan Liu, Zhaochen Su, Lingyun Xie, Yuhao Zhang, Qing Zong, Jiahe Guo, Zhongwei Xie, Yiyan Ji, Yauwai Yim, Hongyu Luo, Xiyu Ren, Ruan Chenyu, Haoran Li, Yangqiu Song

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

以下は、論文SKILLREVISEの解説を、簡単な言葉と日常的な例えを用いて説明したものです。

大きな構図：ロボットに「失敗から学ぶこと」を教える

あなたは、大規模な倉庫の整理やコンピュータプログラムのデバッグといった複雑な仕事を任せるために、非常に賢いが経験の浅いインターン（AIエージェント）を雇ったと想像してください。

通常、あなたはインターンにマニュアル（「スキル」と呼ばれます）を渡します。

問題点: もしマニュアルが人間の専門家によって書かれたものだと、コストがかかりすぎる上に、インターンの思考プロセスと一致しない可能性があります。また、インターンに一度に自分自身でマブルを書かせようとすると、紙の上では完璧に見えても、実際に作業を始めると破綻してしまうことがあります。
従来の方法: 以前の手法では、インターンに何度も練習させ、指示書を徐々に「進化」させることでマニュアルを修正しようとしてきました。しかし、これには膨大な時間がかかり、最初に質の低いマニュアルを与えられた場合（「コールドスタート問題」）にはうまく機能しません。

SKILLREVISEは、厳格だが有能なコーチのように振る舞う新しいシステムです。インターンが習得するまで何ヶ月も待つのではなく、マニュアルの草案を取り込み、インターンに実行させ、どこで失敗したかを正確に観察し、その失敗に基づいて即座にマニュアルを編集します。

仕組み：「コーチのループ」

この論文では、マニュアルを完成させるために何度も繰り返される（通常は3回）4つのステップからなるサイクルについて説明しています。

1. 試運転（実行 / Execution）

インターンが現行バージョンのマニュアルを使ってタスクを実行します。

例え: インターンが本棚を作ろうとしています。彼らは指示に従いますが、棚がぐらついて倒れてしまいます。

2. 検死（診断 / Autopsy）

システムは単に「失敗しました」と言うだけではありません。探偵のように振る舞います。証拠（ぐらつく棚）を見て、次のように問いかけます。

何が間違っていたのか？（間違ったネジを使ったのか？）
何が正しかったのか？（木材のカットは完璧だったので、そこは変更しない。）
例え: コーチは言います。「君は木材の寸法を間違えたわけではない。ただ、床が水平であることを確認するステップを飛ばしたんだ。あと、木材をサンディングするという部分は良かったので、そのまま残しておこう。」

3. 知恵のライブラリ（原則メモリ / Principle Memory）

システムは、一般的な修理ルールの「ライブラリ」をチェックします。この特定の「本棚」に対する答えを探すのではなく、*「ぐらつく棚を直すための一般的な方法」*についてのルールを探します。

例え: コーチは、「ルール#4：フレームを作る前に、必ず土台を確認すること」と書かれたカードをデッキから取り出します。

4. 書き換え（改訂 / Revision）

システムは、探偵のレポートと一般的なルールを組み合わせ、マニュアルを書き換えます。ここで重要なのは、**「アンカー（錨）」**を追加することです。

アンカーとは何か？ これは特定のチェックポイントのことです。「丁寧に組み立てる」と言う代わりに、新しいマニュアルは「ここで一旦停止し、床の水平を確認せよ。もし水平でない場合は、作業を止めること」と指示します。
例え: 新しいマニュアルには、「釘を打つ前に、床の水平を確認して停止せよ」という赤い付箋が貼られています。

5. 最終決定（有用性ゲート / Utility Gate）

インターンが新しいマニュアルを試します。

もし新しいマニュアルの方が上手くいけば、システムはそのマニュアルを保持します。
もし新しいマニュアルが状況を悪化させた場合は、システムはそれを破棄し、前のバージョンに戻ります。
例え: コーチは新しい指示書を試します。もし棚がまだぐらついているなら、彼らは言います。「よし、その新しいアイデアはダメだった。以前の指示書に戻って、次は別の修正方法を試そう。」

なぜこれが特別なのか？

この論文は、このアプローチが従来の方法よりも優れている理由として、主に3つの点を挙げています。

スモールスタートが可能（コールドスタートに強い）: 始めるために1,000個の完璧なマニュアルのライブラリを用意する必要はありません。不完全なマニュアルがたった一つあれば、SKILLREVISEはそれを素早く修正できます。
単なる「練習量の増加」ではない: 従来の方法は、AIが偶然学習することを期待して、何千回も練習させるものでした。SKILLREVISEは「標的を絞った手術」のようなものです。指示書の特定の欠陥を見つけ出し、AIが偶然気づくのを待つのではなく、直接修正します。
特定のテクニックではなく、一般的なルールを学ぶ: システムは、AIが「この特定のテスト」に対してズル（チート）をすることを教えないよう注意を払います。AIに、*「タイプとしての問題」*への対処法を教えるのです。
- 悪いスキル: 「もしテストで赤いボタンが出たら、赤いボタンを押せ」（これではその一つのテストにしか通用しません）。
- 良いスキル (SKILLREVISE): 「ボタンを押す前に、必ず図面と照らし合わせて色を確認せよ」（これはどんなテストにも通用します）。

結果：効果はあるのか？

著者らは、異なるAIモデル（GPT-5.5、Qwen、DeepSeekなど）を用いて、3つの異なる「試験会場（ベンチマーク）」でテストを行いました。

スコア: 何の助けもなしでは、AIはタスクの約**36%を正解しました。ワンショットのマニュアル（一度書かれたきりで修正されないもの）では、約39%**を正解しました。
SKILLREVISEのスコア: この「コーチのループ」をわずか3回行った後、AIはタスクの**61%**を正解しました。
結論: システムは、平凡なマニュアルを非常に効果的なものへと、極めて迅速に作り変えました。また、これらの改善されたマニュアルは、それらを書いたモデルだけでなく、他のAIモデルでも使用できることが証明されました。これは、習得されたスキルが特定のテクニックではなく、真に一般的な知識であることを示しています。

まとめ

SKILLREVISEは、AIの「スキル」を静的な指示書としてではなく、**「生きている文書」として扱うフレームワークです。「試行 $\rightarrow$ 診断 $\rightarrow$ 一般的ルールの検索 $\rightarrow$ 書き換え $\rightarrow$ テスト」**というサイクルを用いることで、質の低い指示書を優れたものへと昇華させ、AIが単に答えを暗記するのではなく、仕事を正しく遂行する方法を実際に学べるようにします。

技術要約: SKILLREVISE

問題提起

大規模言語モデル（LLM）エージェントは、成功の鍵がマルチステップのワークフローの実行、制約の充足、および失敗からの回復に依存する、検証器駆動型の環境で動作することが増えています。「エージェント・スキル」（再利用可能な手続き的アーティファクト）は、アトミックなツールと高レベルなプロンプトの間の溝を埋めるために設計されていますが、既存のスキル獲得手法には、特に初期の不完全なスキルしか利用できない「コールドスタート設定」において、重大な限界があります。

現在のアプローチは以下の3つのカテゴリに分類されますが、それぞれに明確な欠点があります：

検索ベースの手法: ターゲットとなるタスクに完全に一致しないスキルを選択してしまうことが多く、実行の中断を招きます。
自己進化手法: 蓄積された軌跡や経験を必要とするため、ゼロからの開始（コールドスタート）には不向きであり、過学習を起こしやすい傾向があります。
直接記述（エキスパートまたはワンショットLLM）: エキスパートによる記述はコストが高く、実際のエージェントの実行挙動と乖離する可能性があります。ワンショットのLLM生成は、構文的には正しいものの、実行トレースに対する検証を欠いているため、行動面で脆弱なスキルを生み出すことがよくあります。

核心となる課題は、スキルはアトミックなツールほど信頼性高くエージェントの性能を向上させるわけではないという点です。低品質または不一致なスキルは、むしろ性能を低下させる可能性があります。既存の成功した軌跡の膨大なコーパスを必要とせずに、初期の不完全なLLM記述スキルを、実行のエビデンスを用いて反復的に洗練させる手法が求められています。

手法: SKILLREVISE

著者らは、限定的な修正ループを通じて初期のスキル（ $S_0$ ）を反復的に洗練するために設計された、実行に基づいたフレームワークであるSKILLREVISEを提案しています。このフレームワークは、広範な事前経験を必要とせずに、タスク固有の診断と一般的な修復知識へと修正プロセスを分解します。

コアコンポーネント

診断 ( $D_i$ ): 生の実行エビデンスを修復制約に変換するタスク固有のコンポーネントです。各修正試行 $i$ は以下で構成されます：
- 検証仕様 ( $V_i$ ): 観測可能な要件（出力パス、スキーマ、フォーマット、パス/フェイルの断定）。
- 失敗の帰属 ( $A_i$ ): 失敗したチェック、観察された挙動、考えられる原因、および欠陥ラベルの要約。
- 保存制約 ( $K_i$ ): 退行（リグレッション）を避けるために、パスしたチェックや維持すべき選択事項の記録。
原理メモリ ( $M$ ): タスク固有の解決策ではなく、再利用可能な修復原理のリポジトリです。各原理は、繰り返されるスキル設計の欠陥を、適用すべきタイミング、対処する欠陥、および修復の検証方法を指定する操作的な修復パターンへと抽象化します。システムは、7つの原理（例：「出力を検証器に公開する」、「正しい挙動を維持する」）で初期化されます。
修正オペレータ ( $R_\phi$ ): 現在のスキル（ $S_i$ ）、診断（ $D_i$ ）、および検索された原理（ $P_i$ ）を、修正されたスキルの候補（ $\hat{S}_{i+1}$ ）と修正トレース（ $z_i$ ）にマッピングするモジュールです。決定的なのは、**実行アンカー（execution anchors）**を適用することです。これは、テキストによる編集がエージェクターの挙動をどのように変えるべきかに関する具体的な指示（例：「ファイルを再ロードする」、「JSONをパースする」、「キーをチェックする」）であり、編集を実行可能なステップに接地（グラウンディング）させます。
限定的修正エピソード: フレームワークは有限の予算（例： $B=3$ ラウンド）の下で動作します。
- 実行と診断: 現在のスキルが実行されます。失敗が発生した場合、診断が生成されます。
- 検索とバインディング: $M$ から関連する原理が検索され、現在の診断に紐付けられます。
- 修正と再実行: 修正されたスキルの候補が生成され、再実行されます。
- ユーティリティによるゲート制御された選択: システムは観察された候補のセットを保持します。最終的な出力は必ずしも最後に生成された修正版ではなく、効用関数 $U(S, T)$ に基づく最良の観察されたスキル（ $S^*$ ）です。この関数は、成功率、実行効率、転送性能、および干渉コストのバランスを取り、効率性の向上がタスクを正常に完了した場合にのみ報酬を与えます。

主な貢献

本論文は主に以下の3つの貢献を行っています：

定式化: コールドスタートにおけるスキル改善を、検索やオープンエンドな自己進化とは異なる、既存のLLM記述スキルの限定的かつ実行に基づいた修正として再定義しました。
フレームワーク: タスク固有の診断、再利用可能な原理メモリ、および実行にアンカーされた修正を統合し、最適なスキルバージョンを系統的に保持するためのSKILLREVISEを導入しました。
評価: 3つのベンチマーク（SkillsBench, SkillLearnBench-Random, SWE-Skills-Bench-Hard）およびALFWorld研究を用いた広範な実証実験により、複数のエグゼキュータモデルにおいて、スキルなしおよびワンショットのベースラインに対する一貫した利得を示しました。

実験結果

フレームワークは、5つのLLM（GPT-5.5, Opus-4.7, Kimi-2.6, Qwen-3.6plus, DeepSeek-V4-Pro）を用いて、共有された検証器駆動型ハーネスを使用して評価されました。

性能向上: 標準的な SkillsBench において、SKILLREVISEはGPT-5.5エージェントの成功率を、わずか3回の修正ラウンドで、スキルなしの 36.05% およびワンショット生成の 39.53% から 61.63% へと向上させました。SkillLearnBench-Random および SWE-Skills-Bench-Hard でも同様の大幅な改善が見られました。
クロスモデル転送性: 修正されたスキルは強い転送性を示しました。GPT-5.5によって修正された固定スキルを他のエグゼキュータ（例：Opus-4.7, DeepSeek-V4-Pro）に適用した場合、多くの場合「スキルなし」のベースラインを上回りました。これは、スキルがモデル固有のアーティファクトではなく、一般化された手続き的知識を捉えていることを示唆しています。ただし、エグゼキュータ固有の修正が一般的に最も高い性能をもたらしました。
アブレーション研究: **診断（Diagnosis）**コンポーネントを削除すると、最大の性能低下（SkillsBenchにおいて53/86から28/86へ）が発生し、検証器のエビデンスをスキルレベルの欠陥へと明示的に橋渡しすることの必要性が浮き彫りになりました。また、**保存台帳（Preserve Ledger）と実行アンカー（Execution Anchors）**も、退行を防ぎ、編集が具体的なアクションを誘発することを保証するために不可欠でした。
ALFWorld研究: 原理吸収の研究において、25のキャリブレーションタスクから学習した10個のコンパクトな原理バンクは、100個の保持タスクセットに対する性能を向上させ、71/100のタスクを解決しました。これは、局所的な失敗を再利用可能な修復パターンへと抽象化する能力を実証しています。

意義と主張

本論文は、実行に基づいた修正が、特にコールドスタートのシナリオにおいて、自動化されたスキル作成のための信頼できるパラダイムであることを主張しています。本研究の意義は、以下の点を実証したことにあります：

スキルは静的なアドバイスではなく、観察された失敗によって洗練されるテスト可能な手続き的メモリであるとき、最も効果的であること。
診断、一般的な原理、およびユーティリティによるゲート制御された選択を組み合わせた構造化されたアプローチは、ワンショット生成の脆弱性と自己進化のデータ飢餓を克服できること。
本フレームワークは、初期ドラフトを検証器のフィードバックを用いて反復的に洗練することにより、エキスパートによる記述（高コスト）とワンショット生成（信頼性が低い）の間の溝をうまく埋めていること。

著者らは、制限事項についても謙虚に述べています。これには、検証器が見えるフィードバックへの依存（テストが疎な場合、オーバーフィッティングを招く可能性があること）、およびスキルが一貫して性能を低下させた場合に「スキルなし」の実行にフォールバックしないことなどが含まれます。彼らは、SKILLREVISEを、エージェントの挙動をタスクの制約と検証基準に適合させる、堅牢で自動化されたスキル獲得への一歩として位置付けています。