技術要約: SKILLAUDIT

問題の定式化

本論文は、プロフェッショナルなワークフローにおける、凍結された大規模言語モデル（LLM）エージェントの**スキル進化（skill evolution）**という課題に取り組んでいる。「エージェント・スキル」（構造化された手順指示パッケージ）はエージェントを効果的に導くが、ツールの変更、APIの更新、エッジケースの発生などにより、デプロイ後に劣化することが多い。

既存のスキル洗練手法は、以下のような特権的なグラウンドトゥルース（正解）フィードバックに依存している：

• ホールドアウト検証スコアや隠されたテスト結果。
• オラクルによるパス/失敗のシグナル。
• 環境からの報酬やエキスパートによる参照回答。

しかし、現実的なデプロイメント設定において、実務者が手にできるのは、タスク記述（$T$）、ワークスペース・データ（$W$）、および**初期スキル（$S_0$）のみである場合が多い。彼らは外部のスコアリング関数、参照解、またはテストスクリプトにアクセスできない。中心となる問題は、「外部のグラウンドトゥルース・フィードバックなしで、いかにしてエージェント・スキルを改善できるか？」**である。

著者らはこれを、潜在的なタスク報酬 $R(\tau)$ を最大化することを目的としつつ、**グラウンドトゥルース・フリー制約（$C_{gtf}$）**に従う制約付き最適化問題として定式化している。この制約は、進化ループのいかなる時点においても、$R$ またはそのプロキシ（代理指標）へのアクセスを禁止するものである。

手法: SKILLAUDIT

著者らは、タスク記述、ワークスペース・データ、および実行トレースのみを用いてスキルを進化させるフレームワークであるSKILLAUDITを提案している。その中核メカニズムは、同一タスクの2つの実行を比較することでスキルの具体的な影響を分離する**ペア・トレジェトリ・オーディティング（対比的軌跡監査）**である：

1. スキルあり（$\tau_w$）： 候補となるスキルを注入した状態で、エージェントがタスクを実行する。
2. スキルなし（$\tau_{wo}$）： スキルを使用せずに、エージェントが同じタスクを実行する。

システムは、これら2つの軌跡間の行動の乖離から最適化シグナルを導出する。アーキテクチャは、以下の4つの主要コンポーネントで構成される：

1. ペア・トレジェトリ・オーディティングとPACE

生の軌跡の差異だけでは編集には不十分である。それらを実行可能なガイダンスに変換するために、SKILLAUDITは**プロセス整合型対比評価（PACE）**を使用する。PACEは、4つの次元にわたって動作する12の評価器のクラスターである：

• プロセス遵守（Process Adherence）： エージェントはスキルの規定された手順に従ったか？
• アーティファクト証拠（Artifact Evidence）： 出力ファイルはスキル内で宣言された制約を満たしているか？
• 一貫性（Consistency）： スキルのワークフローはタスクのデータスキーマと一致しているか？
• 有効性のデルタ（Effectiveness Delta）： 乖離点において、スキルありの軌跡はスキルなしの軌跡よりも優れているか？

極めて重要な点は、PACEがセグメント・アンカー型の診断シグナルを出力することである。単なるグローバルな「パス/失敗」ではなく、どのスキルの記述箇所が行動の変化を引き起こしたか（例：「この段落によって、エージェントはステップXで誤ったアクションを取った」）を特定する。

2. アンカー・ベリファイア（Anchor Verifier）

評価器のドリフトを防ぎ、構造的な完全性を確保するために、タスク仕様（$T$）から一度だけコンパイルされ、進化の間固定される構造的ベリファイアが用意される。これは、$T$ および $W$ からのみ導出可能なハード制約（例：ファイルの存在、フォーマットの遵守、再計算可能な値）をエンコードする。

• 役割： これは決定論的なゲートとして機能する。もし更新によってアンカー・ベリファイアが失敗した場合、PACEのソフトなシグナルに関わらず、その更新は無条件にロールバックされる。

3. デュアル・ストラテジー進化

$S_0$ と $T$ の間の初期適合性評価に基づき、システムはタスクを2つのパイプラインのいずれかにルーティングする：

• 精緻化（Refine）パイプライン： 広範には効果的だが、ノイズ、冗長性、または軽微な欠落を含むスキルに対して使用される。戦略は**「減算優先（subtraction-first）」**であり、助けとなるセグメントを保護しつつ、注意を逸らす内容を削除する。
• 修復（Repair）パイプライン： コアとなるワークフローがタスクと衝突している、あるいはエージェントを積極的に誤導しているスキルに対して使用される。戦略は**「診断駆動型置換（diagnosis-driven replacement）」**であり、有害な箇所を特定し、それらを正しいガイダンス（潜在的には「スキルなし」の軌跡から導出されたもの）と入れ替える。

4. 意思決定ロジック

各イテレーションにおいて、システムはPACEのシグナルとアンカー・ベリファイアのチェックを集計し、3通りの判定を下す：

• Helped（成功）： 更新をコミットする。
• Hurt（阻害）： 即座にロールバックする（いずれかの評価器が「阻害」シグナルを報告した場合、拒否される）。
• Inert（停滞）： 次のイテレーションへ持ち越す。

ループは、スキルが安定状態に達したとき（直近のイテレーションで「阻害」判定がなく、ベリファイアを通過し、かつ実行可能なターゲットが残っていないとき）に終了する。

主な貢献

1. グラウンドトゥルース・フリーのスキル進化： 非表示のテスト、参照解、またはオラクル・シグナルが利用できないという、現実的な制約 $C_{gtf}$ の下でのスキル進化の定式化。
2. ペア・トレジェトリ・オーディティング： 制御された対比的実行を通じて、スキルの影響をエージェントの行動から分離し、最適化シグナルを導出するメカニズム。
3. プロセス整合型診断： 軌跡の乖離を特定のスキル記述へとマッピングするPACEの開発、および構造的安定性を確保するための固定されたアンカー・ベリファイアの結合。
4. デュアル・ストラテジー・ルーティング： ノイズ除去（Refine）が必要なスキルと、コアの置換（Repair）が必要なスキルを区別するメカニズム。

実験結果

本フレームワークは、SkillsBenchベンチマークを用い、8つの専門領域（ソフトウェアエンジニアリング、自然科学、金融を含む）にわたる89個のコンテナ化されたタスクで評価された。

• パフォーマンス： SKILLAUDITは平均タスク報酬**73.9%**を達成した。
• 比較：
  • スキルなしのエージェント（40.9%）に対し、+33.0パーセントポイント向上した。
  • ベンチマークに含まれる静的なエキスパート・スキル（56.7%）に対し、+17.2パーセントポイント向上した。
• ドメインによる差異： システムは、ソフトウェアエンジニアリング（+38.5 pp）および事務・ホワイトカラー業務（+26.7 pp）で最大の利得を示した。金融・経済分野では、静的なベースラインと同等であったが、それを上回ることはなかった。
• リカバリ： システムは、初期スキルが失敗（報酬 < 0.5）したタスクの43%を正常に回復し、初期スキルが既に機能していたタスクの92%を完全に保護した。

意義と限界

本論文は、タスクの正当性が**観測可能な構造的痕跡（observable structural trace）**を残す限り、エージェントのスキルは自律的に改善できることを、SKILLAUDITが示していると主張している。

• 観測可能性の境界： 著者らは、成功がドメインではなく観測可能性に支配されていることを指摘している。スキルが「実行可能かつ観測可能な知識」（例：APIの使用法、数学的公式）をエンコードしている場合、エラーは可視的な痕跡（スタックトレース、誤った数値）を生むため、進化しやすい。逆に、「ドメインの手順」をエンコードするスキル（例：手順を削除しても構造的な痕跡が残らないもの）は、グラウンドトゥルースなしでの進化が困難である。
• 編集の性質： 分析によれば、成功する進化は、スキルを「チュートリアル」から「ベリファイアによって観測可能な実行契約（execution contracts）」へと変容させる傾向がある。これには、ドメイン外の内容の削減、パスのハードコーディングの解除、および不足しているI/O契約の追加が含まれることが多い。
• 控えめな主張： 著者らは、オーディター（監査器）が結果を検証できない場合（例：数値の正当性を検証できず、ファイルの存在しか確認できない場合）、システムは欠落しているドメイン知識を合成することはできないと認めている。システムは、ドメイン知識を新たに発明することによってではなく、スキルの契約を「観測可能」にすることによって、失敗をリカバリするのである。

要約すると、SKILLAUDITは、外部の検証インフラが利用できない現実世界のデプロイメントにおいて、タスク自体の内部的一貫性と構造的制約を利用することで、エージェント・スキルを維持・進化させるための実用的な経路を提供するものである。