技術要約：VTO – ビデオ異常検知のための視覚的ツール・オーケストレーション

1. 問題定義

ビデオ異常検知（VAD）は、公共安全から都市監視に至るまで、幅広いアプリケーションにおいて極めて重要なタスクである。しかし、現実世界の異常は決して孤立したものではない。それらは複雑で多様であり、特定の物理的なコンテキスト（例：局所的な乱闘が武器を用いた襲撃へとエスカレートする状況など）に依存している。従来のディープラーニングのアプローチは、VADをクローズドセットの分類またはスコアリングタスクとして扱っており、オープンワールドのシナリオにおける汎化性能の低さに直面している。

大規模言語モデル（LLM）や視覚言語モデル（VLM）を活用して説明可能なVADを実現しようとする最近の試みは、マルチモーダル・エージェントを導入している。しかし、これらのシステムには主に2つの限界がある：

1. 静的なオーケストレーション（Static Orchestration）： 教師ありファインチューニング（SFT）やヒューリスティックな行動模倣に依存するシステムは、ツールを独立したカプセルとして扱う。そのため、複雑な因果関係を解明するために、異なる視覚専門家モデルを動的にオーケストレーションすることに苦慮する。
2. 早期終了（Premature Termination）： 粗い粒度の結果ベースの報酬に依存する標準的な強化学習（RL）アプローチは、主要な異常を検知した直後にエージェントの実行を停止させてしまうことが多い。微細な監督（supervision）がなければ、エージェントは連鎖的な二次的危害を特定するために必要な、多段階の因果チェーンを完了することができない。

2. 手法：VTOフレームワーク

著者らは、VADを複雑な多段階の認知的なツール・オーケストレーション問題へと変貌させるために設計された、プロセス監督型強化学習フレームワークである**VTO（Visual Tool Orchestration）**を提案する。

2.1 VAD-Tool ベンチマーク

このフレームワークを支えるため、著者らは階層的な視覚ツールセットおよびベンチマークであるVAD-Toolを構築した。これは以下の構成要素からなる：

• 12の特化型視覚ツール： 3つの機能的カテゴリに分類されている：
  • 個体識別とトラッキング： 人物再識別（Person Re-ID）、歩容認識（Gait Recognition）、ナンバープレート認識、車両再識別（Car Re-ID）。
  • 行動およびシーン理解： ポーズ推定、転倒検知、群衆計数、シーン認識。
  • セキュリティイベントおよびハザード検知： 暴力検知、武器検知、火災・煙検知、および一般的な異常検知エキスパート。
• データセット： 大規模な学習用データセット（約1,548万トークン）と、相互に関連する異常クエリ（例：ポーズに基づく暴力検知）を特徴とする厳格なテストセット（1,841サンプル）を備えている。これらは、初期の軌跡生成に強力なVLM（Qwen2.5-VL）を用い、論理的正当性のための専門家レビューを経た、ヒューマン・イン・ザ・ループのパイプラインを通じて作成された。

2.2 トレーニング・パイプライン

VTOフレームワークは、2つの明確なステージで動作する。

ステージ1：教師ありファインチューニング（SFT）
ベースモデルをVAD-Toolデータセットでファインチューニングし、基礎的な能力を確立する：

• 構文的なツール呼び出し： 有効なReActフォーマット（Thought, Action, Action Input, Observation）の遵守。
• 異常イベントモデリング： 高リスクなセキュリティイベントに対する内部表現の適応。
• 観測結果の統合： 視覚的エキスパートからの特定の出力（例：トラッキングID、空間座標）を文脈化する方法の学習。

ステージング2：プロセス監督型認知アライメント
静的な行動模倣と結果ベースのRLの限界を克服するため、著者らは**Group Relative Policy Optimization (GRPO)**によって最適化される動的な学習ループを導入している。このステージでは、密なステップごとの監督を提供するために、二重の報酬システムを採用している：

1. ルールベースの目的報酬 ($R_{rule}$):
   • タスク完了 ($R_{comp}$): 成功に対して正のスコアを与え、エラーに対して負のペナルティを与える。
   • ツール/パラメータの一致 ($R_{tool}, R_{param}$): ツール名とパラメータの完全一致の強制。
   • 効率性ペナルティ ($R_{eff}$): 冗長なツール呼び出しを抑制する。
2. LLM-as-a-Judge 報酬 ($R_{LLM}$):
   • 72Bパラメータのモデル（Qwen2.5-VL）を専門家評価者として活用し、以下の項目について軌跡をスコアリングする：
     • 論理性 ($R_{logic}$): ステップ・バイ・ステップの因果推論。
     • 関連性 ($R_{rel}$): 行動とユーザークエリの一致度。
     • 完全性 ($R_{complete}$): 必要なすべての論理的ステップがカバーされていることを保証し、早期終了を明示的に罰する。

エージェントはグループ相対的なアドバンテージを最大化することでポリシーを最適化し、早期終了することなく、目標指向の因果チェーンを構築することを効果的に学習する。

3. 主な貢献

1. VTOフレームワーク： プロセス監督型強化学習によって駆動される、動的なマルチモーダル・エージェント・フレームワーク。これは、結果ベースの報酬から微細なステップごとの認知アライメントへと移行することで、VADにおける早期終了の問題を明示的に解決する。
2. VAD-Tool ベンチマーク： 12の特化型視覚モデルを統合した包括的な評価プラットフォーム。これは、単一ステップおよび多段階の相互関連する異常推論をテストするように特別に設計されており、結果駆動型のメトリクスに焦点を当てた既存のデータセットのギャップを埋めるものである。
3. パフォーマンスのブレイクスルー： 本フレームワークは、動的なポリシー最適化が、静的なSFTベースラインを大幅に上回り、複雑なツール・オーケストレーション・タスクにおいて巨大な72Bパラメータモデルの性能さえも凌駕できることを実証している。

4. 実験結果

様々なベースモデル（Vicuna-7B, Llama-3-8B, Qwen3-VL-8B）および強力な72Bベースライン（Qwen2.5-VL-72B）を用いて、VAD-Toolベンチマーク上で広範な実験が行われた。

• ベースラインの限界： ゼロショットおよびフューショットのベースライン、ならびにSFTのみのモデルは、「相互関連ツール（Interrelated Tools）」タスクにおいて壊滅的な低下を示した。例えば、Vicuna-7Bは相互関連する全レスポンス・タスクにおいて精度が0%にまで低下し、Qwen2.5-VL-72Bは約67.40%で停滞した。
• VTOの性能： VTOはすべてのベースラインを大幅に上回った。
  • Qwen3-VL-8Bバックボーンにおいて、VTOは相互関連ツールの「Whole」メトリクスで**95.14%**の精度を達成した（SFTベースラインの89.74%と比較）。
  • Llama-3-8Bバックボーンにおいて、VTOは相互関連の性能を65.93%（SFTベースライン）から**72.16%**へと向上させた。
  • VTOは、Qwen3-VL-8Bバリアントにおいて、決定（Decis）およびツール選択（Tool）のメトリクスで完璧なスコア（100%）を達成した。
• アブレーション研究： プロセス監督コンポーネント（具体的にはタスク完了報酬またはLLMジャッジ報酬）を取り除くと、性能が大幅に低下した。これは、早期終了やハルシネーションを防ぐために、決定論的なルールベースのアンカーと定性的な論理的監督の両方が必要であることを裏付けている。

5. 意義と主張

本論文は、VTOがビデオ異常検知を、静的な分類タスクではなく、複雑な多段階の認知的なツール・オーケストレーション問題として再定義することを主張している。プロセス監督型認知アライメントを導入することで、著者らは、エージェントが環境を動的に探索し、観察可能な多段階の因果チェーンを構築し、早期終了することなく安全制約を厳格に遵守するように訓練できることを示している。

本研究は、物理的なセキュリティ領域における静的な模倣学習と動的な強化学習の間の溝を埋めるものである。著者らは、決定論的なルールベースのアンカーと定性的な論理的監督の両方を用いることで、エージェントが予測不可能な連鎖的危害に対処できるようになる、厳格なインフラストラクチャ（VAD-Tool）とスケーラブルなフレームワーク（VTO）を提供している。また、彼らのアプローチにより、より小さなモデル（8Bパラメータ）が、特定の複雑な推論タスクにおいて、より大規模なモデル（72Bパラメータ）に匹敵、あるいはそれを上回る性能レベルを達成できることを強調している。