技術概要：効率的な非対称 UAV 追跡のための双枝蒸留トランスフォーマー（EATrack）

1. 問題提起

無人航空機（UAV）追跡は、計算効率と追跡ロバスト性の間で重要なトレードオフに直面している。ビジョン・トランスフォーマー（ViT）は、畳み込みニューラルネットワーク（CNN）や判別相関フィルタ（DCF）と比較して優れたグローバル・モデリング能力を提供するが、その高い計算コストにより、リソース制約のある UAV 搭載プラットフォームでは実用的ではない。

既存の軽量アプローチは、ネットワーク構造の簡素化（例えば、層のプルーニング、トークンのドロップ、適応的計算など）によってこれを解決しようとする。しかし、本論文は、そのような構造の簡素化がしばしばターゲット表現の判別能力を弱め、急速な運動、遮蔽、外観変化を含む複雑なシナリオにおける性能低下を招くと主張している。さらに、追跡における従来の知識蒸留手法は、多くの場合グローバルレベルで動作し、空間的事前知識を明示的に活用したり、ターゲット領域に監督を集中させたりすることができず、その結果、学生モデルがターゲットへの注視を失ったり、局所化の劣化に悩まされたりする可能性がある。

2. 手法

著者らは、フルスケールの「教師」ViT の豊かな特徴表現と精密な局所化能力を、推論時の追加計算コストなしに、軽量な「学生」ViT へ学習中に転送することを中核理念とする、効率的で非対称な UAV 追跡フレームワーク「EATrack」を提案する。

2.1. 構造

• 教師モデル: 知識の源となるフルスケールのビジョン・トランスフォーマー（12 層）。
• 学生モデル: リアルタイム推論向けに設計された軽量な非対称 ViT（8 層）。第 1 段階（Stage 1）ではテンプレート画像と検索画像を独立して処理し、第 2 段階（Stage 2）でそれらを融合する。
• 推論パイプライン: 学生モデルは独立して動作する。時間的変動に対処するため、「ターゲットストア」が信頼性の高いターゲット特徴を蓄積する。定期的に、このストアから代表的な埋め込みをサンプリングしてテンプレートを更新し、最小限のオーバーヘッドで時間的適応を可能にする。

2.2. 双枝蒸留戦略

学習プロセスでは、学生モデルを導くために 2 つの相補的な蒸留枝を採用する。

1. 空間的に焦点を当てた特徴レベル蒸留:

   • 目的: プルーニングによって引き起こされた特徴表現の弱体化を補うこと。
   • メカニズム: 正解バウンディングボックスから導出された空間重みマスクを、教師と学生の特徴の両方に適用する。これにより、蒸留損失（平均二乗誤差）がターゲット領域に集中し、背景ノイズが抑制される。
   • 効果: 学生が堅牢で微細なターゲット表現を学習する能力を高め、背景の雑音に対するロバスト性を向上させる。

2. 予測レベル蒸留:

   • 目的: 空間的局所化精度を向上させること。
   • メカニズム: マスクされたカルバック・ライブラー（KL）ダイバージェンス損失を用いて、学生と教師の信頼度分布を特にターゲット領域内で整合させる。
   • 効果: 学生が教師の精密な局所化行動と境界の一貫性を再現するように導く。

2.3. 学習と損失関数

総学習損失は、標準的な追跡目的と蒸留項を組み合わせる。
$$L = L_{cls} + \lambda_1 L_1 + \lambda_2 L_{GIoU} + \lambda_3 L_{feat} + \lambda_4 L_{pred}$$
ここで、$L_{feat}$ と $L_{pred}$ はそれぞれ特徴レベルと予測レベルの蒸留損失である。重要なのは、学習後に教師モデルと蒸留損失が破棄され、学生モデルは推論時に追加の計算を伴わないことである。

3. 主要な貢献

本論文は、3 つの主要な貢献を概説している。

1. 双枝蒸留フレームワーク: 空間的に重み付けされた特徴監督とマスクされた予測レベルの整合を通じて、ターゲット固有の知識を選択的に転送する新たな設計。これにより、ターゲット領域内に監督を集中させることで、グローバルのみの蒸留の限界を克服する。
2. 微細なターゲット認識学習: 前景に監督を集中させることで、モデルが外観変化を明示的に捉えるよう導く戦略。これにより、推論遅延を増加させることなく、微妙かつ動的な変化に対するロバスト性を向上させる。
3. 非対称軽量フレームワーク: 非対称なバックボーンと時間的強化メカニズム（ターゲットストア）を統合することで、追跡精度と計算効率のバランスを取り、プルーニングされたトランスフォーマーが競争力のある精度を維持できるようにするフレームワーク。

4. 実験結果

著者らは、EATrack を 5 つの UAV ベンチマーク（DTB70、UAVDT、VisDrone2018、UAV123、UAV123@10fps）で評価した。

• 性能: EATrack-DeiT（DeiT-tiny バックボーンを使用）は、すべての 5 つのデータセットで最先端（SOTA）の結果を達成し、Aba-ViTrack や SGLATrack などの既存の軽量トラッカーを上回った。例えば、UAV123 においては、成功率が**68.1%**に達し、以前の最高記録を大幅に上回った。
• 効率性: モデルは、加速ツール（TensorRT など）なしで組み込み NVIDIA Jetson TX2 プラットフォーム上で33.6 FPSで動作し、リアルタイム能力を実証した。ハイエンド GPU（A100）では241.9 FPSに達する。
• アブレーション研究:
  • 蒸留: 蒸留を除去すると、UAV123 において精度が 1.4%、成功率が 1.1% 低下した。特徴レベルと予測レベルの両方の枝が相補的であることが示された。
  • 時間的手がかり: 時間的手がかりを取り入れることで、動的なデータセットにおいて性能が大幅に向上した（DTB70 で +3.2%、VisDrone で +5.8%）。これは、複雑な運動シナリオにおける時間的モデリングの価値を確認するものである。
  • 深さ分析: 層の深さと効率性の間の最適なバランスを特定し、軽量な目的を維持しながら性能を最大化する構成を選択した。

5. 意義と主張

本論文は、EATrack が UAV 追跡における効率性と精度の間のギャップを効果的に埋めると主張している。教師主導のターゲット認識蒸留戦略を活用することで、この手法は構造的にプルーニングされたトランスフォーマーが、関連する推論オーバーヘッドなしに、大規模モデルの判別能力と局所化能力を維持することを可能にする。

著者らは、自らのアプローチが既存の蒸留ベースのトラッカーと以下の点で区別されると強調している。

• グローバルなガイダンスを超えて、微細でターゲット認識型の監督へ移行すること。
• 特徴レベルと予測レベルのガイダンスを組み合わせ、表現の質と局所化精度を同時に解決すること。
• 超低コストで動作する時間的適応メカニズムを通じて、外観変化に対するロバスト性を達成すること。

これらの結果は、EATrack が、高い追跡精度と厳格な計算制約の両方が要求されるリアルタイムの航空応用に対して、実行可能な解決策であることを示唆している。