技術要約：増分オブジェクト検出のための Focus, Align, and Sustain (FAS)

1. 問題提起

本論文は、Detection Transformer (DETR) に適用される際の 増分オブジェクト検出 (Incremental Object Detection: IOD) における極めて重要な課題に対処している。標準的なディープラーニングによる物体検出アプローチは、静的なカテゴリ集合を想定しているが、現実世界のシナリオでは、モデルが以前に学習した知識を忘れることなく、新しいクラスを逐次的に学習することが求められる。

著者らは、DETRをIODに適応させることが、勾配の希釈化 (Gradient Dilution) と呼ばれる体系的な不安定性を引き起こすことを特定した。固定されたアンカーや高密度なグリッドに依存するCNNベースの検出器とは異なり、DETRはグローバルなアテンションと二部マッチング（bipartite matching）を介した集合ベースの最適化を利用する。著者らは、既存のIOD戦略（知識蒸留や例示リプレイなど）をこの動的な集合ベースのフレームワークに直接適用すると、古い知識を保持するために必要な最適化信号が連鎖的に侵食されると主張している。

この劣化は、密接に結合した以下の3つの要因によって引き起こされる：

1. 信号の分散 (Signal Dispersion): DETRにおいて、クエリの数 ($N \approx 300\text{--}900$) はグラウンドトゥルース（正解）オブジェクトの数 ($M$) を大幅に上回る。その結果、大多数のクエリは背景に割り当てられる。増分学習中、これらの背景に支配された勾配は、疎な前景信号を圧倒し、旧クラスの学習を抑制してしまう。
2. 割り当てのドリフト (Assignment Drift): DETRは確率的な二部マッチングに依存している。モデルのパラメータが更新されるにつれ、特定のクエリをグラウンドトゥース・オブジェクトに割り当てるプロセスは反復ごとに変動する。これにより、同じ旧概念に対する勾配の軌跡が方向的に不一致となり、更新の自己キャンセルを引き起こし、一貫した知識の蓄積を妨げる。
3. サポートの減退 (Support Attrition): 標準的なリプレイ戦略は、クラスの重心付近のサンプルを選択することが多い（単一中心的な視点）。これは求心的なバイアスを生み出し、特徴量多様体（feature manifold）を圧縮させ、旧クラスの幾何学的なサポートを縮小させる。この侵食は、特に周辺領域における決定境界を弱め、新クラスからの干渉に対して脆弱にする。

2. 手法：FAS フレームワーク

勾配の希釈化に対抗するため、著者らは、3つの具体的なメカニズムを通じて堅牢な勾配ダイナミクスを回復するように設計された統一フレームワークである FAS (Focus–Align–Sustain) を提案している。

A. Focus: 事前注入型クエリ定式化 (Prior-Injected Query Formulation: PIQ)

• 目的: クエリ初期化段階での信号対雑音比 (SNR) を向上させることで、信号の分散を軽減すること。
• メカニズム: クエリを意味論的に無相関な埋め込みで初期化する代わりに、著者らは学習可能なクラス・プロトタイプ（意味的アンカー）のバンクを導入する。そして、エンコーダの特徴量とこれらのプロトタイプとの間のコサイン類似度を測定することで、意味的な顕著性マップを算出する。
• アクション: 「Top-P」選択戦略により、最も顕著な前景領域を特定し、デコーダに入る前に低信頼度の背景領域を物理的にフィルタリングする。クエリは、これらの高価値な特徴から直接初期化される。
• 効果: 最適化の探索空間を画像全体 ($H \times W$) から高価値な候補 ($N$) へと制限し、勾配の更新が背景ノイズに飲み込まれることなく、前景信号に集中することを保証する。

B. Align: 決定論的アンカー蒸留 (Deterministic Anchor Distillation: DAD)

• 目的: 学習ステージ間での勾配更新の方向を安定させることで、割り当てのドリフトを軽減すること。
• メカニズム: 揺らぎの原因となる学習モデル（student model）の動的な二部マッチングに頼るのではなく、DADは凍結された教師モデル（teacher model）から導出された不変の空間アンカーを確立する。
• アクション: 学習モデルは、教師モデルのセマンティックな解釈および固定されたアンカー座標におけるロジットを模倣するように強制される。これにより、学習モデル内部のマッチングの揺らぎに関わらず、学習モデルのクエリが自然に教師と同じインスタンスに拘束されるという、クローズドループの安定制約が作成される。
• 効果: これにより、ランダムウォーク挙動によって引き起こされる劣線形な蓄積ではなく、一貫した勾配蓄積（時間ステップに対して線形）を強制し、旧概念の一貫した学習を保証する。

C. Sustain: 多様体サポート・リプレイ (Manifold-Support Replay: MSR)

• 目的: 旧クラスの特徴量多様体の幾何学的完全性を保持することで、サポートの減退に対抗すること。
• メカニズム: 中心ベースの選択（例：Herding）から脱却し、MSRは各旧クラスの特徴分布を、K-Meansクラスタリングを用いて複数の潜在的な部分分布へと分解する。
• アクション: リプレイバッファは、単一のグローバルな重心ではなく、これらの局所的な密度ピークのメドイド（代表的なサンプル）を選択することによって構築される。
• 効果: このアプローチは、特徴量多様体の多様な局所モードと境界領域を明示的に保持し、決定境界の侵食につながる「共分散の収縮」を防ぐ。これにより、破滅的な忘却に抵抗するために必要な幾何学的スパンを維持する。

3. 主な貢献

本論文は、以下の主要な貢献を主張している：

1. 理論的定式化: 著者らは、増分Transformerにおける 勾配の希釈化 を、信号の分散、割り当てのドリフト、およびサポートの減退へと解体し、体系的に定式化した。これは、集合ベースのアーキテクチャに特有の破滅的な忘却に関する新しい理論的視点を提供する。
2. 手法的な革新: PIQ、DAD、およびMSRを通じて、特定された3つの劣化要因に対処するメカニズム整合型フレームワークである FAS の提案。
3. 実証的性能: 広範な実験により、FASが堅牢な最適化ダイナミクスを回復し、最先端の性能を達成することを実証した。

4. 実験結果

著者らは、様々な増分プロトコル（2フェーズおよびマルチフェーズ設定）の下で、PASCAL VOC 2007 および MS COCO 2017 に関してFASを評価した。

• 2フェーズ設定 (COCO 40+40 & 70+10):
  • FASは40+40のスプリットにおいて 44.8 AP を達成し、従来の最高精度（SDDGR）を1.8ポイント上回った。
  • 困難な70+10のスプリットにおいて、FASは 45.5 AP に達し、2番目に優れた手法を3.1ポイント上回った。
  • FASはジョイントトレーニングの上限との差を大幅に縮小し、70+10の設定における絶対的な差（Absolute Gap）をわずか1.5にまで抑えた。
• マルチフェーズ設定 (COCO 40+10×4):
  • 長期的な増分学習において、FASはすべてのフェーズでベースラインを一貫して上回った。
  • 40+10×4の設定の最終フェーズにおいて、FASは 42.9 AP を達成し、従来の最高精度（DCA）を上回り、この厳格な設定における初期の強力なベースラインと比較して 5.0 AP以上 の向上を見せた。
• アブレーション研究:
  • 3つのコンポーネント（PIQ, DAD, MSR）のいずれかを削除すると、大幅な性能低下を招いた。
  • PIQは、信号の分散によって引き起こされる初期の破滅的な忘却から回復するために不可ニであることが示された。
  • DADは、勾配の軌跡を安定させ、忘却率（FPP）を大幅に減少させるために不可欠であることが証明された。
  • MSR（$K=3$）は、単一重心のリプレイ戦略よりも優れていることが示され、多様体の境界を保持することの重要性が検証された。

5. 意義と主張

本論文は、FASを、Transformerベースの検出器を動的で現実世界の環境に適用するための必然的な進化として位置づけている。著者らは、本研究の焦点が、単に標準的なIODのヒューリスティックをDETRに適用することから、集合ベースの最適化に固有の 構造的な脆弱性 を扱うことへとシフトしていると主張している。

勾配の希釈化を性能低下の根本原因として特定することで、論文は、将来の増分学習用Transformerは、信号の大きさ、割り当ての一貫性、および特徴空間の幾何学を明示的に管理しなければならないと論じている。著者らは、彼らの勾配中心の視点が、より安定した増分オブジェクト検出器を開発するための有用な洞察を提供し、提案されたメカニズム以外の複雑なアーキテクチャの拡張や重い計算コストをかけることなく、新たな最先端の状態を達成したと述べている。