Online Continual Learning with Dynamic Label Hierarchies

技術概要：動的ラベル階層を用いたオンライン継続学習

問題定義：DHOCL
既存のオンライン継続学習（OCL）手法の多くは、カテゴリが独立しており意味的に等距離にある「平坦な」ラベル空間を前提としています。この仮定は、実世界の概念（例えば生物多様性のモニタリング）が持つ階層的な組織を捉えきれず、それは横方向（新しい兄弟クラス）と縦方向（既存の分枝の細分化または抽象化）の両方で進化します。さらに、実世界の教師信号はしばしば部分的です。観察者は専門性に応じて画像を「鳥」（粗い粒度）または「Monarcha melanopsis」（微細な粒度）とラベル付けする可能性があり、完全な分類学的系統を提示しないことがあります。

このギャップに対処するため、著者は**動的階層型オンライン継続学習（DHOCL）**を導入します。従来の階層的継続学習の研究が、厳格で事前に定義された「粗粒度から微細粒度」へのカリキュラムを強制するのに対し、DHOCLでは、データインスタンスが任意の階層レベルで、任意のタイミングにアノテーション付きで到着することを許容します。分類体系は固定されておらず、新しいクラスが出現するにつれて有機的に成長し、不均衡で不完全な木構造を生み出す可能性があります。この設定は、2 つの根本的な課題を提示します：

1. 部分的教師信号と構造的な結合の解除：各サンプルは、「パス全体」の階層に対して「点ごとの」シグナルのみを提供します。これは可塑性を制限し、粒度を超えた意味的制約の伝播を防ぎ、分類学的分枝が構造的に結合解除された断片的な潜在空間へと至ります。
2. 粒度に起因する干渉：異なる分類学的深さは、学習と忘却の率において不均質です。粗粒度の学習は微細なニュアンスを不安定化させる可能性があり、その逆もまた然りです。平坦な空間向けに設計された既存のリプレイおよび正則化メカニズムは、この相互干渉を考慮しておらず、偏った正則化と破滅的忘却を引き起こします。

手法：HALO
著者は、迅速な適応と長期的な安定性のバランスを取りながら、階層的一貫性を維持するように設計された**HALO（Hierarchical Adaptive Learning with Organized Prototypes：組織化されたプロトタイプを用いた階層的適応学習）**を提案します。HALO は、2 つの中核コンポーネントから構成されます：

1. 階層プロトタイプ正則化（HPR）：

   • HALO は、バックボーン特徴をプロトタイプ空間にマッピングする軽量アダプターを導入します。各階層レベルの各クラスに対して、学習可能なプロトタイプのセットが維持されます。
   • 構造的整合性：マージンベースのランキング損失により、祖先 - 子孫のプロトタイプ対が、無関係な対よりも類似していることを強制し、進化中の木構造を明示的に特徴空間に焼き付けます。
   • 時間的サリエンシーの一貫性：この手法は、現在のモデルと前ステップからキャッシュされたプロトタイプとの間で、最も情報量の多い場所（Top-K パッチ）における応答変化にペナルティを課します。これにより、粗い意味については安定性を確保しつつ、新しい微細な更新については制御されたドリフトを可能にします。
   • これらのプロトタイプは「トポロジカルな接着剤」として機能し、階層が進化するにつれて分類学的分枝の結合解除を防ぎます。

2. 階層的適応集約（PredLA）：

   • 新たなノードに対する迅速な適応と、既存知識の安定性という相反する要求の矛盾を解決するため、PredLA は各レベルにおいて 2 つの相補的分類器の階層的適応アンサンブルを採用します：
     • 学習可能特徴上でクロスエントロピー損失を用いて訓練され、適応性に最適化された線形ヘッド。
     • 固定された特徴上で再帰的最小二乗法（RLS）を用いて訓練され、安定性と忘却耐性に最適化された解析的ヘッド（ACIL）。
   • 集約：パラメータレベルでマージするのではなく、PredLA は確率空間で予測を集約します。温度スケーリングを用い、バイレベル目的関数を通じてリプレイされたサンプルのみに基づいて集約重み（$\alpha$）を学習します。これにより、システムは内部の最適化ダイナミクスを干渉させることなく、「可塑性」のある線形予測と「安定性」のある解析的予測のバランスを取ることができます。

主な貢献

• DHOCL の形式化：本論文は、ストリーミングデータにおける階層的知識の動的進化を捉え、厳格な粗粒度から微細粒度への仮定を超えた、より現実的で一般的な OCL 設定を確立します。
• HALO フレームワーク：動的ラベル階層の特有の課題に対処するため、階層的適応集約とプロトタイプベースの正則化を組み合わせた新規アーキテクチャ。
• 包括的な評価：著者は、多様な階層構造とドメインを網羅する CIFAR-100、FGVC-Aircraft、CUB-200、iNaturalist、ImageNet-H といった多様なベンチマークにおいて、5 つの指標（AAUC、FAUC、MS、FFAcc、FAAcc）を用いた厳密な評価プロトコルを確立しました。

実験結果
広範な実験により、HALO がすべてのデータセットおよび指標において、既存の OCL ベースライン（リプレイベース、正則化ベース、階層認識型を含む）を一貫して上回ることが示されました。

• 性能：HALO は、優れた曲線下面積（AAUC）および微細粒度精度（FAUC）を達成すると同時に、誤りの重大度（MS）を大幅に削減しました。
• 安定性 - 可塑性のトレードオフ：学習曲線は、HALO が新しいクラスと階層レベルを迅速に学習しつつ、破滅的忘却を効果的に抑制することを示しており、微細な詳細を忘却する純粋なリプレイ手法や、粗レベルの適応に苦しむ純粋な解析的手法の両方を凌駕しています。
• ロバスト性：この手法は、異なるバックボーンアーキテクチャ（ResNet-50、ViT-B）および事前学習戦略（教師あり、CLIP、DINO、MAE）に対してロバストであることを示しました。また、階層的ノイズ（例えば、分類体系におけるエッジの削除やランダムな摂動）に対しても、優雅に劣化する特性を示しました。
• アブレーション研究：PredLA または HPR のいずれかを除去すると性能が低下することが確認され、分類器の適応的集約とプロトタイプベースの構造的正則化の両方が成功に不可欠であることを裏付けました。

意義と主張
著者は、この研究を階層分類と継続学習のギャップを埋めるための必要な一歩として位置付けています。彼らは、DHOCL がオープンワールド環境における分類体系の自然な進化を反映する、極めて柔軟で現実的な設定を提供すると主張しています。設定が現実世界のシナリオの完全な複雑さ（例えば、極めて偏ったまたは破損した木構造など）をまだ網羅していないことを認めつつも、HALO を、将来の研究を両分野において導くための実用的なベンチマークと観察を提供する基盤的フレームワークと見なしています。この研究は、成功する DHOCL には、出力レベルの教師信号や一般的な忘却緩和に依存するのではなく、特徴の進化を階層的トポロジーと明示的に整合させる戦略が必要であると強調しています。