テクニカルサマリー：ビジュアルプロンプティングと特徴量再構成ベースの異常検知におけるデュアルティーチャー・スーパービジョンの融合

1. 問題提起

教師なし異常検知（AD）は、MVTec ADのような確立されたベンチマークにおいて、画像レベルのAUROCスコアが99%を超えることも珍しくなく、ほぼ完璧な性能を達成しています。しかし、本論文は、こうした成功が「無菌的」なデータセットの仮定（一貫したオブジェクトのスケール、中央配置、均質な背景、固定された視点）に大きく依存していると主張しています。これらの仮定が現実世界の産業シナリオ（例：変動する照明、乱雑な背景、位置ずれのあるオブジェクト）において破られた場合、性能は著しく低下します。

この脆弱性を実証するために、著者らは背景をランダムなテクスチャに置き換えたDistorted MVTecバリアントを導入しました。実験の結果、普及しているAD手法は、この歪んだデータセットにおいて1.7〜16.4パーセントポイントの性能低下を示すことが明らかになりました。また、画像のコーナーにある背景ノイズがアルゴリズムのランキングを変化させることも確認されました。これは、制御されたベンチマークの性能と、実世界への適用可能性との間にある決定的なギャップを浮き彫りにしています。

2. 手法

提案されるフレームワークはアーキテクチャに依存せず、学生・教師型（Student-Teacher）の再構成ベースの手法（具体的には**Masked Multiscale Reconstruction (MMR)**モデルをバックボーンとして使用）を強化するように設計されています。パイプラインは、準備（Preparation）、学習（Training）、**推論（Inference）**の3つのモジュール化されたフェーズで構成されます。

2.1 ビジュアルプロンプティングマスク・パイプライン（背景除去）

背景の変化に対する感度を軽減するために、著者らは関心対象のオブジェクトを分離する後処理パイプラインを導入しています。

• メカニズム: Segment Anything Model (SAM) と「Matcher」フレームワーク（スケーラブルな特徴量マッチングに基づく）を使用して、前景/背景（FG/BG）のセグメンテーションマスクを生成します。
• プロセス: 少数の参照画像を使用して、ビジュアルプロンプティングによる初期マスクを作成します。推論時には、これらの参照画像がテスト画像に対するマスクの自動生成をガイドします。
• 適用: 生成されたFGマスクは、異常スコアマップに適用されます。エッジの欠陥を見逃さないようにするため、著者らはFGマスクを膨張（dilate）させ、生のスコアマップのピーク値でクリップする「ミキシング手法」を採用しており、鋭い識別性と完全な欠陥カバー率のバランスを取っています。

2.2 知識保存型デュアルティーチャー・アプローチ

標準的な学生・教師型手法では、事前学習済みの教師（例：ImageNet）が凍結された状態で学生をガイドします。著者らは、事前学習された特徴が最適ではない可能性があるターゲットドメインにおいて、これが適応性を制限すると主張しています。

• 課題: 教師をナイーブにアンフリーズ（凍結解除）すると、学生と教師の間の距離を最小化しようとする自明な解に収束してしまう「特徴崩壊（feature collapse）」が発生します。
• 解決策: Dual-Teacherフレームワークが導入されています：
  1. 弱い教師（Weak Teacher）: ターゲットドメインに適応するために、事前学習済みモデルをアンフリーズしたコピー。
  2. 強い教師（Strong Teacher）: 正則化器として機能する、凍結された事前学習済みモデルのコピー。
• 損失関数: 全体の損失は、学生と弱い教師の間の知識蒸留（KD）損失（$L_{S\_WT}$）と、弱い教師と強い教師の間のKD損失（$L_{WT\_ST}$）を組み合わせたものです。
  $$L_{total} = L_{S\_WT} + \lambda L_{WT\_ST}$$
  ハイパーパラメータ $\lambda$ は、弱い教師の柔軟性を制御します。高い $\lambda$ は適応を制限し、低い $\lambda$ はより多くの柔軟性を許容しますが、崩壊のリスクを伴います。強い教師は、計算時間を節約するために推論時には無効化されます。

2.3 拡散モデルによる合成学習データ

汎化性能を高め、正則化メカニズムとして機能させるために、著者らは合成画像を用いて学習セットを拡張しています。

• 生成: 事前学習済みの拡散モデルをターゲットドメインの学習セットに対してファインチューニングし、外観やコンテキストにおいて元の「正常」サンプルと酷似した合成画像をサンプリングします。
• 戦略: 合成的な「異常」を生成してADを教師ありタスクに変える手法とは異なり、このアプローチは高品質な「正常」画像を生成します。これにより、データの多様性が増加し、非現実的な欠陥パターンのバイアスを導入することなく、元の学習分布への過学習を防ぎます。

3. 主な貢献

本論文は、主に3つの貢献を挙げています。

1. ビジュアルプロンプティング・パイプライン: 自動生成されたFG/BGマスクを使用してオブジェクトを分離する方法であり、背景ノイズへの感度を低減し、スコアマップの堅牢性を向上させます。
2. デュアルティーチャー・スーパービジョン: 再構成ベースのモデルにおいて、特徴崩壊を招くことなく教師をアンフリーズするメカニズムであり、これによりドメイン適応性を向上させ、事前学習バイアスを緩和します。
3. 拡散ベースのデータ拡張: 学習データの多様性を豊かにし、正則化器として機能するために、合成の「正常」画像を生成する戦略です。

4. 実験結果

フレームワークは、AeBAD-S（照明や背景が変化する航空エンジンブレード）およびMVTecデータセットで評価されました。

4.1 AeBAD-Sにおける性能

提案されたフレームワーク（MMR+++）は、困難なAeBAD-Sデータセットにおいて最先端（SOTA）の結果を達成しました。

• 画像レベル AUROC: 88.2% を記録し、従来のSOTA（MiniMaxADの87.0%）を 1.2%、バックボーンであるMMRを 3.5% 上回りました。
• ピクセルレベル AUPRO: 90.2% を記録し、従来のSOTA（89.1%）を 1.1% 上回りました。
• アブレーション研究:
  • 合成データ: 実画像と合成画像の比率は1:3が最適であることが分かりました。純粋な合成データのみの学習でも、ほとんどのベースラインを上回りました。
  • デュアルティーチャー: パフォーマンスのピークは中間的な $\lambda$ 値において発生しました。合成データの量が増えるにつれて最適な $\lambda$ は減少しており、これは合成データが暗黙的な正則化を提供していることを示唆しています。
  • 背景除去: ミキシング手法（膨張させたマスク ＋ 生のマスク）が最良のバランスをもたらし、生のマスクによって失われたAUPROスコアを回復しつつ、高いAUROCを維持しました。

4.2 MVTecにおける性能

制御されたMVTecデータセットにおいて、フレームワークはベースラインに対して段階的な改善を示しました。しかし、著者らは合成データがMVTecの性能を損なうことがあることも指摘しています。調査の結果、一部の合成された「正常」画像が「欠陥のよう」に見えていたことや、位置のずれた合成データがアンフリーズされた教師のファインチューニングに悪影響を与えたことが判明しました。これは、合成データによる拡張の恩恵は、より複雑で制御されていないドメインで最も顕著になることを示唆しています。

5. 意義と主張

本論文は、確立されたAD手法は制御された環境に強く依存しており、実用性を制限していると主張しています。提案されたフレームワークは、以下の要素に対して堅牢性を高めるモジュール化されたアーキテクチャに依存しないアプローチを導入することで、これに対処しています。

• 背景の変化（ビジュアルプロンプティングによる）。
• ドメインシフトと事前学習バイアス（デュアルティーチャー・スーパービジョンによる）。
• データの希少性と過学習（拡散ベースの拡張による）。

著者らは、これらの改善が独立しており、ほとんどの知識蒸留ベースの再構成手法に適用可能であることを強調しています。AeBAD-Sにおける結果は、これらの修正がベンチマークの性能と実世界の適用可能性との間のギャップを大幅に埋めることができ、困難な条件下で最先端の検出およびセグメンテーション・スコアを達成できることを証明しています。