💻 computer science

Multi-AD: Cross-Domain Unsupervised Anomaly Detection for Medical and Industrial Applications

本論文は、squeeze-and-excitationブロック、知識蒸留、および識別器ネットワークを統合することで、多様な医療および産業用画像データセットにおける微細な異常の検出において最先端の性能を達成する、クロスドメインの教師なし異常検知フレームワークであるMulti-ADを提案している。

原著者： Wahyu Rahmaniar, Kenji Suzuki

公開日 2026-02-06

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Wahyu Rahmaniar, Kenji Suzuki

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

あなたは、工場の品質管理検査官、あるいはエックス線を見ている医師だと想像してください。あなたの仕事は、何か「異常」を見つけることです。金属部品の小さな傷や、脳スキャンの小さな腫瘍のようなものです。問題は、「異常なもの」は非常に稀であるということです。あなたには、完璧で正常なアイテムの写真は何千枚もありますが、壊れたものの写真はほんの一握りしかありません。コンピュータに壊れたものを見つけさせるように訓練するのは、壊れたものの例を十分に示せないため、非常に困難です。

この論文は、この問題を解決するMulti-ADと呼ばれる新しいコンピュータプログラムを紹介しています。Multi-ADは、コンピュータに「壊れたもの」の例を見せる代わりに、コンピュータに「完璧とはどういうものか」のエキスパートになるよう教えます。そして、巧妙なトリックを使って、その完璧なパターンに合わないものを特定します。

Multi-ADの仕組みを、シンプルな概念に分解して説明します。

1. 「先生」と「生徒」（知識蒸留）

マスターシェフ（先生）を想像してください。そのシェフは、完璧なケーキがどのような見た目、味、食感であるかを正確に知っています。そのシェフは、完璧な材料のみを使って練習してきたため、焦げたケーキを見たことがありません。次に、生徒シェフ（生徒）を想像してください。生徒は先生の真似をしようとしています。

Multi-ADにおいて、「先生」は、何千もの完璧な医療スキャンや工業写真に習熟した強力なコンピュータモデルです。先生は「正常」なパターンを隅々まで理解しています。「生徒」は、先生の脳をコピーしようとする、より小さく高速なモデルです。

トリック： 生徒は単に画像を暗記しようとするのではなく、先生の「思考プロセス」を模倣しようとします。先生が正常な肝臓のスキャンを見たとき、生徒も同じように見えるように学習します。
結果： 生徒が欠陥のある画像（腫瘍や傷など）を見たとき、生徒は混乱します。「待てよ、これは先生が教えてくれたものとは違うぞ！」と考えるのです。この混乱こそが、「何かがおかしい」と告げるアラームになります。

2. 「審判」（識別器）

生徒が本当に学習しているのか、それともただ推測しているだけなのかを確認するために、第三のキャラクターである、厳格な審判（識別器と呼ばれます）が存在します。

審判の仕事は、「本物か偽物か」というゲームをすることです。審判は、先生が見ている特徴と、生徒が生成した特徴を見比べます。
もし生徒がうまくやっているなら、審判は先生の視点と生徒の視点の違いを区別できなくなります。
もし生徒が奇妙なもの（異常）を見つけた場合、その特徴は審判にとって「偽物」のように見えます。すると審判は、「それは正常ではない！」と叫びます。これにより、生徒は差異を見つけ出す能力をさらに磨くことになります。

3. 「スーパーアイ（超強力な目）」（Squeeze-and-Excitation ブロック）

時には、欠陥は非常に小さく、ネジの髪の毛のような裂け目や、網膜の小さな点のようなものであることがあります。通常のカメラでは見逃してしまうかもしれません。Multi-ADは、Squeeze-and-Excitation (SE) ブロックと呼ばれる特別なレンズを使用します。

これは、暗い部屋の中のスポットライトのようなものです。コンピュータは、何千もの詳細を含む巨大な画像を見ています。SEブロックは、「背景のノイズは無視して、この特定の情報のチャンネルだけに集中せよ」と指示するスポットライトとして機能します。これにより、コンピュータは無関係な情報を無視し、問題を示す微細で微妙な手がかりにズームすることができます。

4. 全体像と細部の両方を見る（マルチスケール融合）

異常にはあらゆるサイズがあります。機械部品の大きな凹み（大きなスケール）もあれば、小さな傷（小さなスケール）もあります。

Multi-ADは、画像を単一の方法で見るだけではありません。同時に4つの異なる「ズームレベル」を通して画像を見ます。

ズーム1： 微細な質感（木の目のようなもの）を見ます。
ズーム2 & 3： 局所的な形状や構造を見ます。
ズーム4： 全体像を見て、大きな歪みを確認します。

そして、これらすべての視点を一つの最終的なマップへと統合します。これは、指紋を探す探偵、足跡を探す探偵、割れたガラスを探す探偵、そして現場全体を見る探偵という、4人の探偵チームがいるようなものです。彼らは全員がメモを共有し、問題の場所を示す唯一の完璧なマップを作成します。

何をテストしたのか？

著者らは、このシステムを2つの全く異なる世界でテストしました。

医学： 脳スキャン（MRI）、肝臓スキャン（CT）、眼底スキャン（OCT）を使用しました。腫瘍や疾患を見つけられるかどうかを確認するためです。
産業： テクスチャ（カーペットや革など）や、様々な欠陥（傷、へこみ、部品の欠落など）を持つ物体（ボトル、ネジ、錠剤など）を含む、有名な「MVTec AD」データセットを使用しました。

結果

論文では、Multi-ADが他のトップレベルの手法と比較して、その仕事において最高であると主張しています。

医学において： 異常な画像を81.4%の確率で正しく特定し、問題の正確な位置を97.0%の確率で特定しました。
産業において： さらに優れた結果を出し、不良品を99.6%の確率で特定し、欠陥の正確な位置を98.4%の確率で特定しました。

論文は、「先生ー生徒」型の学習、「審判」によるゲーム、そして「スーパーアイ」を組み合わせることで、Multi-ADは「壊れたもの」の例を事前に見せられることなく、医療および工場設定の両方で隠れた問題を見つけられると結論付けています。これは、彼らが「完璧」をあまりにも深く理解しているため、完璧でないものは即座に目立つようになるからです。

技術要約：クロスドメイン非教師あり異常検知のための Multi-AD

問題提起

異常検知（AD）は、医学における早期疾患診断や、産業製造における欠陥検出において極めて重要である。しかし、主要なボトルネックはラベル付き異常データの不足である。異常事例は本質的に稀であり、ラベル付きデータの取得（特に医学用画像において）は多大な労力とコストを要し、観察者間のばらつきも生じやすい。自己教師あり学習（SSL）は、ラベルのない「正常」データを用いて学習することで解決策として浮上したが、学習データが限られている場合や、クラス内の変動が大きい（例：多様な解剖学的構造や複雑な産業環境）シナリオでは、その性能が低下することが多い。さらに、既存の知識蒸留（KD）手法は、単一ドメインのアプリケーションに限定されることが多く、クロスモダリティやクロスドメインの転移における堅牢性に欠けている。

手法：Multi-AD フレームワーク

著者らは、医学および産業の両ドメインにおける堅牢な非教師あり異常検知のために設計された、畳み込みニューラルネットワーク（CNN）フレームワークである Multi-AD を提案する。この手法は、ドメインに依存しない特徴学習と、以下の3つのコアコンポーネントによって強化された教師・生徒（T-S）アーキテクチャによるドメイン固有の適応を統合している。

1. Squeeze-and-Excitation (SE) を備えた強化バックボーン

バックボーンは、以下の機能を組み込んだ修正版 WideResNet-50 アーキテクチャである：

拡張畳み込み（Dilated Convolutions）: 4つの残差ステージに適用され、拡張率（ $r=1, 2, 4, 8$ ）を段階的に増加させることで、空間解像度を維持しながら受容野を拡大する。これにより、モデルは局所的な詳細（例：微細な亀裂）とグローバルなコンテキスト（例：構造的歪み）の両方を捉えることができる。
Squeeze-and-Excitation (SE) ブロック: 各残差ステージに統合され、チャネルごとの特徴再校正を行う。このメカニメントは、グローバル平均プーリングを通じてチャネルごとの統計量を計算し、全結合層を使用してスケーリング係数を生成することで、ネットワークが情報量の多い特徴を強調し、無関係な特徴を抑制することを可能にする。
マルチスケール特徴融合: 下層と上層の層からの特徴を融合する畳み込み層により、微細な詳細と高レベルのセマンティック情報を組み合わせる。

2. 特徴量アライメントを伴う知識蒸留 (KD)

本フレームワークは、事前学習済みの 教師 (T) モデル（凍結）が、訓練可能な 生徒 (S) モデルに知識を転送する T-S アーキテクチャを採用している。

学習体制: モデルは正常（異常のない）データのみを用いて学習される。
特徴量アライメント: S モデルは、T モデルの特徴表現を模倣するように学習される。両モデルの重要な層からの特徴量は L2 正規化される。
損失関数: 特徴生成損失（ $\mathcal{L}_G$ ）は、複数の層にわたる T モデルと S モデルの正規化された活性化ベクトルの間のユークリッド距離（コサイン類似度を介して）を最小化する。これにより、S モデルは正常データの固有の分布を学習する。

3. 識別器 (D) ネットワークと敵対的学習

正常データと異常データの区別をさらに精緻化するために、識別器 (D) ネットワークが導入されている：

アーキテクチャ: 入力が「リアル」（T モデルの特徴）か「フェイク」（S モデルの特徴）かを示す確率スコアを出力する、特徴マップを処理する畳み込みネットワーク。
敵対的目的: D ネットワークは、BCE 損失を用いて T の特徴と S の特徴を区別するように最適化される。逆に、S モデルは D ネットワークを欺くための敵対的項（ $\mathcal{L}_{adv}$ ）を用いて学習され、S モデルが T モデルの正常分布と区別がつかないような特徴マップを生成するように強制される。
総損失: S モデルの総損失は、特徴アライメントと敵対的項を組み合わせたものである： $\mathcal{L}_S = \mathcal{L}_G + \lambda \mathcal{L}_{adv}$ 。

4. 畳み込み強化型マルチスケール特徴融合 (MFF)

推論時には、複数の層（ $M_1$ から $M_4$ ）における T と S の特徴間のピクセル単位のコサイン非類似度を計算することで、異常マップが生成される。

精緻化: 単純な加算とは異なり、提案された MFF は、融合前に各スケールの異常マップに 1×1 畳み込み、バッチ正規化、および ReLU を適用する。このステップは、スケールの変動や空間的な位置ずれに対処するために特徴マップを精緻化する。
集約: 精緻化されたマップはバイリニア補間を介して結合され、最終的な異常マップを作成するためにガウスフィルタで平滑化される。画像レベルの異常スコアは、このマップの最大応答から導出される。

主な貢献

本論文は、4つの主要な貢献を概説している：

クロスドメイン・フレームワーク: ドメインに依存しない（共有）特徴学習とドメイン固有（適応型）の特徴学習を分離した統一的な AD フレームワークであり、医学（MRI, CT, OCT）および産業用データセット全体での汎用性を実証している。
畳み込み強化型 MFF: マルチスケール特徴を融合前に精緻化することで、大小両方の異常の局在化を改善する新しいモジュール。
適応型識別器: 多様なイメージングモダリティにわたって精密な異常の局在化を可能にするために、適応型アテンションメカニズムを備えた D ネットワークを統合。
精密な局在化: 広範な実験を通じて検証された、疾患や製品の欠陥を特定するための正確な異常マップの提供。

実験結果

Multi-AD は、3 つの医学データセット（脳 MRI 用 BraTS2021、網膜 OCT 用 RESC、および肝臓 CT 用 BTCV/LiTs）と MVTec AD 産業ベンチマークで評価された。

医学的性能: Multi-AD は平均 画像レベル AUROC 81.4% および ピクセルレベル AUROC 97.0% を達成し、PaDim、PatchCore、SimpleNet、STFPM、RD4AD、MKD を含む最先端モデルを上回った。
産業的性能: MVTec AD において、モデルは平均 画像レベル AUROC 99.6% および ピクセルレベル AUROC 98.4% を達成し、クラスタリングベースおよび再構成ベースの手法を一貫して凌駕した。
アブレーション研究:
- SE ブロックを除去するとピクセルレベルの AUROC が低下し、情報量の多い特徴に焦点を当てる役割が確認された。
- 識別器 (D) を除去すると性能が著しく低下した（例：医学的ピクセルレベル AUROC が 97.0% から 93.2% に低下）。これは、敵対的精緻化の重要性を強調している。
- MFF を除去すると局在化精度が顕著に低下し、マルチスケール融合のための畳み込みによる精緻化の必要性が検証された。

重要性と主張

著者らは、ラベル付きの異常データが不足している実世界のアプリケーションに対して、Multi-AD が堅牢なソリューションを提供すると主張している。KD と敵対的学習を活用することで、モデルは異常ラベルを必要とせずに、正常データの分布を効果的に学習し、微妙な偏差を検出できる。

本論文は、Multi-AD が、（広範で焦点の定まらないマップを生成しがちな）クラスタリングベースの手法や、（複雑なテクスチャに苦戦しがちな）再構成ベースの手法よりも優れた、シャープで集中した異常ヒートマップを生成できることを強調している。MFF と敵対的ネットワークの統合が計算量（複雑性）を増大させ、リソース制約のある環境でのリアルタイム実装に課題をもたらす可能性があることを、著者らは控えめに述べている。