💻 computer science

CDGP: Contrastive Dual Gaussian Processes for Weakly Supervised Anomaly Segmentation

本論文は、ピクセルレベルの注釈を必要とせずに最先端のアノマリーセグメンテーションを実現するために、デュアルガウス過程から導出された事後分布優位統計量と階層的な再構成残差を組み合わせた弱教師あり学習フレームワークである、Contrastive Dual Gaussian Processes (CDGP) を提案する。

原著者： Seungjun Chu, Seokhee Han, Mateusz Nowak, Peter Chin

公開日 2026-08-20

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Seungjun Chu, Seokhee Han, Mateusz Nowak, Peter Chin

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

現代の製造業という活気ある世界において、機械は製品の欠陥を検査するという繊細な任務をますます任されるようになっています。工場では、一時間に数千個の同一の部品を生産することがあり、目標は、欠陥のある希少な一個が顧客に届く前にそれを捕まえることです。これには二つのことが必要です。すなわち、製品が壊れているかどうかを判断すること、そして、まさにどこが壊れているのかを特定することです。何十年もの間、コンピュータにこれを教える最も信頼できる方法として、数千もの完璧な例を見せ、コンピュータに「正常」がどのようなものかを学習させてきました。コンピュータがその正常なパターンから逸脱したものを見たとき、それを欠陥としてフラグを立てるのです。このアプローチは、完璧なアイテムは見つけやすい一方で、壊れたものは稀で多様であるため、うまく機能します。しかし、この方法には盲点があります。それは、本物の亀裂と、単に少し奇妙に見えるだけの無害で珍しいテクスチャとの区別を下す際によく苦戦します。システムは両方を「正常ではない」と見なし、両方にアラームを鳴らしてしまうため、混乱と時間の浪 قدمを招きます。

研究者たちは、たとえ欠陥の正確な場所が分からなくても、壊れたアイテムの例をコンピュータに示すことで、これを改善できるのではないかと長年考えてきました。現実の世界では、工場は製品のどのバッチが品質チェックに失敗したかは把握していても、すべての欠陥のマップを詳細に描くための時間は取っていないことがよくあります。これが「弱教師あり（weakly supervised）」学習の課題です。つまり、詳細なマップなしで、エラーの特定の場所を見つけるようにコンピュータを教えるために、「欠陥あり」という広範なラベルを使用することです。新しい研究は、Contrastive Dual Gaussian Processes（CDGP）と呼ばれる手法を紹介しており、これは、コンピュータが「良品」と「不良品」を比較する方法を変えることで、この問題に取り組みます。単に画像がどれほど奇妙に見えるかを尋ねるのではなく、システムはより直接的な問いを投げかけます。「この画像の一部は、欠陥に見えるか、それとも正常な製品に見えるか？」という問いです。

研究者たちは、画像のあらゆる小さなパッチを、正常または欠陥のいずれかの候補として扱うシステムを構築しました。画像を小さなタイルのグリッドだと想像してください。各タイルに対して、システムは二つの異なるメンタルモデルを同時に走らせます。一つのモデルは、正常なタイルがどのように見えるべきかを予測するように訓練されており、もう一方のモデルは、欠陥のあるタイルがどのように見えるべきかを予測するように訓練されています。これらのモデルは単に推測しているわけではありません。それらは、予測だけでなく、その予測に対してどの程度自信があるかをも表現できる統計的枠組みに基づいています。システムは、すべてのタイルについて、これら二つの予測を比較します。もし「欠陥」モデルの方が「正常」モデルよりも尤もらしい（もっともらしい）と判断され、かつシステムがその差異に対して確信を持っている場合、そのタイルは欠陥としてマークされます。このアプローチが強力なのは、単に「奇妙なもの」を探すのではなく、欠陥の証拠を正常性の証拠に対して天秤にかけることをコンピュータに強制するためです。

詳細な欠陥マップなしでこれを実現するために、チームはトレーニングの開始方法において巧妙な工夫を凝らしました。彼らはまず、欠陥のある画像をスキャンし、正常なものと最も異なって見えるタイルを選び出しました。これらが、欠陥モデルが学習するための初期の「候補」となりました。これらの中には、単に少し違って見えるだけの正常な部分も含まれていたため、ノイズの多い出発点ではありましたが、システムはプロセスを通じて学習するように設計されていました。トレーニングが進むにつれ、システムは画像全体の単純な「欠陥あり」または「正常」というラベルを使用して、理解を深めていきました。システムは、実際の欠陥が含まれる領域において欠陥モデルの予測を高め、一方で背景領域において正常モデルを強力に保つように学習しました。このプロセスにより、システムは、たった一つの手書きの亀裂の輪郭さえ見ることなく、背景ノイズから真の欠陥を分離し、徐々に焦点を研ぎ澄ませることができたのです。

この研究はまた、全体像を見ることだけでは、細い髪の毛のような亀裂を見つけるには不十分であることも認識していました。これを解決するために、彼らは「再構成（reconstruction）」に焦点を当てた第二の検査レイヤーを追加しました。この部分のシステムは、少し損傷したバージョンから完璧なバージョンの画像を再構築しようと試みます。もしシステムが特定の領域の再構築に苦労する場合、それはその領域が異常であることを示唆します。この二つのモデルによる直接的な比較と、この再構成チェックを組み合わせることで、システムは二重の証拠を得ることができます。研究者たちは、この手法をMVTec AD 2、KSDD2、VisAを含むいくつかの標準的な産業用データセットでテストしました。結果は驚くべきものでした。厳格なベンチマークであるMVTec AD 2データセットにおいて、この新手法はテストされた他のすべてのアプローチを凌駕し、システムが欠陥を特定する能力を測定するすべての指標において第1位となりました。また、他の二つのデータセットにおいても、トップレベルの性能を示すか、非常に競争力のある結果を残しました。

この発見を特に重要なものにしているのは、それが不確実性をどのように扱うかという点です。システムは単にスコアを出力するのではなく、モデルがどれほど確信を持っているかを考慮した上で、正常性よりも欠陥である可能性がどれほど高いかという標準化された尺度を算出します。これにより、システムがランダムなノイズに騙されることを防いでいます。研究者たちはまた、この改善が単に複雑なセットアップによるものではなく、具体的には二つのモデルを対比させ、トレーニングデータのみを使用して自信を校正（キャリブレーション）する方法によるものであることを示しました。彼らは、学習フェーズ中に人間が欠陥の周りにボックスを描く必要がなく、工場がすでに持っている単純な「良品」または「不良品」のラベルのみに依存して、システムが機能することを検証しました。

本研究は、正常な可能性と欠陥の可能性を明示的にモデリングし、それらを直接比較することで、機械は以前よりもはるかに正確に欠陥を見つけることができるようになる、と結論付けています。このアプローチは、正常なデータの豊富さと、詳細な欠陥マップの希少性の間の溝を埋めるものです。これは、詳細なアノテーションのための時間やリソースが限られている産業環境において、単に目立つものを探すのではなく、欠陥の証拠を正常性の証拠に対して天秤にかけるようにコンピュータを教えることで、高精度な検査を実現できることを示唆しています。この手法は、現在のパフォーマンス・ベンチマークのトップに位置する堅牢なソリューションとして確立されており、製造における自動品質管理への実用的な道筋を提示しています。

問題提起

産業用外観検査には、製品が欠陥品であるかどうかの検出と、特定の欠陥領域の特定の両方が求められます。ピクセルレベルの異常セグメンテーションは、診断や品質管理といったダウンストリームのタスクにおいて極めて重要ですが、実際の製造現場において高密度なピクセルレベルのマスクを収集することは、コストと時間がかかります。その結果、既存の手法の多くは「正常のみ」の学習パラダイムに依存しており、欠陥のない画像のみを用いて学習を行い、正常性からの逸脱として異常を識別しています。

しかし、正常のみのパラダイムには以下の限界があります：

曖昧性： 真の欠陥も、異常だが正常な領域も、学習された正常分布から大きく逸脱することがあり、同様に高い異常スコアを受け取ってしまう可能性があります。
監督のシフト： ピクセルマスクは回避しているものの、正常のみの学習は依然として欠陥のない精選されたデータセットを必要とし、負担をアノテーションからデータセットのキュレーションへと転換させています。
弱教師あり学習のギャップ： 多くのパイプラインでは、画像レベルのラベル（正常/異常）は利用可能ですが、ピクセルマスクは存在しません。このようなシナリオで欠陥画像を破棄することは、異常の外観に関する有用な情報を放棄することになります。
局在化の課題： 標準的な弱教師ありアプローチ（例：画像分類器のClass Activation Mapsを使用するもの）は、画像レベルの認識には十分な識別的コンテキストを強調しますが、産業用異常は不均一で一貫した視覚的カテゴリを持たないため、実際の欠陥領域とは一致しないことがよくあります。

手法：対照的二重ガウス過程 (CDGP)

CDGPは、高密度なマルチスケール・トークンに対して、正常および異常の予測分布の両方をモデル化する弱教師ありフレームワークです。正常性からの偏差をスコアリングするのではなく、正常関数に対する異常関数の**事後優位性（posterior dominance）**をスコアリングします。

1. 高密度マルチスケール・トークン表現

本手法は、WideResNet-50バックボーンを使用して3つのステージから特徴マップを抽出します。これらは共有の潜在次元に投影され、正規化され、単一の空間解像度に整列され、単位ノルムを持つトークンの高密度グリッド（ $t_{hw}$ ）を形成します。

2. ハード候補誘導点の初期化

CDGPは、固定された誘導点（inducing points）を用いたスパースガウス過程（GP）を採用しています。

正常GP ( $Z_N$ ): 誘導トークンは、正常な画像から、公称的なトークン空間をカバーするように貪欲な最遠点サンプリングを用いて選択されます。
異常GP ( $Z_A$ ): 欠陥のある画像は大部分が正常な背景であるため、直接的なサンプリングは効果的ではありません。代わりに、欠陥画像のトークンを $Z_N$ からのコサイン距離によってスコアリングします。最も非類似度が高い上位20%のトークンが「ノイズを含んだ候補プール」となり、そこから最遠点サンプリングによって $Z_A$ が選択されます。これは擬似マスクではなく、初期化のための事前分布として機能します。

3. 対照的二重GPエビデンス

CDGPは、線形カーネル（ $k(t, t') = t^\top t'$ ）を用いた共有トークン空間上の2つのスパースGP関数として、正常（ $f_N$ ）および異常（ $f_A$ ）のエビデンスをモデル化します。

予測分布： 各トークンについて、モデルは両方のクラスに対する予測平均（ $\mu$ ）と分散（ $\sigma^2$ ）を学習します。
事後優位性統計量： コアとなる指標は、異常と正常の予測分布間の標準化された差です：
$g(t) = \frac{\mu_A(t) - \mu_N(t)}{\sqrt{\sigma^2_A(t) + \sigma^2_N(t)}}$
この統計量は、トークンが異常であるかどうかを、結合された不確実性によって標準化された上で、異常関数が正常関数を上回る可能性が高いかどうかを示す空間的意味論的マップを提供します。

4. 弱教師あり学習

Dual-GPコアは、以下の3つの補完的な損失関数を用いた画像レベルのラベルによるエンドツーエンドの学習を行います：

Max-Margin MIL： 欠陥画像には少なくとも一つの高い正のマージン（ $\mu_A - \mu_N$ ）を持つトークンが存在することを保証し、正常画像には正のマージンが存在しないことを保証します。
共分散正規化された正常コンパクトネス： 公称的な画像に対して、正常GPにおける高い正規化エビデンスを促進します。
共分散正規化された異常吸引： 現在のマージンスコアによって異常として特定された場所（ソフトアテンションメカニメントを使用）において、正規化された異常エビデンスを強化します。

5. 階層的正常残差エビデンス

トークンレベルのGPエビデンスが細い欠陥を十分に解像できないという制限に対処するため、CDGPは正常のみのリバース・スチューデントブランチを組み込んでいます。凍結されたティーチャーネットワークがクリーンな正常画像を処理し、スチューデントは破損した入力からティーチャーの階層を再構成します。コサイン再構成残差は、意味的なGPエビデンスを補完する微細な空間精度を提供します。

6. キャリブレーションと推論

融合： GP優位性マップと再構成残差マップは、保持された正常キャリブレーション・サブセットの統計量を用いて標準化され、加重和によって融合されます。
画像レベルの信頼度： 融合された空間エビデンスは（log-sum-expにより）プーリングされ、画像レベルのラベルで学習されたロジスティック回帰器を用いてキャリブレーションされた画像レベルの異常スコアを生成します。
最終出力： 最終的な異常マップは、キャリブレーションされた空間エビデンスと画像レベルの信頼度スコアを組み合わせ、おそらく正常であると判断された画像がすべてのピクセルスコアを抑制することを保証します。

主な貢献

定式化： 本論文は、高密度トークン上のスパースな正常および異常の予測関数の間の事後優位性の問題として、弱教師あり異常セグメンテーションを定式化しています。
学習戦略： マスクフリーで、欠陥を豊富に含む初期化と、最小限の3つの損失関数（Max-margin MIL、共分散正規化された正常コンパクトネス、および共分散正規化された異常吸引）を用いて、Dual-GPコアを学習する手法を導入しています。
ハイブリッドアーキテクチャ： 意味的なGPのコントラストを、階層的な正常再構成残差および学習時のみのキャリブレーションと補完させることで、テスト時のフィッティングなしに空間的に精密な予測を実現しています。
性能： マッチした弱教師あり分割条件下において、CDGPはMVTec AD 2において、すべてのローカリゼーション指標（AUROC-P, AUPRO@0.3, AUPRO@0.05）で、既存の全手法（正常のみおよび画像レベル監督の両方）の中で第1位を獲得しました。

実験結果

著者らは、MVTec AD 2、KSDD2、およびVisAを用いてCDGPを評価しました。

MVTec AD 2： CDGPは、3つのローカリゼーション指標すべてにおいて、評価されたすべての手法（正常のみおよび画像レベル監督の両方）の中で第1位となり、2番目に優れた手法を大幅に上回りました（例：AUPRO@0.3で+12.7ポイント）。
KSDD2 および VisA： CDGPは、すべての指標において第1位または競争力のあるローカリゼーション性能を達成し、トップ2の手法の中にランクインしました。
アブレーション研究： 分離されたアブレーションにより、空間GPパスと画像レベルのキャリブレーションパスの両方が補完的に寄与していることが確認されました。論文では、単純な平均マージン・スコアリングに対する事後優位性（分散による標準化）による利点は控えめな改良であると述べており、主要な価値は非線形な表現力よりも、一貫した誘導変数（inducing-variable）の平均・分散構成にあることを示唆しています。

意義と主張

本論文は、CDGPがピクセルマスクやテスト時のフィッティングを必要とせずに、画像レベルのラベルを利用して異常セグメンテーションを学習できることを主張しています。その意義は以下の通りです：

「異常だが正常」問題への対処： 正常と異常の両方の分布を明示的にモデル化することで、片側的な正常性スコアリングの曖昧さを回避します。
効率的な弱教師あり学習： 欠陥の正確な位置を知らなくても、欠陥を含む画像を利用して異常の特性を学習します。
堅牢性： 学習時のみのキャリブレーションと、意味的（GP）および構造的（再構成）エビデンスの組み合わせにより、多様な産業用データセットにおいて堅牢な局在化を可能にします。
GPの主張に関する謙虚さ： 著者らは、線形カーネルによって学習マージンが線形になることを明記しており、利点は非線形な表現力ではなく、GP定式化によって提供されるトークン依存の予測分散（不確実性）にあるとしています。つまり、「GPの主張」は、一致した線形ヘッドの制御に限定された、平均と不確実性のコンパクトな構成として位置づけられています。