Testing Neural Networks via Bayesian-Guided Exploration of Decision Landscapes

技術要約：決定ランドスケープのベイズ誘導型探索によるニューラルネットワークのテスト

問題提起
ディープニューラルネットワーク（DNN）が安全性が極めて重要な領域に導入されるにつれ、その信頼性を評価するためのテストが不可見欠です。しかし、既存のテスト手法には重大な限界があります。ブラックボックス型のアプローチは、内部的なガイダンスなしにランダムまたは探索ベースの変異に依存しており、失敗を発見するために過剰なクエリを必要とすることがよくあります。ホワイトボックス型の手法は通常、ニューロンのカバレッジ最大化を優先しますが、高いカバレッジは必ずしも決定決定的な失敗の発見を保証するものではありません。なぜなら、活性化された多くのニューロンは、モデルの最終的な予測には無関係である可能性があるからです。さらに、既存の戦略は、限られた変異予算の下で効率性と多様性のバランスを取ることに苦慮することが多く、決定に無関係な領域にリソースを浪費したり、類似した失敗モードに収束したりすることが頻繁にあります。核心となる課題は、「決定決定的な領域」——すなわち、小さな摂動が決定境界に大きな変化をもたらす領域——を、元のデータ分布および意味論的な近接性を維持しながら、いかに体系的に探索するかという点にあります。

手法：BAYESWARP
著者らは、以下の3つの補完的なコンポーネントを通じてこれらの制限に対処するホワイトボックス・テストフレームワークであるBAYESWARPを提案しています。

1. 決定決定的な領域の局所化（Decision-Critical Region Localization）: 入力空間全体を変異させるのではなく、BAYESWARPはまず、サリエンシーに基づく解釈可能性技術（例：Grad-CAM、Integrated Gradients、SmoothGrad）を用いて、モデルの決定に高い影響を与える領域を特定します。その後、以下の手順でサリエンシーマップを処理します。

   • 閾値処理を行い、最もサリエンシーの高いピクセルを保持する。
   • 8連結成分を抽出し、小さな断片を破棄する。
   • IoU（Intersection-over-Union）および重心距離に基づいてバウンディングボックスを結合し、断片化を軽減する。
   • 定義されたカバレッジ予算（$\rho$）に基づき、貪欲法を用いて結合されたボックスのサブセットを選択する。これにより、ピクセルレベルの属性を、扱いやすい局所的な変異空間へと変換します。

2. 多様性指向のテスト目的（Diversity-Oriented Testing Objective）: 本フレームワークは、元のクラスの確信度を抑制することと、選択されたターゲットクラスの確信度を促進することを適応的にバランスさせる目的関数を定義します。

   • 適応的重み付け（Adaptive Weighting）: 動的な重み $\lambda(x)$ が、ターゲットクラスの確信度が高まるにつれて、目的の焦点を「元の決定の不安定化」から「予測の分岐の誘発」へとシフトさせます。
   • ターゲットクラス・スケジューリング（Target Class Scheduling）: システムは、初期の確信度が最も高い未探索のターゲットクラスを反復的に選択し、単一の失敗方向に集中しすぎるのを防ぐために、クラスごとに固定された変異予算を割り当てます。

3. ベイズ誘導型変異（Bayesian-Guided Mutation）: 固定された予算の下で局所化された変異空間を効率的に探索するために、BAYESWARPは**疎な変分ガウス過程（SVGP）サロゲートを用いたベイズ最適化（BO）**を採用しています。

   • 変異は、決定的な領域をカバーする粗い空間グリッド上でパラメータ化され、次元を削減します。
   • SVGPサロゲートは目的関数をモデル化し、予測平均と不確実性の推定値を提供します。
   • 上限信頼境界（UCB）獲得関数が、有望な方向への搾取（exploitation）と不確実な領域への探索（exploration）のバランスを取りながら、変異ステップの選択を導きます。
   • プロセスには、生成されたテストケースが元のデータ分布の範囲内に留まることを保証する制約が含まれ、また、早期収束を避けるための確率的ノイズ注入も組み込まれています。

主な貢献

• アプローチ: 決定決定的な領域の局所化、適応的な多様性指向の目的、およびスケーラブルなSVGPベースのベイズ最適化を統合したBAYESWARPの導入。
• ツール: オープンソースの自動化されたテストフレームワークの実装。
• 評価: MNIST、CIFAR-10、ImageNetの3つのデータセットと、6つのニューラルネットワークモデル（LeNet、VGG、ResNet）にわたる包括的な評価により、最先端のベースライン（ADAPT、NSGen、SUNTest）に対する優位性を実証。

結果
実験結果は、固定された変異予算（シードあたり10,000回の変異）の下で、BAYESWARPが主要な指標において既存の手法を上回っていることを示しています。

• 失敗の発見（Failure Discovery）: ほとんどのモデルとデータセットにおいて、より高い失敗数（NoF）および失敗誘発シード率（FSR）を達成しています。
• 効率性（Efficiency）: ベースラインと比較して、失敗あたりの時間（TPF）が少なく、変異予算をより効果的に使用していることを示しています。
• 多様性（Diversity）: 単一の支配的な方向ではなく、複数の競合する決定方向を探索することで、より広いスペクトルの失敗モード（高い失敗多様性、DoF）を明らかにしています。
• 品質（Quality）: 生成されたテストケースは、より低いFréchet Inception Distance（FID）と高い意味的一貫性スコア（SCS）を示しており、元のデータに分布的および意味論的に近いままであることを裏付けています。
• 内部カバレッジ（Internal Coverage）: カバレッジを明示的に最適化していないにもかかわらず、BAYESWARPはベースラインよりも高いTop-kニューロンカバレッジ（TKNC）およびクリティカルニューロンカバレッジ（CNC）を達成しており、決定に関連する内部状態を効果的に実行していることが示唆されます。
• モデルの改善（Model Improvement）: BAYESWARPによって生成された失敗事例を用いてモデルをファインチューニングすると、他のテスト手法による事例を用いた場合と比較して、より大きな精度向上が得られます。

意義と主張
本論文は、DNNのテストパラダイムを、グローバルまたはカバレッジ駆動型の変異から、決定決定的な多様性指向の探索へとシフトさせる価値を、BAYESWARPが実証していると主張しています。モデルの決定に実際に影響を与える領域に焦点を当て、不確実性を考慮した最適化を用いてそれらをナビゲートすることで、本フレームワークはデータの忠実性を損なうことなく、多様なモデルの弱点を明らかにします。著者らは、このアプローチが、ランダムまたは純粋にカバレッジ駆動型の方法によって生成された失敗よりも、再学習やモデルの堅牢性向上にとってより有益な、モデル固有の不安定性を明らかにすると述べています。本研究は、脅威モデルの下での最小限の摂動を最適化する敵対的攻撃とは異なり、テストと改善のための、多様で分布に適合した失敗モードの発見を優先している点で区別されます。