Trustworthy AI-based crack-tip segmentation using domain-guided explanations

技術要約：ドメイン誘導型説明を用いた信頼性の高いAIベースの亀裂先端セグメンテーション

問題提起
深層学習（DL）モデル、特に破壊力学のような高リスクな科学的応用においては、解釈性の欠如が信頼性と信頼性を損なう「ブラックボックス」問題に直面している。Class Activation Mapping（CAM）などの事後的な説明可能AI（XAI）手法は、モデルの決定に関する洞察を提供するものの、しば_tally（しばしば）誤解を招いたり、基礎となるモデルに対して忠実でなかったり、あるいは手法間で一貫性を欠いたりすることがある。さらに、説明を学習に組み込む既存のアプローチ（自己説明学習など）は、二次的なクリティック・モデルや人間によるフィードバックに依存することが多く、これらは手間と時間がかかり、確立されたドメイン知識を明示的に組み込むことができない。デジタル画像相関法（DIC）データにおける亀裂先端セグメンテーションという特定の文脈において、モデルは基礎となる応力場ではなく、物理的に無関係なアーティファクト（例：亀裂経路付近のノイズ）に焦点を当てるように学習してしまう可能性があり、これが分布外データに対する汎化性能の低下を招く。

手法
著者らは、忠実なXAI技術、定量的評価指標、およびドメイン固有の事前知識をモデルの学習ループに直接統合するフレームワークである**Attention-Guided Training (AGT)**を提案している。この手法は、主に以下の3つの段階で進行する。

1. XAI手法の選択と定量的評価：
   著者らは、まずCAMベースの手法をセマンティック・セグメンテーション・タスクに適応させた。彼らは、勾配ベース（例：Grad-CAM、Grad-CAM++）および勾配フリー（例：Score-CAM、Eigen-CAM）の様々な手法を、Nautaら[29]によって提案された4つの客観的基準を用いて体系的に評価した：

• 正当性（忠実性/Faithfulness）： 説明がモデルの真の挙動をどの程度反映しているか。
• 完全性（Completeness）： 説明が関連する特徴をどの程度カバーしているか。
• 連続性（Continuity）： 入力の微小な摂動に対して説明がどの程度安定しているか。
• コンパクト性（Compactness）： 説明領域のサイズ。
  この評価を通じて、エンコーダ層に適用された**Grad-CAM++**が、亀裂先端セグメンテーション・タスクに最も適した手法として特定された。

2. ドメイン知識の統合：
   AGTは、人間によるアノテーションや検証されていないクリティック・モデルに頼るのではなく、解析的なドメイン知識をモデルの注意（アテンション）のターゲットとして利用する。具体的には、線形弾性破壊力学における亀裂先端近傍の応力場および変位場の理論解であるウィリアムズ展開（Williams' series expansion）[35]を使用する。DIC変位データから、著者らはフォン・ミーゼス等価応力場を算出する。この理論的な応力場が「ターゲット説明（$\hat{\Phi}$）」として機能する。

3. AGT学習プロセス：
   学習は2フェーズのアプローチを用いる：

• フェーズ1（事前学習）： モデルがセグメンテーション・タスクを学習し、意味のある初期の説明を生成することを確実にするため、予測損失（Dice loss）のみを用いた標準的なDLアプローチを行う。
• フェーズ2（アテンション誘導）： モデルの注意をドメイン誘導型のターゲットに整合させるために、結合損失関数が導入される。全損失（$L_{total}$）は次のように定義される：
  $$L_{total} = \text{Dice}(y, \hat{y}) + \lambda \cdot SC(\Phi, \hat{\Phi})$$
  ここで、$y$と$\hat{y}$は予測値と正解値、$\Phi$は現在のGrad-CAM++による説明、$\hat{\Phi}$はターゲットとなる応力場による説明、そして$SC$はコサイン類似度である。ハイパーパラメータ$\lambda$は、これら2つの項のバランスを調整する。

主な貢献

• フレームワークの開発： XAIを単なる事後的な解釈ツールから、物理法則に導かれた学習プロセスにおける能動的な構成要素へと進化させるフレームワークであるAGTの導入。
• 定量的なXAI評価： セグメンテーション・モデルにおける事後的な説明の品質は著しく異なり、最も忠実な手法を選択するためには厳格かつ客観的な指標が必要であることを実証した（Grad-CAM++が最適であることを特定）。
• ドメイン誘導型アテンション： モデルの注意と物理的に意味のある応力場（ウィリアムズ展開）との乖離を罰する損失項を明示的に定式化し、モデルが機械的な関連性の高い領域に焦点を当てるようにした。
• 比較分析： 物理的ターゲット（Binary Williams、Gradual Williams）と非物理的/誤解を招くターゲット（ランダムに配置されたアテンションマップ）、および標準的なアンガイデッド（誘導なし）のベースラインを用いた体系的な比較。

結果
本研究は、疲労亀裂進展実験からのDICデータにおける亀裂先端セグメンテーションを用いて検証された。

• 予測性能： 物理的アテンション・ターゲットを用いて訓練されたモデル（BWおよびGW）は、非物理的ターゲットおよびアンガイデッドの参照モデル（平均 $\ge 0.70$）と比較して、有意に低い検証Dice損失（平均 $\approx 0.67$）を達成した。
• 汎化性能と信頼性： 分布外データセット（具体的には $S950,1.6$）において、Binary Williams (BW) 戦略は、他のすべての戦略（最大 86%）と比較して優れた信頼性（94% の有効な予測）を示した。これは、アテンションを物理的な応力場に整合させることが、分布シフトに対する堅牢性を高めることを示している。
• 説明の忠実性： 定量的指標により、物理的AGT戦略は説明の正当性（忠実性）（低いAUC値）を向上させた一方で、非物理的戦略は説明の品質を低下させることが示された。アンガイデッドのベースラインは、長期の学習においても正当性に変化が見られず、この改善が単なるエポック数の増加によるものではなく、アテンションの誘導によるものであることが確認された。
• ハイパーパラメータの感度： 実証的なテストにより、$\lambda$ の最適な範囲は 0.5 から 3 であることが特定された。値が高すぎると過剰な補正が発生して顕著な特徴が失われ、低すぎると十分な効果が得られない。

意義と主張
本論文は、AGTが科学的機械学習におけるモデルの精度と解釈性の間のトレードオフを解決できると主張している。学習プロセスを確立された物理理論（ウィリアムズ展開）に固定することで、このフレームワークは、ディープラーニング・モデルが正確に予測するだけでなく、ドメイン専門家と一致する方法で「思考」することを保証する。これにより、特にデータがノイズが多い場合や不足している場合に、より堅牢で信頼性が高く、汎用性の高いモデルが構築される。

著者らは、このアプローチがXAIを単なる可視化を超えたものにすることを目指している。すなわち、エキスパートの知識を学習プロセスに注入するためのメカニズムへと昇華させるものである。アテンション誘導のために数学的に定式化可能な適切なドメイン・プライア（事前知識）を見つけることは大きな課題であるが、適用可能な場合には、AGTは破壊力学やその他の科学分野における信頼性の高いAIへの principled（原理に基づいた）な道筋を提供する。本研究は、あらゆるXAIの問題を解決すると主張するものではなく、物理的制約をディープラーニングの学習に統合して性能と説明性の両方を高めるための、具体的かつ検証された経路を提供している。