Trustworthy AI-based crack-tip segmentation using domain-guided explanations

기술 요약: 도메인 가이드 설명을 활용한 신뢰할 수 있는 AI 기반 균열 선단 분할

문제 정의
딥러닝(DL) 모델, 특히 파괴 역학(fracture mechanics)과 같은 고위험 과학적 응용 분야에서는 모델의 해석 가능성 부족이 신뢰와 신뢰성을 저해하는 "블랙박스" 문제에 직면해 있습니다. Class Activation Mapping(CAM)과 같은 사후 설명 가능한 AI(XAI) 방법들이 모델의 결정에 대한 통찰을 제공하긴 하지만, 이들은 종종 모델의 실제 동작을 오도하거나, 충실하지 못하거나, 서로 다른 방법 간에 일관성이 없는 설명을 생성합니다. 또한, 설명을 학습에 통합하려는 기존 방식(예: 자기 설명 학습, Learning by Self-Explaining)은 2차 비평 모델이나 인간의 피드백에 의존하는 경우가 많아 번거롭고 시간이 많이 소요될 뿐만 아니라, 확립된 도메인 지식을 명시적으로 포함하지 못한다는 한계가 있습니다. 디지털 이미지 상관법(DIC) 데이터의 균열 선단 분할이라는 구체적인 맥락에서, 모델은 근본적인 응력장(stress fields) 대신 물리적으로 무관한 아티팩트(예: 균열 경로 근처의 노이즈)에 집중하도록 학습될 수 있으며, 이는 분포 외(out-of-distribution) 데이터에 대한 일반화 성능 저하로 이어집니다.

방법론
저자들은 충실한 XAI 기술, 정량적 평가 지표, 그리고 도메인 특화 사전 지식(priors)을 모델 학습 루프에 직접 통합하는 어텐션 가이드 학습(Attention-Guided Training, AGT) 프레임워크를 제안합니다. 이 방법론은 다음과 같이 세 가지 주요 단계로 진행됩니다.

1. XAI 방법 선택 및 정량적 평가:
   저자들은 먼저 CAM 기반 방법들을 시맨틱 분할 작업에 맞게 조정합니다. 이들은 다양한 그래디언트 기반(예: Grad-CAM, Grad-CAM++) 및 그래디언트 프리(예: Score-CAM, Eigen-CAM) 기술을 Nauta 등이 제안한 네 가지 객관적 기준을 사용하여 체계적으로 평가합니다:

• 정확성(Correctness/Faithfulness): 설명이 모델의 실제 동작을 얼마나 잘 반영하는가.
• 완전성(Completeness): 설명이 관련 특징을 어느 정도까지 포괄하는가.
• 연속성(Continuity): 작은 입력 섭동(perturbation) 하에서 설명이 얼마나 안정적인가.
• 조밀성(Compactness): 설명 영역의 크기.
  이러-한 평가를 통해, 인코더 레이어에 적용된 **Grad-CAM++**가 균열 선단 분할 작업에 가장 적합한 방법으로 식별되었습니다.

2. 도메인 지식 통합:
   AGT는 인간의 주석이나 검증되지 않은 비평 모델에 의존하는 대신, 모델 어텐션의 타겟으로서 분석적인 도메인 지식을 활용합니다. 구체적으로, 저자들은 선형 탄성 파괴 역학에서 균열 선단 근처의 응력 및 변위장에 대한 이론적 해법인 **윌리엄스 급수 전개(Williams' series expansion)**를 사용합니다. DIC 변위 데이터로부터 저자들은 폰 미제스 등가 응력장(von Mises equivalent stress field)을 계산합니다. 이 이론적 응력장이 "타겟 설명"($\hat{\Phi}$) 역할을 합니다.

3. AGT 학습 프로세스:
   학습은 두 단계 접근 방식을 사용합니다:

• 1단계 (사전 학습): 모델이 분할 작업을 학습하고 의미 있는 초기 설명을 생성할 수 있도록 예측 손실(Dice loss)만을 사용하는 표준 딥러닝 방식을 사용합니다.
• 2단계 (어텐션 가이드): 모델의 어텐션을 도메인 가이드 타겟과 정렬하기 위해 결합 손실 함수가 도입됩니다. 전체 손실($L_{total}$)은 다음과 같이 정의됩니다:
  $$L_{total} = \text{Dice}(y, \hat{y}) + \lambda \cdot SC(\Phi, \hat{\Phi})$$
  여기서 $y$와 $\hat{y}$는 예측값과 실제 정답이며, $\Phi$는 현재의 Grad-CAM++ 설명이고, $\hat{\Phi}$는 타겟 응력장 설명이며, $SC$는 코사인 유사도입니다. 하이퍼파라미터$\lambda$는 두 항의 균형을 맞춥니다.

주요 기여

• 프레임워크 개발: XAI를 단순한 사후 해석 도구에서 물리 법칙에 의해 가이드되는 능동적인 학습 구성 요소로 전환하는 AGT 프레임워크를 도입했습니다.
• 정량적 XAI 평가: 분할 모델을 위한 사후 설명의 품질이 크게 다를 수 있음을 입증하였으며, 가장 충실한 방법을 선택하기 위해 엄격하고 객관적인 지표가 필요함을 보여주었습니다(Grad-CAM++가 이 작업에 최적임을 확인).
• 도메인 가이드 어텐션: 모델 어텐션과 물리적으로 유의미한 응력장(Williams의 해) 사이의 편차를 처벌하는 손실 항을 명시적으로 공식화하여, 모델이 기계적 관련성이 높은 영역에 집중하도록 보장했습니다.
• 비교 분석: 물리적 타겟(Binary Williams, Gradual Williams)과 비물리적/오도하는 타겟(무작위로 배치된 어텐션 맵), 그리고 표준 가이드 없는 베이스라인을 체계적으로 비교했습니다.

결과
본 연구는 피로 균열 성장 실험의 DIC 데이터 내 균열 선단 분할을 통해 검증되었습니다.

• 예측 성능: 물리적 어텐션 타겟(BW 및 GW)으로 학습된 모델은 비물리적 타겟 및 가이드 없는 참조 모델(평균 $\ge 0.70$)보다 유의미하게 낮은 검증 Dice 손실(평균 $\approx 0.67$)을 달이트했습니다.
• 일반화 및 신뢰성: 분포 외 데이터셋($S950,1.6$)에 대해, Binary Williams (BW) 전략은 다른 모든 전략(최대 86%)보다 우수한 신뢰성(94% 유효한 예측)을 보여주었습니다. 이는 어텐션을 물리적 응력장과 정렬하는 것이 분포 변화에 대한 강건성을 높인다는 것을 나타냅전다.
• 설명 충실성: 정량적 지표는 물리적 AGT 전략이 설명의 정확성(충실성)을 개선(낮은 AUC 값)한 반면, 비물리적 전략은 설명의 품질을 저하시킨다는 것을 보여주었습니다. 가이드 없는 베이스라인은 장기간의 학습에도 정확도 변화가 없었으며, 이는 개선 사항이 단순히 추가적인 에포크(epoch) 때문이 아니라 어텐션 가이드 덕분임을 확인시켜 줍니다.
• 하이퍼파라미터 민감도: 경험적 테스트를 통해 $\lambda$의 최적 범위가 0.5에서 3 사이임을 확인했습니다. 너무 높은 값은 과도한 교정을 일으켜 핵심 특징을 상실하게 만들었고, 너무 낮은 값은 효과가 불충분했습니다.

의의 및 주장
본 논문은 AGT가 과학적 머신러닝에서 모델 정확도와 해석 가능성 사이의 트레이드오프를 성공적으로 해결한다고 주장합니다. 학습 과정을 확립된 물리 이론(Williams의 급수)에 고정함으로써, 이 프레임워크는 딥러닝 모델이 정확하게 예측할 뿐만 아니라 도메인 전문가와 일치하는 방식으로 "사고"하도록 보장합니다. 이는 모델을 더 강건하고, 신뢰할 수 있으며, 일반화 가능하게 만듭니다. 특히 데이터에 노이즈가 많거나 희소한 시나리오에서 그러합니다.

저자들은 이 접근 방식이 XAI를 단순한 시각화를 넘어, 전문가 지식을 학습 과정에 주입하는 메커니즘으로 확장시킨다고 강조합니다. 이들은 어텐션 가이드를 위해 수학적으로 공식화할 수 있는 적절한 도메인 사전 지식을 찾는 것이 상당한 도전 과제임을 인정하지만, 적용 가능한 경우 AGT는 파괴 역학 및 기타 과학 분야에서 신뢰할 수 있는 AI를 향한 원칙적인 경로를 제공합니다. 본 연구는 모든 XAI 문제를 해결한다고 주장하는 것이 아니라, 성능과 설명 가능성을 모두 높이기 위해 딥러닝 학습에 물리적 제약을 통합하는 구체적이고 검증된 경로를 제시합니다.