Causal Responsibility Based Explainable AI for Vibrational Spectroscopy Applied to Cancer Diagnostics

기술 요약: 암 진단에 적용된 진동 분광학을 위한 인과적 책임 기반 설명 가능한 AI

문제 정의
암 진단을 위한 진동 분광학(예: FTIR 및 Raman)에 딥러닝(DL)을 적용하는 사례가 증가하고 있으나, 이러한 모델들은 종종 "블랙박스"로 기능한다. 모델이 높은 분류 정확도를 달-성할 수는 있지만, 어떤 특정 스펙트럼 특징(파수 영역)이 결정의 동인이 되는지는 밝히지 못한다. 이러한 투명성의 결여는 임상적 신뢰와 규제 준수(예: EU AI Act)를 저해한다. SHAP 및 Grad-CAM과 같은 기존의 설명 가능한 AI(XAI) 방법들은 범용적인 용도나 특정 데이터 유형(예: 이미지)에 맞춰 설계되었으며, 국소적이고 특징 수준의 설명을 제공해야 하는 스펙트럼 데이터의 고유한 요구사항, 즉 모델의 동작과 생물학적 인과관계를 구분해야 하는 필요성을 충분히 다루지 못할 수 있다.

방법론
저자들은 인과적 책임 프레임워크(ReX)를 진동 스펙트럼에 적응시킨 XAI 방법인 Spec-ReX를 소개한다. Spec-ReX는 형식적 실제 인과성 이론을 사용하여 특정 스펙트럼 구간이 모델의 분류에 미치는 "인과적 책임"을 정량화한다.

• 메커니즘: Spec-ReX는 마스킹 개입 전략을 사용한다. 이는 스펙트럼을 연속적인 구간으로 나누고 해당 구간을 "중립적" 값으로 대체한다. 최소값, 평균 또는 선형 보간법을 사용하는 표준 섭동(perturbation) 방법과 달리, Spec-ReX는 마스킹된 세그먼트의 끝단을 연결하기 위해 조정 가능한 가우시안 노이즈를 포함한 **이차 보간법(quadratic interpolation)**을 활용한다. 이 접근 방식은 OOD(분포 외) 아티팩트를 최소화하면서 스펙트럼 특징을 제거하는 것을 목표로 한다.
• 책임 계산: Spec-ReX는 예측을 유지하는 데 필요한 가장 작은 "증인 집합(witness set)"의 크기를 기반으로 구간에 대한 책임도($r$)를 계산한다. 특정 구간이 그 자체로 충분하다면 책임도는 1이며, 여러 구간이 필요한 경우 책임도는 분산된다($1/(k+1)$).
• 평가 프레임워크: 본 연구는 세 가지 별도의 실험 단계에 걸쳐 Spec-ReX를 Gradient SHAP 및 Grad-CAM과 비교 평가한다:
  1. In Silico (확정적 ground truth): 알려진 인위적 변별 피크가 추가된 합성 스펙트럼.
  2. In Silico (모호한 ground truth) 및 In Vitro: 모델이 관련 특징의 하위 집합을 학습할 수 있는 생화학적 혼합물(구체적으로 DNA 존재 여부)을 포함하는 스펙트럼으로, 실제 환경의 복잡성과 피크 이동을 시뮬레이션함.
  3. Ex Vivo: 확정적인 귀속 ground truth가 존재하지 않는 실제 조직 데이터셋(구강 FTIR 및 식도 Raman).

주요 기여

1. Spec-ReX 구현: 진동 분광학에 대한 인과적 책임 이론의 적용을 통해 희소하고 구체적인 귀속 맵(attribution maps)을 제공한다.
2. 체계적 벤치마킹: 합성, 생화학 및 임상 데이터셋에 걸친 Spec-ReX, SHAP, Grad-CAM의 포괄적인 비교.
3. 지표 분석: 민감도와 특이도 사이의 트레이드오프를 강조하기 위해 IoU(Intersection over Union), 농축도(Concentration), 양성 적중률(PHR), 삽입/삭제 AUC(iAUC/dAUC), 미세 조정 충실도(FFid)를 포함한 다양한 충실도 지표를 적용하였다.
4. 인과성의 명확화: XAI 방법이 특정 섭동 하에서 훈련된 모델의 동작을 설명하는 것이지, 생물학적 인과관계나 질병 메커니즘을 설명하는 것이 아님을 엄격히 구분한다.

결과

• 확정적 In Silico: Spec-ReX는 IoU 0.10과 귀속 농축도 0.56을 달성하여 가장 높은 ground truth 국소화를 보여주었으며, 이는 다음으로 우수한 방법(GradSHAP-datasetAvg, 농축도 0.26)을 크게 상회하는 결과이다. Spec-ReX는 귀속 질량을 정의적인 피크에 거의 독점적으로 집중시켜 가장 희소한 맵을 생성했다.
• 모호한 In Silico 및 In Vitro: 민감도-특이도 트레이드오프가 나타났다. SHAP은 더 높은 민감도를 보여 가장 높은 양성 적중률(PHR)을 달성하였고, 더 많은 DNA 관련 영역을 식별했다. Spec-ReX는 저중요도 영역 제거에 대해 가장 견고하여(가장 낮은 FFid−), 더 작고 구체적인 특징 집합에 의존함을 보여주었다.
• Ex Vivo (임상 데이터):
  • 식도 Raman: 서로 다른 모델 아키텍처(CNN vs. ResNet)가 서로 다른 결정 전략을 학습하여 서로 다른 귀속 패턴을 보였다. Spec-Reটি는 SHAP의 조밀한 맵이나 Grad-CAM의 넓은 영역과 비교하여 일관되게 더 희소한 맵을 생성했다.
  • 구강 FTIR: PLS-DA 모델에 적용했을 때, Spec-ReX와 SHAP은 삽입/삭제 지표에서 유사하게 수행되었으며, VIP(Variable Influence on Projection) 방법을 능가했다. 모든 방법은 1054–1062 cm⁻¹ 영역(탄수화물/인산염 진동)의 중요성에 대해 일치된 결과를 보였다.
• 일반적 관찰: 모든 지표나 방법이 보편적으로 우월한 것은 아니었다. 민감도에 보상을 주는 지표는 SHAP을 선호했고, 특이도와 견고성에 보상을 주는 지표는 Spec-ReX를 선호했다.

의의 및 주장
본 논문은 Spec-ReX가 스펙트럼 분류기를 위한 희소하고 구체적인 모델-인과적 책임 맵을 제공한다고 주장한다. 주요 의의는 모델이 의존하는 최소한의 특징 집합을 식별할 수 있는 능력에 있으며, 이는 SHAP의 흔히 나타나는 확산된 귀속이나 Grad-CAM의 해상도 제한적인 맵보다 더 집중된 설명을 제공한다.

그러나 저자들은 다음과 같이 신중한 입장을 유지한다:

• 모델 중심, 생물학적 중심 아님: 설명은 특정 마스킹 개입 하에서의 훈련된 모델의 동작에 엄격히 국한된다. 이는 생물학적 인과관계나 강조된 밴드가 인과적 질병 메커니즘임을 증명하는 것이 아니다.
• "지름길(Shortcut)" 설명의 유용성: 모델이 취약하거나 생화학적으로 타당하지 않은 특징(지름길)에 의존하더라도, Spec-ReX는 이러한 동작을 충실히 드러내며 이는 모델의 실패 모드를 식별하는 데 가치가 있다.
• 임상 검증 대기 중: 이러한 희소한 설명의 임상적 유용성은 신뢰도 보정 및 진단 워크플로우를 개선하는지 확인하기 위해 도메인 전문가가 참여하는 사용자 중심 연구를 통해 검증되어야 한다.

본 연구는 Spec-ReX가 스펙트럼 분류기를 설명하는 데 있어 경쟁력 있고 효과적인 방법이지만, XAI 도구의 선택은 사용자가 요구하는 민감도와 특이도 사이의 트레이드오프 및 특정 응용 분야에 따라 달라져야 한다고 결론짓는다.