WISCA: A Consensus-Based Approach to Harmonizing Interpretability in Tabular Datasets

"WISCA: A Consensus-Based Approach to Harmonizing Interpretability in Tabular Datasets" 논문에 대한 상세한 기술적 요약은 다음과 같습니다.

1. 문제 제기

머신러닝 (ML) 모델은 높은 예측 정확도를 달성하지만, 투명성과 해석 가능성이 법적으로 그리고 윤리적으로 요구되는 의료 및 금융과 같은 고위험 분야에서 '블랙박스' 성격은 상당한 도전을 제기합니다.

• 핵심 갈등: 기존 설명 가능한 AI(XAI) 알고리즘 (예: SHAP, LIME, 순열 중요도) 은 종종 동일한 모델 예측에 대해 상충되는 설명을 생성합니다. 서로 다른 알고리즘은 서로 다른 특징을 강조하거나 중요도의 크기를 다르게 할당할 수 있습니다.
• 현재 합의 방법의 한계: 이러한 갈등을 해결하기 위해 연구자들은 단순한 합의 함수 (예: 산술 평균, 투표, 기하 평균) 를 사용하여 설명을 집계하려 시도했습니다. 그러나 이러한 전통적인 방법들은 다음과 같은 치명적인 결함을 안고 있습니다:
  • 모델 정확도를 무시하는 경우가 많습니다 (신뢰할 수 있는 예측과 무작위 추측을 동일하게 취급).
  • 서로 다른 알고리즘 간의 귀속 척도를 정규화하지 못합니다 (예: SHAP 값 대 순열 중요도).
  • 전역(데이터셋 전체) 및 국소(샘플별) 설명을 구분하지 못해 집계 시 편향을 초래합니다.
  • 음수 값이나 영 (zero) 귀속에 취약하여 결과가 왜곡될 수 있습니다 (예: 하나의 값이 0 이면 기하 평균이 0 으로 수렴).

2. 방법론

저자들은 해석 가능성에서의 합의를 평가하고 개선하기 위한 새로운 프레임워크를 제안합니다.

A. 실험 설정

• 데이터셋: 알려진 정답 (ground truths) (목표 변수를 생성하는 데 사용된 특정 특징) 을 가진 6 개의 합성 데이터셋이 생성되었습니다. 이를 통해 설명이 관련 특징을 올바르게 식별하는지 객관적으로 평가할 수 있습니다.
  • 2 개의 이진 분류, 2 개의 다중 클래스 분류, 2 개의 회귀.
  • 특징에는 관련 변수와 상당한 노이즈 (무관한 변수) 가 포함되었습니다.
• ML 모델: 6 개의 다양한 모델이 훈련되었습니다: 로지스틱 회귀 (LR), K-최근접 이웃 (KNN), 랜덤 포레스트 (RF), 서포트 벡터 머신 (SVM), 극단적 그래디언트 부스팅 (XGB), 인공 신경망 (ANN).
• 해석 가능성 알고리즘: 전역 및 국소, 모델-중립적인 방법의 혼합이 사용되었습니다:
  • 전역: 불순도 감소 평균 (MDI), 순열 중요도.
  • 국소: LIME, SHAP, 통합 기울기 (Integrated Gradients), 반사실 설명 (Counterfactual Explanations).

B. 제안된 솔루션: WISCA

저자들은 기존 방법의 한계를 해결하여 설명을 조화시키기 위해 설계된 새로운 합의 함수인 **WISCA(가중 스케일링 합의 귀속, Weighted Scaled Consensus Attributions)**를 소개합니다.

WISCA 의 주요 구성 요소:

1. Min-Max 스케일링: 서로 다른 알고리즘의 모든 귀속을 $[0, 1]$ 범위로 정규화하여 공정한 비교를 보장합니다.
2. 전역 vs 국소 구분:
   • 전역 방법은 특징당 하나의 값을 제공합니다.
   • 국소 방법은 샘플당 값을 제공합니다. WISCA 는 국소 귀속을 총 샘플 수 ($N$) 로 나누어 집계함으로써 전역 방법과 비례적으로 기여하도록 합니다.
3. 정확도 가중치 (보정 계수):
   • 분류: 클래스 확률($\pi$) 에 기반하여 귀속에 가중치를 부여합니다. 높은 신뢰도 (0 또는 1 에 가까운 확률) 의 예측은 강하게 가중되고, 불확실한 예측 (0.5 에 가까운 확률) 은 가중치가 낮아집니다. 저자들은 이 보정을 위해 포물선 함수($1 - 4p(1-p)$) 를 선택했습니다.
   • 회귀: 예측 오차($|y - \hat{y}|$) 에 기반하여 귀속에 가중치를 부여합니다. 낮은 오차 (높은 신뢰도) 의 예측은 귀속 가중치를 유지하고, 높은 오차의 예측은 지수 감쇠 인자 ($e^{-\alpha|y-\hat{y}|}$) 를 사용하여 패널티를 받습니다.

수식:
$$\phi(f) = \sum_{s \in S} \frac{\phi'(f)}{N} \times \text{CorrectionFactor}$$
여기서 $\phi'(f)$는 스케일링된 귀속이며, 보정 계수는 문제 유형 (분류 확률 또는 회귀 오차) 에 따라 달라집니다.

C. 평가 지표

• 히트율 (Hit Rate) 지표: 특징 순위의 정밀도를 계산하는 맞춤형 지표입니다. 합의 목록 상단에 '정답' 특징이 나타날 경우 더 높은 점수를 부여합니다.
• 분리 거리 (Separation Distance): 기대되는 특징의 최소 귀속과 노이즈 특징의 최대 귀속 사이의 간격을 측정합니다.
• 통계적 상관관계: WISCA 를 개별 알고리즘과 비교하기 위해 스피어만 상관관계와 젠슨 - 샨논 발산 (Jensen-Shannon divergence) 이 사용되었습니다.

3. 주요 기여

1. 새로운 합의 함수 (WISCA): 모델 정확도 (확률 또는 오차를 통해) 를 통합하고 귀속을 스케일링하여 단순 평균화나 투표의 편향을 극복하는 강력한 방법.
2. 종합적인 벤치마킹: 다양한 합성 시나리오에서 WISCA 에 대해 5 개의 기존 합의 함수 (산술 평균, 조화 평균, 기하 평균, 투표, 상대적 위치) 를 체계적으로 평가.
3. 기존 방법의 결함 식별: 본 연구는 다음을 입증합니다:
   • 조화 평균은 중요도를 역으로 가중치하므로 부적합함.
   • 기하 평균은 귀속이 0 이거나 음수일 때 실패함.
   • 투표는 모델 정확도에 매우 민감하며 기여도의 크기를 무시함.
4. 실제 데이터 검증: 특징 선택의 논리적 일관성을 입증하기 위해 실제 세계 데이터셋 (자궁경부암 위험, 와인 산지, 자전거 대여) 에 WISCA 적용.

4. 결과

• 합성 데이터셋: WISCA 는 다른 합의 방법보다 일관되게 우수한 성과를 보였습니다.
  • 회귀 데이터셋에서 WISCA 는 모든 모델에 걸쳐 기대되는 모든 특징을 올바르게 식별한 유일한 함수였습니다.
  • 분류 데이터셋에서 WISCA 와 투표는 잘 수행되었으나, WISCA 는 더 낮은 표준 편차 (더 컴팩트하고 일관된 귀속) 를 보였으며 복잡한 다중 클래스 시나리오에서 더 나은 성능을 발휘했습니다.
  • 기하 평균 및 조화 평균과 같은 전통적인 방법은 성능이 저조했습니다.
• 정답과의 상관관계: WISCA 는 각 특정 모델에 대한 '최고'의 개별 해석 가능성 알고리즘과 높은 스피어만 상관관계를 보여, 가장 신뢰할 수 있는 신호를 효과적으로 종합함을 나타냈습니다.
• 선형 모델과의 비교: WISCA 의 특징 순위는 본질적으로 해석 가능한 로지스틱 회귀 모델과 비교 가능하며, 경우에 따라 더 우수하여 진정한 인과 특징을 추출하는 능력을 검증했습니다.
• 실제 세계 적용:
  • 자궁경부암: 'Schiller' 검사를 주요 표지자로 올바르게 식별.
  • 와인: '프로린 (Proline)'을 와인 산지 표지자로 올바르게 식별.
  • 자전거 대여: '등록된 사용자 (Registered Users)'를 대여의 주요 동인으로 올바르게 식별.

5. 중요성 및 결론

이 논문은 신뢰할 수 있는 XAI 를 위해 합의가 필수적이지만 단순한 평균화만으로는 부족함을 확립합니다. 모델 신뢰도와 정규화를 통합함으로써 WISCA 는 블랙박스 모델에 대한 더 신뢰할 수 있는 설명을 제공합니다.

• 영향: 이 접근법은 일관성 있을 뿐만 아니라 기반 예측의 신뢰도에 따라 가중치가 부여된 설명을 제공함으로써 의료, 금융과 같은 중요한 분야의 이해관계자들의 불확실성을 줄입니다.
• 향후 작업: 저자들은 WISCA 를 다중 클래스별 확률을 처리하도록 확장하고, 기존 해석을 기반으로 특징 귀속을 예측하기 위해 ML 모델을 사용하는 것을 탐구할 것을 제안합니다.

요약하자면, WISCA 는 해석 가능성의 조화를 향한 중요한 진전을 나타내며, 주관적이거나 상충되는 설명에서 ML 모델의 실제 의사결정 논리와 밀접하게 일치하는 강력하고 정확도 가중치를 둔 합의로의 전환을 의미합니다.