Alike Parts: A Feature-Informed Approach to Local and Global Prototype Explanations

기술 요약: ALIKE PARTS: 로컬 및 글로벌 프로토타입 설명을 위한 특징 기반 접근법

문제 제기
프로토타입 기반 설명은 예측을 대표적인 훈련 인스턴스와 연결함으로써 블랙박스 머신러닝 분류기를 해석하는 직관적이고 예시 기반의 방법을 제공합니다. 그러나 중요한 한계가 존재합니다. 프로토타입은 전체적인 관점을 제공하지만, 종종 특징 수준의 세밀함이 부족합니다. 사용자는 프로토타입 내의 어떤 특정 특징이 예측과 가장 관련이 있는지 식별하는 데 어려움을 겪으며, 이는 고차원 표형 데이터를 다룰 때 인지적 과부하를 초래합니다. 또한, 글로벌 프로토타입 선택은 종종 공간적 분포나 거리 최소화를 우선시하여 선택된 프로토타입의 특징 귀속 다양성을 보장하지 못하므로, 중요한 다양한 결정 경계를 놓칠 수 있습니다.

방법론
저자들은 이러한 격차를 해결하기 위해 두 가지 다른 수준에서 특징 중요도 점수를 통합하는 프레임워크를 제안합니다: 로컬 설명 정제 및 글로벌 프로토타입 선택 보강.

1. 로컬 설명: "유사한 부분 (Alike Parts)"
   이 논문은 분류된 인스턴스 ($x_i$) 와 그 가장 가까운 프로토타입 ($p_j$) 사이에 공유되는 가장 관련성 높은 특징 부분집합으로 정의된 "유사한 부분"을 식별하는 방법을 소개합니다.

   • 과정: 모델 무관 또는 모델 특정 추정기 (예: Tree SHAP, Tree Interpreter) 를 사용하여 인스턴스와 프로토타입 모두에 대해 특징 중요도 점수 ($\phi$) 를 계산합니다.
   • 정렬: 이 방법은 인스턴스와 프로토타입 간의 중요도 유사성을 나타내는 가중치 벡터 ($w$) 를 계산합니다. 이는 Hadamard 곱 (원소별 곱셈), 원소별 $l_1$, 또는 $l_2$ 거리와 같은 유사성 연산자 ($\circ$) 를 통해 달성됩니다.
   • 마스크 생성: 중요도 정렬이 임계값을 초과하는 특징을 강조하기 위해 이진 마스크가 생성됩니다. 전략으로는 평균 임계값 설정 또는 적응형 Top-$k$ 선택 (예: $k = \lceil\sqrt{d}\rceil$ 또는 $k = \lceil\log(d)\rceil$) 이 포함됩니다.
   • 출력: 이는 전체 특징 벡터를 제시하는 대신, 인스턴스와 프로토타입이 공유하는 제한된 고관련성 특징 부분집합으로 사용자의 주의를 집중시킵니다.

2. 글로벌 설명: 보강된 목적 함수
   저자들은 특징 귀속의 다양성을 적극적으로 촉진하기 위해 표준 프로토타입 선택 목적 함수를 수정합니다.

   • 표준 목적: 전통적인 $k$-medoids 접근법은 훈련 인스턴스와 그 가장 가까운 프로토타입 사이의 거리 $d(x_i, p_j)$ 를 최소화합니다.
   • 보강된 목적: 저자들은 로컬 방법에서 사용된 정렬 점수에서 파생된 특징 중요도 항 ($f_i$) 을 도입합니다. 새로운 목적 함수는 다음과 같습니다:
     $$f(P) = \sum_{i=1}^{|S|} \min_{p_j \in P} (d(x_i, p_j) + \beta \cdot f_i(x_i, p_j))$$
     여기서 $\beta$ 는 거리 측정치와 특징 중요도 정렬 사이의 절충 파라미터로 작용합니다. 이는 데이터 공간을 커버할 뿐만 아니라 중요한 특징의 다양한 부분집합을 대표하는 프로토타입의 선택을 장려합니다.

주요 기여

• 유사한 부분 식별: 인스턴스와 그 가장 가까운 프로토타입 사이의 공유된 고중요도 특징을 강조하는 이진 마스크를 생성하는 새로운 방법으로, 로컬 해석 가능성을 향상시킵니다.
• 특징 다양성 프로토타입 선택: 특징 중요도를 최적화 루프에 통합하여 특징 귀속의 글로벌 다양성을 보장하는 프로토타입 생성 알고리즘 (특히 G-KM, SM-A, A-PETE) 의 확장.
• 종합적 평가: 새로운 평가 함수와 함께 여러 프로토타입 생성 알고리즘을 평가하고, 더 넓은 범위의 특징 중요도 알고리즘 (Tree SHAP, Tree Interpreter) 을 탐구하며, 하이퍼파라미터 (예: $\beta$, 유사성 연산자, 마스크 전략) 에 대한 광범위한 민감도 분석을 수행했습니다.
• 모델 무관성: 이 프레임워크는 다양한 기본 구성 요소와 호환되도록 설계되었으나, 실험은 랜덤 포레스트 앙상블과 트리 기반 거리 측정치에 초점을 맞추고 있습니다.

실험 결과
랜덤 포레스트를 블랙박스 모델로 사용하여 여섯 개의 벤치마크 데이터셋 (Apple Quality, Australia Rain, Breast Cancer, Diabetes, Passenger Satisfaction, Wine Quality) 에서 실험이 수행되었습니다.

• 정확도 (Fidelity): 보강된 선택 과정은 원래 (원시) 프로토타입 선택에 비해 대리 1-최근접 이웃 (1-NN) 모델의 예측 정확도를 유지하거나 여러 경우 증가시켰습니다. 통계 분석 (Wilcoxon 부호 순위 검정) 은 향상된 정확도 ($p \approx 0.068$) 로의 긍정적인 경향과 Naive Bayes, 로지스틱 회귀, 의사결정나무와 같은 표준 해석 가능한 기준선 대비 유의한 개선 ($p < 0.05$) 을 나타냈습니다.
• 특징 다양성: FI 기반 접근법은 더 큰 특징 다양성을 가진 프로토타입을 성공적으로 식별했습니다. 예를 들어, Diabetes 데이터셋에서 FI 기반 방법은 원시 거리 전용 방법이 놓친 임상적으로 관련 있는 특징 (Age, Diabetes Pedigree Function) 을 강조했습니다.
• 하이퍼파라미터 민감도: Hadamard 곱은 데이터셋 전반에 걸쳐 가장 효과적인 유사성 측정치로 밝혀졌습니다. 연구는 일부 경향이 전역적이었음에도 불구하고 특정 데이터셋에 대해 방향 무시 또는 정규화와 같은 하이퍼파라미터의 맞춤형 튜닝이 여전히 필요하다고 지적했습니다.
• 활성화 빈도: 특징 활성화 빈도 분석은 FI 기반 목적 함수가 특징 사용의 분산을 줄여 더 다양한 프로토타입 집합의 선택을 강제함을 확인했습니다.

의의 및 주장
이 논문은 특징 중요도를 프로토타입 선택에 통합하는 것이 모델 정확도를 훼손하지 않는다고 주장합니다. 오히려 다양한 특징 귀속을 추구하는 것은 거리 기반 커버리지와 보완적일 수 있습니다. 주요 의의는 고수준 프로토타입 예시와 저수준 특징 추론 사이의 격차를 해소하는 데 있습니다. "유사한 부분"을 식별함으로써 이 방법은 인스턴스와 프로토타입 사이에 공유되는 특정 근거로 사용자의 주의를 안내하여 고차원 표형 데이터의 해석 가능성 문제를 해결합니다. 저자들은 이 접근법이 해석 가능성과 다양성을 균형 있게 유지하며, 블랙박스 모델의 내부 논리를 수정하지 않고도 로컬 설명과 글로벌 프로토타입 선택 과정을 모두 향상시킨다고 강조합니다.

저자들은 겸손하게도 이 방법이 정확도 및 특징 다양성과 같은 대리 측정치를 통해 설명의 품질을 개선하지만, "유사한 부분"이 실제 사용자 이해를 향상시킨다는 중심 가설은 공식적인 인간 - 컴퓨터 상호작용 연구를 통해 향후 검증이 필요하다고 지적합니다. 또한, 현재 구현은 트리 앙상블에 초점을 맞추고 있지만, 모듈식 설계는 거리 및 중요도 추정 구성 요소를 대체함으로써 신경망과 같은 다른 아키텍처에 대한 적응을 가능하게 합니다.