기술 요약: Sails – 국소 효과 평활화(Local Effect Smooths)를 통한 상호작용의 대리 모델 기반 분석

문제 정의

특성 간 상호작용은 복잡한 머신러닝(ML) 모델의 예측력을 결정하는 주요 동인이지만, 기존의 설명 가능한 AI(XAI) 방법론들은 이를 완전히 규명하는 데 어려움을 겪고 있다. 현재의 접근 방식들은 대개 다음 중 하나에 집중되어 있다:

1. 탐지 및 정량화: H-통계량이나 샤플리 상호작용 지수(Shapley interaction indices)와 같은 방법들은 상호작용이 존재한다는 사실과 그 강도를 식별하지만, 그 기능적 형태(functional form)는 밝혀내지 못한다.
2. 제한된 시각화: 2D-ALE(Accumulated Local Effects)나 REPID(Regional Effects)와 같은 방법들은 상호작용을 시각화하지만, 해석하기 어려운 3D 플롯을 생성하거나, 연속적인 이질성(heterogeneity)을 포착하지 못하거나, 특정 상호작용 유형(예: 곱 분리형)에 국한되는 경우가 많다.

따라서 쌍별 상호작용을 탐지하고, 그 기능적 형태(선형, 곱 분리형, 또는 비곱 분리형)를 분류하며, 각 유형에 최적화된 해석 가능한 시각화를 제공할 수 있는 통합적이고 모델 불가지론적인(model-agnostic) 프레임워크에 대한 XAI 도구 상자의 공백이 존재한다.

방법론: Sails 프레임워크

Sails(Surrogate-based Analysis of Interactions via Local effect Smooths)는 관심 특성(Feature of Interest, FOI)의 쌍별 상호작용을 분석하기 위해, 블랙박스 모델의 국소 효과에 적합한 해석 가능한 일반 가법 모델(Generalized Additive Model, GAM) 대리 모델을 피팅하도록 설계된 모델 불가지론적 프레임워크이다. 이 프레임워크는 두 단계의 순차적 과정과 세 가지 통합된 기능을 통해 작동한다.

1. 국소 효과의 추정

Sails는 ALE 미분값의 **국소 분해 가능성(local decomposability)**을 활용한다. 블랙박스 모델 $\hat{f}$에 대하여, 특성 $x_j$에 대한 국소 효과는 $h(x_j, x_{-j}) = \partial_j \hat{f}(x_j, x_{-j})$로 정의된다.

• 구간 분할: FOI($X_j$)를 $K$개의 구간으로 분할한다.
• 유한 차분(Finite Differences): 각 구간 내 관측치에 대해 모델 예측값의 유한 차분을 사용하여 국소 효과를 추정하며, 이때 구간 너비로 정규화한다.
• 이론적 근거: 기능적 ANOVA(FANOVA) 분해에 따르면, 만약 $X_j$가 고정되어 있다면, 국소 효과의 변동은 오직 $X_j$를 포함하는 상호작용으로부터만 발생한다. 따라서 다른 특성들에 따른 이러한 국소 효과의 이질성은 상호작용의 존재를 나타낸다.

2. GAM 대리 모델 피팅

각 FOI 구간 $k$에 대해, Sails는 별도의 GAM 대리 모델을 피팅한다:

• 입력값: 나머지 특성들 $X_{-j}$.
• 타겟: 추정된 국소 효과 $\hat{h}^{(i)}_k$.
• 구조: $\hat{s}^{(k)}(x_{-j}) = \hat{s}^{(k)}_0 + \sum_{l \neq j} \hat{s}^{(k)}_l(x_l)$.
• 해석: 평활 항(smooth terms) $\hat{s}^{(k)}_l$은 중심화 상수(centering constant)를 제외하고 상호작용 성분의 편미분($\partial_j g_{jl}$)을 근사하는 것으로 추정된다.

3. 통합된 기능

피팅된 대리 모델을 바탕으로, Sails는 세 가지 작업을 수행한다:

(i) 상호작용 탐지

Sails는 각 구간 내 각 특성 $X_l$에 대한 평활 항의 유의성을 기초 계수(basis coefficients)에 대한 F-검정을 통해 테스트한다.

• 집계: 구간 간의 테스트는 종속적이므로, 전역적 유의성 척도를 제공하기 위해 **조화 평균 p-값(harmonic mean p-value)**을 사용하여 p-값을 집계한다.
• 교정: 다중 비교를 위해 Benjamini-Hochberg FDR(False Discovery Rate) 교정이 적용된다.
• 휴리스틱: 국소 효과 계산에는 가법 노이즈가 없고 페널티 스플라인(penalized splines)을 사용하므로, 결과로 나오는 p-값은 엄밀한 통계적 값이라기보다 전역적 상호작용 유의성을 판단하기 위한 휴리스틱으로 취급된다.

(ii) 상호작용 분류

Sails는 평활 항에서 유도된 $R^2$ 기반 휴리스틱 척도를 사용하여 탐지된 상호작용을 세 가지 유형으로 분류한다:

1. 선형(Linear): 평활 항 $\hat{s}^{(k)}_l$이 (상수를 제외하고) 모든 구간에서 동일하다면, 해당 상호작용은 FOI에 대해 선형이다. 이는 전체 평가값에 단일 곡선을 피팅하는 $R^2_{lin}$으로 측정된다.
2. 곱 분리형(Product-Separable): 평활 항이 형태는 공유하지만 스케일링 인자만 다르다면, 이는 곱 분리형($g_{jl}(x_j, x_l) = \phi_j(x_j)\phi_l(x_l)$)이다. 이는 참조점에서의 평활 항 비율에 단일 곡선을 피팅하는 $R^2_{prod}$로 측정된다.
3. 비곱 분리형(Non-Product-Separable): 위 조건들이 모두 해당되지 않으면, 상호작용은 일반/비분리형으로 분류된다.

(iii) 맞춤형 시각화

분류 결과에 따라, Sails는 특정 시각화를 생성한다:

• 선형: 단변량 평활 함수 $\phi_l(x_l)$를 시각화한다.
• 곱 분리형: 비율 기반 평활 함수를 통해 $\phi_l(x_l)$의 형태를 시각화한다.
• 일반(General): 비분리형 상호작용의 경우, Sails는 FANOVA 제약 조건을 강제하기 위해 이중 중심화(double centering)를 적용하여 구간 간의 평활 항 $\hat{s}^{(k)}_l$을 통합함으로써 상호작용 함수 $g_{jl}$을 재구성한다. 이는 FOI의 서로 다른 구간에 대해 상호작용 효과가 어떻게 변화하는지를 보여주는 2D 시각화를 제공한다.

경험적 평가 및 결과

본 프레임워크는 통제된 시뮬레이션과 실제 응용 사례를 통해 검증되었다.

시뮬레이션

실험은 다양한 상관 구조와 상호작용 차수(선형, 곱 분리형, 비분리형, 고차 상호작용)를 가진 합성 데이터에 대해 수행되었다.

• 탐지: Sails는 독립적 및 상관 관계가 있는 특성 모두에서 낮은 허위 양성률(false positive rate)로 상호작용하는 특성을 정확히 식별했다. 상관 관계가 강한 상황에서도 견고함을 유지하며, 노이즈 특성을 비상호작용으로 정확히 식별했다.
• 분류: 독립적인 특성 하에서, Sails는 선형, 곱 분리형, 비분리형 상호작용을 완벽하게 구별했다.
  • 한계점: 강한 상관 관계(중심화 이동 때문)와 고차 상호작용(대리 모델의 오설정 때문)이 존재할 때 $R^2_{prod}$가 저하되었다. $R^2_{lin}$은 더 견고했으나, 비선형 고차 상호작용이 있을 때 약간 저하되는 모습을 보였다.
• 시각화:
  • 선형 및 곱 분리형 시각화는 독립성 조건 하에서 실제 참값(ground truth)과 밀접하게 일치했다.
  • 일반 통합 기반 시각화는 독립성 하에서 복잡한 상호작용 형태(예: 사인파)를 성공적으로 복원했다.
  • 상관 관계 및 고차 상호작용이 있는 경우, 시각화에서 아티팩트(artifact)가 나타나거나 지원 범위가 줄어들었으나 여전히 유익한 근사치를 제공했다.

실제 응용 사례

Sails는 모로코 테투안(Tetouan)의 전력 소비량을 예측하는 XGBoost 모델에 적용되었으며, 이때 general_diffuse_flows(태양 복사 에너지)를 FOI로 사용하였다.

• 결 \과: 프레임워크는 시간(Hour), 온도(Temperature), UnixTime, 풍속(WindSpeed)과의 상호작용을 식별했다.
• 해석:
  • 시간(Hour): 중간 정도의 복사 에너지 수준에서 저녁 소비량이 증가하는 것(황혼 조명)과, 낮은 복사 에너지 수준에서 주간 소비량이 증가하는 것(흐린 날 조명) 사이의 관계를 밝혔다.
  • 온도(Temperature): 저복사+저온(난방+조명) 및 고복사+고온(냉방) 모두 소비를 증가시키는 시너지 효과를 보여주었다.
  • 풍속(WindSpeed): 구간 전반에 걸쳐 일관된 형태를 공유하는 거의 곱 분리형에 가까운 형태를 보였다.
• 대리 모델 적합도: GAM 대리 모델의 평균 인샘플(in-sample) $R^2$는 0.96으로, 국소 효과 변동의 대부분을 포착했음을 나타냈다.

의의 및 주장

본 논문은 Sails가 단순한 상호작용 탐지를 넘어 상호작용의 기능적 형태를 특징짓는 단계로 나아감으로써 XAI 도구 상자의 중요한 공백을 메운다고 주장한다.

• 모델 불가지론적: 모든 블랙박스 모델과 함께 작동한다.
• 통합 워크플フロー: 탐지, 분류, 시각화를 하나의 파이프라인으로 결합한다.
• 해석 가능성: 상호작용을 분류함으로써, 일반적인 3D 등고선 플롯보다 해석하기 쉬운 맞춤형 시각화를 제공한다.
• 견고성: 실제 데이터의 흔한 문제인 특성 간 상관 관계가 존재하는 상황에서도 상호작용을 탐지하는 데 효과적임을 입증했다.

한계 및 향 향후 과제

저자들은 몇 가지 한계를 인정하였다:

1. 작업 범위: 현재 회귀 작업으로 제한되어 있으며, 분류 작업으로의 확장은 향후 과제이다.
2. 이론적 보장: 평활 항이 FANOVA 부분 미분을 근사한다는 가정에 대한 엄밀한 이론적 증명이 부족하다.
3. 상관 관계 민감도: 분류 척도($R^2_{prod}$)는 강한 특성 상관 관계에 민해진다.
4. 상호작용 차수: 프레임워크는 쌍별 상호작용을 가정한다. 고차 상호작용은 대리 모델의 오설정과 아티팩트를 유발할 수 있다.
5. 향후 방향: 고차 상호작용을 위한 GA2M 대리 모델 사용, 다른 국소 효과 방법(예: ICE, Shapley values)에 대한 적용, 그리고 GADGET와의 통합을 통한 접근 방식의 단일화 등이 잠재적인 확장 방향이다.