Multi-SpaCE: Multi-Objective Subsequence-based Sparse Counterfactual Explanations for Multivariate Time Series Classification

기술 요약: Multi-SpaCE

문제 정의
딥러닝 시스템은 다변량 시계열 분류와 같은 복잡한 작업에서 효과적이지만, 투명성이 부족하여 고위험 도메인에서의 배포를 저해하는 경우가 많습니다. 반사실적 설명(Counterfactual Explanations, CFEs)은 모델의 예측을 바꾸기 위해 필요한 최소한의 입력 변화를 식별함으로써 해결책을 제시합니다. 그러나 기존의 시계열 CFE 방법론들은 세 가지 결정적인 한계에 직면해 있습니다:

1. 단변량 편향(Univariate Bias): 많은 방법론이 단변량 데이터에 국한되어 있어, 의료나 금융과 같이 실제 응용 분야에서 흔히 발생하는 다변량 시계생열의 복잡성을 처리하지 못합니다.
2. 경직된 제약 조건(Rigid Constraints): 기존 방식들은 고정된 길이의 부분 시퀀스를 강제하거나 단일 부분 시퀀스에만 수정을 제한하여, 유연성을 떨어뜨리고 불필요한 변화를 초래할 수 있습니다.
3. 유효성 문제(Validity Issues): 유효성(반사실적 결과가 실제로 클래스 예측을 변경하는지 여부)이 엄격한 제약 조건이 아닌 최적화 목표로서 자주 취급됩니다. 결과적으로, 많은 휴리스틱 방법론들은 유효한 설명을 보장하지 못하며, 이로 인해 희소성(sparsity)이나 타당성(plausibility)과 같은 다른 성능 지표들이 무의미해집니다.

방법론: Multi-SpaCE
본 논문은 다변량 시계열을 위해 특별히 설계된 다목적 반사실적 설명 방법인 Multi-SpaCE를 소개합니다. 이는 저자들의 이전 연구인 Sub-SpaCE를 확장하여, **NSGA-II(Non-Dominated Sorting Genetic Algorithm II)**에 기반한 다목적 최적화 프레임워크를 통합한 것입니다.

• 핵심 메커니 mechanism: 이 방법은 "가장 가까운 다른 이웃(Nearest Unlike Neighbor, NUN)"—즉, 다른 클래스에 속하는 가장 가까운 인스턴스—을 식별하고, 원래 입력($x$)의 특정 부분 시퀀스를 NUN의 값으로 대체함으로써 반사실적 사례($x'$)를 생성합니다.
• 다변량 적응(Multivariate Adaptation): 다변량 데이터를 처리하기 위해 Multi-SApCE는 이중 마스크 전략을 채택합니다:
  • 공통 마스크(Common Mask): 전역적인 변화를 최적화하기 위해 모든 채널에서 공유되는 단일 이진 마스크입니다.
  • 독립 마스크(Independent Mask): 솔루션을 정교화하고 채널별 수정을 허용하기 위해 각 채널에 별도로 적용되는 이진 마스크입니다.
• 변이 연산자(Mutation Operators): 유전 알고리즘은 시계열에 적합하도록 조정된 특수 변이 연산자를 사용합니다:
  • 부분 시퀀스 확장/압축(Subsequence Extension/Compression): 기존의 연속적인 변화 구간의 길이를 수정합니다.
  • 부분 시퀀스 제거(Subsequence Removal): 복잡한 다변량 환경에서 수렴을 가속화하기 위해 전체 부분 시퀀스를 제거합니다.
• 목적 함수(Objective Functions): 이 방법은 수동적인 하이퍼파라미터 튜닝 없이 네 가지 상충하는 목적을 균형 있게 조절합니다:
  1. 유효성(Validity): 예측 클래스를 변경하지 못하는 모든 솔루션에 대해 거대한 페널티 항($\nu$)을 부여함으로써 엄격하게 강제됩니다.
  2. 근접성(Proximity): 원래의 인스턴스와 반사실적 인스턴스 사이의 거리를 최소화합니다.
  3. 희소성(Sparsity): 변경된 총 타임 스텝(time step) 수를 최소화합니다.
  4. 연속성(Contiguity): 해석력을 높이기 위해 변화의 개별 부분 시퀀스 수를 최소화합니다.
  5. 타당성(Plausibility): 오토인코더 기반의 이상치 점수(outlier score)를 사용하여 데이터 매니폴드로부터의 이탈을 페널티화합니다.
• 출력: Multi-SpaCE는 단일 솔루션 대신 파레토 프런트(Pareto front) 형태의 비지배 솔루션들을 반환하여, 최종 사용자가 희소성, 타당성, 연속성 사이의 특정 트레이드오프 선호도에 가장 적합한 설명을 선택할 수 있도록 합니다.

주요 기여

1. 최초의 다목적 다변량 방법론: Multi-SpaCE는 다변량 시계열 분류에서 유효한 반사실적 설명을 생성하기 위해 특별히 설계된 최초의 다목적 최적화 프레임워크로 제시됩니다.
2. 엄격한 유효성 보장: 유효성을 소프트 제약 조건으로 취급하는 기존의 많은 접근 방식과 달리, Multi-SpaCE는 이를 하드 요구 사항으로 강제하여 실험 결과에서 100%의 유효성을 보장합니다.
3. 유연한 부분 시퀀스 처리: 이 방법은 고정된 길이 또는 단일 부분 시퀀스 제약을 피하고, 유전 알고리즘을 활용하여 여러 채널에 걸쳐 최적의 가변 길이 부분 시퀀스를 찾아냅니다.
4. 파레토 프런트 생성: NSGA-II를 활용함으로써 다양한 최적 솔루션을 제공하며, 사용자가 상충하는 목적들 사이의 균형을 맞추기 위해 유틸리티 함수의 가중치를 수동으로 조정할 필요가 없도록 합니다.

실험 결과
저자들은 UCR 및 UEA 아카이브의 15개 단변량 및 10개 다변량 데이터셋을 통해 Multi-SpaCE를 최신 베이스라인 모델들(예: Native Guide, Glacier, COMTE, AB-CF, DiscoX)과 비교 평가했습니다.

• 유효성: Multi-SpaCE는 모든 데이터셋에서 **완벽한 유효성(1.0)**을 달성했습니다. 반면, 많은 베이스라인 방법론들(특히 다변량 설정에서)은 현저히 낮은 유효성을 보였으며, 일부는 대다수의 인스턴스에 대해 유효한 반사실적 사례를 생성하는 데 실패했습니다.
• 근접성: 근접성이 주요 최적화 목표는 아니었으나, Multi-SpaCE는 경쟁력 있는 근접성 점수를 달성했습니다. 유효한 솔루션들 중 단변량 데이터셋에서는 평균 2위, 다변량 데이터셋에서는 1위를 기록했습니다.
• 타당성: Multi-SpaCE는 강력한 타당성을 입증하였으며, 다양한 이상치 탐지 모델(Autoencoder, Isolation Forest, Local Outlier Factor)에서 높은 순위를 기록했습니다. 특히, 다른 방법론들이 더 나은 점수를 기록하더라도 유효성이 낮았던 것과 달리, Multi-SApCE는 높은 유효성을 유지하면서도 높은 타당성을 유지했습니다.
• 희소성 및 연속성: 이 방법은 희소성과 부분 시퀀스 수를 효과적으로 균형 있게 조절하여, 단변량 및 다변량 데이터셋 모두에서 결합 지표 기준 가장 낮은 중앙값을 달성했습니다.

의의 및 주장
본 논문은 Multi-SpaCE가 시계열 설명 가능성(explainability)의 근본적인 간극을 해결한다고 주장합니다. 즉, 반사실적 설명이 해석 가능하고 희소할 뿐만 아니라, 결정적으로 **유효(valid)**하도록 보장한다는 것입니다. 저자들은 유효성이 보장되지 않는다면 다른 성능 지표들은 무의미하다고 강조합니다. 파레토 프런트의 솔루션을 제공함으로써, Multi-SpaCE는 광범적인 하이퍼파라미터 튜닝 실험 없이도 다양한 사용자 요구에 부합하는 유연성을 제공합니다. 이 방법은 모델 불가지론적(model-agnostic)이며 계산 효율적인 도구로서, 실세계 다변량 시계열 응용 분야에서 신뢰성과 적응성 측면에서 기존 방식들을 능가하는 것으로 제시됩니다. 저자들이 제안하는 향-후 연구 과제에는 더 현실적인 수정을 위한 생성 모델(VAE, GAN)의 통합과 계산 오버헤드를 줄이기 위한 아마티즈 생성(amortized generation) 기법 등이 포함됩니다.