Towards plausibility in time series counterfactual explanations

이 논문은 유효성, 희소성, 근접성 및 새로운 소프트-DTW 기반의 타당성 요소를 결합한 손실 함수를 통해 시계열 분류 문제에 대해 현실적인 시간적 구조를 가진 반사실적 설명을 생성하는 새로운 방법을 제안하고, 기존 방법들보다 타겟 클래스와의 분포 정렬 및 시간적 현실성 측면에서 우수한 성능을 입증합니다.

핵심

🕵️‍♂️ 핵심 주제: "가짜가 아닌, 진짜 같은 대안 찾기"

인공지능 (AI) 이 의료 기록이나 주식 차트 같은 시간이 흐르며 변하는 데이터를 보고 "이 환자는 위험하다"거나 "이 주식을 사면 망한다"고 판단했다고 가정해 봅시다.

사용자는 궁금해합니다. "그럼 어떻게 하면 AI 의 판단을 '안전하다'거나 '사야 한다'로 바꿀 수 있을까?"

이 질문에 답하는 것을 **'반사실적 설명 (Counterfactual Explanation)'**이라고 합니다. 즉, "만약 당신의 심박수 패턴이 이렇게 변했다면, AI 는 당신을 '안전하다'고 판단했을 것입니다"라고 알려주는 거죠.

하지만 여기서 큰 문제가 생깁니다. AI 가 제안한 변화가 현실적으로 불가능하거나, 너무 어색해서 가짜처럼 보일 수 있기 때문입니다.

🎭 기존 방법들의 문제점: "가짜 배우" vs "실제 배우"

기존의 AI 설명 방법들은 두 가지 큰 단점이 있었습니다.

1. 조각조각 댄 방법 (Substitution): 실제 데이터에서 잘라낸 조각을 붙여넣는 방식입니다. 마치 퍼즐 조각을 무작위로 끼워 맞추는 것과 같습니다. 모양은 비슷해 보일지 몰라도, 시간의 흐름이 어색해서 "이건 진짜 사람이 한 행동이 아니야"라고 바로 눈치챕니다.
2. 복원만 하는 방법 (Autoencoder): 데이터를 압축했다가 다시 늘리는 방식입니다. 하지만 이 방법은 **시간의 흐름 (리듬)**을 제대로 지키지 못해, 마치 로봇이 인간 흉내를 내다가 어색하게 멈추는 듯한 결과를 낳습니다.

이 논문은 **"AI 가 제안한 변화가 실제 세상에서 일어날 수 있는 자연스러운 변화여야 한다"**는 점을 강조합니다. 이를 **'신빙성 (Plausibility)'**이라고 부릅니다.

💡 이 논문의 해결책: "유사한 친구들의 춤을 따라 하기"

저자들은 새로운 방법을 개발했습니다. 핵심 아이디어는 **"목표로 하는 그룹 (예: '안전한 환자' 그룹) 에 속한 실제 사람들의 패턴을 참고하라"**는 것입니다.

이를 비유하자면 다음과 같습니다.

• 상황: 당신이 춤을 추고 있는데, 심사위원 (AI) 이 "너는 춤을 너무 엉망으로 추고 있어. '우수한 춤꾼'으로 인정받으려면 춤을 바꿔야 해"라고 합니다.
• 기존 방법: "그냥 손만 살짝 들어라"라고 말해주거나, 다른 사람의 춤 조각을 잘라 붙여줍니다. 하지만 그 춤은 어색해서 '우수한 춤꾼'처럼 보이지 않습니다.
• 이 논문의 방법: **"실제로 '우수한 춤꾼'으로 인정받은 사람들의 춤을 자세히 보고, 그들과 가장 비슷한 10 명의 춤을 분석해 보세요. 그리고 당신의 춤을 그들과 비슷하게 맞춰보세요"**라고 조언합니다.

이때 사용하는 기술이 **'소프트-DTW (Soft-DTW)'**입니다.

• DTW(동적 시간 왜곡): 두 개의 춤이 시간의 흐름에서 얼마나 비슷한지 재는 자입니다. 단순히 점과 점을 비교하는 게 아니라, "이 부분은 조금 빨랐고, 저 부분은 조금 느렸지만 전체적인 흐름은 비슷해"라고 이해합니다.
• 소프트 (Soft): 이 자를 미분 가능한 (수학적으로 계산이 가능한) 형태로 바꾼 것입니다. 덕분에 AI 가 자연스럽게 춤을 수정해 나가는 과정을 학습할 수 있습니다.

📊 실험 결과: "조금 더 변해야 하지만, 훨씬 더 현실적이다"

이 논문의 방법을 다른 방법들과 비교해 보니 놀라운 결과가 나왔습니다.

1. 성공률 (유효성): AI 가 원하는 결과를 얻는 데는 100% 성공했습니다. (모든 경우에서 "안전하다"는 판정을 받음)
2. 현실성 (신빙성): 제안된 변화가 실제 데이터 분포에 얼마나 잘 맞는지 측정했을 때, 기존 방법들보다 압도적으로 높았습니다.
   • 비유: 다른 방법들이 제안한 변화는 "가짜 배우"처럼 보였지만, 이 방법이 제안한 변화는 "실제 배우"처럼 보였습니다.
3. 변화의 크기 (근접성): 현실적인 변화를 만들기 위해 기존 데이터보다 조금 더 크게 변해야 했습니다.
   • 비유: "손만 살짝 들면 돼"라고 속이는 것보다, "전체적인 춤 동작을 조금 더 자연스럽게 고쳐라"라고 하는 것이 더 큰 변화를 요구하지만, 그 결과물이 훨씬 설득력이 있습니다.

🚀 결론: 왜 이 연구가 중요한가?

이 연구는 **"AI 의 설명이 단순히 숫자만 맞추는 게 아니라, 인간의 직관과 현실 세계의 법칙을 따를 때 비로소 신뢰를 얻을 수 있다"**는 것을 보여줍니다.

• 의료: "환자의 심박수를 이리저리 부수지 말고, 실제 건강한 환자들의 리듬을 따라가게 하라"는 뜻입니다.
• 금융: "주식 차트를 임의로 조작하지 말고, 실제 상승 추세를 가진 패턴을 따르라"는 뜻입니다.

요약하자면, 이 논문은 **"가짜처럼 보이는 AI 의 조언은 버리고, 실제 데이터의 흐름을 존중하는 진짜 같은 조언을 만들어내는 새로운 나침반"**을 개발했다고 할 수 있습니다.

기술 요약

1. 문제 정의 (Problem Statement)

• 배경: 의료 (ECG 분석), 금융 (사기 탐지), 산업 (예측 유지보수) 등 고위험 분야에서 시계열 분류 모델의 의사결정 과정을 설명하는 것이 필수적입니다.
• 현황: 기존 반사실 설명 (Counterfactual Explanations, CFE) 방법론은 주로 표형 데이터 (Tabular Data) 에 집중되어 있으며, 시계열 데이터에 적용될 때는 다음과 같은 한계가 있습니다.
  • 타당성 (Plausibility) 부재: 생성된 CFE 가 실제 데이터 분포와 일치하지 않거나, 비현실적인 시간적 구조 (Temporal Structure) 를 가질 수 있습니다.
  • 기존 방법의 한계:
    • 치환 기반 (Substitution-based): 훈련 데이터의 실제 세그먼트를 교체하는 방식은 불연속적인 변화를 초래할 수 있습니다.
    • 오토인코더 기반: 잠재 공간 (Latent Space) 에서 조작 후 재구성하는 방식은 간접적인 제약만 부과하여 현실적인 시간적 역학을 보존하지 못할 수 있습니다.
• 핵심 과제: 분류 모델의 예측을 변경하는 동시에, 생성된 시계열이 실제 타겟 클래스의 데이터 분포와 일관된 현실적인 시간적 패턴을 유지하도록 하는 것입니다.

2. 제안 방법론 (Methodology)

저자들은 입력 공간 (Input Space) 에서 직접 경사 하강법 (Gradient-based Optimization) 을 수행하여 타당한 CFE 를 생성하는 새로운 방법을 제안합니다.

A. 핵심 기법: Soft-DTW 기반 정렬

• 문제점: 동적 시간 왜곡 (DTW) 은 시계열의 시간적 정렬을 측정하는 데 탁월하지만, 미분 불가능 (Non-differentiable) 하여 경사 기반 최적화에 직접 사용할 수 없습니다.
• 해결책: Soft-DTW를 도입합니다. Hard minimum 을 미분 가능한 Soft-minimum 으로 대체하여, 경사 하강법을 통해 CFE 를 타겟 클래스의 실제 샘플과 정렬할 수 있게 합니다.
• 구현: 생성된 CFE($X'$) 를 타겟 클래스의 $k$-최근접 이웃 ($k$-NN) 샘플들과 Soft-DTW 거리를 최소화하도록 최적화합니다.

B. 목적 함수 (Objective Function)

최적화 목표는 다음 4 가지 손실 함수의 가중 합으로 구성됩니다:
$$L_{CF} = L_{prox} + L_{sparse} + \lambda \cdot (L_{valid} + L_{DTW})$$

1. 유효성 (Validity, $L_{valid}$): 생성된 $X'$ 이 타겟 클래스로 분류되도록 보장 (Hinge Loss).
2. 근접성 (Proximity, $L_{prox}$): 원본 입력 $X$ 와의 거리를 최소화 (제곱 유클리드 거리).
3. 희소성 (Sparsity, $L_{sparse}$): 변경된 시점의 수를 최소화 ($\ell_1$ norm).
4. 타당성 (Plausibility, $L_{DTW}$): 제안된 핵심 요소. 생성된 $X'$ 과 타겟 클래스의 $k$-NN 샘플 간의 Soft-DTW 거리를 최소화하여 현실적인 시간적 패턴을 유지합니다.

3. 주요 기여 (Key Contributions)

1. 새로운 최적화 프레임워크: 입력 공간에서 직접 경사 기반 최적화를 수행하면서, Soft-DTW 를 통해 타겟 클래스 샘플과 명시적으로 정렬하여 타당성을 확보하는 방법론 제안.
2. 종합적 평가: 유효성, 희소성, 근접성, 그리고 분포 정렬 (Plausibility) 을 측정하는 다양한 지표 (평균 DTW 거리, Isolation Forest 점수 등) 를 사용하여 기존 강력한 방법론 (Glacier, M-CELS) 과 비교 평가.
3. 정성적 분석: 기존 방법론이 생성한 CFE 가 시간적 현실성을 잃거나 적대적 공격 (Adversarial) 과 유사한 패턴을 보이는 한계를 지적하고, 제안 방법이 이를 어떻게 극복하는지 시각적으로 증명.

4. 실험 결과 (Results)

UCI 및 UEA 리포지토리의 8 개 데이터셋 (단변량 및 다변량) 에서 실험을 수행했습니다.

• 유효성 (Validity): 제안 방법은 모든 데이터셋에서 1.0(또는 0.975 이상) 의 완벽하거나 거의 완벽한 유효성을 달성했습니다. 반면, 기존 방법 (Glacier, M-CELS) 은 많은 데이터셋에서 0.5 미만의 낮은 유효성을 보였습니다.
• 타당성 (Plausibility):
  • DTW 거리: 제안 방법은 타겟 클래스의 $k$-NN 와의 평균 DTW 거리가 경쟁 방법보다 한 자릿수 (Order of magnitude) 이상 낮았습니다. (예: TwoLeadECG 에서 0.016 vs Glacier 0.064).
  • Isolation Forest 점수: 생성된 CFE 가 이상치 (Outlier) 가 아닌 정상 인스턴스로 인식되는 비율이 6 개 데이터셋에서 1.0 을 기록했습니다.
• 근접성 및 희소성 (Trade-off): 제안 방법은 타당성을 확보하기 위해 기존 방법보다 더 큰 L1/L2 거리 (근접성 손실) 를 감수했습니다. 이는 현실적인 시간적 패턴을 유지하려면 원본보다 더 많은 변화가 필요할 수 있음을 시사합니다.
• 정성적 분석: CBF 데이터셋 등에서는 기존 방법들이 원본과 유사하지만 타겟 클래스의 특징 (예: Cylinder, Bell, Funnel 모양) 을 제대로 반영하지 못하는 '적대적'인 변형을 생성한 반면, 제안 방법은 타겟 클래스의 명확한 기하학적/시간적 구조를 잘 재현했습니다.

5. 의의 및 결론 (Significance & Conclusion)

• 의의: 이 연구는 시계열 CFE 생성에서 '유효성'과 '타당성'의 균형을 중요하게 다루었습니다. 단순히 예측을 바꾸는 것뿐만 아니라, 생성된 설명이 실제 데이터 분포 내에서 현실적이고 해석 가능한 시간적 패턴을 가져야 한다는 점을 강조했습니다.
• 결론: Soft-DTW 를 활용한 명시적 정렬은 생성된 반사실 예시가 적대적 노이즈가 아닌, 타겟 클래스의 특성을 반영한 현실적인 시계열이 되도록 보장합니다.
• 한계 및 향후 과제:
  • Soft-DTW 계산의 이차 시간 복잡도로 인해 긴 시계열 데이터에서 계산 비용이 큽니다.
  • $k$-NN 기반 정렬은 타겟 클래스가 단일 모드 (Unimodal) 라고 가정하므로, 다중 모드 (Multi-modal) 분포를 가진 클래스에서는 한계가 있을 수 있습니다.
  • 향후 작업: 확률적 생성 모델 (Probabilistic Generative Models) 을 도입하여 클래스 내의 다양한 시간적 패턴을 더 잘 포착하고 $k$-NN 의 한계를 극복하는 방향으로 연구가 진행될 예정입니다.

이 논문은 신뢰할 수 있는 AI 설명 (XAI) 을 위해 시계열 데이터의 고유한 시간적 특성을 보존하는 것이 얼마나 중요한지를 입증하고, 이를 위한 구체적인 기술적 솔루션을 제시했다는 점에서 의의가 큽니다.