L2GTX: From Local to Global Time Series Explanations

이 논문은 이미지 및 표형 데이터용 기존 방법의 한계를 극복하고, LOMATCE 를 통해 생성된 인스턴스 수준의 설명을 클러스터링하고 대표 인스턴스를 선택하여 시계열 분류 모델의 의사결정 패턴을 포괄하는 전역적 설명을 생성하는 모델 독립적 프레임워크인 L2GTX 를 제안합니다.

핵심

🕵️‍♂️ 문제: "왜 그렇게 판단했나요?"라는 질문에 AI 는 침묵합니다.

심지어 가장 똑똑한 AI 도 심전도 데이터를 보고 "심장마비"라고 진단하면, **"어디가 문제였는지"**는 말해주지 않습니다. 마치 의사가 "환자가 아프다"고만 하고 "왜 아픈지, 어떤 증상으로 판단했는지" 설명을 안 하는 것과 같습니다.

기존의 설명 기술들은 **개별 사례 (Local)**만 설명해 줍니다.

• "이 환자의 심전도 3 초 구간이 이상해서 심장마비로 봤습니다."
• "저 환자의 심전도 5 초 구간이 이상해서 심장마비로 봤습니다."

하지만 우리는 **전체적인 규칙 (Global)**을 알고 싶습니다.

• "AI 는 심장마비를 판단할 때, 보통 어떤 패턴을 찾아보는 걸까?"
• "심장마비 환자들의 공통된 특징은 무엇일까?"

이런 전체적인 규칙을 찾아내는 것이 기존 기술의 한계였습니다.

---

💡 해결책: L2GTX (로컬에서 글로벌로)

이 논문이 제안한 L2GTX는 **"수많은 개별 사례들을 모아, 공통된 핵심 규칙을 찾아내는 스마트한 비서"**라고 생각하시면 됩니다.

1. 단계별 과정 (비유로 설명)

1 단계: 개별 사례 분석 (로컬 설명)

• 상황: AI 가 100 명의 환자 데이터를 보고 진단을 내렸습니다.
• L2GTX 의 역할: AI 가 각 환자마다 "어떤 부분 (예: 3 초 구간, 5 초 구간) 을 중요하게 봤는지"를 분석합니다. 이때 단순히 "구간 3 초"라고만 하지 않고, **"구간 3 초에 급격히 올라가는 곡선"**이나 **"뾰족한 피크"**처럼 **사람이 이해할 수 있는 '이벤트'**로 변환합니다.
  • 비유: 각 학생의 시험 오답 노트를 하나씩 정리하는 작업입니다.

2 단계: 유사한 패턴 묶기 (클러스터링)

• 상황: 100 명의 환자 중 50 명은 "급격한 상승"을 보고, 30 명은 "뾰족한 피크"를 봤습니다.
• L2GTX 의 역할: 비슷한 패턴들을 묶어줍니다. "급격한 상승"을 본 50 명은 하나의 그룹, "뾰족한 피크"를 본 30 명은 다른 그룹으로 묶습니다.
  • 비유: 100 개의 오답 노트를 종류별로 분류하여 '상승형 오답', '피크형 오답'이라는 폴더에 정리하는 작업입니다.

3 단계: 대표 사례 선정 (가장 중요한 것만 뽑기)

• 상황: 모든 폴더를 다 설명하면 너무 길어집니다.
• L2GTX 의 역할: 가장 중요한 규칙을 잘 보여주는 **대표적인 환자들 (예: 10 명)**만 뽑아냅니다. 이 10 명만 설명해도 전체 100 명의 규칙을 충분히 대표할 수 있도록 합니다.
  • 비유: 100 명의 오답 노트 중, 가장 전형적인 오답을 가진 10 명의 학생만 뽑아 '대표 오답집'을 만드는 것입니다.

4 단계: 최종 보고서 작성 (글로벌 설명)

• 상황: 뽑아낸 대표 사례들의 특징을 요약합니다.
• L2GTX 의 역할: "심장마비를 판단할 때, AI 는 보통 시간 3~5 초 사이에 급격히 올라가는 곡선을 보고, 뾰족한 피크가 있을 때 의심한다"는 식의 간결한 규칙을 만들어냅니다.
  • 비유: 100 명의 오답 노트를 분석한 결과, "대부분의 학생들이 '상승형'과 '피크형' 실수를 한다"는 최종 요약 보고서를 작성하는 것입니다.

---

🌟 왜 이 방법이 특별한가요?

1. 모델과 상관없음 (Model-Agnostic):

   • AI 가 어떤 구조 (딥러닝, LSTM 등) 를 쓰든 상관없이 작동합니다. 마치 모든 브랜드의 자동차 엔진을 똑같이 진단할 수 있는 만능 진단기와 같습니다.

2. 시간의 흐름을 이해함:

   • 기존 기술은 "이 시점 (Time Step) 이 중요하다"고만 했습니다. 하지만 L2GTX 는 **"이 시점에 '상승하는 곡선'이 있었다"**고 설명합니다.
   • 비유: "이곳이 중요하다"고 말하는 것보다, "이곳에서 급격히 차가 올라갔다"고 말하는 것이 훨씬 이해하기 쉽습니다.

3. 간결하면서도 정확함:

   • 너무 많은 정보를 주면 오히려 혼란스럽습니다. L2GTX 는 가장 핵심적인 규칙만 추려서 설명하되, AI 가 원래 판단한 정확도 (Faithfulness) 는 그대로 유지합니다.

---

📊 실제 사례 (논문에서 다룬 것)

• 커피 분류: 아라비카와 로부스타 커피를 구분할 때, AI 는 단순히 "이 부분이 중요하다"고 하지 않고, **"로부스타는 높은 피크가 있고, 아라비카는 깊은 골짜기가 있다"**는 식의 패턴을 찾아냈습니다. 이는 실제 커피 전문가들이 사용하는 설명과 일치합니다.
• 심전도 (ECG): 건강한 심장과 심장마비 심장을 구분할 때, AI 가 찾는 패턴이 실제 의학적 증상 (급격한 변화, 뾰족한 파동 등) 과 잘 맞아떨어졌습니다.

🎯 결론

L2GTX는 AI 가 시계열 데이터를 볼 때, **"왜 그렇게 판단했는지"**에 대한 인간이 이해할 수 있는 공통된 규칙을 찾아주는 기술입니다.

• 기존: "이 3 초 구간이 중요해요." (너무 추상적)
• L2GTX: "AI 는 보통 시간이 흐르며 급격히 올라가는 곡선이나 뾰족한 피크를 볼 때 '심장마비'라고 판단해요." (구체적이고 이해하기 쉬움)

이 기술은 의료, 금융, 산업 안전 등 AI 의 판단을 신뢰하고 검증해야 하는 분야에서 큰 역할을 할 것으로 기대됩니다.

기술 요약

1. 연구 배경 및 문제 정의 (Problem)

• 배경: 딥러닝 모델은 시계열 분류 (Time Series Classification) 에서 높은 정확도를 달성하지만, 그 결정 과정 (특히 클래스 수준의 의사결정 행동) 을 이해하는 것은 여전히 어렵습니다. 대부분의 모델은 블랙박스처럼 작동하여 인간이 이해할 수 있는 시계열적 단서를 제공하지 않습니다.
• 기존 방법의 한계:
  1. 이미지/표형 데이터용 XAI 의 부적합성: 기존 설명 가능 AI(XAI) 방법론 (LIME, SHAP 등) 은 이미지나 표 형식 데이터에 맞춰 개발되었으며, 시간적 의존성과 비독립적인 관측치를 가진 시계열 데이터에는 직접 적용하기 어렵습니다.
  2. 글로벌 설명의 부재: 기존 시계열 XAI 연구는 개별 예측을 설명하는 '로컬 설명 (Local Explanation)'에 집중되어 있으며, 모델 전체의 의사결정 패턴을 설명하는 '글로벌 설명 (Global Explanation)'은 상대적으로 부족합니다.
  3. 모델 의존성: 존재하는 몇몇 글로벌 설명 방법들은 특정 모델 아키텍처 (예: 활성화 맵, 필터 등) 에 의존하므로, 모델 중립적인 (Model-agnostic) 해석이 어렵습니다.
• 목표: 내부 모델 세부 사항에 의존하지 않고, 대표성 있는 인스턴스 집합에서 로컬 설명을 집계하여 클래스별 글로벌 설명을 생성하는 모델 중립적 방법론을 제안하는 것.

2. 제안된 방법론: L2GTX (Methodology)

L2GTX (Local-to-Global Time-series eXplanations) 는 블랙박스 시계열 분류기에 대한 글로벌 통찰력을 로컬 설명에서 도출하는 5 단계 프로세스를 따릅니다.

1. 로컬 설명 생성 (Local Attribution via LOMATCE):

   • 입력된 시계열 인스턴스 집합에 대해 LOMATCE 알고리즘을 적용합니다.
   • LOMATCE 는 시간적 세그먼트를 교란 (perturb) 하여 생성된 샘플들을 기반으로 파라미터화된 시간 이벤트 원시 (Parameterised Event Primitives, PEPs) 를 추출합니다.
   • PEP 유형에는 증가/감소 추세 (Increasing/Decreasing trends) 와 국소 극값 (Local Maxima/Minima) 이 포함되며, 각 이벤트는 시작 시간, 지속 시간, 기울기, 값 등의 속성을 가집니다.
   • 각 인스턴스별로 PEP 클러스터에 대한 중요도 점수를 산출합니다.

2. 유사 클러스터 병합 및 인스턴스 - 클러스터 행렬 구성:

   • 서로 다른 인스턴스에서 생성된 로컬 클러스터들을 계층적 군집화 (Agglomerative Hierarchical Clustering) 를 통해 병합하여 전역적인 글로벌 클러스터로 통합합니다. 이는 중복성을 줄이고 간결한 표현을 얻기 위함입니다.
   • 병합된 글로벌 클러스터와 인스턴스 간의 중요도를 나타내는 인스턴스 - 클러스터 행렬 (Instance-Cluster Matrix) 을 구성합니다.

3. 글로벌 클러스터 중요도 계산:

   • SP-LIME 전략을 시계열에 맞게 변형하여, 각 글로벌 클러스터가 전체 데이터셋에서 얼마나 중요한지 (전체 인스턴스에 대한 중요도 합계) 를 계산합니다.

4. 대표 인스턴스 선택 (Submodular Selection):

   • 사용자가 정의한 예산 (Budget, $B$) 내에서 가장 중요한 글로벌 클러스터를 최대한 많이 커버하는 대표적인 인스턴스 집합을 탐욕적 (Greedy) 알고리즘을 통해 선택합니다.
   • 이는 특정 클래스의 의사결정에 영향을 미치는 핵심 시간적 패턴을 포착하면서도 불필요한 인스턴스를 제거하여 설명의 효율성을 높입니다.

5. 이벤트 집계 및 글로벌 설명 생성:

   • 선택된 인스턴스들에 속한 PEP 이벤트들을 글로벌 클러스터별로 집계합니다.
   • 각 이벤트 속성 (시작 시간, 지속 시간, 값 등) 에 대해 평균과 표준편차를 계산하여 통계적으로 요약합니다.
   • 최종적으로 "특정 클래스에서 일반적으로 발생하는 시간적 패턴 (예: $t$ 시점에 평균값 $v$ 의 국소 최대값 발생)" 형태의 간결하고 해석 가능한 글로벌 설명을 생성합니다.

3. 주요 기여 (Key Contributions)

• 모델 중립적 글로벌 설명 프레임워크: 내부 모델 구조 (레이어, 가중치 등) 에 의존하지 않고, 로컬 설명을 기반으로 클래스별 글로벌 패턴을 체계적으로 합성하는 첫 번째 방법론 중 하나입니다.
• 이벤트 기반 해석 가능성: 단순한 시간 단계 (Time step) 의 중요도 점수가 아닌, 인간이 직관적으로 이해할 수 있는 이벤트 원시 (Trends, Extrema) 를 기반으로 설명을 구성하여 의미 있는 해석을 제공합니다.
• 신뢰성 있는 로컬 - 글로벌 집계: 대표성 있는 인스턴스 선택과 중요도 기반 클러스터링을 통해, 설명의 간결성을 유지하면서도 모델의 실제 행동 (Faithfulness) 을 왜곡하지 않는 글로벌 설명을 생성합니다.

4. 실험 결과 (Results)

• 데이터셋 및 모델: UCR 아카이브의 6 개 시계열 데이터셋 (ECG200, GunPoint, Coffee, FordA, FordB, CBF) 과 두 가지 딥러닝 아키텍처 (FCN, LSTM-FCN) 를 사용하여 평가했습니다.
• 전역 충실도 (Global Faithfulness):
  • 다양한 병합 비율 (Merge Percentile, $p$) 에서 전역 충실도 (GF) 를 측정했습니다. GF 는 선택된 인스턴스 집합에 대한 로컬 대리 모델 (Surrogate) 의 $R^2$ 평균값으로 정의됩니다.
  • 결과는 L2GTX 가 설명 공간을 강력하게 압축 (Consolidation) 하더라도 모델 행동에 대한 충실도가 안정적으로 유지됨을 보여주었습니다 (모든 데이터셋과 모델에서 일관된 GF 점수).
• 해석 가능성:
  • ECG200 (심전도): 정상 심박수와 심근경색 신호를 구분하는 데 있어, L2GTX 는 임상적으로 알려진 형태학적 특징 (예: 경미한 편차 vs 뚜렷한 편차) 과 일치하는 시간적 패턴을 성공적으로 식별했습니다.
  • Coffee (커피): 아라비카와 로부스타 커피를 구분할 때, 스펙트럼 강도와 극값의 분포 차이와 일치하는 설명을 생성했습니다.
• 구조적 안정성: 서로 다른 모델 아키텍처 (FCN vs LSTM-FCN) 에서 생성된 글로벌 설명은 구조적으로 높은 일치도를 보였으며, 이는 L2GTX 가 모델의 인덕티브 바이어스에 구애받지 않고 공통된 의사결정 단서를 포착함을 의미합니다.

5. 의의 및 결론 (Significance)

• 신뢰성 있는 의사결정 지원: 의료, 금융, 안전 임계 시스템 등 신뢰와 책임이 요구되는 분야에서 블랙박스 시계열 모델의 결정 근거를 인간이 이해할 수 있는 형태로 제공합니다.
• 패턴의 일반화: 개별 인스턴스의 노이즈나 특정 사례에 치우치지 않고, 클래스 전체에 걸쳐 반복되는 핵심 시간적 패턴을 추출하여 모델의 전반적인 동작 원리를 파악할 수 있게 합니다.
• 미래 방향: 다변량 시계열 (Multivariate Time Series) 로의 확장 및 도메인 전문가를 대상으로 한 인간 중심 평가 (Human-centered evaluation) 를 통해 실제 적용 가능성과 유용성을 더 깊이 검증할 필요가 있음을 제시합니다.

요약하자면, L2GTX 는 복잡한 딥러닝 시계열 모델의 '왜 (Why)'와 '어떻게 (How)'를 이벤트 기반의 직관적인 글로벌 설명으로 변환하여, 모델의 투명성과 신뢰성을 획기적으로 향상시키는 혁신적인 방법론입니다.