Scaling Time Series Classification via XAI-Driven Data Reduction

당신이 미스터리를 풀려는 탐정이라고 상상해 보세요. 하지만 몇 개의 단서가 아니라, 수천 페이지의 노트, 수백 시간의 감시 영상, 그리고 사람들이 동시에 떠드는 소리가 가득한 방을 건네받았습니다. 이것이 바로 컴퓨터가 **시계열 데이터(Time Series Data)**로부터 학습할 때 마주하는 일상의 현실입니다. 이 데이터를 숫자가 들려주는 길고 연속적인 이야기라고 생각해 보세요. 마치 심박수 모니터, 주식 시장 티커, 또는 며칠 동안 매초 기록되는 기상 센서와 같습니다. 이러한 이야기를 이해하기 위해 우리는 **머신러닝(Machine Learning)**을 사용합니다. 머신러닝은 패턴을 학습하여 예측을 수행하는 일종의 컴퓨터 프로그램으로, 예를 들어 심장 박동 리듬이 건강한지 아니면 폭풍이 오고 있는지 추측하는 것과 같습니다.

하지만 문제가 하나 있습니다. 이야기가 더 상세해질수록(시계열이 길어질수록), 그리고 관련된 등장인물이 많아질수록(데이터를 기록하는 센서나 '채널'이 많아질수록), 컴퓨터가 이를 읽는 것은 더 어려워집니다. 이는 마치 도서관의 책들을 한꺼번에 읽으려는 것과 같습니다. 컴퓨터는 과부하가 걸리고, 메모리가 부족해지며, 결국 멈춰버립니다. 여기서 **설명 가능한 AI(Explainable AI, XAI)**가 등장합니다. 보통 XAI는 컴퓨터가 왜 그런 결정을 내렸는지 우리가 이해할 수 있도록 돕는 번역가 역할을 합니다. 하지만 만약 우리가 이 대본을 뒤집을 수 있다면 어떨까요? 만약 우리가 그 번역기를 단순히 정답을 설명하는 데 쓰는 것이 아니라, 컴퓨터가 읽기 전에 어떤 부분의 이야기가 실제로 중요한지 알려주어 나머지 부분을 버릴 수 있게 만든다면 어떨까요? 그것이 바로 이 논문이 탐구하는 핵심 질문입니다: "왜(why)"라는 질문을 사용하여 "어떻게(how)"를 훨씬 더 빠르고 가볍게 만들 수 있을까?

탐정의 지름길: drXAI

이 논문에서 연구진은 drXAI(Data Reduction with XAI, XAI를 이용한 데이터 축소)라는 영리한 새로운 도구를 소개합니다. 이것을 시계열 데이터를 위한 매우 똑똑한 편집기라고 생각해보세요. 이 도구의 임무는 거대하고 무질서한 데이터셋을 살펴보고 이렇게 말하는 것입니다. "이봐, 이 중 90%는 그냥 노이즈일 뿐이야! 컴퓨터가 좋은 것에만 집중할 수 있도록 나머지는 잘라내자."

보통 우리가 컴퓨터에게 시계열 데이터를 분류하는 법(예를 들어, 센서 데이터를 바탕으로 뛰고 있는 개와 자고 있는 개의 차이를 구별하는 법)을 가르치고 싶을 때, 우리는 강력하고 복잡한 모델을 사용합니다. 이 모델들은 마치 천재적이지만 식탐이 많은 요리사와 같습니다. 그들은 음식을 만들기 위해 엄청난 양의 재료(데이터)와 거대한 주방(컴퓨터 메모리)을 필요로 합니다. 만약 재료가 너무 많으면 주방이 폭발해 버립니다(컴퓨터의 메모리가 부족해짐).

저자들은 우리에게 이런 천재적인 요리사들이 있지만, 재료가 주방에 도착하기 전에 필터링하는 데는 서툴다는 점을 깨달았습니다. 그래서 그들은 drXAI를 사용하여 두 단계의 과정을 구축했습니다:

1. 빠른 맛보기 테스트: 먼저, 그들은 Hydra(빠르게 맛을 보는 보조 요리사라고 생각하세요)라는 빠르고 가벼운 모델을 사용하여 데이터의 작은 샘플을 살펴봅니다. 이 보조 요리사는 그래픽 카드 위에서 큰 무리 없이 돌아갈 만큼 빠릅니다.
2. "왜" 분석: 다음으로, 그들은 설명 가능한 AI 기술을 사용합니다. 단순히 보조 요리사에게 "이것이 무엇인가요?"라고 묻는 대신, "왜 이것이 개라고 생각했나요?"라고 묻습니다. AI는 결정에 있어 어떤 부분의 데이터(어느 시점 혹은 어느 센서)가 중요했는지를 강조하는 "기여도(attribution)" 지도를 생성합니다.
3. 위대한 정리: 연구진은 그런 다음 이 모든 "중요도 지도"를 결합합니다. 그들은 "엘보우 컷(elbow cut)"(곡선이 계속 올라가다가 평평해지기 시작하는 지점까지 구부리는 것을 상상해 보세요)이라는 영리한 기술을 사용하여 어디에서 선을 그을지 자동으로 결정합니다. 그들은 중요한 상위 특징들만 남기고 나머지는 버립니다.

결과: 지방은 걷어내고 근육은 남기다

연구팀은 이 아이디어를 가공의 데이터(어느 부분이 중요한지 정확히 알고 있는 데이터)와 실제 세계의 데이터(고래 소리, 군사 훈련, 심장 박동 등) 모두에 테스트했습니다.

가공의 데이터에서: 결과는 마치 마술 같았습니다. 전통적인 방법으로 중요한 부분을 골라내려 했을 때, 그들은 종종 잘못된 단서를 잡거나 올바른 단서를 놓쳤습니다. 하지만 drXXAI는 어땠을까요? 정확했습니다. 한 테스트에서 drXAI는 20개 중 19개의 중요한 채널을 성공적으로 골라낸 반면, 다른 방법들은 절반도 찾지 못해 헤맸습니다. drXAI는 어떤 센서가 말을 하고 있고 어떤 것이 그저 소음만 내고 있는지 정확히 알고 있었습니다.

실제 세계의 데이터에서: 그 영향은 더욱 극적이었습니다. 연구진은 drXAI가 컴퓨터의 정확한 예측 능력을 해치지 않으면서도 데이터(시점 또는 센서)의 **80%에서 90%**를 버릴 수 있다는 것을 발견했습니다. 실제로 많은 경우, 컴퓨터는 거대하고 무질서한 원래 데이터셋에서만큼이나 작고 깔끔하게 정리된 데이터셋에서도 똑같이 우수한 성능을 보였습니다.

하지만 진짜 놀라운 순간은 고성능 모델에서 왔습니다. ConvTran이라는 매우 강력한 모델이 있는데, 이 모델은 너무 많은 메모리를 필요로 하기 때문에 거대한 데이터셋에서는 실행하기가 어렵습니다. 연구진은 44,000개의 시점이 있는 데이터셋에서 이를 실행하려 했고, 모델은 즉시 충돌하며 멈췄습니다. 그러나 drXAI를 사용하여 데이터를 줄인 후, ConvTran은 성공적으로 실행되어 정확한 예측을 할 수 있었습니다. 그것은 마치 거대하고 무거운 코끼리에게서 짐을 제거하여 쥐구멍을 통과할 수 있도록 가르치는 것과 같았습니다.

이것이 미래에 의미하는 바

이 논문은 우리가 초강력 모델을 갖는 것과 관리 가능한 양의 데이터를 갖는 것 사이에서 하나를 선택할 필요가 없음을 시사합니다. XAI를 단순히 결정을 설명하는 용도가 아니라, 최적의 데이터를 선택하는 용도로 사용함으로써, 우리는 강력한 AI를 다시 확장 가능하게(scalable) 만들 수 있습니다.

연구진은 또한 비교를 위해 그들의 AI가 사용하는 다양한 "배경(background)"들도 테스트했습니다. 그들은 "제로(zero)" 배경(누락된 데이터를 단순히 침묵으로 간 Treating)을 사용하는 것이 "프로토타입(prototype)" 배경(누락된 데이터가 해당 그룹의 평균처럼 보이도록 하는 것)을 사용하는 것보다 좋지 않다는 것을 발견했습니다. 이는 문장에서 빠진 단어를 추측하는 것과 같습니다. 그것을 빈칸으로 가정하는 것보다, 그 주제에서 가장 흔한 단어로 추측하는 것이 더 도움이 됩니다.

요약하자면, drXAI는 때때로 숲을 명확하게 보기 위해 모든 잎사귀를 셀 필요가 없다는 것을 보여줍니다. 당신은 그저 어떤 잎사귀가 가장 흥미로운지 알면 되고, 나머지는 떨어지도록 내버려 두면 됩니다. 이 접근 방식은 우리가 컴퓨터가 메모리 부족으로 멈추게 하지 않으면서도, 이전에는 너무 커서 다룰 수 없었던 데이터셋을 가지고 더 똑똑하고 빠르게 학습할 수 있게 해줍니다.