Electrocardiogram Classification with Transformers Using Koopman and Wavelet Features

이 논문은 확장 동적 모드 분해 (EDMD) 를 활용한 koopman 연산자 기반 특징과 트랜스포머를 결합하여 심전도 (ECG) 다중 클래스 분류에서 기존 웨이블릿 방법보다 우수한 성능을 달성하고, 특히 적절한 EDMD 사전 (라디얼 기저 함수) 선택의 중요성을 규명했습니다.

핵심

🏥 배경: 심장의 소리를 듣는 일

심전도는 심장이 뛰는 소리와 리듬을 기록한 그래프입니다. 의사는 이 그래프를 보고 "심장이 정상인가?" 아니면 "부정맥이나 다른 문제가 있는가?"를 판단합니다. 하지만 심장은 사람마다 다르고, 데이터도 복잡해서 컴퓨터가 자동으로 정확히 진단하는 것은 매우 어렵습니다.

기존에는 **CNN(합성곱 신경망)**이나 RNN(순환 신경망) 같은 인공지능을 썼는데, 이들은 "정답을 맞출 수는 있지만, 왜 그런 결론을 내렸는지 설명하기 어렵고 (블랙박스), 심장의 복잡한 움직임 원리를 잘 이해하지 못한다"는 단점이 있었습니다.

🔍 이 연구의 핵심 아이디어: 두 가지 새로운 도구

연구진은 두 가지 새로운 도구를 가져와서 심전도 데이터를 분석했습니다.

1. 웨이브렛 (Wavelet): "고해상도 현미경"

• 비유: 심전도 그래프를 확대경으로 자세히 보는 것과 같습니다.
• 역할: 심장의 리듬이 갑자기 변하는 순간이나, 특정 시간대에만 나타나는 이상 신호를 아주 정밀하게 잡아냅니다. 마치 사진의 특정 부분만 확대해서 노이즈를 찾는 것과 비슷합니다.
• 결과: "정상인가, 아닌가?"를 2 가지로만 구분하는 간단한 문제에서는 이 웨이브렛이 가장 잘 작동했습니다.

2. 쿠프만 (Koopman) 연산자: "무한한 레이어의 투명 유리"

• 비유: 심장의 복잡한 움직임 (비선형) 을 3 차원 공간으로 펼쳐서, 마치 투명한 유리판 위에 투영하는 것과 같습니다. 원래는 복잡하게 꼬여 있는 실을, 유리판 위에서는 일직선으로 펴져서 보게 됩니다.
• 역할: 심장이 어떻게 움직이는지 그 **원리 (동역학)**를 수학적으로 파악합니다. 단순히 모양을 보는 게 아니라, "심장이 왜 이렇게 뛰는지" 그 패턴의 본질을 찾아냅니다.
• 결과: "정상, 심방세동, 심실 부정맥, 전도 차단"처럼 4 가지로 세밀하게 구분하는 복잡한 문제에서는 이 쿠프만 방식이 훨씬 더 뛰어났습니다.

🧪 실험 과정: 어떤 조합이 가장 좋을까?

연구진은 이 두 도구를 **최신 AI 모델인 '트랜스포머'**와 결합해 보았습니다. 트랜스포머는 긴 문장을 이해하는 데 탁월한 AI 모델인데, 심전도 같은 긴 시간 데이터를 분석하는 데도 아주 강력합니다.

1. 웨이브렛 + 트랜스포머: 간단한 진단 (정상 vs 비정상) 에는 아주 잘 작동했습니다.
2. 쿠프만 + 트랜스포머: 처음엔 웨이브렛보다 못했지만, 수학적인 설정 (파라미터) 을 꼼꼼하게 조정하자 성능이 폭발적으로 좋아졌습니다.
3. 둘을 섞은 것 (하이브리드): "두 가지를 다 쓰면 더 좋지 않을까?" 해서 두 데이터를 붙여 넣었는데, 오히려 성능이 떨어졌습니다.
   • 이유: 두 가지 정보가 서로 겹치는 부분이 많아서 AI 가 혼란을 느꼈기 때문입니다. (비유하자면, 같은 장소를 설명할 때 "지도"와 "GPS"를 동시에 보여주는데 둘이 서로 다른 길을 가리키면 운전자가 헷갈리는 것과 같습니다.)

🏆 결론: "맞춤형 쿠프만"이 승리했다!

가장 중요한 발견은 **"단순히 쿠프만을 쓰는 게 아니라, 데이터에 딱 맞게 설정을 다듬는 것"**이었습니다.

• 최고의 성적: 설정을 잘 다듬은 쿠프만 + 트랜스포머 조합이 모든 진단에서 가장 높은 정확도를 냈습니다.
• 해석 가능성: 쿠프만 방식은 단순히 점수만 주는 게 아니라, "심장이 어떤 리듬 패턴 (진동) 으로 움직이는지"를 수학적으로 보여줍니다. 덕분에 AI 가 왜 그 병을 진단했는지 의사가 이해할 수 있는 이해 가능한 (Interpretable) 결과를 줍니다.

💡 요약: 이 연구가 우리에게 주는 메시지

1. 복잡한 심장의 움직임을 분석할 때는, 단순히 모양을 보는 것 (웨이브렛) 보다 움직임의 원리를 파악하는 것 (쿠프만) 이 더 정교한 진단을 가능하게 합니다.
2. **AI 모델 (트랜스포머)**은 이 원리를 잘 이해하고 활용하면, 기존 방식보다 훨씬 똑똑한 진단을 할 수 있습니다.
3. 무조건 섞는 것보다, 각 방법의 장점을 살려서 **데이터에 맞게 세밀하게 조정 (튜닝)**하는 것이 중요합니다.

이 연구는 앞으로 심전도뿐만 아니라 뇌파 (EEG) 나 다른 생체 신호를 분석할 때도, 수학적 원리와 AI 를 잘 섞으면 더 정확하고 안전한 진단이 가능해질 것임을 보여줍니다.

기술 요약

1. 연구 배경 및 문제 정의 (Problem)

• 배경: 심전도 (ECG) 분석은 심장 이상을 감지하는 데 필수적이지만, 생리학적 신호의 복잡성과 변동성으로 인해 견고한 자동 분류를 수행하는 것은 여전히 어렵습니다.
• 기존 방법의 한계:
  • 전통적인 방법은 손으로 설계된 시간/주파수 영역 특징에 의존합니다.
  • 딥러닝 모델 (CNN, RNN) 은 강력한 성능을 보이지만, 해석 가능성 (Interpretability) 이 부족하고 생리학적 역동성을 포착하는 데 한계가 있습니다.
• 연구 목표: 비선형 동역학 이론 (Koopman 연산자) 과 심층 시퀀스 모델 (Transformer) 을 결합하여 ECG 분류의 성능과 해석 가능성을 동시에 향상시키는 새로운 프레임워크를 제안하고 평가하는 것입니다.

2. 방법론 (Methodology)

이 연구는 MIMIC-IV-ECG 데이터셋을 기반으로 하며, 두 가지 주요 분류 태스크 (이진 분류: 정상 vs 비정상, 4 클래스 분류: 정상, 심방세동, 심실 부정맥, 전도 차단) 를 수행했습니다.

핵심 구성 요소:

1. Koopman 연산자 기반 특징 추출 (EDMD):
   • 비선형 동역학을 무한 차원 함수 공간에서의 선형 진화로 재구성하는 Koopman 연산자 프레임워크를 사용했습니다.
   • 확장 동적 모드 분해 (EDMD, Extended Dynamic Mode Decomposition) 를 사용하여 Koopman 연산자를 근사화했습니다.
   • 기저 함수 (Dictionary): 단순한 선형 결합을 넘어 더 풍부한 정보를 포착하기 위해 방사형 기저 함수 (RBF) 딕셔너리를 사용했습니다.
   • 특징: 고유 스펙트럼 (고유값, 고유벡터) 의 실수/허수 성분, 크기, 성장률 등을 시계열 토큰으로 변환하여 Transformer 에 입력했습니다.
2. Wavelet 특징 추출:
   • 비교를 위해 이산 웨이블릿 변환 (DWT) 을 사용하여 다중 해상도 시간 - 주파수 표현을 생성했습니다.
3. Transformer 분류기:
   • 추출된 특징 (Koopman 또는 Wavelet) 을 임베딩하여 Transformer 인코더에 입력하고, 분류 헤드를 통해 클래스를 예측했습니다.
4. 하이브리드 및 개선 전략:
   • 하이브리드 접근: Wavelet 과 Koopman 특징을 단순히 연결 (Concatenation) 하여 입력하는 방식.
   • Koopman 특징 정제 (Refinement): EDMD 의 하이퍼파라미터 (지연 임베딩 차원, RBF 중심 수, 커널 대역폭, 스펙트럼 잘림 등) 를 체계적으로 튜닝하여 특징의 질을 높였습니다.
5. 재구성 분석:
   • Koopman 연산자가 ECG 신호의 역동성을 얼마나 잘 포착하는지 검증하기 위해 주요 모드 (Dominant modes) 를 사용하여 신호를 재구성하고 오차를 측정했습니다.

3. 주요 기여 (Key Contributions)

1. Koopman 기반 특징과 Transformer 의 체계적 평가: ECG 분류를 위해 Koopman 연산자 기반 특징을 Transformer 와 결합한 최초의 체계적인 연구 중 하나입니다.
2. 웨이블릿 기반 베이스라인 비교 및 강점 규명: 웨이블릿 특징이 이진 분류에서 우세한 반면, Koopman 특징이 다중 클래스 분류에서 더 우수함을 실험적으로 입증했습니다.
3. Koopman 특징 추출의 최적화 제안: RBF 딕셔너리와 정교한 하이퍼파라미터 튜닝을 통해 Koopman 기반 모델의 성능을 획기적으로 개선하여, 웨이블릿 기반 모델과 하이브리드 모델을 모두 능가하는 결과를 도출했습니다.
4. 해석 가능한 역동성 분석: Koopman 고유값 스펙트럼과 모드 재구성을 통해 학습된 심박동 역학 (P, QRS, T 파형 등) 을 시각화하고 해석 가능한 통찰을 제공했습니다.

4. 실험 결과 (Results)

• 성능 지표 (F1 점수, 테스트 세트 5 회 평균):
  • 이진 분류 (Normal vs Non-normal):
    • Wavelet + Transformer: 0.750
    • 초기 Koopman + Transformer: 0.697 (부진함)
    • 최종 Koopman + Transformer (튜닝 후): 0.786 (최고 성능)
    • 하이브리드 (Wavelet + Koopman): 0.677 (성능 저하)
  • 4 클래스 분류:
    • Wavelet + Transformer: 0.700
    • 최종 Koopman + Transformer (튜닝 후): 0.764 (최고 성능)
    • 하이브리드: 0.533 (심각한 성능 저하)
• 주요 발견:
  • 단순 결합의 실패: Wavelet 과 Koopman 특징을 단순히 연결하는 하이브리드 방식은 오히려 성능을 떨어뜨렸습니다. 이는 두 특징 공간이 상호 보완적이기보다는 부분적으로 중복되거나 정렬되지 않았음을 시사합니다.
  • 튜닝의 중요성: 초기 Koopman 모델은 성능이 낮았으나, EDMD 파라미터 (RBF 중심, 커널 폭 등) 를 정밀하게 튜닝한 후 Transformer 와 결합했을 때 가장 우수한 성능을 기록했습니다.
  • 재구성 정확도: EDMD 기반 재구성은 P-QRS-T 파형의 형태와 박동 간 타이밍을 매우 정확하게 복원하여, Koopman 연산자가 ECG 의 핵심 역동성을 잘 포착함을 입증했습니다.
  • 계산 효율성: Raw ECG 를 직접 학습하는 RNN 에 비해 특징 기반 (Koopman/Wavelet) 접근법은 확장성이 더 우수하고 계산 비용이 효율적입니다.

5. 의의 및 결론 (Significance)

• 동역학 이론과 딥러닝의 융합: 비선형 동역학 시스템 이론 (Koopman) 을 생체 신호 분류에 성공적으로 적용하여, 단순한 패턴 인식을 넘어 신호의 물리적/생리학적 역동성을 학습하는 새로운 패러다임을 제시했습니다.
• 해석 가능성 강화: Koopman 고유 스펙트럼 분석을 통해 모델이 어떤 진동 모드 (예: 심실 탈분극, 재분극) 에 기반하여 결정을 내리는지 해석할 수 있는 창을 제공했습니다.
• 미래 방향:
  • 현재는 단일 데이터셋 (MIMIC-IV) 에서만 검증되었으며, 다양한 데이터셋으로의 일반화 필요.
  • 특징 융합 전략 (단순 연결이 아닌 어텐션 기반 융합 등) 에 대한 추가 연구 필요.
  • 임상 전문가와의 검증 및 EEG, PPG 등 다른 생체 신호로의 확장 가능성 제시.

이 논문은 Koopman 기반 특징 학습이 Transformer 아키텍처와 결합될 때, 특히 다중 클래스 ECG 분류에서 기존 웨이블릿 기반 방법보다 우수한 성능과 해석 가능성을 제공할 수 있음을 입증했습니다.