기술 요약: LSTrans

문제 정의

자원 제약이 있는 웨어러블 기기 및 인터넷 의료 사물 인터넷(IoHT) 노드에 딥러로닝 모델을 배포하여 자동 심전도(ECG) 분류를 수행하는 데에는 상당한 장벽이 존재한다. 표준 심층 네트워크는 에지 하드웨어의 엄격한 제한을 초과하는 높은 계산 비용과 메모리 점유율을 초축한다. 기존 솔루션들이 이를 해결하려고 시도하고 있으나, 다음과 같은 구체적인 트레이드오프 문제를 겪는다:

• 복잡한 아키텍처: 다중 브랜치 설계(예: ECGTransForm, MTA-Net)는 필요한 시공간적 특징을 포착하지만 과도한 계산 오버헤드를 발생시킨다.
• 제한된 범위: 경량 네트워크(예: CrossStateECG-Lite)는 종종 다중 리드(multi-lead), 다중 라벨 임상 진단을 지원하지 못하며, 단일 리드 생체 인식 설정에 국한되는 경향이 있다.
• 변환 아티팩트: 1D ECG 신호를 2D 스펙트로그램으로 변환하는 방식(예: HMT-KD)은 위상 정렬 오류와 추가적인 계산 비용을 유발한다.
• 압축 위험: 직접적인 모델 압축은 진단 재현율(recall)을 저하시켜, 미세한 형태학적 이상에 대한 치명적인 위음성 진단으로 이어질 수 있다.

결과적으로, 높은 진단 민감도(특히 희귀 이상 징후에 대해)와 최소한의 메모리 사용량 및 학습 지연 시간 사이의 균형을 맞추는 모델이 필요하다.

방법론

저자들은 거시적인 리듬 추세와 미시적인 형태학적 변화를 모두 효율적으로 포착하도록 설계된 경량 하이브리드 모델인 LSTrans를 제안한다. 이 프레임워크는 특화된 1D 컨볼루션 백본을 트랜스포머 인코더와 통합하며, 저차원 적응(LoRA) 및 지식 증류(KD)를 통해 최적화된다.

1. 1D-LSNet 백본

LSTrans는 신호를 2D로 변환하는 대신, 계층적 시간 추상화를 통해 원시 1D ECG 신호를 직접 처리한다. 백본은 듀얼 스케일 특징 포착의 균형을 맞추기 위해 짝수 인덱스 레이어와 홀수 인덱스 레이어를 교차하는 인터리브(interleaved) 구조를 특징으로 한다:

• 짝수 인덱스 레이어 (국소 미세 형태학): 이 레이어들은 **재매개변수화 모듈(RepVGGDW)**과 **Squeeze-and-Excitation (SE)**을 결파하여 사용한다. RepVGGDW는 다중 스케일 시간 패턴(예: ST 분절 상승, Q파)을 포착하며, 추론 시에는 단일 커널로 폴딩되어 지연 시간이 제로(zero)가 된다. SE 블록은 채널 가중치를 동적으로 재보정하여 배경 아티팩트를 억제하고 진단적으로 유의미한 리드를 강조한다.
• 홀수 인덱스 레이어 (전역 문맥 및 노이즈 필터링): 이 레이어들은 대형 커널 인지(LKP) 및 소형 커널 집계(SKA) 모듈을 채택한다. LKP는 시간적 문맥으로부터 동적 가중치를 생성하여 비정상적 신호 변동에 적응한다. SKA는 이러한 가중치를 국소 고해상도 윈도우에 적용하여 기선(baseline) 노이즈를 필터링하고 중요한 피크를 강조한다. 마지막 단계(Stage 3)에서는 장기 의존성(예: 불규칙한 간격)을 모델링하기 위해 1D 멀티 헤드 셀프 어텐션 메커니즘이 도입된다.

2. 트랜스포머 통합 및 LoRA

1D-LSNet의 출력은 장기 심장 리듬 의존성을 모델링하기 위해 트랜스포머 인코더로 전달된다. 파라미터 효율성을 보장하기 위해 저자들은 **저차원 적응(LoRA)**을 사용한다:

• 전략적 랭크 할당: 컨볼루션 레이어(QRS 복합체와 같은 변환 불변 모티프를 추출)에는 최소 랭크($r_c=4$)를 할당하여 고주파 노이즈에 대한 정규화 역할을 수행하게 한다. 반면, 전역 시간 역학의 높은 고유 차원을 보존하기 위해 트랜스포머 믹서에는 더 높은 랭크($r_t=16$)를 할당한다.
• 프리징 전략: 백본은 사전 학습된 형태학적 표현을 보존하기 위해 대부분 동결되며, 미세 조정 중에는 저차원 어댑터만 업데이트된다. 이는 파괴적 망각을 방지하고 최적화 궤적을 안정화한다.

3. 지식 증류 프레임워크

고용량 교사 모델로부터 경량 학생 모델로 진단 전문 지식을 전달하기 위해 두 가지 패러다임을 탐구한다:

• 동종 증류 (KD-Homo): 동일한 인터리브 백본 구조를 가진 교사를 사용하여, 동일한 구조적 매니폴드 내에서 자기 개선을 강제한다.
• 이종 증류 (KD-Hetero): 무거운 잔차 네트워크(residual network)와 트랜스포머 교사를 활용한다. 이를 통해 학생 모델은 다양한 과잉 매개변수화된 구조적 사전 지식을 상속받아, 심층 하이브리드 모델의 표현 능력을 효과적으로 모방할 수 있다.

학습 목적 함수는 바이너리 크로스 엔트로피 손실과 온도 인자 $T$ 및 균형 하이퍼파라미터 $\alpha$에 의해 스케일링된 증류 손실을 결합한다.

주요 기여

1. 리팩토링된 1D-LSNet: 저자들은 2D 헤테로스케일 패러다임을 특화된 1D 백본으로 리팩토링하여, 핵심적인 형태학적 표현을 유지하면서도 원시 ECG 신호를 직접 처리함으로써 효율성을 극대화했다.
2. 인터리브 아키텍처: 전역 문맥을 위한 동적 대형 커널 필터와 국소 형태학을 위한 다중 스케일 리드 주의 단위(lead-attentive units)를 결합한 교차 블록 설계를 통해, 다운샘플링 중 발생하는 신호 저하를 방지하고 위음성 오류를 최소화한다.
3. 다양한 증류 전략: 본 논문은 동종 및 이종 증류를 체계적으로 분석하여, 구조화된 교사-학생 전이가 제한된 자원 환경에서도 진단 민감도를 효과적으로 회복시킴을 입증했다.

실험 결과

실험은 환자 분리 기반의 10-겹 교차 검증 프로토콜을 따라 세 가지 12리드 ECG 데이터셋(G12EC, PTB-XL, Chapman-Shaoxing)에서 수행되었다.

• 성능: LSTrans (Hetero+LoRA) 변형은 평균 AUC 0.949와 평균 $F_{\beta=2}$ 점수 0.716을 달성했다. 이는 H-Tuning 및 CE-SSL과 같은 특화된 경량 베이스라인 모델보다 우수한 성능을 보였으며, 각각 $F_{\beta=2}$ 점수에서 약 14.6% 및 29.5%의 상대적 개선을 나타냈다.
• 파운데이션 모델과의 비교: 훨씬 적은 파라미터(학생 모델 3.19M vs. ECG-Founder 30.68M)에도 불구하고, LSTrans는 대규모 파운데이션 모델의 성능에 근접하였으며, PTB-XL에서 매크로 $G_{\beta=2}$ 격차를 단 0.036 포인트로 좁혔다.
• 효율성: LSTrans는 상당한 효율성 이득을 입증했다:
  • ECG-Founder 대비 피크 GPU 메모리 점유율을 약 36.4%, H-Tuning 대비 41.09% 감소시켰다.
  • 평균 학습 실행 시간을 ECG-Founder 대비 거의 3배, H-Tuning 대비 4.77배 가속화했다.

의의 및 한계점

본 논문은 LSTrans가 진단 민감도와 자원 효율성 사이의 경쟁력 있는 균형을 제공하여, 메모리와 전력이 제한된 에지 장치 배포에 적합하다고 주장한다. 특화된 1D 백본을 효율적인 적응 및 증류와 결합함으로써, 미세한 심장 이상 징후 탐지 능력을 저해하지 않으면서도 피크 메모리 점유율과 학습 지연 시간을 줄였다.

저자들은 다음과 같은 몇 가지 한계를 인정한다:

• 효율성 평가는 학습 단계의 메트릭을 기준으로 하며, 비-GPU 에지 하드웨어에서의 실제 추론 지연 시간은 측정되지 않았다.
• 동적 컨볼루션에서의 런타임 가중치 생성은 자원이 제한된 플랫폼에서 제어 흐름(control-flow) 오버헤드를 발생시킬 수 있다.
• 일반화 능력은 대규모 사전 학습에 의존한다.

향후 연구는 동적 연산자 최적화, 실제 에지 지연 시간 측정, 그리고 웨어러블 ECG 패치를 이용한 임상 검증에 집중할 것을 제안한다.