기술 요약: MAR-ECG

문제 정의

12 유도 심전도 (ECG) 는 밀리초 단위 파형 형태학에서 수 초 단위 리듬 역학에 이르기까지 진단 정보를 포함하는 복잡한 시공간 신호입니다. 기존 표현 학습 접근법은 두 가지 주요 한계에 직면해 있습니다:

1. 신호 전용 자기지도 학습 (SSL): 라벨이 없는 데이터에서 마스킹 패치 재구성, 잠재 예측, 또는 대조 학습을 활용하는 방법들은 종종 저수준 형태학 구조를 학습하지만, 하류 진단 작업에 필요한 구조화된 임상 관계를 포착하지 못합니다.
2. 멀티모달 ECG-텍스트 정렬: ECG 신호와 짝을 이루는 임상 보고서를 정렬하는 CLIP 스타일 방법은 최첨단 (SOTA) 성능을 달성하지만, 병원이나 언어 간에 잘 전이되지 않는 비싸고 라이선스가 필요한 텍스트 코퍼스에 의존합니다. 또한, ECG 보고서는 종종 템플릿화되어 있어 자유 텍스트 방사선 보고서에 비해 변별력 있는 신호가 부족한 통합 텍스트 임베딩을 생성합니다.

중요하게도, 두 패러다임 모두 거의 모든 임상 기록에서 이용 가능한 구조화된 자원인 SNOMED-CT 진단 코드를 간과합니다. 이러한 코드들은 자유 텍스트 내러티브보다 더 정확하게 임상 관계 (예: 부모 - 자식 계층 구조, 형제 동시 발생) 를 인코딩하는 큐레이션된 심장 온톨로지를 형성하며, 기관 간에 표준화되어 있습니다.

방법론: MAR-ECG

저자들은 짝을 이루는 임상 텍스트 대신 큐레이션된 40 노드 SNOMED-CT 심장 개념 그래프 ($G$) 를 사용하여 인코더를 직접 감독하는 온톨로지 기반 프레임워크인 MAR-ECG(ECG 를 위한 마스킹 자기회귀 표현) 를 제안합니다. 이 프레임워크는 마스킹 자기회귀 (MAR) 백본과 두 가지 상호 보완적인 온톨로지 기반 목적 함수를 결합합니다.

1. 백본 아키텍처

• 입력 토큰화: 12 유도 ECG 신호는 유도별 중첩된 시간 패치로 세그먼트됩니다. 공유 선형 투영이 이러한 패치를 토큰으로 임베딩하며, 학습 가능한 유도 및 위치 임베딩으로 증강됩니다.
• 인코더: 양방향 트랜스포머는 분해된 공간 - 시간 어텐션을 사용합니다. 이는 먼저 단일 시간 단계에서 12 유도 간에 어텐션을 수행한 다음, 단일 유도 내에서 시간에 따라 어텐션을 수행합니다. 이는 복잡도를 $O(C^2T^2)$에서 $O(CT^2 + C^2T)$로 줄이면서 ECG 패턴이 두 축의 상호작용에서 발생한다는 귀납적 편향을 유지합니다.
• 마스킹 자기회귀 재구성: (유도, 패치) 쌍의 일부가 마스킹됩니다. 인과적 디코더는 인코더의 전체 양방향 컨텍스트를 조건으로 하여 원래 패치 값을 예측합니다. 이는 주요 사전 학습 앵커 역할을 합니다.

2. 그래프-부드러운 대조 학습 (GSCL)

이 목적 함수는 (유도와 시간에 걸쳐 집계된) 리듬 풀링 표현을 SNOMED 그래프에 앵커링합니다.

• 소프트 타겟: 하드 원-핫 라벨 대신 GSCL은 주요 양의 개념 ($c^*_b$) 과 그래프 내 모든 다른 노드 간의 그래프 측지선 거리($D_{tree}$) 에서 파생된 소프트 타겟 분포를 사용합니다.
• 메커니즘: 개념 $c$에 대한 타겟 확률은 $\exp(-D_{tree}[c^*_b, c] / \sigma)$에 비례합니다. 이는 임상적으로 관련된 개념 (예: 부모 루트, 형제 단축 경로) 이 하드 음이 아닌 "소프트 양"으로 작용하여 인코더의 임상 계층 구조 이해를 강화함을 보장합니다.
• 프로토타입 생성: 개념 프로토타입은 고정된 그래프 인접성에 적용된 경량 그래프 합성곱 네트워크 (GCN) 를 통해 동적으로 생성되어, 구조적 유사성이 표현 공간에 주입되도록 합니다.

3. 다중 스케일 생리학적 감독 (MSPS)

GSCL(샘플 수준에서 작동) 의 간극을 해결하기 위해 MSPS는 패치별 (유도 평균) 표현에 경량 보조 헤드를 도입합니다:

• 패치 리듬 보조: 모든 패치에 브로드캐스트되는 샘플 수준 리듬 통계 (평균 R-R 간격, 변동성, 심박수 버킷, 교대 플래그) 를 예측합니다.
• 패치 위치 보조: 비지도 R-피크 검출을 기반으로 시퀀스 위치 버킷과 R-피크 위상 (PRE-R, R, ST, T-파) 을 예측합니다.
• 이점: 이는 추가 주석이 없이도 박동 및 리듬 스케일로 감독을 확장하여 토큰 붕괴를 방지하고 모델을 생리학적 랜드마크에 앵커링합니다.

4. 학습 목적 함수

총 손실은 마스킹 자기회귀 재구성 손실과 GSCL, MSPS, 그리고 표준 보조 정규화 요소 (잠재 예측, 뷰 대조, 레거시 멀티 프로토타입 개념 - 텍스트 정렬 헤드를 포함) 를 결합합니다. 디코더는 사전 학습 후 폐기되며, 하류 평가를 위해 인코더만 유지됩니다.

주요 기여

1. 온톨로지 기반 사전 학습: MAR-ECG는 짝을 이루는 임상 텍스트의 필요성을 제거하고 온톨로지 - 그래프 구조를 주요 사전 학습 목적 함수로 사용하는 최초의 자기지도 ECG 방법입니다.
2. 그래프-부드러운 대조 학습: 그래프 측지선 거리를 사용하여 InfoNCE 타겟 분포를 부드럽게 하는 새로운 대조 목적 함수를 도입하여, 임상적으로 관련된 개념들이 서로를 강화하도록 합니다.
3. 다중 스케일 생리학적 감독: 자동으로 추출된 생리학적 통계를 사용하여 패치 및 박동 수준으로 샘플 수준을 넘어선 감독을 확장하여 형태학과 리듬 역학 간의 간극을 해소합니다.
4. 자원 효율성: 자유 텍스트 보고서 대신 임상 워크플로우에 내재된 SNOMED-CT 코드를 활용함으로써 라이선스 장벽과 교차 언어 전이 문제를 회피합니다.

결과

이 모델은 SNOMED-CT 코드가 포함된 약 40,000 개의 공개 12 유도 ECG 로 사전 학습되었으며, PTB-XL 및 CPSC2018 하위 집합을 포함한 다섯 가지 하류 분류 벤치마크에서 고정된 선형 프로빙을 통해 평가되었습니다.

• 베이스라인 대비 성능: MAR-ECG는 강력한 마스킹 자기회귀 베이스라인 (예: C1 구성) 보다 일관되게 우수한 성능을 발휘합니다. 저레이블 환경 (1% 및 10% 레이블) 에서 GSCL(C2) 을 추가하면 상당한 향상을 보입니다 (예: 1% 레이블에서 PTBXL-Rhythm 의 AUC +16.99).
• 멀티모달 방법과의 비교: 짝을 이루는 임상 텍스트가 없음에도 불구하고 MAR-ECG는 SOTA 멀티모달 ECG-텍스트 방법 (예: MERL, MELP, D-BETA) 과 경쟁력 있는 성능을 달성합니다. 구체적으로 MAR-ECG(C2) 는 15 개 평가 셀 중 9 개에서 멀티모달 베이스라인과 일치하거나 능가합니다.
• 애블레이션: 다중 스케일 생리학적 감독 (C3) 의 추가는 리듬 중심 작업의 성능을 더욱 선명하게 하지만, 형태학 전용 작업에서는 약간의 트레이드오프를 초래합니다.

중요성 및 주장

본 논문은 구조화된 진단 온톨로지가 ECG 표현 학습에서 자유 텍스트 감독을 효과적으로 대체할 수 있다고 주장합니다. 인코더를 SNOMED-CT 그래프에 직접 정렬함으로써 MAR-ECG 는 멀티모달 접근법의 데이터 제약 없이 하류 작업에 필요한 임상 관계를 포착합니다. 저자들은 이 접근법이 짝을 이루는 임상 텍스트가 없거나 표준화되지 않은 환경에서 특히 견고한 ECG 기반 모델 개발을 위한 확장 가능하고 라이선스가 없는 대안을 제공한다고 봅니다. 재현성을 촉진하기 위해 구현이 공개되었습니다.