CAMEL: An ECG Language Model for Forecasting Cardiac Events

이 논문은 ECG 신호와 텍스트 간의 교차 이해를 가능하게 하는 특수 인코더와 커리큘럼 학습을 통해 향후 심장 사건을 예측할 수 있는 최초의 ECG 언어 모델인 CAMEL 을 제안하고, 다양한 벤치마크에서 기존 모델들을 능가하는 성능을 입증했습니다.

핵심

이 논문은 **"CAMEL"**이라는 새로운 인공지능 모델을 소개합니다. 이 모델은 심전도 (ECG) 를 분석하는 '의사'이자 '예언자' 역할을 합니다.

기존의 심전도 AI 들이 단순히 "지금 심장이 어떻게 돌아가고 있나요?"라고 진단만 했다면, CAMEL 은 **"앞으로 몇 분 뒤에는 어떤 일이 일어날까요?"**라고 미래를 예측할 수 있는 최초의 모델입니다.

이 복잡한 기술을 일상적인 언어와 비유로 쉽게 설명해 드리겠습니다.

---

1. CAMEL 이란 무엇인가요? (심장 예언자)

상상해 보세요. 심전도 그래프는 심장이 뛰는 소리를 녹음한 음악 악보와 같습니다.
기존의 AI 들은 이 악보의 10 초 분량만 보고 "지금 리듬이 정상입니다"라고 말했죠. 하지만 CAMEL 은 수 분에서 수 시간 동안의 긴 악보를 한눈에 보며, "지금 이 리듬이 조금씩 변하고 있어요. 3 분 뒤에는 심장이 혼란스러워질 (부정맥) 가능성이 높습니다"라고 경고할 수 있습니다.

이것이 바로 CAMEL입니다. 심장의 미래 상태를 예측하여 의사가 환자를 미리 치료할 수 있게 도와주는 '초능력을 가진 심장 전문의'입니다.

2. 왜 기존 AI 는 못 했고, CAMEL 은 할 수 있나요?

기존 AI 의 한계: "짧은 사진"만 보는 것
기존 모델들은 심전도 데이터를 10 초짜리 짧은 사진처럼 잘라내서 분석했습니다. 마치 스냅샷을 찍어서 "지금 이 사람은 웃고 있네요"라고 말하는 것과 같습니다. 하지만 10 초만으로는 "내일 이 사람이 울지 않을지" 알 수 없습니다.

CAMEL 의 비법: "긴 영화"를 보는 것
CAMEL 은 10 초뿐만 아니라 수 분, 수 시간에 걸친 긴 심전도 데이터를 한 번에 볼 수 있습니다.

• 비유: 기존 AI 가 스냅샷이라면, CAMEL 은 긴 영화를 보고 있습니다. 영화의 초반부 (현재) 에서 미세한 변화 (주인공의 표정, 배경음악의 변화) 를 포착하면, 후반부 (미래) 에 어떤 사건이 일어날지 추측할 수 있죠.
• 핵심 기술: CAMEL 은 심전도 신호를 텍스트 (문장) 와 섞어서 이해합니다. "심장 박동이 1 초마다 이렇게 변했어"라는 데이터를 "문장"처럼 읽어서, 인간의 언어로 "이건 위험 신호야"라고 설명해 줍니다.

3. CAMEL 은 어떻게 배웠나요? (5 단계 교육 과정)

CAMEL 은 처음부터 모든 것을 알지 못했습니다. 마치 의대생이 단계별로 교육받는 것처럼 5 단계 커리큘럼을 통해 훈련되었습니다.

1. 1 단계 (자전공): 심전도 그래프를 보고 다시 그리는 연습을 하며 심장의 기본 모양을 익혔습니다.
2. 2 단계 (객관식/단답): "이 심장은 정상인가요, 비정상인가요?" 같은 간단한 문제를 풀며 분류법을 배웠습니다.
3. 3 단계 (통계 계산): 심박수, 리듬 간격 같은 숫자 (통계) 를 직접 계산하며 정확한 수치를 익혔습니다.
4. 4 단계 (대화): 환자와의 대화처럼, 심전도를 보고 "왜 이렇게 뛰나요?"라는 질문에 논리적으로 답변하는 연습을 했습니다.
5. 5 단계 (예측/예언): 가장 중요한 단계입니다. "지금 이 데이터를 보고 3 분 뒤에는 어떤 일이 일어날까요?"라고 질문하며, 과거의 데이터를 바탕으로 미래를 예측하는 능력을 길렀습니다.

4. 이 기술이 왜 중요한가요? (실제 효과)

이 연구팀은 ECGForecastBench라는 새로운 시험을 만들어 CAMEL 을 테스트했습니다. 결과는 놀라웠습니다.

• 기존 모델 vs CAMEL: 기존 모델들은 10 초 데이터만 보고 예측하려다 실패하거나, 아예 예측을 못 했습니다. 하지만 CAMEL 은 긴 데이터를 보고 정확도가 20% 이상 더 높았습니다.
• 실제 임상 가치: 예를 들어, 환자가 갑자기 심장이 멈출 수 있는 '심실성 빈맥' 같은 위험한 상태가 오기 3 분 전에 CAMEL 이 "지금 심장이 불안정해지고 있어요"라고 경고하면, 의사는 그 3 분 안에 약을 주거나 전기를 쏘아 생명을 구할 수 있습니다.

5. 요약: CAMEL 이 가져올 변화

이 논문은 **"심전도 AI 가 이제 '진단'을 넘어 '예측'의 시대를 열었다"**고 선언합니다.

• 과거: "지금 심장이 아프네요." (치료는 이미 늦을 수 있음)
• CAMEL: "지금 심장이 조금 불안정하네요. 3 분 뒤에 큰 문제가 생길 수 있으니 미리 대비하세요." (미리 예방 가능)

CAMEL 은 심전도라는 복잡한 데이터를 읽을 줄 아는 인공지능이 되어, 우리 모두의 심장이 멈추기 전에 미리 신호를 보내주는 지능형 심장 감시관이 될 것입니다.

기술 요약

1. 문제 정의 (Problem)

심전도 (ECG) 는 심혈관 질환 진단에 필수적이지만, 기존 심전도 언어 모델 (ELMs) 은 다음과 같은 한계를 가지고 있습니다.

• 단순 분류에 국한: 기존 모델들은 주로 10 초 길이의 ECG 신호를 입력받아 현재 상태를 분류하거나 보고서를 생성하는 데만 초점을 맞추고 있습니다.
• 예측 능력 부재: 환자의 미래 상태 (예: 향후 부정맥 발생) 를 예측하여 조기 개입을 가능하게 하는 기능은 거의 지원되지 않습니다.
• 짧은 컨텍스트: 대부분의 모델이 10 초 길이의 ECG 신호만 처리할 수 있어, 장기적인 심박수 변이성 (HRV) 이나 미세한 전조 증상을 포착하는 데 한계가 있습니다.
• 해석 가능성 부족: 기존 머신러닝 모델은 예측 결과에 대한 임상적 근거 (이유) 를 자연어로 설명하는 능력이 부족합니다.

2. 방법론 (Methodology)

A. CAMEL 아키텍처

CAMEL (Cardiac Autoregressive Model for ECG Language-Modeling) 은 심전도 신호의 긴 시간적 맥락을 이해하고 추론할 수 있는 최초의 범용 ELM 입니다.

• 하이브리드 구조:
  1. ECG 인코더: 1 초 길이의 ECG 신호 세그먼트를 3 층 CNN 을 통해 잠재 벡터 (64 차원) 로 변환한 후, 선형 프로젝션 레이어를 통해 LLM 의 토큰 공간 (2560 차원) 에 정렬합니다.
  2. LLM 백본: 의료 전문 지식을 가진 사전 학습된 모델인 MedGemma-4B를 기반으로 하며, LoRA (Low-Rank Adaptation) 어댑터를 사용하여 효율적으로 미세 조정됩니다.
• 토큰화 전략:
  • 각 1 초 길이의 ECG 세그먼트를 개별 토큰으로 처리하여, 10 초를 넘어 수천 초 (최대 10,000 초) 에 달하는 긴 신호도 입력할 수 있습니다.
  • 각 리드 (Lead) 에 시작/종료 특수 토큰을 추가하여 구조를 명시적으로 인코딩합니다.
• 리드 인식 어텐션 (Lead-aware Attention Masking):
  • 일반적인 텍스트와 달리, ECG 의 여러 리드는 동일한 시간 $t$에서 심장의 전기적 활동을 동시에 측정합니다. 이를 반영하여, 동일한 시간대의 서로 다른 리드 토큰들이 양방향으로 어텐션할 수 있도록 커스텀 마스크를 적용합니다. 이는 리드 간 상관관계 학습을 가능하게 합니다.

B. 5 단계 커리큘럼 학습 (Curriculum Learning)

모델의 추론 및 예측 능력을 점진적으로 구축하기 위해 5 단계 학습 파이프라인을 도입했습니다.

1. Stage 1 (Autoencoder): 10 억 개 이상의 ECG 세그먼트를 사용하여 CNN 인코더를 자기지도 학습 (Self-supervised) 으로 훈련하여 강력한 ECG 표현을 학습합니다.
2. Stage 2 (Multiple Choice & Short Answer): Harvard-Emory 데이터셋을 기반으로 한 고수준 ECG 분류 (다중 선택, 단답형) 를 통해 기본 진단 능력을 습득합니다.
3. Stage 3 (Statistics Questions): ECGDeli 라이브러리를 활용하여 RR 간격, QRS 지속 시간 등 구체적인 통계치를 계산하고 이를 기반으로 한 질문 (단답형, 단계별 추론) 을 학습합니다.
4. Stage 4 (Multi-turn Conversations): GEM 프레임워크를 확장하여, 통계 기반의 임상적 근거를 포함하는 다중 턴 대화 (진단, 설명, 비교 분석) 를 학습합니다.
5. Stage 5 (Forecasting): Icentia11k 데이터셋을 활용하여, 현재 ECG 신호를 바탕으로 향후 부정맥 (예: 심방세동) 발생 여부를 예측하고, 이를 뒷받침하는 임상적 근거 (통계치 기반) 를 서술하는 능력을 학습합니다.

C. 새로운 벤치마크: ECGForecastBench

• 기존 분류 벤치마크의 한계를 극복하기 위해, 정상 동 리듬 (Normal Sinus Rhythm) 을 입력으로 받아 향후 부정맥 발생을 예측하는 새로운 벤치마크를 제안했습니다.

3. 주요 기여 (Key Contributions)

1. 긴 시간적 맥락 처리: 10 초를 넘어 수천 초 길이의 ECG 신호를 처리할 수 있는 최초의 ELM 아키텍처를 제안했습니다.
2. 예측 기능 도입: 단순 분류를 넘어, 통계적 증거를 기반으로 미래 심장 사건 (부정맥 등) 을 예측하는 능력을 갖춘 최초의 모델입니다.
3. 체계적인 커리큘럼 학습: ECG 이해, 통계 계산, 대화적 추론, 예측 보고 생성까지 점진적으로 능력을 배양하는 5 단계 학습 파이프라인을 설계했습니다.
4. 새로운 벤치마크 및 데이터: ECGForecastBench 를 포함한 대규모 데이터 생성 파이프라인을 구축하여 예측 태스크 평가 기준을 마련했습니다.

4. 실험 결과 (Results)

• 예측 성능 (Forecasting):
  • ECGForecastBench에서 완전 감독 학습 (Fully Supervised) 모델보다 12.4% 높고, 기존 0-shot ELM 보다 21.1% 높은 성능을 기록했습니다.
  • 입력 신호 길이가 길어질수록 (10 초 $\rightarrow$ 600 초) 예측 정확도 (F1 점수) 가 크게 향상되었으며, 이는 긴 맥락이 예측에 필수적임을 입증했습니다.
• 분류 및 보고서 생성 (Classification & Report Generation):
  • ECGBench에서 기존 SOTA 모델 대비 평균 7.0% 의 절대적 성능 향상을 보였습니다.
  • 0-shot 평가에서도 PTB-XL, Penn 등 다양한 데이터셋에서 최상위 성능을 달성했습니다.
  • 보고서 생성 태스크에서 GPT-5 를 포함한 다른 모델들보다 진단 정확도와 분석의 완전성에서 우수한 평가를 받았습니다.
• 통계 기반 추론 (Grounding):
  • RR 간격, 심박수 등 ECG 통계치 계산에서 기존 모델 (GEM 등) 대비 RMSE 가 약 절반 수준으로 낮아, 정확한 수치 기반 추론이 가능함을 입증했습니다.
• 선형 프로빙 (Linear Probing):
  • 모델의 잠재 표현 (Latent Representation) 이 매우 강력하여, 데이터의 1% 만으로 선형 분류기를 훈련했을 때도 기존 모델들을 압도하는 성능을 보였습니다.

5. 의의 및 결론 (Significance)

• 임상적 가치: CAMEL 은 단순히 "현재 상태"를 진단하는 것을 넘어, "미래의 위험"을 예측하고 그 근거를 임상적으로 설명할 수 있습니다. 이는 심방세동 등 돌발성 부정맥에 대한 조기 개입과 환자 예후 개선에 큰 기여를 할 수 있습니다.
• 해석 가능성: 블랙박스 모델이 아닌, 구체적인 ECG 통계치 (예: RMSSD, RR 간격 변동성) 를 근거로 제시하며 자연어로 설명하는 능력을 갖추어 임상 의사들의 신뢰를 얻을 수 있습니다.
• 유연성: 다양한 리드 구성 (1 리드 ~ 12 리드) 과 다양한 길이의 신호를 처리할 수 있어, 실제 임상 환경 (감시 장치, 수동 기록 등) 에 적용하기 용이합니다.

요약하자면, CAMEL 은 ECG 분석의 패러다임을 **'분류 (Classification)'**에서 **'예측 및 추론 (Forecasting & Reasoning)'**으로 전환시킨 획기적인 모델로, 장기적인 심전도 데이터를 활용한 AI 기반 심장 질환 관리의 새로운 기준을 제시합니다.