Test-Time Adaptation for EEG Foundation Models: A Systematic Study under Real-World Distribution Shifts

1. 문제 정의 (Problem)

• 배경: EEG 기반의 사전 학습된 파운데이션 모델 (Foundation Models) 은 대규모 신경 데이터로부터 일반화 가능한 표현을 학습하여 수면 단계 분류, 간질 진단 등 다양한 임상 응용에 잠재력을 보여주고 있습니다.
• 도전 과제: 그러나 이러한 모델은 훈련 데이터와 다른 새로운 병원, 장비, 환자 집단, 또는 모달리티 (예: 두피 EEG 에서 귀 EEG 로의 전환) 로 배포될 때 성능이 급격히 저하되는 분포 변화 (Distribution Shift) 문제에 직면합니다.
• 제약 사항: 의료 환경에서는 환자 프라이버시 규정 (GDPR 등) 과 데이터 부족으로 인해 소스 데이터 (Source Data) 에 접근하거나 라벨이 있는 데이터를 확보하는 것이 어렵습니다.
• 해결책 제안: 라벨이 없는 타겟 데이터만으로 추론 과정에서 모델을 적응시키는 테스트 시간 적응 (TTA) 이 유망한 해결책으로 제시되었으나, EEG 분야에서의 효과성과 안정성에 대한 체계적인 연구는 부족했습니다.

2. 방법론 및 벤치마크 (Methodology & NeuroAdapt-Bench)

저자들은 NeuroAdapt-Bench라는 통합 벤치마크를 구축하여 TTA 방법들을 체계적으로 평가했습니다.

• 실험 설계:

  1. 파운데이션 모델: CBraMod, TFM-Tokenizer, REVE (Base/Large) 등 3 가지 주요 EEG 파운데이션 모델 family 를 사용.
  2. 데이터셋: 5 가지 EEG 데이터셋 (TUEV, TUAB, CHB-MIT, SleepEDF-78, EarEEG) 을 활용.
     • In-distribution: 훈련 데이터에 포함된 데이터셋 (TUEV, TUAB).
     • Out-of-distribution (OOD): 다른 작업, 인구, 장비에서 수집된 데이터셋 (CHB-MIT, SleepEDF-78).
     • Extreme Shift: 완전히 다른 모달리티 (Ear-EEG, 귀에 착용하는 웨어러블 EEG).
  3. 평가 지표: 정확도, 균형 정확도 (Balanced Accuracy), ROC-AUC, PR-AUC, Cohen's κ, F1-score 등.
  4. 비교 대상: TTA 적용 전 (No-TTA) 기준선과 비교하여 상대적 성능 향상 ($\Delta_{TTA}$) 을 측정.

• 평가된 TTA 방법:

  • Tent: 엔트로피 최소화를 통해 정규화 레이어의 아핀 (affine) 파라미터를 온라인으로 업데이트 (기반 기반).
  • SHOT: 소스 데이터 없이 타겟 데이터의 상호 정보량 최대화와 의사 라벨링을 통해 특징 추출기를 오프라인으로 적응 (기반 기반).
  • T3A: 최적화 (Optimization) 가 필요 없는 방법. 타겟 데이터의 특징을 기반으로 클래스 프로토타입 (Prototype) 을 업데이트하여 분류기 기하구조를 조정.

3. 주요 결과 (Key Results)

실험 결과는 기존 컴퓨터 비전이나 음성 분야에서 유효했던 TTA 방법들이 EEG 에서는 예상치 못한 결과를 낳음을 보여줍니다.

• 성능 저하의 빈발: 대부분의 표준 TTA 방법 (특히 Tent와 SHOT 같은 기반 기반/Gradient-based 방법) 은 분포 변화 하에서 오히려 성능을 심각하게 저하시켰습니다. 특히 CHB-MIT(간질) 나 SleepEDF-78(수면) 과 같은 OOD 데이터셋에서 성능이 급격히 떨어졌습니다.
• 최적화 없는 방법 (T3A) 의 우위:
  • T3A는 모델 파라미터를 업데이트하지 않고 클래스 프로토타입만 조정하는 방식이므로 가장 안정적 (Stable) 이었습니다.
  • T3A 는 In-distribution, OOD, 그리고 극단적인 Ear-EEG 시나리오 모두에서 No-TTA 기준선 대비 일관된 성능 향상이나 최소한의 저하를 보였습니다.
  • 특히 REVE-Base 모델이 CHB-MIT 데이터셋에서 T3A 를 적용했을 때 균형 정확도가 18.9%p나 향상된 사례가 있었습니다.
• 모달리티 변화 (Ear-EEG):
  • 두피 EEG 로 훈련된 모델을 귀 EEG 에 적용할 때 기반 기반 방법들은 성능이 크게 떨어졌으나, T3A 는 CBraMod 모델에서 모든 지표에서 긍정적인 향상을 보였습니다.
• 배치 크기 (Batch Size) 의 영향:
  • 배치 크기를 늘리는 것이 기반 기반 방법 (Tent, SHOT) 의 성능을 일부 개선시키기는 했으나, T3A 에는 영향을 미치지 않았으며, 메모리/연산 비용 증가 대비 성능 향상 폭은 미미했습니다.

4. 주요 기여 및 통찰 (Contributions & Insights)

1. NeuroAdapt-Bench 도입: EEG 파운데이션 모델의 TTA 성능을 평가하기 위한 최초의 체계적이고 재현 가능한 벤치마크를 공개했습니다.
2. TTA 방법론의 한계 규명: 기존 TTA 기법들이 EEG 의 비정상성 (Non-stationarity) 과 복잡한 잡음 특성으로 인해 불안정하게 작동할 수 있음을 증명했습니다. 특히 기반 기반 방법은 사전 학습된 표현을 교란시켜 '부정적 전이 (Negative Transfer)'를 일으킬 수 있음을 보여주었습니다.
3. 안정성의 중요성 강조: 임상 배포에서는 높은 정확도보다 안정성 (Robustness) 이 더 중요할 수 있음을 시사합니다. 단순하고 최적화가 필요 없는 방법 (T3A 와 같은 프로토타입 기반) 이 복잡한 기반 기반 방법보다 더 신뢰할 수 있는 결과를 제공합니다.
4. 표현 유형 (Representation Type) 의 영향: 연속적인 임베딩 (Continuous Embedding) 과 이산 토큰화 (Discrete Tokenization, TFM-Tokenizer) 모델이 TTA 방법에 대해 다른 반응을 보임을 발견하여, EEG 특유의 표현 방식에 맞는 적응 전략이 필요함을 지적했습니다.

5. 의의 및 결론 (Significance)

이 연구는 EEG 기반 AI 모델의 임상 현장 적용을 위한 중요한 이정표가 됩니다.

• 현실적 경고: 컴퓨터 비전 등에서 성공한 TTA 기술이 의료 신호 (EEG) 에 그대로 적용되지 않을 수 있음을 경고하며, 도메인 특화 (Domain-specific) 적응 전략의 필요성을 강조합니다.
• 미래 방향: 단순한 성능 향상보다는 안정성과 견고성을 우선시하는 최적화 없는 (Optimization-free) 또는 경량화된 적응 알고리즘 개발이 향후 연구의 핵심 방향이 되어야 함을 제시합니다.
• 오픈 소스: NeuroAdapt-Bench 프레임워크를 오픈 소스로 공개하여 향후 연구자들이 다양한 TTA 방법과 EEG 모델을 비교 평가할 수 있는 기반을 마련했습니다.

결론적으로, 이 논문은 EEG 기반 모델의 배포 시 발생할 수 있는 분포 변화 문제를 해결하기 위해 TTA 를 시도할 때, 무조건적인 적용보다는 방법론의 안정성과 도메인 특성을 고려한 신중한 접근이 필수적임을 실증적으로 증명했습니다.