기술 요약: SCOPE – 제한된 라벨을 위한 EEG 기반 모델의 구조적 프로토타입 기반 적응

1. 문제 제기

뇌전도 (EEG) 기반 모델 (EFMs) 은 풍부한 라벨이 있는 데이터로 완전히 파인튜닝될 때 강력한 성능을 보여왔습니다. 그러나 실제 임상 환경에서는 신뢰할 수 있는 피험자 수준의 주석이 부족하여, 종종 소수의 라벨이 있는 피험자 (예: 30% 이하) 만이 존재하고 방대한 양의 라벨이 없는 기록이 함께 남아있는 경우가 많습니다.

저자들은 표준 완전 파인튜닝이 이러한 라벨 제한 조건에서 실패하는 원인이 단순히 데이터 부족 때문이 아니라, 노이즈가 섞인 제한된 감독 신호와 EFMs 의 매우 가소적인 매개변수 공간 사이의 구조적 불일치에 있음을 규명했습니다. 실증 분석은 다음과 같은 세 가지 치명적인 실패 모드를 밝혀냈습니다:

1. 불안정한 자기 유도 (Unreliable Self-Guidance): EFMs 은 제한된 감독 하에서 과신하지만 정확하지는 않아, 모델 신뢰도에 의존하는 자기 학습 (self-training) 이 오류 증폭에 취약합니다.
2. 예측 붕괴 (Prediction Collapse): 연속적인 뇌 상태에서의 모호한 클래스 경계와 클래스 불균형으로 인해 의사 라벨링 (pseudo-labeling) 전략이 종종 실패하여, 지배적인 모드 (dominant modes) 로 편향된 학습을 초래합니다.
3. 매개변수 공간 취약성: 완전 파인튜닝은 계층 간 표현의 상당한 드리프트를 유발하여, 노이즈가 섞인 기울기가 전이 가능한 사전 학습된 표현을 덮어쓰고 되돌릴 수 없는 최적화 드리프트를 초래합니다.

기존의 매개변수 효율적 파인튜닝 (PEFT) 방법과 범용 반지도 학습 접근법 (예: FixMatch, FineSSL) 은 교차 피험자, 라벨 제한 시나리오에서 EFMs 에 직접 적용될 때 불안정하거나 최적이지 않은 것으로 나타났습니다.

2. 방법론: SCOPE 프레임워크

저자들은 사전 학습된 지식을 덮어쓰지 않고 EFMs 을 적응시키기 위해 고안된 2 단계 프레임워크인 SCOPE(구조화된 신뢰도 인식 프로토타입 기반 적응, Structured COnfidence-aware Prototype-guided adaptation) 를 제안합니다.

1 단계: 외부 구조적 감독 구성

SCOPE 는 자기 학습을 위해 EFM 의 자체 예측에 의존하는 대신, 소량의 라벨이 있는 데이터셋만으로 훈련된 경량 태스크-프리 네트워크 (Task-Prior Network, TPN) 를 사용하여 외부 감독을 구성합니다.

• 코호트 수준의 구조적 프로토타입:
  • 클래스 간 기하학: TPN 은 등각 조밀 프레임 (Equiangular Tight Frame, ETF) 정규화기를 갖춘 태스크-프리 네트워크를 사용합니다. 이는 클래스 가중치 간의 최대 각도 분리를 강제하여 클래스 분리 가능한 임베딩을 보장합니다.
  • 클래스 내 변동성: 클래스 내 다양한 패턴을 처리하기 위해, 프레임워크는 Sinkhorn-Knopp 최적화를 사용하여 클래스당 여러 개의 균형 잡힌 프로토타입을 학습합니다. 이는 샘플이 지배적인 모드로 붕괴되는 것을 방지하고 프로토타입에 대한 샘플 할당을 균형 있게 만듭니다.
• 신뢰도 인식 샘플 수준 의사 라벨링:
  • 의사 라벨은 태스크-프리 예측(클래스 간 분리를 강조) 과 프로토타입 기반 예측(클래스 내 변동을 포착) 이 일치할 때만 생성됩니다.
  • Dempster-Shafer 융합 메커니즘이 이러한 두 가지 증거 소스를 결합하여 신뢰도를 정량화합니다.
  • 샘플은 융합된 신뢰도 점수가 미리 정의된 임계값을 초과할 때만 적응을 위해 선택되어, 신뢰할 수 없는 신호를 필터링합니다.

2 단계: 프로토타입 조건부 적응 (ProAdapter)

EFM 의 매개변수 공간 취약성을 해결하기 위해, SCOPE 는 백본을 고정하고 네트워크의 마지막 $L$개 계층에 삽입된 경량 ProAdapter를 도입합니다.

• 메커니즘: 어댑터는 학습된 프로토타입에 대한 샘플의 유사성 벡터에 조건부로 특징별 변조 (스케일링 $\alpha$ 및 이동 $\beta$) 를 수행합니다.
• 아키텍처:
  • 계층의 자체 통계량 (자기 조건부) 에서 기본 변조 파라미터를 생성합니다.
  • 프로토타입 유사성 벡터에서 추가 변조 항을 생성하며, 이는 안정적인 적응을 보장하기 위해 명시적으로 게이트 처리되고 경계됩니다.
  • 이를 통해 외부 감독의 구조적 기하학이 사전 학습된 가중치를 수정하지 않고도 중간 특징 적응을 안내할 수 있습니다.

훈련 전략

SCOPE 는 워밍업 적응 (warm-up adaptation) 전략을 사용합니다. 훈련은 라벨이 있는 데이터셋에 대한 감독 업데이트로 시작하여, 신뢰도 가중 의사 라벨을 사용하여 점진적으로 라벨이 없는 데이터를 통합합니다. 이는 초기 훈련 단계에서 노이즈가 섞인 감독이 지배하는 것을 방지합니다.

3. 주요 기여

1. 외부 코호트 수준 구조적 프로토타입: 클래스 혼합 및 모드 붕괴 문제를 해결하기 위해 EFMs 에 안정적인 외부 안내를 제공하기 위해 영구적이고 기하학적으로 정규화된 프로토타입 (ETF 및 Sinkhorn-Knopp 를 통해) 을 구축한 최초의 프레임워크입니다.
2. 신뢰도 인식 샘플 수준 의사 라벨링: Dempster-Shafer 이론을 사용하여 태스크-프리 및 프로토타입 예측을 융합하고 불확실한 샘플을 필터링하는 새로운 라벨링 전략으로, EFMs 의 과신 문제를 완화합니다.
3. 프로토타입 조건부 적응 (ProAdapter): 특징 변조를 통해 프로토타입 기하학을 고정된 EFMs 에 주입하는 경량 어댑터로, 사전 학습된 표현을 보존하면서 특정 작업에 적응합니다.
4. 종합 평가: 6 가지 EEG 작업, 5 가지 기반 모델 백본(Transformer 및 상태 공간 모델 아키텍처 포함), 그리고 다양한 라벨 비율 (5%–50%) 에 걸친 체계적인 연구입니다.

4. 실험 결과

저자들은 5 가지 다른 EFM 백본 (LaBraM, CBraMod, CSBrain, EEGMamba, CodeBrain) 을 사용하여 6 개의 공개 데이터셋 (ISRUC, SEED, Mental Arithmetic, PhysioNet-MI, SHU-MI, CHB-MIT) 에서 SCOPE 를 평가했습니다.

• 성능: SCOPE 는 완전 파인튜닝, 고정된 백본, LoRA, 기존 반지도 방법 (FixMatch, FineSSL) 을 포함한 베이스라인보다 일관되게 우수한 성능을 발휘했습니다.
  • 30% 라벨이 있는 피험자를 사용한 ISRUC 데이터셋에서, SCOPE 는 고정된 백본 대비 Kappa 를 LaBraM 의 경우 +7.61, CodeBrain 의 경우 +10.92만큼 향상시켰습니다.
  • 다른 방법들이 실패하거나 붕괴된 데이터셋과 아키텍처 계열 (Transformer 대 SSM) 전반에 걸쳐 견고성을 입증했습니다.
• 효율성: 이 방법은 완전 파인튜닝에 비해 2–5% 의 훈련 가능 매개변수만으로 이러한 향상을 달성하며, 훈련 시간과 GPU 메모리를 크게 절감합니다.
• 애벌레이션 연구:
  • 감독 구성 모듈을 제거하면 성능이 가장 크게 저하 (5–7%) 되어, 자기 학습이 EFMs 에는 불충분함을 확인했습니다.
  • ProAdapter 를 제거하면 (SSM 백본에서 최대 10% 까지) 성능이 크게 저하되어 프로토타입 조건부 변조의 필요성을 강조했습니다.
  • 신뢰도 가중치와 워밍업 전략이 안정성에 결정적임이 입증되었습니다.

5. 중요성 및 주장

본 논문은 라벨이 제한된 실제 배포 조건 하에서 EEG 기반 모델을 적응시키는 체계적인 연구가 처음이라고 주장합니다.

저자들은 저라벨 환경에서 완전 파인튜닝의 불신뢰성이 단순히 데이터 부족이 아니라 구조적 불일치에서 비롯된다고 주장합니다. 자기 학습과 샘플 수준 의사 라벨에서 외부 코호트 수준 구조적 감독과 조건부 적응으로 전환함으로써, SCOPE 는 전문가 주석이 제한된 실제 임상 시나리오에서 EFMs 을 배포하기 위한 더 신뢰할 수 있고 데이터 효율적인 경로를 제공합니다. 이 연구는 이러한 설정에서 직접적인 매개변수 업데이트보다 경량 기하학 기반 변조를 통해 사전 학습된 표현을 보존하는 것이 우월함을 시사합니다.