What Do EEG Foundation Models Capture from Human Brain Signals?

기술적 요약: EEG 기반 모델은 인간의 뇌 신호에서 무엇을 포착하는가?

문제 제기
임상 뇌전도 (EEG) 분석은 역사적으로 수십 년에 걸쳐 정제된 수동 제작 (hand-crafted) 특징 카탈로그에 의존해 왔으며, 이는 대역 전력, 연결성, 복잡성 및 기타 신호 특성을 포괄합니다. 최근에는 원시 신호에 대한 자기지도식 사전 학습을 활용하여 임상 벤치마크에서 최첨단 성능을 달성하는 EEG 기반 모델이 등장했으며, 종종 전통적인 특징 공학 파이프라인을 우회합니다. 중요한 열린 질문이 남아 있습니다: 이러한 기반 모델이 학습한 고차원 표현이 확립된 임상 특징 어휘와 정렬되는 것일까, 아니면 새로운 신호 구조를 발견하기 위해 분기된 것일까? 이 정렬을 이해하는 것은 인간 지식에 대한 모델 결정을 검증하고 새로운 임상 기술자가 필요한 간극을 식별하는 데 필수적입니다.

방법론
저자들은 정렬 문제를 세 부분으로 분해하는 3 단계 감사 프레임워크를 제안합니다: (1) 모델이 무엇을 학습하는가? (인코딩), (2) 모델이 무엇을 사용하는가? (인과적 의존), 그리고 (3) 얼마나 설명 가능한가? (성능 회복). 이 감사는 세 가지 기반 모델 (CSBrain, CBraMod, LaBraM), 다섯 가지 임상 작업 (MDD, Stress, ISRUC-Sleep, TUSL, Siena), 그리고 시간 영역 형태, 스펙트럼 전력/형태, 시간 - 주파수 포락선, 신호 복잡성, 교차 주파수 결합, 교차 채널 관계 등 여섯 가지 계열로 그룹화된 63 가지 수동 제작 특징의 어휘에 적용됩니다.

방법론은 모든 (데이터셋, 모델, 특징) 삼중항에 대해 세 가지 다른 해석 가능 기술을 사용합니다:

1. 레이어별 릿지 프로빙 (Layer-wise Ridge Probing): 인코딩을 결정하기 위해, 선형 릿지 회귀 프로브가 각 레이어의 모델 활성화에서 각 수동 제작 특징을 예측합니다. 프로브가 홀드아웃 검증 세트에서 유의미한 예측 능력 ($R^2$) 을 달성하면 해당 특징은 "인코딩된" 것으로 간주되며, 정보가 존재하는 특정 레이어를 식별합니다.
2. LEACE 스타일 교차 공분산 부분공간 말소: 인과적 사용을 결정하기 위해, 저자들은 모델의 활성화에 개입합니다. 인코딩 피크 레이어에서, 교차 공분산 부분공간 말소 (LEACE 연산자의 확장 가능한 근사) 를 사용하여 활성화 벡터에서 목표 특징의 선형적으로 디코딩 가능한 구성 요소를 제거합니다. 홀드아웃 테스트 세트에서 작업 성능의 resulting 감소는 인과적 의존을 나타냅니다. 이는 세 가지 널 대상 (무작위 부분공간, 셔플된 페어링, 가우시안 잡음) 과 선형 잔여 프로브에 대해 엄격하게 통제되어 우연한 효과를 배제합니다.
3. 투명 분류기 클로저 (Transparent Classifier Closure): 설명 가능성을 측정하기 위해, 확인된 "표현 - 인과" 특징 집합만을 사용하여 로지스틱 회귀 분류기가 훈련됩니다. 그 성능은 기반 모델과 동일한 차원의 무작위 특징 베이스라인과 비교됩니다. "클로저 비율"은 수동 제작 특징에 의해 회복되는 무작위 베이스라인 대비 기반 모델의 이점의 비율을 정량화합니다.

주요 기여

• 인과적 감사 프레임워크: 이 논문은 모델이 표현 내에 인코딩하는 특징과 의사결정을 위해 인과적으로 사용하는 특징을 구분하는 엄격한 파이프라인을 도입하여 상관관계 기반 해석 방법의 한계를 해결합니다.
• 포괄적 어휘 감사: 이 연구는 945 개 단위 (3 모델 $\times$ 5 작업 $\times$ 63 특징) 를 감사하여 기반 모델이 임상 EEG 특징 정경과 어떻게 관련되는지에 대한 최초의 대규모 인과적 매핑을 제공합니다.
• 특징 분류 체계: 저자들은 특징을 보편적 후보 (아키텍처/작업 전반에 강한 지지), 작업별, 모델별, 그리고 인코딩 전용으로 분류하여 모델 의존성에 대한 구조화된 관점을 제공합니다.

결과

• 인코딩: 기반 모델은 광범위하게 임상 어휘를 회복합니다. 945 개 단위 중 89.6%(847/945) 가 인코딩 기준을 통과하며, 모든 63 가지 특징이 적어도 하나의 (모델, 작업) 셀에서 인코딩됩니다. 주파수 영역 특징은 모든 셀에서 높은 강도로 인코딩됩니다.
• 인과적 사용: 945 개 단위 중 68.6%(648/945) 가 "표현 - 인과"이며, 이는 모델이 작업 결정을 위해 그것들에 의존함을 의미합니다. 21.1% 는 인코딩되었으나 인과적으로 사용되지 않습니다. 작업 전반에 걸쳐 50 가지 특징이 두 개 이상의 작업에서 강한 지지를 받는 보편적 후보로 자격을 얻습니다. 주파수 영역 특징이 지배적이지만, 시간 - 주파수, 교차 채널, 복잡성, 시간 영역, 교차 주파수 계열은 각각 다섯 가지 작업 중 적어도 네 가지에서 상당한 인과적 기여를 합니다.
• 성능 회복 (클로저): 확인된 특징은 평균적으로 무작위 특징 베이스라인 대비 기반 모델의 이점의 79.3% 를 회복합니다. 명확한 작업 기울기가 존재합니다: 성능 천장에 가까운 작업 (예: MDD, 클로저 $\approx$ 0.99) 은 어휘로 거의 완전히 설명되지만, 더 어려운 작업 (예: Stress, 클로저 $\approx$ 0.56) 은 중요하지 않은 잔여물을 남깁니다.
• 잔여물: 어려운 작업에서 설명되지 않은 성능 격차는 현재 63 개 특징 어휘로 포착되지 않은 신호 구조나 선형 대리 모델로 포착되지 않은 비선형 결합의 존재를 시사합니다.

의의
이 논문은 수동 제작 특징에 대한 유도적 편향 없이 훈련되었음에도 불구하고 EEG 기반 모델이 규모 면에서 임상 특징 카탈로그를 회복한다고 주장합니다. 그러나 인코딩과 사용 사이의 구별은 중요합니다; 모델은 많은 특징을 인코딩하지만 인과적으로 의존하는 것은 특정 부분집합입니다. 연구 결과는 성능 천장에 가까운 작업의 경우 기존 임상 기술자가 모델 행동을 설명하는 데 대체로 충분함을 시사합니다. 반면, 더 어려운 작업에서의 잔여 성능은 미래 개념 발견을 위한 구체적인 목표를 지시하며, 현재 EEG 기술자 카탈로그가 불완전함을 나타냅니다. 이 작업은 모델 표현과 인간 지식 간의 피드백 루프를 수립하여 기존 임상 기술자를 검증하고 AI 기반 신경과학을 위해 새로운 기술자가 필요한 영역을 식별하는 방법을 제공합니다.