기술 요약: CWA-T (EEG 이상 탐지를 위한 채널별 오토인코더 및 트랜스포머)

1. 문제 정의

뇌파(EEG) 신호는 간질, 알츠하이머, 파킨슨병과 같은 뇌 질환을 진단하는 데 필수적입니다. 그러나 이러한 신호를 분석하는 데는 높은 차원성, 복잡성, 그리고 노이즈에 대한 취약성으로 인해 상당한 어려움이 따릅니다. 기존의 딥러는 다음과 같은 트레이드오프(trade-off) 문제에 직면해 있습니다:

• 전처리 의존적 방법론 (예: 웨이브렛 변환): 노이즈를 줄여주지만, 복잡하고 수동적인 특징 공학(feature engineering)을 요구합니다.
• 엔드 투 엔드(End-to-end) 딥러닝 모델 (예: CNN, RNN): 원시 데이터로부터 직접 학습하지만, 장기적인 시간적 의존성을 포착하는 데 어려움을 겪거나 해석 가능성이 부족할 수 있습니다.
• 트랜스포머 기반 모델: 장거리 의존성을 포착하는 데 탁월하지만, 계산 비용이 많이 들고 종종 "블랙박스"로 작용하여, 경량화되고 해석 가능한 솔루션을 필요로 하는 임상 환경에서의 활용도를 제한합니다.

본 논문은 계산 효율성, 해석 가능성, 그리고 높은 성능 사이의 균형을 맞추며, 특히 장기 기록에서의 EEG 이상 신호 탐지를 위한 프레임워크의 필요성을 다룹니다.

2. 방법론

제안된 프레임워크인 CWA-T는 채널별 CNN 기반 오토인코더와 단일 헤드(single-head) 트랜스포머 분류기를 결합합니다. 이 아키텍처는 두 가지 주요 단계로 작동합니다.

A. 채널별 오토인코더 (특징 추출 및 압축)

첫 번째 단계는 원시 EEG 신호($x \in \mathbb{R}^{C \times T}$)를 압축된 잠재 표현($z \in \mathbb{R}^{C \times D}$, 여기서 $D \ll T$)으로 변환합니다.

• 채널 독립성 (Channel Independence): 채널 정보를 혼합하는 표준 컨볼루션과 달리, CWA-T는 그룹 컨볼루션(그룹 수가 채널 수 $C$와 동일함)을 사용합니다. 이는 각 EEG 채널이 독립적으로 처리되도록 보장하여, 데이터의 자연스러운 공간적 구조를 보존하고 채널 간 의존성을 방지합니다.
• 효율성: 이 설계는 계산 비용을 크게 줄여줍니다. 논문에서는 채널별 컨볼루션이 표준 컨볼루션의 비용을 $1/C$ 배로 줄인다고 명시하고 있습니다.
• 정규화 (Normalization): 오토인코더는 배치 정규화(Batch Normalization) 대신 **레이어 정규화(Layer Normalization)**를 사용합니다. 이 선택은 채널 간 통계치를 의도치 않게 혼합할 수 있는 배치 정규화와 달리, 채널 독립성을 유지하는 데 결정적입니다.

B. 단일 헤드 트랜스포머 분류기

압축된 잠재 표현은 경량화된 분류기로 전달됩니다.

• 단일 헤드 어텐션 (Single-Head Attention): 효율성을 유지하기 위해, 표준 멀티 헤드 셀프 어텐션 메커니즘을 단일 헤드 변형으로 대체했습니다. 이는 멀티 헤드 방식($3 \cdot d \cdot D_{orig} \cdot d_k$)에서 단일 헤드 방식($3 \cdot d \cdot d_k$)으로 파라미터 수를 획기적으로 줄이면서도, 장기적인 시간적 의존성을 모델링하는 능력을 유지합니다.
• 아키텍처: 분류기는 단일 헤드 셀프 어텐션 메커니즘과 위치별 피드포워드 네트워크(position-wise feed-forward network)로 구성되며, 수렴을 돕기 위해 잔차 연결(residual connections)과 레이어 정규화를 포함합니다.

C. 데이터 전처리

프레임워크는 최소한의 전처리만 거친 원시 EEG 데이터를 처리합니다:

1. 다운샘플링: 100 Hz로 리샘플링됩니다.
2. 세그멘테이션 (Segmentation): 중복되지 않는 2분 단위 세그먼트로 나뉩니다.
3. z-정규화 (z-Normalization): 전극 배치나 생리학적 차이로 인한 변동성을 완화하기 위해 진폭을 정규화합니다.
   입력 전에는 FFT나 웨이브렛과 같은 복잡한 주파수 영역 변환을 적용하지 않습니다.

3. 주요 기여

1. 새로운 아키텍처: EEG 이상 탐지에 특화되어 채널별 오토인코더와 단일 헤드 트랜스포머를 통합했습니다.
2. 채널 독립성 보존: 오토인코더에서 EEG 채널을 독립적으로 처리함으로써, 모델이 EEG 신호의 생물학적 구조와 일치하도록 하여 신경과학 연구를 위한 해석 가능성을 높였습니다.
3. 계산 효율성: 본 프레임워크는 트랜스포머의 높은 성능과 CNN의 낮은 비용 사이의 균형을 달성했습니다. 데이터를 분류하기 전에 압축함으로써 표준 트랜스포머의 무거운 계산 부담을 피합니다.
4. 엔드 투 엔드 역량: 모델은 복잡하고 수동적인 전처리 파이프라인 없이 장기 원시 EEG 신호를 직접 처리합니다.

4. 실험 결과

모델은 2,993개의 기록(훈련 및 평가 세트로 분할됨)으로 구성된 **TUH Abnormal EEG Corpus (v3.0.1)**에서 평가되었습니다.

성능 지표

케이스 레벨(단일 피험자에 대해 신호들의 다수결 투표 사용)에서 평가했을 때, CWA-T는 다음을 달성했습니다:

• 정확도 (Accuracy): 85.0%
• 민감도 (Sensitivity): 76.2%
• 특이도 (Specificity): 91.2%

이 결과는 EEGNet, EEG-ARNN, Deep4Conv, FusionCNN을 포함한 베이스라인 모델들을 능가했습니다. 특히, EEGNet은 케이스 레벨에서 높은 민감도(100%)를 보였으나 특이도가 0%였는데, 이는 심각한 편향을 나타냅니다. CWA-T는 민감도와 특이도 사이의 더 나은 균형을 유지했습니다.

계산 효율성

• FLOPs: 202M
• 파라미터 수: 2.9M
• 비교: CWA-T는 동일한 입력을 사용하는 단독 단일 헤드 트랜스포머(11.9G FLOPs 및 1.3G 파라미터 필요)보다 훨씬 효율적이며, FusionCNN(4.5G FLOPs)과 같은 다른 CNN 기반 베이스라인 모델들과 대등하거나 더 효율적입니다.

절제 연구 (Ablation Studies)

• Transformer vs. MLP: 단일 헤드 트랜스포머 분류기는 per-signal 및 per-case 평가 모두에서 다층 퍼셉트론(MLP)보다 우수한 성능을 보였습니다.
• 정규화: 레이어 정규화(LayerNorm)의 사용은 배치 정규화(BatchNorm)와 비교하여 채널 독립성을 보존하는 데 필수적임을 검증했습니다.

5. 의의 및 주장

본 논문은 CWA-T가 특히 장기 기록의 EEG 이상 탐지에 있어 실용적이고 해석 가능한 솔루션을 제공한다고 주장합니다.

• 해석 가능성: 채널별 설계 덕분에 모델은 생물학적으로 의미 있는 특징을 유지할 수 있습니다. 저자들은 오토인코더의 출력이 비정상 베타 활동(13–30 Hz) 및 알파 활동 결핍(8–13 Hz)과 같은 특정 병리적 패턴을 감지할 수 있음을 보여줌으로써 이를 입증했습니다. 이는 알려진 임상 마커와 일치합니다.
• 임상적 유용성: 높은 정확도를 유지하면서 계산 비용을 줄임으로써, 본 프레임워크는 자원이 제한된 환경 및 지속적인 모니터링 시나리오에 적합한 도구로 자리매김하고 있습니다.
• 미래 잠재력: 저자들은 셀프 어텐션 메커니즘에 의해 생성된 유사도 행렬을 분석함으로써 기능적 뇌 연결성(functional brain connectivity) 연구를 위한 토대를 마련할 수 있다고 제안하며, 이는 현재의 결과가 아닌 향후 연구 과제로 제시되었습니다.

요약하자면, CWA-T는 채널 보존형 압축 단계를 도입함으로써 EEG 분석에서 트랜스포머 모델의 "블랙박스" 문제와 계산 비용 문제를 해결하며, 효율성, 해석 가능성 및 진단 성능 사이의 견고한 트레이드오프를 달성했습니다.