Lightweight Transformer for EEG Classification via Balanced Signed Graph Algorithm Unrolling

Each language version is independently generated for its own context, not a direct translation.

1. 문제 상황: 뇌파는 '혼란스러운 파티'

뇌파 신호는 여러 전극 (센서) 에서 동시에 수집됩니다. 이 신호들 사이에는 두 가지 관계가 있습니다.

친구 관계 (양수): 한 전극의 신호가 오르면 다른 전극도 같이 오르는 경우.
라이벌 관계 (음수): 한 전극이 오르면 다른 전극은 반대로 내려가는 경우 (부정적 상관관계).

기존의 인공지능 모델들은 이 복잡한 관계를 무시하거나, 너무 많은 데이터를 먹어치우는 거대한 모델로 처리했습니다. 하지만 이 연구팀은 **"이 관계를 그래프 (지도) 로 그려서 정리하자"**고 생각했습니다.

2. 핵심 아이디어 1: '균형 잡힌' 지도 그리기 (Balanced Signed Graph)

연구팀은 뇌파 센서들을 노드 (지점) 로, 그 사이의 관계를 선 (엣지) 으로 연결한 지도를 그렸습니다.

**친구 (양수 선)**와 **라이벌 (음수 선)**을 모두 표시했습니다.
여기서 중요한 것은 **'균형 (Balance)'**입니다.
- 비유: Imagine you are at a party. If A and B are friends, and B and C are friends, then A and C should also be friends. If A and B are friends, but B and C are enemies, then A and C should be enemies.
- 만약 이 규칙이 깨지면 (예: A 와 B 는 친구, B 와 C 는 친구인데 A 와 C 는 라이벌), 그 파티는 혼란스럽고 예측할 수 없습니다.
- 연구팀은 이 '균형 잡힌 파티' 상태만 유지하면서 지도를 그렸습니다. 이렇게 하면 수학적으로 매우 깔끔하게 신호를 분석할 수 있게 됩니다.

3. 핵심 아이디어 2: '소음 제거' 필터 (Denoising)

뇌파 신호에는 잡음 (소음) 이 많이 섞여 있습니다. 연구팀은 이 잡음을 제거하는 **'저주파 필터'**를 사용했습니다.

비유: 시끄러운 카페에서 친구의 목소리만 들으려면, 배경 소음을 차단하는 이어폰이 필요하죠. 이 모델은 **"중요한 정보 (저주파)"**만 남기고 **"잡음 (고주파)"**은 잘라내는 필터 역할을 합니다.
이 필터를 **알고리즘을 신경망으로 변환 (Unrolling)**하는 방식으로 만들었습니다.
- 비유: 보통의 AI 는 "이게 뭐지? 내가 추측해 볼게"라고 막연하게 학습하지만, 이 모델은 **"이 알고리즘을 한 번, 두 번, 세 번 반복해서 정답에 가까워지는 과정"**을 그대로 신경망 층으로 만들었습니다. 그래서 **"어떻게 결론을 내렸는지" (해석 가능성)**를 알 수 있습니다.

4. 핵심 아이디어 3: 두 명의 '전문가'를 고용하다

이 모델은 간질 환자와 건강한 사람을 구분하기 위해 **두 명의 전문가 (데노이저)**를 훈련시킵니다.

전문가 A (건강한 사람용): 건강한 사람의 뇌파 패턴을 완벽하게 복원하는 법을 배웁니다.
전문가 B (간질 환자용): 간질 환자의 뇌파 패턴을 완벽하게 복원하는 법을 배웁니다.

판단 방법:
새로운 뇌파 신호가 들어오면 두 전문가에게 모두 보여줍니다.

"전문가 A 가 이 신호를 복원했을 때, 원래 신호와 얼마나 비슷할까?" (오차 계산)
"전문가 B 가 이 신호를 복원했을 때, 원래 신호와 얼마나 비슷할까?" (오차 계산)
결과: 오차가 더 작은 쪽이 정답입니다. (예: 건강한 사람의 신호를 전문가 A 가 더 잘 복원했다면, 그 신호는 건강한 사람의 것입니다.)

5. 왜 이 방법이 특별한가요? (기존 모델 vs 이 모델)

특징	기존 거대 AI 모델 (Transformer 등)	이 연구의 모델 (Lightweight Transformer)
크기	코끼리처럼 무겁습니다. (수백만 개의 파라미터)	개미처럼 가볍습니다. (수만 개, 기존보다 1% 미만)
이해	블랙박스: "왜 그렇게 판단했는지" 모릅니다.	화이트박스: "이런 알고리즘을 거쳐서 판단했다"가 명확합니다.
성능	정확도가 높지만, 자원을 많이 먹습니다.	동일하거나 더 높은 정확도를 내면서 자원을 거의 안 씁니다.
적용	고성능 서버에서만 가능	휴대용 기기나 실시간 장비에서도 가능

6. 결론: "작지만 똑똑한 뇌파 분석가"

이 논문은 **"복잡한 뇌파 신호를 수학적으로 깔끔하게 정리 (균형 잡힌 그래프) 하고, 그 안에서 잡음을 제거하는 필터를 학습시켜, 간질 환자를 정확히 찾아내는 경량 AI"**를 개발했습니다.

기존의 거대하고 무거운 AI 대신, 작고 빠르며, 왜 그런 결론을 내렸는지 설명할 수 있는 새로운 접근법을 제시하여, 앞으로 병원이나 가정에서 실시간으로 뇌파를 모니터링하는 데 큰 도움이 될 것으로 기대됩니다.

Each language version is independently generated for its own context, not a direct translation.

1. 문제 정의 (Problem)

배경: 뇌전증 진단을 위해 EEG 신호를 분류하는 작업은 중요하지만, 기존 CNN 기반 모델이나 최신 트랜스포머 (Transformer) 기반 모델은 수백만 개의 파라미터를 사용하여 계산 비용이 크고, 모델의 내부 작동 원리를 해석하기 어렵습니다.
한계: EEG 신호는 센서 간에 **양의 상관관계 (positive correlation)**뿐만 아니라 **음의 상관관계 (anti-correlation)**도 존재합니다. 기존 그래프 신호 처리 (GSP) 연구는 주로 양의 에지 (positive edges) 만을 다루는 양의 그래프 (positive graph) 에 집중하여, 이러한 음의 상관관계를 효과적으로 모델링하지 못했습니다.
목표: 적은 파라미터 수로 높은 분류 정확도를 달성하면서도, 학습 과정이 수학적으로 해석 가능한 (interpretable) 경량 모델을 개발하는 것.

2. 방법론 (Methodology)

이 연구는 알고리즘 언롤링 (Algorithm Unrolling) 기법을 사용하여 최적화 알고리즘을 신경망 레이어로 변환하는 방식을 채택했습니다.

A. 균형 잡힌 부호 그래프 (Balanced Signed Graph)

부호 그래프: EEG 센서 간의 양/음 상관관계를 각각 양수/음수 에지 가중치로 모델링합니다.
균형 (Balance) 조건: 그래프 내 모든 사이클에서 음의 에지 개수가 짝수여야 합니다 (Cartwright-Harary 정리). 이는 그래프의 노드에 극성 (polarity, $\beta_i \in \{1, -1\}$ ) 을 부여하여, 양의 에지는 같은 극성 노드 간, 음의 에지는 다른 극성 노드 간에 연결되도록 함으로써 달성됩니다.
스펙트럼 정의: 균형 잡힌 부호 그래프 $G_B$ 의 라플라시안 행렬 $L_B$ 는 유사성 변환 (similarity transform) 을 통해 대응되는 양의 그래프 $G_+$ 의 라플라시안 $L_+$ 로 변환할 수 있습니다 ( $L_+ = T L_B T^{-1}$ ). 이를 통해 부호 그래프에서도 양의 그래프와 동일한 고유값 (주파수) 을 정의할 수 있어, 기존 GSP 필터링 기법을 적용할 수 있게 됩니다.

B. 알고리즘 언롤링 및 신경망 구조

그래프 학습 모듈 (BGL): 입력 신호의 특징 벡터를 추출하고, Mahalanobis 거리를 기반으로 부호 에지 가중치를 학습합니다. 이 과정은 정규화된 에지 가중치를 계산하며, 이는 트랜스포머의 Self-Attention 메커니즘과 수학적으로 동등함을 보였습니다.
저역 통과 필터 (LPF): 학습된 양의 그래프 $G_+$ $G_{+}$ 위에서 이상적인 저역 통과 필터를 적용하여 신호를 잡음 제거 (Denoising) 합니다.
- Lanczos 근사: 고유값 분해 (Eigen-decomposition) 의 높은 계산 비용 ( $O(N^3)$ ) 을 피하기 위해 Lanczos 근사법을 사용하여 선형 시간 ( $O(N)$ ) 내에 필터를 구현합니다.
- 학습 가능한 컷오프 주파수: 필터의 컷오프 주파수 $\omega$ 는 데이터로부터 학습됩니다.
반복 구조: 그래프 학습 (BGL) 과 저역 통과 필터링 (LPF) 을 번갈아 가며 반복하는 구조를 신경망 레이어로 언롤링하여 경량 트랜스포머를 구성합니다.

C. 분류 전략 (Classification Strategy)

사전 작업 (Pretext Task): 두 개의 클래스별 (정상/뇌전증) 디노이저 (Denoiser) $\Psi_0(\cdot)$ 와 $\Psi_1(\cdot)$ 를 각각 학습합니다. 각 디노이저는 해당 클래스의 신호 분포 (후사 확률) 를 학습하도록 설계됩니다.
재구성 오차 기반 분류: 테스트 시 입력 신호 $y$ 에 대해 두 디노이저를 통과시킨 후, 재구성 오차 (Reconstruction Error) $\|y - \Psi_c(y)\|^2$ 를 계산합니다. 오차가 더 작은 클래스를 예측 클래스로 선택합니다.
손실 함수: 단순 MSE 손실 대신, 두 클래스 간 구분을 강화하기 위해 Contrastive Loss를 도입하여 학습합니다.

3. 주요 기여 (Key Contributions)

부호 그래프 기반 트랜스포머: 기존 양의 그래프에 국한되었던 알고리즘 언롤링 기법을 확장하여, 균형 잡힌 부호 그래프의 주파수 특성을 활용한 경량화되고 해석 가능한 트랜스포머를 제안했습니다.
효율적인 필터 구현: 고유값 분해 없이 Lanczos 근사를 통해 선형 시간 복잡도로 이상적인 저역 통과 필터를 구현하고, 컷오프 주파수만 학습하도록 하여 계산 효율성을 극대화했습니다.
생성적 모델링과 판별적 분류의 융합: 두 개의 디노이저를 학습하여 후사 확률을 추정하고, 이를 재구성 오차로 변환하여 분류하는 새로운 패러다임을 제시했습니다.
성능 대비 파라미터 효율성: SOTA 딥러닝 모델과 유사한 정확도를 달성하면서도 파라미터 수를 1% 미만으로 줄였습니다.

4. 실험 결과 (Experimental Results)

데이터셋: 터키 간질 EEG 데이터셋 (121 명, 10,356 개 기록) 및 TUH Abnormal EEG 코퍼스.
성능 (기본 태스크):
- 정확도: 97.57% (기존 Transformer 기반 모델 [5] 의 85.12% 보다 우월).
- F1-Score: 98.01%.
- 파라미터 수: 약 14,787 개 (기존 Transformer 모델은 약 184 만 개, CNN 기반 모델은 1,150 만 개 이상).
성능 (LOSO - Leave-One-Subject-Out):
- 다른 피험자에 대한 일반화 능력을 평가한 결과, 정확도 90.06%, F1-Score 92.59% 를 기록하여 기존 그래프 기반 방법 (DGCNN, GIN 등) 보다 월등히 높은 성능을 보였습니다.
Ablation Study:
- 그래프 유형: 균형 잡힌 부호 그래프가 양의 그래프나 불균형 부호 그래프보다 성능이 우수함을 입증했습니다.
- 손실 함수: Contrastive Loss를 사용한 것이 단순 MSE 보다 분류 성능을 크게 향상시켰습니다.
계산 효율성: 학습 시간 (2 시간 14 분) 및 추론 시간 (55 초) 이 기존 모델들 (EEGNet, Deep4Net 등) 보다 훨씬 짧습니다.

5. 의의 및 결론 (Significance & Conclusion)

이 논문은 EEG 신호의 고유한 특성 (음의 상관관계) 을 그래프 이론을 통해 수학적으로 엄밀하게 모델링하고, 이를 알고리즘 언롤링 기법과 결합하여 고성능, 저비용, 고해석성을 모두 갖춘 분류 모델을 제시했습니다.

실용성: 리소스가 제한된 임베디드 EEG 장치나 실시간 뇌전증 감지 시스템에 배포하기에 이상적인 경량 모델입니다.
해석 가능성: 각 신경망 레이어가 최적화 알고리즘의 한 단계에 대응하므로, 모델이 어떤 기준으로 신호를 분류하는지 수학적으로 추적 가능합니다.
확장성: 현재는 이진 분류에 국한되었으나, 향후 그래프 기반 디노이저를 활용한 다중 클래스 분류 트리로 확장할 수 있는 가능성을 제시했습니다.

결론적으로, 이 연구는 딥러닝의 블랙박스 문제를 해결하면서도 EEG 분류의 정확도를 SOTA 수준으로 유지하는 새로운 패러다임을 제시한 중요한 성과입니다.