ZIPBrain: Can EEG Foundation Models Be Faster, Locally Deployable, but Accurate?

당신의 뇌를 수백만 개의 작은 메시지를 전기 회선을 통해 끊임없이 보내는 북적이는 도시라고 상상해 보세요. 과학자들은 이 전기 신호(EEG로 알려진)를 읽어 그 도시 내부에서 무슨 일이 일어나고 있는지 이해할 수 있는 매우 똑똑한 컴퓨터, 즉 "파운데이션 모델(foundation models)"을 구축했습니다. 이 모델들은 마치 뛰어난 탐정과 같지만, 동시에 매우 무겁고 느립니다. 이들은 많은 메시지가 그저 정전기 노이즈이거나 반복되는 속삭임일 때조차도 모든 메시지를 하나하나 다 읽으려고 노력합니다. 한 번에 너무 많은 데이터를 처리하려고 하기 때문에, 이를 실행하려면 거대하고 비싼 컴퓨터가 필요하며, 이는 웨어러블 헤드셋이나 속도가 생명인 실제 병실 같은 작은 기기에서 사용하기 어렵게 만듭니다.

연구자들이 던져온 큰 질문은 이것입니다. "우리는 어떻게 하면 이 똑똑한 뇌 탐정들을 더 멍청하게 만들지 않으면서도 더 빠르고 가볍게 만들 수 있을까?" 그 답은 모든 뇌의 메시지가 똑같이 중요하지는 않다는 사실을 깨닫는 데 있습니다. 마치 대부분의 사람들이 날씨에 대해 잡담을 나누는 동안 소수의 사람들만이 중요한 뉴스를 외치는 시끄러운 파티처럼, 데이터의 상당 부분은 실제로 중복됩니다. 이 논문은 ZIPBrain이라 불리는 영리한 새로운 도구를 소개하는데, 이는 뇌 신호를 위한 매우 효율적인 편집기 역할을 합니다. 모든 단어를 다 읽는 대신, ZIPBrain은 중요한 "뉴스"와 지루한 "잡담"을 빠르게 포착하고, 지루한 부분들을 하나로 합쳐 컴퓨터가 진정으로 중요한 것에만 집중할 수 있게 해줍니다. 이를 통해 스마트 모델들이 훨씬 더 빠르게 실행될 수 있으며, 잠재적으로 고도의 뇌 모니터링 기술을 당신의 손바닥 안으로 가져올 수 있게 합니다.

문제점: 너무 많은 노이즈, 너무 부족한 시간

EEG 파운데이션 모델을 시험을 치르는 학생이라고 생각해 보세요. 시험지는 뇌 신호의 길고 연속적인 흐름입니다. 신호를 이해하기 위해 모델은 이를 "토큰(tokens)"이라고 불리는 아주 작은 조각들로 나눕니다. 문제는 긴 기록의 경우, 학생이 수천 개의 토큰을 읽어야 한다는 점입니다. 컴퓨터 과학의 세계에서 모든 토킨을 읽고 다른 모든 토큰과 비교하는 것은 수학적으로 매우 무거운 작업입니다. 이는 경기장에 있는 모든 사람을 서로 비교하여 닮은 사람이 있는지 찾아내려는 것과 같습니다. 작업량이 너무 빠르게 증가하여 작은 기기에서는 빠르게 수행하는 것이 불가능해집니다.

게다가, 뇌 신호는 악명 높게 "노이즈(noisy)"가 많습니다. 실제 뇌 활동은 종종 배경 정전기나 신체 움직임 아래에 묻혀 있습니다. 이는 모델이 읽는 토큰의 상당 부분이 사실상 동일한 지루한 정보의 중복된 복사본이라는 것을 의미합니다. 이 논문은 이러한 낮은 신호 대 잡음비(SNR) 때문에 많은 토큰이 본질적으로 낭비되는 노력이라고 제안합니다. 과제는 인간이 먼저 확인하지 않고도 어떤 토큰이 "노이즈"이고 어떤 것이 "신호"인지 파악하는 것입니다.

해결책: 스마트 편집기, ZIPBrain

저자들은 ZIPBrain이라는 새로운 방법론을 제안하는데, 이는 "플러그 앤 플레이(plug-and-play)" 모듈로서 작동합니다. 당신이 이야기의 길고 지저도한 초안을 가지고 있다고 상상해 보세요. 전체를 처음부터 다시 쓰고 싶은 것이 아니라, 그저 군더더기를 잘라내고 싶을 뿐입니다. ZIPBrain은 뇌 신호에 대해 정확히 이 역할을 수행하지만, 모델을 다시 학습(retraining)시키지 않고도(이는 학생에게 읽는 법을 완전히 새로 가르치는 것과 같습니다) 자동으로 수행합니다.

ZIPBrain은 뇌 데이터의 독특한 특성을 존중하는 전략을 사용하여 네 가지 간단한 단계로 작동합니다:

1. "피벗(Pivots)" 찾기 (앵커): 먼저, 시스템은 모든 토큰을 살펴보고 가장 강한 "에너지"(수학적으로 가장 큰 크기 또는 노름/norm)를 가진 토큰을 골라냅니다. 이들을 피벗이라고 부릅니다. 이들은 방 안에서 가장 자신감 있고 큰 목소리를 내는 사람들과 같습니다. 시스템은 이들이 가장 중요한 구조적 정보를 담고 있을 가능성이 높기 때문에, 이들을 안전하게 보호하고 건드리지 않기로 결정합니다.
2. 중복 발견: 다음으로, 시스템은 다른 모든 토큰을 이 강력한 피벗들과 비교합니다. 만약 어떤 토큰이 피벗과 매우 유사하다면, 그것은 "중복(redundant)"된 것으로 표시됩니다. 이는 방 안의 다섯 사람이 모두 똑같은 말을 하고 있다는 것을 깨닫는 것과 같습니다. 당신은 그들 중 한 명의 말만 들으면 됩니다.
3. 매칭 및 병합: 시스템은 그런 다음 중복된 토크들을 "고유(unique)" 그룹 중 가장 가까운 매치와 짝을 짓습니다. 하지만 여기서 까다로운 점이 있습니다. 단순히 두 숫자를 평균 내면 결과값이 작아지고 약해집니다. 이를 해결하기 위해, ZIPBrain은 특별한 **노름 보존 병합(norm-preserving merge)**을 사용합니다. 토큰들을 평균 내되, 그 결과를 원래의 가장 강한 토큰만큼 다시 늘려줍니다. 이를 통해 압축 과정에서 중요한 "에너지"나 신호 강도가 손실되지 않도록 보장합니다.
4. 결과: 최종 출력물은 모든 중요한 정보를 포함하면서도 반복적인 노이즈는 건너뛴, 더 짧고 깨끗한 토큰 리스트입니다.

연구 결과: 더 빠르고, 더 가볍고, 때로는 더 똑똑하게

연구진은 다섯 가지의 서로 다른 데이터셋(발작 감지부터 수면 단계 분류까지)에 걸쳐 네 가지의 최첨단 EEG 모델을 대상으로 ZIPBrain을 테스트했습니다. 결과는 매우 인상적이었습니다.

• 속도: 토큰을 압축함으로써, ZIPBrain은 표준 설정에서 모델 실행 시간(wall-clock inference time)을 32.7% 단축했습니다. 더 효율적으로 컴퓨터 작업을 조직하는 CUDA Graph라는 특별한 최적화를 사용했을 때, 속도 향상은 **41.8%**까지 뛰었습니다.
• 정확도: 놀랍게도, 모델을 빠르게 만든다고 해서 정확도가 떨어지지는 않았습니다. 실제로 ZIPBrain은 다른 토큰 압축 방식들(ToMe, EViT 등과 같은 베이스라인)에 비해 평균 정확도를 **1.3%에서 10.5%**까지 향상시켰습니다. 종종 원래의 압축되지 않은 모델의 성능과 일치하기도 했지만, TUAB 데이터셋의 BIOT 모델과 같은 특정 사례에서는 압축된 모델이 압축되지 않은 모델보다 오히려 더 높은 성능을 보였습니다. 이는 중복된 노이즈를 제거하는 것이 모델이 실제 신호에 집중하는 데 도움이 되었음을 시사합니다.
• 압축: 데이터를 대폭 압축했을 때(토큰의 최대 80%를 제거했을 때)도 모델의 성능은 안정적으로 유지되었습니다. 예를 들어, TUEV 데이터셋에서 모델은 토큰이 80% 감소했음에도 높은 정확도를 유지한 반면, 다른 방식들은 심각하게 실패했습니다.

검증을 통해 제외된 것들

논문은 몇 가지 다른 아이디어들도 테스트하여 어떤 것들이 적합하지 않은지 확인했습니다:

• 단순 프루닝 (삭제): 중복된 토큰을 병합하지 않고 단순히 삭제하는 방법을 시도했습니다. 이는 단순한 작업에서는 괜찮았지만, 더 복잡한 데이터셋에서는 ZIPBrain보다 성능이 떨어졌습니다. 이는 단순히 데이터를 버리는 것이 신호의 강도를 보존하기 위해 신중하게 병합하는 것만큼 좋지 않다는 것을 시사합니다.
• 무작위 그룹화: 스마트한 "피벗" 시스템 대신 토큰을 무작위로 그룹화하는 것을 시도했습니다. 이는 성능의 급격한 저하를 불러왔으며, ZIPBrain이 어떤 토큰을 유지하고 병합할지 선택하는 구체적인 방식이 매우 중요하다는 것을 증명했습니다.
• 단순 평균: "늘리기" 단계 없이 표준 평균을 사용하여 토큰을 병합하는 것을 시도했습니다. 이 또한 성능을 저하시켰으며, 이는 신호의 에너지(노름)를 보존하는 것이 뇌 데이터에 있어 필수적임을 확인시켜 주었습니다.

이것이 왜 중요한가

저자들은 ZIPBrain이 이러한 강력한 뇌 모델들을 실험실 밖으로 꺼내 실제 기기에 적용하기 위한 실질적인 솔루션이라고 제안합니다. 이 모델은 "학습이 필요 없고(training-free)" "플러그 앤 플레이(plug-and-play)" 방식이기 때문에(기존 시스템에 쉽게 끼워 넣을 수 있음), 의사들이 휴대용 헤드셋이나 병원의 엣지 컴퓨터와 같이 자원이 제한된 기기에서도 실시간으로 고급 뇌 모니터링을 사용할 수 있도록 도울 수 있습니다. 이 연구는 우리가 무엇을 무시할지 똑똑하게 결정함으로써, 기술을 더 빠르고 더 정확하게 만들 수 있음을 보여줍니다.