Decision Confidence Neuron in Echo State Network for Continual Evaluation of EEG Motor Imagery Classification Quality

숫자를 딱딱한 단계별 방식으로 계산하는 것이 아니라, 마치 복잡한 파이프 시스템을 흐르는 물처럼 연결망을 통해 신호가 파동처럼 퍼져나가게 함으로써 인간의 뇌와 같은 방식으로 선택하는 법을 배우는 컴퓨터를 상상해 보십시오. 레저버 컴퓨팅(reservoir computing)이라고 알려진 이 접근 방식은 에너지 효율적이고 빠르도록 설계되어, 웨어러블 센서나 의료 모니터와 같이 엣지(edge) 환경에서 구동되어야 하는 장치에 이상적입니다. 그러나 큰 걸림돌은 항상 신뢰의 문제였습니다. 이러한 시스템이 결정을 내릴 때, 대개는 단순히 "왼쪽" 또는 "오른쪽", "안전" 또는 "위험"과 같은 답만을 내놓습니다. 그것은 두 번째 층위의 정보, 즉 "얼마나 확신하는가?"를 거의 제공하지 않습니다. 휠체어를 생각만으로 조종하거나 환자를 진단하는 것과 같이 이해관계가 걸린 고도의 상황에서는, 기계의 결정만큼이나 그 결정의 확신 수준을 아는 것이 중요합니다. 이것이 없다면, 사용자는 자신 있게 들리는 명령이 실제로는 실수인지 아니면 확실한 선택인지 구분할 수 없습니다.

연구팀은 컴퓨터에게 "자신의 생각을 생각할 수 있는" 방법을 부여함으로써 이 문제를 해결하고자 했습니다. 그들은 뇌의 시간 기반 신호 처리 능력을 모방한, 레저버 컴퓨팅의 간소화된 버전인 에코 상태 네트워크(echo state network)라는 특정 유형의 네트워크를 구축했습니다. 그들의 혁신은 이 네트워크에 특별한 구성 요소를 추가한 것이었습니다. 바로 확신도를 측정하기 위해 설계된 전용 뉴런입니다. 이 추가된 뉴런은 단순히 최종 선택을 출력하는 대신, 네트워크가 증거를 수집하는 동안 발생하는 내부 활동을 관찰합니다. 네트워크가 한쪽 옵션 쪽으로 더 강하게 기울어짐에 따라, 이 확신 뉴런은 불이 들어오며 선택이 얼마나 뚜렷한지를 실시간으로 보여줍니다. 연구진은 이 인공 시스템이 인간의 메타인지, 즉 자신의 결정 품질을 판단하는 능력을 모방할 수 있는지, 그리고 실제 상황에서 유용할 만큼 신뢰할 수 있게 수행할 수 있는지를 확인하고자 했습니다.

이 아이디어를 테스트하기 위해, 연구팀은 먼저 네트워크가 노이즈가 섞인 두 신호 사이에서 선택해야 하는 시뮬레이션 환경을 만들었습니다. 그들은 완전히 모호한 상태부터 매우 명확한 상태까지 다양하게 변화하는 입력 쌍을 시스템에 제시했습니다. 이 통제된 설정에서 네트워크의 확신 뉴런은 기대했던 대로 작동했습니다. 신호들을 구별하기 쉬울 때 확신 뉴런은 높은 활동을 보였습니다. 반면 신호들이 탁하고 구별하기 어려울 때는 활동이 떨어졌습니다. 이는 시스템이 작업의 난이도를 추적하고 그에 따라 내부 확신 측정치를 조정할 수 있음을 입증했습니다. 그러나 연구진은 여기서 한 가지 한계점도 발견했습니다. 이러한 단순하고 정적인 시뮬레이션에서는 확신 뉴로가 작업이 얼마나 어려운지는 말해줄 수 있었지만, 난이도가 동일할 때 올바른 추측과 틀린 추측을 구별하는 데는 어려움을 겪었습니다. 시스템은 작업이 어렵다는 것은 알았지만, 자신이 옳은 판단을 내렸는지 여부는 항상 알지 못했습니다.

진정한 시험대는 연구진이 시뮬레이션에서 벗어나 실제 인간의 데이터로 넘어갔을 때 찾아왔습니다. 그들은 연구 모델을 사람들이 왼손이나 오른손을 움직이는 상상을 할 때의 운동 상상(motor imagery)이 포함된 뇌-컴퓨터 인터페이스 데이터셋에 적용했습니다. 시스템은 두피에 전극을 배치하여 기록된 뇌의 전기 신호를 분석했습니다. 깨끗한 시뮬레이션 데이터와 달리, 이러한 뇌 신호는 지저질고 사람마다 다양했습니다. 연구진은 일부 세션의 데이터로 네트워크를 훈련시킨 후, 현실적인 시나리오에서 어떻게 수행되는지 보기 위해 보지 못한 새로운 세션에서 테스트를 진행했습니다. 결과는 놀라웠습니다. 이 복잡하고 실제적인 환경에서 확신 뉴런은 단순히 작업의 난이도를 측정하는 것을 넘어, 올바른 결정과 오류를 성공적으로 구분해 냈습니다. 네트워크가 올바른 선택을 했을 때 확신 신호는 일반적으로 실수했을 때보다 높았습니다. 내부 확신 점수를 바탕으로 옳고 그름을 구분하는 이 능력은 인간 메타인지의 특징이며, 기계는 이를 달성했습니다.

연구는 이 확신 신호가 단순한 이진 스위치가 아니라 단계적인 척도임을 더 밝혀냈습니다. 연구진은 확신 신호의 높이에 따라 시행(trials)들을 그룹별로 분류했습니다. 그들은 명확한 패턴을 발견했습니다. 확신 점수가 가장 높은 시행들이 네트워크가 정답을 맞힐 확률이 가장 높은 시행들이었습니다. 확신 수치가 올라감에 따라 결정의 정확도도 함께 올라갔습니다. 이러한 단조로운 관계는 시스템의 내부 게이지가 자신의 성능에 대한 신뢰할 수 있는 지표임을 시사합니다. 모델은 약 72%의 분류 정확도를 달성했는데, 이는 이 유형의 데이터에 사용되는 표준 방법들보다 약간 더 나은 수준이었지만, 확신 뉴런의 추가는 표준 방법들이 갖지 못한 안전성과 투명성의 층위를 제공했습니다.

이 연구의 함의는 단순히 더 나은 알고리즘을 만드는 것에 그치지 않습니다. 기계에게 불확실성을 표현하는 방법을 부여함으로써, 연구진은 인간 사용자에게 더 신뢰할 수 있는 시스템을 만들었습니다. 만약 뇌-컴퓨터 인터페이스가 장치를 제어하고 있다면, 낮은 확신 수치는 경고 신호 역할을 하여 인간 운영자가 실수가 해를 끼치기 전에 개입하거나 동작을 멈추도록 유도할 수 있습니다. 반대로, 높은 확신 수치는 시스템이 더 높은 자율성을 가지고 진행할 수 있게 합니다. 연구진은 이 접근 방식이 복잡하고 에너지를 많이 소비하는 계산을 요구하지 않는다는 점을 강조합니다. 이는 이미 효율적인 시스템에 추가된 가벼운 요소입니다. 시뮬레이션은 시스템이 난이도를 측정할 수 있음을 보여주었지만, 실제 뇌 데이터를 통한 연구는 시스템이 정답 여부까지 판단할 수 있음을 입려주었으며, 이는 결정의 모니터링을 위한 중요한 단계입니다. 결정의 모니터링을 위한 뇌의 방식을 모방함으로써, 우리는 단순히 생각하는 것을 넘어 자신이 맞는지조차 아는 기계를 만들 수 있다는 것을 이 연구는 시사합니다.