Unsupervised nonmotor learning in the human cerebellum

당신의 뇌를 각기 다른 전문 분야를 운영하는 다양한 구역들이 있는 북적이는 도시라고 상상해 보세요. 수십 년 동안 과학자들은 뇌의 특정 부위인 소뇌(뇌 뒷부분에 위치한 작고 주름진 구조)가 엄격하게 '운동 제어 부서'만을 담당한다고 생각했습니다. 소의 역할은 오직 당신이 발에 걸려 넘어지거나 테니스 공을 놓치지 않도록 하는 것이었습니다. 소뇌는 초고속 코치처럼 작동하며 이를 수행했습니다. 만약 공이 왼쪽으로 갈 것이라 예측했는데 오른쪽으로 갔다면, 소뇌는 그 "어라?" 하는 순간(이를 예측 오차라고 부릅니다)을 감지하고, 다음번에는 더 잘할 수 있도록 즉각적으로 근육을 미세하게 조정했습니다.

하지만 이 코치가 단순히 움직임뿐만 아니라, 움직이지 않을 때조차 세상에 대해 배울 수 있는 천재적인 교사라면 어떨까요? 이것이 바로 연구자들이 던진 핵심 질문입니다. 그들은 소뇌가 신체적 움직임이 아닌 언어나 사회적 신호와 같은 패턴을 학습할 때도 동일한 "어라?" 신호를 사용하는지 궁금해했습니다. 이를 이해하기 위해서는 통계적 학습에 대해 알아야 합니다. 이는 의식적인 노력 없이도 세상의 숨겨진 규칙을 포착해내는 뇌의 초능력입니다. 예를 들어, 개가 짖는 소리를 들으면 당신은 무의식적으로 곧 문을 두드리는 소리가 들릴 것이라 예상하게 됩니다. 이는 당신이 결심해서 생각한 것이 아니라, 뇌가 "짖는 소리"가 보통 "노크 소리"로 이어진다는 것을 조용히 학습했기 때문입니다. 이 논문은 소뇌가 이러한 조용한 패턴 매칭을 수행하는 주체인지, 아니면 그저 다른 뇌 부위들이 일을 하는 동안 옆에서 구경만 하는 방관자인지를 파헤칩니다.

---

위대한 뇌 탐정 이야기: 누가 패턴을 학습하는가?

최근 한 연구에서 예일 대학교의 과학자 팀은 인간의 뇌를 대상으로 탐정 놀이를 하기로 했습니다. 그들은 뇌의 유명한 '움직임 코치'인 소뇌가 사람들이 아무런 신체 활동 없이 가만히 앉아 있을 때도 '패턴 탐정' 역할을 할 수 있는지 확인하고 싶었습니다.

설정: 프랙탈 추측 게임
연구진은 20명의 자원봉사자를 MRI 기기(뇌의 활동을 찍는 거대한 카메라) 안에 넣었습니다. 연구진은 그들에게 팔을 움직이거나 퍼즐을 풀기 위해 버튼을 누르라고 요청하는 대신, 그저 화면을 응시하라고 요청했습니다. 화면에는 프랙탈이라고 불리는 화려하고 추상적인 모양들이 차례대로 나타났습니다.

여기에는 트릭이 있었습니다. 모양들은 무작위가 아니었습니다. 그것들은 비밀 코드를 따르고 있었습니다. 만약 빨간색 프랙탈이 나타나면, 다음에 파란색 프랙탈이 나타날 확률이 매우 높았습니다(75%). 하지만 흥미를 유지하기 위해 가끔은 초록색 프랙탈이 뒤따라 나오기도 했습니다(25%). 자원봉사자들은 이 코드가 존재한다는 사실을 몰랐습니다. 학습은 뇌의 무의식적인 층위에서 완전히 자동 항법 모드로 진행되었습니다.

이 과정에서 자원봉사자들의 유일한 임무는 '커버 태스크(겉치레 과제)'였습니다. 만약 모양이 회전하면 버튼을 눌러야 했습니다. 이는 그들이 깨어 있고 집중하고 있음을 보장하기 위한 것이었지만, 패턴을 파악할 필요는 없는 단순한 작업이었습니다.

스캔이 끝난 후, 연구진은 자원봉사자들에게 비밀 코드를 알고 있는지 물었습니다. 결과는 어땠을까요? 아무도 몰랐습니다. 학습은 뇌의 깊은 무의식 속에서 저절로 일어났습니다.

발견: 소뇌의 "아하!" 모먼트
자원봉사자들이 그저 모양을 지켜보고 있는 동안, 과학자들은 뇌 활동을 관찰했습니다. 그들은 특정한 신호, 즉 예측 오차를 찾고 있었습니다. 이것은 뇌가 "잠깐, 이런 일이 일어날 줄 알았는데 아니네!"라고 말하는 방식입니다.

결과는 놀라웠습니다. 연구진은 소뇌가 이러한 "어라?" 신호와 함께 밝게 빛나고 있다는 것을 발견했습니다. 패턴을 깨뜨리는 희귀한 모양이 나타날 때마다 소뇌는 반응했습니다. 소뇌는 단순히 놀라움에 반응하는 것이 아니라, 시도할 때마다 조금씩, 조금씩 자신의 내부 세계 지도를 업데이트하며 규칙을 학습하고 있었습니다.

소뇌를 스마트 온도 조절기라고 생각해 보세요. 과거에 우리는 소뇌가 방이 너무 뜨겁거나 차가워질 때 온도를 조절할 수 있다는 것을 알고 있었습니다. 하지만 이 연구는 소뇌가 집의 일일 날씨 패턴 또한 학습할 수 있음을 시사합니다. 만약 집이 보통 오후 6시에 추워진다면, 온도 조절기는 그 패턴을 학습합니다. 만약 오후 2시에 갑자기 추워진다면, 온도 조절기는 "와, 이건 예상 밖인데!"라고 반응하며 방금 일어난 경험을 바탕으로 바로 다음 순간의 예측치를 조정합니다. 연구는 소뇌가 시각적 패턴에 대해 정확히 이와 같이 작동하며, 장기적인 기후를 기다리기보다 가장 최근의 경험을 바탕으로 끊임없이 예측을 미세하게 조정한다는 것을 발견했습니다.

반전: 해마는 다른 게임을 한다
연구진은 기억과 패턴 학습으로 유명한 뇌 영역인 해마도 확인했습니다. 그들은 해마가 소뇌와 똑같이 행동할 것이라고 예상했지만, 완전히 다른 결과를 발견했습니다.

소뇌가 매일의 작은 변화를 만드는 온도 조절기라면, 해마는 사서에 더 가까웠습니다. 해마는 소뇌처럼 매 순간 발생하는 작은 놀라움에는 크게 개의치 않는 듯 보였습니다. 대신, 해마는 자신이 본 모든 규칙의 거대하고 완전한 목록을 구축하는 데 집중하는 것 같았습니다. 해마는 전체적인 '규칙의 책'이 새로 쓰여지는지 여부와 상관없이, 특정 규칙이 깨졌을 때(희귀한 모양이 나타났을 때) 강력하게 반응했습니다.

이를 증명하기 위해 과학자들은 컴퓨터 모델을 사용하여 이 뇌 부위들이 어떻게 생각하는지 시뮬레이션했습니다. 그들은 소뇌의 활동이 단계별로 학습하는 모델(매 시험이 끝날 때마다 노트를 적는 학생과 같은 모델)과 일치하는 반면, 해마는 데이터를 모두 모은 후에 큰 결론을 내리는 모델(사건이 다 종료된 후 사건을 해결하는 탐정과 같은 모델)과 일치한다는 것을 발견했습니다.

이것이 의미하는 바
이 연구는 소뇌가 단순한 운동 기계 그 이상임을 시사합니다. 소뇌는 우리가 공을 잡든 영화를 보고 있든, 세상이 어떻게 돌아가는지 파악하도록 돕는 보편적인 학습 엔진인 것으로 보입니다. 소뇌는 사건의 '흐름'을 학습하는 데 특화되어 있으며, 우리의 예측을 현실과 끊임없이 대조하고 미세한 수정을 가합니다.

연구진은 이것이 소뇌가 모든 것을 한다는 뜻은 아니라고 조심스럽게 밝히고 있습니다. 소뇌는 거시적인 기억을 담당하는 해마와 협력하여 작동합니다. 하지만 이 발견은 우리가 뇌를 바라보는 관점을 바꿉니다. 단지 달리고 점프하기 위한 부위라고 생각했던 곳이, 사실 우리가 가만히 앉아 있을 때조차 일상의 숨겨진 규칙을 이해하도록 돕고 있다는 것입니다. 이는 실수를 통해 배우는 뇌의 능력이 단순히 근육을 담당하는 부서뿐만 아니라, 여러 다양한 부서에 공유되는 초능력임을 시사합니다.