Contribution of task-irrelevant stimuli to drift of neural representations

이 논문은 과업과 무관한 자극이 학습 과정에서 유발하는 노이즈가 과업 관련 신경 표현의 장기적 드리프트를 초래한다는 것을 이론과 시뮬레이션을 통해 규명하고, 이러한 드리프트가 가우시안 시냅스 노이즈에서 비롯된 경우와 구별되는 기하학적 특성을 가진다고 주장합니다.

핵심

이 논문은 "우리의 뇌나 인공지능이 어떤 일을 잘해내고 있는데도, 왜 그 내부의 기억이나 사고 방식이 시간이 지남에 따라 서서히 변해버리는가?" 라는 매우 흥미로운 질문에서 시작합니다.

이 현상을 **'표상 드리프트 (Representational Drift)'**라고 부르는데, 마치 같은 노래를 부르고 있는데도, 10 년 전과 지금의 목소리 톤이 미세하게 달라진 것과 비슷합니다.

저자는 이 드리프트가 단순히 뇌의 '오작동'이나 '노이즈' 때문이 아니라, 우리가 '무시해야 할 정보 (Task-irrelevant stimuli)'를 처리하는 과정에서 자연스럽게 발생한다고 주장합니다.

이 복잡한 내용을 일상적인 비유로 쉽게 설명해 드릴게요.

---

1. 핵심 비유: "시끄러운 카페에서의 공부"

가장 쉬운 이해를 위해 카페 상황을 상상해 보세요.

• 당신 (학습자): 카페에서 중요한 시험 공부를 하고 있습니다. (이것이 과제 관련 자극, Task-relevant stimuli입니다.)
• 주변 소음: 카페에는 다른 손님들의 대화, 커피 머신 소리, 발걸음 소리 등이 끊임없이 들립니다. (이것이 과제 무관 자극, Task-irrelevant stimuli입니다.)

기존의 생각:
"나는 공부에만 집중하고, 주변 소음은 완전히 무시해야지. 소음은 내 뇌에 영향을 주지 않아."

이 논문의 발견:
"아니요! 당신이 소음을 '완전히 무시'하려고 노력하는 그 과정 자체가, 당신의 뇌를 미세하게 흔듭니다."

당신은 소음을 들으면서도 "아, 이건 내 공부랑 상관없어, 무시해야지"라고 매 순간 판단합니다. 이 매 순간의 '무시'와 '판단' 과정이 뇌의 신경 연결을 아주 조금씩, 하지만 끊임없이 움직이게 만듭니다. 결과적으로 시간이 지나면, 당신은 여전히 시험 문제를 잘 풀지만, 그 문제를 풀 때 뇌가 사용하는 '내부 지도 (신경 표현)'는 처음과 완전히 다른 모양으로 변해버린 것입니다.

2. 왜 이런 일이 일어날까요? (수학적 원리의 일상적 해석)

논문은 수학적 모델 (오자 규칙, 신경망 등) 을 통해 이 현상을 증명했습니다. 핵심은 '무시하는 것'이 '영향을 주지 않는 것'과 다르다는 점입니다.

• 비유: 당신이 시끄러운 카페에서 친구와 대화할 때, 친구의 목소리만 듣고 다른 소리는 차단하려 합니다. 하지만 그 '차단'을 위해 귀와 뇌는 끊임없이 "이건 친구 목소리야, 저건 소음이야"라고 분류 작업을 합니다.
• 결과: 이 분류 작업이 계속되면, 뇌의 회로는 친구의 목소리에만 최적화되는 게 아니라, 소음의 패턴을 계속 감지하고 필터링하는 방식에 따라 미세하게 변형됩니다.
• 논문의 결론: 소음 (과제 무관 자극) 이 많을수록, 그리고 소음의 종류가 다양할수록 (차원이 높을수록), 당신의 뇌는 더 많이 움직이게 되고, 그 결과 기억의 지도는 더 빠르게 변합니다.

3. 이 발견이 왜 중요할까요?

이 연구는 두 가지 큰 통찰을 줍니다.

① 드리프트는 '버그'가 아니라 '기능'일 수 있다.
우리는 뇌가 변하는 것을 불안해하지만, 이 논리는 **"변화는 학습의 부산물"**이라고 말합니다. 끊임없이 새로운 환경 (소음) 에 적응하면서 '무시'하는 법을 배우는 과정에서 뇌는 유연하게 변합니다. 이는 평생 학습 (Lifelong Learning) 에 필수적인 과정일 수 있습니다.

② 뇌의 작동 원리를 역추적할 수 있다.
만약 뇌에서 어떤 변화가 일어난다면, 그 원인이 '뇌 세포의 노화' 때문인지, 아니면 '주변 환경의 소음' 때문인지 구별할 수 있습니다.

• 비유: 만약 카페에서 당신의 목소리 톤이 변했다면, 그것은 당신의 성대가 늙어서가 아니라, 어떤 종류의 소음 (예: 재즈 음악인지, 공사장 소리인지) 에 얼마나 노출되었는지를 알려주는 신호일 수 있습니다.
• 이를 통해 과학자들은 뇌가 어떤 정보를 중요하게 여기고, 무엇을 무시하며 학습하고 있는지 추론할 수 있게 됩니다.

4. 요약: 한 문장으로 정리하면?

"우리가 세상을 살면서 '무시'해야 할 수많은 정보들이 우리 뇌의 내부 지도를 끊임없이 흔들어, 같은 일을 해도 뇌의 작동 방식은 시간이 지날수록 조금씩 변하게 만든다."

이 연구는 인공지능 개발자들에게도 중요한 메시지를 줍니다. "완벽하게 안정된 AI 를 만들고 싶다면, 단순히 노이즈를 제거하는 게 아니라, 무의미한 정보를 어떻게 처리할지에 대한 전략을 다시 설계해야 한다"는 뜻입니다.

결국, 변화는 멈출 수 없는 자연의 법칙이며, 그 변함속에서도 우리가 일을 잘해내는 것이야말로 진정한 지능의 증거라는 것을 이 논문은 보여줍니다.

기술 요약

1. 문제 정의 (Problem)

• 표상 드리프트 (Representational Drift): 신경망이 학습을 마치고 성능이 안정화된 상태에서도, 내부 신경 표상 (neural representations) 이 시간이 지남에 따라 서서히 변화하는 현상입니다. 이는 뇌과학 연구 (수주~수개월 동안의 뉴런 추적) 와 머신러닝 모두에서 관찰됩니다.
• 기존의 한계: 드리프트의 원인으로 주로 '시냅스 노이즈 (synaptic noise)'나 '학습 과정의 확률성'이 언급되어 왔으나, 작업과 무관한 입력 데이터 (task-irrelevant stimuli) 가 드리프트에 어떻게 기여하는지에 대한 체계적인 연구는 부족했습니다.
• 핵심 질문: 성능은 유지되는데도 불구하고, 왜 신경 표상은 변하는가? 그리고 이 변화의 원인이 데이터 분포 (특히 무관한 자극) 와 어떻게 연결되는가?

2. 방법론 (Methodology)

저자는 온라인 학습 (online learning) 설정을 기반으로 이론적 프레임워크와 시뮬레이션을 결합하여 다양한 아키텍처와 학습 규칙에서 드리프트를 분석했습니다.

• 이론적 프레임워크:
  • 학습 동역학을 해석적 (analytical) 으로 접근하여, 해의 다양체 (solution manifold) 상에서의 확산 (diffusion) 을 모델링했습니다.
  • 학습률 ($\eta$) 이 작을 때, 이산적인 학습 업데이트를 연속 시간 확률 미분 방정식 (SDE) 으로 근사화했습니다.
  • 파라미터 공간의 법선 방향 (Normal space) 과 접선 방향 (Tangent space) 으로 동역학을 분해하여, 접선 방향에서의 확산 계수 (diffusion coefficient) 를 유도했습니다.
• 검증 모델 (아키텍처 및 학습 규칙):
  1. Hebbian 기반 학습: Oja's rule (주성분 분석), Similarity Matching 네트워크.
  2. 경사 하강법 (SGD) 기반: 선형 오토인코더 (Autoencoder), 지도 학습 2 층 신경망 (Supervised Two-layer network).
  3. 비선형 네트워크: ReLU 활성화 함수를 가진 2 층 네트워크.
• 데이터:
  • 제어된 가우시안 데이터 (작업 관련/무관 하위 공간의 분산을 조절).
  • 실제 데이터셋 (MNIST).

3. 주요 기여 (Key Contributions)

1. 작업 무관 자극의 노이즈 역할 규명:
   • 학습 과정에서 네트워크가 특정 컨텍스트에서 '무시'하도록 학습된 작업 무관 자극 (task-irrelevant stimuli) 이 학습 노이즈의 원천이 되어, 작업 관련 자극 (task-relevant stimuli) 의 표상을 장기적으로 변화시킨다는 것을 증명했습니다.
   • 이는 성능이 안정화된 후에도 드리프트가 지속되는 핵심 메커니즘임을 보였습니다.
2. 범용성 입증:
   • Hebbian 학습 (Oja, Similarity Matching) 과 SGD 기반 학습 (오토인코더, 지도 학습) 을 포함한 다양한 아키텍처와 학습 규칙에서 이 현상이 일관되게 발생함을 보였습니다.
3. 기하학적 및 차원 의존성 예측:
   • 학습 노이즈에 의한 드리프트는 가우시안 시냅스 노이즈 (Gaussian synaptic noise) 에 의한 드리프트와 질적으로 다른 예측을 제공합니다.
   • 특히 드리프트의 기하학 (isotropic vs anisotropic) 과 출력 차원 (output dimension) 에 대한 의존성이 다릅니다.

4. 주요 결과 (Key Results)

A. 드리프트율과 데이터 분포의 관계

• 분산과 차원의 영향: 작업 무관 하위 공간 (task-irrelevant subspace) 의 분산 ($\lambda_\perp$) 이 크고 차원 ($n-m$) 이 클수록 드리프트율이 증가합니다.
  • 수식적으로 드리프트율 $D$ 는 $D \propto \eta^3 \lambda_\perp^2 (n-m)$ 와 같은 형태로 비례합니다.
• 비모노톤 (Non-monotonic) 행동:
  • MNIST 실험에서 표현층의 차원 (또는 병목 층 크기) 을 변화시켰을 때, 드리프트율은 초기에는 증가하다가 최대값을 찍은 후 감소하여 0 이 되는 비모노톤 경향을 보였습니다.
  • 이유: 표현 차원이 커질수록 드리프트할 수 있는 공간이 넓어지지만 (드리프트 증가), 동시에 작업 무관 자극이 차지하는 상대적 비율이 줄어들어 노이즈 소스가 감소하기 때문입니다.

B. 학습 노이즈 vs. 시냅스 노이즈 (Learning Noise vs. Synaptic Noise)

두 노이즈 원천은 드리프트에 대해 서로 다른 특성을 가집니다:

1. 기하학적 구조 (Geometry):
   • 학습 노이즈: 드리프트가 이방성 (anisotropic) 입니다. 즉, 표상 공간의 방향에 따라 드리프트 속도가 다릅니다 (작업 무관 자극의 스펙트럼에 의존).
   • 시냅스 노이즈: 드리프트가 등방성 (isotropic) 입니다. 모든 방향에서 균일하게 발생합니다.
2. 차원 의존성:
   • 학습 노이즈: 출력/병목 차원에 대해 비모노톤 관계를 가질 수 있습니다.
   • 시냅스 노이즈: 출력 차원이 증가함에 따라 드리프트율이 단조 증가합니다.

C. 비선형 네트워크 및 실제 데이터

• 비선형 활성화 함수 (ReLU) 를 가진 네트워크에서도 작업 무관 자극에 의한 드리프트가 관찰되었으며, 이는 선형 이론의 예측과 일치했습니다.
• MNIST 데이터 실험을 통해 이론적 모델이 실제 복잡한 데이터에서도 유효함을 입증했습니다.

5. 의의 및 결론 (Significance)

• 뇌과학적 함의: 뇌에서 관찰되는 표상 드리프트가 단순히 '노이즈'나 '불안정성'이 아니라, 지속적인 학습 환경과 자극의 구조 (특히 무관한 정보) 에 의해 필연적으로 발생하는 현상일 수 있음을 시사합니다. 이는 뇌가 어떻게 불완전한 정보 하에서 유연하게 학습하고 적응하는지 이해하는 데 중요한 단서를 제공합니다.
• 인공지능적 함의: continual learning (지속 학습) 시스템 설계 시, 작업과 무관한 입력 데이터를 어떻게 처리할지 고려해야 함을 강조합니다.
• 실험적 가이드: 향후 실험에서 드리프트의 원인을 규명하기 위해, 작업 무관 자극의 양과 분산을 조절하여 드리프트율의 변화 (비모노톤 행동 등) 를 관찰함으로써 학습 노이즈와 시냅스 노이즈를 구별할 수 있는 방법론을 제시합니다.

요약하자면, 이 논문은 "학습 과정에서 무시되는 정보조차도 장기적인 신경 표상의 변화를 일으키는 근본적인 원인"이 될 수 있음을 수학적으로 증명하고, 이를 통해 드리프트 현상의 본질을 재정의합니다.