Learning sculpts orthogonal task manifolds for continual skill learning in recurrent networks

이 논문은 국소적 예측 오차 기반 학습 규칙이 순환 신경망 내에서 직교하는 작업 매니폴드를 형성하여 새로운 기술 습득 시 기존 역동성을 보존함으로써 영구적 망각 문제를 해결하고 생물학적 신경 회로와 인공 신경망 간의 메커니즘적 연결고리를 제시함을 보여줍니다.

핵심

이 논문은 인공지능과 인간의 뇌가 **"새로운 것을 배우면서도 예전에 배운 것을 잊지 않는 방법"**에 대한 놀라운 비밀을 밝혀냈습니다.

일반적으로 인공지능 (AI) 은 새로운 일을 배우면 예전에 배운 일을 잊어버리는 '파괴적 망각 (Catastrophic Forgetting)'이라는 큰 문제를 겪습니다. 마치 새 책을 읽으려고 책장을 넘기면, 그 아래에 있던 예전 책들이 다 찢어져 버리는 것과 같습니다.

하지만 이 연구는 **재귀 신경망 (RNN, 뇌의 회로와 유사한 AI 모델)**이 어떻게 이 문제를 해결하는지 보여주었습니다. 핵심은 **"직교하는 (서로 겹치지 않는) 학습 공간"**을 만드는 것입니다.

이 복잡한 개념을 쉽게 이해할 수 있도록 세 가지 비유로 설명해 드릴게요.

---

1. 비유: "마법 같은 도서관과 서로 다른 열쇠"

상상해 보세요. 당신의 뇌는 거대한 도서관이고, 배운 지식들은 그 도서관에 꽂힌 책들입니다.

• 기존의 문제: 보통 AI 는 새로운 책을 꽂을 때, 예전 책들이 꽂혀 있는 선반을 무작위로 밀어내거나 찢어버립니다. 그래서 새로운 책을 넣으려고 하면 예전 책들이 사라져 버리는 거죠.
• 이 연구의 해결책: 이 연구는 AI 가 새로운 책을 배울 때, **서로 겹치지 않는 완전히 새로운 선반 (공간)**을 만들어 책을 꽂는다는 것을 발견했습니다.
  • **A라는 책 (첫 번째 학습)**을 배울 때는 '1 번 선반'에 꽂습니다.
  • **B라는 책 (두 번째 학습)**을 배울 때는 '2 번 선반'에 꽂습니다.
  • 중요한 점은 이 두 선반이 서로 90 도 각도로 (직교하게) 배치되어 있다는 것입니다. 1 번 선반을 건드리면 2 번 선반의 책에는 절대 영향을 주지 않습니다.

2. 비유: "라디오 주파수와 안테나"

학습을 라디오 방송을 듣는 것에 비유해 볼까요?

• 학습 신호 (피드백): 새로운 것을 배울 때 뇌로 들어오는 '지시 신호'가 있습니다. 연구자들은 이 신호를 라디오 주파수라고 생각했습니다.
• 작동 원리:
  • 첫 번째 학습 (Task 1) 을 할 때는 100.1 MHz 주파수를 켭니다. 뇌는 이 주파수에 맞춰 '100.1 채널'이라는 전용 공간 (매니폴드) 을 만듭니다.
  • 두 번째 학습 (Task 2) 을 할 때는 99.5 MHz 주파수로 바꿉니다. 뇌는 이 새로운 주파수에 맞춰 완전히 다른 공간을 만듭니다.
  • 이 두 공간은 서로 겹치지 않기 때문에, 99.5 를 듣는다고 해서 100.1 채널의 방송이 끊기지 않습니다.
  • 나중에 다시 100.1 채널 (Task 1) 로 돌아오면, 뇌는 그 공간이 그대로 남아있어서 순간적으로 다시 방송을 들을 수 있습니다.

3. 비유: "비행기 활주로"

뇌의 신경 세포들이 모여 움직이는 경로를 **'활주로'**라고 생각합시다.

• 문제: 보통 새로운 비행기 (새로운 작업) 가 착륙하려고 하면, 기존 비행기들이 사용하던 활주로를 뒤흔들어 버려서 기존 비행기들이 이륙하지 못하게 합니다.
• 해결: 이 연구에 따르면, 뇌는 새로운 비행기를 위해 완전히 다른 방향의 활주로를 뚫습니다.
  • A 비행기는 '동쪽 활주로'를 사용합니다.
  • B 비행기는 '북쪽 활주로'를 사용합니다.
  • 두 활주로는 서로 교차하지 않습니다. 그래서 북쪽에서 이륙한다고 해서 동쪽의 비행기가 추락하지 않는 것입니다.
  • 나중에 다시 동쪽으로 돌아가면, 그 활주로는 여전히 깨끗하게 준비되어 있습니다.

---

이 연구가 왜 중요한가요?

1. 인공지능의 미래: 앞으로 AI 가 인간처럼 평생 새로운 것을 배우면서도 예전 지식을 잃지 않는 '지속 학습 (Continual Learning)'을 하려면, 단순히 메모리를 늘리는 게 아니라 **학습하는 방식 (공간을 나누는 방식)**을 바꿔야 합니다.
2. 뇌과학의 통찰: 우리 인간의 뇌도 아마도 이런 원리로 작동할 가능성이 큽니다. 우리가 새로운 기술을 배울 때 뇌의 회로가 완전히 바뀐 게 아니라, **이미 존재하는 회로 속의 다른 공간 (주파수, 활주로)**을 사용하는 것일 수 있습니다.
3. 간단한 규칙: 놀랍게도 이 복잡한 현상은 뇌가 외부에서 "지금 A 를 배워라, B 를 배워라"라고 지시하지 않아도, 학습 신호의 방향만 살짝 바꿔주면 스스로 해결된다는 것입니다.

결론

이 논문은 **"새로운 것을 배울 때, 예전 지식이 있는 공간과 겹치지 않는 새로운 공간을 만들어라"**라는 간단한 원리가, 인공지능과 뇌가 잊지 않고 계속 배우는 비결임을 증명했습니다. 마치 도서관에 책을 꽂을 때, 서로 다른 선반을 사용해서 책을 잃어버리지 않는 것과 같습니다.

이 발견은 더 똑똑하고, 인간처럼 유연하게 배우는 AI 를 만드는 데 큰 디딤돌이 될 것입니다.

기술 요약

논문 요약: 순환 신경망 (RNN) 에서의 지속적 학습을 위한 직교 작업 매니폴드 형성

1. 문제 제기 (Problem)

• 배경: 인간과 동물은 새로운 기술을 배우면서도 이전에 학습한 지식을 망각하지 않고 seamlessly 수행할 수 있습니다. 그러나 인공 신경망, 특히 순환 신경망 (RNN) 은 새로운 정보를 학습할 때 이전 작업의 성능이 급격히 떨어지는 파괴적 망각 (Catastrophic Forgetting) 현상에 시달립니다.
• RNN 의 고유한 어려움: 피드포워드 네트워크와 달리 RNN 은 계산이 안정적인 내부 동역학 (internal dynamics) 에 의존합니다. 기존 학습된 시냅스 가중치 업데이트가 내부 동역학의 기하학적 구조 (latent trajectories) 를 왜곡시켜, 이전 작업의 표현이 파괴되거나 간섭을 일으킵니다.
• 기존 접근법의 한계: 기존 지속적 학습 (Continual Learning) 방법론 (가중치 통합, 재생 Replay, 모듈화 등) 은 주로 정적인 입력 - 출력 매핑에 초점을 맞추거나, 명시적인 가중치 보호 전략을 사용하며, RNN 의 동역학적 특성을 직접적으로 해결하지 못합니다.

2. 방법론 (Methodology)

• 핵심 가설: 학습이 직교하는 (orthogonal) 작업 매니폴드 (task manifolds) 를 형성하도록 유도하면, 새로운 작업 학습이 기존 작업의 동역학을 방해하지 않을 수 있습니다.
• 학습 규칙: 저자들은 국소적 예측적 (local predictive) 오차 기반 학습 규칙 (Asabuki & Clopath, 2025) 을 적용했습니다.
  • 이 규칙은 시냅스 가중치 업데이트를 위해 피드백 신호 (feedback signals) 를 사용합니다.
  • 핵심 메커니즘: 작업의 정체성 (task identity) 을 명시적으로 입력하지 않고, 작업별 피드백 벡터 (Feedback Vectors, FB1, FB2) 만을 전환하여 학습을 유도합니다.
  • FB1 과 FB2 는 서로 거의 직교하도록 설계되었습니다.
• 실험 설정:
  1. 컨텍스트 의존적 이진 선택 과제: 두 가지 작업 (Task 1, Task 2) 에서 자극 - 반응 매핑이 반전되는 과제를 순차적으로 학습시킵니다.
  2. 고차원 자연 영상 재생 과제: 270x270 픽셀의 RGB 영상 (약 21 만 차원) 을 순차적으로 학습하고 재생하는 과제로 확장하여 검증합니다.
  3. 분석 기법: 주성분 분석 (PCA), 특이값 분해 (SVD), 저랭크 연결성 제거 (ablation) 등을 통해 매니폴드 분리, 연결성 모드 안정성, 간섭 정도를 정량화했습니다.

3. 주요 기여 및 발견 (Key Contributions & Results)

A. 피드백 주도적 매니폴드 전환 (Feedback-driven Manifold Switching)

• 서로 다른 피드백 벡터 (FB1, FB2) 를 사용하면 네트워크가 각 작업에 고유한 직교하는 저차원 매니폴드로 군집화됨을 발견했습니다.
• 피드백 신호를 전환하면 시냅스 가중치 업데이트가 새로운 작업의 동역학을 별도의 부분 공간에 임베딩하도록 유도하여, 기존 작업의 동역학을 보존합니다.

B. 간섭 감소 및 재학습 가속화

• 재학습 실험: Task 1 을 학습한 후 Task 2 를 학습하고 다시 Task 1 을 재학습할 때, 원래의 피드백 (FB1) 을 사용하면 재학습 속도가 매우 빠르지만, 다른 피드백 (FB2) 을 사용하면 간섭으로 인해 재학습이 느려집니다.
• 이는 피드백 신호가 작업별 동역학을 선택적으로 재활성화 (reactivation) 할 수 있음을 의미합니다.
• 기하학적 분리 검증: Task 1 과 Task 2 의 선택 축 (choice axes) 이 서로 직교할 때 간섭이 최소화되고 재학습이 최적화됨을 확인했습니다.

C. 간섭의 기하학적 메커니즘 규명

• 프로젝션 분석: Task 2 학습 중 발생하는 활동 섭동 (activity perturbation) 을 Task 1 매니폴드에 투영했을 때, 직교 조건에서는 투영 크기가 매우 작았으나, 중첩 (overlapping) 조건에서는 크게 증가하여 간섭이 발생함을 증명했습니다.
• 연결성 모드 (Connectivity Modes) 의 분리:
  • SVD 분석 결과, Task 1 학습 후 형성된 주요 연결성 모드 (Engram 1) 는 Task 2 학습 중에도 안정적으로 유지되었습니다.
  • Task 2 학습은 기존 모드를 변경하지 않고, 새로운 직교 방향의 연결성 모드를 추가하는 방식으로 이루어졌습니다.
  • 인과적 검증: Task 2 의 새로운 연결성 모드를 제거하면 Task 2 수행이 망가지지만 Task 1 은 유지되며, Task 1 의 연결성 모드를 제거하면 Task 1 재학습이 느려지는 등 각 모드가 기능적으로 분리되어 있음을 확인했습니다.

D. 고차원 자연주의 자극으로의 일반화

• 단순한 이진 선택 과제를 넘어, 고차원 자연 영상 (Natural Movie) 재생 과제에서도 동일한 원리가 적용됨을 확인했습니다.
• 피드백 매니폴드가 직교할 때, 네트워크는 이전 영상의 동역학을 보존하면서 새로운 영상을 학습하고, 기존 영상을 빠르게 재생할 수 있었습니다.

4. 의의 및 결론 (Significance)

• 생물학적 타당성: 이 연구는 외부의 명시적 작업 레이블 없이도, 피드백 신호의 기하학적 구조가 시냅스 가중치 업데이트를 유도하여 직교하는 작업 매니폴드를 자발적으로 형성할 수 있음을 보여줍니다. 이는 뇌의 피드백 경로 (cortical feedback) 가 학습을 특정 동역학적 하위 공간으로 유도하여 간섭을 방지하는 생물학적 메커니즘을 제안합니다.
• 지속적 학습의 새로운 패러다임: 기존 접근법이 '가중치 보호'에 초점을 맞췄다면, 이 연구는 내부 표현의 기하학 (geometry of internal representations) 을 제어함으로써 지속적 학습을 해결할 수 있음을 제시합니다.
• 엔그램 (Engram) 이론과의 연결: 기억이 시냅스 가중치에 저장되지만, 그 기능적 발현은 동역학적 구조 (매니폴드) 에 의해 결정된다는 점을 강조합니다. 직교하는 연결성 모드가 서로 간섭하지 않는 독립적인 '엔그램'으로 작용함을 시사합니다.
• AI 에 대한 함의: 인공 신경망의 지속적 학습을 위해 가중치 고정이나 재생 (Replay) 에 의존하기보다, 학습 규칙이나 피드백 메커니즘을 통해 내부 표현 공간의 기하학을 전략적으로 조직화하는 것이 효율적인 해결책이 될 수 있음을 제안합니다.

결론적으로, 이 논문은 순환 신경망이 피드백 주도적 예측 학습을 통해 직교하는 작업 매니폴드를 형성함으로써, 파괴적 망각 없이 새로운 기술을 지속적으로 습득하고 기존 지식을 보존할 수 있는 메커니즘을 규명했습니다.