In Two Minds about Lifelong Learning: Exploring Hemispheric Redundancy and Specialisation in Neural Models

인간의 뇌는 학습의 명수입니다. 뇌는 기타 코드를 잡는 법과 같은 새로운 기술을 익히면서도 자전거 타는 법을 즉시 잊어버리지 않습니다. 평생에 걸쳐 지식을 축적하는 이 능력은 지속적 학습(continual learning)이라고 불립니다. 반면, 뉴럴 네트워크라고 불리는 수학적 연결층으로 구축된 인공지능 시스템은 이와 동일한 과제에서 큰 어려움을 겪습니다. 기계가 새로운 정보 세트를 학습할 때, 종종 기존의 것을 덮어써 버려 이전에 알고 있던 것을 지워버리곤 합니다. '파괴적 망각(catastrophic forgetting)'이라 알려진 이 현상은, 기계의 내부 설정이 새로운 데이터에 맞게 조정되면서 이전 데이터에 필요한 패턴을 우연히 파괴하기 때문에 발생합니다. 로봇이나 소프트웨어가 진정으로 지속적이고 적응 가능해지려면, 과거를 잃지 않고 지속적으로 학습하는 이 문제를 해결해야 합니다.

이를 어떻게 해결할지 이해하기 위해 연구자들은 종종 생물학을 참고합니다. 포유류의 뇌에서 해마라는 구조는 새로운 기억을 위한 임시 보관소 역할을 하는 반면, 신피질은 장기 지식을 저장합니다. 매일 밤, 수면 중에 뇌는 최근의 경험을 재현하며 이를 임시 보관소에서 장기 저장소로 전달합니다. 또한, 뇌는 서로 다르게 작동하는 두 개의 반구로 나뉘어 있습니다. 한쪽은 유연하게 새롭고 생소한 정보를 처리하는 경향이 있는 반면, 다른 한쪽은 안정적으로 확립된 루틴을 관리합니다. 모나쉬 대학교와 CSIRO 로보틱스의 연구팀은 이러한 생물학적 원리를 채택하여, 인공지능이 망각하는 것을 막을 수 있는지 확인하기 위해 새로운 컴퓨터 아키텍처를 구축했습니다.

연구진은 4MAS(4 Module Awake/Sleep)라고 부르는 시스템을 만들었습니다. 단일하고 거대한 뇌 대신, 이 시스템은 생물학적 뇌의 좌우측을 모방하여 두 개의 뚜렷한 반구로 구성됩니다. 각 반구에는 자신의 메모리 시스템이 들어 있습니다. 즉, 최근에 본 몇 가지 사례를 보유하는 단기 버퍼와 데이터의 전체적인 형태를 학습하는 장기 생성기가 있습니다. 이 시스템은 깨어 있는 단계와 잠든 단계를 번갈아 가며 순환하는 방식으로 작동합니다. 깨어 있는 단계 동안 시스템은 실제 데이터를 사용하여 새로운 과제를 학습하는 동시에, 단기 기억에 있는 사례들을 복습합니다. 잠든 단계 동안에는 새로운 데이터가 도입되지 않습니다. 대신 두 반구가 서로 소통합니다. 그들은 자신들이 학습한 것의 합성 사례들을 생성하고, 이를 사용하여 서로를 미세 조정함으로써, 새로운 지식을 통합하는 동시에 오래된 지식을 강화합니다.

이 설계의 핵심 혁신은 두 반구가 동일하지 않다는 점입니다. 연구진은 두 반구에 서로 다른 성격을 부여하도록 프로그래밍했습니다. 한 반구는 안정적이고 보수적이도록 조정되어 이미 알고 있는 것을 보존하는 데 집중합니다. 다른 반구는 가소성이 있고 탐색적이며, 새로운 패턴에 적응하기를 갈망합니다. 이러한 분업을 통해 시스템은 새로운 것을 배우는 필요성과 오래된 것을 기억해야 하는 필요성 사이에서 균형을 잡을 수 있습니다. 연구진은 기계가 이전의 데이터를 다시는 보지 못한 채 연속적으로 새로운 이미지 카테 categories를 학습해야 하는 몇 가지 표준 이미지 인식 과제를 통해 이 아키텍처를 테스트했습니다.

결과는 놀라웠습니다. 단순한 필기체 숫자 데이터셋에서 이 시스템은 모든 데이터를 한꺼번에 본 모델의 성능에 거의 근접한 98.3%의 정확도를 달아냈습니다. 더 복잡한 의류 이미지 데이터셋에서는 84.9%의 정확도에 도달하여, 망각을 방지하려는 다른 방법들을 크게 앞질렀습니다. 100개의 서로 다른 객체 카테고리가 있는 매우 어려운 데이터셋에서도 시스템은 지속적으로 학습하여 29.29%의 정확도를 달성했으며, 이는 기존의 최고 방법들보다 나은 수치였습니다. 연구는 이 시스템이 단순히 새로운 데이터를 암기하는 것이 아니라, 연구자들이 '표상 드리프트(representational drift)'라고 부르는 지표를 통해 과거의 데이터를 손실 거의 없이 유지했음을 보여주었습니다. 과거를 붙잡으면서 미래를 학습하는 시스템의 능력은 수면 단계와 직접적으로 연결되어 있었습니다. 연구진이 수면 주기를 제거하자 시스템의 성능은 떨어졌고, 두 반구는 효과적으로 협력하지 못했습니다.

실험은 또한 두 반구 사이의 구체적인 차이가 결정적이라는 점을 드러냈습니다. 두 쪽을 동일하게 만들었을 때 시스템은 더 낮은 성능을 보였습니다. 한쪽은 유연하고 다른 한쪽은 안정적일 때만 시스템이 번창했습니다. 이는 전문화된 부분이 서로 다른 일을 수행하도록 하는 것이, 단일한 균일한 부분이 모든 것을 하려고 노력하는 것보다 더 효과적임을 시사합니다. 연구진은 '수면' 학습률을 매우 낮게 유지하여 급격한 변화가 아닌 완만한 조정을 허용할 때 시스템이 가장 잘 작동한다는 것을 발견했습니다. 또한 시스템이 최근 사례를 저장하기 위한 작은 규모의 메모리가 필요하지만, 이 메모리가 특정 크기에 도달하면 더 크게 만든다고 해서 큰 도움이 되지 않는다는 것도 발견했습니다.

이 연구는 인공지능의 문제를 영원히 해결했다고 주장하거나, 기계가 곧 인간처럼 꿈을 꿀 것이라고 제안하는 것이 아닙니다. 사용된 모델들은 상대적으로 단순하며 통제된 특정 데이터셋에서 작동했습니다. 그러나 이 결과는 명확한 방향을 제시합니다. 두 개의 전문화된 측면 사이에 메모리 과업을 나누고 지식을 공고히 하기 위해 휴식기를 사용하는 생물학적 전략을 모방함으로써, 엔지니어들은 살아있는 생명체와 더 유사하게 학습하는 기계를 구축할 수 있습니다. 이 연구는 단일 시스템에 모든 것을 강요하는 것이 아니라, 작업과 휴식의 순환을 통해 서로를 지원하는 전문화된 에이전트 팀을 만듦으로써, 오랫동안 인공지능을 괴롭혀온 '안정성-가소성 딜레마(stability-plasticity dilemma)'를 관리할 수 있음을 입증합니다.