MorphoNAS: Embryogenic Neural Architecture Search Through Morphogen-Guided Development
이 논문은 자유 에너지 원리, 반응 - 확산 시스템, 유전자 조절 네트워크에서 영감을 받아 단순한 유전자가 복잡한 신경 구조를 발달시키는 'MorphoNAS'를 제안하며, 이를 통해 구조적 목표 달성 및 CartPole 제어 작업에서 효율적인 신경 아키텍처 탐색이 가능함을 입증합니다.
이 논문은 **'MorphoNAS(모르포나스)'**라는 새로운 인공지능 설계 방법을 소개합니다. 이 방법을 쉽게 이해하기 위해 **"인공지능을 조립하는 공장에서, 생물이 태어나는 과정을 모방한 '자연스러운 성장' 방식"**이라고 상상해 보세요.
기존의 인공지능 설계는 마치 레고 블록을 하나하나 손으로 조립하듯, 연구자가 직접 신경망의 구조를 설계하고 연결하는 방식이었습니다. 하지만 이 논문은 "작은 씨앗 하나를 심어, 자연의 법칙에 따라 스스로 복잡한 뇌 구조로 자라게 하는" 방식을 제안합니다.
주요 내용을 일상적인 비유로 설명해 드리겠습니다.
1. 핵심 아이디어: "레고 조립" 대신 "씨앗 심기"
기존 방식 (수동 설계): 연구자가 "여기 연결하고, 저기 연결하고"라고 지시하며 복잡한 뇌 구조를 직접 만듭니다. 이는 매우 번거롭고 시간이 많이 걸립니다.
MorphoNAS 방식 (자연 성장): 연구자는 **"유전체 (Genome)"**라고 불리는 아주 작은 **설계도 (씨앗)**만 만듭니다. 이 설계도에는 "어떤 화학 물질을 분비할지", "어떻게 반응할지" 같은 간단한 규칙만 담겨 있습니다.
비유: 마치 꽃씨를 심는 것과 같습니다. 꽃씨에는 "어떻게 꽃을 피울지"에 대한 모든 복잡한 정보가 들어있는 게 아니라, "햇빛을 받으면 자라라", "물만 있으면 뿌리를 내리라" 같은 간단한 규칙만 있습니다. 하지만 이 규칙에 따라 꽃은 스스로 줄기, 잎, 꽃잎을 만들어내며 아름다운 꽃으로 자라납니다.
2. 어떻게 작동할까요? (생물학적 원리 3 가지)
이 시스템은 자연界的인 세 가지 원리를 차용합니다.
형태소 (Morphogen) - "향기 나는 화학 물질"
세포들은 주변에 화학 물질을 분비합니다. 이 물질은 공기 중의 향기처럼 퍼집니다.
비유: 한 세포가 "여기는 안전해, 자라라!"라고 신호를 보내면, 그 신호가 퍼진 곳의 다른 세포들이 그 신호를 맡고 움직입니다.
반응 - 확산 (Reaction-Diffusion) - "물방울 퍼지기"
이 화학 물질들은 서로 섞이거나 반발하며 공간에 **무늬 (패턴)**를 만듭니다.
비유: 잉크를 물에 떨어뜨렸을 때 퍼지는 무늬처럼, 세포들이 스스로 정렬되어 복잡한 구조를 만들어냅니다.
유전자 조절 네트워크 (GRN) - "세포의 두뇌"
각 세포는 이 화학 물질의 농도를 감지하고, "나를 분열시켜야 할까?", "신경 세포로 변해야 할까?", "뻗어 나가야 할까?"를 결정합니다.
비유: 세포들이 서로 대화하며 "너는 여기서 멈추고, 나는 저기로 뻗어"라고 결정하는 것입니다.
3. 실험 결과: "원하는 모양"과 "작은 뇌" 만들기
연구자들은 이 시스템이 실제로 쓸모 있는지 두 가지 실험을 했습니다.
실험 A: 원하는 모양의 뇌 만들기 (그래프 타게팅)
목표: "신경 세포가 31 개, 연결선이 87 개, 입력구가 2 개"인 특정 모양의 뇌를 만들어달라고 요구했습니다.
결과: 시스템은 100% 성공했습니다. 연구자가 복잡한 연결을 하나하나 지시하지 않아도, 간단한 규칙만 주어졌는데도 시스템이 스스로 원하는 모양의 뇌를 만들어냈습니다.
비유: "31 개의 방과 87 개의 복도가 있는 성을 만들어줘"라고 말하면, 건축가가 직접 벽돌을 쌓는 게 아니라, 자라나는 식물이 스스로 그 모양의 성을 만들어내는 것과 같습니다.
실험 B: 작은 뇌로 미끄럼틀 균형 잡기 (카트폴 제어)
목표: '카트폴 (CartPole)'이라는 게임에서 막대를 세우는 인공지능을 만들었습니다.
결과:
일반 버전: 시스템은 최대 크기 (신경 세포 100 개) 로 뇌를 만들어 게임을 완벽하게 했습니다.
최소화 버전: "뇌를 최소로 만들어줘"라고 요구하자, 시스템은 놀랍게도 신경 세포 6~7 개만으로도 게임을 완벽하게 해결하는 초소형 뇌를 진화시켰습니다.
의미: 이는 인공지능이 불필요한 부분을 잘라내고, 가장 효율적이고 간결한 구조를 스스로 찾아낼 수 있음을 보여줍니다.
4. 왜 이 기술이 중요할까요?
이 연구는 **"복잡한 것을 단순한 규칙으로 해결할 수 있다"**는 것을 증명합니다.
자연의 지혜: 자연界的인 뇌는 수십억 년 동안 진화하며 복잡한 구조를 단순한 규칙으로 만들어냈습니다. MorphoNAS 는 이 원리를 인공지능에 적용합니다.
자동화: 연구자가 일일이 뇌 구조를 설계할 필요가 없어집니다. 그저 "성장 규칙"만 정해주면, 시스템이 스스로 최적의 뇌를 찾아냅니다.
효율성: 불필요한 연결을 제거하고, 필요한 부분만 자라게 하여 작고 강력한 인공지능을 만들 수 있습니다.
요약
이 논문은 **"인공지능을 조립하는 공장을, 자연의 생태계로 바꾸자"**고 제안합니다. 연구자가 직접 레고 블록을 조립하는 대신, 작은 씨앗 (간단한 규칙) 을 심어, 화학 물질의 흐름에 따라 스스로 복잡한 뇌 구조로 자라게 하는 것입니다. 이 방식은 복잡한 문제를 해결하면서도 작고 효율적인 인공지능을 만들어낼 수 있는 새로운 길을 열어주었습니다.
1. 문제 정의 (Problem)
현대 인공 신경망 아키텍처 탐색 (NAS) 방법론은 대부분 명시적이고 반복적인 수동 작업이나 복잡한 최적화 알고리즘에 의존합니다. 반면, 생물학적 신경망은 압축된 게놈 (Genome) 과 상대적으로 단순한 규칙을 사용하여 복잡한 뇌 구조를 발달시킵니다. Tony Zador 의 '게놈 병목 (Genomic Bottleneck)' 가설과 Karl Friston 의 '자유 에너지 원리 (Free Energy Principle, FEP)'에 따르면, 생물체는 전체적인 도면을 저장하는 것이 아니라 발달 지침 (규칙, 제약 조건) 만을 저장하여 환경에 적응하고 효율적인 구조를 자발적으로 조직화합니다.
기존 NAS 는 이러한 생물학적 영감을 충분히 반영하지 못하며, 복잡한 구조를 직접 설계하는 '상향식 (Bottom-up)' 접근법의 부재가 지적됩니다. 본 논문은 단순한 발달 규칙과 게놈만으로 복잡한 신경 아키텍처를 자발적으로 성장시켜, 구조적 목표와 기능적 성능을 동시에 달성할 수 있는 새로운 NAS 프레임워크를 제안합니다.
2. 방법론 (Methodology)
저자들은 MorphoNAS라는 진화 계산 시스템을 개발하여, 신경망을 명시적인 그래프로 설계하는 대신 '배아 발생 (Embryogenesis)' 과정을 시뮬레이션하여 성장시킵니다. 핵심 구성 요소는 다음과 같습니다.
A. 이론적 기반 및 매핑
자유 에너지 원리 (FEP): 세포가 국소적인 모르포겐 (Morphogen) 환경에 반응하여 '놀람 (Surprise)'을 최소화 (자유 에너지 감소) 하도록 행동하게 합니다. 이는 세포 분열, 분화, 축삭 성장 등의 결정으로 이어집니다.
반응 - 확산 시스템 (Reaction-Diffusion): 세포가 분비하는 화학 물질 (모르포겐) 이 공간적으로 확산되고 상호 억제되며, 이는 세포의 위치 정보와 패턴 형성 (Turing patterns) 을 유도합니다.
유전자 조절 네트워크 (GRN): 게놈은 모르포겐의 분비율, 확산 프로파일, 억제 상호작용, 그리고 세포 반응 임계값을 인코딩합니다.
B. MorphoNAS 프레임워크 구성
시스템은 다음 4 가지 요소로 정의됩니다:
전구세포 (Progenitors): 분열하고 분화할 수 있는 줄기세포 유사체.
뉴런 (Neurons): 축삭을 자라게 하고 시냅스 연결을 형성하는 분화된 세포.
모르포겐 (Morphogens): 농도 구배를 통해 세포의 성장과 행동을 지시하는 화학 신호.
축삭 성장 (Axon Growth): 화학주성 (Chemotaxis) 방식으로 모르포겐 농도가 높은 방향으로 축삭을 뻗어 뉴런 간 연결을 형성.
발달 과정 (Algorithm 1):
초기화: 단일 전구세포와 0 인 모르포겐 농도로 시작.
반복 단계:
분비: 세포가 게놈에 따라 모르포겐 분비.
확산: 확산 행렬을 통해 공간적 확산.
억제: 모르포겐 간 상호 억제 적용.
운명 결정: 국소 농도 임계값에 따라 전구세포가 분열하거나 뉴런으로 분화.
축삭 연결: 뉴런이 농도 구배를 따라 축삭을 성장시켜 다른 뉴런과 연결 (시냅스 가중치 부여).
종료: 정해진 시간 단계 (Giter) 후 최종 신경망 구조 도출.
C. 진화적 탐색 (Evolutionary Search)
목표: 게놈 (규칙 집합) 을 진화시켜 특정 구조적 속성 (노드 수, 엣지 수, 소스 노드 수) 을 가진 그래프를 생성하거나, CartPole 과 같은 제어 태스크를 수행하는 RNN 을 도출.
적합도 함수 (Fitness Function):
구조적 타겟팅: 목표 그래프의 노드/엣지/소스 수와 일치하는 정도를 지수 함수로 평가.
기능적 성능: Gymnasium 환경 (CartPole) 에서의 보상 평균을 시그모이드 함수로 변환. 네트워크 크기를 최소화하기 위한 페널티 항을 추가하여 진화 압력을 가할 수 있음.
알고리즘: 스테디 - 스테이트 (Steady-state) 유전 알고리즘 사용. 교배 (Crossover) 와 변이 (Mutation) 를 통해 게놈을 탐색하며, 수렴 정도에 따라 변이율을 동적으로 조절 (Adaptive Mutation).
3. 주요 기여 (Key Contributions)
MorphoNAS 프레임워크 제안: 자유 에너지 원리, 반응 - 확산, GRN 을 통합하여 단순한 게놈에서 복잡한 신경 아키텍처를 '성장'시키는 새로운 NAS 접근법 제시.
구조적 타겟팅의 성공: 무작위로 생성된 다양한 그래프 구성 (8~31 노드) 에 대해 100% 에 가까운 성공률로 목표 구조를 정확히 생성하는 게놈을 진화시킴.
기능적 최적화 및 압축: CartPole 제어 태스크에서 초기에는 대규모 네트워크 (약 100 뉴런) 가 우세했으나, 네트워크 크기 페널티를 적용한 진화 압력 하에서 6~7 개의 뉴런만으로 최적 성능을 내는 초소형 RNN을 성공적으로 진화시킴.
생물학적 타당성: 상향식 (Bottom-up) 접근을 통해 생물학적 신경 발달의 원리를 인공 시스템에 적용하여, 적응적이고 효율적인 아키텍처 탐색의 가능성을 입증.
4. 실험 결과 (Results)
A. 구조적 타겟팅 실험 (Graph Targeting)
설정: 20 개의 다양한 목표 그래프 구성 (노드, 엣지, 소스 수 조합) 에 대해 20 회씩 진화 실행.
결과: 20 개 목표 중 17 개에서 100% 성공, 나머지도 최소 25% 이상의 성공률을 보임. 모든 목표 구성에 대해 유효한 해를 찾았으며, 이는 프레임워크의 일반성과 견고성을 입증.
특징: 게놈은 매우 컴팩트하지만 (3 가지 모르포겐, 간단한 임계값), 복잡한 토폴로지를 생성하는 표현력 (Expressiveness) 을 가짐.
B. RNN 제어기 실험 (CartPole Control)
기본 실험 (RNN-Controller):
100 회 실행 중 94 회가 초기 집단 (0 세대) 에서 이미 최적 성능 (Ideal Fitness) 달성.
대부분의 성공적인 네트워크는 발달 필드 크기의 한계인 100 개의 뉴런을 가짐.
최소화 실험 (RNN-Controller (min)):
네트워크 크기 (연결 수) 에 대한 페널티를 추가.
결과: 72% 의 성공적인 실행이 6~7 개의 뉴런으로 구성된 초소형 네트워크를 진화시킴.
이는 MorphoNAS 가 진화 압력에 따라 아키텍처의 크기와 효율성을 능동적으로 조절할 수 있음을 보여줌.
5. 의의 및 결론 (Significance & Conclusion)
NAS 의 새로운 패러다임: 명시적인 그래프 설계 대신, 생물학적 발달 원리를 모방한 '성장' 과정을 통해 신경망을 생성함으로써, 자동화된 아키텍처 탐색의 새로운 길을 제시합니다.
효율성과 적응성: 단순한 규칙과 게놈으로도 복잡한 구조와 기능적 성능을 동시에 달성할 수 있으며, 진화적 압력을 통해 불필요한 복잡성을 제거하고 최적화된 구조를 찾을 수 있음을 입증했습니다.
확장성: 현재는 작은 규모의 제어 태스크 (CartPole) 와 제한된 뉴런 수 (≤100) 로 검증되었으나, 공간적 조직화 원리는 더 복잡한 문제와 계층적 발달 과정으로 확장될 잠재력이 있습니다.
미래 전망: 가소성 (Plasticity) 메커니즘을 통합하거나 더 복잡한 환경으로 확장함으로써, 생물학적 신경 시스템에 더 가까운 적응형 인공 지능 시스템 개발의 기초를 마련했습니다.
이 논문은 MorphoNAS 가 단순한 발달 규칙을 통해 복잡하고 기능적인 신경 아키텍처를 생성할 수 있는 실현 가능한 생물학적 경로임을 보여주며, 차세대 신경망 설계에 중요한 통찰을 제공합니다.