On Growth and Form, and Function: Reusable Regulatory Handles Control Phenotypic Variation

기술 요약: LoRA-NCA – 표현형 변이에 대한 저차원 규제 제어

문제 제기
본 논문은 발생 생물학 및 진화 이론의 핵심적인 역문제(inverse problem)를 다룬다. 만약 두 해부학적 형태가 단순한 기하학적 변환(예: 다시 톰슨이 *성장과 형태에 관하여(On Growth and Form)*에서 제안한 그리드 변형)에 의해 연결되어 있다면, 이들을 물리적으로 생성하는 근저의 발생 역학(developmental dynamics)은 어떻게 조절되는가 하는 문제이다. 톰슨은 형태적 변이가 좌표 변환을 통해 매핑될 수 있음을 입증했지만, 미시적인 규제 변화(예: 유전자 조절 네트워크)가 어떻게 거시적이고 일관된 형태 변화로 번역되는지에 대한 인과적 발생 메커니즘은 여전히 밝혀지지 않은 상태로 남아 있다. 저자들은 일관된 표현형 변이가 자기 조직화된 발생 시스템의 저차원 조절을 통해 인코딩될 수 있는지, 즉 개별 세포의 궤적을 미세하게 관리하지 않고도 성장과 형태를 제어할 수 있는 "재사용 가능한 규제 핸들(reusable regulatory handles)"을 찾을 수 있는지 탐구한다.

방법론
저자들은 분산된 발생의 최소한의 생물학적 영감을 받은 인실리코(in silico) 모델로서 **신경 세포 자동자(Neural Cellular Automata, NCA)**를 활용한다. 이 프레임워크에서:

• 시스템 아키텍처: 숫자 상태를 가진 인공 세포(에이전트) 그리드가 공유된 인공 신경망(ANN)을 기반으로 업데이트된다. 이 ANN은 규제 기제(유전자 조절 네트워크와 유사함) 역할을 한다. 세포들은 국소적 이웃(Moore neighborhood)을 인지하고, 단일 시드(seed)로부터 목표 형태를 집단적으로 성장시키도록 자신의 상태를 업데이트한다.
• 저차원 적응(Low-Rank Adaptation, LoRA): 새로운 타겟이나 변환을 위해 전체 네트워크를 매번 재학습시키는 대신, 저자들은 사전 학습된 NCA에 LoRA를 적용한다. 이들은 기본 규제 파라미터($\theta_0$)를 고정하고, 가중치를 조절하기 위한 학습 가능한 저차원 행렬($A$ 및 $B$)을 도입한다($W_T = W_0 + \Delta W$).
• 실험 설계:
  1. 스케일링 실험: 저자들은 LoRA 어댑터가 베이스라인 "물고기" 이모지에 대해 수평 및 수직 스케일링 변환을 구현하도록 학습시켰다. 이들은 rank-one 적응이 크기를 파라미터적으로 제어할 수 있는지, 그리고 훈련 데이터 분포 외(out-of-distribution)의 스케일링 인자에 대해서도 일반화될 수 있는지 테스트했다.
  2. 제로샷 전이(Zero-Shot Transfer): 하나의 표현형을 위해 학습된 스케일링 어댑터가 동일한 고정 스크래폴($W_0$)을 공유하는 다른 구조적으로 구별되는 표현형(예: 도마뱀, 소화기)에도 적용될 수 있는지 조사했다.
  3. 대규모 경험적 발견: 저자들은 다양한 이모지 타겟에 대해 단일 공유 스크래폴을 사용하여 약 25,000개의 표현형 특화 LoRA-NCA(rank $r=16$) 데이터셋을 학습시켰다. 이후 결과물인 가중치 공간($\Delta W$)에 주성분 분석(PCA)을 수행하여 특정 표현형 특징(크기, 스타일, 대칭성)에 대응하는 잠재적 "하이퍼-방향(hyper-directions)"을 경험적으로 발견했다.

주요 결과

1. 효율적인 규모 제어: 전체 파라미터의 약 2.6%에 불과한 rank-one 적응만으로도 수평 및 수직 스케일링 변환을 견고하게 구현하기에 충분했다. 이러한 적응은 훈련 분포 밖의 스케일링 인자에 대해서도 일반화되었다.
2. 보편적 하이퍼-방향: 단일 표현형에 대해 학습된 스케일링 어댑터는 동일한 스크래폴을 공유하는 다양하고 무관한 표현형으로 제로샷 전이되었다. 이는 어댑터가 특정 형태의 특징을 암기한 것이 아니라, 시스템 수준의 기하학적 제어(스케일의 보편적 하이퍼-방향)를 나타냄을 의미한다.
3. 의미론적 가중치 공간 기하학: 25,000개의 LoRA-NCA 분석을 통해 의미론적으로 구조화된 규제 가중치 공간을 발견했다:
   • 주성분: 첫 두 주성분(PC0, PC1)은 각각 수평 및 수직 표현형 범위와 강하게 상관되어 있었다.
   • 스타일 및 분열: 데이터셋의 부분 집합 간의 평균 차이는 "스타일 전이"(예: 검은 테두리가 있는 OpenMoji 스타일로 변환) 및 "대칭적 분열"(표현형을 두 개의 대칭적인 절반으로 나누는 것)을 위한 기능적 방향을 나타냈다.
4. 퇴화성 및 직교성: 스케일링을 위해 경험적으로 도출된 PCA 방향은 명시적으로 학습된 rank-one 스케일링 방향과 약하게 정렬되었다(코사인 유사도 $\approx 0.1$). 이는 서로 다른 파라미터 공간의 방향이 동일한 거시적 특징을 조절할 수 있다는 '다중 컴퓨팅(poly-computing)' 개념을 뒷받침하며, 형태 발생 제어의 퇴화성(degeneracy)을 시사한다.

의의 및 주장
본 논문은 다시 톰슨의 그리드 변환을 계산적으로 실현하여, 일관된 해부학적 변화가 규제 가중치 공간 내의 저차원 방향을 통한 개입을 통해 제어될 수 있음을 보여준다고 주장한다.

• 메커니즘적 해석: 결과는 생물학적 형태가 견고하면서도 가소성 있는 발생의 산물임을 시사한다. 즉, 미시적인 세포 사건을 미세하게 관리하지 않고도 시스템 수준의 결과를 압축적인 규제 규칙의 변화를 통해 재지향할 수 있다. 이는 계층적 시스템에서 효과적인 제어가 미시적 세부 사항의 선택적 상실을 통해 발생한다는 하워드 패티(Howard Pattee)의 가설과 일치한다.
• 진화 가능성 및 촉진된 변이: 재사용 가능하고 전이 가능한 하이퍼-방향의 존재는 "촉진된 변이(facilitated variation)"에 대한 계산적 유추를 제공한다. 이는 진화가 모든 형질에 대해 새로운 돌연변이를 요구하기보다, 기존의 규제 핸들을 재조합함으로써 일관된 표현형 변화에 접근할 수 있음을 시사한다.
• 바이오엔지니어링 함의: 본 연구는 원하는 해부학적 결과가 분산되고 맞춤화된 규제 조절을 통해 다뤄지는 시스템 생물학적 전략을 제안한다. 현재 모델은 물리적 제약이 없는 2D 그리드라는 추상적 모델이지만, 저자들은 이러한 규제 핸들을 생물물리학적으로 근거 있는 모델에 이식함으로써 재생, 발생적 복구 또는 암 치료를 위한 국소적 규칙 조절을 추론하는 "역문제"를 해결할 수 있을 것이라고 상정한다.

한계 및 겸허함
저자들은 현재의 NCA가 추상적인 모델임을 명시적으로 언급한다. 즉, 이들의 가중치는 아직 특정 유전자, 모포젠(morphogen) 또는 생리적 신호에 직접 매핑될 수 없다. 추출된 하이퍼-방향은 완전히 특징 특이적이지 않으며(예: 스케일링 방향이 밝기에도 영향을 미침), 가중치 공간의 물리적 의미 또한 여전히 부분적으로 모호하다. 본 논문은 이 결과를 "최소한의 사이버네틱 조직"에 대한 개념 증명으로 규정하며, 생물학적 시스템의 진정한 예측적 디지털 트윈을 달eric하기 위해서는 생물물리학적으로 더 근거 있는 모델에 이러한 규제 핸들을 심는 후속 연구가 필요함을 인정한다.