기술 요약: 추상화 역학의 정확한 해 (Exact Solutions to the Dynamics of Abstraction)

문제 정의

인공 및 생물학적 신경망에서 고차원 개념은 표현 공간 내에서 근사적으로 선형적인 방향으로 행동하는 경향이 빈번하게 관찰됩니다. 이 현상은 **선형 표현 가설(Linear Representation Hypothesis, LRH)**로 공식화되었으며, 이는 개념 탐지를 위한 선형 프로브(linear probes)나 활성화 스티어링(activation steering)과 같은 많은 해석 가능성 및 제어 방법론의 기초가 됩니다. 선 이전의 이론적 연구들은 추상적 표현(개념 벡터가 다양한 맥락에서 완벽하게 정렬된 상태)이 손실 지형(loss landscape)의 전역 최솟값에서 나타날 수 있음을 입증했지만, **훈련 과정 중 이러한 표현이 어떻게 발생하는지에 대한 역학(dynamics)**은 여전히 제대로 이해되지 않고 있습니다. 경험적 관찰에 따르면, 추상화는 비자명하고 비단조적인(non-monotonic) 궤적을 보이며, 단순한 점근적 이론이 예측하는 완벽한 추상화($\alpha=1$)에 도달하지 못하는 경우가 빈번합니다.

본 논문은 다음의 핵심 질문들을 다룹니다: 훈련 중 추상화의 궤적은 어떠한가? 이는 데이터셋의 기하학적 구조, 네트워크 깊이, 초기화에 의해 어떻게 영향을 받는가? 비선형성은 이러한 역학에 어떤 영향을 미치는가?

방법론

저자들은 분석적으로 해결 가능한 최소한의 설정을 사용하여 개념 벡터의 정렬(alignment), 즉 "추상화"를 연구하기 위한 역학적 프레임워크를 개발합니다.

1. 최소 선형 네트워크 모델 (Minimal Linear Network Model):

   • 설정: 두 개의 이진 잠재 변수("모양"과 "색상")를 가진 데이터셋을 학습하는 2층 선형 네트워크. 이 데이터셋은 4개의 클래스를 생성합니다.
   • 추상화 점수 ($\alpha$): 서로 다른 맥락(예: 빨간색 맥락에서의 "정사각형 마이너스 원" 벡터와 파란색 맥락에서의 벡터) 간의 개념 벡터 사이의 코사인 유사도로 정의됩니다. $\alpha=1$은 완벽한 선형성을 의미합니다.
   • 가정:
     • 변수 투영 판독 (Variable-Projected Readout): 판독 가중치($W_r$)는 항상 리지 최적점(ridge-optimum)에 있다고 가정하며, 이는 특징 가중치(feature weights)만을 효과적으로 규제합니다. 이는 역학을 특징 커널 $Q = Z^\top Z$의 함수로 단순화합니다.
     • 이요인 대칭성 (Two-Factor Symmetry, 2FS): 입력($\Sigma_x$), 타겟($\Sigma_y$), 그리고 특징 커널은 클래스 내 순열 및 잠재 변수의 전역 재라벨링에 대해 불변인 특정 대칭 구조를 갖는다고 가정합니다. 이를 통해 커널 역학을 다섯 가지 고유 모드(Global mean ($G$), Shape ($S$), Color ($C$), Shape-Color interaction ($SC$), Residual ($I$))로 대각화할 수 있습니다.
   • 역학: 경사 하강법(gradient flow) 하에서 커널 $Q$의 고유값에 대한 정확한 상미분 방정식(ODE)을 유도합니다. 추상화 점수는 $S$와 $SC$ 고유값의 비율(역 신호 대 잡음비, inverse SNR)의 함수로 표현됩니다.

2. 비선형 네트워크로의 확장:

   • 이론을 무한 너비 2층 비선형 네트워크의 뉴럴 탄젠트 커널(NTK) / 뉴럴 네트워크 가우시안 프로세스(NNGP) 극한으로 확장합니다.
   • 두 가지 비선형성($\text{erf}$ 및 Leaky ReLU)을 분석합니다.
   • 저자들은 프리액티베이션 커널 $Q$를 특징 커널 $K$로 변환하는 커널 맵을 유도하고, 이 맵이 순간적으로 그리고 동적으로 추상화 점수에 어떻게 영향을 미치는지 분석합니다.

3. 경험적 검증:

   • 합성 데이터 및 실제 데이터셋(3dshapes)을 사용하여 ResNet 및 트랜스포머(DINOv3, Gemma 4)에 대한 실험을 수행합니다.
   • 이론적 예측을 테스트하기 위해 트랜스포머 모델에 "로컬 GELU 절제(local GELU ablation)" 절차를 적용합니다.

주요 기여 및 결과

1. 선형 네트워크 역학의 정확한 해

본 논문은 훈련 중 추상화 궤적 $\alpha(t)$에 대한 정확한 암시적 해(implicit solutions)를 제공합니다.

• 종단 추상화 법칙 (Terminal Abstraction Law): 최종 추상화 $\alpha_\infty$는 입력 및 타겟 커널의 역 신호 대 잡음비(SNR)의 기하 평균에 의해 결정됩니다:
  $$\alpha_\infty = \frac{1 - \sqrt{\nu(\Sigma_x)\nu(\Sigma_y)}}{1 + \sqrt{\nu(\Sigma_x)\nu(\Sigma_y)}}$$
  여기서 $\nu = \lambda_{SC}/\lambda_S$입니다. 입력 또는 타겟 중 하나라도 노이즈가 없다면 완벽한 추상화($\alpha_\infty=1$)가 달성됩니다.
• 초기화 스케일의 최대 추상화 제어: 최종 값은 초기화와 독립적이지만, 훈련 중 도달하는 최대 추상화는 초기화 스케일($\kappa$)에 결정적으로 의존합니다.
  • 풍부한 극한 (Rich limit, 작은 초기화): 네트워크는 종단 값으로 붕괴하기 전까지 매우 긴 시간 동안 거의 완벽한 추상화($\alpha \approx 1$)를 달성할 수 있는 메타안정성(metastability)을 보입니다.
  • 게으른 극한 (Lazy limit, 큰 초기화): 추상화는 결코 자신의 종단 값을 초과하지 않습니다.
• 비단조성 (Non-monotonicity): 신호가 지배적인 영역에서는 추상화가 종단 값을 초과하여, 수렴하기 전에 정점에 도달할 수 있습니다.

2. 깊이 및 층별 보간 (Depth and Layerwise Interpolation)

"층별 균형(layerwise balancing)" 가정을 적용하여 $L$개의 층을 가진 심층 선형 네트워크로 확장합니다:

• 층별 보간: 레이어 $\ell$에서의 추상화는 arctanh 공간에서 입력 추상화와 최종 레이어 추상화 사이를 선형적으로 보간합니다:
  $$\text{arctanh}(\alpha^{(\ell)}) = \left(1 - \frac{\ell}{L}\right)\text{arctanh}(\alpha_{\Sigma_x}) + \frac{\ell}{L}\text{arctanh}(\alpha^{(L)})$$
• 깊이에 의한 추상화 개선: 만약 타겟 기하학이 입력 기하학보다 더 추상적이라면, 네트워크의 깊이를 늘리는 것은 최종 레이어의 종단 추상화를 단조적으로 향상시킵니다.

3. 비선형 네트워크의 감쇄 법칙 (The Attenuation Law)

무한 너비 비선형 네트워크에 대한 놀라운 이론적 결과입니다:

• 감쇄 법칙: 비선형성(특히 $\text{erf}$ 및 Leaky ReLU)은 프리액티베이션 공간($Z$)에 비해 특징 공간($H$)에서의 추상화를 약화시킵니다. 형식적으로, $|\alpha_K| \leq |\alpha_Q|$입니다.
• 차등적 효과:
  • Erf 네트워크: 역학이 선형 이론과 매우 유사하게 작동합니다.
  • ReLU 네트워크: 역학은 타겟 기하학보다는 입력 기하학에 더 많이 의존합니다. 순수 ReLU의 경우, 타겟에 노이즈가 없더라도 입력 노이즈가 높으면 완벽한 추상화가 보장되지 않으며, 시스템은 "역 추상화(anti-abstraction, $\alpha \approx -1$)"로 수렴할 수 있습니다.

4. 경험적 응용

• 트랜스포머 (DINOv3, Gemma 4): 이론을 적용하여, 저자들은 트랜스포머 블록에서 비선형성을 절제(비선형성을 항등 함수로 로컬 교체)하는 것이 추상화를 증가시키고 선형 프로브의 일반화 성능을 향상시킨다는 것을 보여줍니다. 이는 감쇄 법칙이 유한 너비의 심층 모델에서도 유효함을 입증합니다.
• 신경과학 (마카크 원숭이 복측 선조체): V4 및 IT 영역의 기록을 분석한 결과, 추상화가 복측 시각 계층을 따라 증가함을 발견했습니다. 이는 더 깊은 층(행동 출력에 가까운 층)이 더 높은 추상화를 보여야 한다는 이론적 예측과 일치합니다.

의의 및 주장

본 논문은 단순히 점근적 종착점이 아니라 학습의 전체 궤적을 포착하는 최초의 추상화 역학 이론을 제공한다고 주장합니다.

• 이론과 실제의 연결: 왜 현실적인 환경에서 추상화가 완벽함에 도달하지 못하는지(입력/타겟 노이즈 및 초기화 스케일 때문), 그리고 왜 비단조적 행동을 보이는지를 설명합니다.
• 해석 가능성 및 제어: 선형 프로브와 스티어링 벡터의 품질이 추상화 역학과 근본적으로 연결되어 있음을 시사합니다. 비선형성을 절제하는 것이 프로브의 일반화 성능을 높일 수 있다는 발견은 이에 대한 이론적 근거를 제공합니다.
• 신경과학적 함의: 이 이론은 뇌에서 추상적 표현이 출현하는 메커니즘을 설명하며, 더 깊은 피질 계층이 더 높은 추상화를 보일 것이라는 예측을 제공하고, 이는 마카크 원숭이 데이터에 의해 확인되었습니다.

저자들은 비록 정확한 해가 선형 네트워크, 2FS 대칭성, 무한 너비와 같은 단순화된 가정에 의존하지만, 이러한 정성적 예측(오버슈트, 초기화 의존성, 깊이에 의한 개선, 비선형성에 의한 감쇄)이 실제적인 유한 너비 심층 학습 설정 및 생물학적 데이터에서도 견고하게 유지된다는 점을 강조합니다.