The Geometric Wall: Manifold Structure Predicts Layerwise Sparse Autoencoder Scaling Laws

기술 요약: 기하학적 벽: 매니폴드 구조가 계층별 희소 오토인코더 스케일링 법칙을 예측하다

문제 제기
희소 오토인코더 (SAE) 는 모델 활성화를 사전 원자 (dictionary atoms) 의 희소 선형 결합으로 재구성함으로써 선형 표현 가설 (LRH) 을 실현합니다. 이 접근법은 암묵적으로 활성화 공간이 전역적으로 선형인 구조로 잘 근사된다고 가정합니다. 그러나 SAE 재구성 손실에 대한 기존 스케일링 법칙, 특히 손실과 사전 너비 ($n$) 및 희소성 ($k$) 간의 결합 멱법칙은 단일 계층 (예: GPT-4 의 5/6 계층) 에서만 적합되었으며, 네트워크의 서로 다른 계층에서 관찰되는 재구성 오차의 급격한 변동을 설명하지 못합니다.

본 논문은 이러한 변동이 단순한 자원 제한이 아니라 기하학적 불일치의 경험적 흔적이라고 주장합니다. SAE 는 평평하고 전역적인 선형 기저를 가정하는 반면, 대규모 언어 모델의 활성화 매니폴드는 곡률을 가지며 그 내재 차원은 깊이에 따라 체계적으로 변합니다. 따라서 단일 희소 선형 사전은 이러한 매니폴드를 균일하게 일치시킬 수 없으며, 이로 인해 SAE 의 너비 - 희소성 스케일링은 보편적인 법칙이 아니라 매니폴드의 기하학에 의존하는 계층별 함수가 됩니다.

방법론
저자들은 Gemma Scope 계열의 844 개 잔류 스트림 SAE 체크포인트를 사용하여 26 개 계층의 Gemma 2 2B 와 42 개 계층의 Gemma 2 9B 를 모두 아우르는 최초의 계층 간 스케일링 연구를 수행했습니다. 분석은 두 단계로 진행됩니다:

1. 1 단계: 계층별 스케일링 표면 적합

   • 각 계층에 대해 저자들은 재구성 손실 ($L$) 을 사전 너비 ($n$) 와 희소성 ($k$) 의 함수로 하는 "바닥 없음 (no-floor)" 로그 - 선형 스케일링 표면을 적합합니다.
   • 대부분의 계층에서 너비 범위가 제한적 (기본 너비 두 개만 사용 가능) 이므로, 4 매개변수 표면을 적합합니다: $\log L = a_0 + \beta_n \log n + \beta_k \log k + \gamma \log n \log k$.
   • 이를 통해 계층별 너비 스케일링 지수 $\alpha_\ell(k) = -(\beta_{n,\ell} + \gamma_\ell \log k)$를 유도합니다.
   • 더 풍부한 너비 그리드 ($\ge3$ 개 너비) 를 가진 6 개의 "쇼케이스" 계층에서는 점근적 재구성 바닥 $B(k)$를 식별하기 위해 6 매개변수 "바닥 포함 (with-floor)" 표면 ($L = A(k)n^{-\alpha(k)} + B(k)$) 의 결합 비선형 적합을 수행합니다.

2. 2 단계: 계층 간 기하학적 회귀

   • 저자들은 외적 유클리드 추정기 (TWO-NN, 다중 스케일 PCA 등) 를 사용하여 활성화 매니폴드의 4 가지 계층별 기하학적 요약을 계산합니다:
     • 내재 차원 ($d_{int}$): 국부적 자유도.
     • 다중 스케일 곡률 ($\kappa_{ms}$): 다양한 반경에 걸쳐 접평면으로부터의 평균 이탈.
     • 접변화 ($\kappa_{tv}$): 접공간 회전률.
     • 이질성 ($\nu$): 내재 차원의 국부적 변동.
   • 그들은 1 단계 출력 (특히 너비 지수 $\alpha_\ell(k)$ 및 계수 $\beta_n, \gamma$) 을 일반 최소제곱법 (OLS) 을 사용하여 이러한 기하학적 요약에 대해 회귀합니다.
   • 가설 검정은 기하학적 불변의 귀무가설 ($H_0$) 을 단일 특징, 저상관 특징 쌍, 또는 네 가지 특징 모두에 의존하는 모델과 비교합니다.
   • 교차 모델 전이: 한 모델 (예: 2B) 에서 학습된 계수를 다른 모델 (9B) 의 계층별 지수를 예측하는 데 사용하여 전이 가능한 기하학 법칙을 검증합니다.

주요 기여

1. SAE 잔여물에 대한 기하학적 프레임워크: 본 논문은 활성화 공간이 전역적으로 효율적인 희소 선형 코드를 허용하지 않을 수 있는 이유를 설명하는 풀백 정보 기하학적 설명을 제공합니다. 이는 활성화 공간의 "자연스러운" 척도가 풀백 피셔 - 라오 (Fisher-Rao) 척도인 반면, SAE 는 주변 유클리드 거리를 최적화하여 기저 - 매니폴드 불일치를 초래한다고 가정합니다.
2. 기하학 조건부 스케일링 법칙: 저자들은 표준 너비 - 희소성 스케일링 법칙을 기하학 조건부 설명으로 확장합니다. 그들은 스케일링 법칙의 매개변수 (특히 너비 지수) 가 활성화 매니폴드의 기하학에 대한 계층별 함수임을 입증합니다.
3. 교차 모델 기하학 법칙 및 바닥 결합:
   • 그들은 한 모델에서 학습된 회귀 계수가 다른 모델의 계층별 너비 스케일링 지수를 성공적으로 예측하여 전이 가능한 기하학 법칙을 보여줍니다.
   • 쇼케이스 계층에서 점근적 재구성 바닥 ($B$) 은 기하학적 순서를 추적합니다: 더 높은 곡률과 내재 차원을 가진 계층은 더 높은 비감소 바닥을 보입니다.

결과

• 스케일링 지수 예측: 매니폴드 기하학은 계층별 너비 스케일링 지수 $\alpha_\ell(k=50)$를 강력하게 예측합니다. 다중 스케일 곡률 ($\kappa_{ms}$) 은 지배적인 단일 특징으로, 2B 모델의 계층 간 변동을 거의 모두 설명하고 9B 모델에서는 대부분을 설명합니다.
• 전이성: 기하학 법칙은 전이 가능합니다. Gemma 2 2B 에 적합된 회귀 계수는 9B 지수를 높은 충실도 ($R^2 \approx 0.92-0.93$) 로 예측하며, 그 반대도 마찬가지입니다. 이는 관계가 특정 모델 크기의 인공물이 아님을 시사합니다.
• 기하학적 벽: 점근적 바닥을 식별할 수 있는 계층에서 바닥 크기는 기하학적 복잡성과 상관관계가 있습니다. 더 높은 곡률과 내재 차원은 더 높은 바닥에 해당합니다. 이는 비감소 2 차 잔여로 해석됩니다: 평평한 희소 선형 사전은 곡선 매니폴드를 완벽하게 근사할 수 없으므로, 사전 너비가 무한대에 가까워지더라도 잔여 오차가 소멸하지 않습니다.
• 기작적 해석: "기하학적 벽"은 유한 자원의 한계가 아니라 기하학 의존적 한계입니다. 더 높은 곡률은 접평면으로부터의 2 차 이탈을 증가시키는 반면, 더 높은 내재 차원은 유한한 원자 예산으로 덮을 수 있는 국부적 접공간의 비율을 감소시킵니다.

의의 및 주장
본 논문은 SAE 의 한계를 자원 천장이 아닌 기하학 의존적 벽으로 재정의한다고 주장합니다. 이는 계층 간 SAE 충실도의 변동이 현재 단일 계층 스케일링 관행에서 모델링되지 않은 활성화의 기하학적 구조에 의해 조건 지어짐을 주장합니다.

저자들은 SAE 가 해석 가능성에 부적합하다고 주장하지 않습니다. 대신, 계층별 스케일링 행동은 SAE 가 재구성하려는 매니폴드 구조에 의해 근본적으로 제약받음을 주장합니다. 이 발견은 "선형 표현 가설"이 척도 의존적 근사임을 시사합니다. "의미 있는 선형 방향"은 척도 자유롭지 않으며, SAE 가 사용하는 주변 유클리드 척도와 예측적 풀백 척도 간의 정렬은 깊이에 따라 체계적으로 변합니다. 이 연구는 SAE 재구성이 어디서 그리고 왜 실패하는지 이해하기 위한 진단 프레임워크를 제공하며, 이를 신경망의 은닉 상태 내재 기하학과 직접 연결합니다.