기술 요약: 모델의 기하학적 구조

문제 제기

**다양체 가설 (Manifold Hypothesis, MH)**은 고차원 자연 데이터가 저차원 연속 부분 공간에 존재한다고 주장하며, 기계 학습 모델이 차원의 저주를 극복하는 방식을 설명합니다. 그러나 MH 는 두 가지 중요한 가정에 의존합니다: 첫째, 훈련 데이터가 기본 다양체의 충분히 밀집된 표본을 제공한다는 것, 둘째, 다양체가 충분히 규칙적이라는 것입니다. 저자들은 이러한 가정이 실패하는 "희소 영역 (sparse regime)"을 식별했는데, 구체적으로 다음과 같은 경우입니다:

1. 데이터가 부족한 환경: 표준 데이터 증강이 입력 공간의 밀집된 표본을 생성할 수 없는 경우.
2. 본질적으로 이산적인 도메인: 알고리즘적 작업 (예: 모듈러 덧셈) 과 같이 무한한 데이터가 있더라도 연속적인 기본 다양체 개념이 적용되지 않는 경우.

이러한 희소 영역에서 MH 는 붕괴되지만, 모델은 종종 성공합니다. 본 논문은 이러한 성공을 가능하게 하는 기하학적 메커니즘을 설명하고자 합니다.

방법론 및 이론적 프레임워크

정규 정렬 (Normal Alignment)

저자들은 희소 영역에서 모델의 기하학적 구조를 설명하기 위해 정규 정렬 (normal alignment) 개념을 도입했습니다.

• 정의: 분류기 $f$가 데이터셋 $D$에 대해 정규 정렬되었다는 것은, 모든 훈련 점 $x_i$에 대해 입력 - 출력 야코비안 $J_{x_i}$가 랭크 1 이며 입력 벡터 $x_i$와 정렬되어 있음을 의미합니다 (즉, $J_{x_i} = c_i x_i^\top$).
• 직관: 이 속성은 모델이 훈련 데이터의 방향을 따라만 변한다는 것을 의미하며, 결과적으로 훈련 세트에 대한 최적의 매칭 필터 뱅크로 작용합니다.
• 이론적 최적성:
  • 정리 1: 야코비안과 오프셋에 대한 노름 제약 (가중치 감쇠와 유사) 하에서, 희소 영역에서 볼록하고 비음수이며 미분 가능한 손실을 최소화하는 분류기는 정규 정렬됩니다.
  • 정리 2: 정규 정렬된 분류기는 야코비안이 0 이 아닌 분류기들 중에서 최대의 국소적 강건성을 달성합니다. 이는 분류 마진을 야코비안의 크기에 대해 최대화하여 모델이 상수 함수로 붕괴되는 것 (이는 0 의 야코비안과 낮은 표현력을 가짐) 을 방지하기 때문입니다.

심층 네트워크에서의 기하학적 해석

연속 조각별 아핀 (Continuous Piecewise-Affine, CPA) 심층 네트워크 (ReLU 네트워크 및 트랜스포머 포함) 의 경우, 저자들은 정규 정렬을 네트워크가 유도하는 파워 다이어그램 분할의 기하학과 연결합니다.

• 중심 정렬: 훈련 점 $x_i$를 포함하는 다면체의 중심이 $x_i$와 정렬되는 **중심 정렬 (centroid alignment)**을 정의합니다.
• 정리 3: 저자들은 $D$에 대해 정규 정렬된 심층 네트워크가 또한 중심 정렬됨을 증명합니다. 또한, 중심 내적의 변화율은 네트워크가 선형 (게으른) 영역이 아닌 **특징 학습 영역 (동적 신경 탄성 커널)**에 있을 때만 0 이 아님을 보여줍니다. 이는 정규 정렬을 유도하는 것이 암기에서 특징 학습으로의 전환을 촉진함을 시사합니다.

제안된 알고리즘

이러한 통찰에 영감을 받아 저자들은 두 가지 응용을 제안합니다:

1. GrokAlign: 심층 네트워크에 정규 정렬을 능동적으로 유도하는 정규화 전략입니다. 이는 입력과 정렬되지 않은 야코비안의 구성 요소 (야코비안의 직교 구성 요소) 의 프로베니우스 노름을 정규화함으로써 작동합니다. 이는 무작위 출력 벡터를 사용하는 허친슨 (Hutchinson) 추정기를 사용하여 효율적으로 구현됩니다.
2. 재귀적 특징 정렬 머신 (Recursive Feature Alignment Machines, RFAMs): 표 형식 데이터를 위한 재귀적 특징 머신 (RFMs) 의 확장입니다. RFMs 는 평균 기울기 외적을 통해 특징 행렬 $M$을 학습합니다. 저자들은 데이터 공분산 행렬과 단위 행렬의 조합을 사용하여 $M$을 초기화하는 것을 제안합니다 ($M_{init} = (1-\alpha)\text{Cov}(X) + \alpha I$). 이는 본질적으로 희소하고 이방적인 표 형식 환경에서 강건성을 향상시키기 위해 정규 정렬 원리를 활용합니다.

주요 결과

그로킹 (Grokking) 가속화

"그로킹"은 모델이 완벽한 훈련 정확도를 달성하지만 테스트 세트에 일반화하는 데 훨씬 더 오랜 시간이 걸리는 현상입니다. 저자들은 이것이 선형 영역에서 특징 학습 영역으로의 전환 지연 때문이라고 가정합니다.

• 실험: GrokAlign 을 다양한 희소 작업 (XOR, 희소 패리티, MNIST, 모듈러 덧셈) 에 적용했습니다.
• 결과: GrokAlign 은 베이스라인 및 기타 가속화 방법 (Grokfast, OrthoGrad) 에 비해 "그로킹" 상태에 도달하는 시간을 크게 단축시켰습니다. 예를 들어, 희소 패리티 작업에서 GrokAlign 은 그로킹에 필요한 에포크를 베이스라인의 2000 에서 101 로 줄여 19.76 배의 속도 향상을 보였습니다.

표 형식 데이터에서의 강건성

• 실험: RFAM 을 Fernández-Delgado 등 및 Erickson 등의 표 형식 데이터셋에 적용했습니다.
• 결과: RFAM (특히 $\alpha < 1.0$인 경우) 은 표준 RFM ($\alpha=1.0$) 에 비해 더 큰 적대적 강건성을 나타냈습니다. 테스트 정확도는 약간 낮거나 비슷했지만, PGD 교란 하에서 공격 성공률 (ASR) 은 크게 감소했습니다 (예: Fernández-Delgado 벤치마크에서 RFAM 은 68.3% ASR 인 반면 RFM 은 71.6% 였습니다). 이는 유리한 정확도 - 강건성 트레이드오프를 보여줍니다.

중요성 및 주장

본 논문은 MH 가 실패하는 영역에서 모델의 성공을 설명하는 엄밀한 기하학적 프레임워크를 제공한다고 주장합니다.

• 메커니즘적 설명: 희소 환경에서 훈련된 모델의 구조적 서명인 정규 정렬을 식별하여, 데이터가 부족하거나 이산적인 환경에서 모델이 어떻게 데이터를 탐색하는지에 대한 메커니즘적 설명을 제공합니다.
• 실행 가능한 알고리즘: 이 작업은 이론적 통찰을 실용적인 알고리즘으로 전환합니다. GrokAlign 은 특징 학습 역학을 일관되게 가속화하는 방법으로 제시되며, RFAM 은 심층 학습이 종종 어렵다고 간주되는 도메인인 표 형식 데이터에서 적대적 강건성을 향상시키기 위해 기하학적 원리를 활용합니다.
• 향후 방향: 저자들은 희소 및 밀집 학습 영역 사이의 위상 전이를 매핑하고, 정규 정렬 정규화를 강화 학습 및 대규모 언어 모델과 같은 이산 토큰이 지배적인 도메인으로 확장할 것을 제안합니다.

저자들은 겸손한 어조를 유지하며, 이 작업을 기존 이론의 보편적 대체가 아닌 희소 영역에서 모델 동작에 대한 구체적인 기하학적 관점으로 제시하며, 데이터 증강이 이러한 특정 기하학적 속성이 가장 중요한 희소 영역에서 데이터셋을 이동시킬 수 있음을 지적합니다.