기술 요약: 기하학적-비기하학적 최적화 계산법 (Geometric–Nongeometric Optimizer Calculus)

문제 정의

경사 하강법 기반 최적화 알고리즘(예: Adam, Shampoo, K-FAC)에 대한 기존의 설명들은 서로 구별되는 알고리즘적 역할들을 혼용하는 경향이 있다. 이들은 하강 기하학(그래디언트를 방향으로 매핑하는 것)의 정의와 정보 수집, 메모리, 스텝 크기 제어, 노이즈 주입, 타겟 수정 및 이산화 메커니즘을 뒤섞어 설명한다. 이러한 혼용은 특정 업데이트 방향이 진정으로 기하학적 전조건화(preconditioner)에 의해 설명되는 것인지, 아니면 모멘텀, 투영(projection), 또는 확률성(stochasticity)과 같은 잔여 메커니즘에 의존하는 것인지 감사(audit)하는 것을 어렵게 만든다. 또한, 오라클 접근성(oracle access), 메모리 예산, 상태 클래스에 관한 명시적 제약 조건 하에서 "도달 가능한(reachable)" 경사법을 분해하기 위한 공식적인 언어가 부족한 실정이다.

본 논문은 다음과 같은 질문을 다룬다: 오라클 클래스, 예산, 상태 클래스, 그리고 허용 가능한 규칙이 주어졌을 때, 도달 가능한 경사법을 양(+)의 기하학적 모듈과 구조화된 비기로학적 모듈으로 분해하여 표현 격차(expression gaps), 메커니즘 예산, 그리고 최적화 설계 트레이드오프를 드러낼 수 있는가?

방법론: 기하학적–비기하학적 최적화 계산법

저자들은 최적화 구성 요소를 두 가지 별개의 범주로 분리하는 모듈형 언어인 기하학적–비기하학적 최적화 계산법을 제안한다.

1. 기하학적 모듈 (The Geometric Module)

이 모듈은 양의 공메트릭 패밀리(positive cometric family) $\mathcal{P}_F(\theta)$로 구성된다. 이는 공벡터(그래디언트)를 파라미터 공간의 하강 방향으로 매핑한다.

• 형식: 공벡터 $\alpha_\theta = df_\theta$에 대하여, 기하학적 하강 방향은 $u_{geo} = -P_\theta \alpha_\theta$이며, 여기서 $P_\theta \succ 0$이다.
• 패밀리: 여기에는 전체 SPD 행렬, 대각 행렬, 블록 대각 행렬, 크로네커 인수 분해(Kronecker-factored), 저계수(low-rank) 또는 프록시 곡률 패밀리가 포함된다.

2. 비기하학적 모듈 (The Nongeometric Modules)

나머지 메커니즘은 다음의 7가지 명시적 모듈로 나뉜다:

• 정보 (Information): 그래디언트 추정치, 미니 배치, 곡률 프록시, 그리고 헤시안-벡터 프로브(Hessian-vector probes).
• 메모리 (Memory): 모멘텀, 네스테로프 룩어헤드(Nesterov lookahead), 세칸트 쌍(secant pairs), 그리고 역사적 부분 공간(historical subspaces).
• 제어 (Control): 학습률, 댐핑(damping), 신뢰 영역(trust regions), 라인 서치(line search), 그리고 스케줄.
• 연산자 (Operator): 투영, 근사 사상(proximal maps), 클리핑(clipping), 정규화(normalization), 그리고 디커플드 가중치 감쇠(decoupled weight decay).
• 노이즈 (Noise): 명시적 샘플링 노이즈, 랑주뱅 섭동(Langevin perturbations), 그리고 드롭아웃 유도 노이즈.
• 타겟 (Target): 원래의 $f$와 다른 정규화되거나 평활화된, 혹은 대리(surrogate) 목적 함수.
• 이산화 (Discretization): 오일러/암시적 스텝, 유한 정밀도, 그리고 근사 행렬 루트.

3. 감사 및 분해 (Audit and Decomposition)

계산법은 실제 최적화 도구를 분해하기 위해 **표준 감사 순서(canonical audit order)**를 채택한다:

1. 타겟 목적 함수 $f_k$와 가시적인 공벡터 $\tilde{g}_k$를 고정한다.
2. 선언된 패밀리 $\mathcal{F}$ 내에서, 관찰된 방향을 양의 기하학으로 가장 잘 설명하는 $P_k$를 선택한다.
3. 스케일과 댐핑을 제어(Control) 속성으로 할당한다.
4. 남은 잔여분을 메모리, 연산자, 노이즈, 타겟, 또는 이산화로 할당한다.

주요 기여

1. 방향 표현력 정리 (Direction-Expressivity Theorems)

본 논문은 전체 양의 정치 행렬(full positive-definite) 기하학이 정확히 임계점으로부터의 엄격한 하강 방향(strict descent directions) 집합을 표현함을 증명한다.

• 정리: 0이 아닌 그래디언트 $g$와 방향 $u$에 대하여, $u = -Pg$를 만족하는 양의 정치 행렬$P$가 존재할 필요충분조건은$g^\top u < 0$이다.
• 시사점: 엄격한 하강 방향이 아닌 업데이트(예: 모멘텀이나 확률성에 의한 중립 또는 상승 스텝)나 임계점에서의 움직임($g=0$)은 반드시 비기하학적 모듈에서 기인해야 한다.

2. 제한된 방향 잔차 (Restricted Direction Residuals)

제한된 패밀리(예: 대각 또는 블록)를 사용하는 구현 가능한 최적화 도구들을 위해, 저자들은 제한된 방향 잔차를 다음과 같이 정의한다:
$$\rho_{\mathcal{F},h}(u; \alpha) = \inf_{P \in \mathcal{F}(\theta)} \|u + P\alpha\|_h$$

• 이는 업데이트 중 얼마나 많은 부분이 선택된 기하학에 의해 설명되지 않는지를 측정한다.
• 본 논문은 대각 및 블록 기하학에 대한 정확한 표현성 조건을 도출하며, 대각 기하학은 좌표 의존적이며 $g_i$와 $u_i$의 부호가 일치하지 않는 방향을 설명하는 데 실패함을 보여준다.

3. 진단 프레임워크 (4분면 모델)

저자들은 두 가지 진단을 구분한다:

1. 곡률 도달 가능성 (Curvature Reachability): 패밀리가 헤시안의 조건수(condition number)를 얼마나 잘 처리할 수 있는지 측정한다.
2. 방향 잔차 (Direction Residual): 패밀리가 실제 업데이트 방향을 얼마나 잘 설명하는지 측정한다.
   이들은 기하학적 전조건화, 메모리 효과, 노이즈, 그리고 타겟 수정을 구분하기 위한 4분면 진단 도구를 형성한다.

4. 궤적 수준의 잔차 복잡도 (Trajectory-Level Residual Complexity)

점별(pointwise) 분석을 넘어, 본 논문은 궤적 수준의 잔차 복잡도를 정의한다. 이는 전체 훈련 궤적이 제한된 기하학적 변화를 가진 일관된(coherent) 전조건화 경로로 설명될 수 있는지를 묻는다.

• 저자들은 기하학적 설명의 시간적 일관성을 유지하는 비용을 측정하기 위해 **일관성 갭(coherence gap)**을 도입한다.
• 이는 풍부한 패밀리가 서로 관련 없는 단일 행렬을 통해 모든 스텝을 설명하는 것을 방지한다.

5. 파레토 최적화 정식화 (Pareto Optimization Formulation)

최적화 설계는 단일한 "최적" 순서를 찾는 것이 아니라, 모듈 예산에 대한 제약된 파레토 최적화 문제로 재정의된다.

• 설계자는 기하학(예: 아핀 불변 메트릭 길이), 정보(그래디언트 호출), 메모리, 통신에 대한 예산 대비 성능 사이의 균형을 맞춰야 한다.
• 본 논문은 **예산 기반 클래스 단조성(budgeted class monotonicity)**을 증명한다. 즉, 전체-SPD 기하학은 제한된 기하학의 표현 상위 집합이지만, 예산 범위 내의 최적해는 더 저렴하고 제한된 패밀리를 선호할 수 있다.

결과 및 프로토타입

논문은 이 언어의 유용성을 입증하기 위한 진단용 프로토타입을 포함하며, 이것이 대규모 벤치마크에서의 최첨단 성능(SOTA)을 주장하는 것이 아님을 명시적으로 밝힌다.

1. 전체 메트릭 프로브 (결정론적 이차 형식): 좌표 프로브를 통해 재구성된 전체 SPD 역행렬 메트릭을 사용하는 프로토타입은 결정론적 이차 형식 벤치마크를 수치적 정밀도로 해결하여, 전체 기하학의 "표현 엔벨로프(expression envelope)"를 검증한다.
2. Krylov 및 하이브리드 변형: Krylov 부분 공간 변형과 잔차 선택 규칙을 가진 BFGS 하이브리드가 테스트되었다. 결과는 제한된 정보 예산과 잔차 선택 규칙이 성능에 상당한 영향을 미치며, 종종 제한된 기하학이 전체 기하학의 능력을 따라잡지 못하게 함을 보여주었다.
3. Muon 스타일 후보군: 텐서에 대한 행렬 직교화 모멘텀(matrix-orthogonalized momentum)과 벡터에 대한 AdamW를 결합한 프로토타입이 감사되었다.
   • 작은 규모의 MNIST 서브셋에서, 이 모델은 AdamW(약 72.6%) 대비 약 77.0%의 정확도를 달-성했다.
   • 감사는 Newton–Schulz 직교화가 순수한 양의 공메트릭이 아니라 행렬 연산자/메모리 메커니즘으로 작용함을 밝혔다.
4. 궤적 감사 (Trace Audits): 계산법이 AdamW, SGD/Nesterov, 그리고 Muon 스타일 후보군의 짧은 훈련 궤적에 적용되었다.
   • 발견: SGD/Nesterov는 강력한 점별 대각 기하학 설명을 보였으나 큰 "일관성 갭"(빠르게 변하는 메트릭 요구)을 나타냈다. AdamW와 Muon 후보군은 더 낮은 원시 잔차와 더 작은 일관성 갭을 보였으며, 이는 더 안정적인 기하학적 그림자(geometric shadows)를 시사한다.

의의 및 주장

본 논문은 이론 및 벤치마크 언론으로서의 위치를 확립한다. 주요 의의는 다음과 같다:

• 공식적인 감사 언어 제공: 최적화에서 "기하학"과 "엔지니어링"을 분리하는 엄격한 프레임워크를 제공하여, 연구자들이 업데이트의 얼마만큼이 기하학적으로 설명 가능한지, 혹은 메모리, 노이즈, 타겟 변환에 얼마나 의존하는지를 정량화할 수 있게 한다.
• 최적화 설계의 재정의: 최적화 설계를 명시적인 자원 예산(컴퓨팅, 메모리, 오라클 호출)에 대한 파레토 최적화 문제를 푸는 것으로 전환시킨다.
• 한계 명확화: 전체 양의 정치 행렬이 하강 방향을 포착하는 "표현 엔벨로프"임을 확립하는 동시에, 모멘텀, 투영 등 기타 행동들이 구조적으로 구별되는 비기하학적 메커니즘임을 밝힌다.

저자들은 이 논문이 현대의 비전 또는 언어 벤치마크에서 AdamW, Lion, 또는 Shampoo와 같은 튜닝된 베이스라인과 경쟁하여 대규모 성능을 입증하려는 것이 아니라, 진단적 용도로서 이 계산법의 유용성을 보여주기 위한 것임을 명시한다.