📊 statistics

The Geometry of Updates: Fisher Alignment at Vocabulary Scale

이 논문은 커널 평균 임베딩을 통해 헤드 피셔 정렬(head Fisher alignment)을 추정함으로써, 표현 기반 지표의 한계와 전체 피셔 행렬의 계산 비용 문제를 극복하고, 공유된 어휘를 가진 LLM 제품군에 대해 확장 가능한 소스 선택 및 태스크 유사도 진단을 가능하게 하는 학습 불필요(training-free) 및 스트리밍 효율적 방법인 FisherSketch를 소개한다.

원저자: John Sweeney

게시일 2026-06-26

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: John Sweeney

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

거대한, 고도로 훈련된 언어 모델(여러 언어를 말할 줄 아는 초지능 로봇 같은 것)이 있다고 상상해 보세요. 이제 당신은 이 로봇에게 화학식(SMILES)을 쓰거나 단백질 구조를 이해하는 것과 같은 새롭고 구체적인 기술을 가르치고 싶습니다.

중요한 질문은 다음과 같습니다: 이 새로운 기술을 가르치기 위해 기존의 어떤 데이터셋을 사용해야 할까요?

보통 사람들은 로봇이 데이터를 볼 때 어떻게 "생각"하는지(내부 활성화 상태)를 관찰하여 이 질문에 답하려고 노력합니다. 그들은 "로봇이 화학식을 단백질 서열과 똑같은 방식으로 보고 있는가?"라고 묻습니다. 만약 대답이 "예"라면, 그들은 로봇이 새로운 과제를 쉽게 배울 것이라고 가정합니다.

문제점: 학습의 "암흑 방"
이 논문은서 로봇의 내부 활성화만을 살펴보는 것이 마치 벽을 더듬으며 어두운 방을 항해하는 것과 같다고 주장합니다. 당신은 두 개의 서로 다른 방에서 똑같은 벽을 느낄 수도 있지만, 그렇다고 해서 가구(목표)가 같은 곳에 있다는 뜻은 아닙니다.

저자들은 이를 "활성화-암흑(Activation-Dark)" 체제라고 부릅니다. 두 과제가 로봇의 내부 센서(활성화)에는 동일하게 보일 수 있지만, 그 과제를 해결하려 할 때 발생하는 오류는 완전히 반대 방향을 가리킬 수 있습니다. 만약 잘못된 데이터로 로봇을 훈련시킨다면, 비록 "느낌"은 같을지라도 로봇이 해결책을 잘못된 방향으로 밀어붙이도록 학습하게 될 수도 있습니다.

해결책: FisherSketch (업데이트를 위한 "망원경")
저자들은 FisherSketch라는 새로운 도구를 소개합니다. 단순히 로봇이 무엇을 보는지를 보는 대신, 우리는 로봇이 문제를 해결하기 위해 자신을 어떻게 변화시킬 계획인지를 봅니다.

이 핵심 아이디어를 비유를 통해 나누어 설명하면 다음과 같습니다.

1. "업데이트"가 진짜 이야기입니다

로봇을 시험을 치르는 학생이라고 상상해 보세요.

표현 유사성 (기존 방식): 당신은 학생이 문제를 읽는 동안 학생의 얼굴을 봅니다. 만약 학생이 수학과 역사 문제를 읽을 때 모두 집중하고 진지해 보인다면, 당신은 학생이 두 과제 모두 잘 해낼 것이라고 가정합니다.
Fisher 정렬 (새로운 방식): 당신은 학생이 답안지에 적는 수정 사항을 봅니다.
- 수학의 경우, 학생은 "숫자를 더 추가해야겠다"라고 깨닫습니다.
- 역사의 경우, 학생은 "날짜를 더 많이 적어야겠다"라고 깨닫습니다.
- 설령 문제를 읽는 동안 모습(얼굴)은 똑같을지라도, 그들의 실수를 바로잡으려는 계획은 완전히 다릅니다.

이 논문은 만약 "얼굴"(활성화)만 본다면 "수정 사항"(업데이트)을 예측할 수 없다는 것을 증명합니다. 두 과제는 똑같이 보일 수 있지만, 요구되는 변화는 정반대일 수 있습니다.

2. "어휘 규모(Vocabulary Scale)"의 도전

로봇은 거대한 어휘(128,000개 이상의 단어)를 가지고 있습니다. 모든 단어에 대해 "수정 계획"을 계산하려면, 보통 지구상에 존재하는 것보다 더 많은 메모리를 가진 컴퓨터(태스크당 61기가바이트!)가 필요합니다. 이는 수천 개의 서로 다른 과제에 대해 수행하기에 불가능한 일입니다.

FisherSketch는 마치 마법 같은 압축 기술과 같습니다.

전체 61GB의 수정 계획을 모두 적는 대신, 이 도구는 아주 작은 16KB의 "시그니처"(작은 사진 한 장 정도의 크기)를 생성합니다.
이는 데이터를 한 번 훑는 "스트리밍 패스(streaming pass)"를 통해, 모든 것을 다 적지 않고도 무작위 투영(random projections)이라는 영리한 수학적 기법을 사용하여 수정의 방향을 추정함으로써 이루어집니다.
이는 세 가지를 포착합니다:
1. 활성화(Activations): 로봇이 보는 것.
2. 오류(Errors): 로봇이 틀리는 지점.
3. 결합(Coupling): "보는 것"과 "틀리는 것"이 어떻게 상호작용하는지.

3. "버벌라이저 시프트(Verbalizer Shift)" 실험

이를 증명하기 위해 저자들은 "버벌라이저 시프트"라고 불리는 특정 테스트를 실행했습니다.

로봇에게 고정된 프롬프트를 주었습니다: "정답은..."
그리고 마지막 단어(버벌라이저)만을 변경했습니다. 예를 들어 "예/아니오"를 "참/거짓"으로 바꾸는 식입니다.
결과: 프롬프트가 동일했기 때문에 로봇의 내부 "생각"(활성화)은 정확히 똑같이 유지되었습니다. 기존의 방법론들은 "이 과제들은 100% 동일하다!"라고 말했을 것입니다.
현실: 하지만 마지막 단어에 따라 로봇의 학습 능력은 급격하게 변했습니다.
FisherSketch는 오류의 기하학(특정 마지막 단어가 로봇의 실수를 어떻게 변화시키는지)을 관찰했기 때문에 이 변화를 정확히 예측했습니다. 반면 기존 방식들은 이 부분에 대해 눈이 멀어 있었습니다.

요약된 주장

기존 방식의 실패: 내부 "생각"(활성화)을 비교하는 CKA와 같은 지표는, 비록 "생각"은 같더라도 "오류"가 다를 경우 로봇이 새로운 과제를 잘 배울 수 있을지 예측하지 못합니다.
새로운 방식의 성공: FisherSketch는 데이터 스트림으로부터 "Fisher 정렬"(업데이트 계획의 유사성)을 직접 추정합니다.
효율성: 엄청난 양의 데이터를 작은 16KB 시그니처로 압축하여, 수천 개의 과제를 즉각적으로 비교하는 것을 가능하게 합니다.
정확성: Llama-3.1-8B를 이용한 테스트에서, FisherSketch는 활성화만을 살펴본 방법들보다 미세 조정(fine-tuning)을 위한 적절한 소스 데이터를 선택하는 데 훨씬 더 뛰어난 성능을 보였습니다. 특히 "생각"은 변하지 않았지만 "학습 목표"가 변하는 까다로운 경우에 더욱 그러했습니다.

요약하자면, 이 논문은 다음과 같이 말합니다: 로봇이 무엇을 보는지 묻지 말고, 어떻게 자신의 실수를 바로잡을 계획인지 물으십시오. 그리고 FisherSketch라는 새로운 도구를 사용하면, 가장 큰 모델들에 대해서도 이를 효율적으로 수행할 수 있습니다.

기술 요약: 업데이트의 기하학: 어휘 규모에서의 피셔 정렬 (Fisher Alignment)

1. 문제 정의

본 논문은 동일한 어휘를 공유하지만 예측 대상이 다른(예: SMILES, 단백질 서열, 또는 유전체 데이터에 공유 토크나이저를 적응시키는 경우) LLM 제품군을 위한 훈련 불필요 소스 선택(training-free source selection) 문제를 다룹니다.

현재의 전이 가능성 지표들은 이 "활성화 암흑(activation-dark)" 영역에서 딜레마에 직면해 있습니다:

표현 유사도 지표(예: CKA, RSA, SVCCA)는 고정된 활성화를 기반으로 유사도를 계산합니다. 저자들은 이러한 지표들이 레이블 조건부 오차(label-conditioned errors)의 기하학적 구조를 무시하기 때문에 헤드 수준의 전이성을 식별하는 데 부적합하다고 주장합니다. 모델들은 동일한 표현을 공유하면서도 서로 직교하는 업데이트 방향을 가질 수 있습니다.
고전적인 업데이트 기하학 지표(예: 피셔 정렬)는 필요한 업데이트 구조를 이론적으로 포착하지만, 어휘 규모( $K \sim 10^5$ )에서는 계산 비용이 지나치게 높습니다. 오차 이차 모멘트 행렬( $\Gamma_e$ )을 저장하려면 태스크당 약 61 GiB가 필요하며, 이는 대규모 후보 세트에 대해 정확한 계산을 불가능하게 만듭니다.

핵심 질문은 다음과 같습니다: 거대한 행렬을 실체화하거나 잠재적으로 오도할 수 있는 활성화 전용 신호에 의존하지 않고, 어떻게 어휘 규모에서 파라미터 업데이트의 기하학적 호환성(피셔 정렬)을 효율적으로 추정할 수 있는가?

2. 방법론

이론적 기초

저자들은 선형 헤드(linear head)에 대해, 개별 샘플의 그래디언트 $g$ 가 펜얼티메이트 활성화 $a$ 와 로짓 공간의 오차 $e$ 의 크로네커 곱(Kronecker product)으로 정확히 분해됨을 입증합니다 ( $g = a \otimes e$ ).

표현 지표의 비식별성(Non-Identifiability): 본 논문은 표현 전용 지표가 헤드 수준의 피셔 정렬을 결정할 수 없음을 증명합니다(Theorem 3.2). 저자들은 태스크들이 동일한 표현( $Z_i = Z_j$ )을 공유하지만 서로 다른 레이블 세트를 가져서, 헤드 그래디언트가 직교하는( $A_F(i, j) = 0$ ) "증인(witness)" 사례를 구성합니다. 따라서 $M(Z_i, Z_j)$ 는 동일한 태스크와 직교하는 태스크를 구분할 수 없습니다.
곱 커널 코사인으로서의 피셔 정렬: 핵심적인 이론적 기여(Theorem 4.2)는 헤드 피셔 정렬을 결합된 $(a, e)$ $(a, e)$ 특징 공간에서의 커널 평균 임베딩(kernel mean embeddings) 간의 코사인 유사성으로 재작성하는 것입니다.
$A_F^{head}(i, j) = \cos(\mu_{ae, i}, \mu_{ae, j})$
여기서 $\mu_{ae, k}$ $μ_{a e, k}$ 는 곱 커널 $k_{ae}((a, e), (a', e')) = (a^\top a')^2 (e^\top e')^2$ $k_{a e} ((a, e), (a^{'}, e^{'})) = (a^{⊤} a^{'})^{2} (e^{⊤} e^{'})^{2}$ 의 평균 임베딩입니다.
이 분해는 전이 가능성이 다음 세 가지 요소에 달려 있음을 보여줍니다:
1. 활성화 기하학: 활성화 이차 모멘트( $M_a$ )의 유사성.
2. 오차 기하학: 오차 이차 모멘트( $\Gamma_e$ )의 유사성.
3. 결합(Coupling): 활성화와 오차가 독립적이라는 가정으로부터의 편차를 측정하는 비분리성 비율( $\rho$ ).

알고리즘: FisherSketch

어휘 규모에서 이를 실행 가능하게 만들기 위해, 저자들은 FisherSketch라는 스트리밍 방식의 단일 패스 추정기를 도입합니다.

무작위 맥로린 특징(Random Maclaurin Features): 전체 $O(d^2 K^2)$ 임베딩을 계산하는 대신, FisherSketch는 곱 커널 기댓값을 추정하기 위해 인수 분해된 무작위 투영(Rademacher 벡터)을 사용합니다.
효율성: 크로네커 구조를 활용하여 $a$ 와 $e$ 에 대한 투영을 별도로 계산함으로써, 샘플당 복잡도를 $O(mdK) $에서$ O(m(d+K))$로 줄입니다.
하위 샘플링된 무작위 하다마르 변환(SRHT): 고차원 오차 공간( $K \approx 128,256$ )에 대해 SRHT를 사용하여 투영 비용을 $O(mK) $에서$ O(K \log K + m)$으로 감소시킵니다.
출력: 이 방법은 각 태스크에 대해 결합된 활성화-오차 기하학을 인코딩하는 압축된 16 KB 태스크 시그니처(벡터 $\mathbb{R}^m, m=4096$ )를 생성합니다. 또한 편향을 줄이기 위해 분할 샘플 추정을 위한 작은 192 KB 스트리밍 상태를 유지합니다.

3. 주요 기여

비식별성 증명: 표현 유사도 지표(CKA, RSA, SVCCA)가 오차 기하학이나 레이블 매핑에 대한 가정 없이는 헤드 수준의 전이를 예측하기에 불충분하다는 것을 공식적으로 입증했습니다.
정확한 분해 항등식: 헤드 피셔 정렬이 결합된 평균 임베딩 사이의 곱 커널 코사인임을 증명하여, 엄격한 세 가지 요소 분해(활성화, 오차, 결합)를 제공합니다.
FisherSketch: 태스크 기하학을 16 KB 시그니처로 압축하여 어휘 규모의 비교( $K=128,256$ )를 가능하게 하는 확장 가능한 훈련 불필요 추정기입니다(태스크당 192 KB 스트리밍 상태 사용).
진단 도구: 시그니처를 통해 연구자들이 태스크 유사성이 활성화, 오차, 또는 이들의 결합 중 무엇에 의해 유도되는지 구분할 수 있게 하며, 이는 "활성화 암흑" 영역을 조사하는 프로브 역할을 합니다.

4. 결과

어휘 규모의 소스 선택

Llama-3.1-8B를 100개 도메인에 대해 평가한 결과:

성능: FisherSketch는 45.7% Top-1 소스 선택 정확도를 달성했습니다(무작위 베이스라인 대비 약 10.9배 높음). 최대 후회(max regret)는 0.119였습니다.
비교: 자연스러운 도메인 변화(natural domain shifts)에서는 활성화 전용 베이스라인과 경쟁할 만한 성능을 보였으나, 특정 영역에서는 이를 크게 상회했습니다.
효율성: 태스크당 저장 요구량을 정확한 $\Gamma_e$ 를 위한 ~61 GiB에서 16 KB로 줄였습니다.

식별성 스트레스 테스트 (Verbalizer Shift)

활성화는 동일하지만 서로 다른 버벌라이저(예: "Yes/No" vs "True/False")를 사용하는 제어된 프리픽스 프롬프트 실험에서:

활성화 전용 실패: 활성화 유사도( $Scov(M_a)$ )는 상수값으로 붕괴되었습니다(랜덤 베이스라인 성능인 20% Top-1).
FisherSketch의 성공: FisherSketch는 66.7% Top-1을 달성하여, 레이블 조건부 오차 기하학의 변화에 의해서만 발생하는 전이 변동을 성공적으로 예측했습니다.
오차 전용 마진: 오차 전용 마진( $Scov(\Gamma_e)$ ) 역시 양호한 성능(72.2% Top-1)을 보였으며, 이는 활성화 기하학이 일정한 경우 오차 기하학이 신호를 주도함을 확인시켜 줍니다.

과학적 서열 개념 증명

분자 SMILES 도메인에서, FisherSketch는 교차 도메인 퍼플렉서티 감소와 유의미한 상관관계를 보인 반면( $\rho_s=0.53, p=0.006$ ), 활성화 전용 유사성은 유의미하지 않았습니다( $p=0.081$ ).

추정기 검증

ViT-B/16에서 FisherSketch는 결합 유사성( $\hat{S}_{ae}: 0.97$ ) 및 결합( $\hat{\rho}: 0.95$ )에 대해 정확한 피셔 정렬과 높은 스피어먼 상관관계를 보였습니다. 이 방법은 $n=2000$ 샘플에서 정확한 계산보다 89배 빠른 속도를 달성했습니다.

5. 의의 및 주장

본 논문은 전통적인 지표들이 "활성화 암흑" 특성으로 인해 실패하는 공유 어휘 LLM 제품군에서, 실용적이고 훈련이 필요 없는 소스 선택 메커니즘을 제공한다고 주장합니다.

운영적 영향: 이는 단순한 표현 유사성이 아닌, 예측된 파라미터 업데이트 호환성을 기반으로 한 자동 미세 조정 소스 선택, 간섭 인지 지속 학습(interference-aware continual learning), 그리고 추론 시 라우팅을 가능하게 합니다.
이론적 통찰: 전이는 근본적으로 표현의 기하학이 아니라 업데이트(그래디언트)의 기하학임을 명확히 합니다. 저자들은 표현 지표가 유리한 영역에서는 유익할 수 있지만, 오차 구조에 대한 명시적 모델링 없이는 근본적인 한계가 있다고 주장합니다.
확장성: 복잡한 업데이트 기하학을 작은 시그니처로 압축함으로써, 본 연구는 유한한 레이블 근사치(LogME/LEEP 등)나 과도한 정확한 피셔 계산의 제약을 넘어 어휘 규모의 전이 가능성 분석을 가능하게 합니다.

저자들은 방법론의 한계를 명시합니다: 이 방법은 공유된 출력 기저(어휘 또는 정렬된 분류 체계)를 가정하며, 헤드 수준(또는 공유 파라미터)의 피셔 정렬에 집중합니다. 이질적인 출력 공간이나 공유 파라미터가 없는 전체 네트워크 비교의 경우, 다른 접근 방식이나 내부 레이어 진단이 권장됩니다.