💬 NLP

Weber's Law in Transformer Magnitude Representations: Efficient Coding, Representational Geometry, and Psychophysical Laws in Language Models

본 논문은 3 가지 아키텍처의 3 개 대형 언어 모델에서 심리물리학 도구를 적용한 결과, 학습 데이터 통계가 로그 압축적 기하학을 생성하지만 이러한 기하학적 구조가 반드시 인간과 유사한 행동적 능력이나 인과적 처리를 보장하지는 않음을 규명했습니다.

원저자: Jon-Paul Cacioli

게시일 2026-03-24

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Jon-Paul Cacioli

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

이 논문은 "AI(특히 대형 언어 모델) 가 숫자나 시간, 거리 같은 '크기'를 어떻게 머릿속에 저장하고 있는지" 에 대한 흥미로운 비밀을 밝혀낸 연구입니다.

마치 AI 의 뇌를 해부하여 '숫자 감각'이 어디에, 어떻게 숨어있는지 찾아낸 탐정 이야기라고 생각하시면 됩니다.

이 연구의 핵심 내용을 쉬운 비유와 함께 설명해 드릴게요.

1. 연구의 배경: AI 는 숫자를 어떻게 기억할까?

최근 연구자들 사이에서 "AI 는 숫자를 선형적으로(1, 2, 3... 이렇게 균일하게) 기억할까, 아니면 로그arithm 적으로(1, 10, 100... 이렇게 압축해서) 기억할까?"라는 논쟁이 있었습니다. 어떤 사람은 "균일하게 저장한다"고 하고, 어떤 사람은 "압축해서 저장한다"고 했습니다.

이 연구팀은 "심리물리학 (Psychophysics)" 이라는 인간의 감각을 연구하는 고전적인 도구를 가져와서 이 논쟁을 해결했습니다. 심리물리학은 "사람이 100 원과 200 원의 차이를 느끼는 것과, 1000 원과 1100 원의 차이를 느끼는 것이 어떻게 다른지"를 연구하는 학문입니다.

2. 주요 발견 1: AI 의 뇌는 '로그arithm'으로 숫자를 압축한다

연구팀은 Llama, Mistral, Qwen 등 세 가지 다른 AI 모델을 분석했습니다. 결과는 놀라웠습니다.

비유: AI 가 숫자를 기억하는 방식은 지진계와 비슷합니다.
- 작은 진동 (1, 2, 3) 은 아주 세밀하게 감지하지만, 큰 진동 (1000, 10000) 은 거대한 간격으로 압축해서 저장합니다.
- 마치 지도를 생각해보세요. 서울의 골목길은 아주 자세히 그려져 있지만, 전 세계 지도에서는 한국 전체가 한 점처럼 작게 그려집니다.
- AI 도 숫자가 커질수록 그 간격을 좁혀서 저장합니다. 이는 AI 가 학습한 텍스트 데이터의 통계적 특징(작은 숫자가 훨씬 자주 등장함) 을 그대로 반영한 결과로, AI 가 스스로 효율적으로 정보를 압축하는 방식을 터득했다는 뜻입니다.

3. 주요 발견 2: "머리에는 있는데, 입으로는 못 말해" (가장 중요한 발견!)

이 연구의 가장 충격적인 사실은 AI 가 숫자를 '아는데', 그걸 '사용'하지 못한다는 점입니다.

비유: 완벽한 지도를 가지고 있지만 길 찾기를 못하는 나침반을 상상해보세요.
- AI 의 뇌 깊은 곳 (중간 층) 에는 숫자 크기에 대한 완벽한 '로그arithm 지도'가 그려져 있었습니다.
- 하지만 AI 에게 "100 분과 2 시간이 어느 게 더 길까?"라고 물으면, AI 는 완전히 무작위로 답을 했습니다. (50% 확률)
- 왜 그럴까요? AI 는 숫자 자체의 '크기'를 이해하지 못해서가 아니라, '단위 변환'에 실패했기 때문입니다. "100 분"과 "2 시간"은 같은 크기지만, AI 는 이를 서로 다른 단어로 인식해서 비교를 못 했습니다.
- 반면, 숫자만 비교하는 문제 ("47 과 83 중 무엇이 큰가?") 에서는 AI 가 인간과 비슷한 수준으로 잘 맞췄습니다.

4. 주요 발견 3: "뇌의 어느 부분이 진짜 일을 할까?"

AI 는 숫자를 처리할 때 뇌의 여러 층 (Layer) 을 사용합니다. 연구팀은 AI 의 뇌를 살짝 건드려서 (Causal Intervention) 어떤 층이 진짜로 일을 하는지 확인했습니다.

비유: 공장을 생각해보세요.
- 초기 층 (공장의 1 층): 숫자 크기를 실제로 비교하고 계산하는 작업대 역할을 합니다. 여기서 AI 가 "어떤 게 더 큰가?"를 결정합니다.
- 후기 층 (공장의 5 층): 숫자 정보가 아주 아름답게 정리되어 있지만, 장식처럼 보입니다. 이 층은 숫자를 '기억'하거나 '예측'하는 데는 좋지만, 실제 '비교' 작업을 하지는 않습니다.
- 즉, 가장 잘 정리된 정보가 있는 곳 (후기 층) 이 아니라, 초기 층에서 실제 계산이 이루어집니다.

5. 결론: AI 는 '학습'과 '지시'가 다르다

이 연구는 AI 가 숫자를 어떻게 다루는지 두 가지 핵심을 밝혀냈습니다.

학습 (Pre-training): AI 는 책과 인터넷 글을 읽는 과정에서 자연스럽게 "작은 숫자는 자주, 큰 숫자는 드물게 나온다"는 통계를 배우고, 이를 효율적으로 저장하기 위해 로그arithm 방식으로 숫자를 압축합니다. 이는 AI 가 스스로 터득한 능력입니다.
지시 (Instruction Tuning): 하지만 그 압축된 숫자 정보를 실제로 비교해서 답을 내는 능력은, 사람이 AI 에게 "이걸 비교해봐"라고 **지시 (Instruction)**를 줄 때 비로소 활성화됩니다.
- 어떤 AI(Llama, Qwen) 는 지시를 잘 받아서 숫자 비교를 잘하지만, 어떤 AI(Mistral) 는 지시를 받아도 숫자 비교 기능을 켜지 못했습니다.

요약

이 논문은 **"AI 는 숫자를 인간의 감각과 유사하게 (로그arithm 적으로) 저장하지만, 그걸 실제로 비교해서 답을 내는 능력은 학습 데이터가 아니라 사람이 준 '지시'에 달려있다"**는 것을 증명했습니다.

AI 는 숫자의 '지도'는 가지고 있지만, 그 지도를 보고 길을 찾는 '나침반'은 사람 (지시) 이 만들어줘야 작동한다는 뜻입니다. 이는 AI 가 단순히 데이터를 외우는 게 아니라, 어떻게 정보를 활용하느냐가 중요하다는 중요한 통찰을 줍니다.

1. 연구 배경 및 문제 제기 (Problem)

트랜스포머 언어 모델 (LLM) 은 언어 이해의 일부로 수치, 시간, 공간적 크기 (magnitude) 를 처리합니다. 최근 연구들은 LLM 이 이러한 크기를 어떻게 내부적으로 표현하는지에 대해 상반된 결론을 내리고 있습니다.

상반된 주장: 어떤 연구는 로그 간격 (logarithmic spacing) 을 발견했고, 다른 연구는 선형 인코딩 (linear encoding) 을 주장하며, 또 다른 연구는 자릿수 기반의 원형 표현 (per-digit circular representations) 이라고 주장했습니다.
핵심 문제: 이러한 불일치는 방법론적 차이에서 비롯된 것으로 보이며, 기존 연구들은 표현의 기능적 형태와 행동 간의 관계를 규명할 수 있는 체계적인 프레임워크가 부족했습니다.
연구 목표: 심리물리학 (Psychophysics) 의 도구 (웨버의 법칙 등) 를 적용하여 LLM 의 크기 표현 기하학 (geometry) 과 행동적 능력 사이의 관계를 규명하고, 기존 논쟁을 해결하는 것입니다.

2. 연구 방법론 (Methodology)

저자는 심리물리학의 정량적 도구를 LLM 분석에 처음 적용하여 4 가지 수렴하는 패러다임과 3 가지 크기 영역 (수치, 시간, 공간) 을 대상으로 실험을 수행했습니다.

사용 모델:
- 주 실험: Llama-3-8B-Instruct, Mistral-7B-Instruct-v0.3 (지시 튜닝된 모델).
- 탐색적 실험: Qwen-2.5-7B-Instruct (다른 아키텍처 가족), Llama-3-8B (Base) (지시 튜닝 전 모델).
- 총 3 개의 아키텍처 가족 (Llama, Mistral, Qwen) 과 7~~9B 파라미터 규모의 모델 3~~4 개를 사용.
4 가지 실험 패러다임:
1. 표현 기하학 분석 (Representational Geometry Probing): 은닉 상태 (hidden states) 간의 거리를 측정하여 선형, 웨버 (로그), 스티븐스 (멱함수) 모델 중 어떤 것이 가장 잘 맞는지 RSA(Representational Similarity Analysis) 와 맨텔 테스트 (Mantel test) 로 검증.
2. 행동적 변별 (Behavioural Discrimination): 크기 비교 태스크 (예: "어느 것이 더 큰가?") 를 수행하여 정확도와 웨버 분수 (Weber Fraction, WF) 를 측정.
3. 정밀도 기울기 (Precision Gradient): 크기에 따른 표현 밀도의 변화를 분석하여 효율적 부호화 (efficient coding) 가 성립하는지 확인.
4. 인과적 개입 (Causal Intervention): 활성화 패치 (activation patching) 를 통해 크기 하위 공간 (magnitude subspace) 이 비교 태스크에 인과적으로 관여하는지 확인.
데이터 분포 분석: 학습 데이터 (OpenWebText) 내 정수 빈도 분포가 효율적 부호화의 전제 조건인 멱함수 (power-law) 를 따르는지 분석.

3. 주요 기여 (Key Contributions)

심리물리학 기반 프레임워크 정립: 웨버 분수, 심리측정 함수, RSA, 정밀도 기울기, 인과적 개입 등 심리물리학의 전체 도구를 LLM 은닉 상태 분석에 처음 적용.
상반된 연구 결과의 해결: 전 세계적으로 로그 기하학이 일관되게 관찰됨을 증명하여, "로그 vs 선형" 논쟁을 해결함. 선형 프로브가 성공한 이유는 로그 압축이 매끄럽기 때문이며, 전역적 기하학은 로그임을 규명.
세 가지 중요한 분리 현상 (Dissociations) 발견:
- 기하학 vs 행동 능력: 로그 기하학이 존재함에도 불구하고 특정 모델/영역에서는 행동적 변별 능력이 부재함.
- 모델별 읽기 출력 (Readout) 차이: Llama 는 인간 수준의 웨버 분수를 보이지만 Mistral 은 그렇지 않음.
- 인과적 계층 역전: 기하학이 가장 강한 후기 층 (late layers) 은 인과적으로 관여하지 않으며, 기하학이 약한 초기 층 (early layers) 이 실제 비교 기능에 관여함.

4. 주요 결과 (Results)

A. 표현 기하학은 일관되게 로그 압축적임 (H1 Supported)

결과: 3 개 모델, 3 개 영역 (수치, 시간, 공간), 16 개 주요 층 (primary layers) 전역에서 로그 기하학 (Weber's Law) 이 선형 기하학보다 압도적으로 우세했습니다 (RSA 상관관계 .68~.96).
지수: 스티븐스 지수 (Stevens' exponent, $\beta$ ) 가 약 0.01 로 수렴하여, 인간의 감각 (0.33~3.5) 보다 훨씬 강력한 로그 압축을 보임.
원인: 학습 데이터의 정수 빈도 분포가 멱함수 ( $\alpha \approx 0.77$ ) 를 따르며, 이는 효율적 부호화 (Efficient Coding) 이론의 전제 조건과 일치함. 생물학적 제약 (대사 비용 등) 이 없어도 데이터 통계만으로도 로그 표현이 생성됨.

B. 행동적 웨버 법칙은 모델에 따라 다름 (H2 Partially Supported)

Llama: 수치 크기 비교에서 인간 범위 (WF $\approx$ 0.20) 의 웨버 분수를 보이며 비율 의존적 (ratio-dependent) 인 변별 능력을 가짐.
Mistral: 동일한 로그 기하학을 가졌음에도 불구하고, 수치 비교에서 절대적 차이 (absolute difference) 에 의존하거나 우연 수준 (chance) 의 성능을 보임.
시간/공간 영역: 두 모델 모두 로그 기하학을 가지지만, 시간과 공간 영역의 비교 태스크에서는 우연 수준으로 실패. 이는 단위 변환 (unit-boundary) 문제와 관련이 있음.

C. 인과적 층 분리 (Layer Dissociation)

초기 층 (Early Layers, 예: L5): 기하학 구조는 약하지만, 활성화 패치 (patching) 를 통해 크기를 조작할 때 비교 태스크의 확률에 인과적 영향을 미침 (특이도 4.07 배).
후기 층 (Late Layers, 예: L23): 기하학 구조가 가장 명확하고 강하지만, 패치링을 통해 조작해도 비교 태스크에 인과적 영향이 거의 없음 (특이도 1.22 배).
의미: 모델이 비교 작업을 수행할 때 가장 구조화된 표현을 사용하는 것이 아니라, 초기 층의 연산적 표현을 사용함.

D. 사전 학습 vs 지시 튜닝

Base 모델 (Llama-3-8B): 로그 기하학은 존재하지만 (지시 튜닝 전 형성됨), 행동적 비교 능력은 전무함 (50% 정확도).
결론: 기하학은 사전 학습 (pretraining) 의 산물이며, 행동적 능력은 지시 튜닝 (instruction tuning) 에 의해 형성된 읽기 출력 (readout) 메커니즘의 결과임.

5. 의의 및 결론 (Significance)

데이터 통계의 충분성: 생물학적 제약 (대사 비용, 발화율 제한 등) 이 없어도, 자연어 학습 데이터의 통계적 특성 (멱함수 분포) 만으로도 효율적 부호화에 따른 로그 압축 기하학이 생성됨을 증명. 이는 LLM 이 생물학적 뇌와 다른 제약 하에서도 유사한 표현 구조를 공유할 수 있음을 시사.
표현 구조와 계산 기능의 분리: LLM 해석 가능성 (interpretability) 연구에서 중요한 통찰을 제공. 가장 구조화되고 명확한 표현 (기하학) 이 반드시 해당 태스크에 인과적으로 사용되는 것은 아님. (후기 층의 기하학은 장식적일 수 있음).
심리물리학의 방법론적 적용: 신경망의 연속적 표현을 분석할 때 심리물리학의 도구 (웨버 분수, 정밀도 기울기 등) 가 강력한 프레임워크가 될 수 있음을 입증.
행동 능력의 결정 요인: LLM 이 인간과 유사한 비율 의존적 변별 능력을 보이는지는 표현의 형태 (로그/선형) 가 아니라, 지시 튜닝을 통해 어떻게 그 표현을 읽어서 (readout) 행동으로 연결하느냐에 달려 있음.

이 연구는 LLM 이 인간과 유사한 인지적 법칙 (웨버의 법칙) 을 따르는 표현 구조를 학습할 수 있음을 보여주지만, 이를 실제 행동으로 구현하는지는 모델의 학습 단계와 아키텍처에 따라 달라질 수 있음을 명확히 규명했습니다.