기술 요약: 대규모 언어 모델 내의 라틴 기질 (The Latin Substrate in Large Language Models)

문제 정의

많은 언어는 여러 스크립트로 표기됩니다 (예: 데바나가리 문자와 라틴 문자로 쓰이는 힌디어, 키릴 문자와 라틴 문자로 쓰이는 세르비아어). 다국어 대규모 언어 모델(LLM)은 이러한 서로 다른 서사 체계 전반에 걸쳐 동등한 언어적 콘텐츠를 생성할 수 있지만, 스크립트 변이를 매개하는 내부 메커니즘은 여전히 제대로 이해되지 않고 있습니다. 기존 연구는 표현이 스크립트 간에 부분적으로 공유된다는 점과, 중간 레이어에서 정보가 라틴 형태를 일시적으로 나타내는 "잠재적 로마자화(latent romanization)" 현상이 관찰된다는 점을 시사합니다. 그러나 LLM이 스크립트 간에 정보를 어떻게 라우팅하는지, 공유된 잠재 표현에 의존하는지, 그리고 특정 아키텍처 구성 요소가 스크립트 선택을 담당하는지는 불분명합니다.

방법론

저자들은 네 가지 오픈 소스 인스트럭션 튜닝 LLM(Llama-3.1-8B/70B 및 Aya-Expanse-8B/32B)을 대상으로 표현 분석, 선형 스티어링(linear steering), 메카니즘적 국소화(mechanistic localization)를 결합한 다각적인 접근 방식을 채택하였으며, 특히 힌디어와 아랍어에 초점을 맞추었습니다.

1. 레이어별 출력 분석 (Logit Lens): 저자들은 로짓 렌즈(logit lens) 기법을 사용하여 중간 레이어의 활성화 값을 디코딩함으로써 전사(transliteration) 작업 중 다음 토큰 분포를 관찰합니다. 이들은 "잠재적 분율(latent fraction)"—로마자화된 서브워드가 top-1 예측에 나타나는 타임스텝의 비율—을 정량화하여 중간 라틴 표현의 존재를 탐지합니다.
2. 표현 분석:
   • 분리 가능성 (Separability): 고유 스크립트 문장과 로마자 문장의 평균 풀링된 은닉 상태(hidden states)에 대해 선형 프로브, 코사인 유사도, 피셔 판별비(Fisher discriminant ratios)를 사용하여 스크립트 분리성을 측정합니다.
   • 스티어링 (Steering): 서로 다른 스크립트 클래스 간의 평균 은닉 표현 차이를 기반으로 선형 스티어링 벡터($v_{nat2lat}$ 및 $v_{lat22nat}$)를 구축합니다. 이 벡터들을 잔차 스트림(residual stream)에 적용하여 스크립트 정체성을 유지하면서 의미를 바꿀 수 있는지 테스트합니다.
   • 일반화 (Generalization): 힌디어와 아랍어에서 유도된 스티어링 벡터를 보지 못한 언어들(예: 러시아어, 일본어, 태국어)에 적용하여 언어 불가지론적(language-agnostic)인 스크립트 축이 존재하는지 테스트합니다.
3. 메카니즘적 분석 (Activation Patching): 저자들은 카운터팩추얼 활성화 패칭(counterfactual activation patching)을 사용하여 스크립트 선택을 인과적으로 매개하는 특정 어텐션 헤드를 국소화합니다. 네이티브 실행과 라틴 실행 사이의 활성화를 교체함으로써, 네이티브 스크립트 대 라틴 스크립트 토큰을 생성할 로그-오즈(log-odds)의 변화를 측정합니다. 이들은 홀드아웃 프롬프트에 대한 타겟팅된 개입(특정 헤드 서브셋을 제로화하거나 패칭함)을 통해 이러한 발견을 검증합니다.

주요 결과

1. 잠재적 로마자화 (Latent Romanization)

전사 작업 중에 모델은 일관되게 잠재적 로마자화 현상을 보입니다. 중간-상위 레이어(예: Llama-3.1-8B의 레이어 20–40)에서 모델의 내부 예측은 최종 타겟 스크립트에 확정되기 전에 일시적으로 로마자화된 서브워드와 일치합니다. 이는 라틴 스크립트가 스크립트 변환 과정에서 공유된 중간 표현 브리지 역할을 함을 시사합니다.

2. 표현적 비대칭성 및 스티어링

• 분리 가능성: 스크립트 정보는 레이어를 거치며 점점 더 분리 가능해지며, 서로 다른 스크립트를 위한 뚜렷한 클러스터는 주로 네트워크의 상위 1/3 지점에서 나타납러집니다.
• 선형 스티어링: 단순한 선형 스티어링 방향은 의미적 콘텐츠를 대부분 보존하면서 모델의 출력 스크립트를 전환할 수 있습니다.
• 방향성 비대칭성: 스티어링 효과는 비대칭적입니다. 비라틴에서 라틴으로의 변환($lat2nat$)은 매우 신뢰할 수 있으며 낮은 개입 강도를 필요로 합니다. 반대로, 라틴에서 비라틴으로의 변환($nat2lat$)은 덜 안정적이며, 단일 타겟 스크립트가 아닌 다양한 비라틴 스크립트로 표류하는 결과를 초래하는 경우가 많습니다. 이는 라틴 스크립트가 표현 공간에서 "확산된(diffuse)" 영역을 차지하는 반면, 비라틴 스크립트는 더 조밀하고 뚜렷한 클러스터를 형성함을 의미합니다.

3. "스크립트 매개 게이트"의 메카니즘적 국소화

• 조밀한 비라틴 게이트 (Compact Non-Latin Gate): 인과적 분석 결과, 비라틴 스크립트 생성은 소수의 늦은 레이어 어텐션 헤드(예: Llama-3.1-8B의 L30H20, L30H23, L26H7)에 의해 매개됩니다. 단 5개의 헤드만을 패칭하는 것만으로도 출력 스크립트를 라틴에서 네이티브 스크립트(예: 데바나가리)로 성공적으로 전환할 수 있습니다.
• 확산된 라틴 생성 (Diffuse Latin Generation): 이와 대조적으로, 라틴 스크립트 생성은 특정되고 국소화된 회로에 의존하지 않습니다. 대신, 이는 많은 헤드의 확산되고 낮은 강도의 기여로부터 나타납니다. "비라틴 게이트"를 제거하면 모델이 프롬프트의 일부에 대해 라틴 출력을 기본값(fallback)으로 사용하게 되는데, 이는 라틴이 모델의 기본 상태(fallback substrate)임을 시사합니다.
• 언어 불가지론성 (Language Agnosticism): 식별된 헤드들은 서로 무관한 언어와 문자 체계 간에도 전이됩니다. 힌디어나 아랍어를 사용하여 식별된 헤드들은 러시아어(키릴 문자), 마라티어(데바나가리), 우르두어(페르소-아랍 문자), 그리스어, 일본어의 출력 스크립트를 성공적으로 재지정하며, 이는 스크립트 라우팅을 위한 언어 불가지론적 메커니즘이 존재함을 나타냅니다.

의의 및 주장

본 논문은 LLM이 어떻게 여러 스크립트를 내부적으로 표현하고 매개하는지에 대한 최초의 통합적 분석을 제공한다고 주장합니다. 핵심 발견은 라틴 스크립트가 표면 언어 표현을 위한 특권적 기질(privileged substrate)로서 기능한다는 점입니다.

• 특권적 기질: 모델은 라틴과 정렬된 공유 잠재 표현을 중심으로 스크립트 변이를 조직합니다. 비라틴 출력은 전용의, 식별 가능하며 조밀한 라우팅 메커니즘(즉, "게이트")을 통해 생성되는 반면, 라틴 출력은 네트워크의 기본적이고 확산된 처리 경로로부터 발생합니다.
• 메카니즘적 통찰: 본 연구는 스크립트 선택을 인과적으로 제어하는 특정하고 전이 가능한 어텐션 헤드 세트를 식별하였으며, 이는 스크립트 라우팅이 각 스크립트마다 별개의 처리 경로를 갖는 것이 아니라 언어 불가지론적인 구성 요소에 의해 구현됨을 보여줍니다.
• 이해에 대한 시사점: 이러한 발견은 사전 학습 데이터의 라틴 스크립트 지배력이 LLM의 내부 기하학적 구조를 형성했음을 시사합니다. 즉, 라틴이 "기저 상태(ground state)"가 되고, 비라틴 스크립트는 생성되기 위해 능동적이고 국소화된 게이팅을 필요로 하는 비대칭적 아키텍처를 만들었다는 것입니다.

저자들은 특정 오픈 소스 모델과 로마자 표기 관습이 확립된 언어에 집중했다는 점을 한계로 언급하며, 다른 데이터 분포로 학습된 모델이나 폐쇄형 모델은 질적으로 다른 메커니즘을 보일 수 있음을 인정하였습니다.