기술 요약: 교차 언어 전이에서 언어적 관련성과 태스크 정렬의 분리

문제 정의

대규모 언어 모델(LLM)의 다국어 능력이 발전하고 있음에도 불구하고, 교차 언어 전이를 유도하는 메커니즘은 여전히 불분명하다. 고자원 언어(예: 아랍어)로 모델을 미세 조정하면 언어학적으로 관련된 저자원 언어(예: 히브리어, 암하라어)에서 성능 향상이 나타난다는 가설이 흔히 제기된다. 이는 공유된 형태론적 또는 통사적 구조 덕분이라는 설명이다. 그러나 기존 연구들은 모델 규모와 지시어 튜닝(instruction tuning)만으로는 전이 동작을 설명하기에 불충 enough하며, 고정된 용량의 모델에서는 "다국어의 저주(curse of multilinguality)"가 성능을 희석할 수 있음을 시사한다.

본 논문은 아랍어 미세 조정 후 관찰되는 제로샷 독해 능력의 향상이 언어적 관련성(셈어족 특유의 지식 전이)에 의한 것인지, 아니면 태스크 포맷 정렬(평가 태스크를 위한 출력 구조 학습)에 의한 것인지를 조사한다. 저자들은 만약 전이가 언어적 요인에 의한 것이라면 성능 향상이 셈어족 언어에 집중될 것이며, 정렬 기반이라면 언어군이나 스크립트와 상관없이 모든 언어에서 균등하게 나타날 것이라고 가정한다.

방법론

실험 설계

본 연구는 120개 이상의 언어를 아우르는 대규모 병렬 다지선다형 독해 벤치마크인 Belebele 벤치마크를 사용하여 통제된 교차 언어 전이 설정을 채택하였다.

• 소스 언어: 미세 조정은 아랍어 방언(메소포타미아, 튀니지, 남레반트, 북레반트, 나지드, 모로코)으로만 수행되며, 총 4,800개의 예시를 사용한다.
• 타겟 언어: 제로샷 평가는 다음 언어들을 대상으로 수행된다:
  • 셈어족 타겟: 히브리어, 암하라어, 몰타어.
  • 비셈어족 대조군: 일본어, 한국어, 프랑스어.
• 엄격한 통제: 데이터셋은 언어 간에 동일한 질문 식별자를 사용하여, 내용의 중복 없이 오직 형식(format)만 일치하도록 보장한다.

모델

규모(4B ~ 671B 파라미터)와 구조(Dense vs. MoE)가 다양한 7개의 다국어 LLM을 평가하였다:

• Dense 아키텍처: Qwen3-4B-Instruct, Qwen3-8B, Qwen3-8B-Base, Qwen3-32B.
• Mixture-of-Experts (MoE): GPT-OSS-20B, GPT-OSS-120B, DeepSeek-V3.1 (671B).

훈련 및 평가 프로토콜

• 미세 조정: 아랍어 방언 데이터를 사용하여 LoRA (Rank 32) 방식으로 지도 미세 조정(SFT)을 수행하였다. 훈련 형식은 평가 프롬프트와 정확히 일치하도록 구성되었다(아랍어 지시어, 타겟 언어 본문, 단일 숫자 답변). 훈련 과정에서 사고 사슬(Chain-of-Thought, CoT) 주석은 제공되지 않았다.
• 평가: Logprob 스코어링을 통해 제로샷 정확도를 측정하였다. 모델에 지문과 질문을 제시한 후 "ANSWER: "를 입력하고, 토큰 '1'부터 '4'까지의 로그 확률(log-probability)을 계산한다. 가장 높은 로그 확률을 가진 숫자를 정답으로 선택한다.
• Ablation 연구: 베이스라인(미세 조정되지 않은) 모델을 대상으로 사고 사슬(CoT) 추론 ablation을 실시하였다. 모델이 정답을 내기 전 추론 과정을 생성하도록 하여, 파라미터 업데이트(미세 조정)의 효과와 추론 시점의 추론(inference-time reasoning) 효과를 비교하였다.

주요 기여

1. 통제된 교차 언어 연구: 저자들은 병렬 데이터 상에서 언어적 관련성, 스크립트(Abjad, Abugida, Latin, CJK), 모델 규모, 그리고 아키텍처(Dense vs. MoE)를 동시에 변화시키며 셈어족을 대상으로 엄격한 연구를 제시하였다.
2. 태스크 포맷 정렬 vs. 언어적 전이: 본 논문은 관찰된 성능 향상이 언어군 전이가 아닌 태스크 포맷 정렬에 기인함을 입증한다. 베이스라인 정확도를 통제한 회귀 분석 결과, 셈어족 언어는 비셈어족 대조군보다 더 많은 이득을 얻지 못했으며, 오히려 베이스라인을 고려했을 때 성능 향상이 더 적었다.
3. CoT 추론 Ablation: 저자들은 미세 조정으로부터 가장 많은 혜택을 받는 모델이 추론 시점의 CoT로부터도 가장 많은 혜택을 받는다는 CoT ablation을 소개한다. 이는 두 메커니즘 모두 동일한 근본적 결함, 즉 태스크 포맷 교정(task-format calibration) 문제를 해결하고 있음을 시사한다.

결과

1. 언어군 간의 균등한 이득

• 약한 베이스라인 모델 (MoE): GPT-OSS-120B와 GPT-OSS-20B는 아랍어 미세 조정 후 극적인 개선을 보였다(평균 각각 +33.5 pp 및 +22.0 pp). 결정적으로, 이러한 이득은 모든 타겟 언어에서 균등하게 나타났다. GPT-OSS-120B의 경우, 비셈어족 언어에서의 이득(프랑스어 +33.0 pp, 한국어 +32.0 pp)은 셈어족 언어(히브리어 +44.0 pp, 몰타어 +41.0 pp)와 유사한 수준이었다.
• 강한 베이스라인 모델: 높은 베이스라인 정확도를 가진 DeepSeek-V3.1 (671B)과 Qwen3-32B는 언어군에 관계없이 미미한 개선(+2.3 pp 및 +1.0 pp)만을 보였다.
• 작은 Dense 모델: Qwen3-8B와 같은 모델은 전이가 거의 나타나지 않았으며, 일부 언어에서는 오히려 성능이 저하되었다. 이는 아랍어 데이터에 대한 LoRA 미세 조정이 해당 규모의 모델에는 불충분한 신호를 제공했음을 시사한다.

2. 회귀 분석

베이스라인 정확도와 "셈어족" 여부를 변수로 한 회귀 분석 결과는 다음과 같다:

• 베이스라인 정확도만으로 이득의 분산 약 48%를 설명할 수 있었다 ($R^2 = 0.479$).
• 셈어족 지표를 추가했을 때 음의 계수($\beta_{Semitic} = -8.2$ pp)가 나타났는데, 이는 베이스라인 정확도를 통제했을 때 셈어족 언어가 비셈어족 대조군보다 실제로는 더 적게 이득을 얻었음을 의미한다. 이는 언어적 전이 가설과 배치된다.
• 스크립트 유사성(Abjad vs. 기타) 또한 전이를 예측하는 데 유의미하지 않은 것으로 나타났다.

3. 추론 Ablation

CoT ablation은 미세 조정으로 가장 많이 개선된 모델(GPT-OSS 모델)이 CoT 추론으로도 가장 많이 개선됨을 확인해주었다.

• GPT-OSS-120B는 미세 조정에서 +33.5 pp, CoT에서 +41.0 pp의 이득을 얻었다.
• GPT-OSS-20B는 미세 조정에서 +22.0 pp, CoT에서 +22.8 pp의 이득을 얻었다.
• 강한 모델(DeepSeek-V3.1)은 CoT로부터 무시할 만하거나 음의 이득을 보였다.
• 해석: 미세 조정과 CoT 모두 태스크 포맷 교정의 부족을 보완한다. 약한 모델들은 지식은 갖추고 있으나 이를 직접적인 logprob 스코어링을 통해 표출하는 데 실패하며, 두 메커니즘 모두 이 지식을 표출하도록 돕는다.

4. 분포 교정 (Distributional Calibration)

정답 선택의 logprob 분포 분석 결과는 다음과 같다:

• 약한 모델들은 베이스라인에서 높은 엔트로피(불확실성)를 보였다. 미세 조정과 CoT 모두 엔트로피를 감소시키고 정답에 대한 확률 질량을 증가시켰다 ($\Delta P^* > 0$).
• 강한 모델들은 이미 피크(peak)가 있는 분포를 가지고 있었으며, 미세 조정은 정확도를 높이지 못한 채 오히려 엔트로피를 증가시켜(분포를 확산시켜) "파괴적 망각" 또는 간섭 효과를 일으키기도 했다.

의의 및 주장

본 논문은 아랍어 미세 조정이 다지선다형 독해 맥락에서 셈어족 특유의 교차 언어 전이를 유도하지 않는다고 주장한다. 대신, 주요 메커니즘은 태스크 포맷 정렬이다.

• 방법론적 주의: 저자들은 교차 언어 벤치마크에서 관찰되는 이득을 태스크 포맷 정렬을 통제하지 않은 채 무비판적으로 교차 언어 지식 전이로 돌려서는 안 된다고 주장한다. "전이"처럼 보이는 것은 단순히 모델이 평가 태스크의 특정 출력 형식을 학습하는 것일 수 있다.
• 저자원 전략에 대한 시사점: 아랍어 미세 조정을 통해 저자원 셈어족 언어의 성능을 높이려는 실무자들은 언어적 관련성으로부터 특별한 이점을 기대해서는 안 된다. 더 신뢰할 수 있는 레버는 일반적인 태스크 포맷 정렬을 개선하는 것이다.
• 아키텍처 vs. 언어: 본 연구는 건축적 패러다임(MoE vs. Dense)과 베이스라인 역량이 타겟 언어의 언어적 특성보다 미세 조정의 이득을 더 강력하게 예측한다는 점을 시사한다.

저자들은 결론적으로, logprob 스코어링 방식의 다지선다형 독해라는 특정 패러다임에서 약한 모델들의 병목 현상은 언어적 지식의 부족이 아니라, 태스크 포맷과의 정렬 부족이라고 말한다. 이 발견은 "정렬 세금(alignment tax)" 서사를 뒤집으며, 약한 모델의 주요 장벽은 불충분한 지식이 아니라 불충분한 포맷 정렬임을 시사한다.