💻 computer science

Luth: Efficient French Specialization for Small Language Models and Cross-Lingual Transfer

이 논문은 타겟팅된 사후 학습과 전략적 모델 병합을 통해 영어 능력은 유지하면서도 프랑스어 벤치마크에서 최첨단 성능을 달ace하는 프랑스어 특화 소형 언어 모델 제품군인 Luth를 소개하며, 이를 통해 비영어권 소형 언어 모델의 성능 격차를 효과적으로 해결한다.

원저자: Maxence Lasbordes, Sinoué Gad

게시일 2026-02-10

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Maxence Lasbordes, Sinoué Gad

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

인공지능(AI)의 세계를 거대한 도서관이라고 상상해 보세요. 오랫동안 이 도서관의 거의 모든 책은 영어로 쓰여 왔습니다. 만약 당신이 사서(AI)에게 프랑스어로 질문을 던진다면, 사서는 말을 더듬거나, 모호한 대답을 내놓거나, 대화를 나누기보다는 마치 사전을 읽어 내려가는 듯한 모습을 보일 수도 있습니다. 이는 특히 빠르고 효율적으로 설계되었지만 영어 이외의 언어에 대한 깊은 지식이 부족한 경우가 많은 "작은" 사서들(소규모 언어 모델 또는 SLM)에게 두드러지게 나타나는 현상입니다.

당신이 공유한 이 논문은 Luth라고 불리는 새로운 사서 팀을 소개합니다. 그들의 목표는 단순했습니다. 이 효율적인 소규모 AI 모델들에게 영어를 잊어버리지 않으면서도 프랑스어를 유창하게 구사할 수 있도록 가르치는 것이었습니다.

그들이 이 일을 어떻게 해냈는지, 몇 가지 일상적인 비유를 들어 설명하겠습니다.

1. 문제점: "영어 편향성"

대부분의 AI 모델은 주로 영어 데이터라는 식단으로 훈련됩니다. 이는 학생에게 영어로만 교육하는 것과 같습니다. 그 학생은 영어 문학에는 뛰어날지 몰라도, 프랑스어로 된 프랑스 역사나 수학 문제에는 어려움을 겪을 수 있습니다. 저자들은 최고의 "다국어" 모델들조차 영어에 비해 프랑스어 능력은 여전히 현저히 떨어진다는 점에 주목했습니다.

2. 해결책: 특화된 "프랑스어 집중 훈련 캠프" (Luth-SFT)

이를 해결하기 위해 저자들은 단순히 무작위적인 프랑스어 텍스트를 AI에게 던져준 것이 아닙니다. 대신, 그들은 Luth-SFT라고 불리는 특화된 훈련 캠프를 구축했습니다.

커리큘럼: 그들은 57만 개의 고품질 "지시 및 답변" 쌍을 수집했습니다. 이것은 방대한 양의 프랑스어 질문과 완벽한 답변이 담긴 문제집이라고 생각하면 됩니다.
번역의 기술: 그들은 훌륭한 영어 교과서(데이터셋)를 가져와서 단순히 답변을 단어 그대로 번ло 번역한 것이 아닙니다. 대신, 질문을 프랑스어로 번역한 다음, AI에게 처음부터 새로운 답변을 작성하도록 요청했습니다. 이를 통해 프랑스어가 로봇처럼 들리지 않고 자연스럽고 인간답게 느껴지도록 했습니다.
"학술 섹션": 이 문제집의 특별한 부분은 프랑스 고등학교와 대학교의 실제 시험지를 활용하여 어려운 학술적 주제(수학, 물리학, 공학 등)에 집중했습니다. 이를 통해 AI의 추론 및 논리 능력을 끌어올리는 강력한 "두뇌 부스트"를 제공했습니다.

3. 훈련: 전체 미세 조정 (Full Fine-Tuning)

그들은 기존의 작은 AI 모델들("베이스" 모델)을 가져와 이 프랑스어 집중 훈련 캠프를 통과하게 했습니다. 이는 일반적인 운동선수를 데려다가 프랑스어 전문가가 되도록 혹독하고 전문적인 훈련 체계에 투입하는 것과 같습니다.

함정: 모델을 한 가지 언어에 집중적으로 훈련시키면, 때때로 다른 기술을 잊어버리기 시작합니다. 이 경우, 모델은 프랑스어에는 매우 뛰어나졌지만 영어 실력은 약간 저하되었습니다.

4. 마법의 기술: "모델 병합" (스무디 효과)

이 부분이 논문에서 가장 영리한 대목입니다. 영어 실력을 잃지 않으면서 새로운 프랑스어 능력을 유지하기 위해, 그들은 **모델 병합(Model Merging)**이라는 기술을 사용했습니다.

두 종류의 스무디를 상상해 보세요:

스무디 A: 원래의 모델 (영어에 뛰어나고, 프랑스어는 보통임).
스무디 B: 새로 훈련된 모델 (프랑스어에 놀랍도록 뛰어나고, 영어는 약간 약해짐).

둘 중 하나를 선택하는 대신, 그들은 이들을 하나로 "혼합"했습니다. 그들은 원래 모델의 "두뇌"와 훈련된 모델의 "두뇌"를 함께 섞었습니다.

결과: 새롭게 혼합된 모델(Luth)은 원래 모델의 프랑스어 초능력을 유지하면서도 영어 실력을 다시 회복(또는 향상)했습니다. 이는 마치 하나의 컵 안에 두 세계의 장점을 모두 담은 것과 같았습니다.

5. 결과: 새로운 챔피언들

저자들은 이 새로운 Luth 모델들을 여섯 가지 도전 과제(수학 문제, 복잡한 지시 수행, 일반 상식 등)를 통해 다른 소규모 AI 모델들과 비교 테스트했습니다.

프랑스어: Luth 모델들은 경쟁자들을 압도했습니다. 동일한 크기의 다른 모든 오픈 소스 모델보다 뛰어난 성적을 거두었으며, 평균적으로 최대 11%의 점수 향상을 보여주었습니다.
영어: 놀랍게도, 그들은 단순히 제자리에 머문 것이 아니라 영어 실력 또한 실제로 향상되었습니다. 저자들은 이를 "교차 언어 전이(cross-lingual transfer)"라고 부르며, 프랑스어를 깊이 있게 배우는 것이 모델이 영어 개념을 더 잘 이해하는 데에도 도움이 되었음을 시사했습니다.

요약

이 논문은 고품질의 프랑스어 데이터셋을 만들고 모델을 병합하는 "혼합" 기술을 사용함으로써, 영어 능력을 희생하지 않으면서도 현재 사용 가능한 가장 뛰어난 프랑스어 구사 소규모 효율적 AI 모델들을 만들어냈다고 주장합니다. 그들은 훌륭한 프랑스어 AI를 만들기 위해 거대하고 비싼 슈퍼컴퓨터가 필요한 것이 아니라, 적절한 데이터와 적절한 혼합 방법이 필요하다는 것을 증명했습니다.

기술 요약: Luth – 소형 언어 모델을 위한 효율적인 프랑스어 특화 기술

문제 정의

현재의 대규모 언어 모델(LLM) 지형은 여전히 영어 중심으로 편향되어 있어, 프랑스어를 포함한 다른 주요 언어들 사이에서 상당한 성능 격차를 발생시키고 있습니다. 다국어 모델들이 존재하기는 하지만, 데이터 불균형으로 인해 프랑스어에서는 영어에 비해 성능이 떨어지는 경우가 많습니다. 또한, 특히 소형 언어 모델(SLM) 내에서 프랑스어에 대한 효율적인 적응 방법론을 연구하는 것은 제한적입니다. 기존의 프랑스어 특화 노력들은 자원이 많이 투입되는 대규모 학습에 의존하거나, 유사한 규모의 다국어 베이스라인 모델의 성능을 따라잡지 못하는 경우가 많아, 다국어 능력을 희생하지 않으면서도 효율적으로 적응할 수 있는 컴팩트한 프랑스어 특화 모델에 대한 필요성이 존재합니다.

방법론

저자들은 타겟팅된 사후 학습(post-training) 및 모델 병합 파이프라인을 통해 개발된 프랑스어 특화 SLM 제품군인 Luth(350M에서 1.7B 파라미터 범위)를 제안합니다. 이 방법론은 세 가지 주요 단계로 구성됩니다.

1. 데이터셋 구축 (Luth-SFT)

고품질의 오픈 소스 프랑스어 사후 학습 데이터의 부족을 해결하기 위해, 저자들은 570,000개의 샘플(3억 3,800만 토큰)로 구성된 프랑스어 지시어-응답 쌍인 Luth-SFT 데이터셋을 구축했습니다. 데이터 구축 과정은 다음과 같습니다.

수집: 기존 다국어 데이터셋(AYA, Smoltalk2, CroissantLLM)에서 프랑스어 샘플을 필터링했습니다.
번역 및 생성: 고품질의 영어 지시어 데이터셋(Tülu 3, OpenHermes)을 선정했습니다. 영어 프롬프트는 강력한 다국어 모델(GPT-4o, Qwen3 32B)을 사용하여 프랑스어로 번역되었습니다. 결정적으로, 원본 영어 답변을 단순히 번역하는 대신, 번역된 프롬프트를 바탕으로 새로운 프랑스어 응답을 처음부터 생성함으로써 모국어 수준의 언어적 품질을 확보했습니다.
필터링: 2단계 파이프라인을 통해 언어적 타당성(문법, 일관성, 코드 스위칭 부재)과 콘텐츠 필터링(코드, 도구 호출, 사실적 오류 제거)을 강제했습니다.
학술 서브셋(Scholar Subset): 프랑스 Baccalauréat 및 Classes Préparatoires (CPGE) 시험 자료(1980~2025년)로부터 추출한 30,300개의 전문화된 서브셋을 생성했습니다. 수학(67.23%), 물리-화학, 컴퓨터 과학 등을 다루는 이 비합성(non-synthetic) 데이터는 LLM 보조 파싱을 통해 질문과 전문가 검증을 거친 상세한 해설을 추출했습니다.

2. 모델 학습

저자들은 초기 프랑스어 및 영어 성능이 우수한 Qwen3(0.6B, 1.7B)와 LFM2(350M, 700M, 1.2B)를 기반으로 2B 미만 파라미터 범위의 여러 다국어 베이스 모델을 평가했습니다.

전체 미세 조정(Full Fine-Tuning): LoRA와 같은 매개변수 효율적 방법론 대신, 선택된 모델들을 Luth-SFT 데이터셋을 사용하여 Axolotl 프레임워크 상에서 전체 미세 조정을 수행했습니다.
설정: 학습에는 FlashAttention과 시퀀스 패킹(최대 길이 16,384)을 적용한 단일 NVIDIA H100 GPU를 사용했습니다. 하이퍼파라미터는 학습률 $2 \times 10^{-5}$ 와 10%의 웜업을 포함한 코사인 스케줄러를 사용했습니다.

3. 모델 병합

프랑스어 데이터로만 미세 조정을 할 때 흔히 발생하는 영어 능력의 "파괴적 망각(catastrophic forgetting)"을 완화하기 위해, 저자들은 모델 병합을 채택했습니다.

과정: 프랑스어 미세 조정된 모델을 MergeKit을 사용하여 원래의 베이스 모델과 병합했습니다.
기법: 저자들은 선형 보간(Linear Interpolation, LERP)과 구면 선형 보간(Spherical Linear Interpolation, SLERP)을 실험했습니다.
결과: 놀랍게도, 단순한 보간법이 가장 안정적인 결과를 냈습니다. 병합 계수(0.3에서 0.7 사이)는 프랑스어 특화와 영어 유지 사이의 균형을 맞추기 위해 경험적으로 선택되었으며, 종종 두 언어 모두에서 성능 향상을 가져왔습니다.

주요 기여

Luth-SFT 데이터셋: 일반 지식, 지시 이행, 수학적 추론 능력을 향상시키기 위해 특별히 설계된 큐레이션된 고품질 프랑스어 지시어-응답 데이터셋(57만 개 샘플)입니다.
Luth 모델 제품군: 해당 크기 범주 내에서 프랑스어 벤치마크에 대해 최첨단(SOTA) 성능을 달리는 5개의 SLM(350M ~ 1.7B 파라미터)입니다.
효율적인 적응 방법론: 타겟팅된 사후 학습과 전략적 모델 병합을 결면하면 교차 언어 성능을 보존하거나 심지어 향상시키면서도 언어별 특화 능력을 크게 강화할 수 있음을 보여주는 재현 가능한 파이프라인을 제시합니다.

결과

Luth 모델은 프랑스어와 영어 모두에서 6개의 벤치마크(IFEval, GPQA-Diamond, MMLU, Math500, Arc-Challenge, HellaSwag)를 통해 평가되었습니다.

프랑스어 성능: Luth 모델은 동등한 크기의 모든 오픈 소스 모델들을 실질적으로 압도했습니다. 베이스 모델과 비교하여 6개의 프랑스어 벤치마크 전반에서 최대 **+11.26%**의 절대 평균 개선을 달しまいました. 예를 들어, Luth-1.7B-Instruct는 IFEval (프랑스어)에서 58.53, Math500 (프랑스어)에서 62.60을 기록하며 베이스 모델인 Qwen3-1.7B를 크게 앞질렀습니다.
영어 성능: 언어 특화 미세 조정에서 나타나는 일반적인 성능 저하와 달리, Luth 모델은 영어 성능을 안정적으로 유지하거나 향상시켰습니다. 저자들은 이를 프랑스어 추론 및 지시 이행 능력의 향상이 영어 능력에 긍정적인 영향을 미친 교차 언어 전이(cross-lingual transfer) 덕분이라고 설명합니다. 영어 성능 향상은 선택된 벤치마크 전반에서 +0.76%에서 +3.20% 사이였습니다.
병합 효능: 실험 결과, 미세 조정된 모델을 베이스 모델과 병합하는 것이 잃어버린 영어 성능을 회복할 뿐만 아니라, 미세 조정된 모델 단독일 때보다 종종 두 언어 모두에서 전반적인 결과를 향상시킨다는 것을 확인했습니다.

의의 및 주장

본 논문은 Luth를 프랑스어 소형 언어 모델의 새로운 최첨단(SOTA) 기준으로 자리매김합니다. 저자들은 다음과 같은 점을 주장합니다.

효율성: 정교하게 큐레이션된 데이터에 대한 타겟팅된 사후 학습과 모델 병합을 통해, 비용이 많이 드는 지속적 사전 학습(continual pre-training)이나 대규모 리소스 없이도 고품질의 프랑스어 능력을 달성할 수 있습니다.
강건성: 특정 언어에 대한 전문화가 반드시 다른 언어의 희생을 의미하지는 않습니다. 실제로 전략적 병합은 언어 간 상호 개선을 이끌어낼 수 있습니다.
확장성: 본 방법론은 다른 언어나 도메인으로 확장 가능한 실용적이고 재현 가능한 레시피로서 제시됩니다.

저자들은 평가가 특정 벤치마크 세트에 국한되어 있고, 도구 사용(tool use)이나 코드 생성(code generation)을 다루지 않으며, 현재 20억 파라미터 미만의 모델에 한정되어 있다는 점을 언급하며 한계를 인정했습니다. 이들은 이러한 이득의 확장성을 더 큰 아키텍처에서도 검증하는 것이 향후 연구 과제라고 제안했습니다.