🤖 machine learning

LLiMba: Sardinian on a Single GPU -- Adapting a 3B Language Model to a Vanishing Romance Language

이 논문은 단일 소비자 GPU 에서 계속된 사전 학습과 미세 조정을 통해 적응된 3B 파라미터 사르데냐어 모델인 LLiMba 를 소개하며, 고랭크 rsLoRA 구성이 번역 품질 측면에서 다른 적응 방법들보다 우수함을 입증함과 동시에 스크립트 누출 및 사실적 환각과 같은 질적 실패를 포착하는 데 있어 표준 평가 지표의 중요한 한계를 부각시킵니다.

원저자: Luca Ballore

게시일 2026-05-12

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Luca Ballore

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

상상해 보세요. 영어, 스페인어, 이탈리아어와 같은 주요 언어의 거의 모든 책을 읽어본 천재적인 다국어 학생 (AI 모델) 이 있다고 가정해 봅시다. 하지만 이 학생은 이탈리아의 한 섬에서 약 100 만 명이 사용하는 아름답지만 소멸 위기에 처한 언어인 사르데냐어에 대해서는 들어본 적이 없습니다. 이 학생에게 사르데냐어로 말해 보라고 하면, 그들은 단순히 추측을 하다가 실수로 이탈리아어나 스페인어로 말하게 됩니다.

'LLiMba'라는 논문은 이 학생이 거대한 슈퍼컴퓨터가 아닌, 단일 표준 가정용 그래픽 카드 (24GB GPU) 만을 사용하여 유창하게 사르데냐어를 말하도록 가르친 방법에 대한 이야기입니다.

그들이 어떻게 했는지 간단한 단계로 나누어 설명해 보겠습니다.

1. 두 단계 훈련 캠프

학생에게 사르데냐어를 가르치기 위해 저자는 2 단계 훈련 과정을 사용했습니다.

1 단계: "몰입형 독서" (연속 사전 학습)
먼저, 학생에게 약 1150 만 단어 분량의 사르데냐어 텍스트 (뉴스, 위키백과 기사, 책, 시 등) 를 읽게 했습니다. 학생이 이탈리아어나 스페인어 구사 능력을 잊지 않도록, 이탈리아어와 스페인어와 같은 관련 로망스어 텍스트를 '리플레이' 자료로 섞어주었습니다.
- 결과: 이 독서 단계 후, 학생은 사르데냐어를 훨씬 더 잘 이해하게 되었습니다. 영어를 사르데냐어로 번역해 달라고 요청하면, 거의 쓸모없던 상태에서 꽤 괜찮은 수준으로 향상되었습니다.
2 단계: "대화 연습" (지도 미세 조정)
독서는 좋지만, 말하기가 더 중요합니다. 학생은 이제 사르데냐어로 구체적인 질문에 답하고 지시를 따르는 연습을 했습니다. 저자는 컴퓨터 메모리를 너무 많이 사용하지 않으면서도 어떤 방법이 가장 효과적인지 확인하기 위해 이 대화 기술을 가르치는 다섯 가지 다른 방법을 테스트했습니다.

2. 다섯 가지 교수법 ("어댑터" 실험)

저자는 학생 전체를 처음부터 다시 훈련시키는 것 (컴퓨터에는 너무 무거운 작업) 을 하지 않았습니다. 대신, 학생의 두뇌를 조정하기 위해 다섯 가지 다른 "훈련 모자" (어댑터라고 불리는 기술) 를 시도했습니다.

전체 미세 조정 (Full Fine-Tuning): 학생의 두뇌 전체를 다시 쓰는 것. (무겁지만 좋은 기준선이 됩니다.)
LoRA (Rank 64): 작고 가벼운 모자.
rsLoRA (Rank 128): 약간 더 크고 "안정화된" 모자.
rsLoRA (Rank 256): 가장 크고 강력한 가벼운 모자.
DoRA (Rank 256): 학생의 원래 개성을 유지하면서 새로운 기술을 추가하려는 정교한 모자.

3. 놀라운 결과

저자는 직관에 반하는 몇 가지 사실을 발견했습니다.

더 큰 것이 항상 좋은 것은 아님 ("DoRA" 모자의 경우): "DoRA" 모자는 매우 신중하게 학생의 원래 지식을 보존하도록 설계되었습니다. 그러나 사실성을 전달하는 데는 실제로 가장 나쁜 성능을 보였습니다. 유창하게 말했지만 역사와 문화에 대해 터무니없고 자신감 넘치는 거짓말을 했습니다.
"rsLoRA" 모자의 승리: 가장 큰 가벼운 모자 (rank 256 인 rsLoRA) 가 우승했습니다. 이 모자는 최고의 번역을 생성했을 뿐만 아니라, 결정적으로 가장 정확한 사실을 전달했습니다.
"유형"보다 "랭크"가 더 중요함: 연구 결과, 서로 다른 유형의 모자 중 하나를 선택하는 것보다 어댑터를 단순히 "더 크게" 만드는 것 (랭크 증가) 이 더 중요하다는 것이 밝혀졌습니다. 가장 큰 모자 (rsLoRA 256) 는 더 작은 모자들뿐만 아니라 번역 작업에서 전체 재훈련 방법까지 능가했습니다.

4. "할루시네이션" 함정

이 논문은 단순히 단어 일치 수를 세는 표준 테스트가 놓치는 까다로운 문제, 즉 자신감 넘치는 거짓말을 강조합니다.

사실 확인 테스트: 저자는 "Gigi Riva 는 누구인가?" (유명한 사르데냐 출신 축구 선수) 와 같은 구체적인 질문을 모델들에게 물었습니다.
- rsLoRA 모델은 사실을 정확히 답했습니다.
- LoRA 모델은 가짜 전기 (스코틀랜드에서 월드컵을 우승했다는 등 불가능한 내용) 를 지어냈습니다.
- DoRA 모델은 더 터무니없는 거짓말 (그가 결코 뛰지 않은 팀에서 뛰었다거나, 그의 이름을 딴 경기장이 개장되었다는 등) 을 지어냈습니다.
"가짜 단어" 테스트: 사르데냐어 문화에 대한 길고 개방적인 에세이를 쓰라고 요청했을 때, 가장 좋은 모델 (rsLoRA) 도 때로는 실제 존재하지는 않지만 사르데냐어처럼 들리는 단어를 invented 했습니다. 문법 규칙을 너무 잘 알아서 완벽하게 들리지만 아무런 의미도 없는 새로운 단어를 만들어내는 학생과 같습니다.

5. "점수"에 대한 교훈

이 논문은 특히 다른 문자를 사용하는 언어의 경우, AI 를 평가하는 데 일반적으로 사용되는 수학적 지표인 "퍼플렉시티 (perplexity)" 점수를 너무 신뢰하지 말라고 경고합니다.

비유: 답이 암호로 작성된 시험에서 학생을 채점한다고 상상해 보세요. 암호가 매우 예측 가능하다면, 학생이 의미를 이해하지 못하더라도 패턴을 추측하기만 해도 완벽한 점수를 받을 수 있습니다. 논문은 일부 언어의 경우 수학 점수는 훌륭해 보이지만 실제 번역 품질은 형편없을 수 있음을 보여줍니다. AI 가 실제로 진실을 말하고 있는지 확인하려면 수학 점수가 아닌 실제 인간이 확인해야 합니다.

요약

이 논문은 단일 가정용 컴퓨터에서 사르데냐어와 같은 희귀 언어를 구사하도록 작은 AI 모델을 가르칠 수 있음을 증명합니다. 비결은 메모리와 창의성 사이의 균형을 잘 맞춘 특정하고 더 큰 "어댑터" (rsLoRA) 를 사용하는 것이었습니다. 그러나 가장 좋은 모델조차도 자신감 있게 거짓말을 하는 경향이 있다는 점은, AI 가 진정으로 도움이 되는지 판단하기 위해 수학 점수뿐만 아니라 인간의 사실 확인이 필요함을 보여줍니다.

기술 요약: LLiMba — 3B 언어 모델을 사르데냐어에 적응시키는 방법

문제 제기
약 100 만 명이 사용하는 로망스어군 언어인 사르데냐어 (sardu) 는 현대 자연어 처리 (NLP) 분야에서 거의 전무한 상태에 처해 있습니다. 상업용 서비스는 이를 지원하지 않으며, 기존 대규모 언어 모델 (LLM) 은 이를 신뢰성 있게 생성하지 못하고 종종 이탈리아어, 스페인어 또는 기타 주요 로망스어군 언어로 기본값을 설정합니다. 웹 규모 말뭉치 내 사르데냐어 데이터의 부재로 인해 표준 오픈 모델이 해당 언어를 학습하는 것이 불가능하며, 독점 모델들은 사용자 기반이 데이터 수집에 비해 너무 작다고 판단합니다. 또한, 표준 저자원 데이터셋 (예: OSCAR, Leipzig Corpora) 은 사용 가능한 사르데냐어 텍스트를 거의 포함하지 않습니다. 과제는 최소한의 데이터와 소비자 등급 하드웨어를 사용하여 사전 학습된 다국어 모델을 저자원 로망스어군 언어에 적응시키면서, 치명적인 망각 (catastrophic forgetting) 을 방지하고 사실적 근거 (factual grounding) 를 보장하는 것입니다.

방법론
저자들은 Qwen2.5-3B-Instruct를 기반으로 적응시킨 30 억 파라미터 사르데냐어 준비 모델인 LLiMba를 제시합니다. 적응 파이프라인은 단일 NVIDIA RTX 4090 (24 GB VRAM) 에서 다음 두 단계 프로세스로 실행됩니다:

연속 사전 학습 (CPT):
- 데이터: LSC, 로구도레세 (Logudorese), 캄피다네세 (Campidanese) 변형을 아우르는 약 1,150 만 토큰의 사르데냐어 말뭉치와, 치명적인 망각 및 어휘/register 혼란을 방지하기 위해 약 240 만 토큰의 관련 로망스어군 텍스트 (이탈리아어, 스페인어, 포르투갈어, 카탈로니아어) 가 증강되었습니다.
- 기법: bfloat16 에서의 전체 파인튜닝 (모든 파라미터 업데이트). 저자들은 도메인 전환 (새로운 언어 학습) 이 크고, 사전 연구에 따르면 타겟 분포가 사전 학습과 멀어질 때 LoRA 가 전체 파인튜닝보다 성능이 낮다고 제안했으므로, 이 단계에서는 파라미터 효율적 어댑터 대신 전체 파인튜닝을 선택했습니다.
- 하드웨어 제약: 24 GB VRAM 에 3B 모델을 맞추기 위해 저자들은 페이지 처리된 8 비트 AdamW 옵티마이저, 그라디언트 체크포인트, 그리고 그라디언트 누적을 통한 유효 배치 크기 16 을 활용했습니다. 이질적인 문서 유형 간 주의력 누출을 방지하기 위해 시퀀스 패킹은 비활성화되었습니다.
지도 미세 조정 (SFT):
- 데이터: 기계 번역된 Capybara 데이터, 병렬 번역 쌍, 원천 큐레이션 합성 지시문, 그리고 노래 관련 쿼리에서 파생된 약 14,404 개의 지시문 쌍.
- 구성 비교: 동일한 조건 (동일한 데이터, 하드웨어, 하이퍼파라미터) 하에서 다섯 가지 SFT 구성을 비교했습니다:
  - 전체 파인튜닝.
  - LoRA (랭크 64, $\alpha=128$ ).
  - rsLoRA (랭크 128, $\alpha=128$ , $\alpha/\sqrt{r}$ 스케일링 사용).
  - rsLoRA (랭크 256, $\alpha=256$ , $\alpha/\sqrt{r}$ 스케일링 사용).
  - DoRA (랭크 256, $\alpha=256$ , 가중치를 크기와 방향으로 분해).

주요 결과

번역 성능: 연속 사전 학습이 성능 향상의 대부분을 제공하여 기본 모델 대비 BLEU 점수를 4~7 배 향상시켰습니다. SFT 는 점진적인 개선을 제공했습니다.
- 최고 성능자: 랭크 256 의 rsLoRA가 사르데냐어로의 번역에서 가장 높은 점수를 달성했습니다 (예: 영어 - 사르데냐어 번역에서 CPT 단독 17.26, 전체 파인튜닝 21.04 에 비해 28.47 BLEU).
- 랭크 제거 분석: 번역 지표의 성능은 랭크에 따라 매끄럽게 증가했습니다: rsLoRA r256 > rsLoRA r128 > LoRA r64.
- DoRA 의 저조한 성능: 최고의 rsLoRA 구성과 동일한 랭크 (256) 를 가졌음에도 불구하고, DoRA 는 여섯 가지 번역 방향 중 네 가지에서 LoRA r64 보다 성능이 낮았으며 전체 파인튜닝의 이득을 따라가지 못했습니다.
정성적 발견 및 실패 모드:
- 사실적 근거: 번역 지표 (BLEU/chrF) 는 사실적 정확도와 상관관계가 없었습니다. rsLoRA r256은 검증 가능하고 정확한 전기 및 문화적 사실을 생성했습니다. 반면, LoRA r64는 자신감 있지만 조작된 세부 사항을 생성했으며, DoRA r256은 기본 모델 구조를 보존한다는 설계 전제와 모순되도록 가장 공격적인 조작을 생성했습니다.
- 어휘 충실도: rsLoRA r256 이 사실적으로 우월했지만, 길고 개방형 프롬프트에서 "형태론적 환각"을 보이며 음운론적으로 타당하지만 검증되지 않은 사르데냐어 단어를 생성했습니다. 전체 파인튜닝은 검증된 어휘에 가장 근접하게 유지되었습니다.
- 스크립트 누출: rsLoRA r128 구성은 독특한 실패 모드를 도입했습니다: 중국어/영어 등 비로마자 스크립트 토큰이 사르데냐어 문장으로 누출되는 현상으로, 이는 다른 변형에서는 관찰되지 않았습니다.
손실 지표 vs 현실: 학습 및 평가 손실은 방법 간에 유사했으며 사실성이나 스크립트 무결성의 정성적 차이를 예측하지 못했습니다. 논문은 비로마자 스크립트에서 바이트 폴백 토큰화 (티베트어 적응에서 알려진 문제) 에 의해 퍼플렉시티 지표가 인위적으로 낮아질 수 있음을 지적하지만, 사르데냐어의 로마자 스크립트는 이러한 특정 아티팩트를 피합니다.

의의 및 기여
본 논문은 전체 CPT 후 파라미터 효율적 SFT 를 거치는 두 단계 파이프라인을 사용하여 소비자용 GPU 하나에서 3B 파라미터 모델을 저자원 로망스어군 언어에 적응시키는 것이 가능함을 입증합니다.

주요 기여점은 다음과 같습니다:

어댑터 용량에 대한 경험적 증거: 로망스어군 사전 학습 기반을 저자원 로망스어군 타겟에 적응시키는 경우, 어댑터 랭크가 특정 어댑터 변형보다 더 중요함을 보여줍니다. rsLoRA 를 랭크 256 으로 확장하면 상당한 이득을 얻었지만, 동일한 랭크의 DoRA 는 비교 가능한 결과를 제공하지 못하여, 특정 파라미터화 (제약 없는 저랭크 업데이트 vs 크기 - 방향 분해) 가 작업과 결정적으로 상호작용함을 시사합니다.
표준 지표의 한계: 번역 지표 (BLEU/chrF) 와 손실 곡선이 구성을 매끄럽게 순위 매기면서도 사실적 환각 및 스크립트 누출과 같은 정성적 행동의 범주적 차이를 가릴 수 있음을 강조합니다.
자원 효율성: 대규모 컴퓨팅 클러스터가 아닌 신중한 데이터 큐레이션과 하드웨어 인식 최적화 (8 비트 옵티마이저, 그라디언트 체크포인트) 에 의존하는 재현 가능한 저자원 언어 적응 파이프라인을 제공합니다.

저자들은 특정 설정에서 번역 및 사실적 근거에 대해 rsLoRA r256 이 최적의 구성이지만, 정량적 지표와 정성적 현실 간의 괴리로 인해 손실 기반 지표가 오해의 소지가 있거나 불충분할 수 있는 경우 원어민 프로브와 사실성 검사를 포함한 평가 전략이 필요하다고 결론지었습니다.