기술 요약: CoPiT – 이중 문자를 사용하는 저자원 몽골어를 위한 인지적 피벗 번역 (Cognitive Pivot Translation)

1. 문제 정의

저자원 언어(LRL)를 위한 기계 번역(MT)은 여전히 큰 과제로 남아 있으며, 특히 두 가지 별개의 스크립트인 키릴 문자(Cyrillic)와 전통 문자(Traditional)로 쓰이는 이중 문자(digraphic) 언어인 몽골어의 경우 더욱 그러하다. 키릴 문자는 상대적으로 자원이 풍부하고 음소적으로 일관된 반면, 전통 문자는 데이터가 매우 부족하며 철자법적으로 모호하다.

확인된 핵심 어려움은 다음과 같다:

• 자원 불균형: 텍스트 데이터와 언어 기술의 대다수가 키릴 문자를 위해 존재한다. 전통 문자는 동일한 언어를 나타냄에도 불구하고 "계층적 자원 불균형"을 겪고 있어, 직접 번역 작업에서 낮은 성능을 보인다.
• 철자법적 모호성: 전통 문자는 수직으로 쓰이며, 위치적 맥락에 따라 글자 형태가 변한다. 결정적으로, 많은 음운론적 및 형태론적 구분(예: 모음 조화)이 명시적으로 인코딩되지 않는다. 하나의 표기 형태가 여러 가능한 해석으로 이어질 수 있으며, 이는 심각한 성능 저하를 야기한다.
• LLM의 한계: 현재의 거대 언어 모델(LLM)은 전통 문자를 다루는 데 어려움을 겪으며, 스크립트의 복잡성으로 인해 유효한 콘텐츠를 유해한 것으로 잘못 분류하기도 한다.

2. 방법론: CoPiT 파이프라인

저자들은 숙련된 몽골어 독자가 전통 문자를 처리하는 방식에서 영감을 얻은 다단계 파이프라인인 **CoPiT (Cognitive Pivot Translation)**를 제안한다. 모호한 전통 문자에서 대상 언어로 직접 번역하는 대신, CoPiT는 키릴 문자를 중간 표현(intermediate representation)으로 활용하여 번역 경로를 설정한다. 이 접근 방식은 의미론적 번역이 일어나기 전에 스크립트로 인한 모호성을 명시적으로 해결한다.

파이프라인은 두 가지 주요 단계로 구성된다:

1단계: 전통 문자-키릴 문자 피벗팅 (Traditional-to-Cyrillic Pivoting)

이 단계는 구조적이고 언어학적인 근거를 가진 프로세스를 통해 전통 몽골어 텍스트를 모호성이 해소된 키릴 문자 표현으로 변환한다.

1. 형태론적 분절 (Morphological Segmentation):

   • 전통 문자는 접사(suffix)를 어근(stem)에 붙이기보다 앞에 공백을 삽당하는 경우가 많아, 공백이 신뢰할 수 있는 경계 지표가 되지 못한다.
   • 시스템은 공백 기반 분절 후, 사전 가이드에 따른 어근과 접사의 병합을 수행하여 형태론적으로 일관된 세그먼트를 생성한다.

2. 다단계 스크립트 모호성 해소 (Multi-Step Script Disambiguation):

   • 모음 조화 복구 (Vowel Harmony Recovery): 각 세그먼트의 첫 모음과 표준 음운 규칙을 바탕으로 모음 조화 부류(양성 또는 음성)를 추론한다. 이를 통해 음운론적 제약을 위반하는 해석을 배제한다.
   • 라틴 문자 보조 정규화 (Latin-Assisted Normalization): 분절된 단위들을 중간 단계인 라틴 기반 표현으로 매핑한다. 이 단계는 암시적인 음운론적 구분을 명시적으로 만들며, 복구된 모음 조화를 활용하여 시각적으로 모호한 중성(medial) 형태를 판별한다.
   • 키릴 문자 정규화 (Cyrillic Normalization): 라틴 정규화된 세그먼트를 표준 키릴 형태로 매핑한다. 음운론적으로 명확해진 라틴 표현의 안내를 받아, 남은 철자 변이를 해결하고 단일하며 잘 형성된 키릴 실현형을 선택한다.

3. 자기 성찰을 통한 문장 재구성 (Sentence Reconstruction with Self-Reflection):

   • 모호성이 해소된 세그먼트들을 하나의 전체 문장으로 결합한다.
   • 자기 성찰(self-reflection) 구성 요소가 국소적으로 해소된 세그먼트들을 검토하여, 문장 수준의 의미론적 또는 문법적 불일치(예: 어근 선택, 격 표시, 시제)를 일으키는 선택을 식별하고 수정한다. 이는 번역 전 전역적 일관성을 보장한다.

2단계: 번역 (Translation)

결과물인 모호성이 해소된 키릴 문자 표현은 프롬프트 튜닝된 LLM을 사용하여 대상 언어(영어, 한국어, 러시아어)로 번역된다. 스크립트 수준의 모호성을 상류(upstream)에서 해결함으로써, 번역 모델은 스크립트 해석이 아닌 교차 언어적 의미 전달에 집중할 수 있다.

학습 전략

파이프라인의 구성 요소들은 매개변수 효율적 적응(LoRA)을 사용한 **지도 미세 조정(SFT)**을 통해 독립적으로 학습된다:

• 단어 수준 구성 요소: 모음 조화 복구, 라틴 보조 정규화, 키릴 정규화는 사전에서 추출한 큐레이션된 전통-키릴 병렬 어휘 데이터셋(14,125개 항목)을 사용하여 학습된다.
• 문장 수준 구성 요소: 자기 성찰 모듈은 기본 LLM을 통해 전통 문자를 키릴 문자로 변환하여 만든 합성 키릴 수정 쌍(2,061개 쌍)을 사용하여 학습된다.

3. 주요 기여

1. CoPiT 파이프라인: 전통 문자의 스크립트 유발 모호성을 키릴 문자를 피벗으로 활용하여 해결하는, 인지적으로 동기 부여된 다단계 번역 파이프라인을 제적하여, 전통 문자에 대한 대규모 병렬 코퍼스 없이도 번역이 가능하게 한다.
2. 새로운 데이터셋: 전통 몽골어와 키릴 몽골어를 영어, 한국어, 러시아어와 정렬한 다중 스크립트 병렬 코퍼스를 공개하여, 이중 문자를 사용하는 저자원 MT의 중요한 자원 격차를 해소한다.
3. 성능 향상: CoPiT가 다양한 백본 모델(Qwen-3, Ministral-3)과 대상 언어에 대해 직접 번역보다 일관되게 우수한 성능을 보임을 입증하였다.
4. 합성 데이터 생성: CoPiT가 실제 전통 문자 소스로부터 고품질의 합성 병렬 데이터(8,034개 문장 쌍)를 생성할 수 있음을 검증하였으며, 이를 통해 양방향 번역을 가능하게 하고 양방향 모두의 성능을 개선하였다.

4. 실험 결과

실험은 참조 기반(BLEU, chrF, COMET) 및 참조 없는(COMETKiwi, 인간 평가) 메트릭을 사용하여 영어, 한국어, 러시아어 타겟에 대해 수행되었다.

• 성능 향상: CoPiT는 직접 번역보다 일관되게 우수한 성능을 보였다.
  • 제로샷 (Zero-shot): 미세 조정을 하지 않은 상태에서도, 특히 한국어와 러시아어 같은 유형론적으로 거리가 먼 언어에 대해 측정 가능한 이득을 보였다.
  • 미세 조정 (Fine-tuned): 구성 요소 미세 조정을 적용했을 때, 이득은 상당했다. 예를 들어, Ministral-3 (14B) 모델에서 COMET 점수는 직접 번역 대비 영어 +0.240, 한국어 +0.279, 러시아어 +0.255만큼 증가했다.
  • 벤치마크 비교: 미세 조정된 오픈 소스 CoPiT 모델은 GPT-4.1의 직접 번역 성능과 대등하거나 이를 능가했다.
• 절제 연구 (Ablation Study):
  • **자기 성찰(Self-Reflection)**이 가장 중요한 구성 요소로 확인되었으며, 이를 제거할 경우 모든 언어에서 상당한 성능 저하가 발생했다.
  • 모음 조화 복구와 라틴 보조 정규화는 상호 보완적인 이득을 제공하였으며, 전체 파이프라인은 모든 구성 요소의 상호작용으로부터 이득을 얻었다.
• 합성 데이터의 효용성: CoPiT가 생성한 8,034개의 문장 쌍은 번역 모델을 학습시키는 데 성공적으로 사용되었으며, 전통 몽골어 $\to$ 대상 언어 및 대상 언어 $\to$ 전통 몽골어 방향 모두의 성능을 개선하였다.

5. 의의 및 주장

본 논문은 Co-PiT가 단일 언어 내부의 자원 계층을 활용함으로써 이중 문자 저자원 기계 번역에 대한 실질적인 해결책을 제공한다고 주장한다. 인지적 영감을 받은 피벗을 통해 스크립트 수준의 모호성을 명시적으로 해결함으로써, 이 방법은 다음과 같은 효과를 거둔다:

• 강력한 오픈 소스 모델이 저자원 환경에서 독점 모델(예: GPT-4.1)과 경쟁할 수 있게 한다.
• 저자원인 전통 스크립트로부터 직접 합성 병렬 데이터를 구축할 수 있게 함으로써 데이터 부족 문제를 완화한다.
• 한쪽 스크립트가 다른 쪽보다 훨씬 더 풍부한 자원을 보유한 다른 이중 문자 언어에도 적용 가능한 프레임워크를 제공한다.

저자들은 이 접근 방식이 저자원 스크립트를 위한 대규모 병렬 코퍼스를 요구하는 대신, 스크립트 변환을 위한 소량의 데이터와 더 잘 갖춰진 스크립트의 내재된 강점에 의존한다는 점을 강조한다.