Developing an English-Efik Corpus and Machine Translation System for Digitization Inclusion

1. 연구 배경 및 문제 정의 (Problem)

• 저자원 언어의 소외: 아프리카의 많은 토착 언어 (특히 에픽어) 는 현대 자연어 처리 (NLP) 시스템에서 소외되어 있습니다. 스와힐리어, 요루바어, 암하라어 등 주요 언어에 비해 데이터와 디지털 도구가 부족합니다.
• 데이터 부족: 에픽어 (나이지리아 크로스리버주 및 카메룬 일부 지역 사용) 를 위한 병렬 말뭉치 (영어 - 에픽어 쌍) 가 극도로 부족하여 신경 기계 번역 (NMT) 모델 훈련이 어렵습니다.
• 기존 연구의 한계:
  • 기존 규칙 기반 시스템은 복잡한 문법과 관용구를 처리하지 못했습니다.
  • 기존 NMT 연구 (예: JW300 코퍼스 기반) 는 주로 종교 (성경) 도메인에 국한되어 있어 일반화 능력이 떨어졌습니다.
  • 웹 기반 데이터는 양이 적고 품질이 낮아 실제 활용에 한계가 있습니다.

2. 방법론 (Methodology)

2.1. 데이터 구축 (Dataset Creation)

• 데이터 수집 및 정제: 6 명의 원어민 에픽 화자와 2 명의 훈련된 언어학자가 14,000 개의 영어 문장을 에픽어로 번역했습니다. 추가 2 명의 언어학자가 독립적으로 검수했습니다.
• 최종 코퍼스: 중복 제거 및 노이즈 제거 후 13,865 개의 고품질 영어 - 에픽 병렬 문장 쌍으로 구성되었습니다.
• 도메인 다양성: 일상 대화 (7,245 개), 가족/관계 (1,885 개), 음식/농업 (1,237 개), 자연/환경, 종교, 건강, 교육 등 다양한 도메인을 포함하여 종교 도메인 편향을 해소했습니다.
• 데이터 형식: UTF-8 인코딩된 JSONL 형식으로 저장되어 HuggingFace 등 표준 NLP 툴킷과 호환됩니다.

2.2. 모델 학습 (Model Training)

• 사용 모델: 저자원 언어에 효과적인 전이 학습 (Transfer Learning) 접근법을 적용하여 두 가지 대규모 다국어 모델을 미세 조정 (Fine-tuning) 했습니다.
  1. mT5-small: 101 개 언어로 사전 학습된 텍스트 - 투 - 텍스트 Transformer 모델.
  2. NLLB-200: 200 개 이상 언어를 지원하는 시퀀스 - 투 - 시퀀스 모델 (Meta AI).
• 학습 설정: Hugging Face Transformers 라이브러리를 사용하며, 학습률, 배치 크기, 에포크 수 등을 저자원 환경에 맞게 최적화했습니다 (예: NLLB는 6 에포크, mT5는 20 에포크 학습).

2.3. 평가 방법 (Evaluation)

• 자동 평가 지표: BLEU (n-gram 중첩) 와 chrF (문자 n-gram 기반, 형태소 및 철자 패턴 반영) 점수를 계산했습니다.
• 정성적 분석: 번역 결과의 오류 (생략, 대체, 의미 왜곡) 를 원어민과 언어학자가 직접 분석하여 모델의 강점과 약점을 파악했습니다.

3. 주요 결과 (Results)

3.1. 정량적 성능 (Quantitative Performance)

• Zero-shot vs. Fine-tuned: 제로샷 (Zero-shot) 모드에서는 두 모델 모두 성능이 매우 낮았으나 (BLEU 0.01~0.22), 미세 조정 후 성능이 크게 향상되었습니다.
• 최고 성능 모델: NLLB-200이 mT5 를 압도적으로 능가했습니다.
  • 영어 → 에픽 (en-ef): BLEU 26.64, chrF 51.04
  • 에픽 → 영어 (ef-en): BLEU 31.21, chrF 47.92
  • mT5-Fine-tuned의 경우 각각 BLEU 14.32/18.87 수준에 그쳤습니다.

3.2. 정성적 분석 (Qualitative Analysis)

• NLLB-200: 문맥적 뉘앙스를 잘 유지하고, 문화적으로 특정된 내용을 정확하게 처리하며, 유창한 번역을 생성했습니다.
• mT5: 반복 구문 생략, 잘못된 어휘 선택, 고유명사 (예: 'William Otu') 번역 실패, 도메인 특정 용어의 의미 왜곡 등의 오류가 빈번했습니다.
• 공통 한계: 관용구, 복잡한 문장 구조, 드문 어휘, 에픽어의 방언 및 억음 (tone) 표기 차이에서 두 모델 모두 어려움을 겪었습니다.

4. 주요 기여 (Key Contributions)

1. 새로운 병렬 코퍼스 공개: 종교 도메인을 벗어난 다양한 일상 및 사회 도메인을 포함하는 13,865 개의 영어 - 에픽 병렬 말뭉치를 구축하고 공개했습니다.
2. 재현 가능한 파이프라인: 저자원 아프리카 언어를 위한 다국어 모델 미세 조정 및 평가 파이프라인을 제시했습니다.
3. 모델 비교 분석: 저자원 언어 번역에 있어 NLLB-200 이 mT5 보다 우월한 성능을 보인다는 실증적 증거를 제시했습니다.
4. 포용적 NLP 촉진: 소외된 언어의 디지털화를 통해 문화적 정체성 보존과 사회적 포용을 강화하는 방안을 모색했습니다.

5. 의의 및 결론 (Significance & Conclusion)

• 기술적 타당성 증명: 소량의 데이터 (약 1.4 만 개) 만으로도 고품질의 다국어 번역 모델을 개발할 수 있음을 입증했습니다.
• 문화적 중요성: 에픽어와 같은 저자원 언어의 디지털 포용은 언어의 소멸을 막고, 교육 및 정보 접근성을 높이는 데 필수적입니다.
• 향후 과제: 데이터 양 확대, 데이터 증강 (Back-translation), 음운론적 정규화 (억음 표기 통일), 그리고 커뮤니티 기반의 지속적인 참여를 통해 번역 품질과 문화적 적절성을 더욱 높여야 합니다.

이 연구는 아프리카의 저자원 언어를 위한 NLP 연구의 중요한 이정표로, 데이터 중심의 접근 방식과 커뮤니티 참여가 언어 기술의 불평등을 해소하는 핵심 열쇠임을 보여줍니다.