Part-of-Speech Tagger for Bodo Language using Deep Learning approach

이 논문은 보도어 (Bodo) 를 위한 최초의 언어 모델인 BodoBERT 를 개발하고, 이를 BytePairEmbedding 과 결합한 앙상블 딥러닝 모델을 통해 보도어 품사 태깅 성능을 0.8041 의 F1 점수로 향상시켰으며, 같은 지역 언어인 아삼어와의 비교 실험을 수행했습니다.

핵심

1. 배경: 왜 이 연구가 필요한가요? (빈 책장 문제)

지금까지 인공지능 (AI) 은 영어, 중국어처럼 말이 많은 '부자 언어'들을 많이 배워서 잘합니다. 하지만 인도 북동부에서 150 만 명이 사용하는 **'보도어'**는 AI 가 배울 수 있는 책 (데이터) 이 거의 없는 '가난한 언어'였습니다.

• 상황: AI 가 보드어를 이해하려면 먼저 그 언어의 문법과 단어를 배우는 '사전'이 필요했습니다. 하지만 그 사전이 없었습니다.
• 문제: 사전이 없으니, AI 는 보드어로 된 문장을 분석하거나 번역하는 일을 전혀 할 수 없었습니다.

2. 첫 번째 기여: '보드어용 사전' 만들기 (BodoBERT)

연구팀은 먼저 AI 가 보드어를 스스로 배울 수 있도록 **대규모의 보드어 텍스트 모음 (말뭉치)**을 모았습니다. 그리고 이를 바탕으로 BodoBERT라는 AI 모델을 훈련시켰습니다.

• 비유: 마치 보도어 원어민들이 쓴 수천 권의 책과 신문 기사를 모아 AI 에게 읽게 한 것입니다.
• 결과: 이제 AI 는 보드어의 문장 구조, 단어의 뉘앙스를 스스로 이해할 수 있게 되었습니다. 이는 보드어 언어 모델로는 세계 최초의 시도였습니다.

3. 두 번째 기여: 문장 분석기 만들기 (POS 태깅)

이제 AI 가 보드어를 이해할 수 있으니, 문장 속 단어들이 '명사', '동사', '형용사' 등 어떤 역할을 하는지 구분하는 일을 시켰습니다. 이를 **품사 태깅 (POS Tagging)**이라고 합니다.

• 비유: 문장이 한 편의 연극이라면, 품사 태깅은 각 배우 (단어) 가 '주인공 (명사)', '행동 (동사)', '수식 (형용사)' 중 어떤 역할을 맡았는지 가방에 스티커를 붙여주는 일입니다.
• 실험: 연구팀은 이 작업을 위해 세 가지 다른 방법을 시험해 보았습니다.
  1. 미세 조정 (Fine-tuning): 이미 배운 AI 에게 조금만 더 가르치는 방법.
  2. CRF: 문맥을 꼼꼼히 따져보는 규칙 기반 방법.
  3. BiLSTM-CRF: 문장의 앞뒤 맥락을 동시에 깊게 생각하며 스티커를 붙이는 방법.

4. 최고의 방법: '팀워크'의 힘 (Stacked Method)

세 가지 방법 중 BiLSTM-CRF가 가장 잘 작동했습니다. 하지만 연구팀은 여기서 멈추지 않았습니다.

• 아이디어: "우리 AI 가 혼자 하는 것보다, 다른 언어 모델들의 도움을 받으면 더 잘하지 않을까?"
• 실험 (Stacked Method): 보드어 전용 AI(BodoBERT) 에게 힌트 언어 (인도어, 힌디어 등) 로 훈련된 다른 AI 들의 지식도 함께 섞어주었습니다.
  • 비유: **보드어 전문가 (BodoBERT)**가 혼자 문제를 풀 때보다, 힌디어 전문가나 영어 전문가가 옆에서 "이건 이런 뜻일 수도 있어!"라고 조언을 해줄 때 정답률이 훨씬 높아진 것입니다.
• 결과: 이 '팀워크' 방식을 적용했을 때, AI 의 정확도 (F1 점수) 가 0.8041로 가장 높게 나왔습니다.

5. 비교 실험: 이웃 언어와의 대결

보도어와 같은 지역에 사는 **아삼어 (Assamese)**도 실험에 포함시켰습니다. 두 언어는 같은 문자 (데바나가리) 를 쓰기 때문입니다.

• 결과: 아삼어 모델보다 보도어 모델이 더 좋은 성적을 냈습니다. 이는 보드어 전용으로 만든 사전 (BodoBERT) 이 얼마나 효과적인지 보여줍니다.

6. 아직 해결해야 할 과제 (실수 분석)

물론 AI 는 완벽하지 않습니다.

• 혼란: AI 는 '명사'와 '고유명사 (사람 이름 등)'를 구분하는 데 가끔 헷갈립니다.
  • 이유: 영어처럼 대문자로 시작하면 '이름'이라는 단서가 있지만, 보도어는 그런 규칙이 없어서 AI 가 구별하기 어렵기 때문입니다.
  • 예시: "보드어 (Bodo)"라는 단어는 사람 이름처럼 쓰일 때 (고유명사) 와 언어를 지칭할 때 (일반 명사) 구분이 모호할 수 있습니다.

7. 결론: 역사적인 첫걸음

이 연구는 보도어를 위한 첫 번째 AI 언어 모델과 첫 번째 문장 분석기를 세상에 내놓았습니다.

• 의의: 비록 영어 같은 부자 언어만큼 완벽하지는 않지만, 이제 AI 가 보도어를 이해할 수 있는 마지막 퍼즐 조각이 놓였습니다.
• 미래: 이 모델은 앞으로 보도어로 된 뉴스 번역, 음성 인식, 검색 엔진 등을 개발하는 데 **기초 (Baseline)**가 될 것입니다.

한 줄 요약:

"인공지능이 이제까지 배울 수 없었던 '보도어'를 위해 **자신만의 사전 (BodoBERT)**을 만들고, 여러 전문가의 지식을 합쳐 문장을 분석하는 천재 학생을 탄생시킨 역사적인 연구입니다."

기술 요약

논문 요약: 딥러닝 기반 보도 (Bodo) 언어 품사 태깅기 개발

1. 문제 정의 (Problem Statement)

• 저자원 언어 (Low-resource Language) 의 한계: 자연어 처리 (NLP) 기술은 영어, 중국어 등 고자원 언어에서는 잘 연구되어 있지만, 보도 (Bodo), 미조 (Mizo), 나가메스 (Nagamese) 등 저자원 언어에서는 연구가 초기 단계이거나 전무한 상태입니다.
• 보도 언어의 특수성: 인도 북동부 아삼 (Assam) 주로 거주하는 약 150 만 명의 화자가 사용하는 티베트 - 버마 (Tibeto-Burman) 계통의 언어인 보도어는 풍부한 형태론적 특징을 가지지만, 사전 학습된 언어 모델 (Pre-trained Language Models) 이 존재하지 않아 하위 NLP 작업 (품사 태깅, 개체명 인식 등) 을 위한 딥러닝 도구 개발이 불가능했습니다.
• 필요성: 보도어 화자 수를 고려할 때 NLP 리소스 개발의 시급성이 대두되었으나, 기존에 보도어 전용 언어 모델이나 품사 태깅기가 존재하지 않았습니다.

2. 방법론 (Methodology)

가. 보도BERT (BodoBERT) 개발

• 목적: 보도어 전용 사전 학습 언어 모델을 구축하여 하위 작업의 성능을 향상시키기 위함.
• 데이터: 언어 데이터 컨소시엄 (LDC-IL) 및 기존 연구 (Narzary et al. 2022) 에서 수집된 다양한 도메인 (문화, 상업, 미디어, 과학기술 등) 의 단언어 말뭉치 160 만 토큰 (191 만 문장) 사용.
• 아키텍처: BERT 아키텍처 (Vanilla BERT) 기반.
  • 6 개의 Transformer 블록, 768 은닉층 크기, 6 개의 셀프 어텐션 헤드.
  • 약 103M 파라미터.
  • WordPiece 토크나이저 (50,000 어휘) 사용.
  • 마스킹 언어 모델 (MLM) 과 다음 문장 예측 (NSP) 태스크로 30 만 스텝 동안 학습 (Nvidia Tesla P100 GPU).

나. 품사 태깅 (POS Tagging) 모델 구축

• 데이터셋: 인도 전자정보기술부 (MeitY) 와 JNU 가 주관한 ILCI-II 프로젝트의 보도어 주석 말뭉치 사용 (약 3 만 문장, 24 만 토큰). BIS(인도 표준국) 태그셋 (11 개 상위 카테고리, 34 개 태그) 적용.
• 실험 단계:
  1. 아키텍처 비교: BodoBERT 미세 조정 (Fine-tuning), CRF, BiLSTM-CRF 세 가지 아키텍처 비교. 결과 BiLSTM-CRF가 가장 우수함을 확인.
  2. 임베딩 비교: BiLSTM-CRF 아키텍처 하에서 다양한 언어 모델 (FastText, BPE, Flair, MuRIL, XLM-R, IndicBERT) 과 BodoBERT를 개별 (Individual) 로 적용하여 성능 비교.
  3. 스택드 임베딩 (Stacked Embedding): 최상위 성능을 보인 BodoBERT 와 다른 언어 모델들을 결합하여 최종 임베딩 벡터를 생성하는 방식 적용.

다. 비교 실험

• 같은 지역 (아삼) 에서 사용되는 아삼어 (Assamese) 에 대한 품사 태깅 실험을 병행하여 저자원 언어 간 성능을 비교 분석.

3. 주요 기여 (Key Contributions)

1. 최초의 보도어 언어 모델 (BodoBERT): BERT 아키텍처를 기반으로 한 보도어 전용 사전 학습 언어 모델을 최초로 개발 및 공개.
2. 최초의 보도어 품사 태깅기: 딥러닝 기반의 보도어 품사 태깅 모델을 최초로 제안.
3. 포괄적인 비교 분석: CRF, 미세 조정, BiLSTM-CRF 등 다양한 시퀀스 태깅 프레임워크와 FastText, MuRIL, XLM-R 등 다양한 임베딩 기법의 성능을 비교 분석.
4. 오픈 소스 제공: 개발된 BodoBERT 모델과 최상위 성능의 POS 태깅 모델을 연구 커뮤니티에 공개.

4. 실험 결과 (Results)

• 최고 성능 모델: **BodoBERT + BytePairEmbeddings (BPE)**를 스택드 (Stacked) 방식으로 결합한 BiLSTM-CRF 모델이 가장 높은 성능을 기록.
  • F1 Score: 0.8041 (Micro F1).
  • 단일 임베딩 (Individual) 방식인 BodoBERT 만 사용한 BiLSTM-CRF 모델의 F1 점수는 0.7949 였으며, 스택드 방식을 통해 약 1% 포인트 이상 향상됨.
• 비교 모델 성능:
  • 아삼어 실험에서 최고 성능 (IndicBERT 기준) 은 0.7293 으로, 보도어 모델보다 약 7% 낮게 나타남 (태그셋 수의 차이 등 요인 분석).
  • BodoBERT 가 다른 사전 학습 모델 (MuRIL, XLM-R 등) 보다 보도어 태깅에서 우월한 성능을 보임.
• 데이터 증강 효과: 기존 학습 데이터에 1 만 문장을 추가하여 재학습 시 F1 점수가 0.8494 로 1~2% 향상됨.
• 오류 분석:
  • 가장 흔한 오류는 명사 (N_NN) 와 고유명사 (N_NNP), 또는 위치 명사 (N_NST) 간의 혼동.
  • 영어와 달리 대문자 표기법이 없어 고유명사 판별이 어려움.
  • 문맥에 따라 명사가 형용사로 쓰이는 경우 (예: 'Bodo language'에서 Bodo) 태깅 오류 발생.

5. 의의 및 결론 (Significance & Conclusion)

• 기초 인프라 구축: 보도어 NLP 연구의 기초를 마련한 최초의 언어 모델과 태깅기를 제공함으로써, 향후 기계 번역, 개체명 인식 (NER), 구문 분석 등 다양한 하위 NLP 작업의 **디팩토 (De facto) 기준 (Baseline)**이 됨.
• 저자원 언어 연구의 확장: 고자원 언어에 비해 데이터가 부족한 환경에서도 스택드 임베딩과 같은 앙상블 기법을 통해 성능을 극대화할 수 있음을 입증.
• 향후 과제: 현재 모델의 성능이 고자원 언어의 최첨단 (SOTA) 수준에는 미치지 못하지만, 주석 데이터의 양적/질적 개선과 언어 모델의 추가 학습을 통해 성능 향상이 가능함.

이 연구는 보도어와 같은 저자원 언어의 NLP 생태계 확장에 중요한 이정표가 되었습니다.