WAXAL: A Large-Scale Multilingual African Language Speech Corpus

이 논문은 24 개 아프리카 언어의 1 억 2,500 만 명 이상의 화자를 포괄하며 자동 음성 인식 (ASR) 및 텍스트 음성 변환 (TTS) 을 위한 대규모 공개 음성 데이터셋 'WAXAL'을 소개하고, 데이터 수집 방법론과 윤리적 고려사항을 논의하여 아프리카 언어 기술의 디지털 격차 해소를 목표로 합니다.

핵심

1. 문제 상황: "말이 통하지 않는 디지털 장벽"

지금까지 인공지능 (AI) 이 말을 잘하게 되려면, 그 언어로 된 **거대한 데이터 (책이나 녹음 파일)**가 필요했습니다. 하지만 이 데이터는 영어, 중국어, 스페인어 같은 '부자 언어'에는 넘쳐나는데, 아프리카의 2,000 개가 넘는 언어 중 대부분은 데이터가 거의 없어서 AI 가 그 언어를 배우지 못했습니다.

이는 마치 전 세계가 고화질 TV 를 보고 있는데, 아프리카의 많은 사람들은 여전히 흑백 TV 나 아예 TV 가 없는 상태와 같습니다. 기술의 혜택이 특정 사람들만 누리고 있는 '디지털 격차'가 생긴 것입니다.

2. 해결책: WAXAL 프로젝트

구글 연구소와 아프리카의 대학, 지역 단체들이 손을 잡고 이 문제를 해결하기 위해 WAXAL이라는 프로젝트를 시작했습니다.

• 목표: 아프리카의 24 개 언어 (약 1 억 명 이상의 화자가 사용하는 언어) 에 대해 AI 가 말을 듣고, 또 말을 할 수 있게 하는 데이터를 만드는 것.
• 비유: 이는 마치 아프리카의 각 언어마다 '말하기 교실'과 '듣기 교실'을 동시에 짓는 작업과 같습니다.

3. 두 가지 주요 교실 (데이터 구성)

이 프로젝트는 크게 두 가지 종류의 데이터를 모았습니다.

A. ASR 데이터 (듣기 교실) - "자연스러운 대화"

• 무엇인가요? 약 1,250 시간 분량의 자연스러운 대화 녹음입니다.
• 어떻게 만들었나요? 참가자들에게 다양한 사진을 보여주고 "이 사진에 대해 말해보세요"라고 요청했습니다. (예: 시장 풍경, 가족 사진 등)
• 왜 사진인가요? 미리 대본을 외워서 읽는 것보다, 사진을 보고 즉흥적으로 말하게 하면 더 자연스럽고 다양한 억양과 표현이 나옵니다. 마치 친구들과 수다를 떨며 녹음하는 것과 비슷합니다.
• 특징: 14 개 언어, 다양한 나이와 성별의 사람들이 참여했습니다.

B. TTS 데이터 (말하기 교실) - "정교한 목소리"

• 무엇인가요? 약 235 시간 분량의 고화질 녹음입니다.
• 어떻게 만들었나요? 전문 스튜디오에서 성우들이 발음 연습용 대본을 읽게 했습니다.
• 왜 필요할까요? AI 가 사람처럼 자연스러운 목소리로 말을 하게 하려면, 아주 깨끗하고 정돈된 목소리 데이터가 필요합니다. 마치 명품 목소리 아카이브를 만드는 것과 같습니다.
• 특징: 10 개 언어, 72 명의 성우 (남녀 반반) 가 참여했습니다.

4. 어떻게 만들었나요? (협력의 힘)

이 프로젝트는 구글 혼자 한 것이 아닙니다.

• 아프리카의 전문가들과 손잡고: 우간다 마케레레 대학, 가나 대학, 디지털 우무간다, 미디어 트러스트 등 4 개의 현지 기관과 협력했습니다.
• 현지 언어 전문가: 녹음된 내용을 적어낼 때는 현지 언어 전문가들을 고용하여 정확도를 높였습니다.
• 윤리적 고려: 모든 참가자에게 "이 녹음은 연구에 쓰이겠습니다"라고 설명하고 허락을 받았습니다. 또한, 녹음된 내용에서 개인을 식별할 수 있는 정보는 모두 지웠습니다.

5. 왜 중요한가요? (열린 문)

이 프로젝트의 가장 큰 특징은 모두에게 공개한다는 점입니다.

• 무료 도서관: 이 데이터는 누구나 무료로 다운로드해서 연구하거나, 새로운 앱을 만들 수 있도록 CC-BY-4.0이라는 매우 자유로운 라이선스로 공개되었습니다.
• 미래의 영향: 이제 개발자들은 이 데이터를 바탕으로 아프리카 언어로 된 음성 비서, 자동 자막 서비스, 교육용 앱 등을 만들 수 있게 됩니다.

6. 한계와 주의점

물론 완벽하지는 않습니다.

• 데이터의 양: 전체 녹음 중 10% 만을 텍스트로 변환 (대본화) 했습니다.
• 방언의 다양성: 한 언어 안에도 지역마다 사투리가 있는데, 모든 사투리를 다 담지는 못했습니다.
• 윤리적 리스크: 목소리 데이터가 악용될 가능성은 항상 있지만, 기술의 혜택이 더 크다고 판단했습니다.

요약

WAXAL은 아프리카의 언어들이 디지털 세상에서 소외되지 않도록, "말하고 듣는 기술"을 가르칠 수 있는 거대한 보물창고를 만든 프로젝트입니다. 이제 아프리카의 수많은 언어도 AI 와 함께 대화할 수 있는 기회를 얻게 되었습니다.

기술 요약

1. 문제 정의 (Problem)

• 언어적 디지털 격차: 음성 기술 (가상 비서, 자동 전사 등) 의 발전은 주로 고자원 언어 (High-resource languages) 에 집중되어 있어, 사하라 이남 아프리카의 대부분의 언어 화자들은 기술 혜택에서 소외되고 있습니다.
• 데이터 부족: 강력한 자동 음성 인식 (ASR) 과 텍스트 음성 변환 (TTS) 시스템을 구축하기 위한 핵심 병목 현상은 대규모, 고품질, 허용 가능한 라이선스를 가진 음성 말뭉치 (Speech Corpora) 의 심각한 부족입니다.
• 언어적 복잡성: 아프리카 언어는 성조 (Tonal distinctions), 복잡한 형태론 (Morphology), 빈번한 코드스위칭 (Code-switching) 등의 고유한 언어적 특징을 가지고 있어 기존 표준 모델링 패러다임으로 처리하기 어렵습니다.
• 기존 데이터의 한계: 기존 공개 데이터셋은 규모가 작거나, 언어 다양성이 부족하거나, 고자원 언어에 편향되어 있어 사하라 이남 아프리카의 2,000 개 이상의 언어를 포괄하지 못했습니다.

2. 방법론 (Methodology)

WAXAL 데이터셋은 2021 년 1 월부터 2024 년 3 월까지 구글의 자금 지원과 현지 파트너십을 통해 수집되었습니다. 주요 파트너는 Makerere 대학 (우간다), 가나 대학, Digital Umuganda, Media Trust 등 4 개의 아프리카 학술 및 커뮤니티 기관입니다.

A. 데이터 수집 전략

1. ASR (자동 음성 인식) 데이터:

   • 자연스러운 화법 유도: 스크립트 읽기가 아닌, 50 개 이상의 주제를 다루는 다양한 이미지를 보여주고 화자에게 모국어로 설명하게 하는 '이미지 프롬프트 (Image-Prompted)' 방식을 사용했습니다.
   • 녹음 환경: 화자의 자연스러운 환경 (실내, 실외, 사무실 등) 에서 최소 15 초 이상의 녹음을 수행했습니다.
   • 다양성: 성별 균형과 다양한 연령대 분포를 목표로 했습니다.
   • 전사 (Transcription): 수집된 오디오의 10% 에 해당하는 부분을 현지 언어 전문가 (유급) 가 전사했습니다. 현지 문자가 있는 경우 해당 문자를, 없으면 영어 알파벳으로 음역 (Transliteration) 했습니다.

2. TTS (텍스트 음성 변환) 데이터:

   • 고품질 단일 화자: 10 개 언어를 대상으로 72 명의 커뮤니티 참여자 (남성 36 명, 여성 36 명) 를 선정하여 스튜디오 환경에서 녹음했습니다.
   • 음성학적 균형: 각 언어별로 약 108,500 단어로 구성된 음성학적으로 균형 잡힌 스크립트를 개발하여 사용했습니다.
   • 목표: 화자당 약 16 시간의 깨끗하고 편집된 오디오를 확보하여 고품질 합성 보이스 구축을 지원했습니다.

B. 품질 관리 및 윤리

• 품질 관리: 전사 및 오디오는 명료성, 언어 정확도, 프롬프트 관련성, 적절성 등을 검증하는 과정을 거쳤으며, 개인 식별 정보 (PII) 는 제거되었습니다.
• 윤리적 고려: 모든 참여자에게 정보에 기반한 동의 (Informed Consent) 를 얻었으며, 전사자 (로컬 전문가) 에게 지역 평균 시급보다 훨씬 높은 보상을 지급했습니다.
• 라이선스: 전체 데이터셋은 학술 및 상업적 연구를 장려하기 위해 CC-BY-4.0 허용 라이선스로 공개됩니다.

3. 주요 기여 및 결과 (Key Contributions & Results)

WAXAL 은 24 개 사하라 이남 아프리카 언어 (약 1 억 1 천만 명 이상의 화자) 를 대상으로 한 대규모 오픈 액세스 음성 데이터셋입니다.

데이터 통계

• WAXAL-ASR:
  • 규모: 약 1,250 시간의 전사된 자연 음성.
  • 언어: 14 개 언어 (아초리, 키스와힐리, 루간다, 아칸, 에웨, 쇼나, 풀라, 링갈라 등).
  • 인스턴스: 약 224,767 개의 발화 (Utterances).
  • 크기: 1.7 TB.
• WAXAL-TTS:
  • 규모: 약 235 시간의 고품질 단일 화자 녹음 (논문에 따라 180 시간 이상으로 언급됨).
  • 언어: 13 개 언어 (하우사, 이보, 요루바 등 10 개 언어의 TTS 포함).
  • 인스턴스: 약 17,660 개.
  • 크기: 99 GB.

주요 특징

1. 대규모 다국어 코퍼스: 기존 데이터셋을 훨씬 상회하는 규모로, ASR 과 TTS 모두를 포괄하는 통합 리소스 제공.
2. 풍부한 메타데이터: 화자의 인구통계학적 정보 (연령, 성별), 녹음 환경 등 상세한 메타데이터 포함.
3. 현지 전문가 참여: 현지 언어 전문가에 의한 고품질 전사 및 데이터 수집을 통해 언어적 정확도 보장.
4. 포용적 라이선스: CC-BY-4.0 라이선스를 통해 연구 및 상용화 장벽 해소.

4. 한계 및 고려사항 (Limitations & Considerations)

• 전사 범위: ASR 데이터의 전체 오디오 중 전사된 비율은 10% 에 불과합니다.
• 방언 대표성: 다양한 화자를 모집했으나, 각 언어 내의 모든 방언 및 사회언어학적 변이를 완전히 포착하지는 못했을 수 있습니다.
• 의도치 않은 콘텐츠: 비스크립트 방식의 ASR 데이터 특성상 소수의 부적절하거나 공격적인 내용이 포함될 가능성이 있으나, 수동 품질 관리로 이를 완화했습니다.
• 사용 사례 특이성: ASR 데이터는 다양한 화자와 환경에서 수집되었으므로, 고품질 단일 화자 TTS 모델 학습에는 적합하지 않습니다.

5. 의의 (Significance)

• 기술적 토대 마련: 사하라 이남 아프리카 언어를 위한 음성 기술 개발의 핵심 인프라를 제공하여, 교육, 접근성, 의사소통 분야에서 모델 학습 및 평가를 가능하게 합니다.
• 디지털 포용성 증진: 수억 명의 아프리카 화자가 모국어로 디지털 기술에 접근할 수 있는 기반을 조성하여 디지털 격차를 해소합니다.
• 언어 보존: 소멸 위기에 처하거나 디지털화되지 않은 언어들의 디지털 보존을 위한 중요한 자원이 됩니다.
• 협력 모델: 구글의 기술적 멘토링과 현지 기관의 전문성을 결합한 성공적인 데이터 수집 협력 모델을 제시했습니다.

접근 링크: 연구 커뮤니티는 Hugging Face(https://huggingface.co/datasets/google/WaxalNLP) 에서 이 데이터셋을 CC-BY-4.0 라이선스로 자유롭게 다운로드하고 활용할 수 있습니다.