Building a Functional Machine Translation Corpus for Kpelle

तकनीकी सारांश: क्पेले (Kpelle) के लिए एक कार्यात्मक मशीन अनुवाद संग्रह का निर्माण

समस्या विवरण
लाइबेरिया और गिनी में दस लाख से अधिक वक्ताओं के होने के बावजूद, क्पेले भाषा प्राकृतिक भाषा प्रसंस्करण (NLP) अनुसंधान में गंभीर रूप से कम प्रतिनिधित्व रखती है। एक कम-संसाधन वाली भाषा के रूप में, क्पेले डेटा की कमी, मानकीकृत वर्तनी (orthography) का अभाव और बोली संबंधी विविधताओं (विशेष रूप से लाइबेरियाई और गिनी क्पेले के बीच) से जूझ रही है। जबकि मसाखाने (Masakhane), लाकुना फंड (Lacuna Fund) और मेटा के "नो लैंग्वेज लेफ्ट बिहाइंड" (NLLB) प्रोजेक्ट जैसी पहलों ने अन्य अफ्रीकी भाषाओं के लिए संसाधनों को उन्नत किया है, क्पेले को काफी हद तक बाहर रखा गया है, जिससे वक्ताओं को मशीन अनुवाद (MT) या वाक् पहचान (speech recognition) जैसे डिजिटल उपकरणों तक पहुँचने से वंचित कर दिया गया है।

कार्यप्रणाली
इस अंतर को दूर करने के लिए, लेखकों ने पहला सार्वजनिक रूप से उपलब्ध द्विभाषी अंग्रेजी-क्पेले संग्रह का निर्माण किया। कार्यप्रणाली में एक बहु-चरणीय प्रक्रिया शामिल थी:

1. डेटा संग्रह: डेटासेट को तीन प्राथमिक स्रोतों से संकलित किया गया था:
   • यात्रा और पर्यटन: स्थापित भाषा शिक्षण वेबसाइटों से प्राप्त सामान्य वाक्यांश।
   • धार्मिक ग्रंथ: सार्वजनिक रूप से उपलब्ध अनुवादित धार्मिक साहित्य के अंश।
   • शैक्षिक सामग्री: पाठ्यपुस्तकों और शब्दकोशों से सामग्री, जिसमें ए लर्नर डायरेक्टेड अप्रोच टू क्पेले और इंग्लिश-क्पेले डिक्शनरी शामिल हैं।
2. प्रसंस्करण और संरेखण (Alignment):
   • अनुवाद: भाषाई विशेषज्ञता रखने वाले मूल क्पेले वक्ताओं ने उन अंग्रेजी अनुच्छेदों का अनुवाद किया जिनमें संबंधित क्पेले पाठ मौजूद नहीं था।
   • विभाजन (Segmentation): MT कार्यों के लिए सूक्ष्मता (granularity) बढ़ाने हेतु अनुच्छेदों को वाक्य युग्मों में विभाजित किया गया।
   • सफाई और सामान्यीकरण: कच्चे डेटा को स्पेल-चेकिंग, डुप्लिकेट हटाने और लैटिन-आधारित वर्तनी के मानकीकरण से गुजारा गया। क्पेले की टोनल प्रणाली (उच्च, मध्यम, निम्न और कंटूर टोन) को सटीक रूप से दर्शाने के लिए विशेष ध्यान दिया गया।
   • सत्यापन: व्याकरणिक शुद्धता और प्रासंगिक उपयुक्तता सुनिश्चित करने के लिए सभी अनुवादों की भाषा विशेषज्ञों द्वारा समीक्षा की गई।
3. प्रायोगिक सेटअप:
   • लेखकों ने बेसलाइन के रूप में मेटा के NLLB-200 मॉडल का उपयोग किया।
   • डेटासेट के दो संस्करण बनाए गए: संस्करण 1 (V1) जिसमें 1,518 अनुवाद युग्म (1,667 क्पेले/1,638 अंग्रेजी वाक्य) थे, और संस्करण 2 (V2) जिसमें डेटा ऑग्मेंटेशन के माध्यम से 2,005 अनुवाद युग्म (2,202 क्पेले/2,167 अंग्रेजी वाक्य) प्राप्त किए गए।
   • डेटा को 9:1 के अनुपात में प्रशिक्षण और परीक्षण के लिए विभाजित किया गया।
   • मॉडल को क्वाड्रो RTX 6000 GPU पर एडैक्टर (Adafactor) ऑप्टिमाइज़र का उपयोग करके 10k, 30k और 60k चरणों के लिए फाइन-ट्यून किया गया।
   • आउट-ऑफ-वोकैबुलरी टोकन को संभालने के लिए एक कस्टम क्पेले-विशिष्ट 'सेंटेंसपीस' (SentencePiece) टोकनाइज़र प्रशिक्षित किया गया।
   • मूल्यांकन sacreBLEU, chrF2++ और प्रिसिजन मेट्रिक्स का उपयोग करके किया गया।

प्रमुख योगदान
लेखक तीन प्राथमिक योगदानों को रेखांकित करते हैं:

1. डेटासेट निर्माण: 3,234 अद्वितीय अनुवाद युग्मों (कुल डेटासेट संस्करणों में) के साथ द्विभाषी अंग्रेजी-क्पेले संग्रह का विमोचन, जिसमें 30,000 से अधिक शब्द शामिल हैं। यह वर्तमान में क्पेले के लिए सबसे बड़ा सार्वजनिक रूप से उपलब्ध संसाधन है।
2. कार्यप्रणाली ढांचा: लेखक एक प्रतिलिपि योग्य (replicable) ढांचे को प्रदान करते हैं जो विशेष रूप से सीमित लिखित परंपराओं और वर्तनी संबंधी विसंगतियों वाली कम-संसाधन वाली भाषाओं के लिए डेटा संग्रह, सफाई और संरेखण के लिए डिज़ाइन किया गया है।
3. बेंचमार्किंग: डेटासेट को NLLB मॉडल के विरुद्ध बेंचमार्क किया गया, जिससे क्पेले मशीन अनुवाद के लिए प्रदर्शन बेसलाइन स्थापित हुई।

परिणाम
फाइन-ट्यूनिंग प्रयोगों से निम्नलिखित परिणाम प्राप्त हुए:

• क्पेले-से-अंग्रेजी (kpe_Latn → eng_Latn): सर्वोत्तम प्रदर्शन डेटासेट के संस्करण 2 के साथ 60k प्रशिक्षण चरणों पर प्राप्त हुआ, जिसने 30.28 का BLEU स्कोर (और 44.28 का chrF2++) प्राप्त किया।
• अंग्रेजी-से-क्पेले (eng_Latn → kpe_Latn): सर्वश्रेष्ठ परिणाम 24.46 का BLEU स्कोर था, जो संस्करण 1 के साथ 30k चरणों पर प्राप्त हुआ। हालांकि संस्करण 2 ने उच्च चरण गणनाओं पर सुधार दिखाया (60k चरणों पर 20.79 तक पहुँचा), लेकिन यह इस दिशा में संस्करण 1 के शिखर प्रदर्शन को पार नहीं कर सका।
• डेटा ऑग्मेंटेशन का प्रभाव: संग्रह को V1 से V2 तक विस्तारित करने से विशेष रूप से उच्च प्रशिक्षण चरणों पर क्पेले-से-अंग्रेजी दिशा में प्रदर्शन में सुधार हुआ। हालांकि, अंग्रेजी-से-क्पेले अनुवाद के लिए, शोध पत्र नोट करता है कि लाभ मामूली थे, जहाँ 30k चरण के मार्क पर V1 ने V2 को पीछे छोड़ दिया।
• तुलनात्मक विश्लेषण: प्राप्त BLEU स्कोर (लगभग 20-30 के बीच) अन्य कम-संसाधन वाली अफ्रीकी भाषाओं (जैसे वोलोफ, लुओ, योरूबा) पर NLLB-200 के प्रदर्शन के अनुरूप हैं, हालांकि वे स्वाहिली जैसी उच्च-प्रदर्शन वाली भाषाओं से नीचे हैं।

महत्व और दावे
लेखक दावा करते हैं कि यह कार्य क्पेले और अन्य कम-संसाधन वाली लाइबेरियाई भाषाओं के गहन अनुसंधान की नींव रखता है। यह प्रदर्शित करते हुए कि भाषा की कम-संसाधन स्थिति के बावजूद प्रतिस्पर्धी MT प्रदर्शन प्राप्त करना संभव है, यह शोध पत्र समावेशी भाषा प्रौद्योगिकी विकास की क्षमता को रेखांकित करता है।

कार्य के महत्व को निम्नलिखित रूप में फ्रेम किया गया है:

• NLP अनुप्रयोगों को सक्षम बनाना: डेटासेट न केवल मशीन अनुवाद बल्कि वाक् पहचान और भाषा मॉडलिंग उपकरणों के विकास के लिए एक आवश्यक संसाधन के रूप में कार्य करता है।
• समुदाय और समावेश: यह परियोजना अफ्रीकी भाषाओं के लिए भाषाई विविधता और समावेश के व्यापक लक्ष्य में योगदान देती है, जो विशेष रूप से NLP में मंदे (Mande) भाषाओं के हाशिए पर जाने के मुद्दे को संबोधित करती है।
• भविष्य का रोडमैप: लेखक इस बात पर जोर देते हैं कि हालांकि वर्तमान परिणाम उत्साहजनक हैं, भविष्य के कार्य को वर्तनी की निरंतरता, डोमेन कवरेज (विशेष रूप से स्वास्थ्य, शिक्षा और धर्म में) के विस्तार और मॉडल प्रदर्शन को बेहतर बनाने के लिए समुदाय-संचालित सत्यापन पर ध्यान केंद्रित करना चाहिए।

शोध पत्र क्पेले वक्ताओं के लिए डिजिटल विभाजन को पाटने के लिए शोधकर्ताओं और भाषाविदों को डेटासेट को परिष्कृत करने और नवीन NLP तकनीकों को विकसित करने में सहयोग करने के लिए एक आह्वान के साथ समाप्त होता है।